Есть ли простой движок для кастомных географических карт?
Есть смысл использовать популярный и поддерживаемый LeafletJS. Очень мощная библиотека, разобравшись, с которой, о проблемах связанных с картографией можно забыть
Именно движка, который бы на сервере разбивал картинку с картой на тайлы и сразу показывал - вроде бы и нет. Во всяком случае, не встречал.
Если только нарезать на тайлы заранее, выложить на сайт и там уже любой движок. 
Чем нарезать - например, вот тут описано. Или раньше, помню, у яндекса утилита была специальная, хотя сейчас поискал - не нашел.
Так любую карту можно сделать, хоть пачку беломора.