Тип данных polygon в mysql, как искать среди них?
Для "сферического коня в вакууме" используйте основы геометрии (косинус и синус).
Для полигонов лучше перейти на PostreSQL и использовать postgis.net
Для 100 миллионов записей уже придется использовать PostgreSQL + PostGIS. Личный опыт. 
Сейчас есть база в 500гб с полигонами, выборка занимает 5-15мс