Определить, что точка внутри фигуры или нет?
Вот решение и формула, код.Задача о принадлежности точки многоугольнику
Сумма углов между тестовой точкой и ближайшими точками фигуры должна быть 360 градусов. Берем по очереди все пары точек фигуры, определяем углы, суммируем и удивляемся