Какая математическая формула?
x = s / (2^(n-1) - 1), где s - сумма выигрыша; n - количество "мест".
А вы попробуйте от противного пойти. К примеру - первая группа победителей получает "половину фонда призов". Следующая группа половину от оставшейся половины и т.д. Проблема будет только настроить точку, после которой делить приз перестаем.