Как считать очень большие числа, и на каком языке программирования?
Не такие и большие числа :)
https://github.com/aleaxit/gmpy

Кроме того посмотрите в сторону Fortran, там  много готовых библиотек именно для научных вычислений. 

В общем случае библиотеки есть для любого ЯП
Даже если вы возьмёте первый из Top-500 суперкомпьютеров и, отбросив всё устройство компьютера, сможете использовать всю его оперативную память (250 петабайт) для кодирования одного единственного числа, то максимальное будет иметь (очень грубая оценка) всего 6.7*10^17 знаков. Даже близко не гуголплекс :)