Как на js вычислить предел?
Класс программного обеспечения для вашей задачи называется Computer algebra system (CAS). Существуют варианты, написанные и на/для JS: https://www.google.ru/search?q=computer%20algebra%... .
https://ru.wikipedia.org/wiki/%D0%A7%D0%B8%D1%81%D...
mathhelpplanet.com/static.php?p=metody-chislennogo...
И т.д.