Как в Java преобразовать математическую функцию типа String в обычную функцию?
сделать лексический разбор 
в целом учат в школе
более основательно с теорией учат в универе в курсе основы языков программмирования, где учат писать свои языки программирования и разбирать исходный текст программы.
Алгоритм и его реализация