Алгоритм решения выражений?
Есть такой метод: "Обратная польская нотация"
Дальше по ссылке: algolist.manual.ru/syntax/revpn.php
На хабре я видел хороший цикл статей  о компиляции и трансляции в целом, описано достаточно понятно, мне помогло, когда делал курсач по трансляции. В том числе, там есть про калькулятор.