Как программа узнает, что sqrt, это квадратный корень? Значит нужно добавить в программу поддержку функций, Вы говорили о матрицах, значит нужно добавить оперированием матрицами.
В конце получится интерпритатор ограниченного языка. Если для обучения, пока не напишешь не поймёшь. Документации достаточно.

Если вычислить нужно здесь и сейчас, для этого есть более продвинутые средства, вроде matlab'a и т.д Или проще на ББ, вычислил и забыл.