Как представить математическое выражение?
Попробуйте mimetex, правда на вход ему надо подавать выражения в LaTeX синтаксисе.
Рендеринг формул LaTeX ищите.
Только не в растр, убого будет во всех отношениях.
MathJax посмотрите или поройтесь в исходниках TeXmacs.
P.S. Велосипед изобретаете.