Какие алгоритмы заложены в функции opengl?
Некоторую информацию можно найти здесь - краткий курс компьютерной графики.
Есть такая библиотека как glm. Она умеет все что умеет OpenGL(в плане математики) и распространяться через исходники.