Функция вычисления угла поворота в трехмерной плоскости?
Цитата из википедии. Матрица поворота.

Пусть ось вращения задана единичным вектором , а угол поворота . Тогда матрица поворота в декартовых координатах имеет вид:



Умножая координаты какого-то вектора на матрицу поворота вы получаете координаты повернутого вектора. Все стороны куба — это векторы.
ru.wikipedia.org/wiki/Кватернионы_и_вращение_пространства
Думаю, это самое оно ))