Что такое 3D математика?
Векторная алгебра (ну или векторная геометрия) в 3D.
Векторы, матрицы, базисы, однородные координаты, видовые преобразования, кватернион поворота…
Первый курс университета, покрывается курсом «Линейная алгебра и аналитическая геометрия».
Дизайнеру не нужно.
https://en.wikipedia.org/wiki/Transformation_matrix
Видимо друг говорил о знаниях, которые нужны чтобы понять содержимое этой и подобных статей.