Как написать свой 3D рэндер?
На хабре очень много статей на эту тему.
Например, есть вот такой цикл статей.
Еще есть вот такая небольшая подборка материала.
Еще можно найти такое руководство.
Все материалы доступны для изучения.
RayTracing, OpenGL, либо реализовать свой вариант отображения 3D-сцены