Какую литературу приобрести?
1) линейная алгебра и выч. геометрия;
2) начала комп. графики: www.amazon.com/Fundamentals-Computer-Graphics-Pete...
3) конкретно по OpenGL: www.amazon.com/OpenGL-Programming-Guide-Official-L...
4) книгу по механике, ну или главы по механике из учебника по физике для ВУЗов;
5) по звуку книгу не подскажу, современные звуковые API для игр и прочей виртуальной реальности (т.е. где важна поддержка 3D) - OpenAL (кроссплатформеное), XAudio2 (винда).
dmkpress.com/catalog/computer/programming/python/9...
это 100% пригодится
по играм не подскажу