Книги по созданию игры типа doom 2016?
Самые современные приёмы придумывают программисты и академики, в книжках вы найдёте только устаревшую информацию. Начать можете с GPU Gems, многие из описанных там вещей только недавно начали появляться в общедоступных движках. Потом двигайтесь на сайт GDC и их канал YouTube, там частенько бывают технические доклады, где разработчики из студий рассказывают о трюках, которые они применяют в своих играх. Если хотите совсем свежак, который на современном железе еле работает, то вам на SIGGRAPH. Не все статьи оттуда можно применить на практике, но пищу для ума они вам предоставят.
Ещё статья по теме
https://habrahabr.ru/post/271931/