Букварь программиста?
Попробуйте почитать «Дизайн и эволюция C++» Страуструп 
Книга не для новичков. Если осилите поймете почему С++ такой, какой есть.
Мне вот эта книжка помогла, когда я подобными вопросами задавался. В ней за основу взят язык C, на примере которого рассматривается работа компилятора. А вообще, там расписан весь путь работы программы — от того, как хранится информация и аппаратной архитектуры процессора до взаимодействия программ на высоких уровнях абстракции. Только вот опечаток много и читается тяжело, но, при наличии энтузиазма, прочитать книгу всё же можно )