По каком алгоритму надо изучать код браузера?
Нужно учесть, что это очень объёмная тема.
Для введения есть хорошая статья Как работает браузер или что происходит за кулисам...
Можно изучать работу браузеров на более простых примерах:Проект NetSurfNetSurf is a free, open source web browser. It is written in C and released under the GNU Public Licence version 2. NetSurf has its own layout and rendering engine entirely written from scratch. It is small and capable of handling many of the web standards in use today.Hubbub HTML parser  LibDOM DOM LibCSS CSS parser JavaScript support Framebuffer port Let's build a browser engine!Продвинутый этапДвижок servoServo is a prototype web browser engine written in the Rust language. It is currently developed on 64bit OS X, 64bit Linux, Android, and Gonk (Firefox OS).
Начните, для начала, с изучения C/C++ на уровне, достаточном для написания простейшего парсера html.