Что значат символы #! в URL некоторых сайтов?
Часть после решетки некогда служила ссылкой на определенную часть страницы. На Хабре это до сих пор так — нажмите на ссылку с числом комментов под топиком. Если в коде страницы есть тэг <a name="comments" …/>, то при открытии адреса, заканчивающегося на #comments, браузер прокрутит страницу к этой ссылке.

Клиентские скрипты могут отслеживать появление и изменение этой части в адресе, и предпринимать действия, основанные на ее содержании. Простейшее применение — AJAX-навигация. Без таких адресов невоможно дать ссылку на определенную внутреннюю страницу. Кроме того, с таким ухищрением работают кнопки назад/вперед в браузере.

Как верно замечено выше, уже существует механизм, позволяющий обходиться без этого, но он, увы, не везде работает.
Могу добавить, что скоро эти адреса могут уйти в прошлое. В новых Firefox и Chrome есть возможность через скрипты изменить основную часть адреса без перезагрузки страницы. Необходимость использования хеша там отпадает.