Видели ли вы решение чата на сайте БЕЗ всплывающего окна?
Возможно подойдёт эта заготовка https://comet-server.com/wiki/doku.php/comet:simpl... или эта https://github.com/CppComet/php-chat-example навесите свой css и вёрстку поправить будет не сложно. За то в итоге будет идеально под вас сделано.
Проще же в гугле посмотреть, прям с первых же результатов: чат для сайта