Проектирование backend'а для чата?
вы изобрели IRC :)
pushmodule.slact.net/ — как раз отличная штука для всяких чатов (это модуль для Nginx реализующий http-push). Обработкой соединений, очередями и тд занимается nginx — он уж поверьте умеет это делать хорошо ))))
А для приложение — простой интерфейс позволяющий подписываться на каналы или отправлять сообщения в них.