Разработка мессенджера
Выбора особого нет это или ejabberd, openfire или tigase. Можете посмотреть сюда: en.wikipedia.org/wiki/Comparison_of_XMPP_server_software
Первый — наиболее распространен. Он быстрый, классно распаралелливается(не зря на erlang написан) и поддерживает весьма обширное количество ХЕРов. Основной недостаток — мало кто знает erlang) 
Openfire — удобная настройка, всякие гуи и прочая, но сильно проседает производительность при большой нагрузке. Идеален для небольших сетей.
tigase — так же как и openfire написан на яве, но куда лучше масштабируется, да и вообще пишется именно с упором на производительность. С другой стороны в последний раз когда я на него смотрел он поддерживал куда меньше плюшек и там были проблемы с документацией. 

По поводу того, что почитать — www.ejabberd.im/ www.igniterealtime.org/projects/openfire/ www.tigase.org/
Там есть достаточно подробная документация, мэйл листы и исходники, последнее пожалуй самое полезное) 

А вообще не очень понятно зачем вам серверная часть, если вы пишете клиентскую.
Если у кого будет желание протестировать новый и полностью безопасный мессенджер SafeUM  будем очень рады. Можно даже выиграть премиум на целый год!