Есть ли смысл использовать BSON вместо JSON при общении по WebSocket?
В общем смысла нет.  На сервере на чуточку быстрее обработка. На клиенте ощутимо медленнее. Вес на  2% меньше...  Но при этом оно еще и не читабельно. BSON вместо JSON - ответ нет.
Попробовали MessagePack. Проверки скорости дали лучшие результаты, но запустить передачу на этом формате так и не удалось. Почему - неизвестно. Функция unpackb возвращает ошибку.
Итог:
Всем спасибо)
KISS +1. Думаю смысла нет. Сами используем сокеты, смысла в BSON нет.  Между серверами, да, там траффик большой. 
> Эта конвертация не внушает мне доверия. Не производительно.
Зря. Операции binary самые быстрые которые только могут быть.