Как правильно подойти к решению задачи о математическом моделировании клиент-серверного приложения, направленного на передачу потоковых данных?
Гиблое дело. Алгоритмы в такой сети достаточно сложные, чтобы их можно было моделировать математически. Поставленную задачу (определение границ масштабируемости) куда проще решать нагрузочным тестированием в лаборатории.
Вам необходимо сделать следующее:
1. Собрать статистику данных из реального канала с аналогичными соединениями.
2. Выделить из статистики отдельные параметры (порты, адреса, задержки, значения других критических полей).
3. По каждому параметру попытаться выявить его закон распределения (либо же построить марковскую цепь, если совсем закон никакой не берется, либо же взять за основу гистограмму частот и с ней работать).
4. Сделать генератор событий для каждого отдельно взятого параметра (см. п.2) и на основе этих генераторов уже формировать реальные "модельные пакеты"