Как посчитать требуемую производительность терминального сервера?
Никак.
Только экспериментально.
А когда у вас там такой зоопарк это уже непредсказуемо, и даже экспериментально не определить.
Пользователь в браузере откроет 50страниц и на каждой будут JS скрипты, которые в сотню потоков будут чего-нибудь считать на вашем процессоре.
К тому же все сильно зависит от настроек.
Можно довольно точно подсчитать для одного приложения - например у меня есть приложение, я знаю сколько оно потребляет - дальше простая математика.
А ничего кроме этого приложения запустить невозможно, ибо прав нет.
Таким бардаком как у вас сложно управлять.
Но в любом случае начинать надо с логов.В данный момент используется Dell R720 CPU 2xE5-2640 RAM 127 GB HDD 8xSAS 10K RAID6,  и его уже не хватает.Чего конкретно не хватает? Загрузка процессора? Очередь диска? Память?
Навскидку можно сказать что основная проблема в HDD 8xSAS 10K RAID6 скорее всего именно это узкое место, хотя может быть и процессор.
По процессору у вас получается в среднем менее  0,2ядра на пользователя, запустить на этом такой зоопарк довольно проблематично.
ИМХО вы не найдете такой считалки.
Только опытным путём, сняв Performance counter с имеющегося сервера, либо рабочей станции и экстраполировав на количество пользователей на терминальном сервере.