Большинство суперкомпьютеров работает по TCP, поэтому нет ничего зазорного делать на нем распределенные системы вычислений.

Интересно было бы покопать в сторону привязки к библиотекам дляMessage_Passing_InterfaceилиOpenMP.