Какую OC выбрать под хайлоад проект? (Ubuntu/Debian/FreeBSD)?
То, что сможете поддерживать.FreeBSD наиболее гибка, логична устроена и прекрасно документирована. Так что даже если вы не умеете её правильно готовить, то освоите довольно быстро.
Собрать своё ядро и, тем более, софт с нужными опциями из исходников, дело несложное. А для highload это дело полезное.
Ну и по свежести и размеру базы пакетов/портов FreeBSD в лидерах.
Все что угодно подойдет, но стройке архитектуру правильно, и будьте готовы к реакции рынка на Ваш продукт. 
У меня много лет назад простая конфигурация LAMP на Centos 5.5 с легким тюнингом ядра спокойно держала 200 запросов в секунду. Разработчик был с головой просто).
Сейчас, берите то что знаете сами, легко можете освоить сами.