На чём лучше поднять домашний сервер?
Проблема в том. что уже запарился гуглить по каждой мелочи
Это нормальный процесс наращивания объёма знаний. Нет никакой серебряной пули в виде волшебной ОС, которая решит все ваши текущие и будущие проблемы.
Для FreeNAS можно и меньше ОЗУ, когда объемы дисков не большие, но на данный момент 8Гб это мелочь. Я использую  FreeNAS с 16Гб ОЗУ. Недавно налетел на "грабли", хотел под просмотр фильмов использовать  DLNA (plugin EMBY), результат печальный. Если на 1080р все было нормально, то в 4к через каждые секунд 30 тормоз. Проверил загрузку ЦПУ, на 1080р - 20%, на 4к - под самую крышу. Похоже к 4к на дохлой козе не подъехать или надо менять NAS на медиа-шарманку .