Какой выбрать сервер для дома?
Отвечу по порядку.
Что брать?
Тут есть 2 варианта:
1) Выбрать что-то готовое вроде Synology или Qnap.
2) Собрать железо самостоятельно.
В первом случае все будет собрано аккуратно, красиво и компактно. В магазинах приложений будут готовые к установке приложения, оптимизированные под систему.  Но апгрейд не предусмотрен или сильно ограничен, а ценник весьма высок.
Во-втором случае вам придется подбирать железо и софт самостоятельно, ориентируясь на бюджет, потребности и ваши знания. Цена может колебаться от "практически даром, из того, что лежало в шкафу", до "за такие деньги можно было что-то фирменное купить", все зависит от предъявляемых требований по производительности, шуму, дизайну и пр.
Как определиться с характеристиками?
Выбирая конфигурацию оборудования в первую очередь необходимо понимать, набор функций, которые вы желаете получить от сервера.
Если вам нужен только plex и apple tv, то хватит простенького атома с пассивным охлаждением. Тихо и не дорого. Оператива особо по карману в таком случае не бьет, поэтому скупиться не стоит, но и брать много смысла нет. 4 Гб в самый раз.
Если любите видео высокого качества или серверу придется декодировать поток на несколько устройств, то уже лучше добавить видеокарту. Плюсом самосбора является то, что вы можете собрать все без нее, а после добавить, если почувствуете в ней необходимость.
Wi-fi или Провод?
В таком случае всегда предпочитайте провод. Для системы не важно по какой среде передается информация - важны лишь ее характеристики. Помехозащищенность, пропускная способность, задержки. Во всех случаях качественный провод выигрывает. К тому же если вы проложите провод, а затем решите перейти на wi-fi - вы это легко сделаете. С wi-fi перейти на провод требует больших усилий по аккуратной прокладке провода поверх ремонта, что не всегда возможно.
Если нужен самый мелкий корпус, то нужен форм-фактор mini-ITX с нормальным сокетом например 1151(для примера ASRock H110M-ITX/AC), поставить туда i3(боксовый, чтобы не искать кулер подходящий по размеру) 4гб под plex должно хватить(лучше 8). корпус(для примера AeroCool CS-101) придется поискать чтобы все влезло. hdd на 2-3тб.