mini-ITX с USB флешкой вместо HDD
Все материнки с Атомом умеют грузиться с USB флешек (не всех подряд, но в целом проблем с нахождением таких флешек нет). 

С линупсами никаких проблем нет — только монтировать с noatime нужно. Работает сколько… Если вынести /tmp отдельно — то лет 5 без проблем (в нормальных условиях).
Почитайте здесь.
Но есть подводные камни, ресурс циклов чтение-запись ограничен и возможно флешка умрет очень быстро.