Какую технологию выбрать, VLAN или другую? Для домашней сети со странной структурой?
Между сетями нужно поставить L3 шлюз и файерволл - обычная корпоративная практика. 

Дешевле может выйдет купить два коммутатора по 16 портов тупых и воткнуть их в комп с двумя сетевухами, еще и по оптике воткнуть

Тогда даже если злобнокот вжарит в кабель от камеры шокером, выгорит только один коммутатор, а не вся сеть.
Имеется обычная домашняя сеть.
Теперь я знаю, что такое обычная домашняя сеть :-)

Вы можете 2 VLANа направить в один порт. В этом случае на комп будет приходить тегированный трафик и вам надо будет разруливать VLANы уже на компе. Драйвер сетевого адаптера должен позволять это делать.
Так же можно в комп воткнуть 2 сетевых адаптера, каждый в своем VLANе.
Учтите, что в обоих случаях узким местом становится этот комп, который смотрит в обе сети. Если уличные кулхацкеры его сломают, то доберутся до всего остального.