Возможно ли создать операционную систему для игр сделанных на юнити?
Очевидно, что ответ "да" (потому что как-то же это сейчас работает)

Другой вопрос, что написание такого с нуля для поддержки Unity потребует огромного количества времени, денег и экспертизы, потому что фактически, нужно будет повторить изрядную часть линукса.

А собрать из кусков вроде linux + mono + красивый магазин игрушек - да пожалуйста, сколько угодно таких проектов, та же SteamOS

В сравнении с консолю playgate есть большая разница - операционки особой там нету, есть примитивная прокладка между железом (тоже довольно примитивным) и кодом игры, который собственно и выполняет фактически всю работу.
Очевидно, что ответ "да" (потому что как-то же это сейчас работает)

Другой вопрос, что написание такого с нуля для поддержки Unity потребует огромного количества времени, денег и экспертизы, потому что фактически, нужно будет повторить изрядную часть линукса.

А собрать из кусков вроде linux + mono + красивый магазин игрушек - да пожалуйста, сколько угодно таких проектов, та же SteamOS

В сравнении с консолю playgate есть большая разница - операционки особой там нету, есть примитивная прокладка между железом (тоже довольно примитивным) и кодом игры, который собственно и выполняет фактически всю работу.