Возможно ли из докера Ubuntu получить GUI проприетарного ПО?
Теоретически возможно, но это будет страшное колдунство. Нужно будет развернуть внутри контейнера X-сервер, предоставив ему доступ к оборудованию хоста, а затем подключиться к нему через VNC, например. Что осложняется наличием Windows-хоста, где запуск графических приложений в WLS2 может оказаться нетривиальной задачей.  Готового рецепта Вам никто не даст, его не существует, хотя можно найти гайды по запуску графических приложений в Docker вообще, что не факт — подойдет ли решение Вам.

Рационально найти другое решение. Не совсем понятно, причем тут веб-версия, если речь о файловой базе данных? Браузер может с ней работать? А если возможно использовать клиент, который подключается к серверу, зачем клиент помещать внутрь контейнера, если там можно расположить только сервер? Плюс, непонятно, что за изоляцию пытаетесь решить, тем более если речь о файловой базе. Контейнеры — неподходящий вариант для хранения файлов. Наоборот, есть смысл создавать тома, вынесенные за пределы контейнера, даже для серверных баз. А если том вынесен из контейнера, что изолирует контейнер?
Винда + виртуалки
linux+ виртуалки

Docker не запускает полноценную систему
Для этого используется LXD контейнеры или виртуалка. 

Я иcпользую debian на котором развернуты виртуалки под KVM