Как пробросить видеокарту в программе VMwere Workstation?
Вам нужно убедиться, что ваша плата поддерживает технологию VT-d. Это раз.
Два. Чтобы пробросить видеокарту в гостя, на хосте она должна быть отключена. Т. е. Хост у вас остаётся без монитора. В случае хоста с виндой, вам, скорее всего, придётся брать вторую видеокарту, ибо, я сомневаюсь, что винда, как линукс, может просто так взять и выгрузить драйверы видео, оставшись при этом функционировать и потом обратно их подгрузить...
Если плата поддерживает технологию, то проще поставить линукс с kvm и в нём придётся пошаманить с детачем всех модулей, которые используют видео-драйвер. При этом ещё нужно будет одно устройство, чтобы дебажить это дело по ssh, когда монитор проброшен на гостя, который не запустился :D
VMware Workstation не умеет в проброс видеокарт. Умеют KVM и ESXi (т.е. придется ставить Linux в той или иной мере)