Где взять инсталлер OS X для установки на VMWare?
1. Платная эта ОС или нет?
Она может поставляться исключительно устройствами Apple, и не может быть установлена на другие устройства (по условиям лицензии).
Так что как бы бесплатная, но как бы и нет.
2. Где брать iso или инсталлер?
Пиратить
https://www.mediafire.com/file/dbfod9u5q9ii9nd/mac...
В вашем случае можно найти уже готовую ВМ с Mac OS под VMWare,  их не много но, такие я видал на торрентах.