Как открыть exe file как архив?
Для начала, что за архив? ZIP? Или RAR? RAR питон из коробки не умеет.
Далее, самораспаковывающийся архив - это EXE, к которому тупо дописан архив. Если знаешь, как выглядит заголовок архива (в частности сигнатуру), то можно просканировать файл, найти сигнатуру, отмотать указатель файла на неё, и уже тогда отдавать файл ZIP-объекту.
Через команды консольного rar.exe

Что для меня стало решением:
"C:\Program Files (x86)\WinRAR\rar.exe" a roadgid_detect.exe flagdata.bin