Как заблокировать файлы формата *.exe?
Это можно сделать через групповые политики, настроив белый список путей, и блокировку всего остального.
gpedit.msc > Компьютер > Windows > Безопасность > Ограниченное использование програм
Если  писать Низкоуровнениый FS Filter Driver и запрещать открывать EXE то вся система "ляжет". 
Ибо Windows сама запускает EXE файлы постоянно.
Если хочеться именно для Пользвателя Это запретить - 
Надо писать Explorer Shell Extension - https://www.codeproject.com/Articles/441/The-Compl...