Соотношение многопоточности приложения c++ и многопоточности на уровне системы?
У вас тотальный бардак в голове относительно терминов. Разберитесь с тем, что такое процесс, а что такое поток, что за "второй способ работы с многопоточностью при помощи мьютексов" и так далее. "Многопоточность в одной единице трансляции" - это просто шедевр. Как единицы трансляции связаны с потоками?
Из вашего потока сознания я понял, что вам нужен QSingleApplication - Штука, которая не дает запустить программу более одного раза.
https://evileg.com/ru/post/147/
https://www.youtube.com/watch?v=xRp6lZlOFYw
https://habr.com/ru/post/173281/
 - вариант без использования QSingleApplication