Как открыть другой исполняемый файл .py по кнопке?
Потому что у тебя в вызываемом файле делается повторная инициализация приложения.
Весь этот вот код
app = QtWidgets.QApplication([])
application = X() #где X - имя класса формы
application.show()

sys.exit(app.exec())
выполняется как при прямом запуске файла, так и при его импорте.

Есть два решения:
а) убрать код инициализации из вспомогательных файлов, оставить его ТОЛЬКО в главном файле.
б) если позарез нужно, чтобы вспомогательные файлы можно было запускать сами по себе без главного, то заверни этот код в конструкцию вида
if __name__ == '__main__':
    #тут код, который будет выполняться
    #ТОЛЬКО если файл запущен сам по себе
    #и не будет выполняться, если этот файл импортируют
я решил попробовать сделать дизайн через PySide
Я тут только pyqt вижу.
Да и ответ ваш находится здесь