Почему приложение запускается только из VS?
имяпрограммы.exe.config рядышком лежит?
или еще что-нибудь из конфигов/текстов, что требуется приложению, а оно например лежит только в solution
Сделайте Realese сборку и Deploy приложения в папку.