Как вывести строку при определенном выборе?
А как сделать проверку для case?
какую проверку?

Или возможен ли какой-то другой подход?
Вместо case можно использовать dictionary 
Вы делали всё правильно, только у вас choseDigit это число, поэтому кавычки не нужны. А метки case можно группировать:
switch (choseDigit) {
  case 1:
  case 2:
  case 12: Console.WriteLine("Зима");
  break;

   case 3:
   case 4:
   case 5: Console.WriteLine("Весна");
   break;

   case 6:
   case 7:
   case 8: Console.WriteLine("Лето");
   break;

   case 9:
   case 10:
   case 11: Console.WriteLine("осень");
   break;

   default: Console.WriteLine("Нет такого месяца");
   break;
}