Как использовать математику для решения задач?
Нет таких.
Либо вы знаете теорию, и в этом случае вам совершенно очевидно где ее можно применить.
Либо вы не знаете теорию, и не применяете математику.
Нужно понять из какой области задача. Прочитать книжку или прослушать курс по этому предмету. Какая математика там используется -- это и будет ответом.
Матан и функан могут пригодиться в обработке сигналов/изображений. У меня вот на столе лежит книжка по изображениям, там сплошной дифгем. Теория игр имеет отношение к mechanism design: эту штуку вроде компания типа Google используют для продажи рекламы. Выпуклый анализ, теор. вер, статистика -- машинное обучение.