В каких сферах IT нужны фундаментальные знания высшей математики?
В любой сфере, где от вас требуется создание новых алгоритмов или оптимизация старых.
криптография
алгоритмы сжатия видео, аудио, обычных данных
машинное обучение, там разное
сетевые протоколы
разработка различного софта, где нужны сложные алгоритмы - базы данных, 3д движки и тому подобное

множество инженерно-прикладных вещей, которые не совсем ИТ, но могут иметь отношение - разработка различных устройств

Почти все это крайне редко встречается у среднестатистического разработчика, ибо и позиций на такое мало, и в идеале требуется уже не фундаментальные знания, а весьма даже углубленные