На каких форумах обсуждаются математические и инженерные проблемы (программирование)?
Для поддержания актуальности математических знаний можно учавствовать в турнирах по спортивному программированию:TopCoderCodeforcesRussian Code CupЯндекс.АлгоритмABBYY CupКрок
Первые задачи достаточно простые и, учитывая ваши требования, советую переходить сразу к более высоким номерам.
Помимо этого, математические задачи\проекты, как обычные, так и связанные с программированием, можно найти на форумах\сайтах:Форум мехмата МГУ по высшей математикеDxDyMathoverflowMathStackexchangeMathematicaStackexchange
Я могу вам предложить сразу две проблемы, решения которых(опен сорсные) я не нашел:
Оптический трекинг на базе 2-х и более камер
Определение центра окружности или эллипса по его точкам
Если вы решите эти две маленькие проблемки, опишите эти решения на хабре и выложите код на гитхабе, то взлет вашей кармы и всеобщее признание гарантируется.