В какой области используются операции над матрицами?
В компьютерной графике, и не только матрицы. Там в принципе много линейной алгебры и аналитической геометрии. Вот тут думаю будет исчерпывающе для вас.
Матрицы в принципе широко применимы, например с помощью них удобно решать системы линейных уравнений.
1) Компьютерная графика (3D): DirectX
2) MatLab = Matrix Laboratory. Весь пакет основан на действиях над матрицами. Код получается очень понятным и коротким (не нужны циклы).