Вставлю пять копеек от числодробильщика.

Насколько я знаю, исключения полезны не только для общения с внешним миром, но и для реагирования на вычислительнын ошибки. Невозможно поставить проверку на каждую математическую операцию - во первых, для вещественных чисел не всегда ясно как это сделать, во вторых будет большой оверхед. А по факту исключения можно сделать какие-то выводы - например, о том, что решается система линейных уравнений с плохообусловленной матрицей.