в этой теме вроде был затронут вопрос пересекающийся с моим (практический вывод из темы, что смешивать реал и шортреал может быстро погрешности давать%))
там были пара ссылок на лит-ру
> -- Цитата:
> Во многих случаях не спасает и длинный формат, не спасет и супер-длинный. Я учился по книге Маккракен, Дорн "Численные методы и программирование на Фортране". Там это хорошо описано. То же самое прекрасно изложено в книге Форсайта. Калиткина не довелось, но убежден, что и там тоже есть.
> -- Цитата:
> Не так давно натолкнулся на интересный с моей точки зрения сайт Владимира Юровицкого. У него есть раздел как раз на счёт точности вычислений в ПК и их решения.Здесь он нелестно выражается о IEEE754 А тут, в своей монографии, предлагает решене

попробую почитать
viewtopic.php?f=29&t=3327