Действительная арифметика - Большая Энциклопедия Нефти и Газа, статья, страница 1
Единственный способ удержать бегущую лошадь - сделать на нее ставку. Законы Мерфи (еще...)

Действительная арифметика

Cтраница 1


Действительная арифметика является существенно приближенной.  [1]

С математической точки зрения большой теоретический интерес представляет создание алгоритмов, для которых можно было бы доказать гарантированную сходимость, хотя бы в обманчивых рамках действительной арифметики. С точки зрения практической имеется потребность в алгоритмах, которые бы почти всегда работали и вычисляли каждый нуль за малые доли секунды, если полином умеренного порядка, а машина достаточно мощная.  [2]

Нор-мализованность шестнадцатеричной мантиссы означает, что по крайней мере самая левая ее шестнадцатеричная цифра отлична от нуля, если таковая вообще имеется. Если мантисса получилась нулевой, то все числа полагается равным нулоо. Любой конечный результат операции действительной арифметики, который из-за ограниченности поля порядка не может быть представлен в слове, вызывает особый случай некорректности представления. Отрицательные вещественные числа представляют собой двотгатое дополнение соответствующих Ешкжияельнъгх значений. В командах с вещественным непосредственным операндом применяются специальные короткие вещественные числа, образуемые отбрасыванием трех самых правых цифр мантиссы.  [3]



Страницы:      1