Cтраница 2
При округлении возникает погрешность, не превышающая половины единицы разряда последней значащей цифры округляемого числа. [16]
Разность Ду и интерполяционную поправку обычно выражают в единицах разряда последней значащей цифры табличного значения функции, не выписывая, нулей и запятой впереди. [17]
Разность Ду0 и интерполяционную поправку обычно выражают в единицах разряда последней значащей цифры табличного значения функции, не выписывая нулей и запятой впереди. [18]
Число в скобках - стандартное отклонение, вносящее поправку в последнюю значащую цифру. [19]
Полученная величина значительно меньше пяти единиц разряда, следующего за последней значащей цифрой погрешности результата. Если эту погрешность учесть путем введения в итог измерения соответствующей поправки, то она все равно пропадет при округлении. [20]
Ара - максимальная абсолютная погрешность определения РН, равная половине разряда последней значащей цифры в табличном значении рн; рн - плотность газа при нормальных условиях. [21]
Дрн-максимальная абсолютная погрешность величины рн, равная 0 5 единицы разряда последней значащей цифры в табличном значении ра. [22]
Дри-максимальная абсолютная погрешность величины рн, равная 0 5 единицы разряда последней значащей цифры в табличном значении рн. [23]
Для многозначных чисел мы получаем последовательность кодов Ascii, начиная с последней значащей цифры путем последовательного деления этого числа на 10, обращая каждый раз остаток в код с помощью правила для однозначного числа. [24]
Неточности констант н экспериментальных данных указываются в скобках н относятся к последним значащим цифрам числа. В тех случаях, когда известны лишь верхние или нижние пределы, они приводятся на 90 % - ном уровне достоверности. [25]
Дрном - максимальная абсолютная погрешность рНОм, равная половине единицы разряда - последней значащей цифры в значении р ом. [26]
Предельные отклонения, указываемые числовыми величинами, выраженными десятичной дробью, записывают до последней значащей цифры включительно, выравнивая количество знаков в верхнем и нижнем отклонениях добавлением нулей. [27]
А р - максимальная абсолютная погрешность величины рн, равная половине единицы разряда последней значащей цифры в табличном значении рн. [28]
Принято считать, что погрешность округления при снятии отсчета оператором не должна изменять последнюю значащую цифру погрешности окончательного результата измерений. Обычно ее принимают равной 10 % от допускаемой погрешности окончательного результата измерений ( АСт. В противном случае, число отсчетов увеличивается настолько, чтобы погрешность округления удовлетворяла указанному условию. [29]
Используя указанные правила, следует иметь в виду, что точность расчетов определяется последней значащей цифрой. В связи с этим определение каждого из параметров должно быть увязано с требованиями инструкций ГКЗ СССР. [30]