Округление и погрешность округления реферат
Обновлено: 05.07.2024
Приближенное значение — число, которое получилось после округления.
Округлить можно любое число — для всех чисел работают одни и те же правила.
Округлить число значит сократить его значение до сотых, десятков или тысячных, остальные значения откидываются. Это нужно в случаях, когда полная точность не нужна или невозможна.
Чтобы округлить натуральное число, нужно в записи числа выбрать разряд, до которого производится округление.
Правила округления чисел:
1. Подчеркнуть цифру разряда, до которого надо округлить число.
2.Отделить все цифры справа от этого разряда вертикальной чертой.
3. Если справа от подчеркнутой цифры стоит 0,1, 2, 3 или 4 — все цифры, которые отделены справа, заменяем нулями. Цифру разряда, до которой округляли, оставляем без изменений.
4.Если справа от подчеркнутой цифры стоит 5, 6, 7, 8 или 9 — все цифры, которые отделены справа, заменяем нулями. К цифре разряда, до которой округляли, прибавляем 1.
Итак, мы должны округлить 1456 до разряда десятков. Все действия округления производятся с конца числа . У 10 один ноль. Значит убирать с конца 1456 будем одну последнюю цифру 6 . Цифра 6 больше 5, значит по правилам округления , предыдущую цифру 5 будем увеличивать на 1. Теперь о существовании первых цифр 1 и 4 временно забываем. На месте удалённой цифры ставим ноль. Получаем в результате округления , число 1460
Например, округлим число 123 до разряда десятков. Последняя цифра у этого числа 3 , она меньше 5. Значит по правилам округления, предыдущую цифру 2 , мы увеличивать не будем. Она останется без изменений. Итого получаем : 123 ≈ 120
Теперь попробуем округлить то же самое число 123, но уже до разряда сотен . У сотни два ноля. Значит будем убирать две последние цифры в числе . Итого получаем : 123 ≈ 100
Округлить число 1234 до разряда сотен. Ответ - 1234 ≈ 1200
Округлить число 1234 до разряда тысяч. У 1000 три ноля. Будем убирать три последние цифры в числе. В итоге получаем : 1234 ≈ 1000
Округлим число 675 до разряда десятков. Последняя цифра , которую мы будем убирать , равна 5. По правилам округления , будем предыдущую цифру увеличивать на один. Ответ : 675 ≈ 680
Теперь попробуем округлить то же самое число 675, но уже до разряда сотен . Ответ : 675 ≈ 700
Округлим число 9876 до разряда десятков. Ответ: 9876 ≈ 9880
Округлить число 9876 до разряда сотен. Ответ : 9876 ≈ 9900
Округлить число 9876 до разряда тысяч. У тысячи три ноля. Будем убирать три последние цифры в числе . Цифра 8 больше 5. Значит цифру 9 будем увеличивать на 1, а значит будет число 10 . Ответ : 9876 ≈ 10000
1.1. Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).
1.2. Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.
1.3. Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).
2. Нормативные ссылки
2.1. СТ СЭВ 543-77 "Числа. Правила записи и округления" (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);
2.2. ГОСТ 8.736-2011 "Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения";
2.3. МР 18.1.04-2005 "Система контроля качества результатов анализа проб объектов окружающей среды";
2.4. ПМГ 96-2009 "Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления" (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).
3. Определения
3.1. Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются (согласно СТ СЭВ 543-77).
Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.
Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.
По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).
Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.
3.2. Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).
В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.
2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.
3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.
4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.
5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.
6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.
3.3. Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.
3.4. Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.
4. Процедура
4.1. Требования к промежуточному результату
4.1.1. Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
4.1.2. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
4.1.3. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
4.1.4. При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
Примеры
| Промежуточные результаты | Окончательные результаты |
| 0,178 ± 0,053 | 0,18 ± 0,05 |
| 0,1784 ± 0,0533 | 0,178 ± 0,053 |
| 1,22 ± 0,18 | 1,2 ± 0,2 |
| 1,224 ± 0,183 | 1,22 ± 0,18 |
| 3,74 ± 0,748 | 3,7 ± 0,7 |
| 3,742 ± 0,748 | 3,74 ± 0,75 |
| 12,83 ± 1,28 | 12,8 ± 1,3 |
| 54,2 ± 5,4 | 54 ± 5 |
| 54,23 ± 5,42 | 54,2 ± 5,4 |
| 177,6 ± 33,7 | 178 ± 34 |
| 2357,4 ± 212,2 | 2357 ± 212 |
| 11624,8 ± 5812,4 | 11624 ± 5812 |
4.2. Требования к окончательному результату
4.2.1. Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
4.2.2. Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
Примеры
| Правильно | Неправильно |
| 0,043 ± 0,004 | 0,043 ± 0,0043 |
| 0,0428 ± 0,0043 | 0,0428 ± 0,004 |
| 17,0 ± 0,2 | 17,00 ± 0,2 или 17 ± 0,2 |
| 12,13 ± 0,17 или 12,1 ± 0,2 | 12,1 ± 0,17 или 12,13 ± 0,2 |
| 46,40 ± 4,64 или 46,4 ± 4,6 | 46,402 ± 4,64 или 46,4 ± 4,64 |
4.2.3. Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры. Если числовое значение погрешности (неопределенности) в целой части числа содержит три и более цифр, то результат и погрешность округляются до целых чисел без подсчета количества значащих цифр.
Примеры
| Результаты измерения |
| 0,14 ± 0,05 |
| 0,164 ± 0,051 |
| 1,1 ± 0,1 |
| 1,18 ± 0,11 |
| 3,6 ± 0,6 |
| 3,28 ± 0,54 |
| 12,4 ± 1,2 |
| 44 ± 4 |
| 44,2 ± 4,4 |
| 168 ± 34 |
| 2357 ± 212 |
| 23684 ± 1184 |
4.2.4. Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
5. Ответственность
Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.
Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1. Железо общее (ГОСТ 4011-72)
Округлять результат до двух значащих цифр.
Примеры
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,12 ± 0,03 | 0,116 ± 0,029 |
| 0,18 ± 0,04 | 0,178 ± 0,0445* |
| 0,18 ± 0,05 | 0,183 ± 0,046 |
| 0,31 ± 0,08 | 0,308 ± 0,077 |
| 1,3 ± 0,3 | 1,26 ± 0,32 |
| 1,8 ± 0,3 | 1,77 ± 0,32 |
| 12 ± 2 | 12,4 ± 2,2 |
| 25 ± 5 | 25,3 ± 4,6 |
* - дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибки в окончательных результатах при поэтапном округлении.
2. Хлориды (ПНД Ф 14.1:2:3.96-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
3. Фосфорсодержащие вещества (ГОСТ 18309-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.
4. Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Пример
Цветность - 10 градусов цветности (Cr-Co), 18 °С.
При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.
6. Металлы (ПНД Ф 14.1:2:4.139-98)
Примеры записи числовых значений:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,004 до 0,01 вкл. | 0,0001 |
| от 0,01 до 0,1 вкл. | 0,001 |
| от 0,1 до 1 вкл. | 0,01 |
| от 1 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
7. Алюминий (ГОСТ 18165-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.
Примеры
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,287 ± 0,057 | 0,2872 ± 0,0574 |
| 0,262 ± 0,052 | 0,2623 ± 0,05246* |
| 2,38 ± 0,48 | 2,381 ± 0,476 |
| 13,5 ± 2,7 | 13,47 ± 2,69 |
| 16,6 ± 3,3 | 16,62 ± 3,32 |
| 22 ± 4 | 21,8 ± 4,4 |
| 27 ± 5 | 27,4 ± 5,48* |
| 38 ± 7 | 38,47* ± 7,7 |
| 51 ± 10 | 51,46* ± 10,3 |
* - дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибок при поэтапном округлении.
| 0,009 ± 0,005 | 0,08 ± 0,03 |
| 0,65 ± 0,16 | 3,5 ± 0,9 |
| 3,5 ± 0,9 | 25 ± 6 |
| Примеры записи для питьевой воды, мг/дм³ | Примеры записи для природной и сточной воды, мг/дм³ |
| 0,028 ± 0,010 | 0,080 ± 0,032 |
| 0,44 ± 0,12 | 0,35 ± 0,11 |
| 4,8 ± 1,0 | 71 ± 17 |
10. Щелочность (МП УВК 1.19-2013)
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.
11. Температура, прозрачность, запах (РД 52.24.496-2018)
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.
12. Кальций (РД 52.24.403-2018)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.
13. Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
Результаты измерений округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,25 до 1,0 вкл. | 0,01 |
| от 1,0 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
14. Фториды (ПНД Ф 14.1:2:4.270-2012)
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,15 до 10 вкл. | 0,01 |
| свыше 10 | 0,1 |
15. Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Рассчитывая значения погрешности, особенно при пользовании электронным калькулятором, значение погрешности получают с большим числом знаков. Однако исходными данными для расчета являются нормируемые значения погрешности средства измерений и класс точности, которые указываются всего с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности должны быть оставлены только первые одна-, две значащих цифры.
При этом приходится учитывать следующее обстоятельство. Если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приведет к очень большой ошибке (до 30¸50 %), что недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0.94 вместо 0.9, является дезинформацией, т.к. исходные данные не обеспечивают такой точности.
Исходя из этого, на практике установилось следующее правило: если полученное число начинается с цифры равной или большей, чем , то в нем сохраняется лишь один знак. Если же оно начинается с цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют два знака.
На основании вышеизложенного можно сформулировать следующие три правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения.
Правило 1. Погрешность результата измерения указывается двумя значащими цифрами, если первая их них равна 1 или 2, и одной – если первая цифра равна 3 и более.
Правило 2. Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности.
Правило 3. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним - двумя лишними знаками.
Пример.На вольтметре класса точности 2.5 с пределом измерения 300 В был получен отсчет измеряемого напряжения х = 267,5 В. Определить абсолютную и относительную погрешности измерения, произвести округление их значений и округление результата измерения. Представить результат измерения.
Решение. Здесь класс точности указан числом без кружочка, следовательно, абсолютную погрешность находим по формуле
где g0=2.5, а Хк=300 В. Тогда
Т.к. 7>3, то D(х) округляем до 8 В.
Относительная погрешность определится по формуле
4. При извлечении квадратного или кубического корня в результате следует брать столько значащих цифр, сколько их имеется в подкоренном выражении. Например,
5. При отбрасывании сомнительных цифр следует помнить:
- если отбрасываемая (n + 1) цифра меньше 5, то остающаяся n-я цифра не меняется (пример: 10,132 после округления 10,13);
- если отбрасываемая (n + 1)-я цифра равна или больше 5, то остающаяся n-я цифра увеличивается на 1 (пример: 9,836 после округления 9,84).
Если мы допускаем ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.
Правила округления
243.871 ± 0.026 ≈ 243.87 ± 0.03;
243.871 ± 2.6 ≈ 244 ± 3;
1053 ± 47 ≈ 1050 ± 50.
Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.
Примеры:
8.337 (округлить до десятых) ≈ 8.3;
833.438 (округлить до целых) ≈ 833;
0.27375 (округлить до сотых) ≈ 0.27.
Если первая из отбрасываемых цифр больше или равна 5 , (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.
Примеры:
8.3351 (округлить дл сотых) ≈ 8.34;
0.2510 (округлитьь до десятых) ≈ 0.3;
271.515 (округлить до целых) ≈ 272.
Если отбрасываемая цифра равна 5 , а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.
Примеры:
0.875 (округлить до сотых) ≈ 0.88;
0.5450 (округлить до сотых) ≈ 0.54;
275.500 (округлить до целых) ≈ 276;
276.500 (округлить до целых) ≈ 276.
- Значащими называют верные цифры числа, кроме нулей, стоящих впереди числа. Например, 0,00807 в этом числе имеется три значащих цифры: 8, ноль между 8 и 7 и 7 ; первые три нуля незначащие.
8.12 · 10 3 в этом числе 3 значащих цифры. - Записи 15,2 и 15,200 различны. Запись 15,200 означает, что верны сотые и тысячные доли. В записи 15,2 верны целые и десятые доли.
- Результаты физических экспериментов записывают только значащими цифрами. Запятую ставят сразу после отличной от нуля цифры, а число умножают на десять в соответствующей степени. Нули, стоящие в начале или конце числа, как правило, не записывают. Например, числа 0,00435 и 234000 записывают так: 4,35·10 -3 и 2,34·10 5 . Подобная запись упрощает вычисления, особенно в случае формул, удобных для логарифмирования.
Рефераты и конспекты лекций по географии, физике, химии, истории, биологии. Универсальная подготовка к ЕГЭ, ГИА, ЗНО и ДПА!
Физика — рефераты, конспекты, шпаргалки, лекции, семинары
Правила округления значений погрешностей и результатов измерения
Погрешности измерений показывают также, какие цифры в полученном результате измерения сомнительны, поэтому нет смысла в записи погрешности с большим числом знаков.
По обычаю ограничиваются одной значащей цифрой и только при особо точных измерениях погрешность записывается двумя или тремя цифрами.
Используют 3 правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения:
1. Погрешность результата измерения показывается двумя значащими цифрами, если первая из них 1 или 2, и одной — если первая цифра 3 и более.
2. Результат измерения округляется до того же десятичного разряда, которым заканчивается округления значение абсолютной погрешности.
3. Округление производится только в конечной ответы, а все предварительные расчеты проводят с одним — двумя лишними знаками.
В соответствии с правилом 1 установлены и нормированные значения погрешностей 3В: в числах 1,5% или 2,5% показываются два знака, но в числах 0,5%, 4%, 6%; показывается только один знак.
При округлении результатов измерения используют еще такие правила:
1) лишние цифры в целых чисел заменяют нулями, а в дробных десятичных отвергают; н., 732 «700.
2) если первая из заменяемых нулями или откидываемых цифр 5, то последняя из оставшихся цифр увеличивается на 1;
3) если отвергаем цифра = 5 со следующими нулями, то округление производится до ближнего четного числа.
Результаты измерения можно записать некоторыми значимыми цифрами и рядом нулей, но в этом случае и нули должны полностью определенное значение и характеризуют погрешность измерения. Н., пусть результат измерения их = 9,5 B, который можно записать цифрами: 9,5; 9,50; 9,500. В этих случаях нули после последней значащей цифры определяют показатель достоверности результатов измерения. С этой точки зрения эти записи необходимо читать так: 9,45
Правила записи чисел по СТ СЭВ 543 — 77
1. Значащие цифры данного числа — все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.
а) Число 12,0 имеет три значащие цифры.
б) Число 30 имеет две значащие цифры.
в) Число 120 . 10 имеет три значащие цифры.
г) 0,514 . 10 имеет три значащие цифры.
д) 0,0056 имеет две значащие цифры.
2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например, в печатном тексте: 1 кВт . ч = 3600 Дж (точно).
3. Различают записи приближенных чисел по количеству значащих цифр.
а) Различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382.
б) Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8 . 10 .
в) Если в числе 4720 верны лишь две первые цифры, оно должно быть быть записано 47 * 10 или 4,7 * 10 .
4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.
а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.
б) Правильно: 12,13 + 0,17. Неправильно: 12,13 + 0,2.
в) Правильно: 46,40 + 0,15. Неправильно: 46,4 + 0,15 или 46,402 + 0,15.
5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины.
6. Интервалы между числовыми значениями величин целесообразно записывать:
от 60 до 100, свыше 120 до 150.
Правила округления чисел по СТ СЭВ 543 — 77
1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.
2. В случае, если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.
Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.
3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.
Пример: Округление числа 0,145 до двух цифр дает 0,15.
Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.
Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды).
Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3 .
4. В случае, если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.
Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.
Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.
Пример: Округление числа 565,46 до трех значащих цифр дает 565.
6. Целые числа округляют по тем же правилам , что и дробные.
Пример: Округление числа 23456 до двух значащих цифр дает 23* 10 .
Из книги Л.И. Любимов, И.Д. Форсилова, Е.З. Шапиро
Ленинград, Энергоатомиздат, Ленинградское отделение, 1987 год
стр. 47 . 2.7. Правила округления и записи результатов измерений
Погрешность результата измерений позволяет определить те цифры результата, которые являются достоверными. Нецелесообразно удерживать в выражении для измеренного значения физической величины большое число цифр, т.к. цифры младших разрядов могут оказаться недостоверными.
Существуют определенные правила округления.
1. В выражении погрешности удерживается не более двух значащих цифр, причем последняя цифра обычно округляется до нуля или пяти. Две цифры следует обязательно удерживать в том случае, когда цифра старшего разряда менее 3.
2 . Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.
Пример. 235,732 + 0,15 округляется до 235,73 + 0,15, но не до 235,7 + 0,15.
При промежуточных вычислениях целесообразно, чтобы используемые числа содержали на одну значащую цифру больше, чем будет в окончательном результате. Это позволяет уменьшить погрешность от округления.
3. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.
Пример. 442,749 + 0,4 округляется до 442,7 + 0,4.
4. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.
Пример. 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 округляется до 37,3 + 0,5.
5. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Пример. Поэтапное округление результата измерения 220,46 + 4 дает на первом этапе 220,5 + 4 и на втором 221 + 4, в то время как правильный результат округления 220 + 4.
Особенно внимательно нужно относиться к записи результата измерения без указания погрешности (что в общем случае крайне нежелательно). В этом случае в записываемом числе оставляются только те цифры, за достоверность которых можно ручаться, т.е. все значащие цифры записанного числа должны быть достоверными. Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней записанной справа цифры, при этом нули, записанные в виде множителя 10 в степени п, не учитываются. Поэтому записи 2,4 х 10 В в степени 3 и 2400 В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может быть, например, 2,42 или 2,38 кВ. Запись 2400 В означает, что верны и единицы вольт, истинное значение может быть 2400,2 или 2390,8 В, но не 2420 или 2380 В.
Из книги П.В. Новицкий и И.А. Зограф
"Оценка погрешностей результатов измерений"
Ленинград, Энергоатомиздат, Ленинградское отделение, 1991 год
стр. 25 1 — 4. ПРАВИЛА ОКРУГЛЕНИЯ ЗНАЧЕНИЙ ПОГРЕШНОСТИ И РЕЗУЛЬТАТА ИЗМЕРЕНИЙ
Рассчитывая значения погрешности, особенно при пользовании электронным калькулятором, значения погрешностей получают с большим числом знаков. Однако исходными данными для расчета являются нормируемые значения погрешности средств измерения, которые указываются всего с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности должны быть оставлены только первые одна — две значащие цифры. При этом приходится учитывать следующее. Если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 30 — 50 %), что недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, т. е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.
Исходя из этого на практике установилось такое правило: если полученное число начинается с цифры, равной или большей 3, то в нем сохраняется лишь один знак; если же оно начинается с цифр, меньших 3, т. е. с цифр 1 и 2, то в нем сохраняют два знака. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются два знака, но в числах 0,5; 4; 6 % указывается
В итоге можно сформулировать три правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения.
1 . Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной, — если первая есть 3 и более.
2 . Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности.
3 . Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним — двумя лишними знаками.
Пример . На вольтметре класса точности 2,5 с пределом измерений 300 В был получен отсчет измеряемого напряжения Х = 267,5 В.
Расчет погрешности удобнее вести в следующем порядке: сперва необходимо найти абсолютную погрешность, а затем — относительную. Абсолютная погрешность / (Х) = jo X к /100; при jo = 2,5 % и Х к = 300 В это даёт / (Х) = 2,5 х 300 / 100 = 7,5 В
8 В; относительная
jo = / o x 100 / X = 7,5 x 100 / 267,5 = 2,81 %
Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано j ( x ) = 2,8 %. Полученное значение Х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности , т. е. до целых единиц вольт.
Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью j ( x ) = 2,8 % . Измеренное напряжение Х = (268 + 8) В или Х = 268 В + 8 В.
При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260 — 276) В или 260 В X
Наряду с изложенными правилами округления значений погрешностей результатов измерения иногда предлагаются более обоснованные, но и более сложные правила. Недостаток изложенных правил состоит в том, что относительная погрешность от округления изменяется скачком при переходе, например, от числа 0,29, когда она составляет (0,30 — 0,29) / 0,30 = 3 %, к числу 0,3, когда она будет (0,4 — 0,3) / 0,3 = 30 %. Для устранения столь резкого скачка относительной погрешности округления предлагается каждую декаду возможных значений округляемой погрешности делить на три части: от 0,1 до 0,2, от 0,2 до
0,5 и от 0,5 до 1,0, и в каждой из этих частей использовать свой шаг округления, соответственно равный 0,02, 0,05 и 0,1. Тогда ряд разрешенных к употреблению округленных значений погрешностей получает вид: 0,10 — 0,12 — 0,14 — 0,16 — 0,18 — 0,20 — 0,25 — 0,30 — 0,35 — 0,40 — 0,45 — 0,5 — 0,6 — 0,7 — 0,8 — 0,9 — 1,0. Бесспорное преимущество такого ряда состоит в том, что погрешность от округления на границах участков изменяется лишь от 5 до 10 % . Однако при использовании такого правила округления погрешности последние цифры результата, оставляемые после округления, также должны соответствовать приведенному ряду.
Из книги В.А.Кузнецова и Г.В.Ялунина " МЕТРОЛОГИЯ
теоретические, прикладные и законодательные основы "
Москва, Изд — во стандартов, 1998 г.
стр. 215 7.6 Рекомендуемые правила по округлению результатов измерений
Результаты измерений следует округлять по сложившимся правилам. В основе этих правил лежит следующее положение: числовое значение результата измерений представляется так, чтобы оно оканчивалось десятичным знаком того же разряда, какой имеет погрешность этого результата.
Правила округления результата измерений для случаев обычных измерений, не связанных с необходимостью получения высокоточных результатов:
1) погрешность результата измерений представляется с одной или двумя значащими цифрами. Две значащие цифры приводятся в случае выполнения точных измерений;
2) результат измерений округляется так, чтобы он оканчивался цифрой того же разряда, что и значение погрешности. Если числовое значение результата измерения представляется десятичной дробью, оканчивающейся нулями, то нули отбрасываются только до того разряда, который соответствует разряду числового значения погрешности;
3) если цифра старшего из отбрасываемых разрядов меньше 5, то остающиеся цифры в
числе не изменяют. Если эта цифра равна или больше 5, то последнюю оставляемую цифру увеличивают на единицу. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают. Например, числовое значение результата измерения составляет 25,458 при погрешности результата, выраженной пределами + 0 ,02; округление результата будет 25,46. Если пределы погрешности имеют + 0,002, то числовое значение результата сохраняется полностью. Числовое значение результата измерений 105553 получено с погрешностью + 0,0005. В нем сохраняются четыре значащие цифры и округление даст число 105600; если числовое значение результата 105,553, то при тех же условиях округление дает число 105,6;
4) если отбрасываемая цифра равна пяти, а следующие за ней цифры неизвестны (отсутствуют) или нули, то последнюю сохраняемую цифру числа не изменяют, если она четная, и увеличивают на единицу, если она нечетная. Число 105,5 при сохранении трех значащих цифр округляют до 106;
5) правила, изложенные в п.1. 4, применяются только при округлении окончательных результатов. Все промежуточные результаты целесообразно представлять тем числом разрядов, которые удается получить
Читайте также: