Государственное бюджетное профессиональное образовательное учреждение
Астраханской области «Астраханский колледж вычислительной техники»
ОТЧЕТ
по практическим (лабораторным) работам
по дисциплине
МДК 01.02 Методы осуществления стандартных и
сертификационных испытаний, метрологических поверок средств
измерений
3 семестр
по специальности
15.02.07
Автоматизация технологических процессов и производств (по отраслям)
АКВТ.15.02.07.ПР___.___
Листов:
Выполнил
Студент гр.
Проверил
Преподаватель
2017
АБ – 21
Практическая работа №4.
Тема: ПРАВИЛА ЗАПИСИ И ОКРУГЛЕНИЯ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ.
Цель работы:
1. Научиться соблюдать при выполнении измерений определенные правила округления и записи их
результатов в технической документации.
Описание практической работы:
Правила записи чисел
1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней
справа. При этом нули, следующие из множителя 10, не учитывают.
Примеры.
а) Число 12,0 имеет три значащие цифры.
б) Число 30 имеет две значащие цифры.
в) Число 120*108 имеет три значащие цифры.
г) 0,514*10-3 имеет три значащие цифры.
д) 0,0056 имеет две значащие цифры.
2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или
последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт/ч = 3600 Дж (точно) или
1 кВт / ч = 3600Дж.
3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают
числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение
числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное
значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры
верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8102. Если в
числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 47102или 4,7103.
4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую
цифру того же разряда, как и последняя значащая цифра отклонения.
Примеры.
а) Правильно: 17,0+0,2. Неправильно:17+0,2 или 17,00+0,2.
б) Правильно: 12,13+0,17. Неправильно: 12,13+0,2.
в) Правильно: 46,40+0,15. Неправильно: 46,4+0,15 или 46,402+0,15.
5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с
указанием одной и той же единицы величины. Например: (80,555 +0,002) кг.
6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом
виде. Тогда предлог "от" означает "≥", предлог "до" – "", предлог "свыше" – ">", предлог "менее" –
"<".
Примеры.
1) "d принимает значения от 60 до 100" означает "60d100",
2) "d принимает значения свыше 120 менее 150" означает "120 <d< 150",
3) "d принимает значения свыше 30 до 50" означает "30 <d50".
Правила округления чисел
1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного
разряда с возможным изменением цифры этого разряда.
2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю
сохраняемую цифру не меняют.
Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.
3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю
сохраняемую цифру увеличивают на единицу.
Пример: Округление числа 0,145 до двух цифр дает 0,15.
Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений,
поступают следующим образом:
4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю
оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие
разряды), иначе – наоборот. Это касается и дробных и целых чисел.
Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252)
дает 0,3.
4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю
сохраняемую цифру увеличивают на единицу.
Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.
5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.
Пример: Округление числа 565,46 до трех значащих цифр дает 565.
6. Целые числа округляют по тем же правилам, что и дробные.
Пример: Округление числа 23456 до двух значащих цифр дает 23103
7. Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и
значение погрешности.
Пример: Число 235,732+0,15 должно быть округлено до 235,73+0,15, но не до 235,7+0,15.
8. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры
не меняются.
Пример: 442,749+0,4 округляется до 442,7+0,4.
9. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра
увеличивается на единицу.
Пример: 37,268+0,5 округляется до 37,3+0,5; 37,253+0,5 должно быть округлено до 37,3+0,5.
10. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление
может привести к ошибкам.
Пример: Поэтапное округление результата измерения 220,46+4 дает на первом этапе 220,5+4 и на
втором 221+4, в то время как правильный результат округления 220+4.
11. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами,
а расчетное значение погрешности получают с большим числом знаков, в окончательном значении
рассчитанной погрешности должны быть оставлены соответственно только первые одна или две
значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание
второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо.
Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение
второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так
как исходные данные не обеспечивают такой точности.
Исходя из этого, на практике установилось такое правило: если полученное число начинается со
значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно
начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры.
В соответствии с этим правилом установлены и нормируемые значения погрешностей средств
измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 %
указывается лишь одна значащая цифра.
Пример: На вольтметре класса точности 2,5 с пределом измерений хn = 300В был получен отсчет
измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в
отчете?
Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную
погрешность, а затем – относительную.
Абсолютная погрешность х = хn/100, для приведенной погрешности вольтметра = 2,5 % и
пределов измерения (диапазона измерения) прибора хn = 300 В.
х = 2,5300/100 = 7,5 В ~ 8 В;
относительная погрешность δ = х100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .
Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это
значение должно быть округлено по обычным правилам округления до 8 В, но в значении
относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть
сохранены в ответе два десятичных разряда и указано δ = 2,8 %. Полученное значение х = 267,5 В
должно быть округлено до того же десятичного разряда, которым оканчивается округленное
значение абсолютной погрешности, т.е. до целых единиц вольт.
Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с
относительной погрешностью δ = 2,8%. Измеренное напряжение Х = (268+8) В".
При этом более наглядно указать пределы интервала неопределенности измеренной величины в
виде Х = (260276) В или 260 ВX276 В.
Задание:
1. Сколько значащих цифр имеет число 180,00?
2. Выберите правильные варианты округления числа 04,120 до трех значащих цифр: 04,1; 04,10;
4,12; 41210-2?
3. Запись "свыше 3 до 6" означает (3,6), или (> 3, < 6), или другое?
4. Выберите правильные варианты записи: 13100,1106; 60,00; 0,05-18?
5. С какой точностью записано число 341/2?
6. Правильна ли запись: 1,210312,45102?
7. Сколько достоверных знаков (цифр) в числе 0,71100?
8. Выберите правильные варианты записи округленного значения результата измерения
7,3490,3: 7,30,3; 7,340,3; 7,350,3; 7,40,3?
9. С какой точностью записано значение 28 кВт (точно)?
10. На измерительном приборе класса точности 0,5 с пределом измерений хn = 0,5 мА был
получен отсчет измеряемого параметра х = 0,45мА. В каком виде должен быть записан
результат измерения в отчете?
11. Запись "свыше 10 менее 30" означает (10,30), или (> 10, < 30), или (> 10,30)?
12. Какие из результатов измерений соответствуют записи 999 мг: 0,999 г; 999,48 мг; 10,001 г;
999448г; 0,99910-3кг?
13. Исправьте запись: l = 0,000498 мм0,8 нм?
14. Сколько значащих цифр одинаковы в числах 0,220102и 220?
15. Как следует записать одним числом показание прибора с числовым табло, на котором
попеременно высвечивается то 5560, то 5561?
16. При обработке результата серии измерений, размера детали микрометром с ценой деления
0,01 мм получен усредненный результат 2,125 мм. Как должен быть окончательно записан
результат?
17. Сколько достоверных знаков (цифр) в числе 3,2103?
18. Выберите соответствующие значению результата измерения 370 км записи: 3,7102; 370,49;
370,90; 3,708102?
19. Правильна ли запись: a = 0,00 (+0,02) мм?
20. Выберите правильные записи нормируемых погрешностей результата измерений: 1,5%; 3%;
0,5%; 6%; 3,2%; 1%?
21. Какому исходному числу соответствует результат его округления до трех значащих цифр 65,4: 65,45; 65,35; 65,458; 65,349?
22. Запись "свыше 5 до 50" означает ...?
23. Исправьте запись: d = 534,05 мм0,156 мм?
24. С какой минимальной погрешностью было выполнено измерение, если после округления
действительного размера 0,038 мм получили 0 мм?
25. С какой точностью записано число 32, 31200?
26. Какие из результатов измерений соответствуют записи 0,38103мг: 0,377 г; 380 мг; 0,371 г;
374695мкг; 0,380,01 г; 376,6 мг?
27. Правильна ли запись: a = 0 (+0,02) мм?
28. На измерительном приборе класса точности 1,5 с пределом измерений хn = 20B был получен
отсчет измеряемого параметра х = 16,5B. В каком виде должен быть записан результат
измерения в отчете?
29. При обработке результата серии измерений размера детали штангенциркулем с ценой деления
0,1 мм, получен усредненный результат 3,63 мм. Как должен быть окончательно записан
результат?
Расчеты:
Контрольные вопросы.
1) Что такое измерение ФВ?
2) Каковы основные виды измерений?
3) Какие основные методы измерений вы знаете?
4) По каким признакам классифицируют погрешности измерений?
5) Приведите формулы для определения абсолютной, относительной и приведенной погрешности
измерения.
6) Сформулируйте правила округления погрешности и записи результатов измерений.
