Физика : обработка результатов измерений при выполнении лабораторных работ

№ 805

ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

Кафедра физики

Д.Е. Капуткин
А.Г. Шустиков

Физика

Обработка результатов измерений
при выполнении лабораторных работ

Учебнометодическое пособие

Под редакцией профессора Г.М. Ашмарина

Допущено учебнометодическим объединением 
по образованию в области металлургии в качестве
учебного пособия для студентов высших учебных
заведений, обучающихся по направлениям
Металлургия и Физическое материаловедение

Москва  Издательство ´УЧЕБАª
2007

УДК 537.8 
 
К20 

Р е ц е н з е н т  
д-р физ.-мат. наук, проф. С.Д. Прокошкин 

Капуткин Д.Е., Шустиков А.Г. 
К20  
Физика. Обработка результатов измерений при выполнении 
лабораторных работ: Учеб.-метод. пособие / Под ред. проф. 
Г.М. Ашмарина. – М.: МИСиС, 2007. – 108 с. 

В учебно-методическом пособии излагаются основные понятия, которые 
используются при обработке и оценке погрешности результатов измерений в 
рамках утвержденной программы лабораторных работ по курсу общей физики. Пособие содержит справочные материалы, а также числовые примеры 
обработки, графического представления и оценки погрешности результатов 
измерений. 
Предназначено для студентов всех специальностей. 

© Государственный технологический  
университет «Московский институт 
стали и сплавов» (МИСиС), 2007 

ОГЛАВЛЕНИЕ 

Введение....................................................................................................6 
1. Запись физических величин с помощью чисел в результате 
измерений. Возникновение погрешностей.............................................7 
2. Определения величины погрешности и точности измерений. 
Абсолютные и относительные погрешности.........................................9 
3. Разные типы погрешностей ...............................................................10 
3.1. Систематические погрешности ..................................................10 
3.2. Случайные погрешности.............................................................10 
3.3. Грубые погрешности, или промахи ...........................................11 
3.4. Классификация погрешностей ...................................................11 
4. Вероятностные характеристики случайных погрешностей............13 
4.1. Понятие вероятности события. Оценка вероятности...............13 
4.2. Гистограмма и плотность распределения вероятности. 
Равномерная и нормальная плотности распределения 
вероятности случайных величин.......................................................14 
4.3. Доверительные границы для нормального закона 
распределения случайных погрешностей. Нахождение 
промахов..............................................................................................17 
4.4. Оценка средней квадратичной погрешности результатов 
измерений. Сложение случайных погрешностей ............................19 
5. Оценка случайной погрешности измерений с указанием 
примерной достоверности .....................................................................21 
6. Оценка случайной погрешности измерений с указанием 
достоверности, рассчитанной по закону Стьюдента...........................22 
7. Инструментальная (приборная) погрешность .................................24 
7.1. Оценка погрешности шкалы измерительного прибора или 
инструмента ........................................................................................24 
7.2. Оценка погрешности прибора, имеющего класс точности......25 
8. Оценка суммарной погрешности прямых измерений по 
упрощенным формулам .........................................................................27 
9. Необходимое число значащих цифр при обработке и записи 
результатов измерений...........................................................................30 
9.1. Точность задания числа и количество значащих цифр 
в числе..................................................................................................30 
9.2. Количество значащих цифр при обработке 
экспериментальных данных ..............................................................31 

9.3. Количество значащих цифр при записи результата и 
погрешности измерений.....................................................................31 
9.4. Правила округления чисел..........................................................33 
10. Пример прямого измерения диаметра образца..............................34 
11. Пример прямого измерения электрического тока.........................38 
11.1. Обработка данных в миллиамперах.........................................38 
11.2. Обработка данных в делениях шкалы измерительного 
прибора................................................................................................41 
12. Пример построения гистограммы...................................................43 
12.1. Построение гистограммы..........................................................45 
12.2. Сравнение гистограммы с нормальным законом 
распределения случайных погрешностей ........................................48 
13. Оценка погрешности косвенных измерений..................................52 
13.1. Косвенное измерение как функция от результатов прямых 
измерений............................................................................................52 
13.2. О необходимости использования систем единиц 
измерения физических величин ........................................................52 
13.3. Оценка погрешности функций одного аргумента..................53 
13.4. Оценка погрешности функций нескольких аргументов 
(общая формула).................................................................................57 
13.5. Получение формул для оценки погрешности функций 
специального вида от нескольких аргументов ................................59 
13.6. Оценка погрешности, возникающей при использовании 
физических и математических постоянных.....................................61 
14. Пример косвенного измерения плотности вещества ....................64 
15. Графическая обработка результатов измерений............................69 
15.1. Основные правила оформления графиков ..............................69 
15.2. Пример измерения и графического изображения вольтамперных характеристик вакуумного диода при разных 
температурах катода...........................................................................70 
15.3. Оценка погрешности, зависящей  от масштаба графика .......75 
15.4. Сглаживание результатов измерений......................................76 
15.5. Пример определения модуля Юнга с применением 
процедуры сглаживания экспериментальных данных....................76 
15.6. Линеаризация экспериментальных зависимостей..................87 
15.7. Пример определения работы выхода электронов с 
поверхности металлов с применением линеаризации ....................87 
16. Метод наименьших квадратов.........................................................97 
16.1. Основные формулы для оценки параметров линейной 
зависимости.........................................................................................97 

16.2. Пример определения температурного коэффициента 
электрического сопротивления металлов с помощью метода 
наименьших квадратов.......................................................................99 
17. Оценка суммарной погрешности прямых измерений в 
соответствии с Рекомендациями по метрологии (РМГ-29–99)........104 
Основные обозначения.........................................................................106 
Библиографический список.................................................................107 

Введение 

Развитие техники и познание природы станет невозможным, если 
не выполнять измерения различных величин. В результате измерений мы получаем числовые значения физических величин. Результат 
измерений всегда отличается от истинного значения измеряемой величины. Разница между измеренным и истинным значениями называется погрешностью измерений. Приближенное значение погрешности называют оценкой погрешности. В задачу измерений входит, 
во-первых, получение результата, который возможно меньше отличался бы от истинного значения измеряемой величины, и, во-вторых, 
оценка погрешности измерений. В процессе измерений мы часто 
сталкиваемся со случайностями, которые проявляются в том, что одни и те же действия приводят к разным результатам измерений. Анализом случайностей занимаются специальные разделы математики – 
теория вероятности и математическая статистика. Выполняя расчеты 
вероятности случайных явлений, мы учимся, как надо наилучшим 
образом действовать в ситуациях, когда однозначно прогнозировать 
результат невозможно. 
При решении задачи измерений важную роль играет правильная 
обработка результатов измерений, которая основывается на многих 
разделах математики, включая алгебру, дифференциальное и интегральное исчисление, теорию вероятности и т.д. Цель настоящего 
учебно-методического пособия – познакомить студентов 1-го и 
2-го курсов, которые еще не изучали теорию вероятности, с основами правильной обработки экспериментальных данных. Работая над 
пособием, авторы использовали Рекомендации по межгосударственной стандартизации (РМГ-29–99), введенные в действие в качестве 
рекомендации по метрологии с 1 января 2001 г. 
Изложение материала сопровождается подробным разбором характерных примеров с числовыми таблицами и графиками, что поможет студентам овладеть практическими приемами, позволяющими 
получать результат измерений и оценивать погрешность измерений. 
Дополнительные сведения по рассматриваемым вопросам содержаться в литературе [1–6]. 

1. ЗАПИСЬ ФИЗИЧЕСКИХ ВЕЛИЧИН 
С ПОМОЩЬЮ ЧИСЕЛ В РЕЗУЛЬТАТЕ ИЗМЕРЕНИЙ. 
ВОЗНИКНОВЕНИЕ ПОГРЕШНОСТЕЙ 

В основе измерений обычно лежит процесс сравнения измеряемой 
величины с некоторым эталоном. В качестве эталона (меры, единицы 
измерения) в принципе может быть выбрана любая величина, родственная измеряемой. Например, при измерении длины эталоном длины может служить прямая палка произвольной, но фиксированной 
(неизменяемой при данных измерениях) длины. Сколько раз эта палка поместится вдоль предмета – такова длина предмета. 
В Древней Руси в качестве эталона длины была выбрана длина, 
равная расстоянию от локтя до вытянутых пальцев человеческой руки. 
Называлась такая мера длины – локоть. Если вдоль стола укладывалось 5 локтей, значит длина стола – 5 локтей. В Англии за меру длины 
была принята длина человеческой ступни – фут (1 локоть ≈ 1,5 фута). 
В настоящее время наибольшее распространение получила мера длины – метр (1 метр ≈ 2,2 локтя). 
Про стол длиной 5 локтей одновременно можно сказать, что его 
длина примерно равна 2,3 метра. Таким образом одна и та же физическая величина может быть выражена разными числами в зависимости от того, что было принято за единицу измерения (меру, эталон). Поэтому рядом с числом, характеризующим физическую величину, обязательно следует указывать размерность, которая сообщает 
нам, какой эталон использовался при измерениях. 
При измерении времени в качестве эталона (меры, единицы измерения) выбирают продолжительность одного цикла (периода) какоголибо повторяющегося процесса. Великий итальянский ученый Галилео Галилей (1564–1642), которого многие считают первым физиком, 
в опытах по движению в качестве эталона времени использовал свой 
пульс (секундомеров тогда еще не было). Сколько раз успеет вздуться артерия на руке, пока предмет движется, столько времени продолжается движение. Продолжительность современной единицы 
времени – секунды примерно совпадает с периодом колебаний человеческого сердца. 
В качестве примера единицы измерения (меры, эталона) электрической величины выберем величину электрического тока – ампер. 
Величину тока часто называют силой тока. Сила тока в 1 ампер, в 

частности, может означать, что за 1 секунду через поперечное сечение проволоки проходит примерно 6,241460·1018 электронов. 
Процедура измерения, т.е. процесс сравнения измеряемой величины с эталоном (единицей измерения), всегда сопровождается погрешностями. Например, выполняя измерения длины предмета с помощью линейки, невозможно абсолютно точно совместить нулевую 
отметку линейки с границей тела и невозможно абсолютно точно 
снять показания с измерительной шкалы линейки. Кроме того, сама 
линейка не может быть изготовлена абсолютно точно: всегда будет 
некоторая разница между длиной метровой линейки, которой вы 
пользуетесь, и длиной метрового эталона, хранящегося в специальном месте при определенной температуре. Подобным образом возникают погрешности при сравнении различных других физических 
величин с соответствующими эталонами. 
В настоящее время для повышения точности воспроизведения 
метрового 
эталона 
за 
1 метр 
принимают 
длину, 
равную 
165076373 длинам световой волны в вакууме, излучаемой изотопом 
криптона (86Kr) при определенных условиях. Наглядное представление о длине волны дает расстояние между вершинами волн на поверхности воды. В световой волне также есть свои вершины, расстояние между которыми меньше одной миллионной доли метра. 
Современный эталон времени – 1 секунда равен 9192631770 периодам колебаний в электромагнитной волне, которую излучает изотоп цезия (133Cs) при определенных условиях. 

2. ОПРЕДЕЛЕНИЯ ВЕЛИЧИНЫ ПОГРЕШНОСТИ 
И ТОЧНОСТИ ИЗМЕРЕНИЙ. АБСОЛЮТНЫЕ 
И ОТНОСИТЕЛЬНЫЕ ПОГРЕШНОСТИ 

Величиной погрешности ∆Х, называют разность между измеренным значением 
изм
X
 величины X и ее истинным значением 
и
X : 

 
∆X = Xизм – Xи. 
(2.1) 

Величину погрешности часто называют абсолютной погрешностью. 
Размерность абсолютной погрешности ∆X совпадает с размерностью 
величины X. Абсолютная погрешность показывает, насколько измеренное значение 
изм
X
 отличается от истинного значения Xи. 
Чтобы ответить на вопрос, велика или мала абсолютная погрешность, нужно сравнить ее с самой измеряемой величиной. Отношение абсолютной погрешности ∆X к истинному значению измеряемой 
величины Xи называют относительной погрешностью измерений δ: 

 

и

X
X
Δ
δ =
. 
(2.2а) 

Часто относительную погрешность выражают в процентах: 

 

и

100 %
X
X
Δ
δ =
⋅
. 
(2.2б) 

Точность измерений характеризует именно относительная погрешность, которая показывает, во сколько раз величина погрешности ∆X 
отличается от самой величины Xи. Относительная погрешность либо 
не имеет размерности, либо выражается в процентах. 
Одна и та же абсолютная погрешность ∆X в разных ситуациях 
может соответствовать разной точности измерения. Пусть, например, 
выполнены измерения линейного размера с абсолютной погрешностью 
0,5 мм
X
Δ
=
. При истинном значении линейного размера 
Xи1 = 1 мм относительная погрешность 
1
50 %
δ =
, а в случае, когда 
истинный 
размер 
Xи2 = 1000 мм, 
относительная 
погрешность 

2
0,05 %
δ =
. Про первый пример (
1
50 %
δ =
) говорят, что измерения 
очень грубые и неточные, а измерения во второй ситуации 
(
2
0,05 %
δ =
) считаются весьма точными. 

3. РАЗНЫЕ ТИПЫ ПОГРЕШНОСТЕЙ 

3.1. Систематические погрешности 

Систематическими погрешностями называются погрешности, которые при повторных измерениях либо сохраняют свою величину, 
либо изменяются по определенному (детерминированному) закону. 
Слово «детерминированный» означает, что при одних и тех же условиях результат должен быть абсолютно одинаковым. 
Если при измерении величины X известна систематическая погрешность
c
X
Δ
, то результат измерений 
изм
X
 необходимо исправить 
по формуле 

 
изм
c
X
X
X
=
− Δ
. 

Систематическая погрешность может быть как положительной, 
так и отрицательной. При 
c
X
Δ
< 0 исправленное значение X будет 
больше измеренного 
изм
X
. 
Простейший пример систематической погрешности – это когда 
сдвинута измерительная шкала прибора и при нулевых значениях измеряемой величины указатель прибора показывает не на ноль, а на 
некоторую величину 
c
X
Δ
. Приведем еще один пример систематической погрешности, которая возникает при точных взвешиваниях на 
весах с помощью гирь. Согласно закону Архимеда любое тело, находящееся в воздухе, теряет в весе на величину, равную весу воздуха в 
объеме этого тела. Поэтому для того, чтобы получить правильный вес, 
нужно после взвешивания ввести соответствующую поправку 
c
X
Δ
 на 
результат измерений, которая имеет систематический характер, но будет зависеть от объемов взвешиваемого тела и гирь, атмосферного 
давления, температуры воздуха и некоторых других факторов. 
В целом при выявлении систематических погрешностей следует 
определить величины получающихся отклонений и внести поправки 
в результаты измерений. 

3.2. Случайные погрешности 

Случайными называются погрешности, которые при повторных 
измерениях в одинаковых условиях изменяются случайным, непредсказуемым образом. Другими словами, вы делаете точно одно и то 

же, а результаты измерений оказываются различными. Случайные 
погрешности связаны с большим числом различных причин. Действие этих причин при каждом измерении неодинаково и не может 
быть учтено. Источниками случайных погрешностей могут быть, например, колебания воздуха, оседающая пыль, силы прижима и химические реакции в местах электрических контактов, случайные колебания электрического напряжения в источнике тока, влажность и 
температура рук экспериментатора, а также множество других причин, которые практически невозможно учесть детерминированным 
образом. 
При выявлении случайных погрешностей следует оценить их величину и приводить её как одну из важнейших характеристик результатов измерений. 

3.3. Грубые погрешности, или промахи 

Третий тип погрешностей, которые встречаются в практике измерений, – это грубые (большие) погрешности, выбросы или промахи. 
Промахи отличаются от случайных погрешностей по своей величине: 
промахи заметно больше случайных погрешностей (см. разд. 4.3). 
Промахи происходят, если, например, сломался прибор или были 
неправильно записаны показания прибора, или неожиданно произошли существенные изменения в условиях измерений: скажем, отвинтился какой-нибудь винт или же изменилась температура образца. Причины промахов могут быть самыми разными. 
Для того чтобы заметить промах и сразу его устранить, нужно 
быть во время измерений очень внимательным; следить за плавностью изменения результатов измерений. Иногда можно выявить промах, просто повторив измерения несколько раз. Иногда полезно бывает повторить измерения в несколько других условиях, например, 
перейдя на другой участок шкалы прибора или заменив прибор; или 
повторить измерения, спустя такое время, когда наблюдатель уже 
забыл полученные ранее результаты, или передать выполнение измерений другому наблюдателю и т.д. 
При обработке и анализе результатов измерений промахи исключают из рассмотрения. 

3.4. Классификация погрешностей 

Источниками погрешностей всех трех перечисленных типов могут служить, во-первых, приборы, используемые при измерениях, и, 

во-вторых, методика проведения измерений и расчетов. Результаты 
любых измерений могут содержать погрешности всех шести разновидностей (см. таблицу). 

Определение типа погрешностей 

Тип погрешности 
Источник 
погрешности 
систематическая 
случайная 
грубая (выброс, 
промах) 

Приборы 

Оценивается по сравнению с результатами, полученными с 
помощью прецизионных приборов 

Оценивается по характеристикам прибора 

Методика 

Оценивается по 
сравнению с результатами измерений 
эталона 

Оценивается по результатам нескольких 
измерений 

Выявляется по 
слишком большим отклонениям результата 
одного измерения от остальных 

 
Исторически сложилось, что систематическую и случайную приборные погрешности именуют просто приборной (инструментальной), а случайную методическую погрешность – просто случайной. 

4. ВЕРОЯТНОСТНЫЕ ХАРАКТЕРИСТИКИ 
СЛУЧАЙНЫХ ПОГРЕШНОСТЕЙ 

4.1. Понятие вероятности события. Оценка 
вероятности 

Невозможность гарантированно (однозначно, детерминированно) 
предсказать результат случайного события вовсе не означает, что про 
него вообще ничего нельзя сказать. Рассмотрим простейший пример 
с подбрасыванием монеты. Гарантированно угадать, упадет ли она 
вверх «орлом» или «решкой» при предстоящем подбрасывании, невозможно. Однако если подбросить монету n = 1 000 000 раз, то 
можно утверждать, что примерно 500 000 раз она упадет «орлом» 
вверх. Число выпадений «орла» k практически никогда не будет точно равно 500 000, но оно будет относительно близко к 500 000. Если 
мы, повторяя один и тот же опыт n раз, наблюдаем некоторое событие k раз, то отношение q = k/n называют частотой совершения (появления) данного события. В тех случаях, когда при неограниченном 
увеличении числа наблюдений n модуль разности 

 
k
P
n
−
< ζ  
(4.1) 

между некоторым числом P и частотой q совершения события становится меньше как угодно малого наперед заданного положительного 
числа (
0)
ζ ζ ≠
, число P называют вероятностью данного события. В 
примере с подбрасыванием монеты вероятность выпадения «орла» 

0
0,5.
P =
 
При достаточно большом числе опытов n частота совершения 
(появления) события q = k/n примерно равна вероятности события P. 
Когда q примерно равно Р (q ≈ P), частоту q называют оценкой вероятности. 
Если вероятность P очень близко приближается к нулю, это означает, что такого события практически не может произойти. При P = 1 
событие обязательно (детерминированно) произойдет. Многие законы физики могут быть сформулированы только в вероятностном 
смысле. Например, закон распределения Максвелла (закон о том, 
сколько молекул газа с какими скоростями двигаются) имеет вероятностный характер. При стремлении вероятности событий к единице