Расчет погрешностей результатов измерений в табличных процессорах

Министерство образования и науки Российской Федерации

Уральский федеральный университет 

имени первого Президента России Б. Н. Ельцина

А. В. Столбовский, Е. П. Фарафонтова

Расчет погрешностей  
результатов измерений 
в табличных процессорах

Учебное пособие

Рекомендовано методическим советом  
Уральского федерального университета  
для студентов вуза, обучающихся по направлениям 
22.04.01 «Материаловедение и технологии материалов», 
22.04.02 «Металлургия», 12.04.02 «Оптотехника», 
08.04.01 «Строительство», 18.04.01 «Химическая технология»

Екатеринбург
Издательство Уральского университета
2017

УДК 004.4:528.088(075.8)
ББК 32.972.131.4я73+30.104я73
         С81

Рецензенты: лаборатория диффузии Института физики метал‑
лов УрО РАН (зав. лабораторией — д‑р техн. наук В. В. Попов); 
доц., канд. техн. наук Ю. В. Худорожкова (руководитель отдела 
содействия научным исследованиям Института машиноведе‑
ния УрО РАН)

Научный редактор — проф., д‑р техн. наук М. Л. Лобанов

С81

Столбовский, А. В.
Расчет погрешностей результатов измерений в таблич‑
ных процессорах : учебное пособие / А. В. Столбовский, 
Е. П. Фарафонтова.  — Екатеринбург : Изд‑во Урал.  
ун‑та, 2017. — 86 с.
ISBN 978‑5‑7996‑2095‑0

В пособии обсуждаются основные методы расчета погрешностей 

измерений экспериментальных данных в табличных процессорах 
применительно к техническим специальностям университета.

Пособие предназначено для обучающихся по программам маги‑

стратуры направлений 22.04.01 «Материаловедение и технологии 
материалов», 22.04.02 «Металлургия», 18.04.01 «Химическая техноло‑
гия», 08.04.01 «Строительство», 12.04.02 «Оптотехника».

Библиогр.: 15 назв. Рис. 15. Табл. 4.

УДК 004.4:528.088(075.8)
ББК 32.972.131.4я73+30.104я73

ISBN 978‑5‑7996‑2095‑0
© Уральский федеральный 
      университет, 2017

ПРЕДИСЛОВИЕ

Проводя любое измерение, следует помнить, что никакое 

измерение не может быть выполнено абсолютно точно. Ре‑
зультат всегда будет содержать некоторую ошибку. Измерения, 
которые были произведены при сравнении измерительных ин‑
струментов и приборов с эталонами, также содержат ошибку. 
Очевидно, что, измеряя с помощью такого инструмента неко‑
торую величину, как правило, невозможно сделать ошибку 
измерения меньшей, чем та, которая определяется погрешно‑
стью измерительного устройства [1]. Соответственно, величи‑
на ошибки должна быть неотъемлемой частью представляемых 
экспериментальных данных.

Зачастую студенты пренебрегают в своих работах вычисле‑

нием погрешностей, считая их несущественными, а если воз‑
никает необходимость, то сталкиваются с трудностями как 
в понимании методик оценки, так и в вычислениях погреш‑
ностей эксперимента, поскольку представляемые в литературе 
методики оценки погрешностей не ориентированы на исполь‑
зование современного программного обеспечения, которое 
имеется в компьютерных классах.

Настоящее пособие имеет целью ознакомить читателя с ме‑

тодиками расчета погрешностей в широко используемом про‑
граммном пакете MS Excel, а также свободно распространяе‑
мых аналогах, таких как OpenOffice/LibreOffice Calc.
Учебное пособие составлено таким образом, чтобы читатель 

смог не только ознакомиться с конечными формулами, но и ра‑

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

зобраться, почему использование именно такой формулы необ‑
ходимо, проанализировать вывод формулы, чтобы понять суть 
предлагаемых методик. Разделы, посвященные применению 
методик в табличных процессорах, позволят повысить уровень 
владения пакетами и освоить разработанные авторами методи‑
ки расчета, которые помогут значительно упростить процесс 
расчета, сделать его наглядным и универсальным.

1. ТОЧНОСТЬ ИЗМЕРЕНИЯ.  
ТИПЫ ОШИБОК

Возникающие при измерении физических величин ошибки 

могут иметь различную природу, не только зависеть от погреш‑
ности прибора, заложенной его производителем, но и обуслав‑
ливаться, например, некорректным считыванием показаний 
оператором с прибора или какими‑либо другими факторами, 
о которых порой невозможно даже предположить.

Очевидно, что оценивать ошибки необходимо еще потому, 

что, не зная каковы они, нельзя сделать достаточно точных 
выводов из эксперимента. Поэтому необходимо каким‑либо 
образом указать, насколько полученный результат может быть 
близок к истинному значению, иными словами указать, какова 
точность измерения [2].

Таким образом, в задачу измерений входит не только нахо‑

ждение непосредственно самой величины, но также и оценка 
допущенной при измерении погрешности.

Ошибки измерения делят [1; 2] на систематические и слу‑
чайные. Так, систематические ошибки вызываются фактора‑
ми, действующими одинаковым образом при многократном 
повторении одних и тех же измерений. А случайные ошибки 
носят название случайных, потому что они имеют различия 
в отдельных измерениях, и эти различия обусловлены случай‑
ной, неизвестной нам составляющей, или по‑другому, дейст‑
вием случайного фактора. Также существует третий тип оши‑
бок, с которыми приходится иметь дело — грубые ошибки, или 

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

промахи. Под промахом понимается ошибка, сделанная вслед‑
ствие неверной записи показаний прибора, неправильно про‑
читанного отсчета и т. п.

Выделим три типа ошибок [1]:
1) систематические, величина которых одинакова во всех 

измерениях, проводящихся одним и тем же методом с помо‑
щью одних и тех же измерительных приборов;

2) случайные, величина их различна даже для измерений, 

выполненных одинаковым образом. Случайные ошибки обя‑
заны своим происхождением ряду причин, действие которых 
неодинаково в каждом опыте и не может быть учтено;

3) промахи. Где, как правило, источником ошибок являет‑
ся недостаток внимания экспериментатора.

1.1. Систематические ошибки

Исключение систематических ошибок, которые в ряде слу‑
чаев могут быть так велики, что полностью искажают резуль‑
таты эксперимента, является одной из важнейших задач при 
проведении измерений. Систематические ошибки делят на че‑
тыре группы [1]:

1. Ошибки, природа которых известна и величина может 

быть достаточно точно определена. Такие ошибки могут быть 
устранены введением соответствующих поправок.

2. Ошибки известного происхождения, но неизвестной ве‑

личины. К их числу можно отнести погрешность измеритель‑
ных приборов. Очевидно, что нет никакого смысла пытаться 
с помощью приборов, где известна погрешность измерения, 
точнее измерять этим прибором, не прибегая к дополнитель‑
ным методикам, повышающим точность измерения.

Систематические ошибки данного типа в общем не могут 

быть исключены, но их наибольшее значение, как правило, 

1. Точность измерения. Типы ошибок 

7

известно и его можно учитывать должным образом в дальней‑
шем.

3. Третья группа систематических ошибок — это ошибки, 

о существовании которых мы не подозреваем, хотя величина 
их может быть очень значительна. Сюда также можно отнести 
группу систематических ошибок, которые, хотя и не связа‑
ны непосредственно с измерительными операциями, могут 
существенным образом искажать результат измерений — это 
ошибки, например, обусловленные свойствами измеряемо‑
го объекта. Учет таких систематических ошибок, по реко‑
мендациям в литературе, следует производить аналогично 
случайным ошибкам [1], если нет возможности доработать 
методику измерения, т. е. представлять их как случайную погреш‑ 
ность.

1.2. Вероятностные оценки ошибок.  
Законы распределения ошибок

При измерениях физических величин в тех случаях, когда 

основную роль играют случайные ошибки, все оценки точно‑
сти измерения можно сделать только с некоторой вероятно‑
стью [1; 3]. Предполагается, что случайные ошибки образуются 
в результате совокупности ряда мелких, неучитываемых при‑
чин, каждая из которых вносит незначительный вклад в общую 
ошибку. Следует считать, что часть из этих ошибок положи‑
тельна, часть — отрицательна. Общая ошибка, которая обра‑
зуется в результате сложения таких элементарных ошибок, 
может иметь различные значения, но каждому из них будет со‑
ответствовать разная вероятность появления.
Теория вероятностей дает возможность оценить, какова бу‑
дет вероятность появления ошибок той или иной величины.
Для того чтобы выявить случайную ошибку измерений, 

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

необходимо повторить измерение несколько раз. Если каждое 
измерение дает заметно отличающиеся от других измерений 
результаты, имеют дело с ситуацией, когда случайная ошибка 
играет существенную роль.
За наиболее вероятное значение измеряемой величины 
обычно принимают ее среднее арифметическое значение, 
вычисленное из всего ряда измеренных значений [1]. Это, 
соответственно, требует от экспериментатора проведения 
многократных измерений с накоплением достаточного для 
измерения с желаемой точностью массива данных, который 
в дальнейшем будет обработан.

1.3. Первичная обработка  
экспериментальных данных в Excel

Поскольку эксперимент, как правило, не состоит из од‑

ного отдельного измерения, то накопленный массив данных 
уже может дать экспериментатору важную информацию об из‑
меряемой величине. Так, отложив по оси абсцисс величину 
«ошибок» (отклонение от среднего значения), а по оси орди‑
нат — количество появлений данного значения, получим сту‑
пенчатую кривую, называемую гистограммой (рис. 1.1). Это 
наиболее простой способ первичной обработки измерений, 
позволяющий на взгляд оценить точность измерений, возмож‑
ное наличие промахов и другие признаки. Так, если увеличи‑
вать число наблюдений, а интервал стремить к нулю, то гисто‑
грамма переходит в пределе в непрерывную кривую, которая 
носит название кривой распределения ошибок [1].

Такую гистограмму легко построить в табличном процессо‑
ре MS Excel, однако стоит помнить, что гистограмма представ‑
ляет собой визуализацию группированных данных, т. е. груп‑
пирование необходимо произвести заранее.

1. Точность измерения. Типы ошибок 

9

Рис. 1.1. Гистограмма

Перед построением следует определить границы варьи‑

рования величины. В указанном примере (рис. 1.2) данные 
представлены в диапазоне (А2:А201). С помощью функций 
МИН(A2:A201) и МАКС(A2:A201) можно определить соответ‑
ственно минимальное и максимальное значение диапазона. 
Определив размер диапазона как разницу между минималь‑
ным и максимальным значением, можно определить шаг, 
поделив массив на количество необходимых поддиапазонов. 
Например, формула для расчета размера поддиапазона в 1/7 
(гистограмма будет состоять из семи поддиапазонов) примет 
следующий вид =(МАКС(A2:A201)-МИН(A2:A201))/7. Гра‑
ницы рассчитанных поддиапазонов проще всего записать