Математическая обработка результатов измерений

МИНИСТЕРСТВО  ОБРАЗОВАНИЯ  И  НАУКИ  РОССИЙСКОЙ  ФЕДЕРАЦИИ 
 

СИБИРСКИЙ  ФЕДЕРАЛЬНЫЙ  УНИВЕРСИТЕТ 
 
 
 
 
 
 
 
 
 
 
 
 
 
П. С. Шпаков, Ю. Л. Юнаков 
 
МАТЕМАТИЧЕСКАЯ  ОБРАБОТКА 
РЕЗУЛЬТАТОВ  ИЗМЕРЕНИЙ 
 
Допущено Учебно-методическим объединением вузов Российской 
Федерации по образованию в области горного дела в качестве учебного 
пособия для студентов вузов, обучающихся по направлению подготовки 
(специальности) «Горное дело» и «Физические процессы горного или нефтегазового производства», рег. номер 51-16/414 
 
 
 
 
 
 
 
 
 
 
 
 
 

Красноярск 

СФУ 
2014 

 

УДК 622.232.8:53(07) 
ББК  33-я73 
Ш83 
 
Р е ц е н з е н т ы :  
Ю. И. Кутепов, д-р техн. наук, проф. заведующий лабораторией 
гидрогеологии и экологии Научного центра геомеханики и проблем 
горного производства Национального минерально-сырьевого университета «Горный»; 
В. В. Руденко, д-р техн. наук, проф. кафедры маркшейдерского дела и геодезии Московского государственного горного университета 
 
 
 
 
 
Шпаков, П. С. 
Ш83 
 
Математическая обработка результатов измерений: учеб. пособие / П. С. Шпаков, Ю. Л. Юнаков. – Красноярск : Сиб. федер. 
ун-т, 2014. – 410 с. 
ISBN 978-5-7638-3077-4 
 
В первом разделе учебного пособия изложены основные сведения о теории вероятностей и статистической обработке результатов измерений, о способах расчета ковариационных, корреляционных связей и регрессивном анализе. Второй раздел посвящен теории погрешностей измерений и методу 
наименьших квадратов, приведены принципы и методы уравнивания маркшейдерско-геодезических сетей, основанные на реализации метода наименьших квадратов.  
Предназначено для студентов, обучающихся по направлению подготовки 
(специальности) «Горное дело» и «Физические процессы горного или нефтегазового производства». Может быть полезно для студентов всех специальностей горного профиля, изучающих геодезию и маркшейдерское дело. 
 

Электронный вариант издания см.: 
УДК 622.232.8:53(07) 

http://catalog.sfu-kras.ru 
ББК  33-я73 
 
 
 
 
 
 
ISBN 978-5-7638-3077-4 
© Сибирский федеральный 
университет, 2014 

Введение 

3 

ВВЕДЕНИЕ 
 
 
Развитие теории и практики математической обработки случайных 
величин исторически связано с астрономическими и геодезическими измерениями и вычислениями. Неопределенность результатов, возникающая 
из-за избыточного числа измерений, при наличии погрешностей привела 
к необходимости нахождения наилучших решений. Такие решения рассмотрены в работах Р. Коутса (1682–1716), Л. Эйлера (1707–1783), Р. И. Босковича (1711–1787), И. Г. Ламберта (1728–1777), Ж. Л. Лагранжа (1736–1813), 
П. С. Лапласа (1749–1827). 
Р. Коутс при обработке ряда неравноточных измерений одной величины (по аналогии с нахождением центра тяжести) предложил принимать 
значение, получаемое с учетом весов измерений. Объединив искомые неизвестные, Эйлер составил систему нормальных уравнений. На основе 
изучения свойств погрешностей с вероятностных позиций И. Ламберт 
сформулировал правила оценки их точности и впервые предложил принцип максимального правдоподобия (1760 г). Р. Боскович разработал метод 
решения неопределенной системы уравнений при условии минимума абсолютных значений. Задача о вероятностях появления погрешностей среднего арифметического при различных распределениях случайных величин 
была успешно решена Ж. Лагранжем. В книге «Аналитическая теория» 
Лаплас изложил основы теории вероятностей и ее приложений к математической обработке наблюдений [1]. 
Труды авторов XVII – XVIII вв. подготовили основу метода наименьших квадратов и современной теории погрешностей измерений. 
В 1806 г. французский ученый Лежандр (1752–1833) на примере обработки градусных измерений продемонстрировал эффективность принципа наименьших квадратов. Результаты обработки были опубликованы 
им в статье «Новые методы определения кометных орбит». 
Спустя три года знаменитый немецкий математик К. Гаусс (1777–
1855) в работе «Теория движения небесных тел, вращающихся вокруг 
Солнца» научно обосновал принцип наименьших квадратов. 
С именем Карла Гаусса связаны фундаментальные исследования 
практически во всех областях математики, а также в астрономии, геодезии, 
механике, в теории электричества и магнетизма. Исключительна его роль 
в развитии теории математической обработки результатов измерений. 
Именем Гаусса названы закон нормального распределения случайных величин, способ решения системы линейных уравнений, алгоритм, символика, вычислительная схема. Метод наименьших квадратов К. Гаусс впервые применил при обработке обратной геодезической засечки в 1823 г. 

Введение 

4 

и триангуляционных сетей в городе Ганновере в 1826 г. В это же время, 
занимаясь построением, Гаусс создал основы обработки неравноточных 
измерений. 
Дальнейшее развитие теории математической обработки связано 
с именами немецких геодезистов (Бесселя, Ганзена, Гельмерта, Герлинга, 
Шрейбера и др.). Ими были разработаны два основных варианта численной обработки геодезических построений по методу наименьших квадратов – параметрический и коррелатный; созданы теория и методы оценки 
точности по результатам обработки; предложены различные модификации 
основных способов обработки. 
Несмотря на детально разработанные способы обработки измерений 
по методу наименьших квадратов, такая обработка долгое время не использовалась из-за возникающих трудностей при вычислении, поскольку 
наиболее эффективным средством вычислений в то время были таблицы 
логарифмов. Для сокращения объемов вычислений были разработаны приближенные способы обработки геодезических измерений. При этом для 
обоснования допустимости приближенных способов их результаты сравнивали с результатами обработки по методу наименьших квадратов. 
Фундаментальный вклад в развитие и совершенствование теории вероятностей и метода наименьших квадратов внесли русские и советские 
ученые П. Л. Чебышев (1821–1894), А. А. Марков (1856–1922), А. М. Ляпунов (1857–1918), А. Н. Колмогоров (1902–1987), А. Я. Хинчин (1894–
1959), Н. В. Смирнов (1900–1960), Ю. В. Линник (1915–1972). 
В 1836 г. русским военным геодезистом А.П. Болотовым было создано первое практическое руководство по применению метода наименьших квадратов для геодезических вычислений.  
В 1857 г. академик А. Н. Савич написал книгу «Приложение теории 
вероятностей к вычислению наблюдений и геодезических измерений», которая была позже издана на немецком языке в Германии. В конце XIX – 
начале XX вв. появились работы русских ученых Г. А. Тиме (1831–1910), 
В. И. Баумана (1867–1923) и П. М. Леонтовского (1870–1921) по применению теории вероятностей и метода наименьших квадратов при обработке 
маркшейдерских измерений. 
Значительный вклад в разработку методов математической обработки обширных астрономо-геодезических сетей внесли советские ученые – 
профессоры Ф. Н. Красовский (1878–1948) и Н. А. Урмаев (1895–1959). 
Большая заслуга в создании практических руководств по обработке таких 
сетей принадлежит советским геодезистам И. М. Герасимову и И. Ю. Пранис-Праневичу. Метод Пранис-Праневича (обработка геодезических сетей 
с расчленением их на отдельные участки) положен в основу различных современных модификаций групповых способов обработки. Оригинальный 

Введение 

5 

метод графического уравнивания геодезических построений был предложен проф. Н. Г. Келлем. 
Учебное пособие «Математическая обработка результатов измерений» 
составлено в соответствии с учебным планом подготовки специалистов по 
направлению 130400.65 «Горное дело», специализация 130400.65.00.04 
«Маркшейдерское дело», в ФГАОУВПО «Сибирский федеральный университет», относится к математическому и естественно-научному циклу 
С2.Б.9 (С.2 – по стандарту) и отвечает требованиям Федерального государственного образовательного стандарта высшего профессионального образования по направлению подготовки (специальности) 130400 «Горное дело» (квалификация (степень) «специалист»), который утвержден приказом 
Министерства образования и науки Российской Федерации от 24 января 
2011 г. № 89.  
Целью пособия является обучение базовым навыкам в области анализа и обработки экспериментальных и измерительных данных, в частности погружения в новые программные среды статистической обработки. 
Главная задача пособия – помочь в выработке необходимых навыков логического мышления для взаимодействия с компьютерным интерфейсом, 
приобретения теоретических и практических базовых знаний в области пакетов анализа и обработки данных.  
На наш взгляд, в результате изучения учебного пособия будут достигнуты следующие компетенции (ПК): 
общепрофессиональные:  
• демонстрировать пользование компьютером как средством управления и обработки информационных массивов (ПК-4); 
в области производственно-технологической деятельности (ПТД):  
• определять пространственно-геометрическое положение объектов, 
осуществлять необходимые геодезические и маркшейдерские измерения, обрабатывать и интерпретировать их результаты (ПК-13); 
в области научно-исследовательской деятельности (НИД): 
• участвовать в исследованиях объектов профессиональной деятельности и их структурных элементов (ПК-20); 
в области проектной деятельности (ПД):  
• работать с программными продуктами общего и специального назначения для моделирования месторождений твердых полезных 
ископаемых, технологий эксплуатационной разведки, добычи 
и переработки твердых полезных ископаемых, при строительстве 
и эксплуатации подземных объектов, оценке экономической эффективности горных и горно-строительных работ, производственных, технологических, организационных и финансовых рисков 
в рыночных условиях (ПК-28). 

Введение 

6 

Задачи математической обработки результатов измерений возникают 
и могут решаться только при наличии избыточных измерений, выполненных сверх необходимого количества, что, с одной стороны, обеспечивает 
контроль и надежность результатов, а с другой стороны, приводит к получению нескольких значений одной и той же величины, численно различающихся из-за влияния погрешностей измерений.  
Математическая обработка результатов измерений выполняется для 
решения двух основных задач [1–15]: 
1) получения однозначных результатов, основанных на избыточной 
информации, наилучшим образом приближающихся к неизвестным истинным значениям измеряемых величин и их функций; 
2) контроля качества и оценки точности измеренных величин и их 
функций. 
Первая задача решается при помощи метода наименьших квадратов, 
который помимо нахождения оптимальных значений измеренных величин 
позволяет оценить их точность и качество выполненных измерений, т. е. 
решить вторую задачу математической обработки измерений.  
Пособие состоит из двух разделов, логически связанных друг с другом:  
1. Основы теории вероятностей и статистическая обработка результатов измерений. В каждой теме раздела даны практические примеры решения тех или иных задач, что, естественно, облегчит понимание материала.  
2. Теория погрешностей измерений. Уравнивание геодезических 
сетей. Уравнивание нормально распределенных величин по методу наименьших квадратов приводит по вероятности к наилучшим результатам, 
т. е. полученные оценки в совокупности располагаются ближе к истинным 
неизвестным значениям. Процесс нахождения значений параметров называется уравниванием по методу наименьших квадратов, или строгим уравниванием. Строгое уравнивание может быть выполнено параметрическим 
или коррелатным способами, которые являются вычислительными реализациями метода наименьших квадратов и приводят к одним и тем же результатам. Во всех темах для облегчения понимания материала приведены 
примеры решений с подробным объяснением. 
 
 
 

1. Сведения из теории вероятностей 

7 

РАЗДЕЛ  I 
 
 
1. СВЕДЕНИЯ  О  ТЕОРИИ  ВЕРОЯТНОСТЕЙ 
 
 
1.1. Предмет теории вероятностей.  
Случайные события 
 
Теория вероятностей и математическая статистика являются теоретической основой курса математической обработки измерений [5,6]. 
Наблюдаемые события (явления) по степени возможности их появления можно подразделить на следующие три вида: достоверные, невозможные и случайные. 

Достоверным называют событие, которое обязательно произойдет, 

если будет осуществлена определенная совокупность условий (обозначим 
данную совокупность множеством S). Например, если в сосуде содержится 
вода при нормальном атмосферном давлении и температуре 20°, то событие «вода в сосуде находится в жидком состоянии» – достоверное. В этом 
примере заданные атмосферное давление и температура воды составляют 
совокупность условий S. 

Невозможным называют событие, которое заведомо не произойдет, 

если будет осуществлена совокупность условий S. Например, событие «вода в сосуде находится в твердом состоянии» заведомо не произойдет, если 
будет осуществлена совокупность условий предыдущего примера. 

Случайным называют событие, которое при осуществлении совокуп
ности условий S может либо произойти, либо не произойти. Например, если брошена монета, то она может упасть так, что сверху будет либо герб, 
либо надпись. Поэтому событие «при бросании монеты выпал «герб» – 
случайное. Каждое случайное событие, в частности выпадение «герба», 
есть следствие действия очень многих случайных причин (в нашем примере: сила, с которой брошена монета, форма монеты и многие другие). Невозможно учесть влияние на результат всех этих причин, поскольку число 
их очень велико и законы их действия неизвестны. Поэтому теория вероятностей не ставит перед собой задачу предсказать, произойдет единичное 
событие или нет. По-иному обстоит дело, если рассматриваются случайные события, которые могут многократно наблюдаться при осуществлении 
одних и тех же условий S, т. е. если речь идет о массовых однородных случайных событиях.  

Оказывается, что достаточно большое число однородных случайных 

событий независимо от их конкретной природы подчиняется определенным 

Раздел  I 

8 

закономерностям, а именно вероятностным. Установлением этих закономерностей и занимается теория вероятностей [5,6]. 

Итак, предметом теории вероятностей является изучение вероят
ностных закономерностей массовых однородных случайных событий. 

Знание закономерностей, которым подчиняются массовые случайные 

события, позволяет предвидеть, как эти события будут протекать. Например, хотя, как было уже сказано, нельзя наперед определить результат одного бросания монеты, но можно предсказать, причем с небольшой погрешностью, число появлений «герба», если монета будет брошена достаточно большое число раз. При этом предполагается, что монету бросают 
в одних и тех же условиях. 

Под реализацией совокупности условий S в дальнейшем будем пони
мать условия проведения испытаний и выполнения измерений.  

Предположим, что в результате испытания (реализации совокупно
сти условий S) может произойти либо не произойти случайное событие А.  

Величину, характеризующую степень возможности реализации слу
чайного события А при выполнении совокупности условий S, называют 
вероятностью наступления события – р(А). Вероятность является величиной безразмерной, изменяющейся в пределах от 0 до 1. 

Методы теории вероятностей широко применяются в различных отрас
лях естествознания и техники: в теории надежности, теории массового обслуживания, в теоретической физике, геодезии, астрономии, теории ошибок измерений, теории автоматического управления, общей теории связи и во многих других теоретических и прикладных науках. Теория вероятностей служит 
также для обоснования математической и прикладной статистики, которая 
в свою очередь используется при планировании и организации производства. 

Первые работы, в которых зарождались основные понятия теории 

вероятностей, представляли собой попытки создания теории азартных игр 
(Кардано, Гюйгенс, Паскаль, Ферма и другие ученые в XVI–XVII вв.). 

Важный этап развития теории вероятностей связан с именем Якоба 

Бернулли (1654–1705). Доказанная им теорема, получившая впоследствии 
название «закона больших чисел», была первым теоретическим обоснованием накопленных ранее фактов. 
 
1.1.1. Классическое и статистическое  
определение вероятности 
 
Рассмотрим классическое определение вероятности  
Вероятностью события А называют отношение числа благоприятствующих этому событию исходов к общему числу всех равновозможных 
несовместных элементарных исходов, образующих полную группу: 

 

 
P (A) = m / n. 
(1.1) 

1. Сведения из теории вероятностей 

9 

Следствия классического определения: 
1) вероятность достоверного события равна 1; 
2) вероятность невозможного события равна 0; 
3) вероятность случайного события есть положительное число от 
0 до 1. 
Статистическое определение вероятности приведено ниже. 
Относительной частотой события называют отношение числа испытаний (измерений), в которых событие появилось, к общему числу фактически произведенных испытаний: 
 

 
W (A) = m1 / n1. 
(1.2) 
 
При большом числе испытаний относительная частота обнаружи
вает свойство устойчивости, приближаясь (тем точнее, чем больше количество испытаний) к некоторому постоянному числу. 

Классическое определение вероятности предполагает, что общее чис-

ло элементарных исходов (результатов) конечно. На практике весьма часто 
встречаются испытания, число возможных исходов которых бесконечно. 
По этой причине, наряду с классическим, сформулировано статистическое 
определение вероятности. В качестве статистической вероятности события принимают относительную частоту или число, близкое к ней. 

Теорема Бернулли (закон больших чисел). Если в каждом из n неза
висимых испытаний вероятность p появления события А постоянна, то вероятность p является пределом относительной частоты W при достаточно 
большом числе испытаний: 
 

 
lim
( )
( )
n
W A
P A
→∞
=
. 
(1.3) 

 
 
1.1.2. Виды случайных событий 
 
События называют несовместными, если появление одного из них 
исключает появление других событий в одном и том же испытании. 
События называют независимыми, если появление одного из них не 
изменяет вероятности появления других событий. 
Полная группа событий. Несколько событий образуют полную группу, если в результате испытания появится хотя бы одно из них. Если события, образующие полную группу несовместны, то в результате испытания 
появится одно и только одно из этих событий. 

Пусть в результате испытания может произойти одно и только одно 

из n несовместных событий (A1, A1, …, An), образующих полную группу. 

Сумма вероятностей событий, образующих полную группу, равна 

единице:  

 
P (A1) + P (A2) + … + P (An) = 1. 
(1.4)