МИНИСТЕРСТВО  ОБРАЗОВАНИЯ  И  НАУКИ  РОССИЙСКОЙ  ФЕДЕРАЦИИ 
 

СИБИРСКИЙ  ФЕДЕРАЛЬНЫЙ  УНИВЕРСИТЕТ 
 
 
 
 
 
 
 
 
 
 
 
 
 
П. С. Шпаков, Ю. Л. Юнаков 
 
МАТЕМАТИЧЕСКАЯ  ОБРАБОТКА 
РЕЗУЛЬТАТОВ  ИЗМЕРЕНИЙ 
 
Допущено Учебно-методическим объединением вузов Российской 
Федерации по образованию в области горного дела в качестве учебного 
пособия для студентов вузов, обучающихся по направлению подготовки 
(специальности) «Горное дело» и «Физические процессы горного или неф-
тегазового производства», рег. номер 51-16/414 
 
 
 
 
 
 
 
 
 
 
 
 
 

Красноярск 

СФУ 
2014 

 

УДК 622.232.8:53(07) 
ББК  33-я73 
Ш83 
 
Р е ц е н з е н т ы :  
Ю. И. Кутепов, д-р техн. наук, проф. заведующий лабораторией 
гидрогеологии и экологии Научного центра геомеханики и проблем 
горного производства Национального минерально-сырьевого универ-
ситета «Горный»; 
В. В. Руденко, д-р техн. наук, проф. кафедры маркшейдерского де-
ла и геодезии Московского государственного горного университета 
 
 
 
 
 
Шпаков, П. С. 
Ш83 
 
Математическая обработка результатов измерений: учеб. по-
собие / П. С. Шпаков, Ю. Л. Юнаков. – Красноярск : Сиб. федер. 
ун-т, 2014. – 410 с. 
ISBN 978-5-7638-3077-4 
 
В первом разделе учебного пособия изложены основные сведения о тео-
рии вероятностей и статистической обработке результатов измерений, о спо-
собах расчета ковариационных, корреляционных связей и регрессивном ана-
лизе. Второй раздел посвящен теории погрешностей измерений и методу 
наименьших квадратов, приведены принципы и методы уравнивания марк-
шейдерско-геодезических сетей, основанные на реализации метода наимень-
ших квадратов.  
Предназначено для студентов, обучающихся по направлению подготовки 
(специальности) «Горное дело» и «Физические процессы горного или неф-
тегазового производства». Может быть полезно для студентов всех специ-
альностей горного профиля, изучающих геодезию и маркшейдерское дело. 
 

Электронный вариант издания см.: 
УДК 622.232.8:53(07) 

http://catalog.sfu-kras.ru 
ББК  33-я73 
 
 
 
 
 
 
ISBN 978-5-7638-3077-4 
© Сибирский федеральный 
университет, 2014 

Введение 

3 

ВВЕДЕНИЕ 
 
 
Развитие теории и практики математической обработки случайных 
величин исторически связано с астрономическими и геодезическими изме-
рениями и вычислениями. Неопределенность результатов, возникающая 
из-за избыточного числа измерений, при наличии погрешностей привела 
к необходимости нахождения наилучших решений. Такие решения рассмот-
рены в работах Р. Коутса (1682–1716), Л. Эйлера (1707–1783), Р. И. Боскови-
ча (1711–1787), И. Г. Ламберта (1728–1777), Ж. Л. Лагранжа (1736–1813), 
П. С. Лапласа (1749–1827). 
Р. Коутс при обработке ряда неравноточных измерений одной вели-
чины (по аналогии с нахождением центра тяжести) предложил принимать 
значение, получаемое с учетом весов измерений. Объединив искомые не-
известные, Эйлер составил систему нормальных уравнений. На основе 
изучения свойств погрешностей с вероятностных позиций И. Ламберт 
сформулировал правила оценки их точности и впервые предложил прин-
цип максимального правдоподобия (1760 г). Р. Боскович разработал метод 
решения неопределенной системы уравнений при условии минимума аб-
солютных значений. Задача о вероятностях появления погрешностей сред-
него арифметического при различных распределениях случайных величин 
была успешно решена Ж. Лагранжем. В книге «Аналитическая теория» 
Лаплас изложил основы теории вероятностей и ее приложений к матема-
тической обработке наблюдений [1]. 
Труды авторов XVII – XVIII вв. подготовили основу метода наимень-
ших квадратов и современной теории погрешностей измерений. 
В 1806 г. французский ученый Лежандр (1752–1833) на примере об-
работки градусных измерений продемонстрировал эффективность прин-
ципа наименьших квадратов. Результаты обработки были опубликованы 
им в статье «Новые методы определения кометных орбит». 
Спустя три года знаменитый немецкий математик К. Гаусс (1777–
1855) в работе «Теория движения небесных тел, вращающихся вокруг 
Солнца» научно обосновал принцип наименьших квадратов. 
С именем Карла Гаусса связаны фундаментальные исследования 
практически во всех областях математики, а также в астрономии, геодезии, 
механике, в теории электричества и магнетизма. Исключительна его роль 
в развитии теории математической обработки результатов измерений. 
Именем Гаусса названы закон нормального распределения случайных ве-
личин, способ решения системы линейных уравнений, алгоритм, симво-
лика, вычислительная схема. Метод наименьших квадратов К. Гаусс впер-
вые применил при обработке обратной геодезической засечки в 1823 г. 

Введение 

4 

и триангуляционных сетей в городе Ганновере в 1826 г. В это же время, 
занимаясь построением, Гаусс создал основы обработки неравноточных 
измерений. 
Дальнейшее развитие теории математической обработки связано 
с именами немецких геодезистов (Бесселя, Ганзена, Гельмерта, Герлинга, 
Шрейбера и др.). Ими были разработаны два основных варианта числен-
ной обработки геодезических построений по методу наименьших квадра-
тов – параметрический и коррелатный; созданы теория и методы оценки 
точности по результатам обработки; предложены различные модификации 
основных способов обработки. 
Несмотря на детально разработанные способы обработки измерений 
по методу наименьших квадратов, такая обработка долгое время не ис-
пользовалась из-за возникающих трудностей при вычислении, поскольку 
наиболее эффективным средством вычислений в то время были таблицы 
логарифмов. Для сокращения объемов вычислений были разработаны при-
ближенные способы обработки геодезических измерений. При этом для 
обоснования допустимости приближенных способов их результаты срав-
нивали с результатами обработки по методу наименьших квадратов. 
Фундаментальный вклад в развитие и совершенствование теории ве-
роятностей и метода наименьших квадратов внесли русские и советские 
ученые П. Л. Чебышев (1821–1894), А. А. Марков (1856–1922), А. М. Ля-
пунов (1857–1918), А. Н. Колмогоров (1902–1987), А. Я. Хинчин (1894–
1959), Н. В. Смирнов (1900–1960), Ю. В. Линник (1915–1972). 
В 1836 г. русским военным геодезистом А.П. Болотовым было соз-
дано первое практическое руководство по применению метода наимень-
ших квадратов для геодезических вычислений.  
В 1857 г. академик А. Н. Савич написал книгу «Приложение теории 
вероятностей к вычислению наблюдений и геодезических измерений», ко-
торая была позже издана на немецком языке в Германии. В конце XIX – 
начале XX вв. появились работы русских ученых Г. А. Тиме (1831–1910), 
В. И. Баумана (1867–1923) и П. М. Леонтовского (1870–1921) по примене-
нию теории вероятностей и метода наименьших квадратов при обработке 
маркшейдерских измерений. 
Значительный вклад в разработку методов математической обработ-
ки обширных астрономо-геодезических сетей внесли советские ученые – 
профессоры Ф. Н. Красовский (1878–1948) и Н. А. Урмаев (1895–1959). 
Большая заслуга в создании практических руководств по обработке таких 
сетей принадлежит советским геодезистам И. М. Герасимову и И. Ю. Пра-
нис-Праневичу. Метод Пранис-Праневича (обработка геодезических сетей 
с расчленением их на отдельные участки) положен в основу различных со-
временных модификаций групповых способов обработки. Оригинальный 

Введение 

5 

метод графического уравнивания геодезических построений был предло-
жен проф. Н. Г. Келлем. 
Учебное пособие «Математическая обработка результатов измерений» 
составлено в соответствии с учебным планом подготовки специалистов по 
направлению 130400.65 «Горное дело», специализация 130400.65.00.04 
«Маркшейдерское дело», в ФГАОУВПО «Сибирский федеральный уни-
верситет», относится к математическому и естественно-научному циклу 
С2.Б.9 (С.2 – по стандарту) и отвечает требованиям Федерального государ-
ственного образовательного стандарта высшего профессионального обра-
зования по направлению подготовки (специальности) 130400 «Горное де-
ло» (квалификация (степень) «специалист»), который утвержден приказом 
Министерства образования и науки Российской Федерации от 24 января 
2011 г. № 89.  
Целью пособия является обучение базовым навыкам в области ана-
лиза и обработки экспериментальных и измерительных данных, в частно-
сти погружения в новые программные среды статистической обработки. 
Главная задача пособия – помочь в выработке необходимых навыков логи-
ческого мышления для взаимодействия с компьютерным интерфейсом, 
приобретения теоретических и практических базовых знаний в области па-
кетов анализа и обработки данных.  
На наш взгляд, в результате изучения учебного пособия будут дос-
тигнуты следующие компетенции (ПК): 
общепрофессиональные:  
• демонстрировать пользование компьютером как средством управ-
ления и обработки информационных массивов (ПК-4); 
в области производственно-технологической деятельности (ПТД):  
• определять пространственно-геометрическое положение объектов, 
осуществлять необходимые геодезические и маркшейдерские изме-
рения, обрабатывать и интерпретировать их результаты (ПК-13); 
в области научно-исследовательской деятельности (НИД): 
• участвовать в исследованиях объектов профессиональной дея-
тельности и их структурных элементов (ПК-20); 
в области проектной деятельности (ПД):  
• работать с программными продуктами общего и специального на-
значения для моделирования месторождений твердых полезных 
ископаемых, технологий эксплуатационной разведки, добычи 
и переработки твердых полезных ископаемых, при строительстве 
и эксплуатации подземных объектов, оценке экономической эф-
фективности горных и горно-строительных работ, производствен-
ных, технологических, организационных и финансовых рисков 
в рыночных условиях (ПК-28). 

Введение 

6 

Задачи математической обработки результатов измерений возникают 
и могут решаться только при наличии избыточных измерений, выполнен-
ных сверх необходимого количества, что, с одной стороны, обеспечивает 
контроль и надежность результатов, а с другой стороны, приводит к полу-
чению нескольких значений одной и той же величины, численно разли-
чающихся из-за влияния погрешностей измерений.  
Математическая обработка результатов измерений выполняется для 
решения двух основных задач [1–15]: 
1) получения однозначных результатов, основанных на избыточной 
информации, наилучшим образом приближающихся к неизвестным истин-
ным значениям измеряемых величин и их функций; 
2) контроля качества и оценки точности измеренных величин и их 
функций. 
Первая задача решается при помощи метода наименьших квадратов, 
который помимо нахождения оптимальных значений измеренных величин 
позволяет оценить их точность и качество выполненных измерений, т. е. 
решить вторую задачу математической обработки измерений.  
Пособие состоит из двух разделов, логически связанных друг с другом:  
1. Основы теории вероятностей и статистическая обработка результа-
тов измерений. В каждой теме раздела даны практические примеры реше-
ния тех или иных задач, что, естественно, облегчит понимание материала.  
2. Теория погрешностей измерений. Уравнивание геодезических 
сетей. Уравнивание нормально распределенных величин по методу наи-
меньших квадратов приводит по вероятности к наилучшим результатам, 
т. е. полученные оценки в совокупности располагаются ближе к истинным 
неизвестным значениям. Процесс нахождения значений параметров назы-
вается уравниванием по методу наименьших квадратов, или строгим урав-
ниванием. Строгое уравнивание может быть выполнено параметрическим 
или коррелатным способами, которые являются вычислительными реали-
зациями метода наименьших квадратов и приводят к одним и тем же ре-
зультатам. Во всех темах для облегчения понимания материала приведены 
примеры решений с подробным объяснением. 
 
 
 

1. Сведения из теории вероятностей 

7 

РАЗДЕЛ  I 
 
 
1. СВЕДЕНИЯ  О  ТЕОРИИ  ВЕРОЯТНОСТЕЙ 
 
 
1.1. Предмет теории вероятностей.  
Случайные события 
 
Теория вероятностей и математическая статистика являются теоре-
тической основой курса математической обработки измерений [5,6]. 
Наблюдаемые события (явления) по степени возможности их появ-
ления можно подразделить на следующие три вида: достоверные, невоз-
можные и случайные. 

Достоверным называют событие, которое обязательно произойдет, 

если будет осуществлена определенная совокупность условий (обозначим 
данную совокупность множеством S). Например, если в сосуде содержится 
вода при нормальном атмосферном давлении и температуре 20°, то собы-
тие «вода в сосуде находится в жидком состоянии» – достоверное. В этом 
примере заданные атмосферное давление и температура воды составляют 
совокупность условий S. 

Невозможным называют событие, которое заведомо не произойдет, 

если будет осуществлена совокупность условий S. Например, событие «во-
да в сосуде находится в твердом состоянии» заведомо не произойдет, если 
будет осуществлена совокупность условий предыдущего примера. 

Случайным называют событие, которое при осуществлении совокуп-

ности условий S может либо произойти, либо не произойти. Например, ес-
ли брошена монета, то она может упасть так, что сверху будет либо герб, 
либо надпись. Поэтому событие «при бросании монеты выпал «герб» – 
случайное. Каждое случайное событие, в частности выпадение «герба», 
есть следствие действия очень многих случайных причин (в нашем приме-
ре: сила, с которой брошена монета, форма монеты и многие другие). Не-
возможно учесть влияние на результат всех этих причин, поскольку число 
их очень велико и законы их действия неизвестны. Поэтому теория веро-
ятностей не ставит перед собой задачу предсказать, произойдет единичное 
событие или нет. По-иному обстоит дело, если рассматриваются случай-
ные события, которые могут многократно наблюдаться при осуществлении 
одних и тех же условий S, т. е. если речь идет о массовых однородных слу-
чайных событиях.  

Оказывается, что достаточно большое число однородных случайных 

событий независимо от их конкретной природы подчиняется определенным 

Раздел  I 

8 

закономерностям, а именно вероятностным. Установлением этих законо-
мерностей и занимается теория вероятностей [5,6]. 

Итак, предметом теории вероятностей является изучение вероят-

ностных закономерностей массовых однородных случайных событий. 

Знание закономерностей, которым подчиняются массовые случайные 

события, позволяет предвидеть, как эти события будут протекать. Напри-
мер, хотя, как было уже сказано, нельзя наперед определить результат од-
ного бросания монеты, но можно предсказать, причем с небольшой по-
грешностью, число появлений «герба», если монета будет брошена доста-
точно большое число раз. При этом предполагается, что монету бросают 
в одних и тех же условиях. 

Под реализацией совокупности условий S в дальнейшем будем пони-

мать условия проведения испытаний и выполнения измерений.  

Предположим, что в результате испытания (реализации совокупно-

сти условий S) может произойти либо не произойти случайное событие А.  

Величину, характеризующую степень возможности реализации слу-

чайного события А при выполнении совокупности условий S, называют 
вероятностью наступления события – р(А). Вероятность является величи-
ной безразмерной, изменяющейся в пределах от 0 до 1. 

Методы теории вероятностей широко применяются в различных отрас-

лях естествознания и техники: в теории надежности, теории массового обслу-
живания, в теоретической физике, геодезии, астрономии, теории ошибок из-
мерений, теории автоматического управления, общей теории связи и во мно-
гих других теоретических и прикладных науках. Теория вероятностей служит 
также для обоснования математической и прикладной статистики, которая 
в свою очередь используется при планировании и организации производства. 

Первые работы, в которых зарождались основные понятия теории 

вероятностей, представляли собой попытки создания теории азартных игр 
(Кардано, Гюйгенс, Паскаль, Ферма и другие ученые в XVI–XVII вв.). 

Важный этап развития теории вероятностей связан с именем Якоба 

Бернулли (1654–1705). Доказанная им теорема, получившая впоследствии 
название «закона больших чисел», была первым теоретическим обоснова-
нием накопленных ранее фактов. 
 
1.1.1. Классическое и статистическое  
определение вероятности 
 
Рассмотрим классическое определение вероятности  
Вероятностью события А называют отношение числа благоприят-
ствующих этому событию исходов к общему числу всех равновозможных 
несовместных элементарных исходов, образующих полную группу: 

 

 
P (A) = m / n. 
(1.1) 

1. Сведения из теории вероятностей 

9 

Следствия классического определения: 
1) вероятность достоверного события равна 1; 
2) вероятность невозможного события равна 0; 
3) вероятность случайного события есть положительное число от 
0 до 1. 
Статистическое определение вероятности приведено ниже. 
Относительной частотой события называют отношение числа ис-
пытаний (измерений), в которых событие появилось, к общему числу фак-
тически произведенных испытаний: 
 

 
W (A) = m1 / n1. 
(1.2) 
 
При большом числе испытаний относительная частота обнаружи-

вает свойство устойчивости, приближаясь (тем точнее, чем больше коли-
чество испытаний) к некоторому постоянному числу. 

Классическое определение вероятности предполагает, что общее чис-

ло элементарных исходов (результатов) конечно. На практике весьма часто 
встречаются испытания, число возможных исходов которых бесконечно. 
По этой причине, наряду с классическим, сформулировано статистическое 
определение вероятности. В качестве статистической вероятности со-
бытия принимают относительную частоту или число, близкое к ней. 

Теорема Бернулли (закон больших чисел). Если в каждом из n неза-

висимых испытаний вероятность p появления события А постоянна, то ве-
роятность p является пределом относительной частоты W при достаточно 
большом числе испытаний: 
 

 
lim
( )
( )
n
W A
P A
→∞
=
. 
(1.3) 

 
 
1.1.2. Виды случайных событий 
 
События называют несовместными, если появление одного из них 
исключает появление других событий в одном и том же испытании. 
События называют независимыми, если появление одного из них не 
изменяет вероятности появления других событий. 
Полная группа событий. Несколько событий образуют полную груп-
пу, если в результате испытания появится хотя бы одно из них. Если собы-
тия, образующие полную группу несовместны, то в результате испытания 
появится одно и только одно из этих событий. 

Пусть в результате испытания может произойти одно и только одно 

из n несовместных событий (A1, A1, …, An), образующих полную группу. 

Сумма вероятностей событий, образующих полную группу, равна 

единице:  

 
P (A1) + P (A2) + … + P (An) = 1. 
(1.4)