Теория вероятностей и математическая статистика

Министерство науки и высшего образования Российской Федерации

Уральский федеральный университет имени первого Президента России Б. Н. Ельцина


М. А. Альшанский


Теория вероятностей и математическая статистика

Учебное пособие


2-е издание, стереотипное







         Москва                          Екатеринбург
Издательство «ФЛИНТА» Издательство Уральского университета
          2024                               2024

УДК 519.2(075.8)
ББК 22.17я73
А56

Рецензенты:
канд. физ.-мат. наук, доцент, старший научный сотрудник Института математики и механики УрО РАН В. Л. Розенберг;
кафедра высшей математики и методики обучения математике ФГБОУ ВО «Уральский государственный педагогический университет» (завкафедрой, д-р физ.-мат. наук В. Ю. Бодряков)






    Альшанский М. А.
А56 Теория вероятностей и математическая статистика : учеб. пособие / М. А. Альшанский. — 2-е изд., стер. — Москва : ФЛИНТА ; Екатеринбург : Изд-во Урал. ун-та, 2024. — 224 с. — ISBN 978-5-9765-5407-8 (ФЛИНТА) ; ISBN 978-5-7996-3826-9 (Изд-во Урал. ун-та). — Текст : электронный.


        Учебное пособие содержит материал курса теории вероятностей и математической статистики. Изложение материала дает читателю возможность получить представление о фундаментальных основах предмета без чрезмерного погружения в детали теории меры и интеграла Лебега и опирается на стандартные курсы высшей математики для втузов.
        Учебное пособие предназначено для студентов инженерных специальностей.


УДК 519.2(075.8)
ББК 22.17я73



ISBN 978-5-9765-5407-8 (ФЛИНТА)

© Уральский федеральный

ISBN 978-5-7996-3826-9 (Изд-во Урал. ун-та)

университет, 2024
© Альшанский М. А., 2024

       Оглавление



Введение                                                    7

Глава 1. Классические модели теории вероятностей            9
1.1. Случайный эксперимент и случайные события             9
1.2. Пространство элементарных событий                    10
1.3. Операции над событиями                               12
1.4. Схема с конечным числом равновероятных исходов       13
1.5. Схема с геометрическими вероятностями                17
1.6. Задачи для самостоятельного решения                  20

Глава 2. Аксиоматика и формулы теории вероятностей          22
2.1. Вероятностное пространство                           22
2.2. Свойства вероятности                                 25
2.3. Условная вероятность и независимость событий         31
2.4. Задачи для самостоятельного решения                  35

Глава 3. Формула полной вероятности и формула Байеса 37
3.1. Формула полной вероятности                           37
3.2. Формула Байеса

40

3.3. Задачи для самостоятельного решения                  42

     Глава 4. Схема Бернулли и предельные теоремы для нее      43
     4.1. Основные формулы схемы Бернулли                      44
     4.2. Предельные теоремы для схемы Бернулли                46
     4.3. Задачи для самостоятельного решения                  57

     Глава 5. Случайные величины                               59
     5.1. Измеримые функции                                    60
     5.2. Случайные величины и распределения вероятностей      63
     5.3. Дискретные случайные величины                        66
     5.4. Функция распределения случайной величины             72
     5.5. Абсолютно непрерывные случайные величины             78
     5.6. Задачи для самостоятельного решения                  85

     Глава 6. Случайные векторы. Совместные распределения 87
     6.1. Совместные распределения вероятностей дискретных случайных величин                                               88
     6.2. Функция совместного распределения                    90
     6.3. Совместное распределение абсолютно непрерывных случайных
          величин                                              92
     6.4. Независимость случайных величин                      94
     6.5. Критерии независимости случайных величин             97
     6.6. Задачи для самостоятельного решения                  99

     Глава 7. Моменты случайных величин                        101
     7.1. Математическое ожидание                             101
     7.2. Моменты высших порядков                             114
     7.3. Ковариационный момент. Коэффициент корреляции       120
     7.4. Линейная среднеквадратическая регрессия             124
     7.5. Задачи для самостоятельного решения                 129

Глава 8. Условное математическое ожидание                 131
8.1. Условное математическое ожидание дискретных случайных величин                                                    131
8.2. Условное математическое ожидание абсолютно непрерывных случайных величин                                        134
8.3. Среднеквадратическая регрессия                      137
8.4. Задачи для самостоятельного решения                 139

Глава 9. Характеристические функции                       140
9.1. Определение характеристической функции              140
9.2. Свойства характеристических функций                 143
9.3. Задачи для самостоятельного решения                 148

Глава 10. Предельные теоремы теории вероятностей          149
10.1. Сходимость последовательностей случайных величин   149
10.2. Сходимость последовательностей случайных величин по распределению                                   153
10.3. Закон больших чисел                                155
10.4. Теорема непрерывности                              157
10.5. Закон больших чисел Хинчина                        157
10.6. Центральная предельная теорема                     159

Глава 11. Основы математической статистики                164
11.1. Эмпирическая функция распределения                 165
11.2. Эмпирическая плотность распределения               166
11.3. Точечные оценки моментов распределения             167
11.4. Интервальные оценки моментов распределения         170

Глава 12. Проверка статистических гипотез                 174
12.1. Постановка задачи и терминология                    174
12.2. Критерий согласия Колмогорова

175

12.3. Критерий согласия Пирсона                         179

     Библиография                                            183

     Приложение A.  Элементы комбинаторики                  185

     Приложение B.  Гамма-функция Эйлера                    189

     Приложение C.  Многомерное нормальное распределение    191
     C.1. Невырожденное многомерное нормальное распределение 191
     C.2. Невырожденное двумерное нормальное распределение  196
     C.3. Характеристическая функция многомерного нормального распределения                                             200
     C.4.  Вырожденное многомерное нормальное распределение 201
     C.5.  Задачи для самостоятельного решения              203

     Приложение D. Распределение х2 и теорема Пирсона       205
     D.1.  Распределение х²                                 205
     D.2.  Теорема Пирсона                                  206

     Приложение E. Задания лабораторных работ по математической статистике                                             210
     E.1.  Лабораторная работа №1                           210
     E.2.  Лабораторная работа №2                           213


     Приложение F. Ответы к задачам

215

       Введение




    Настоящее учебное пособие написано на основе опыта преподавания автором курса теории вероятностей и математической статистики, рассчитанного на 48 часов аудиторных занятий в Институте радиоэлектроники и информационных технологий (ИРИТ-РТФ УрФУ). Этого времени хватает лишь на краткое введение в два огромных раздела математики, которые на современном уровне их развития используют очень тонкий и нетривиальный математический аппарат. Его освоение — непростая задача для студентов технических специальностей. При этом особую трудность представляет то, что с самого начала от них требуются особые мыслительные навыки — «вероятностная интуиция». Автор поставил перед собой задачу создать учебное пособие, которое помогло бы студенту познакомиться с нетривиальными понятиями изучаемой теории так, чтобы достаточно глубоко понять материал, по возможности избегая чрезмерного погружения в технические детали математического аппарата, и позволило бы преподавателю часть материала оставить студентам на самостоятельное изучение (такой материал входит в учебное пособие в виде приложений).
    Как показывает опыт преподавания, 48-ми часовой курс распадается на три больших раздела. Первый представляет собой элементарное введение в основы теории вероятностей и обычно занимает 16 часов аудиторных занятий (8 лекционных и 8 практических). Ему со

ответствуют главы 1-4 учебного пособия. Задача этого раздела — научить студента основам математического моделирования случайных явлений, развить в нем «вероятностную интуицию». Второй раздел — самый большой. Он посвящен изучению более продвинутого математического аппарата, использующегося для анализа случайных величин и их распределений вероятностей. Обычно он занимает 24 часа аудиторных занятий (6 лекционных и 6 практических). Ему соответствуют главы 5-10. На последний раздел, посвященный основам математической статистики, остается лишь 8 часов аудиторных занятий. Ему соответствуют главы 11 и 12. Материал этого раздела удобно осваивать, сочетая изложение теории с проведением лабораторных работ в вычислительной среде MatLab. Приложение E содержит задания двух лабораторных работ по темам глав 11 и 12.
        В конце каждой из первых девяти глав даны задачи для самостоятельного решения. В приложении F приведены ответы к задачам.

                Глава 1. Классические модели теории

                вероятностей





    1.1. Случайный эксперимент и случайные события

    Теория вероятностей занимается построением и изучением математических моделей случайных явлений. При этом рассматриваются лишь те явления, которые вписываются в концепцию случайного эксперимента.
  Случайным экспериментом называют реальный или гипотетический (воображаемый) эксперимент, который может быть многократно повторен в одних и тех же условиях и может закончиться одним из некоторой заранее известной совокупности возможных исходов, при этом заранее неизвестно, каким именно.
    В качестве примеров случайных экспериментов можно привести бросание монеты или игральной кости, раздачу игральных карт, соревнование по любому виду спорта, измерение какой-либо величины, при котором возникают случайные ошибки, стрельбу по мишени, торги на бирже и т. п.
    В результате проведения случайного эксперимента могут происходить (или не происходить) различные события. В теории вероятностей события принято обозначать большими буквами латинского алфавита. Задавая события, мы будем описывать их словами, заключая описание в фигурные скобки.

Глава 1. Классические модели теории вероятностей

      Пример 1.1.1. Бросают игральную кость. В результате броска могут произойти (или не произойти) следующие события:
        A = {Выпала шестерка} ;
        B = {Выпало четное число} ;
        C = {Выпало меньше 4-х очков} .
        В основе построений теории вероятностей лежит эмпирически обнаруженное явление стабилизации частоты появления случайного события при увеличении числа повторений случайного эксперимента (частотой наступления события при n повторениях случайного эксперимента называется величина —, где m — число наступ-n
     лений данного события). Это явление дает основание для того, чтобы говорить об объективно существующей числовой характеристике события — его вероятности. С ростом числа повторений случайного эксперимента частота наступления события становится близкой к его вероятности. В этом смысле вероятность события характеризует его шансы произойти в данном случайном эксперименте.


        1.2. Пространство элементарных событий

        Базовым элементом математической модели случайного эксперимента является пространство элементарных событий.
      Определение 1.2.1. Пространством элементарных событий для данного случайного эксперимента называют такой набор случайных событий, что в результате проведения этого эксперимента происходит одно и только одно событие из этого набора.
        Пространство элементарных событий традиционно обозначают символом Q. Его элементы обозначают ш и называют исходами эксперимента.
      Пример 1.2.1. Бросают монету. Этому случайному эксперименту можно поставить в соответствие пространство элементарных событий, состоящее из двух элементов:

        Q = {Ш1 , Ш2} ,

1.2. Пространство элементарных событий

11

где ш₁ = {Выпал герб} , ш₂ = {Выпала решетка} .               ■

   r Необходимо отметить, что для построениия «разумной» математической модели, задавая пространство элементарных событий, важно исключить из рассмотрения те события, которые могут произойти на практике, но не представляют интереса и ведут к усложнению модели. Например, в результате броска монета может встать на ребро или укатиться, но включать эти исходы в пространство элементарных событий нецелесообразно.

■ Пример 1.2.2. Бросают игральную кость. Пространством элементарных исходов является набор
    Q = {wi ,Ш2 , Ш₃ , W4 ,Ш₅ , Шб} ,
где wi = {выпало i очков} , i = 1, 6.                         ■
■ Пример 1.2.3. Бросают пару игральных костей. Для этого случайного эксперимента можно построить несколько различных пространств элементарных событий.
1. Qi = {w = {xi, Х2} , | xi G {1, 2,..., 6} , i = 1, 2 , xi < X2} , где xi — количество очков, выпавших на i-й кости. Таким образом, исходами считаем наборы из двух целых чисел, возможно, одинаковых (от 1 до 6).
2. Q2 = {w = (xi, x2) , | xi G {1, 2, . . . , 6} , i = 1, 2} , где xi — количество очков, выпавших на i-й кости, т. е. исходы данного эксперимента мы отождествляем с упорядоченными парами чисел, различая, в отличие от Qi, например, исход w = (1, 2) и исход w=(2,1).
3. Q3 = {2 , 3 , . . . , 12} , где w G Q — сумма очков, выпавших на игральных костях.
    Все три набора исходов удовлетворяют определению пространства элементарных событий. Далее мы обсудим, какой из них и каким образом можно использовать для построения математической модели данного случайного эксперимента.                       ■

   r Дальше, так же, как в этом примере, используются круглые скобки для записи упорядоченных и фигурные скобки для записи неупорядоченных наборов элементов.

Глава 1. Классические модели теории вероятностей

        Элементы пространства элементарных событий — исходы — играют роль простейших атомарных событый в математической модели случайного эксперимента. Совокупности исходов образуют более сложные события.
      Событиями называют подмножества (вообще говоря, не любые, но об этом будет сказано подробнее в следующей главе) пространства элементарных событий. При этом говорят, что событие A С Q произошло, если случайный эксперимент закончился исходом ш G Q, принадлежащим A.
     ■ Пример 1.2.4. Бросают игральную кость. Пусть Q определено как в примере 1.2.2. Тогда
        A = {выпало четное число} = {ш2 , ш4 , ш6} ;
        B = {выпало нечетное число} = {ш1 , ш3 , ш5} ;
        C = {выпало не больше трех очков} = {ш₁ , ш₂ , ш₃ } .   ■
        Множество Q, рассматриваемое как свое собственное подмножество, также является событием. Его называют достоверным событием (оно происходит при любом исходе случайного эксперимента). Пустое множество 0 называют невозможным событием.
      Определение 1.2.2. Если A, B С Q — события и A С B, говорят, что событие A влечет за собой событие B или событие B является следствием события A.
        Действительно, если A С B и событие A произошло, т. е. случайный эксперимент закончился исходом ш G A, событие B также произошло.

        1.3. Операции над событиями
        Поскольку в теории вероятностей события представляют собой подмножества пространства элементарных исходов Q, для них определены теоретико-множественные операции.
      Определение 1.3.1. Пересечение событий A П B называют произведением и обозначают AB, объединение событий A U B называют суммой и обозначают A + B, теоретико-множественную разность A \ B называют разностью событий и обозначают A — B, до-

1.4. Схема с конечным числом равновероятных исходов

13

|полнение до множества A называют противоположным к A событием и обозначают A (A := Q — A).

   r В дальнейшем мы будем использовать как арифметические, так и теоретико-множественные обозначения для операций над событиями.

    Из определения теоретико-множественных операций следует, что • AB — событие, состоящее в том, что в результате случайного эксперимента произошли оба события (A и B);
   • A + B — событие, состоящее в том, что в результате случайного эксперимента произошло по крайней мере одно из событий (A или B);
   • A — B — событие, состоящее в том, что в результате случайного эксперимента произошло событие A и не произошло событие B;
   • A — событие, состоящее в том, что в результате случайного эксперимента событие A не произошло.
I Определение 1.3.2. События A и B называют несовместными, если AB = 0.

    Математическая модель случайного эксперимента построена, если для всех подмножеств пространства элементарных исходов, являющихся событиями, определены вероятности. Вероятность события A обозначают P (A). Это число из промежутка [0; 1]. Как отмечалось выше, оно характеризует шансы события A произойти в данном случайном эксперименте. Таким образом, P — функция множества. Рассмотрим как она опредляется в двух классических математических моделях теории вероятностей — в схеме с конечным числом равновероятных исходов и в схеме с геометрическими вероятностями.




    1.4. Схема с конечным числом равновероятных исходов

    Пусть случайный эксперимент имеет конечное множество исходов Q = {ш1, Ш1,..., шп}, при этом можно считать все эти исходы равновозможными, т. е. имеющими одинаковые шансы произойти

Глава 1. Классические модели теории вероятностей

     (обычно это связано с такими свойствами рассматриваемых в модели объектов, как симметрия, однородность и т. п.). В такой ситуации

     естественно каждому исходу приписать одну и ту же вероятность, равную (общая «масса» вероятности, равная 1, делится поровну между всеми исходами). В результате для произвольного события A = {шк1 ,... .Шкт} С Q вероятность оказывается равна —. Иначе говоря, вероятность определена на подмножествах Q формулой

P(A) =

N (A) N(Q) ,

(1.1)

  где N(A) — количество элементов множества A (их называют исходами, благоприятными для A), N(Q) — количество элементов пространства элементарных событий.


  r\ Условие равновозможности исходов является крайне важным для корректного использования данной модели и формулы (1.1). Рассмотрим случайный эксперимент с бросанием пары игральных костей, для которого в примере 1.2.3 предложено три набора исходов, удовлетворяющих определению пространства элементарных событий. Из них равновероятными можно считать только элементы Q2, представляющие собой упорядоченные пары (x₁ , x₂), где x₁ — число очков на 1-й кости, а x₂ — число очков на 2-й кости. То, что элементы пространства Q3 нельзя считать равновозможными исходами — очевидно. Например, сумму очков 7 можно получить разными способами, а 12 — только одним. Менее очевидно, что исходы пространства П1 нельзя считать равновозможными, ведь, на первый взгляд, если игральные кости неразличимы, мы можем увидеть только какие числа выпали, а порядок при этом неважен. Тем не менее, элементы Q1 — неупорядоченные пары чисел — нельзя считать равновозможными исходами, так как две игральные кости это физически разные объекты (мы можем умозрительно раскрасить их, назвав одну черной, а другую — белой), а значит, к примеру, (2, 1) и (1, 2) — разные исходы, поэтому появление единицы и двойки имеет больше шансов, чем, например появление двух единиц.




      При вычислении вероятностей по формуле (1.1) для подсчета количества элементов того или иного множества используют приемы и формулы комбинаторики. Приложение A содержит краткое изложе