Теория вероятностей и случайные процессы


ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ НОВОСИБИРСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ




Н.С. АРКАШОВ, А.П. КОВАЛЕВСКИЙ




Теория вероятностей и случайные процессы



Утверждено Редакционно-издательским советом университета в качестве учебного пособия для студентов нематематических специальностей высших учебных заведений






Новосибирск
2014

УДК 519.21 (075.8) А 822



        Рецензенты: В. И. Лотов, д-р физ.-мат. наук,

                   проф. НГУ,
                   А. Г. Линус, д-р физ.-мат. наук, проф.,
                   К. А. Джафаров, канд. физ.-мат. наук, доцент



Работа подготовлена на кафедре высшей математики для студентов II курса


   Аркашов Н. С.
А 822 Теория вероятностей и случайные процессы: Учеб, пособие / Н. С. Аркашов, А. П. Ковалевский. — Новосибирск: Изд-во НГТУ, 2014. - 238 с.


        ISBN 978-5-7782-2382-0



       Настоящее учебное пособие подготовлено для студентов II курса очного и заочного отделений всех направлений и специальностей, изучающих такие разделы высшей математики, как теория вероятностей и математическая статистика, в объеме семестрового курса.
       Пособие содержит типовой расчет. В приложениях даны таблицы вероятностных распределений.
       Все замечания по содержанию пособия просим передавать на кафедру высшей математики. Они будут с благодарностью приняты и учтены в следующих изданиях.


                                                       УДК 519.21 (075.8)

    ISBN 978-5-7782-2382-0

© ©

                                  Аркашов Н. С., Ковалевский А. П., 2014 Новосибирский государственный технический университет, 2014

                Оглавление





    Глава 1. Случайный эксперимент, события                    7
        §1.1  События, операции над событиями................. 7
        § 1.2 Решение типовых примеров........................ 9
        §1.3  Задачи для самостоятельного решения............ 10

    Глава 2. Классическая вероятность                          12
        § 2.1 Классическое определение вероятности........... 12
        § 2.2 Элементы комбинаторики......................... 13
        § 2.3 Решение типовых примеров....................... 19
        § 2.4 Задачи для самостоятельного решения............ 20

    Глава 3. Геометрическая вероятность                        24
        § 3.1 Решение типовых примеров....................... 24
        §3.2  Задачи для самостоятельного решения............ 26

    Глава 4. Условные вероятности                              28
        §4.1  Определения и примеры.......................... 28
        §     4.2 Решение типовых примеров................... 28
        §     4.3 Задачи для самостоятельного решения........ 29

    Глава 5. Независимые события                              31
        §5.1  Решение типовых примеров....................... 31
        §5.2  Задачи для самостоятельного решения............ 32

    Глава 6. Независимые испытания                            35
        §     6.1 Формулы Бернулли........................... 35
        §6.2  Решение типовых примеров....................... 36
        §     6.3 Задачи для самостоятельного решения........ 37

3

       Глава 7. Формула полной вероятности                        39
           § 7.1 Полная группа событий.......................... 39
           § 7.2 Решение типовых примеров....................... 40
           § 7.3 Задачи для самостоятельного решения............ 42

       Глава 8. Распределения случайных величин                   45
           §8.1  Случайная величина и функция распределения ...   45
           §8.2  Дискретное и абсолютно непрерывное распределения 46
           § 8.3 Примеры распределений случайных величин.......   49
           § 8.4 Генерирование случайных чисел ................. 55
           §8.5  Решение типовых примеров....................... 56
           § 8.6 Задачи для самостоятельного решения............ 61

       Глава 9. Математическое ожидание                           64
           § 9.1 Определение и свойства......................... 64
           §9.2  Моменты и дисперсия ........................... 68
           § 9.3 Числовые характеристики случайных векторов ....  72
           § 9.4 Решение типовых примеров....................... 73
           §9.5  Задачи для самостоятельного решения............ 77


      Глава 10. Предельные теоремы                              80
           § 10.1 Закон больших чисел......................... 80
           § 10.2 Центральная предельная теорема.............. 82
           § 10.3 Теорема Пуассона............................ 84
           § 10.4 Решение типовых примеров.................... 89
           § 10.5 Задачи для самостоятельного решения......... 93


       Глава 11. Выборка. Оценивание параметров                  95
           § 11.1 Выборка и вариационный ряд................... 95
           § 11.2 Эмпирическая функция распределения, гистограмма.......................... 96
           § 11.3 Выборочные моменты .......................... 98
           § 11.4 Статистики и оценки......................... 100
           §11.5  Оценки методом моментов..................... 103
           §11.6  Решение типовых примеров.................... 104
           § 11.7 Задачи для самостоятельного решения......... 108

       Глава 12. Оценки максимального правдоподобия.

      Сравнение оценок                                        111
           § 12.1 Метод максимального правдоподобия........ 111

4

         § 12.2 Сравнение оценок: среднеквадратический подход........................... 112
         § 12.3 Решение типовых примеров....................... 115
         § 12.4 Задачи для самостоятельного решения............ 119


    Глава 13. Статистическая обработка в пакете Excel          122
        § 13.1 Пример статистической обработки............... 122
        § 13.2 Задачи для самостоятельного решения........... 136

Глава 14. Интервальное оценивание                        137    
§ 14.1    Определение доверительного                            
          интервала ........................             . . 137
§ 14.2    Распределения, связанные                              
          с нормальным.....................              . . 138
§ 14.3    Точные доверительные интервалы.........        . . 139
§ 14.4    Асимптотические доверительные интервалы . . .  . . 141
§ 14.5    Решение типовых примеров.............          . . 142
§ 14.6    Задачи для самостоятельного решения.......     . . 146
Глава 15. Проверка статистических гипотез                147    
S 15.1    Статистические гипотезы ..............         . . 147
§ 15.2    Статистические критерии..............          . . 148
§ 15.3    Критерии согласия..................            . . 150
§ 15.4    Достигаемый уровень значимости .........       . . 151
§ 15.5    Критерии согласия Колмогорова и х2 Пирсона . . . . 152
§ 15.6    Решение типовых примеров.............          . . 155
§ 15.7    Задачи для самостоятельного решения.......     . . 159
Глава 16. Регрессионный анализ                           161    
§ 16.1    Линейная регрессия..................           . . 161
§ 16.2    Критерий Дарбина-Ватсона.............          . . 163
§ 16.3    Обобщенный МНК..................               . . 163
§ 16.4    Модель авторегрессии ................          . . 164
§ 16.5    Модель скользящего среднего ...........        . . 164
§ 16.6    Оценивание моделей с зависимыми остатками . .  . . 165
§ 16.7    Задачи для самостоятельного решения.......     . . 166
Глава 17. Марковские цепи и процессы                     168    
§ 17.1    Цепи Маркова. Эргодическая теорема.......      . . 168
§ 17.2    Марковские процессы ................           . . 170
§ 17.3    Процессы размножения и гибели..........        . . 171

5

§17.4 Задачи для самостоятельного решения....... 171

Глава 18. Типовой расчет                              173

Приложение. Таблицы                                     233


6

Глава 1


Случайный эксперимент, события


            § 1.1.  События, операции над событиями


    Теория вероятностей изучает математические модели случайных экспериментов. Под случайным подразумевается такой эксперимент, исходы которого неоднозначно определяются начальными условиями. Простейшим примером такого эксперимента является подбрасывание монеты. В этом эксперименте возможны лишь два исхода: выпадение «герба» или «решетки», — при этом точно предсказать результат до проведения эксперимента невозможно.
   Со всяким случайным экспериментом можно связать множество
Q = {ш} всех его взаимоисключающих исходов. Это множество называют пространством элементарных исходов, а его элементы элементарными исходами. Результатом проведения случайного эксперимента является некоторый элементарный исход ш G Q. Событиями называют подмножества пространства элементарных исходов Q. Выражение «произошло событие А» означает ш G A, г де ш — элементарный исход, явившийся результатом эксперимента. Любое «событие» в обычном понимании, то есть любой исход случайного эксперимента, может быть представлено некоторым подмножеством A С Q при подходящем выборе пространства элементарных исходов. В дальнейшем не будем различать «события» в обычном понимании и события — подмножества Q.
    Событие называется достоверным, если в результате эксперимента оно непременно происходит; событие называется невозможным, если в результате эксперимента оно не может произойти; событие называется случайным, если в результате эксперимента оно может произойти, а может не произойти. Так как для любого элементарного исхода ш соотношение ш G Q имеет место всегда, то все пространство Q соответствует достоверному событию, пустое множество 0 — невозможному событию,


7

    собственные подмножества A с Q представляют случайные события.
       Пусть А и В какие-нибудь события (подмножества Q).
       Объединением, или суммой, этих событий называется объединение A U B множеств А и В. Пересечением или произведением событий называется их теоретико-множественное пересечение . Аналогично, разностью событий А и В называется разность A\B соответствующих множеств. Противоположным к событию А называется дополнение A = Q \ A множества А.
       Появление события A U B в результате эксперимента означает, что элементарный исход и G A U B , а это имеет место, если и G A ил и и G B. Поэтому можно сказать, что объединение (сумма) событий происходит тогда и только тогда, когда происходит хотя бы одно из этих событий.
       Аналогично, пересечение (произведение) событий происходит тогда и только тогда, когда эти события происходят совместно.
       Вазность A \ B событий происходит тогда и только тогда, когда происходит А, но не происходит В.
       Противоположное событие A происходит тогда и только тогда, когда само А не происходит.
       Говорят, что событие А влечет событие В , или А содержится в В, если А является подмножеством В: A С B. События называются равными, или эквивалентными, если они совпадают как множества: A = B. Очевидно, что A = B тогда и только тогда, когда каждое из этих событий влечет другое.
       Объединение и пересечение более чем двух событий определяются аналогично, т.е. как объединение и пересечение соответствующих подмножеств. Например, n                                 ОО
U Aₖ      П Bn
k =1      n =1
    означают соответственно объединение конечного и пересечение бесконечного (счетного) множества событий.
       События называют непересекающимися, или несовместными, если их пересечение есть невозможное событие. События из некоторой совокупности A 1 ,A₂,...,Aₙ,... называют попарно несовместными, если любые два из них несовместны, т.е. Ai П Aj = 0 пр и i = j.
       Поскольку введенные операции над событиями тождественны соответствующим операциям над множествами, то они подчиняются всем аксиомам операций над множествами:

A U B = B U A, A П B = B П A (коммутативность);

8

A U (B U C) = (A U B) U C), A n (B n C) = (A n B) n C) (ассоциативность);

An(BUC) = (AnB)U(AnC), AU(BnC) = (AUB)n(AUC) (дистрибутивность);

           Ua„ = px, P|An = uAₙ (двойственность);

(A)= A (отрицание отрицания).

   Заметим в заключение, что для обозначения введенных операций объединения (суммы), пересечения (произведения), разности событий используются также традиционные алгебраические символы: «+», «•», « —»:

     A U B = A + B, A n B = AB, A \ B = A — B, [[ Ak = XX Ak.
                                                k=1 k=1


            § 1.2.    Решение типовых примеров



   Пример 1.1. Случайный эксперимент состоит в однократном подбрасывании игральной кости - правильного кубика с нанесенными на гранях числами от 1 до И Обозначим через Иₖ исход, состоящий в появлении на верхней грани числа к. Тогда в качестве пространства элементарных исходов можно взять множество Q = { И1, И₂, И₃, И₄, И, Иб }.

   Пример 1.2. Рассмотрим случайный эксперимент из предыдущего примера. Введем следующие «события»: А = { выпадение четного числа}, В = {выпадение числа, меньшего 3}, С = {выпадение дробного числа}. При выборе пространства элементарных исходов из примера 1.1 указанные «события» очевидным образом представляются множествами: A = {И2, И, Иб}, B = {И1, И2}, C = 0.

   Пример 1.3. Случайный эксперимент - двукратное подбрасывание игральной кости. Построить подходящее пространство элементарных исходов Q для описания следующих событий: А = {оба раза выпало число очков, кратное трем}, В = {сумма выпавших чисел не больше 12}, С = {выпали одинаковые числа}, D = {произведение выпавших чисел делится на 14/. Найти подмножества Q, образующие эти события, указать достоверные, невозможные и случайные события.


9

   Решение. Поскольку результатом эксперимента является пара чисел, выпавших на верхней грани при первом и втором подбрасывании игральной кости, то в качестве пространства элементарных исходов естественно выбрать множество всех упорядоченных наборов из двух чисел, каждое из которых может принимать любое из натуральных значений от 1 до 6, т.е. Q = {(i,j) : i = 1, ■.., 6, j = 1,..., 6}. Тогда указанные события совпадают со следующими подмножествами Q :

A = {(3, 3), (3, 6), (6, 3), (6, 6)}; B = Q;

           C = {(1, 1), (2, 2), (3, 3), (4,4), (5, 5), (6, 6)}; D = ®.
Событие В достоверно, так как оно происходит при любом элементарном исходе (i,j) Е Q, событие D невозможно (если бы оно могло произойти, то какое-нибудь из двух выпавших чисел должно делиться на 7), события А и С случайны. v ¹


            § 1.3.    Задачи для самостоятельного решения


1.1 Что означают события A U A и A П A?
1.2 Когда возможно равенство A П B = A ?
1.3 События: A — хотя бы один из трех проверяемых приборов бракованный, B — все приборы доброкачественные. Что означают события: а) A U B; б) A П B?
1.4 Среди студентов, собравшихся на лекцию по теории вероятностей, наудачу выбирают одного. Пусть событие А заключается в том, что выбранный студент окажется юношей; событие В в том, что он не курит, а событие С - в том, что он живет в общежитии. Описать событие ABC. Когда справедливы:
   а) равенство ABC = A;     в) равенство A = B;
   б) включение C с B;       г) равенство B = B?
1.5 Рабочий изготовил п деталей. Пусть событие Ai состоит в том, что i-я изготовленная им деталь имеет дефект. Записать событие, заключающееся в том, что:
а) ни одна из деталей не имеет дефектов;
б) хотя бы одна деталь имеет дефект;
в) ровно одна деталь имеет дефект;
г) не более двух деталей имеют дефекты;
д) по крайней мере две детали не имеют дефектов;

   ¹ Конец решения или доказательства.

10

е)  точно две детали дефектны.
1.6  Преподаватель проводит занятия с группой из трех студентов. Событие А — первый студент потребует внимание преподавателя в течение часа; В — второй студент потребует внимание преподавателя в течение часа; С — третий студент потребует внимание преподавателя в течение часа. Что означают события: а) АВС; б) A + B + C; в) AB C + ABC + A BC; г) ABC + ABC + ABC; д) ABC- e) A + B + C - ABC ?
1.7  Событие A — хотя бы одно из четырех имеющихся изделий бракованное, событие B — бракованных изделий среди них не менее двух. Что означают противоположные события A и B?
1.8 Совместны ли события A и A U B?

1.9 Доказать тождества:
а)  (A + BC)(B + AC)( C + AB )= ABC + ABC.
в) (A - B) + (A - C) = A - BC.                        _____
1.10 Доказать, что следующие события достоверны: а) (A + B)(A + B) + (A + B)(A + B);
6)  (A + B)(A + B) + (A + B)(A + B). _      __________
1.11  Доказать, что событие (A + B)(A + B)(A + B)(A + B) невозможно.

1.12 Установить какие из следующих соотношений правильны:
а) (A + B) \ C = A + (B \ C); д) ABC = AB(B + C);
б) (A + B)C = ABC-,           e)           (A + B)C = AC + BC;
в) A + B + C = ABC-,          ж) ABC c A + B;
r) (A + B)C = C \ C(A + B);   з) (AB + BC + CA) c (A + B + C).
1.13 Из таблицы случайных чисел наудачу выбрано одно число. Событие A

— выбранное число делится на 5; собьггие B — данное число оканчивается нулем. Что означают события A\B иА П B?

11

Глава 2

Классическое вероятностное
пространство


            §2.1. Вероятностное пространство, классическое определение вероятности


   Пусть пространство элементарных исходов конечно, то есть
Q = {оу, о>2,..., aN}. При этом вероятность любого события А вычисляется по формуле:
P( A) = NA,                  (2-1)
где N(A) — число элементарных исходов, образующих событие А, N = N(Q) — число всех элементарных исходов. Равенство (2.1) называют классическим определением вероятности. Из этого определения легко следует, что
Ml. P(Q)=1 и P(A) > 0 для любого иодмножества A С Q;
М2, для любых попарно несовместных множеств A 1, A₂,... выполняется равенство P(U°=1 Ai) = Y1Pi P(Ai) (свойство о-аддитивности).
Более того, о всякой функции заданной на множестве подмножеств из Q и обладающей свойствами Ml и М2 мы в дальнейшем будем говорить как о вероятностной мере. В частности, из свойств АП и AI2 вытекают следующие очень полезные свойства вероятности.
   1. P(A) = 1 - P(A).
   A Если A С B,tо P(B \ A) = P(B) - P(A).
   3. P(A U B) = P(A) + P(B) - P(AB).
   Докажем первое равенство. Поскольку события A и A не пересекаются,


12

при этом A U A = Q, то, используя свойства Ml и М2, получаем

1 = P(Q) = P(A U A) = P(A) + P(A),

откуда собственно и получается требуемое равенство. Докажем второе равенство. Т.к. A С B, то B = (B \ A) |J A. При этом события B \ An A не пересекаются, поэтому, при меняя свойство М2, получаем P( B) = P( B \ A) + P( A), поэт ому и P( B \ A) = P( B) - P( A). Так же просто доказывается и третье равенство. Для этого достаточно заметить, что A U B = (A \ AB) U AB U (B \ AB). Множества A \ AB, AB и B \ AB попарно не пересекаются, следовательно, применяя М2 и второе соотношение, получаем

P(A U B) = P(A \ AB) + P(AB) + P(B \ AB)

= P(A) - P(AB) + P(AB) + P(B) - P(AB) = P(A) + P(B) - P(AB).


            §2.2. Элементы комбинаторики


Пусть имеется конечное множество S = {а ₁, a 2,... ,aₙ}, которое будем называть генеральной совокупностью, а число его элементов n - объемом генеральной совокупности.

   Определение 2.1. Выборкой объема k из генеральной совокупности объема n называется упорядоченный набор k3 k элементов генераль-so'ij, совокапнасти S : (aj 1, aj₂,..., ajₖ). Выборка называется выборкой с возвращением, если она может содержать повторяющиеся (одинаковые) элементы, или выборкой без возвращения, если все ее элементы различны.

   Например, семизначный номер телефона представляет выборку объема 7 из генеральной совокупности объема 10 (количество цифр от 0 до 9). Поскольку цифры в номере могут повторяться, это выборка с возвращением. Названия трех карт, извлеченных по порядку из колоды, образуют выборку без возвращения объема 3 из генеральной совокупности всех карт колоды, например: (туз треф, туз бубей, дама пик).
   Заметим, что названия «выборка с возвращением» и «выборка без возвращения» отражают процесс извлечения выборок из генеральной совокупности: извлекая по порядку каждый элемент выборки с возвращением,


13

мы его отмечаем и возвращаем в генеральную совокупность. При извлечении выборки без возвращения, элементы в генеральную совокупность не возвращаются. Для выборки без возвращения распространено и другое название: размещение из n элементов по к. Выборки с возвращением называют также размещениями с повторениями.

    Теорема 2.1. Число всех выборок с возвращением (или число размещений n повторениями) из n элементов по к обозначается БП и вычисляется формулой:
БП = nk.                          (2.2)

Число всех выборок без возвращения (шш число размещений) пз n элементов по к обозначается Akₜ и ли, n [k ] и вычисляется по формуле:

             A-n = n[k] = n • (n — 1) • • • (n — к + 1) = -yyr.  (2.3)
(n — к )!

   Доказательство. Извлечение выборки из генеральной совокупности можно представить как процесс заполнения следующей таблицы:

I aj 1 I aj 2 | aj 3 I ••• | ajk-1 | ajk |

   При этом, если речь идет о выборке с возвращением, то первую клетку таблицы можно заполнить n способами, поскольку на месте элемента aj 1 может оказаться любой из n элементов генеральной совокупности; вторую клетку также можно заполнить n способами, поскольку элемент aj₂ извлекается из полной генеральной совокупности. Таким образом, число способов, которыми можно заполнить пару из двух первых клеток, равно n • n = n². Рассуждая аналогично, можно сказать, что три клетки заполняются n³ способами, а вся таблица из к клеток может быть заполнена числом способов, равным nk. Это и есть число всех выборок с возвращением. Выведем теперь вторую формулу. Поскольку речь идет о выборке без возвращения, то первую клетку таблицы можно заполнить n способами; вторую соответственно n — 1 способом, т.к. элемент, который мы поставили в первую клетку использоваться уже не может и т.д. и, наконец, к-ую клетку таблицы можно заполнить n — к +1 способами. Поскольку каждый способ заполнения 1-ой клетки свободно комбинируется со всеми способами заполнения 2-ой клетки и т.д. до к-ой клетки, то получаем An = ⁿ (ⁿ — ¹⁾... (ⁿ — к ⁺ ¹⁾= (П-к)!. C

   Пример 2.1. Случайный эксперимент состоит в произвольном размещении к различимых шаров no n ящикам (к < n). Предполагается,

14