eng
Содержание
Содержание
Предисловие . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей . . . . . . . . . . . . . . . . . . . . . . 7
1.1.
Факториалы и биномиальные коэффициенты . . . . . . . . . . . 7
1.2.
Основные факты из математического анализа . . . . . . . . . . 14
Глава 2. Основы теории вероятностей . . . . . . . . . . . . . . . . . . . . 20
2.1.
Основы теории вероятностей . . . . . . . . . . . . . . . . . . . . . . . 21
2.2.
Понятие условной вероятности . . . . . . . . . . . . . . . . . . . . . 32
2.3.
Закон условной вероятности . . . . . . . . . . . . . . . . . . . . . . . 38
2.4.
Байесовская вероятность . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.5.
Понятие случайной величины . . . . . . . . . . . . . . . . . . . . . . 53
2.6.
Математическое ожидание и стандартное отклонение. . . . . 56
2.7.
Независимые случайные величины и закон квадратного
корня . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
2.8.
Производящие функции. . . . . . . . . . . . . . . . . . . . . . . . . . . 71
Приложение: доказательства для математического ожидания
и дисперсии. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
Глава 3. Полезные распределения вероятностей . . . . . . . . . . . . . 79
3.1.
Биномиальное и гипергеометрическое распределения. . . . . 79
3.2.
Пуассоновское распределение . . . . . . . . . . . . . . . . . . . . . . 87
3.3.
Нормальная плотность вероятности . . . . . . . . . . . . . . . . . . 92
3.4.
Центральная предельная теорема и нормальное
распределение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
3.5.
Равномерная и экспоненциальная плотности вероятности 104
3.6.
Плотность двумерного нормального распределения. . . . . . 112
3.7.
Критерий хи-квадрат . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
Приложение: пуассоновские и биномиальные вероятности . . . 121
Глава 4. Примеры пуассоновских вероятностей из реальной
жизни . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
4.1.
Мошенничество в канадской лотерее . . . . . . . . . . . . . . . . 124
4.2.
Бомбардировки Лондона во время Второй мировой войны 127
4.3.
Выиграть в лотерею дважды . . . . . . . . . . . . . . . . . . . . . . . 128
4.4.
Санта-Клаус и экстрасенс . . . . . . . . . . . . . . . . . . . . . . . . 130
4.5.
Дни рождения и 500 «Олдсмобилей». . . . . . . . . . . . . . . . . 132
Глава 5. Метод Монте Карло и вероятности. . . . . . . . . . . . . . . 136
5.1.
Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
5.2.
Инструменты моделирования . . . . . . . . . . . . . . . . . . . . . . 140
5.3.
Приложения компьютерного моделирования . . . . . . . . . . 147
5.4.
Статистический анализ результата компьютерного
моделирования. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
Приложение: программы компьютерного моделирования
на языке Python . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
Глава 6. Первое представление о марковских цепях . . . . . . . . . . 163
6.1.
Модель марковской цепи . . . . . . . . . . . . . . . . . . . . . . . . . 163
6.2.
Поглощающие марковские цепи. . . . . . . . . . . . . . . . . . . . 171
6.3.
Задача о разорении игрока . . . . . . . . . . . . . . . . . . . . . . . . 174
6.4.
Предельное поведение марковских цепей . . . . . . . . . . . . . 177
6.5.
Метод Монте-Карло, использующий цепи Маркова . . . . . 181
Решения некоторых задач. . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
Предметный указатель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204
Предисловие
Теория вероятностей — увлекательная область математики, к тому
же ее знание необходимо для понимания статистики. Человеку,
живущему в современном обществе, необходимо уметь анализировать вероятностные утверждения, появляющиеся в СМИ, и принимать информированные суждения и решения. В этой книге дается введение в базовые концепции вероятностного мышления
и рассуждений в условиях неопределенности, проиллюстрированное множеством поучительных и интересных примеров.
Здесь рассматриваются все фундаментальные аспекты основ
теории вероятностей. Эта книга выросла из книги про теорию вероятностей, которую я когда-то написал для студентов голландских высших учебных заведений, и рассчитана на студентов, изучающих теорию вероятностей впервые. Я писал эту книгу
специально для студентов, изучающих статистику и науку о данных (data science), которым требуется доступное и достаточно полное введение в основы теории вероятностей. Вероятность — основа основ статистики и науки о данных.
Важнейшие темы, рассмотренные в этой книге, — это условная
и байесовская вероятность, приложения распределения Пуассона
к реальным жизненным ситуациям и взаимодействие между теорией вероятности и компьютерным моделированием. Компьютерное моделирование — это не только вычислительный инструмент
для решения вероятностных задач, но также и полезный дидактический инструмент, помогающий студентам достичь лучшего понимания идей, лежащих в основе теории вероятности. Основное внимание в этой книге уделяется дискретным вероятностям, но она также
затрагивает вопросы, связанные с непрерывными распределениями
вероятностей. В тексте рассредоточено много замечаний об истории становления и развития науки о вероятностях.
Поскольку теория вероятностей сложна для новичка, в данной
книге используется подход, состоящий в том, чтобы выработать
вероятностную интуицию до того, как изучать детали. Хотя многие вероятностные задачи просты для понимания, их решения
требуют остроумного и творческого мышления. Лучший способ
изучить теорию вероятностей — решить много задач. В книге приводится множество поучительных задач и стратегий их решения.
Даны ответы ко всем задачам и подробные решения некоторых из
них, чтобы повысить уверенность студентов при решении вероятностных задач и стимулировать активное самостоятельное
обучение.
Предисловие ко второму изданию
Во второе издание были внесены многочисленные дидактические
улучшения. Кроме этого, в книгу добавлено много дополнительных мотивирующих примеров и задач. Материал, посвященный
байесовской вероятности, был расширен, дополнительно дано обсуждение двух знаменитых судебных процессов. В главу о применениях распределения Пуассона в реальной жизни добавлены два
новых раздела. Также в книгу были добавлены разделы о производящих функциях и о двумерном нормальном распределении. Роли
закона больших чисел и центральной предельной теоремы
в компьютерном моделировании обсуждаются более глубоко. Самым важным изменением явилось добавление вводной главы
о свойствах марковских цепей и методе Монте-Карло, использующем марковские цепи. При чтении книги к этому интереснейшему материалу, имеющему большую популярность у студентов,
можно перейти непосредственно после изучения понятия условной вероятности.
Наконец, я благодарю всех, кто сделал важные замечания
к первому изданию. В частности, я хотел бы поблагодарить Карла
Зигмана и Алана Враспира.
6 Предисловие
ÃËÀÂÀ 1
ÝËÅÌÅÍÒÛ ÊÎÌÁÈÍÀÒÎÐÈÊÈ
È ÌÀÒÅÌÀÒÈ×ÅÑÊÎÃÎ
ÀÍÀËÈÇÀ, ÈÑÏÎËÜÇÓÅÌÛÅ
 ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
В этой главе представлены те факты из комбинаторики и математического анализа, которые понадобятся вам в следующих главах.
Раздел 1.1 знакомит вас с понятиями факториала и биномиальных
коэффициентов. В разделе 1.2 описаны экспоненциальная функция и натуральный логарифм.
1.1. Факториалы и биномиальные
коэффициенты
Многие задачи теории вероятностей требуют знания техник вычислений. В частности, подобные техники чрезвычайно полезны
для вычисления вероятностей в случайном эксперименте с равновероятными исходами. Для такого эксперимента нужны эффективные методы подсчета числа результатов, приводящих к наступлению заданного события. При этом важно знать, нужно
учитывать порядок, в котором подсчитываются объекты, или нет.
Ниже приводятся понятия факториала и биномиальных коэффициентов и примеры их применения.
В вычислениях мы часто будем использовать фундаментальный принцип подсчета: если существует a способов совершить
одно действие и b способов совершить другое действие, то существует a b способов сделать их совместно. Например, вы идете
в кафе, чтобы позавтракать. В меню есть оладьи, вафли и яичница, а из напитков можно выбрать сок, кофе, чай или горячий
шоколад. Тогда общее число вариантов выбора еды и напитка
составит 3 4 12 . Другой пример: сколько различных автомобильных номеров можно составить, если в таком номере сначала
должна идти ненулевая цифра, потом три буквы (английского
алфавита. — Прим. перев.), а затем любые три цифры? Ответ:
9 26 26 26 10 10 10 158184000 номерных знаков.
Факториалы и перестановки
Сколькими различными способами можно упорядочить данное
количество различных объектов, таких как буквы или числа? Например, сколькими различными способами можно упорядочить
набор из трех букв A, B и C? Выписав все возможные комбинации
ABC, ACB, BAC, BCA, CAB и CBA, вы можете увидеть, что их 6. Такой метод перебора с выписыванием и подсчетом всех возможных
вариантов перестает работать, если число вариантов становится большим, как в случае количества возможных упорядочиваний
26 букв английского алфавита. Вы также можете вычислить, что
три буквы A, B и C можно упорядочить 6 разными способами,
с помощью следующего рассуждения. На первое место вы можете
поставить любую из 3 имеющихся букв, на второе одну из 2 оставшихся, и у вас останется только одна буква для подстановки на
третье место. Таким образом, общее число возможных вариантов
выбора равно 3216 . Теперь общее правило подсчета должно
быть очевидно. Предположим, у вас есть n различимых объектов.
Сколько упорядоченных последовательностей этих объектов можно построить? Любая такая упорядоченная последовательность называется перестановкой. Рассуждая так же, как и в предыдущий
раз, скажем, что есть n способов выбрать первый объект, что
оставляет нам n 1 возможностей выбрать второй объект, и т. д.
Таким образом, общее число способов упорядочить n различимых
объектов равно произведению n n ( )1 21 . Это произведение обозначается n! и называется «n факториал». Для любого положительного целого n
n nn ! () 12 1 .
Вот полезное соглашение:
0 1 ! ,
оно упрощает написание некоторых формул, которые встретятся
нам дальше. Обратите внимание, что n nn ! ( )! 1 , поэтому n!
8 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
очень быстро растет с ростом n. Например, 5 120 ! , 10 3628800 !
и 15 1307674368000 ! . Подводя итог, можно сказать, что для любого положительного целого n
количество упорядоченных последовательностей (перестановок) n
различных объектов равно n!.
Вооружившись этим знанием, попробуйте доказать, что в лотерее 6/45 шесть выигрышных номеров, поочередно выбранных из
набора целых чисел от 1 до 45, окажутся упорядочены либо по
возрастанию, либо по убыванию с вероятностью 1
360.
А вот интересный вопрос: сколько различных слов, реально
существующих или не существующих в языке, можно составить
из заданного набора букв, если некоторые буквы в слове могут
повторяться несколько раз? Например, сколько разных слов
можно составить из пяти букв A, двух B, двух R, одной C и одной
D? Чтобы найти ответ, представьте себе, что пять букв A помечены от A1 до A5 , две буквы B стали B1 и B2 , а две буквы R стали R1
и R2 . Тогда у вас получилось 11 различных букв, и количество
способов упорядочить эти буквы равно 11!. Пять букв от A1 до
A5 , две буквы B1 и B2 и две буквы R1 и R2 можно упорядочить
522 !!! способами. Каждая из полученных упорядоченных последовательностей преобразуется в то же самое слово, если вы
замените буквы A1 , , A5 на A, B1 и B2 на B, и R1 и R2 на R. Поэтому количество различных слов, которые можно сложить из
исходных 11 букв, равно
11
522
83160 !
!!! .
То есть если вы тщательно перемешаете одиннадцать букв
и выложите их в ряд, вероятность получить при этом слово
ABRACADABRA равна 1
83160.
Биномиальные коэффициенты и сочетания
Сколько различных жюри из трех человек можно составить из
пяти участников A, B, C, D и E ? Прямым вычислением вы получаете ответ 10: { , , }, ABC { , , }, ABD { , , }, ABE { , , }, AC D { , , }, AC E
1.1. Факториалы и биномиальные коэффициенты 9
{ , , }, ADE {B, C, D}, { , , }, BC E { , , }, BDE { , , }. CDE В этой задаче порядок выбора членов жюри не важен. Ответ «10 вариантов жюри»
также можно получить, применив фундаментальный принцип
подсчета. Сначала подсчитайте, сколько жюри из трех человек
можно составить, если порядок следования членов жюри важен.
Затем определите, сколько раз вы при этом сосчитали каждую
группу из трех человек. Рассуждать следует так. Есть 5 способов
выбрать первого члена жюри, 4 способа выбрать следующего судью, и 3 способа выбрать последнего члена. Это дало бы 543
способов составить жюри, если порядок, в котором выбраны его
члены, имел бы значение. Но в данном случае порядок выбора
не важен. Например, для жюри, состоящего из трех человек A, B
и C, не имеет значения, какая из 3! упорядоченных последовательностей ABC, ACB, BAC, BCA, CAB, или CBA привела к такому выбору. Поэтому количество способов выбрать жюри из трех человек из группы в 5 человек равно 543
3
! . Это выражение можно
также записать в виде
54 321
3 2
5
3 2
! !
!
! ! .
Вы можете подсчитать, что в общем случае количество возможных способов составить жюри из k судей, выбирая из группы
в n человек, равно
n n nk
k
n n nk nk
k
() ( )
!
( ) ( )( )
!
1 1
11 1
( )!
!
n k ! ( )!
n
k nk
Это приводит к определению
n
k
n
k nk
!
! ( )!
для неотрицательных целых чисел n и k при условии, что k n .
Величина n
k
(произносится «число сочетаний из n по k») означает следующее:
10 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
n
k
— это количество способов выбрать k объектов из n различных
объектов, если не важно, в каком порядке они выбраны.
Другими словами, n
k
— это количество возможных сочетаний
k различных объектов, выбранных из n. Эта величина называется
биномиальным коэффициентом. Ключевое различие между перестановками и сочетаниями состоит в том, учитывается ли при их
построении порядок следования элементов. Сочетания — это неупорядоченные выборки, перестановки — упорядоченные последовательности.
Биномиальные коэффициенты играют ключевую роль в так
называемой урновой модели. Эта модель имеет много приложений
в теории вероятностей. Предположим, что в урне лежит R красных
и W белых шаров. Какова вероятность достать ровно r красных
шаров, если мы не глядя берем из урны n шаров? Чтобы ответить
на этот вопрос, полезно вообразить, что шары сделали различимыми, нанеся на каждый отдельную метку1. Общее число возможных сочетаний n различных шаров равно
R W
n
. Среди этих сочетаний есть
R
r
W
n r
комбинаций с ровно r красными шарами
(и, следовательно, n r белыми шарами). То есть если не глядя
вынуть из урны n шаров,
вероятность вынуть ровно r красных шаров
R
r
W
n r
R W
n
,
где, по принятому соглашению,
a
b
= 0 при b a
. Эти вероятности
представляют так называемое гипергеометрическое распределение.
Задачи из теории вероятностей, которые можно свести к урновой
1.1. Факториалы и биномиальные коэффициенты 11
1Нанести метки на объекты, чтобы сделать их различимыми, может оказаться очень полезно при решении комбинаторной задачи из теории вероятностей.
модели, появляются во многих обличьях. Хороший пример — лотерея 6/45. В каждом розыгрыше лотереи из набора 1 2 45 ,, , выбираются шесть различных чисел. Предположим, что вы заполнили
лотерейный билет, вычеркнув шесть разных чисел. Тогда вероятность того, что ровно r из выбранных вами чисел совпадут с числами, выпавшими при розыгрыше, равна
6 39
6
45
6
01 6 r r r
для , , , .
Это можно увидеть, представив шесть выпавших при розыгрыше чисел в виде 6 красных шаров, а остальные 39 чисел в виде 39 белых шаров. В частности, вероятность совпадения
всех выпавших при розыгрыше чисел с вашими (джекпот) равна
1 к 8 145 060.
В математике есть много тождеств, в которых используются
биномиальные коэффициенты. Следующее рекурсивное соотношение известно как треугольник Паскаля1:
n
k
n
k
n
k
k n
1
1
1
для . 1
Вы можете доказать это алгебраически. Однако можно получить более элегантное доказательство, если интерпретировать одну
и ту же величину двумя разными способами. Будем называть это
словесным доказательством. Представьте себе группу из n человек,
из которых нужно выбрать k членов комитета. Этих k человек
можно выбрать n
k
способами. С другой стороны, можно провести
подсчет еще и таким образом. Возьмите одного человека, например, Джона. Число возможных комитетов, в которые может вхо12 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1Паскаль был далеко не первым из тех, кто изучал этот треугольник.
Персидский математик Абу Бакр Аль-Караджи создал нечто очень похожее еще в 10-м веке. В Китае этот треугольник называют треугольником
Ян Хуэя, по имени жившего в 13-м веке китайского математика, а в Италии
треугольником Тарталья, по имени итальянского математика Никколо Тартальи, жившего в 16-м столетии.
дить Джон, равно
n
k
1
1 , а число возможных комитетов, в которые
Джон не входит, равно
n
k
1
, что и доказывает приведенное выше
тождество.
Попробуйте самостоятельно решить следующие проверочные
задачи:
• Сколько существует различных автомобильных номеров, в которых сначала идут три буквы (английского алфавита. — Прим. перев.), а затем три цифры? Сколько существует таких номеров, в которых все буквы и цифры различны? (Ответ: 17 576 000
и 11 232 000.)
• Сколько существует способов расставить в ряд 5 букв A и 3 буквы B? (Ответ: 56.)
• Пять игроков в футбол, A, B, C, D и E, должны бить пенальти
после окончания футбольного матча. Сколько возможно вариантов того, в каком порядке они будут бить по мячу, если A
должен бить сразу после C? Сколько есть вариантов, если A
должен бить после C? (Ответ: 24 и 60.)
• Чему равно количество различных перестановок одиннадцати
букв, входящих в слово Mississippi? (Ответ: 34 650.)
• Джон и Пит входят в группу из 10 игроков, которых нужно разделить на две команды A и B по пять игроков каждая. Сколькими способами можно разделить игроков на команды так, чтобы
Джон и Пит оказались в одной команде? (Ответ: 120.)
• Предположим, что из 10 детей нужно выбрать пять и выстроить
их в шеренгу. Сколько различных шеренг может получиться?
(Ответ: 30 240.)
• Дайте словесные доказательства равенств
n
n k
n
k
и
n
k
n
n k
n
n k
n
0
2 .
1.1. Факториалы и биномиальные коэффициенты 13
• Сколькими способами можно распределить восемь одинаковых
шоколадок между пятью детьми так, чтобы каждый ребенок получил хотя бы одну шоколадку? (Ответ: 351.)
1.2. Основные факты
из математического анализа
История числа e началась в 1614 году, когда Джон Непер изобрел
логарифмы. Это случилось в период, когда расширялась и росла
международная торговля, и из-за этого очень много внимания
было направлено на понятие сложных процентов. В то время уже
было известно, что 1 1
n
n
стремится к некоторому пределу, если
позволить n расти без ограничений:
lim ,
n
n
n e e
1 1
при 2 7182818.
Знаменитая математическая константа e называется числом
Эйлера. Ее назвали в честь Леонарда Эйлера (1707—1783), которого считают самым продуктивным математиком в истории.
Экспонента, или экспоненциальная функция — это функция e x ,
где переменная x принимает значения из области действительных
чисел. Она является самой важной функцией в математике. Фундаментальное свойство e x состоит в том, что ее производная совпадает с ней самой:
14 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1Количество комбинаций неотрицательных целых чисел x x 1 n , , , удовлетворяющих условию x xr 1 n , равно n r
r
1
. Этот результат приводится без доказательства. (По-видимому, в формуле опечатка; данная задача эквивалентна задаче о количестве способов разложить восемь неразличимых шаров по пяти различимым ящикам так, чтобы в каждом ящике был
хотя бы один шар, а эта задача сводится к тому, чтобы найти количество
способов поставить (5-1) перегородку на (8-1) пустых местах между положенными в ряд шарами, поэтому количество комбинаций здесь равно
r
n
1
1 . — Прим. перев.)
de
dx e x
x x для всех .
Интермедия: Давайте построим график производной. Рассмотрим функцию a x( ) вида ax a x ( ) для некоторой постоянной a
0.
Тогда для каждого h
0
ax h ax
h
a a
h a x a
h
xh x h ( ) () () . 1
Будем считать доказанным, что ca h
h
h
lim( ) /
0
1 существует.
Таким образом, a x ca x '( ) ( ) . Когда константа c 1? Ответ: если
a e . Чтобы это увидеть, обратите внимание на то, что условие lim( ) /
h
h a h 0
1 = 1 — это то же самое, что и a h
h
h
lim( ) /
0
1 1 =
lim
n
n
n
1 e
1 . Таким образом, a x ax '( ) ( ) при a e . Более общий результат состоит в том, что fx e x ( ) — единственная функция, которая удовлетворяет дифференциальному уравнению
f x fx '( ) ( ) с граничным условием f( )0 1 .
Как вычислить значение e x ? Соотношение
lim
n
n x x
n e x
1 для всех ,
верное для общего случая, для нашей цели не годится. Для вычисления e x используется степенной ряд
e x x x x x 1
2 3
2 3
! ! для всех .
Чтобы доказать верность этого разложения в степенной ряд,
нужно использовать теорему Тейлора из математического анализа.
То, что e x сама является своей производной, играет в этом доказательстве важнейшую роль. Заметим, что почленное дифференцирование ряда 1
2
2
x
x
! дает тот же самый ряд, и это согласуется с тем фактом, что e x совпадает со своей производной.
1.2. Основные факты из математического анализа 15
Разложение e x в ряд дает e x x 1 для x, близких к 0. Это
одна из наиболее полезных аппроксимационных формул в математике! В теории вероятностей эта формула часто применяется
в виде
e xx x 1 для близких к 0 , .
Хорошей иллюстрацией полезности этой формулы является
парадокс дней рождения. Какова вероятность того, что в случайно выбранной группе из m людей (без близнецов) окажется два
или больше человека, у которых дни рождения приходятся на
один день? Чтобы упростить задачу, будем считать, что в году
365 дней (29 февраля исключаем) и что вероятность родиться
в любой из этих дней одинакова. Занумеруем людей от 1 до m,
и пусть последовательность (, , , ) vv v 1 2 m обозначает даты
их рождений. Количество возможных последовательностей будет равно 365 365 365 365 m , а число последовательностей, в которых у всех людей дни рождения различны, равно
365 364 365 1 ( ) m . Обозначив Pm вероятность того, что все
люди родились в разные дни, вы получите
P m m m 365 364 365 1
365
( ) .
Если m сильно меньше 365, можно применить очень полезную
аппроксимацию:
P e m
m m
1
2 ( )/ 1 365
.
Чтобы увидеть, что это соотношение верно, запишите Pm
в виде
P m m
1 1 1
365
1 2
365
1 1
365 .
Далее используйте аппроксимацию e x x 1 для x, близких к нулю, и формулу суммы арифметической прогрессии
1 2 1
2
n nn( )1 для n 1, и вы получите
Pe e e e m m m 1 365 2 365 1 365 1 2 1 365 / / ( )/ ( )/
e m m 1
2 ( )/ 1 365
.
16 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
Искомая вероятность того, что у двух или больше людей дни
рождения совпадают, равна единице минус вероятность того, что
у всех людей дни рождения различны. Итак,
вероятность того, їто у двух или больше людей
дни рождения совпадают
1
1
2 1 365
e m m( )/
.
Эта вероятность становится больше 50% при m 23 человека
(ее точное значение 0,5073, а приблизительное 0,5000). Интуитивное объяснение того, что вероятность совпадения становится
больше 50% для такого маленького значения, как m 23, состоит
в том, что для него существует
23
2
= 253 комбинации из двух человек, и для каждой из них вероятность совпадения дат рождения
равна
1
365.
Натуральный логарифм
Функция e x строго возрастает на ( ,) , причем lim
x
x e 0 и
lim
x
x e
. Следовательно, уравнение e c y имеет единственное
решение y для каждого c
0. Это решение как функция от c называется натуральным логарифмом и обозначается ln( )c для c
0. Таким образом, натуральный логарифм — функция, обратная к экспоненциальной. Другими словами, ln( )x — логарифмическая
функция по основанию e. Натуральный логарифм также можно
определить через интеграл
ln( ) . y v dv y y
1 0 1 для
Это интегральное представление ln( )y часто используется
в вероятностном анализе. Оно показывает, что производная от
ln( )y — это
d y
dy y y ln( )
. 1
для 0
1.2. Основные факты из математического анализа 17
Геометрическая прогрессия и гармонический
ряд
В вероятностном анализе вам будут часто встречаться геометрические прогрессии. Основная формула для геометрической прогрессии — это формула ее суммы
1 1
1
1 2 x x x при | | x ,
или, коротко, x
x
k
k
0
1
1 при | | x 1. Вы можете легко проверить этот результат, перемножив ( )( ) 1 1 2 x xx x m и получив 1 1 x m . Если вы возьмете | | x 1 и позволите m стремиться к бесконечности, x m 1 будет стремиться к 0. Это дает
( )( ) 11 1 2 x xx при | | x 1, что и доказывает нужный
результат. Дифференцируя геометрическую прогрессию почленно
и принимая во внимание, что
1
1 x
имеет производную
1
1 2 ( ) x
, вы
получите
12 3 1
1
1 2
2 x x x x ( ) при | |
или, коротко, kx
x
k
k
1
1 2
1
( ) 1
при | | x 1. Аналогично, вы получите kk x
x
k
k ( )
( )
2
2
3 1 2
1
при | | x 1. Для геометрического
распределения вероятностей, с которым вы встретитесь в следующих главах, эти формулы сводятся к
k pp
p
k pp p
k p
k
k
k () () . 1 1 1 2
1
1 2
1
1
2
и
И наконец, частичная сумма 1 1
2
1
n
гармонического ряда
будет возникать во многих вероятностных задачах. Полезная аппроксимация:
18 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1 1
2
1 1
2
n
n
n
ln( ) для больших n,
где 0 57721566 , — постоянная Эйлера—Маскерони. Эта аппроксимация очень точна. Частичная сумма 1
1 k k
n
растет чрезвычайно медленно с ростом n.
1
1.2. Основные факты из математического анализа 19
1
Сумма гармонического ряда 1
1 k k
принимает значение . Существует
много доказательств этого замечательного результата. Первое доказательство датируется примерно 1350 годом, его дал философ Николай Орезмский.
Это доказательство гениально. Николай Орезмский просто заметил, что
1
3
1
4
2
4
1
2
, 1
5
1
6
1
7
1
8
4
8
1
2
,
1
9
1
10
1
16
8
16
1
2
, и так далее.
В общем случае 1
1
1
2
1
2
1
rr r 2
для любого r, и это показывает,
что величина 1
1 k k
n
перерастает все возможные границы, когда n растет.
Разве это доказательство не прекрасно?
ÃËÀÂÀ 2
ÎÑÍÎÂÛ ÒÅÎÐÈÈ
ÂÅÐÎßÒÍÎÑÒÅÉ
Теория вероятностей — наука о неопределенностях, возникающих
везде и всюду:
• Каковы шансы выиграть максимальный приз в национальной
лотерее?
• Каковы шансы того, что у вас действительно есть редкая болезнь, если анализ на нее оказался положительным?
• Каковы шансы, что последний из тянущих билеты выиграет,
если один приз разыгрывается среди 10 человек?
• Сколько карт, по вашим ожиданиям, нужно вытянуть из стандартной колоды до того, как попадется первый туз?
• Каково математическое ожидание проигрыша, если вы собираетесь поставить в рулетку на красное 50 раз подряд?
• Чему равно ожидаемое число различных значений, выпавших
при одном броске шести симметричных игральных костей?
Чему равно ожидаемое число бросков симметричной кости, требуемое, чтобы увидеть все шесть ее граней?
Инструменты для ответов на подобные вопросы содержатся
в этой главе, которая познакомит вас с самыми важными основными понятиями элементарной теории вероятностей. В данной
главе даются стандартные аксиомы, выводятся важные свойства
вероятностей, рассматриваются ключевые идеи условной вероятности и байесовского мышления, и объясняются понятия случайной величины, математического ожидания и стандартного отклонения. Все это проиллюстрировано полезными примерами
и поучительными задачами.
Теория вероятностей — увлекательная область математики, к тому
же ее знание необходимо для понимания статистики. Человеку,
живущему в современном обществе, необходимо уметь анализировать вероятностные утверждения, появляющиеся в СМИ, и принимать информированные суждения и решения. В этой книге дается введение в базовые концепции вероятностного мышления
и рассуждений в условиях неопределенности, проиллюстрированное множеством поучительных и интересных примеров.
Здесь рассматриваются все фундаментальные аспекты основ
теории вероятностей. Эта книга выросла из книги про теорию вероятностей, которую я когда-то написал для студентов голландских высших учебных заведений, и рассчитана на студентов, изучающих теорию вероятностей впервые. Я писал эту книгу
специально для студентов, изучающих статистику и науку о данных (data science), которым требуется доступное и достаточно полное введение в основы теории вероятностей. Вероятность — основа основ статистики и науки о данных.
Важнейшие темы, рассмотренные в этой книге, — это условная
и байесовская вероятность, приложения распределения Пуассона
к реальным жизненным ситуациям и взаимодействие между теорией вероятности и компьютерным моделированием. Компьютерное моделирование — это не только вычислительный инструмент
для решения вероятностных задач, но также и полезный дидактический инструмент, помогающий студентам достичь лучшего понимания идей, лежащих в основе теории вероятности. Основное внимание в этой книге уделяется дискретным вероятностям, но она также
затрагивает вопросы, связанные с непрерывными распределениями
вероятностей. В тексте рассредоточено много замечаний об истории становления и развития науки о вероятностях.
Поскольку теория вероятностей сложна для новичка, в данной
книге используется подход, состоящий в том, чтобы выработать
вероятностную интуицию до того, как изучать детали. Хотя многие вероятностные задачи просты для понимания, их решения
требуют остроумного и творческого мышления. Лучший способ
изучить теорию вероятностей — решить много задач. В книге приводится множество поучительных задач и стратегий их решения.
Даны ответы ко всем задачам и подробные решения некоторых из
них, чтобы повысить уверенность студентов при решении вероятностных задач и стимулировать активное самостоятельное
обучение.
Предисловие ко второму изданию
Во второе издание были внесены многочисленные дидактические
улучшения. Кроме этого, в книгу добавлено много дополнительных мотивирующих примеров и задач. Материал, посвященный
байесовской вероятности, был расширен, дополнительно дано обсуждение двух знаменитых судебных процессов. В главу о применениях распределения Пуассона в реальной жизни добавлены два
новых раздела. Также в книгу были добавлены разделы о производящих функциях и о двумерном нормальном распределении. Роли
закона больших чисел и центральной предельной теоремы
в компьютерном моделировании обсуждаются более глубоко. Самым важным изменением явилось добавление вводной главы
о свойствах марковских цепей и методе Монте-Карло, использующем марковские цепи. При чтении книги к этому интереснейшему материалу, имеющему большую популярность у студентов,
можно перейти непосредственно после изучения понятия условной вероятности.
Наконец, я благодарю всех, кто сделал важные замечания
к первому изданию. В частности, я хотел бы поблагодарить Карла
Зигмана и Алана Враспира.
6 Предисловие
ÃËÀÂÀ 1
ÝËÅÌÅÍÒÛ ÊÎÌÁÈÍÀÒÎÐÈÊÈ
È ÌÀÒÅÌÀÒÈ×ÅÑÊÎÃÎ
ÀÍÀËÈÇÀ, ÈÑÏÎËÜÇÓÅÌÛÅ
 ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
В этой главе представлены те факты из комбинаторики и математического анализа, которые понадобятся вам в следующих главах.
Раздел 1.1 знакомит вас с понятиями факториала и биномиальных
коэффициентов. В разделе 1.2 описаны экспоненциальная функция и натуральный логарифм.
1.1. Факториалы и биномиальные
коэффициенты
Многие задачи теории вероятностей требуют знания техник вычислений. В частности, подобные техники чрезвычайно полезны
для вычисления вероятностей в случайном эксперименте с равновероятными исходами. Для такого эксперимента нужны эффективные методы подсчета числа результатов, приводящих к наступлению заданного события. При этом важно знать, нужно
учитывать порядок, в котором подсчитываются объекты, или нет.
Ниже приводятся понятия факториала и биномиальных коэффициентов и примеры их применения.
В вычислениях мы часто будем использовать фундаментальный принцип подсчета: если существует a способов совершить
одно действие и b способов совершить другое действие, то существует a b способов сделать их совместно. Например, вы идете
в кафе, чтобы позавтракать. В меню есть оладьи, вафли и яичница, а из напитков можно выбрать сок, кофе, чай или горячий
шоколад. Тогда общее число вариантов выбора еды и напитка
составит 3 4 12 . Другой пример: сколько различных автомобильных номеров можно составить, если в таком номере сначала
должна идти ненулевая цифра, потом три буквы (английского
алфавита. — Прим. перев.), а затем любые три цифры? Ответ:
9 26 26 26 10 10 10 158184000 номерных знаков.
Факториалы и перестановки
Сколькими различными способами можно упорядочить данное
количество различных объектов, таких как буквы или числа? Например, сколькими различными способами можно упорядочить
набор из трех букв A, B и C? Выписав все возможные комбинации
ABC, ACB, BAC, BCA, CAB и CBA, вы можете увидеть, что их 6. Такой метод перебора с выписыванием и подсчетом всех возможных
вариантов перестает работать, если число вариантов становится большим, как в случае количества возможных упорядочиваний
26 букв английского алфавита. Вы также можете вычислить, что
три буквы A, B и C можно упорядочить 6 разными способами,
с помощью следующего рассуждения. На первое место вы можете
поставить любую из 3 имеющихся букв, на второе одну из 2 оставшихся, и у вас останется только одна буква для подстановки на
третье место. Таким образом, общее число возможных вариантов
выбора равно 3216 . Теперь общее правило подсчета должно
быть очевидно. Предположим, у вас есть n различимых объектов.
Сколько упорядоченных последовательностей этих объектов можно построить? Любая такая упорядоченная последовательность называется перестановкой. Рассуждая так же, как и в предыдущий
раз, скажем, что есть n способов выбрать первый объект, что
оставляет нам n 1 возможностей выбрать второй объект, и т. д.
Таким образом, общее число способов упорядочить n различимых
объектов равно произведению n n ( )1 21 . Это произведение обозначается n! и называется «n факториал». Для любого положительного целого n
n nn ! () 12 1 .
Вот полезное соглашение:
0 1 ! ,
оно упрощает написание некоторых формул, которые встретятся
нам дальше. Обратите внимание, что n nn ! ( )! 1 , поэтому n!
8 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
очень быстро растет с ростом n. Например, 5 120 ! , 10 3628800 !
и 15 1307674368000 ! . Подводя итог, можно сказать, что для любого положительного целого n
количество упорядоченных последовательностей (перестановок) n
различных объектов равно n!.
Вооружившись этим знанием, попробуйте доказать, что в лотерее 6/45 шесть выигрышных номеров, поочередно выбранных из
набора целых чисел от 1 до 45, окажутся упорядочены либо по
возрастанию, либо по убыванию с вероятностью 1
360.
А вот интересный вопрос: сколько различных слов, реально
существующих или не существующих в языке, можно составить
из заданного набора букв, если некоторые буквы в слове могут
повторяться несколько раз? Например, сколько разных слов
можно составить из пяти букв A, двух B, двух R, одной C и одной
D? Чтобы найти ответ, представьте себе, что пять букв A помечены от A1 до A5 , две буквы B стали B1 и B2 , а две буквы R стали R1
и R2 . Тогда у вас получилось 11 различных букв, и количество
способов упорядочить эти буквы равно 11!. Пять букв от A1 до
A5 , две буквы B1 и B2 и две буквы R1 и R2 можно упорядочить
522 !!! способами. Каждая из полученных упорядоченных последовательностей преобразуется в то же самое слово, если вы
замените буквы A1 , , A5 на A, B1 и B2 на B, и R1 и R2 на R. Поэтому количество различных слов, которые можно сложить из
исходных 11 букв, равно
11
522
83160 !
!!! .
То есть если вы тщательно перемешаете одиннадцать букв
и выложите их в ряд, вероятность получить при этом слово
ABRACADABRA равна 1
83160.
Биномиальные коэффициенты и сочетания
Сколько различных жюри из трех человек можно составить из
пяти участников A, B, C, D и E ? Прямым вычислением вы получаете ответ 10: { , , }, ABC { , , }, ABD { , , }, ABE { , , }, AC D { , , }, AC E
1.1. Факториалы и биномиальные коэффициенты 9
{ , , }, ADE {B, C, D}, { , , }, BC E { , , }, BDE { , , }. CDE В этой задаче порядок выбора членов жюри не важен. Ответ «10 вариантов жюри»
также можно получить, применив фундаментальный принцип
подсчета. Сначала подсчитайте, сколько жюри из трех человек
можно составить, если порядок следования членов жюри важен.
Затем определите, сколько раз вы при этом сосчитали каждую
группу из трех человек. Рассуждать следует так. Есть 5 способов
выбрать первого члена жюри, 4 способа выбрать следующего судью, и 3 способа выбрать последнего члена. Это дало бы 543
способов составить жюри, если порядок, в котором выбраны его
члены, имел бы значение. Но в данном случае порядок выбора
не важен. Например, для жюри, состоящего из трех человек A, B
и C, не имеет значения, какая из 3! упорядоченных последовательностей ABC, ACB, BAC, BCA, CAB, или CBA привела к такому выбору. Поэтому количество способов выбрать жюри из трех человек из группы в 5 человек равно 543
3
! . Это выражение можно
также записать в виде
54 321
3 2
5
3 2
! !
!
! ! .
Вы можете подсчитать, что в общем случае количество возможных способов составить жюри из k судей, выбирая из группы
в n человек, равно
n n nk
k
n n nk nk
k
() ( )
!
( ) ( )( )
!
1 1
11 1
( )!
!
n k ! ( )!
n
k nk
Это приводит к определению
n
k
n
k nk
!
! ( )!
для неотрицательных целых чисел n и k при условии, что k n .
Величина n
k
(произносится «число сочетаний из n по k») означает следующее:
10 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
n
k
— это количество способов выбрать k объектов из n различных
объектов, если не важно, в каком порядке они выбраны.
Другими словами, n
k
— это количество возможных сочетаний
k различных объектов, выбранных из n. Эта величина называется
биномиальным коэффициентом. Ключевое различие между перестановками и сочетаниями состоит в том, учитывается ли при их
построении порядок следования элементов. Сочетания — это неупорядоченные выборки, перестановки — упорядоченные последовательности.
Биномиальные коэффициенты играют ключевую роль в так
называемой урновой модели. Эта модель имеет много приложений
в теории вероятностей. Предположим, что в урне лежит R красных
и W белых шаров. Какова вероятность достать ровно r красных
шаров, если мы не глядя берем из урны n шаров? Чтобы ответить
на этот вопрос, полезно вообразить, что шары сделали различимыми, нанеся на каждый отдельную метку1. Общее число возможных сочетаний n различных шаров равно
R W
n
. Среди этих сочетаний есть
R
r
W
n r
комбинаций с ровно r красными шарами
(и, следовательно, n r белыми шарами). То есть если не глядя
вынуть из урны n шаров,
вероятность вынуть ровно r красных шаров
R
r
W
n r
R W
n
,
где, по принятому соглашению,
a
b
= 0 при b a
. Эти вероятности
представляют так называемое гипергеометрическое распределение.
Задачи из теории вероятностей, которые можно свести к урновой
1.1. Факториалы и биномиальные коэффициенты 11
1Нанести метки на объекты, чтобы сделать их различимыми, может оказаться очень полезно при решении комбинаторной задачи из теории вероятностей.
модели, появляются во многих обличьях. Хороший пример — лотерея 6/45. В каждом розыгрыше лотереи из набора 1 2 45 ,, , выбираются шесть различных чисел. Предположим, что вы заполнили
лотерейный билет, вычеркнув шесть разных чисел. Тогда вероятность того, что ровно r из выбранных вами чисел совпадут с числами, выпавшими при розыгрыше, равна
6 39
6
45
6
01 6 r r r
для , , , .
Это можно увидеть, представив шесть выпавших при розыгрыше чисел в виде 6 красных шаров, а остальные 39 чисел в виде 39 белых шаров. В частности, вероятность совпадения
всех выпавших при розыгрыше чисел с вашими (джекпот) равна
1 к 8 145 060.
В математике есть много тождеств, в которых используются
биномиальные коэффициенты. Следующее рекурсивное соотношение известно как треугольник Паскаля1:
n
k
n
k
n
k
k n
1
1
1
для . 1
Вы можете доказать это алгебраически. Однако можно получить более элегантное доказательство, если интерпретировать одну
и ту же величину двумя разными способами. Будем называть это
словесным доказательством. Представьте себе группу из n человек,
из которых нужно выбрать k членов комитета. Этих k человек
можно выбрать n
k
способами. С другой стороны, можно провести
подсчет еще и таким образом. Возьмите одного человека, например, Джона. Число возможных комитетов, в которые может вхо12 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1Паскаль был далеко не первым из тех, кто изучал этот треугольник.
Персидский математик Абу Бакр Аль-Караджи создал нечто очень похожее еще в 10-м веке. В Китае этот треугольник называют треугольником
Ян Хуэя, по имени жившего в 13-м веке китайского математика, а в Италии
треугольником Тарталья, по имени итальянского математика Никколо Тартальи, жившего в 16-м столетии.
дить Джон, равно
n
k
1
1 , а число возможных комитетов, в которые
Джон не входит, равно
n
k
1
, что и доказывает приведенное выше
тождество.
Попробуйте самостоятельно решить следующие проверочные
задачи:
• Сколько существует различных автомобильных номеров, в которых сначала идут три буквы (английского алфавита. — Прим. перев.), а затем три цифры? Сколько существует таких номеров, в которых все буквы и цифры различны? (Ответ: 17 576 000
и 11 232 000.)
• Сколько существует способов расставить в ряд 5 букв A и 3 буквы B? (Ответ: 56.)
• Пять игроков в футбол, A, B, C, D и E, должны бить пенальти
после окончания футбольного матча. Сколько возможно вариантов того, в каком порядке они будут бить по мячу, если A
должен бить сразу после C? Сколько есть вариантов, если A
должен бить после C? (Ответ: 24 и 60.)
• Чему равно количество различных перестановок одиннадцати
букв, входящих в слово Mississippi? (Ответ: 34 650.)
• Джон и Пит входят в группу из 10 игроков, которых нужно разделить на две команды A и B по пять игроков каждая. Сколькими способами можно разделить игроков на команды так, чтобы
Джон и Пит оказались в одной команде? (Ответ: 120.)
• Предположим, что из 10 детей нужно выбрать пять и выстроить
их в шеренгу. Сколько различных шеренг может получиться?
(Ответ: 30 240.)
• Дайте словесные доказательства равенств
n
n k
n
k
и
n
k
n
n k
n
n k
n
0
2 .
1.1. Факториалы и биномиальные коэффициенты 13
• Сколькими способами можно распределить восемь одинаковых
шоколадок между пятью детьми так, чтобы каждый ребенок получил хотя бы одну шоколадку? (Ответ: 351.)
1.2. Основные факты
из математического анализа
История числа e началась в 1614 году, когда Джон Непер изобрел
логарифмы. Это случилось в период, когда расширялась и росла
международная торговля, и из-за этого очень много внимания
было направлено на понятие сложных процентов. В то время уже
было известно, что 1 1
n
n
стремится к некоторому пределу, если
позволить n расти без ограничений:
lim ,
n
n
n e e
1 1
при 2 7182818.
Знаменитая математическая константа e называется числом
Эйлера. Ее назвали в честь Леонарда Эйлера (1707—1783), которого считают самым продуктивным математиком в истории.
Экспонента, или экспоненциальная функция — это функция e x ,
где переменная x принимает значения из области действительных
чисел. Она является самой важной функцией в математике. Фундаментальное свойство e x состоит в том, что ее производная совпадает с ней самой:
14 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1Количество комбинаций неотрицательных целых чисел x x 1 n , , , удовлетворяющих условию x xr 1 n , равно n r
r
1
. Этот результат приводится без доказательства. (По-видимому, в формуле опечатка; данная задача эквивалентна задаче о количестве способов разложить восемь неразличимых шаров по пяти различимым ящикам так, чтобы в каждом ящике был
хотя бы один шар, а эта задача сводится к тому, чтобы найти количество
способов поставить (5-1) перегородку на (8-1) пустых местах между положенными в ряд шарами, поэтому количество комбинаций здесь равно
r
n
1
1 . — Прим. перев.)
de
dx e x
x x для всех .
Интермедия: Давайте построим график производной. Рассмотрим функцию a x( ) вида ax a x ( ) для некоторой постоянной a
0.
Тогда для каждого h
0
ax h ax
h
a a
h a x a
h
xh x h ( ) () () . 1
Будем считать доказанным, что ca h
h
h
lim( ) /
0
1 существует.
Таким образом, a x ca x '( ) ( ) . Когда константа c 1? Ответ: если
a e . Чтобы это увидеть, обратите внимание на то, что условие lim( ) /
h
h a h 0
1 = 1 — это то же самое, что и a h
h
h
lim( ) /
0
1 1 =
lim
n
n
n
1 e
1 . Таким образом, a x ax '( ) ( ) при a e . Более общий результат состоит в том, что fx e x ( ) — единственная функция, которая удовлетворяет дифференциальному уравнению
f x fx '( ) ( ) с граничным условием f( )0 1 .
Как вычислить значение e x ? Соотношение
lim
n
n x x
n e x
1 для всех ,
верное для общего случая, для нашей цели не годится. Для вычисления e x используется степенной ряд
e x x x x x 1
2 3
2 3
! ! для всех .
Чтобы доказать верность этого разложения в степенной ряд,
нужно использовать теорему Тейлора из математического анализа.
То, что e x сама является своей производной, играет в этом доказательстве важнейшую роль. Заметим, что почленное дифференцирование ряда 1
2
2
x
x
! дает тот же самый ряд, и это согласуется с тем фактом, что e x совпадает со своей производной.
1.2. Основные факты из математического анализа 15
Разложение e x в ряд дает e x x 1 для x, близких к 0. Это
одна из наиболее полезных аппроксимационных формул в математике! В теории вероятностей эта формула часто применяется
в виде
e xx x 1 для близких к 0 , .
Хорошей иллюстрацией полезности этой формулы является
парадокс дней рождения. Какова вероятность того, что в случайно выбранной группе из m людей (без близнецов) окажется два
или больше человека, у которых дни рождения приходятся на
один день? Чтобы упростить задачу, будем считать, что в году
365 дней (29 февраля исключаем) и что вероятность родиться
в любой из этих дней одинакова. Занумеруем людей от 1 до m,
и пусть последовательность (, , , ) vv v 1 2 m обозначает даты
их рождений. Количество возможных последовательностей будет равно 365 365 365 365 m , а число последовательностей, в которых у всех людей дни рождения различны, равно
365 364 365 1 ( ) m . Обозначив Pm вероятность того, что все
люди родились в разные дни, вы получите
P m m m 365 364 365 1
365
( ) .
Если m сильно меньше 365, можно применить очень полезную
аппроксимацию:
P e m
m m
1
2 ( )/ 1 365
.
Чтобы увидеть, что это соотношение верно, запишите Pm
в виде
P m m
1 1 1
365
1 2
365
1 1
365 .
Далее используйте аппроксимацию e x x 1 для x, близких к нулю, и формулу суммы арифметической прогрессии
1 2 1
2
n nn( )1 для n 1, и вы получите
Pe e e e m m m 1 365 2 365 1 365 1 2 1 365 / / ( )/ ( )/
e m m 1
2 ( )/ 1 365
.
16 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
Искомая вероятность того, что у двух или больше людей дни
рождения совпадают, равна единице минус вероятность того, что
у всех людей дни рождения различны. Итак,
вероятность того, їто у двух или больше людей
дни рождения совпадают
1
1
2 1 365
e m m( )/
.
Эта вероятность становится больше 50% при m 23 человека
(ее точное значение 0,5073, а приблизительное 0,5000). Интуитивное объяснение того, что вероятность совпадения становится
больше 50% для такого маленького значения, как m 23, состоит
в том, что для него существует
23
2
= 253 комбинации из двух человек, и для каждой из них вероятность совпадения дат рождения
равна
1
365.
Натуральный логарифм
Функция e x строго возрастает на ( ,) , причем lim
x
x e 0 и
lim
x
x e
. Следовательно, уравнение e c y имеет единственное
решение y для каждого c
0. Это решение как функция от c называется натуральным логарифмом и обозначается ln( )c для c
0. Таким образом, натуральный логарифм — функция, обратная к экспоненциальной. Другими словами, ln( )x — логарифмическая
функция по основанию e. Натуральный логарифм также можно
определить через интеграл
ln( ) . y v dv y y
1 0 1 для
Это интегральное представление ln( )y часто используется
в вероятностном анализе. Оно показывает, что производная от
ln( )y — это
d y
dy y y ln( )
. 1
для 0
1.2. Основные факты из математического анализа 17
Геометрическая прогрессия и гармонический
ряд
В вероятностном анализе вам будут часто встречаться геометрические прогрессии. Основная формула для геометрической прогрессии — это формула ее суммы
1 1
1
1 2 x x x при | | x ,
или, коротко, x
x
k
k
0
1
1 при | | x 1. Вы можете легко проверить этот результат, перемножив ( )( ) 1 1 2 x xx x m и получив 1 1 x m . Если вы возьмете | | x 1 и позволите m стремиться к бесконечности, x m 1 будет стремиться к 0. Это дает
( )( ) 11 1 2 x xx при | | x 1, что и доказывает нужный
результат. Дифференцируя геометрическую прогрессию почленно
и принимая во внимание, что
1
1 x
имеет производную
1
1 2 ( ) x
, вы
получите
12 3 1
1
1 2
2 x x x x ( ) при | |
или, коротко, kx
x
k
k
1
1 2
1
( ) 1
при | | x 1. Аналогично, вы получите kk x
x
k
k ( )
( )
2
2
3 1 2
1
при | | x 1. Для геометрического
распределения вероятностей, с которым вы встретитесь в следующих главах, эти формулы сводятся к
k pp
p
k pp p
k p
k
k
k () () . 1 1 1 2
1
1 2
1
1
2
и
И наконец, частичная сумма 1 1
2
1
n
гармонического ряда
будет возникать во многих вероятностных задачах. Полезная аппроксимация:
18 Глава 1. Элементы комбинаторики и математического анализа,
используемые в теории вероятностей
1 1
2
1 1
2
n
n
n
ln( ) для больших n,
где 0 57721566 , — постоянная Эйлера—Маскерони. Эта аппроксимация очень точна. Частичная сумма 1
1 k k
n
растет чрезвычайно медленно с ростом n.
1
1.2. Основные факты из математического анализа 19
1
Сумма гармонического ряда 1
1 k k
принимает значение . Существует
много доказательств этого замечательного результата. Первое доказательство датируется примерно 1350 годом, его дал философ Николай Орезмский.
Это доказательство гениально. Николай Орезмский просто заметил, что
1
3
1
4
2
4
1
2
, 1
5
1
6
1
7
1
8
4
8
1
2
,
1
9
1
10
1
16
8
16
1
2
, и так далее.
В общем случае 1
1
1
2
1
2
1
rr r 2
для любого r, и это показывает,
что величина 1
1 k k
n
перерастает все возможные границы, когда n растет.
Разве это доказательство не прекрасно?
ÃËÀÂÀ 2
ÎÑÍÎÂÛ ÒÅÎÐÈÈ
ÂÅÐÎßÒÍÎÑÒÅÉ
Теория вероятностей — наука о неопределенностях, возникающих
везде и всюду:
• Каковы шансы выиграть максимальный приз в национальной
лотерее?
• Каковы шансы того, что у вас действительно есть редкая болезнь, если анализ на нее оказался положительным?
• Каковы шансы, что последний из тянущих билеты выиграет,
если один приз разыгрывается среди 10 человек?
• Сколько карт, по вашим ожиданиям, нужно вытянуть из стандартной колоды до того, как попадется первый туз?
• Каково математическое ожидание проигрыша, если вы собираетесь поставить в рулетку на красное 50 раз подряд?
• Чему равно ожидаемое число различных значений, выпавших
при одном броске шести симметричных игральных костей?
Чему равно ожидаемое число бросков симметричной кости, требуемое, чтобы увидеть все шесть ее граней?
Инструменты для ответов на подобные вопросы содержатся
в этой главе, которая познакомит вас с самыми важными основными понятиями элементарной теории вероятностей. В данной
главе даются стандартные аксиомы, выводятся важные свойства
вероятностей, рассматриваются ключевые идеи условной вероятности и байесовского мышления, и объясняются понятия случайной величины, математического ожидания и стандартного отклонения. Все это проиллюстрировано полезными примерами
и поучительными задачами.