Карточки
Тесты
Зави
Тест: 6.8
Закон больших чисел и нормальное распределение
Вы уже сравнивали частоту и вероятность и знаете, что такое математическое ожидание и разброс случайной величины. В этом уроке разберем закон больших чисел — почему при многих опытах частота приближается к вероятности, — затем нормальное распределение и правило трех сигм, по которому решают задачи о росте, размерах деталей и опросах.
Почему тысячи ответов хватает, чтобы судить о миллионах
Социологи спрашивают около 1000 человек и по их ответам говорят о стране, где живут миллионы. Как может такая малая часть рассказать о целом? Ответ даст последний раздел урока, а начнем с самого простого случайного опыта — броска монеты.
Представьте, что каждый бросок кладет кубик в один из двух столбиков: «орел» или «решка». После 10 бросков столбики могут оказаться 7 и 3 — доля орлов $0{,}7$. После следующих 10 доля может стать $0{,}55$. Пока кубиков мало, доля прыгает. Исторические серии бросков показывают, что будет дальше:
| Кто бросал | Число бросков | Выпало орлов | Доля орлов |
|---|---|---|---|
| Ж. Бюффон | 4040 | 2048 | $0{,}5069$ |
| К. Пирсон | 12 000 | 6019 | $0{,}5016$ |
| К. Пирсон | 24 000 | 12 012 | $0{,}5005$ |
Доля орлов иногда оказывается равной $0{,}5$ и может снова удалиться от нее, но большие отклонения при длинной серии становятся менее вероятными: на графике линия сначала мечется, потом обычно держится около уровня $0{,}5$.
Частота успокаивается, когда опытов много
Определение
Частота события в серии опытов — это число опытов, в которых событие наступило, деленное на число всех опытов:
$$W=\frac{m}{n}$$
Закон больших чисел
Если один и тот же опыт повторять независимо много раз, то частота события с ростом числа опытов приближается к его вероятности: большие отклонения частоты от вероятности становятся все менее вероятными.
$$\frac{m}{n}\approx P(A)\quad\text{при больших } n$$
Как измерить разброс доли. Пусть $p=P(A)$, а $W$ — доля успехов в одной серии из $n$ независимых опытов. В повторных сериях $W$ немного разная. Число успехов имеет дисперсию $np(1-p)$; деление на $n$ делит дисперсию на $n^2$, поэтому $D(W)=\dfrac{p(1-p)}{n}$.
Пример: $p=0{,}5$, $n=100$ дает $\sigma(W)=\sqrt{0{,}25/100}=0{,}05$. С ростом $n$ величина $\sigma(W)$ убывает (убедитесь в модели ниже).
Закон работает и в обратную сторону: если вероятность неизвестна, ее оценивают по частоте в большой серии. Так находят вероятность брака и всхожесть семян.
Пример 1
Из 1200 посеянных семян взошло 1104. Оцените вероятность того, что семя взойдет, и сколько семян взойдет из 500 таких же.
Серия большая, поэтому вероятность близка к частоте: $P\approx\dfrac{1104}{1200}=0{,}92$. Из 500 семян ожидаем примерно $500\cdot0{,}92=460$ всходов.
Проверка смысла: $460$ меньше $500$, и доля $\dfrac{460}{500}=0{,}92$ совпадает с найденной.
Ответ: около $0{,}92$; примерно 460 семян.
Проверьте закон на модели. Прогноз: если число бросков увеличить со $100$ до $10\,000$, то есть в 100 раз, коридор сузится в 10 или в 100 раз? Проверьте при $p=0{,}5$. Коридор приближенный: он показывает, где частота окажется примерно в 95% серий (почему 95% — в разделе про правило трех сигм).
Монета не помнит прошлых бросков
Закон часто понимают так: «доля должна стать $0{,}5$, значит, после орлов монета вернет долг решками». Это рассуждение называют ошибкой игрока.
Ошибка
Как ошибаются. «Выпало 5 орлов подряд — теперь решка вероятнее, ведь частота должна выровняться».
Проверка на числах. Пусть в первых 10 бросках выпало 8 орлов: доля $0{,}8$, «лишних» орлов 3. Дальше монета честная и ничего не возвращает: в следующих 990 бросках около половины орлов, примерно 495. Всего $8+495=503$ орла из 1000, доля $0{,}503$. После 10 000 бросков — около $5003$ орлов, доля $0{,}5003$. Это ожидаемые значения: в конкретной серии новые броски добавят случайные отклонения. Три лишних орла остаются в счете, но их вклад в долю уменьшается.
Где ломается рассуждение. Доля выравнивается разбавлением, а не возмещением: новые кубики падают в столбики с прежней вероятностью и не знают, сколько лежит в куче. Броски независимы, поэтому вероятность орла в следующем броске остается $0{,}5$ при любой серии.
Из столбиков складывается колокол
Теперь кубики кладем не в два столбика, а по значению измерения. Измерим рост 1000 юношей и разложим значения по интервалам в 2 см: каждый человек — кубик в своем столбике. На рисунке — смоделированные данные со средним 176 см.
Что видно: при 50 измерениях столбики рваные, при 1000 — гистограмма почти совпадает с плавной кривой. Больше всего значений около среднего, и чем дальше от него, тем их меньше — одинаково быстро влево и вправо. Закон больших чисел говорит, что доля каждого столбика обычно приближается к своей вероятности. Но колокол получается не из самого закона: нормальное распределение для роста выбрано как модель заранее.
Рост числа измерений лишь выявляет форму: при неизменных интервалах в 2 см высоты столбиков стабилизируются, а гладкая кривая — это выбранная модель плотности. У честного кубика частоты шести значений стремятся к $\dfrac16$ — шесть одинаковых столбиков, не колокол.
Разберем один столбик. Из 1000 измерений 100 попали в интервал шириной 2 см: доля $0{,}1$; высота нормированной гистограммы $0{,}1:2=0{,}05$ на сантиметр; площадь столбика $2\cdot0{,}05=0{,}1$ — это снова доля. Поэтому по вертикали откладывают не число людей, а долю на 1 см, и площадь под всей гистограммой равна 1.
Определение
Плотность — высота гладкой кривой-модели, к которой приближаются нормированные столбики при узких интервалах и большом числе данных: вероятность попадания в промежуток читают по площади под ней. Нормальное распределение — распределение, у которого плотность задана нормальной колоколообразной кривой, симметричной относительно $\mu$; не всякий симметричный колокол нормален. Его задают два числа: $\mu$ — математическое ожидание и $\sigma$ — стандартное отклонение.
Свойства нормальной кривой: она симметрична относительно прямой $x=\mu$; наибольшая высота — при $x=\mu$; площадь под всей кривой равна 1, а площадь над промежутком равна вероятности попадания в него; доля значений в большой случайной выборке обычно близка к этой площади. Нормально или почти нормально распределены рост, масса, ошибки измерений, размеры деталей — величины, на которые влияет много мелких независимых причин.
Интересный факт: доска Гальтона
Скрыть
Френсис Гальтон построил доску с рядами гвоздиков: шарик, падая, на каждом гвоздике случайно отскакивает влево или вправо и попадает в одну из ячеек внизу. Когда шариков много, ячейки заполняются колоколом. Каждый шарик — сумма мелких случайных отклонений, и такие суммы дают нормальную кривую.
Центр двигает колокол, ширина его растягивает
На левой панели три кривые с одним $\sigma=2$ и разными $\mu=4$, $6$, $8$: колокол переезжает вдоль оси, не меняя формы. На правой — одно $\mu=6$ и разные $\sigma=1$, $2$, $3$: чем больше $\sigma$, тем шире кривая.
Почему широкая кривая ниже? Площадь под любой нормальной кривой равна 1: кучу расплющили, и она осела. Узкий высокий колокол — малое $\sigma$, низкий широкий — большое.
Обратите внимание
$\mu$ отвечает только на вопрос «где центр», $\sigma$ — только на вопрос «насколько широко». Две кривые с одним центром могут иметь разный разброс, и наоборот.
Ошибка
Как ошибаются. «У кривой с $\mu=8$ разброс больше, чем у кривой с $\mu=4$».
Проверка на числах. На левой панели у обеих $\sigma=2$. Точки $\mu\pm\sigma$ для $\mu=4$ — это $2$ и $6$, для $\mu=8$ — $6$ и $10$. Расстояние между ними в обоих случаях $4$. Изменилось положение, а не разброс.
Исправьте рассуждение: как сравнить разброс двух кривых, не глядя на их центры?
Две трети, девятнадцать из двадцати и почти все
Сколько кубиков лежит близко к центру? Для любой нормальной кривой ответ один и тот же, если расстояние мерить в сигмах.
Правило 68–95–99,7 (правило трех сигм)
Если величина распределена нормально, то в интервал $\mu\pm\sigma$ попадает около 68% значений, в интервал $\mu\pm2\sigma$ — около 95%, в интервал $\mu\pm3\sigma$ — около 99,7%, почти все.
$$P(\lvert X-\mu\rvert<\sigma)\approx0{,}68,\quad P(\lvert X-\mu\rvert<2\sigma)\approx0{,}95,\quad P(\lvert X-\mu\rvert<3\sigma)\approx0{,}997$$
Симметрия хвостов
У нормального распределения вне симметричного интервала $\mu\pm k\sigma$ вероятности левого и правого хвостов равны (для несимметричного интервала это не так). Вне $\mu\pm2\sigma$ лежит $5\%$: $2{,}5\%$ слева и $2{,}5\%$ справа. Участок между $\mu+\sigma$ и $\mu+2\sigma$ (с одной стороны) — это $(95\%-68\%)/2=13{,}5\%$, с двух сторон — $27\%$.
Точнее: откуда числа 68, 95 и 99,7
Скрыть
Площади под кривой: над $\mu\pm\sigma$ — $0{,}6827$, над $\mu\pm2\sigma$ — $0{,}9545$, над $\mu\pm3\sigma$ — $0{,}9973$. В задачах достаточно чисел 68, 95 и 99,7.
Пример 2
Станок делает детали, длина которых распределена нормально: $\mu=50$ мм, $\sigma=0{,}2$ мм. Деталь бракуют, если ее длина отличается от 50 мм больше чем на $0{,}4$ мм. Сколько деталей из 2000 окажутся длиннее $50{,}4$ мм?
1. Переводим допуск в сигмы: $0{,}4=2\cdot0{,}2=2\sigma$, годные детали — в интервале $\mu\pm2\sigma$, от $49{,}6$ до $50{,}4$ мм.
2. В этом интервале около 95%, вне его — 5%.
3. Хвостов два, они равны: длиннее $50{,}4$ мм — $2{,}5\%$ деталей.
4. $2000\cdot0{,}025=50$.
Проверка: коротких тоже около 50, всего брака $100$ — это 5% от 2000.
Ответ: около 50 деталей.
Ошибка
В примере 2 часто отвечают «100»: берут 5% вне интервала целиком. Но вопрос только о длинных деталях — это один хвост. Проверка: если бы длинных было 100, то и коротких по симметрии 100, всего 200 — это 10%, а не 5%.
Что на самом деле знает опрос тысячи человек
Вернемся к вопросу из начала. Каждый случайно выбранный человек — опыт, ответ «да» — событие, доля «да» в выборке — частота. При случайном независимом отборе 1000 человек частота обычно близка к доле «да» среди всех жителей. Важно, что людей выбирают случайно и независимо, иначе опыт перестает быть «тем же самым».
Насколько близка? Если бы один и тот же опрос 1000 человек повторяли много раз, полученные доли легли бы колоколом вокруг истинной доли. При доле около половины распределение таких частот хорошо приближается нормальным, у его колокола $\sigma(W)=\sqrt{\dfrac{0{,}5\cdot0{,}5}{1000}}\approx0{,}0158$, то есть около $1{,}6$ процентного пункта (процентный пункт — разность двух процентов: от 54% до 57,2% — это $3{,}2$ пункта). По правилу двух сигм примерно в 95% таких опросов абсолютная ошибка не превышает около $2\cdot1{,}6=3{,}2$ пункта.
| Опрос показал | Интервал ±2σ | Что можно утверждать |
|---|---|---|
| 54% «да» | от 50,8% до 57,2% | с уверенностью около 95%: «да» — большинство |
| 51% «да» | от 47,8% до 54,2% | большинство не доказано: интервал захватывает 50% |
Миллионы жителей не нужны: точность зависит от числа опрошенных, а не от размера страны. Так как $\sigma(W)$ содержит множитель $\dfrac1{\sqrt n}$, чтобы ошибку уменьшить вдвое, нужно увеличить $n$ в 4 раза: опрашивают не 1000, а около 4000 человек — так растет и стоимость опроса. Увеличение выборки не исправляет смещенный отбор.
Вывод
Закон больших чисел объясняет, почему вероятность можно измерить опытом, а нормальное распределение и правило трех сигм позволяют по двум числам $\mu$ и $\sigma$ сказать, какая доля значений где лежит. Вспомнить главное помогает гистограмма из кубиков:
Часто задаваемые вопросы
Нет. Закон говорит о доле, а не о числе: доля близка к 0,5, а число орлов может отличаться от 500 на десятки. Ровно 500 орлов при 1000 бросков выпадает лишь примерно в 2,5% серий.
Разбавлением. Отклонение, накопленное в начале, остается, но делится на все большее число бросков. Вклад первых бросков уменьшается, а новые броски добавляют свои случайные отклонения. Три лишних орла из 10 бросков дают долю 0,8, а при 1000 бросках их вклад в долю — лишь $\dfrac{3}{1000}=0{,}003$.
Нет. Нормально или почти нормально распределены величины, которые складываются из многих мелких независимых влияний: рост, ошибки измерений, размеры деталей. Доход распределен несимметрично. Время ожидания автобуса, который ходит строго раз в 10 минут, распределено равномерно от 0 до 10 минут, а не нормально: одной симметрии недостаточно, и правило трех сигм к таким величинам напрямую не применяют.
Потому что за пределами $\mu\pm3\sigma$ лежит лишь около 0,3% значений. Выход за три сигмы в отдельном измерении редок, но возможен и без сбоя; это повод проверить процесс (станок, измерение), а не доказательство неисправности.
5
5
1
5
Получите полный доступ ко всем материалам и занимайтесь в удобном темпе — без ограничений.
- Более 700 000 учеников и 50 000 учителей по всей России.
- Повышение среднего балла по предмету до 20 % после месяца занятий.
- Всплеск интереса к учебе и более глубокое понимание предметов.
Создайте бесплатный аккаунт — и откройте больше возможностей:
- Отслеживайте прогресс освоения тем
- Получайте персональные подборки полезных уроков и заданий
- Проводите работу над ошибками после занятий