Формула Байеса (углубленный)
На уроке «Формула полной вероятности» мы складывали вклады всех гипотез и находили вероятность события. Сегодня решим обратную задачу: событие уже произошло — насколько теперь вероятна каждая гипотеза? Ответ дает формула Байеса; это тема углубленного уровня.
Считаем людей, а не вероятности
Тест на болезнь дает положительный результат у 95% больных и ошибается лишь у 5% здоровых. Человек получил положительный результат. Болен ли он с вероятностью 95%? Ответим в разделе 4, а сначала научимся считать такие задачи.
Вероятности здесь легко перепутать, поэтому представим конкретную группу людей и будем считать их по головам. Данные учебные.
Пример 1
Болезнью страдают 10% людей. Тест положителен у 80% больных и у 5% здоровых. Человек получил положительный результат. Найдите вероятность того, что он болен.
Решение. 1) Представим 1000 человек: больных $1000\cdot 0{,}1=100$, здоровых 900.
2) Положительный результат получат $100\cdot 0{,}8=80$ больных и $900\cdot 0{,}05=45$ здоровых.
3) Всего положительных $80+45=125$.
4) Мы знаем, что результат положителен, — значит, человек один из этих 125. Больных среди них 80: $\frac{80}{125}=0{,}64$.
Ответ: $0{,}64$.
На схеме видно главное. Пока результата нет, поле — все 1000 человек. Положительный результат отбрасывает всех с отрицательным: остается полоса из 80 больных и 45 здоровых. Вопрос «болен ли он» — это вопрос о доле больных в новом, суженном поле.
Метод частот
- Разделите 1000 человек на группы по долям из условия.
- В каждой группе найдите число людей, у которых произошло наблюдаемое событие.
- Сложите эти числа — получится новое поле.
- Разделите число людей из нужной группы на размер нового поля.
Обратный вопрос: доля пути среди всех путей
Нарисуем те же данные деревом. Пусть $H$ — «человек болен», $\overline{H}$ — «здоров», $A$ — «тест положителен». Первая развилка — болен или здоров, вторая — результат теста. На ветках стоят вероятности: $P(H)=0{,}1$, $P(A\mid H)=0{,}8$, $P(A\mid\overline{H})=0{,}05$.
Дерево читают слева направо: «если болен, то тест положителен с вероятностью 0,8». Это прямой вопрос, и ответ на него стоит на ветке. Наш вопрос обратный: результат уже известен, а нужна причина. По правилу умножения путь «болен и положителен» имеет вероятность $0{,}1\cdot 0{,}8=0{,}08$, путь «здоров и положителен» — $0{,}9\cdot 0{,}05=0{,}045$. Это те же 80 и 45 человек из 1000, только деленные на 1000.
Событие $A$ произошло — значит, мы на одном из двух путей к $A$. Поле сужается до этих путей, их общая вероятность $0{,}08+0{,}045=0{,}125$. Доля пути через $H$: $P(H\mid A)=\frac{0{,}08}{0{,}125}=0{,}64$ — тот же ответ, что и при счете людей.
Определение
Вероятность гипотезы до наблюдения $P(H)$ называют априорной, а ее вероятность после того, как событие $A$ произошло, $P(H\mid A)$ — апостериорной.
Важно
$P(A\mid H)=0{,}8$ и $P(H\mid A)=0{,}64$ — разные числа, потому что поле сужают по-разному. В первом случае оставляют 100 больных и спрашивают, у скольких тест положителен (80). Во втором оставляют 125 положительных и спрашивают, сколько из них больны (80). Числитель общий, поля разные.
Формула: один путь, деленный на все пути
Обобщим. Пусть события $H_1, H_2, \ldots, H_n$ образуют полную группу (гипотезы), а событие $A$ произошло. Путь через гипотезу $H_i$ имеет вероятность $P(H_i)\cdot P(A\mid H_i)$ — это вклад гипотезы. Сумма вкладов всех гипотез — полная вероятность $P(A)$ из прошлого урока. Искомая вероятность — доля одного вклада в сумме.
Теорема (формула Байеса)
Пусть $H_1, \ldots, H_n$ — полная группа событий и $P(A)>0$. Тогда вероятность гипотезы $H_i$ при условии, что событие $A$ произошло, равна вкладу этой гипотезы, деленному на полную вероятность события $A$:
где $P(A)=P(H_1)\cdot P(A\mid H_1)+\ldots+P(H_n)\cdot P(A\mid H_n)$.
$$P(H_i\mid A)=\frac{P(H_i)\cdot P(A\mid H_i)}{P(A)}$$
Доказательство
Шаг 1. По определению условной вероятности $P(H_i\mid A)=\frac{P(H_i\cap A)}{P(A)}$.
Шаг 2. По правилу умножения $P(H_i\cap A)=P(H_i)\cdot P(A\mid H_i)$ — это вероятность пути через $H_i$.
Шаг 3. По формуле полной вероятности $P(A)$ — сумма вкладов всех гипотез. Подставим числитель и знаменатель — получим формулу Байеса.
Пример 2
В почтовый ящик приходит 30% спама. Слово «выигрыш» встречается в 40% спам-писем и в 2% обычных. Пришло письмо со словом «выигрыш». Найдите вероятность того, что это спам. Ответ округлите до сотых.
Решение. Гипотезы: $H_1$ — «спам», $P(H_1)=0{,}3$; $H_2$ — «обычное письмо», $P(H_2)=0{,}7$. Событие $A$ — «в письме есть слово».
1) Вклады: $0{,}3\cdot 0{,}4=0{,}12$ и $0{,}7\cdot 0{,}02=0{,}014$.
2) Полная вероятность: $P(A)=0{,}12+0{,}014=0{,}134$.
3) $P(H_1\mid A)=\frac{0{,}12}{0{,}134}\approx 0{,}8955\approx 0{,}90$.
Ответ: $0{,}90$.
Как применять формулу
- Назовите гипотезы и выпишите их вероятности; проверьте, что сумма равна 1.
- Выпишите вероятность события $A$ при каждой гипотезе.
- Найдите вклады: перемножьте числа из шагов 1 и 2.
- Сложите вклады — это знаменатель $P(A)$.
- Разделите вклад нужной гипотезы на знаменатель.
Почему точный тест обманывает интуицию
Вернемся к вопросу из начала урока и добавим недостающее данное — насколько болезнь редкая. Прежде чем считать, оцените: больше или меньше половины людей с положительным результатом больны?
Пример 3
Болезнью страдают 2% людей. Тест положителен у 95% больных и у 5% здоровых. Человек получил положительный результат. Найдите вероятность того, что он болен.
Решение. 1) Из 1000 человек больны $1000\cdot 0{,}02=20$, здоровы 980.
2) Положительный результат: $20\cdot 0{,}95=19$ больных и $980\cdot 0{,}05=49$ здоровых.
3) Новое поле — $19+49=68$ человек.
4) $P(H\mid A)=\frac{19}{68}\approx 0{,}28$.
Ответ: около $0{,}28$ — меньше трети, а вовсе не $0{,}95$.
Ошибка
Решавр рассуждает: «Тест дает положительный результат у 95% больных. Результат положителен — значит, человек болен с вероятностью 0,95».
Проверка на числах. Из 68 человек с положительным результатом больны только 19: $\frac{19}{68}\approx 0{,}28\ne 0{,}95$.
Где сломалось рассуждение. Число 0,95 — это $P(A\mid H)$: поле сужено до 20 больных. А спрашивают $P(H\mid A)$: поле сужено до 68 положительных. Здоровых в 49 раз больше, чем больных, поэтому даже 5% ложных срабатываний у них дают 49 человек — больше, чем 19 верных у больных.
Чем реже болезнь, тем сильнее разрыв: малая доля большой группы здоровых перевешивает почти всех больных. Меняйте долю больных и точность теста (тест положителен у $t\%$ больных и отрицателен у $t\%$ здоровых) и следите, какую долю в полосе положительных занимают больные.
Как же тогда пользоваться тестом? Повторить его. После первого положительного результата вероятность болезни стала $\frac{19}{68}$ — это новый, апостериорный вес гипотезы. Если повторные тесты при данном состоянии человека независимы, второй положительный результат в среднем получат $19\cdot 0{,}95=18{,}05$ больных и $49\cdot 0{,}05=2{,}45$ здоровых из этих 68. Тогда $P(H\mid A)=\frac{18{,}05}{20{,}5}\approx 0{,}88$.
Интересный факт
Скрыть
В 1982 году американский врач и исследователь Дэвид Эдди описал опрос врачей: болезнь встречается у 1% обследуемых, тест положителен у 80% больных и у 9,6% здоровых. Большинство опрошенных оценивали вероятность болезни при положительном тесте примерно в 75%. Метод частот дает $\frac{0{,}008}{0{,}008+0{,}09504}\approx 0{,}08$ — около 8%.
Какой цех изготовил бракованную деталь
Формула работает не только в медицине. Любая ситуация «есть несколько возможных причин, наблюдаем следствие — какая причина вероятнее» решается так же: поле разбито на комнаты-гипотезы, наблюдение оставляет в каждой комнате только часть, и мы сравниваем эти части.
Пример 4
Первый цех выпускает 70% деталей, второй — 30%. Брак в первом цехе составляет 1%, во втором — 4%. Наугад взятая деталь оказалась бракованной. Какой цех вероятнее ее изготовил?
Решение. Гипотезы $H_1$ и $H_2$ — «деталь из первого (второго) цеха», событие $A$ — «деталь бракованная».
1) Вклады: $0{,}7\cdot 0{,}01=0{,}007$ и $0{,}3\cdot 0{,}04=0{,}012$.
2) $P(A)=0{,}007+0{,}012=0{,}019$.
3) $P(H_1\mid A)=\frac{0{,}007}{0{,}019}\approx 0{,}37$, $P(H_2\mid A)=\frac{0{,}012}{0{,}019}\approx 0{,}63$. Проверка: $0{,}37+0{,}63=1$.
Ответ: вероятнее второй цех, около $0{,}63$.
До наблюдения вероятнее был первый цех: 0,7 против 0,3. Брак перевернул соотношение. Знаменатель у обеих гипотез общий, поэтому апостериорные вероятности относятся так же, как вклады: $0{,}007 : 0{,}012$.
Обратите внимание
Чтобы узнать, какая гипотеза вероятнее, достаточно сравнить вклады $P(H_i)\cdot P(A\mid H_i)$. Чтобы найти саму вероятность, вклад нужно разделить на сумму всех вкладов — и гипотез может быть три и больше.
Вывод
Формула Байеса отвечает на вопрос «что вероятнее стало причиной», когда следствие уже известно. Так рассуждают врачи о результатах анализов, фильтры спама о письмах, контролеры качества о бракованных деталях. Вспомнить главное поможет поле, которое сужается:
Вспомните вопрос из начала урока: тест положителен, его точность 95% — почему же больны не 95% таких людей? Потому что положительный результат сужает поле до положительных, а в нем много здоровых с ложным срабатыванием. Если запутались, представьте 1000 человек и считайте людей. В модуле о формуле Бернулли дерево станет длинным: одинаковые независимые испытания повторяются много раз.
Часто задаваемые вопросы
Формула полной вероятности находит $P(A)$ — вероятность события через все гипотезы. Формула Байеса использует это число как знаменатель и отвечает на обратный вопрос: какова вероятность гипотезы, если $A$ уже произошло.
По формуле Байеса $P(H\mid A)=\frac{P(H)}{P(A)}\cdot P(A\mid H)$, поэтому при $P(A\mid H)>0$ числа равны, только если $P(H)=P(A)$. В задачах о диагностике это почти никогда не так, поэтому подменять одно другим нельзя.
Число может быть любым — важно, чтобы получались целые числа людей. Для долей вроде 2% и 5% хватает 1000, для 0,1% удобнее взять 10 000. Ответ от выбора группы не зависит.
Второй тест оценивают именно через нее: после первого результата апостериорная вероятность становится весом гипотезы перед вторым. Так в примере вероятность болезни выросла с 0,02 до 0,28 после первого теста и примерно до 0,88 после второго.
Получите полный доступ ко всем материалам и занимайтесь в удобном темпе — без ограничений.
- Более 700 000 учеников и 50 000 учителей по всей России.
- Повышение среднего балла по предмету до 20 % после месяца занятий.
- Всплеск интереса к учебе и более глубокое понимание предметов.
Создайте бесплатный аккаунт — и откройте больше возможностей:
- Отслеживайте прогресс освоения тем
- Получайте персональные подборки полезных уроков и заданий
- Проводите работу над ошибками после занятий