Подготовка к школе
1 класс
2 класс
3 класс
4 класс
5 класс
6 класс
7 класс
8 класс
9 класс
10 класс
11 класс
ОГЭ
ЕГЭ
Для всех
Назад

Формула Байеса (углубленный)

Содержание

На уроке «Формула полной вероятности» мы складывали вклады всех гипотез и находили вероятность события. Сегодня решим обратную задачу: событие уже произошло — насколько теперь вероятна каждая гипотеза? Ответ дает формула Байеса; это тема углубленного уровня.

Считаем людей, а не вероятности

Тест на болезнь дает положительный результат у 95% больных и ошибается лишь у 5% здоровых. Человек получил положительный результат. Болен ли он с вероятностью 95%? Ответим в разделе 4, а сначала научимся считать такие задачи.

Вероятности здесь легко перепутать, поэтому представим конкретную группу людей и будем считать их по головам. Данные учебные.

Пример 1

Болезнью страдают 10% людей. Тест положителен у 80% больных и у 5% здоровых. Человек получил положительный результат. Найдите вероятность того, что он болен.

Решение. 1) Представим 1000 человек: больных $1000\cdot 0{,}1=100$, здоровых 900.

2) Положительный результат получат $100\cdot 0{,}8=80$ больных и $900\cdot 0{,}05=45$ здоровых.

3) Всего положительных $80+45=125$.

4) Мы знаем, что результат положителен, — значит, человек один из этих 125. Больных среди них 80: $\frac{80}{125}=0{,}64$.

Ответ: $0{,}64$.

Поле 1000 человек: больны 100 (из них 80 с положительным тестом), здоровы 900 (из них 45). После сужения до 125 положительных доля больных 80 : 125 = 0,64.
Положительный результат сужает поле с 1000 человек до 125, и больных в нем 80 из 125 — это 0,64

На схеме видно главное. Пока результата нет, поле — все 1000 человек. Положительный результат отбрасывает всех с отрицательным: остается полоса из 80 больных и 45 здоровых. Вопрос «болен ли он» — это вопрос о доле больных в новом, суженном поле.

Метод частот

  1. Разделите 1000 человек на группы по долям из условия.
  2. В каждой группе найдите число людей, у которых произошло наблюдаемое событие.
  3. Сложите эти числа — получится новое поле.
  4. Разделите число людей из нужной группы на размер нового поля.

Обратный вопрос: доля пути среди всех путей

Нарисуем те же данные деревом. Пусть $H$ — «человек болен», $\overline{H}$ — «здоров», $A$ — «тест положителен». Первая развилка — болен или здоров, вторая — результат теста. На ветках стоят вероятности: $P(H)=0{,}1$, $P(A\mid H)=0{,}8$, $P(A\mid\overline{H})=0{,}05$.

Дерево: болен 0,1 и здоров 0,9; тест положителен с вероятностью 0,8 у больных и 0,05 у здоровых. Пути к A: 0,08 и 0,045, вместе 0,125. P(H | A) = 0,08 : 0,125 = 0,64.
К событию A ведут два пути, 0,08 и 0,045; доля пути через H среди них 0,08 : 0,125 = 0,64

Дерево читают слева направо: «если болен, то тест положителен с вероятностью 0,8». Это прямой вопрос, и ответ на него стоит на ветке. Наш вопрос обратный: результат уже известен, а нужна причина. По правилу умножения путь «болен и положителен» имеет вероятность $0{,}1\cdot 0{,}8=0{,}08$, путь «здоров и положителен» — $0{,}9\cdot 0{,}05=0{,}045$. Это те же 80 и 45 человек из 1000, только деленные на 1000.

Событие $A$ произошло — значит, мы на одном из двух путей к $A$. Поле сужается до этих путей, их общая вероятность $0{,}08+0{,}045=0{,}125$. Доля пути через $H$: $P(H\mid A)=\frac{0{,}08}{0{,}125}=0{,}64$ — тот же ответ, что и при счете людей.

Определение

Вероятность гипотезы до наблюдения $P(H)$ называют априорной, а ее вероятность после того, как событие $A$ произошло, $P(H\mid A)$ — апостериорной.

Важно

$P(A\mid H)=0{,}8$ и $P(H\mid A)=0{,}64$ — разные числа, потому что поле сужают по-разному. В первом случае оставляют 100 больных и спрашивают, у скольких тест положителен (80). Во втором оставляют 125 положительных и спрашивают, сколько из них больны (80). Числитель общий, поля разные.

Формула: один путь, деленный на все пути

Обобщим. Пусть события $H_1, H_2, \ldots, H_n$ образуют полную группу (гипотезы), а событие $A$ произошло. Путь через гипотезу $H_i$ имеет вероятность $P(H_i)\cdot P(A\mid H_i)$ — это вклад гипотезы. Сумма вкладов всех гипотез — полная вероятность $P(A)$ из прошлого урока. Искомая вероятность — доля одного вклада в сумме.

Формула Байеса на примере спама: числитель 0,3·0,4 = 0,12 — один путь, знаменатель 0,12 + 0,014 = 0,134 — все пути к A; ответ ≈ 0,90.
Числитель — один выделенный путь к A, знаменатель — сумма всех путей к A, то есть полная вероятность

Теорема (формула Байеса)

Пусть $H_1, \ldots, H_n$ — полная группа событий и $P(A)>0$. Тогда вероятность гипотезы $H_i$ при условии, что событие $A$ произошло, равна вкладу этой гипотезы, деленному на полную вероятность события $A$:

где $P(A)=P(H_1)\cdot P(A\mid H_1)+\ldots+P(H_n)\cdot P(A\mid H_n)$.

$$P(H_i\mid A)=\frac{P(H_i)\cdot P(A\mid H_i)}{P(A)}$$

Доказательство

Шаг 1. По определению условной вероятности $P(H_i\mid A)=\frac{P(H_i\cap A)}{P(A)}$.

Шаг 2. По правилу умножения $P(H_i\cap A)=P(H_i)\cdot P(A\mid H_i)$ — это вероятность пути через $H_i$.

Шаг 3. По формуле полной вероятности $P(A)$ — сумма вкладов всех гипотез. Подставим числитель и знаменатель — получим формулу Байеса.

Пример 2

В почтовый ящик приходит 30% спама. Слово «выигрыш» встречается в 40% спам-писем и в 2% обычных. Пришло письмо со словом «выигрыш». Найдите вероятность того, что это спам. Ответ округлите до сотых.

Решение. Гипотезы: $H_1$ — «спам», $P(H_1)=0{,}3$; $H_2$ — «обычное письмо», $P(H_2)=0{,}7$. Событие $A$ — «в письме есть слово».

1) Вклады: $0{,}3\cdot 0{,}4=0{,}12$ и $0{,}7\cdot 0{,}02=0{,}014$.

2) Полная вероятность: $P(A)=0{,}12+0{,}014=0{,}134$.

3) $P(H_1\mid A)=\frac{0{,}12}{0{,}134}\approx 0{,}8955\approx 0{,}90$.

Ответ: $0{,}90$.

Как применять формулу

  1. Назовите гипотезы и выпишите их вероятности; проверьте, что сумма равна 1.
  2. Выпишите вероятность события $A$ при каждой гипотезе.
  3. Найдите вклады: перемножьте числа из шагов 1 и 2.
  4. Сложите вклады — это знаменатель $P(A)$.
  5. Разделите вклад нужной гипотезы на знаменатель.

Почему точный тест обманывает интуицию

Вернемся к вопросу из начала урока и добавим недостающее данное — насколько болезнь редкая. Прежде чем считать, оцените: больше или меньше половины людей с положительным результатом больны?

Пример 3

Болезнью страдают 2% людей. Тест положителен у 95% больных и у 5% здоровых. Человек получил положительный результат. Найдите вероятность того, что он болен.

Решение. 1) Из 1000 человек больны $1000\cdot 0{,}02=20$, здоровы 980.

2) Положительный результат: $20\cdot 0{,}95=19$ больных и $980\cdot 0{,}05=49$ здоровых.

3) Новое поле — $19+49=68$ человек.

4) $P(H\mid A)=\frac{19}{68}\approx 0{,}28$.

Ответ: около $0{,}28$ — меньше трети, а вовсе не $0{,}95$.

Редкая болезнь: больны 20 из 1000, положительны 19 больных и 49 здоровых. P(A | H) = 19 : 20 = 0,95, но P(H | A) = 19 : 68 ≈ 0,28.
Сужение до больных дает 19 из 20 (0,95), сужение до положительных — 19 из 68 (около 0,28): это разные вопросы

Ошибка

Решавр рассуждает: «Тест дает положительный результат у 95% больных. Результат положителен — значит, человек болен с вероятностью 0,95».

Проверка на числах. Из 68 человек с положительным результатом больны только 19: $\frac{19}{68}\approx 0{,}28\ne 0{,}95$.

Где сломалось рассуждение. Число 0,95 — это $P(A\mid H)$: поле сужено до 20 больных. А спрашивают $P(H\mid A)$: поле сужено до 68 положительных. Здоровых в 49 раз больше, чем больных, поэтому даже 5% ложных срабатываний у них дают 49 человек — больше, чем 19 верных у больных.

Чем реже болезнь, тем сильнее разрыв: малая доля большой группы здоровых перевешивает почти всех больных. Меняйте долю больных и точность теста (тест положителен у $t\%$ больных и отрицателен у $t\%$ здоровых) и следите, какую долю в полосе положительных занимают больные.

Как же тогда пользоваться тестом? Повторить его. После первого положительного результата вероятность болезни стала $\frac{19}{68}$ — это новый, апостериорный вес гипотезы. Если повторные тесты при данном состоянии человека независимы, второй положительный результат в среднем получат $19\cdot 0{,}95=18{,}05$ больных и $49\cdot 0{,}05=2{,}45$ здоровых из этих 68. Тогда $P(H\mid A)=\frac{18{,}05}{20{,}5}\approx 0{,}88$.

Интересный факт

Скрыть

В 1982 году американский врач и исследователь Дэвид Эдди описал опрос врачей: болезнь встречается у 1% обследуемых, тест положителен у 80% больных и у 9,6% здоровых. Большинство опрошенных оценивали вероятность болезни при положительном тесте примерно в 75%. Метод частот дает $\frac{0{,}008}{0{,}008+0{,}09504}\approx 0{,}08$ — около 8%.

Какой цех изготовил бракованную деталь

Формула работает не только в медицине. Любая ситуация «есть несколько возможных причин, наблюдаем следствие — какая причина вероятнее» решается так же: поле разбито на комнаты-гипотезы, наблюдение оставляет в каждой комнате только часть, и мы сравниваем эти части.

Пример 4

Первый цех выпускает 70% деталей, второй — 30%. Брак в первом цехе составляет 1%, во втором — 4%. Наугад взятая деталь оказалась бракованной. Какой цех вероятнее ее изготовил?

Решение. Гипотезы $H_1$ и $H_2$ — «деталь из первого (второго) цеха», событие $A$ — «деталь бракованная».

1) Вклады: $0{,}7\cdot 0{,}01=0{,}007$ и $0{,}3\cdot 0{,}04=0{,}012$.

2) $P(A)=0{,}007+0{,}012=0{,}019$.

3) $P(H_1\mid A)=\frac{0{,}007}{0{,}019}\approx 0{,}37$, $P(H_2\mid A)=\frac{0{,}012}{0{,}019}\approx 0{,}63$. Проверка: $0{,}37+0{,}63=1$.

Ответ: вероятнее второй цех, около $0{,}63$.

Два цеха: 700 и 300 деталей, брак 7 и 12. После сужения до 19 бракованных доли цехов 7 : 19 ≈ 0,37 и 12 : 19 ≈ 0,63.
Комната второго цеха меньше, но брака в ней больше: из 1000 деталей бракованных 19, и 12 из них — из второго цеха

До наблюдения вероятнее был первый цех: 0,7 против 0,3. Брак перевернул соотношение. Знаменатель у обеих гипотез общий, поэтому апостериорные вероятности относятся так же, как вклады: $0{,}007 : 0{,}012$.

Обратите внимание

Чтобы узнать, какая гипотеза вероятнее, достаточно сравнить вклады $P(H_i)\cdot P(A\mid H_i)$. Чтобы найти саму вероятность, вклад нужно разделить на сумму всех вкладов — и гипотез может быть три и больше.

Вывод

Формула Байеса отвечает на вопрос «что вероятнее стало причиной», когда следствие уже известно. Так рассуждают врачи о результатах анализов, фильтры спама о письмах, контролеры качества о бракованных деталях. Вспомнить главное поможет поле, которое сужается:

Вспомните вопрос из начала урока: тест положителен, его точность 95% — почему же больны не 95% таких людей? Потому что положительный результат сужает поле до положительных, а в нем много здоровых с ложным срабатыванием. Если запутались, представьте 1000 человек и считайте людей. В модуле о формуле Бернулли дерево станет длинным: одинаковые независимые испытания повторяются много раз.

Часто задаваемые вопросы

Чем формула Байеса отличается от формулы полной вероятности?

Формула полной вероятности находит $P(A)$ — вероятность события через все гипотезы. Формула Байеса использует это число как знаменатель и отвечает на обратный вопрос: какова вероятность гипотезы, если $A$ уже произошло.

Когда $P(H\mid A)$ равно $P(A\mid H)$?

По формуле Байеса $P(H\mid A)=\frac{P(H)}{P(A)}\cdot P(A\mid H)$, поэтому при $P(A\mid H)>0$ числа равны, только если $P(H)=P(A)$. В задачах о диагностике это почти никогда не так, поэтому подменять одно другим нельзя.

Почему удобно брать именно 1000 человек?

Число может быть любым — важно, чтобы получались целые числа людей. Для долей вроде 2% и 5% хватает 1000, для 0,1% удобнее взять 10 000. Ответ от выбора группы не зависит.

Зачем нужна апостериорная вероятность, если можно сразу сделать еще один тест?

Второй тест оценивают именно через нее: после первого результата апостериорная вероятность становится весом гипотезы перед вторым. Так в примере вероятность болезни выросла с 0,02 до 0,28 после первого теста и примерно до 0,88 после второго.

Награды за урок
5
5
1
Количество опыта, полученного за урок 5
Ускорьте прогресс с полным доступом

Получите полный доступ ко всем материалам и занимайтесь в удобном темпе — без ограничений.

  • Более 700 000 учеников и 50 000 учителей по всей России.
  • Повышение среднего балла по предмету до 20 % после месяца занятий.
  • Всплеск интереса к учебе и более глубокое понимание предметов.
Не потеряйте прогресс!

Создайте бесплатный аккаунт — и откройте больше возможностей:

  • Отслеживайте прогресс освоения тем
  • Получайте персональные подборки полезных уроков и заданий
  • Проводите работу над ошибками после занятий

Проверим знания по теме?

Пройти тест
Спросить Зави Спросить Зави
Получить ещё подсказку

Трудности? Воспользуйтесь подсказкой

Верно! Посмотрите пошаговое решение

Предложить улучшение