Магистратура
  1. Введение в математический анализ  1.1. Теория множеств и логика в реальном анализе  1.1.1. Множества и операции в теории множеств и логике в реальном анализе  1.1.2. Отношения и функции  1.1.3. Логика и кванторы  1.1.4. Мощность множеств  1.2. Метрика  1.2.1. Введение в открытые и замкнутые множества в метрических пространствах  1.2.2. Сходимость последовательностей в метрическом пространстве  1.2.3. Непрерывная функция в метрическом пространстве  1.2.4. Компактность и полнота в метрических пространствах в реальном анализе  1.3. Последовательности и ряды  1.3.1. Сходимость последовательностей  1.3.2. Бесконечные ряды  1.3.3. Равномерная сходимость  1.3.4. Ряды степеней  1.4. Дискриминация  1.4.1. Теорема о среднем значении  1.4.2. Ряд Тейлора  1.4.3. Функции нескольких переменных  1.4.4. Частная производная  1.5. Интеграция  1.5.1. Интегрирование Римана и Лебега  1.5.2. Неправильные интегралы  1.5.3. Теория меры: фундаментальный инструмент в интеграции  1.5.4. Теорема Фубини  1.6. Функциональный анализ  1.6.1. Понимание пространства Банака  1.6.2. Пространства Гильберта  1.6.3. Операторы на пространствах  1.6.4. Спектральная теория
  2. Абстрактная алгебра  2.1. Понимание групп в абстрактной алгебре  2.1.1. Определения и примеры групп в абстрактной алгебре  2.1.2. Гомоморфизмы групп  2.1.3. Введение в нормальные подгруппы  2.1.4. Теорема Силова  2.2. Кольца и поля  2.2.1. Идеалы и фактор-кольца  2.2.2. Расширения полей  2.2.3. Теория Галуа  2.2.4. Полиномиальные кольца  2.3. Введение в модули в абстрактной алгебре  2.3.1. Гомоморфизм модуля  2.3.2. Свободные модули  2.3.3. Введение в тензорные произведения  2.3.4. Точная последовательность в модулях  2.4. Линейная алгебра  2.4.1. Векторное пространство  2.4.2. Собственные значения и собственные векторы  2.4.3. Векторное пространство с внутренним произведением  2.4.4. Диагонализация
  3. Топология  3.1. Общая топология  3.1.1. Открытые и закрытые множества  3.1.2. Компактность и связность  3.1.3. Непрерывные отображения  3.1.4. Аксиома отделимости  3.2. Алгебраическая топология  3.2.1. Понимание фундаментальных групп в алгебраической топологии  3.2.2. Гомотопия и гомология  3.2.3. Симплициальный комплекс  3.2.4. Точные последовательности в гомологии  3.3. Дифференциальная топология  3.3.1. Понимание многообразий в дифференциальной топологии  3.3.2. Гладкие функции  3.3.3. Тангенциальное и котангенциальное пространство  3.3.4. Векторные расслоения
  4. Дифференциальные уравнения  4.1. Обыкновенные дифференциальные уравнения  4.1.1. Дифференциальные уравнения первого порядка  4.1.2. Линейные уравнения второго порядка  4.1.3. Системы дифференциальных уравнений  4.1.4. Анализ устойчивости в обыкновенных дифференциальных уравнениях  4.2. Частные дифференциальные уравнения  4.2.1. Классификация уравнений с частными производными  4.2.2. Понимание рядов Фурье в уравнениях с частными производными  4.2.3. Введение в функции Грина  4.2.4. Метод характеристик  4.3. Динамические системы в дифференциальных уравнениях  4.3.1. Теория устойчивости  4.3.2. Предельные циклы в динамических системах  4.3.3. Теория хаоса  4.3.4. Теория бифуркаций
  5. Теория вероятностей и статистика  5.1. Теория вероятностей  5.1.1. Случайные переменные  5.1.2. Распределения вероятностей  5.1.3. Закон больших чисел  5.1.4. Центральная предельная теорема  5.2. Статистическое вывод  5.2.1. Проверка гипотез  5.2.2. Доверительный интервал  5.2.3. Байесовские методы  5.2.4. Метод максимального правдоподобия  5.3. Стохастические процессы  5.3.1. Цепи Маркова  5.3.2. Броуновское движение  5.3.3. Понимание процессов Пуассона  5.3.4. Мартингейлы: всестороннее исследование в вероятности и статистике
  6. Численный анализ  6.1. Численное решение уравнений  6.1.1. Оригинальное открытие  6.1.2. Итерационные методы  6.1.3. Анализ сходимости  6.1.4. Границы ошибок в численных решениях уравнений  6.2. Численная линейная алгебра  6.2.1. Факторизация матриц  6.2.2. Вычисление собственных значений  6.2.3. Разреженные матрицы  6.2.4. Методы предобработки  6.3. Численное интегрирование и дифференцирование  6.3.1. Методы квадратур  6.3.2. Введение в конечные разности  6.3.3. Анализ ошибок в численном интегрировании и дифференцировании  6.3.4. Адаптивные методы в численном интегрировании и дифференцировании
  7. Комплексный анализ  7.1. Комплексные числа  7.1.1. Полярная форма  7.1.2. Комплексные сопряженные  7.1.3. Экспоненциальная форма комплексных чисел  7.1.4. Корни из единицы  7.2. Аналитические функции  7.2.1. Уравнения Коши — Римана  7.2.2. Степенные ряды  7.2.3. Конформное отображение  7.2.4. Гармонические функции  7.3. Интегрирование на комплексной плоскости  7.3.1. Теорема Коши  7.3.2. Теорема о вычетах  7.3.3. Контурное интегрирование  7.3.4. Интегральные преобразования
  8. Математическая логика и основания  8.1. Пропозициональная логика  8.1.1. Таблицы истинности  8.1.2. Логическая эквивалентность в пропозициональной логике  8.1.3. Техники доказательства в пропозициональной логике  8.1.4. Решение в пропозициональной логике  8.2. Логика предикатов  8.2.1. Кванторы в предикатной логике  8.2.2. Формальные системы в предикатной логике  8.2.3. Полнота и правильность  8.2.4. Модельная теория  8.3. Теория множеств  8.3.1. Кардинальность и ординальность  8.3.2. Аксиоматические системы  8.3.3. Понимание теории множеств Цермело-Френкеля  8.3.4. Силы в теории множества
  9. Настройка  9.1. Линейное программирование  9.1.1. Метод симплекс  9.1.2. Двойственность в линейном программировании  9.1.3. Анализ чувствительности в линейном программировании  9.1.4. Методы внутренних точек  9.2. Нелинейное программирование  9.2.1. Градиентный спуск  9.2.2. Множители Лагранжа  9.2.3. Выпуклая оптимизация  9.2.4. Квадратичное программирование  9.3. Комбинаторная оптимизация  9.3.1. Алгоритмы графов  9.3.2. Целочисленное программирование  9.3.3. Сетевой поток  9.3.4. Алгоритмы аппроксимации
  10. Дискретная математика  10.1. Теория графов  10.1.1. Представление графов  10.1.2. Плоскость и цвет  10.1.3. Алгоритм поиска кратчайшего пути  10.1.4. Сетевой поток  10.2. Компаньонство  10.2.1. Перестановка и сочетание  10.2.2. Порождающая функция  10.2.3. Рекуррентные соотношения  10.2.4. Понимание принципа включения-исключения  10.3. Криптография  10.3.1. Применение теории чисел в криптографии  10.3.2. Симметричное и асимметричное шифрование  10.3.3. RSA и криптография на эллиптических кривых  10.3.4. Постквантовая криптография

Магистратура → Теория вероятностей и статистика → Статистическое вывод ↓


Байесовские методы


Введение

Байесовские методы играют увлекательную роль в статистическом выводе, предоставляя основу для рассуждений об неопределенности. Этот подход основан на теореме Байеса, названной в честь священника Томаса Байеса, английского статистика и теолога XVIII века. В отличие от частотной статистики, которая использует вероятности только для указания долгосрочных частот, байесовская статистика позволяет выражать вероятности в виде уровня уверенности или убежденности в событии.

Теорема Байеса

Основа байесовского вывода – теорема Байеса, которая выражается математически следующим образом:

P(H|E) = (P(E|H) * P(H)) / P(E)

Эту формулу можно разобрать на составляющие:

  • P(H|E): апостериорная вероятность. Вероятность гипотезы H на основе наблюдаемой доказательственной базы E
  • P(E|H): вероятность. Вероятность наблюдения доказательственной базы E при условии, что гипотеза H истинна.
  • P(H): априорная вероятность. Начальная степень уверенности в гипотезе H до наблюдения E
  • P(E): маргинальная вероятность. Общая вероятность доказательства при всех возможных гипотезах.

Простой пример: подбрасывание монеты

Рассмотрим простой пример, когда мы хотим выяснить, предвзята ли монета в сторону орла. Мы наблюдаем десять подбрасываний, семь из которых – орлы. Мы хотим найти вероятность того, что монета предвзята, используя байесовский подход.

Пример

Пусть H – это гипотеза о том, что монета склонна выпадать орлом, а E – это доказательство, что орёл выпадает семь раз из десяти подбрасываний. Теперь нам нужно указать:

  • P(H): наша априорная уверенность в предвзятости монеты. Предположим, что мы считаем, что у каждой монеты 50% вероятности быть предвзятой. Таким образом, P(H) = 0.5.
  • P(E|H): вероятность наблюдения семи орлов при условии гипотезы. Если она предвзята, предположим, что P(E|H) = 0.9.
  • P(E): маргинальную вероятность можно рассчитать, рассматривая все гипотезы. Для простоты предположим, что P(E) = 0.5.

Теперь применим теорему Байеса:

P(H|E) = (0.9 * 0.5) / 0.5 = 0.9

Таким образом, существует высокая вероятность того, что монета предвзята.

Апприорная вероятность

Априорная вероятность P(H) отображает начальную уверенность до наблюдения доказательственной базы. В байесовском анализе выбор априорной вероятности может сильно влиять на конечный результат, особенно при небольших объемах данных. Апприорные вероятности могут быть информативными или неинформативными.

Информативные предпочтения

Информативные априорные знания состоят из конкретных, ранее накопленных сведений о данном параметре. В примере с монетой, если предыдущие эксперименты показывают, что монета выпадает орлом с вероятностью 70%, эта информация направит наш выбор априорной вероятности.

Неинформативные предпочтения

Неинформативные или слабые предсказания не предоставляют много конкретной информации о гипотезе и часто отражают состояние относительного незнания. Обычные альтернативы включают равномерные распределения, где все результаты равновероятны.

Назад

После учета доказательной базы с помощью теоремы Байеса, мы получаем апостериорную вероятность, code{P(H|E)}, которая включает всю нашу информацию о гипотезе - объединенные априорные и данные. Апостериорная вероятность является наиболее важным аспектом байесовского вывода, поскольку она отображает, как наше понимание гипотезы изменяется благодаря новым данным.

Возможность

Вероятность является основным компонентом байесовских расчетов. Она измеряет, насколько вероятны наблюдаемые данные при различных гипотезах. Математически совместимость данных и гипотезы оценивается вероятностью, code{P(E|H)}.

Маргинальная вероятность

Маргинальная вероятность, code{P(E)}, обеспечивает, чтобы апостериорные вероятности складывались в 1. Она заключается в суммировании вероятностей по всем гипотезам. На практике расчет маргинальной вероятности может быть сложным, особенно в моделях с множеством параметров.

Продвинутый пример: проверка на болезнь

Предположим, что медицинский тест проверяет наличие болезни со следующими характеристиками:

  • чувствительность этого теста составляет 95%, то есть он правильно выявляет 95% пациентов, страдающих от болезни.
  • специфичность этого теста составляет 90%, то есть он правильно идентифицирует 90% здоровых пациентов.
  • 1% населения имеет эту болезнь.

Пример

Пусть H обозначает событие, когда пациент имеет болезнь, а E – положительный результат теста.

  • P(H) = 0.01 (априорная вероятность наличия болезни)
  • P(E|H) = 0.95 (вероятность положительного теста, если больной)

Чтобы рассчитать общую вероятность положительного теста, code{P(E)}, учитывайте как истинные, так и ложноположительные результаты:

P(E) = P(E|H) * P(H) + P(E|H') * P(H')
P(E) = 0.95 * 0.01 + 0.1 * 0.99 = 0.1045

Наконец, используйте теорему Байеса для нахождения апостериорной вероятности:

P(H|E) = (0.95 * 0.01) / 0.1045 ≈ 0.091

Несмотря на положительный тест, вероятность наличия болезни по этому результату составляет лишь 9,1%.

Обновление убеждений

Байесовский вывод – это итеративный процесс. По мере сбора большего количества данных вы постоянно обновляете свои убеждения, используя теорему Байеса. Каждый новый элемент доказательной базы действует как вероятность, изменяющая ваши предыдущие убеждения, чтобы сформировать последующие убеждения. Со временем этот процесс уточняет наше понимание и улучшает принятие решений.

Сопряженные априорные вероятности

Во многих случаях выбор сопряженной априорной вероятности упрощает расчет. Сопряженная априорная вероятность - это та, которая, будучи использованной в качестве априорной, дает апостериорное распределение той же семьи, тем самым упрощая аналитическое решение. Например, в биномиальных вероятностях распределение бета, будучи априорным, даст апостериорное распределение бета - то есть тип распределения останется постоянным.

Применение

Байесовские методы имеют обширные приложения в различных областях. Некоторые из заметных примеров:

  • Медицина: Для диагностики болезней байесовские методы балансируют априорную информацию о распространенности болезни с доказательствами диагностических тестов.
  • Финансы: Байесовские модели используются для прогнозирования цен на акции, включая как исторические данные, так и экспертные прогнозы.
  • Машинное обучение: Байесовские техники питают вероятностные модели для задач классификации, кластеризации и регрессии.
  • Обработка естественного языка: Байесовский вывод расширяет модели, такие как модели тем, для определения закономерностей в текстовых данных.

Проблемы

Несмотря на свою мощность, байесовские методы также сталкиваются с трудностями. Сложные модели часто требуют значительных вычислительных ресурсов. Может быть трудно аналитически рассчитать апостериорное распределение, что требует применения методов аппроксимации, таких как метод Монте-Карло, основанный на цепях Маркова (MCMC).

Заключение

Байесовские методы предоставляют гибкую, консистентную основу для статистического вывода. Путем комбинирования априорных убеждений с новыми данными байесовский вывод уточняет понимание логичным, интуитивным образом. Несмотря на вычислительные сложности в широком диапазоне ситуаций, его принципы проявляют себя во многих реальных приложениях, делая их необходимыми в арсенале статистика.


Магистратура → 5.2.3


U
username
0%
завершено в Магистратура

← предыдущая (5.2.2)
Доверительный интервал
следующая (5.2.4) →
Метод максимального правдоподобия

комментарии 



Байесовские методы

https://www.buddymath.com/g/5.2.3?bmal=ru