Докторантура → Вероятность и статистика → Стохастические процессы ↓
Марковские цепи
Марковские цепи - это важная концепция в изучении стохастических процессов, раздела вероятности и статистики. Названные в честь российского математика Андрея Маркова, марковские цепи используются для описания систем, которые переходят из одного состояния в другое случайным образом.
Введение в стохастические процессы
Прежде чем углубиться в марковские цепи, давайте кратко обсудим, что такое стохастические процессы. Стохастический процесс по сути представляет собой набор случайных величин, индексируемых параметром, который обычно представляет время. Эти процессы используются для моделирования систем, которые развиваются во времени случайным образом. Каждое значение или состояние системы не полностью определяется каким-либо известным уравнением, а скорее случайным образом.
Понимание марковских цепей
Марковская цепь - это конкретный тип стохастического процесса, в котором будущее состояние процесса зависит только от текущего состояния, а не от последовательности предшествующих ему событий. Это свойство называется "беспамятством", официально известным как марковское свойство. Проще говоря, это означает, что у процесса нет памяти о том, где он находился раньше.
Марковская цепь с дискретным временем
Наиболее распространенной формой марковских цепей являются марковские цепи с дискретным временем. Эти системы проходят через состояния с фиксированными дискретными временными интервалами. На каждом шаге система может либо оставаться в том же состоянии, либо перемещаться в другое состояние с определенной вероятностью.
Расположение состояния
Набор всех возможных состояний в марковской цепи называется "пространством состояний". Например, если мы моделируем погодные условия как состояния, возможными состояниями могут быть "солнечно", "облачно" и "дождливо".
Матрица переходов
Вероятности перехода из одного состояния в другое представлены в матрице, называемой "матрицей переходов". Если в пространстве состояний n
состояний, матрица переходов будет матрицей n × n
, в которой элементы на i
строке и j
столбце представляют вероятность перехода из состояния i
в состояние j
. Пример матрицы переходов для простой модели погоды с тремя состояниями может выглядеть так:
P = [ [0.7, 0.2, 0.1], [0.3, 0.4, 0.3], [0.2, 0.1, 0.7] ]
Убедитесь, что каждая строка матрицы переходов суммируется до 1, так как каждая строка представляет полный набор возможных состояний, в которые система может перейти из текущего состояния.
Пример: Модель погоды
Рассмотрим простую марковскую цепь, описывающую изменения погоды:
- Условия: "солнечно", "облачно", "дождливо"
- Матрица переходов:
P = [ [0.6, 0.3, 0.1], [0.2, 0.5, 0.3], [0.3, 0.3, 0.4] ]
Эта матрица описывает следующую систему: если сегодня солнечно, есть 60% шанс, что завтра будет солнечно, 30% - что будет облачно, и 10% - что пойдет дождь.
Свойства марковских цепей
Вот некоторые ключевые свойства, чтобы лучше понять динамику марковских цепей:
Неизменяемость
Марковская цепь считается необратимой, если возможно перейти из любого состояния в любое состояние. Это означает, что существует ненулевая вероятность перехода из одного состояния в другое, либо непосредственно, либо через другие состояния.
Захват
Состояние в марковской цепи имеет период, если оно возвращается в это состояние за конечное количество шагов; период - это наибольший общий делитель количества шагов, за которые состояние возвращается к самому себе.
Рекуррентность и транзиентность
Если вероятность того, что процесс в конечном итоге вернется в то же состояние, равна 1, состояние называется рекуррентным. Если вероятность меньше 1, состояние называется транзиентным.
Устойчивая дистрибуция
Устойчивая распределение - это вероятность распределения, которая остается неизменной по мере эволюции процесса. Для марковской цепи с матрицей переходов P
вектор π
является устойчивым распределением, если:
πP = π
С помощью дополнительных расчетов и данной матрицы переходов можно найти устойчивое распределение для стохастического процесса.
Марковские цепи с непрерывным временем
Хотя мы сосредоточились на марковских цепях с дискретным временем, где переходы происходят в идентичных дискретных моментах, время также может быть непрерывным. В марковских цепях с непрерывным временем переход может происходить в любой непрерывный момент.
Метрики скорости перехода
Вместо матриц переходов марковские цепи с непрерывным временем используют матрицы скорости перехода, часто обозначаемые как Q
, где каждая запись qij
представляет собой скорость перехода из состояния i
в состояние j
.
Заключение
Марковские цепи предоставляют мощный инструментарий для моделирования и анализа систем, которые совершают переходы между состояниями во времени. Благодаря широкому применению в различных областях, таких как экономика, генетика и теория игр, марковские цепи стали фундаментальной темой в теории вероятностей и статистике.