Математическое ожидание: определение и применение

Математическое ожидание — это фундаментальная концепция теории вероятностей, которая помогает предсказать среднее значение случайной величины. Это понятие возникло в XVII веке при решении задачи о справедливом разделении ставки и сегодня широко применяется в статистике, финансах, квантовой механике и машинном обучении. Понимание математического ожидания критически важно для анализа данных и принятия обоснованных решений в условиях неопределённости.

Для случайной величины с конечным числом исходов математическое ожидание представляет собой взвешенное среднее всех возможных значений. В случае континуума возможных исходов ожидание определяется через интеграл. В аксиоматическом фундаменте теории вероятностей, основанном на теории меры, математическое ожидание задаётся интегралом Лебега.

Математическое ожидание случайной величины X обычно обозначается как E(X), E[X] или EX.

История

Концепция математического ожидания возникла в середине XVII века из «задачи о разделении ставки» — головоломки о справедливом разделении выигрыша между двумя игроками, вынужденными прервать игру. Хотя эта проблема обсуждалась веками, новый импульс она получила в 1654 году, когда французский писатель и любитель математики Шевалье де Мере (Chevalier de Méré) представил её Блезу Паскалю (Blaise Pascal). Де Мере утверждал, что задача неразрешима и демонстрирует несовершенство математики при её применении к реальному миру.

Паскаль начал обсуждать проблему в серии писем Пьеру де Ферма (Pierre de Fermat). Вскоре оба независимо друг от друга пришли к решению. Хотя их вычислительные методы различались, результаты совпадали, так как основывались на одном принципе: стоимость будущего выигрыша должна быть прямо пропорциональна вероятности его получения. Они не опубликовали свои результаты, а лишь поделились ими с узким кругом парижских коллег.

Голландский математик Христиан Гюйгенс (Christiaan Huygens) рассмотрел эту задачу в своём трактате, опубликованном в 1657 году, основываясь на том же принципе. Его работа расширила концепцию ожидания, добавив правила для более сложных ситуаций и считается первой успешной попыткой заложить основы теории вероятностей.

В XIX веке Пафнутий Чебышёв (Pafnuty Chebyshev) первым начал систематически мыслить в терминах математических ожиданий случайных величин.

Этимология

Ни Паскаль, ни Гюйгенс не использовали термин «ожидание» в современном смысле. Позже, в 1814 году, Пьер-Симон Лаплас (Pierre-Simon Laplace) опубликовал трактат, где явно определил концепцию математического ожидания как произведение ожидаемой суммы на вероятность её получения.

Обозначения

Использование буквы E для обозначения математического ожидания восходит к В. А. Уайтворту (W. A. Whitworth) в 1901 году. В немецкой литературе используется Erwartungswert, в испанской — esperanza matemática, во французской — espérance mathématique. В русскоязычной литературе часто используется обозначение M(X).

Определение

Существует несколько способов определения математического ожидания в зависимости от контекста. Простейшее определение касается случая конечного числа исходов, как при бросании монеты. С помощью теории бесконечных рядов это можно расширить на счётное число исходов. Также часто рассматривают случайные величины, описываемые непрерывными функциями плотности вероятности.

Случайные величины с конечным числом исходов

Для случайной величины X с конечным списком возможных исходов x₁, …, xₖ, каждый из которых имеет вероятность p₁, …, pₖ, математическое ожидание определяется как сумма произведений каждого исхода на его вероятность. Это естественно интерпретировать как взвешенное среднее значений, где весами служат вероятности.

**Пример:** При бросании честной шестигранной кости каждый результат (1–6) имеет вероятность 1/6. Математическое ожидание равно 3,5. Если бросить кость много раз и вычислить среднее арифметическое результатов, оно будет стремиться к 3,5 — это следует из закона больших чисел.

Случайные величины со счётно-бесконечным числом исходов

Для случайной величины со счётно-бесконечным набором возможных исходов математическое ожидание определяется как взвешенное среднее всех исходов. Однако при работе с бесконечными суммами возникают тонкости: значение суммы может зависеть от порядка слагаемых. Поэтому в математических текстах обычно требуют абсолютной сходимости ряда, иначе говорят, что случайная величина не имеет конечного ожидания.

Случайные величины с плотностью распределения

Для случайной величины X с функцией плотности вероятности f математическое ожидание определяется через интеграл произведения значения на плотность вероятности.

Однако при интегрировании по бесконечной области возникают аналогичные тонкости. Например, для распределения Коши (Cauchy distribution) интеграл не сходится, и математическое ожидание не определено.

Произвольные вещественнозначные случайные величины

Все определения математического ожидания можно выразить на языке теории меры. Для вещественнозначной случайной величины X на вероятностном пространстве математическое ожидание определяется как интеграл Лебега.

Бесконечные математические ожидания

Хотя определённые выше ожидания — это конечные числа, часто необходимо рассматривать ожидания, равные ±∞. Это происходит, например, в парадоксе Санкт-Петербурга (St. Petersburg paradox), где случайная величина имеет возможные исходы 2ⁱ с вероятностями 2⁻ⁱ, и математическое ожидание равно бесконечности.

Существует строгая математическая теория для работы с такими случаями. Ключевое наблюдение: любую случайную величину можно представить как разность двух неотрицательных случайных величин.

Формула хвостовой суммы

Для неотрицательной целочисленной случайной величины математическое ожидание можно выразить через вероятности хвоста распределения. Более общая версия справедлива для любой неотрицательной случайной величины.

Свойства

Основные свойства математического ожидания:

• **Неотрицательность:** если X ≥ 0 почти наверное, то E[X] ≥ 0.
• **Линейность:** E[X + Y] = E[X] + E[Y] и E[aX] = aE[X] для константы a.
• **Монотонность:** если X ≤ Y почти наверное, то E[X] ≤ E[Y].
• **Неделимость:** если E[|X|] = 0, то X = 0 почти наверное.
• **Константность:** если X = c почти наверное, то E[X] = c.
• **Неумножаемость:** в общем случае E[XY] ≠ E[X]·E[Y], но если X и Y независимы, то E[XY] = E[X]·E[Y].

Неравенства

**Неравенство Маркова:** для неотрицательной случайной величины X и положительного числа a выполняется P(X ≥ a) ≤ E[X]/a.

**Неравенство Чебышёва:** если X имеет конечное ожидание, то P(|X − E[X]| ≥ a) ≤ Var[X]/a².

**Неравенство Йенсена:** если f — выпуклая функция и X имеет конечное ожидание, то f(E[X]) ≤ E[f(X)].

**Неравенство Гёльдера и неравенство Минковского** — фундаментальные неравенства в математическом анализе и теории вероятностей.

Сходимость случайных величин

В общем случае нельзя менять местами предел и математическое ожидание без дополнительных условий. Существуют несколько теорем, которые уточняют условия для перестановки:

• **Теорема о монотонной сходимости:** если последовательность неотрицательных случайных величин монотонно возрастает и сходится поточечно, то предел математических ожиданий равен математическому ожиданию предела.
• **Лемма Фату:** для последовательности неотрицательных случайных величин E[lim inf Xₙ] ≤ lim inf E[Xₙ].
• **Теорема о доминируемой сходимости:** если последовательность случайных величин сходится поточечно к X, ограничена по модулю интегрируемой функцией, то предел математических ожиданий равен математическому ожиданию предела.

Применения

Математическое ожидание играет важную роль в различных областях:

• **Статистика:** выборочное среднее служит оценкой математического ожидания и является несмещённой оценкой.
• **Теория решений:** агент, принимающий оптимальное решение при неполной информации, часто максимизирует ожидаемую полезность.
• **Классическая механика:** центр масс — аналогичная концепция математическому ожиданию.
• **Квантовая механика:** ожидаемое значение квантового оператора — центральное понятие.
• **Машинное обучение и методы Монте-Карло:** большинство величин интереса можно выразить через математическое ожидание.

Математическое ожидание также используется для вычисления дисперсии через формулу: Var(X) = E[X²] − (E[X])².

Математическое ожидание: определение и основные свойства