Математическое Ожидание

В случае непрерывной случайной величины подразумевается взвешивание по плотности распределения (более строгие определения см. ниже). Математическое ожидание случайного вектора равно вектору, компоненты которого равны математическим ожиданиям компонентов случайного вектора.

Обозначается через ${\displaystyle \mathbb {E} [X]}$ (например, от англ. Expected value или нем. Erwartungswert); в русскоязычной литературе также встречается обозначение ${\displaystyle M[X]}$ (возможно, от англ. Mean value или нем. Mittelwert, а возможно от «Математическое ожидание»). В статистике часто используют обозначение ${\displaystyle \mu }$.

Для случайной величины, принимающей значения только 0 или 1 математическое ожидание равно p — вероятности «единицы». Математическое ожидание суммы таких случайных величин равно np, где n — количество таких случайных величин. При этом вероятности появления определённого количества единиц рассчитываются по биномиальному распределению. Поэтому в литературе, скорее всего, легче найти запись, что мат. ожидание биномиального распределения равно np.

Некоторые случайные величины не имеют математического ожидания, например, случайные величины, имеющие распределение Коши.

На практике математическое ожидание обычно оценивается как среднее арифметическое наблюдаемых значений случайной величины (выборочное среднее, среднее по выборке). Доказано, что при соблюдении определённых особых условий (в частности, если выборка является случайной, то есть наблюдения являются независимыми) выборочное среднее стремится к истинному значению математического ожидания случайной величины при стремлении объёма выборки (количества наблюдений, испытаний, измерений) к бесконечности.

Общее определение через интеграл Лебега

Пусть задано вероятностное пространство ${\displaystyle (\Omega ,{\mathfrak {A}},\mathbb {P} )}$  и определённая на нём случайная величина ${\displaystyle X}$ . То есть, по определению, ${\displaystyle X\colon \Omega \to \mathbb {R} }$  — измеримая функция. Если существует интеграл Лебега от ${\displaystyle X}$  по пространству ${\displaystyle \Omega }$ , то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается ${\displaystyle M[X]}$  или ${\displaystyle \mathbb {E} [X]}$ .

${\displaystyle \mathbb {E} [X]=\int \limits _{\Omega }\!X(\omega )\,\mathbb {P} (d\omega ).}$ 

Определение через функцию распределения случайной величины

Если ${\displaystyle F_{X}(x)}$  — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

${\displaystyle \mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!x\,dF_{X}(x)}$ , ${\displaystyle x\in \mathbb {R} }$ .

Определение для абсолютно непрерывной случайной величины (через плотность распределения)

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью ${\displaystyle f_{X}(x)}$ , равно

${\displaystyle \mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx}$ .

Определение для дискретной случайной величины

Если ${\displaystyle X}$  — дискретная случайная величина, имеющая распределение

${\displaystyle \mathbb {P} (X=x_{i})=p_{i}}$  , ${\displaystyle \sum \limits _{i=1}^{\infty }p_{i}=1}$ ,

то прямо из определения интеграла Лебега следует, что

${\displaystyle \mathbb {E} [X]=\sum \limits _{i=1}^{\infty }x_{i}\,p_{i}}$ .

Математическое ожидание целочисленной величины

• Если ${\displaystyle X}$  — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

${\displaystyle \mathbb {P} (X=j)=p_{j}}$  , ${\displaystyle j=0,1,\dotsc }$ , ${\displaystyle \sum \limits _{j=0}^{\infty }p_{j}=1}$ ,

то её математическое ожидание может быть выражено через производящую функцию последовательности ${\displaystyle \{p_{i}\}}$ 

${\displaystyle P(s)=\sum _{k=0}^{\infty }\;p_{k}s^{k}}$ 

как значение первой производной в единице: ${\displaystyle \mathbb {E} [X]=P'(1)}$ . Если математическое ожидание ${\displaystyle X}$  бесконечно, то ${\displaystyle \lim _{s\to 1}P'(s)=\infty }$  и мы будем писать ${\displaystyle P'(1)=\mathbb {E} [X]=\infty }$ 

Теперь возьмём производящую функцию ${\displaystyle Q(s)}$  последовательности «хвостов» распределения ${\displaystyle \{q_{k}\}}$ 

${\displaystyle q_{k}=\mathbb {P} (X>k)=\sum _{j=k+1}^{\infty }{p_{j}}}$  , ${\displaystyle Q(s)=\sum _{k=0}^{\infty }q_{k}s^{k}.}$ 

Эта производящая функция связана с определённой ранее функцией ${\displaystyle P(s)}$  свойством: ${\displaystyle Q(s)={\frac {1-P(s)}{1-s}}}$  при ${\displaystyle |s|<1}$ . Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

${\displaystyle \mathbb {E} [X]=P'(1)=Q(1)}$ 

Пусть ${\displaystyle X=(X_{1},\dots ,X_{n})^{\top }\colon \Omega \to \mathbb {R} ^{n}}$  — случайный вектор. Тогда по определению

${\displaystyle \mathbb {E} [X]=(\mathbb {E} [X_{1}],\dots ,\mathbb {E} [X_{n}])^{\top }}$ ,

то есть математическое ожидание вектора определяется покомпонентно.

Пусть ${\displaystyle g\colon \mathbb {R} \to \mathbb {R} }$  — борелевская функция, такая что случайная величина ${\displaystyle Y=g(X)}$  имеет конечное математическое ожидание. Тогда для него справедлива формула

${\displaystyle \mathbb {E} \left[g(X)\right]=\sum \limits _{i=1}^{\infty }g(x_{i})p_{i},}$ 

если ${\displaystyle X}$  имеет дискретное распределение;

${\displaystyle \mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)f_{X}(x)\,dx,}$ 

если ${\displaystyle X}$  имеет абсолютно непрерывное распределение.

Если распределение ${\displaystyle \mathbb {P} ^{X}}$  случайной величины ${\displaystyle X}$  общего вида, то

${\displaystyle \mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)\,\mathbb {P} ^{X}(dx).}$ 

В специальном случае, когда ${\displaystyle g(X)=X^{k}}$ , математическое ожидание ${\displaystyle \mathbb {E} [g(X)]=\mathbb {E} [X^{k}]}$  называется ${\displaystyle k}$ -м моментом случайной величины.

• Математическое ожидание числа (не случайной, фиксированной величины, константы) есть само число.

${\displaystyle \mathbb {E} [a]=a}$ 
${\displaystyle a\in \mathbb {R} }$  — константа;

• Математическое ожидание линейно, то есть

${\displaystyle \mathbb {E} [aX+bY]=a\mathbb {E} [X]+b\mathbb {E} [Y]}$ ,
где ${\displaystyle X,Y}$  — случайные величины с конечным математическим ожиданием, а ${\displaystyle a,b\in \mathbb {R} }$  — произвольные константы;

В частности, математическое ожидание суммы (разности) случайных величин равно сумме (соответственно — разности) их математических ожиданий.

• Математическое ожидание сохраняет неравенства, то есть если ${\displaystyle 0\leqslant X\leqslant Y}$  почти наверняка, и ${\displaystyle Y}$  — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины ${\displaystyle X}$  также конечно, и более того

${\displaystyle 0\leqslant \mathbb {E} [X]\leqslant \mathbb {E} [Y]}$ .

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если ${\displaystyle X=Y}$  почти наверняка, то

${\displaystyle \mathbb {E} [X]=\mathbb {E} [Y]}$ .

• Математическое ожидание произведения двух независимых или некоррелированных случайных величин ${\displaystyle X,Y}$  равно произведению их математических ожиданий

${\displaystyle \mathbb {E} [XY]=\mathbb {E} [X]\cdot \mathbb {E} [Y]}$ .

Неравенства, связанные с математическим ожиданием

Неравенство Маркова — для неотрицательной случайной величины ${\displaystyle X\colon \Omega \to \mathbb {R} ^{+}}$  определённой на вероятностном пространстве ${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$  с конечным математическим ожиданием ${\displaystyle \mathbb {E} (X)}$  выполняется неравенство:

${\displaystyle \mathbb {P} \left(X\geqslant a\right)\leqslant {\frac {\mathbb {E} (X)}{a}}}$ , где ${\displaystyle a>0}$ .

Неравенство Йенсена для математического ожидания выпуклой функции от случайной величины. Пусть ${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$  — вероятностное пространство, ${\displaystyle X\colon \Omega \to \mathbb {R} }$  — определённая на нём случайная величина, ${\displaystyle \varphi \colon \mathbb {R} \to \mathbb {R} }$  — выпуклая борелевская функция, такие, что ${\displaystyle X,\varphi (X)\in L^{1}(\Omega ,{\mathcal {F}},\mathbb {P} )}$ , то

${\displaystyle \varphi (\mathbb {E} (X))\leqslant \mathbb {E} (\varphi (X))}$ .

Теоремы, связанные с математическим ожиданием

• Теорема Леви о монотонной сходимости.
• Теорема Лебега о мажорируемой сходимости: пусть есть сходящаяся почти всюду последовательность случайных величин: ${\displaystyle X_{n}\to X}$ . Пусть в дополнение существует интегрируемая случайная величина ${\displaystyle Y}$ , такая что ${\displaystyle \forall n\in \mathbb {N} \quad |X_{n}|\leqslant Y}$  почти наверное. Тогда случайные величины ${\displaystyle X_{n},\;X}$  интегрируемы и

${\displaystyle \lim \limits _{n\to \infty }\mathbb {E} (X_{n})=\mathbb {E} (X)}$  .

• Тождество Вальда: для независимых одинаково распределённых случайных величин ${\displaystyle X_{1},...,X_{N}}$ , где ${\displaystyle N}$  является положительной целочисленной случайной величиной, независимой от ${\displaystyle X_{i}}$ , при условии, что ${\displaystyle X_{i}}$  и ${\displaystyle N}$  имеют конечное математическое ожидание, будет выполняться следующее равенство:

${\displaystyle \mathbb {E} \left(\sum _{i=1}^{N}X_{i}\right)=\mathbb {E} (N)\mathbb {E} (X)}$ 

• Математическое ожидание случайной величины ${\displaystyle X}$  равно значению первой производной её производящей функции моментов ${\displaystyle G(u)}$  в точке 0:

${\displaystyle \mathbb {E} (X)=G'(0)}$ .

• Пусть случайная величина имеет дискретное равномерное распределение, то есть ${\displaystyle \mathbb {P} (X=x_{i})={\frac {1}{n}},\;i=1,\ldots ,n.}$  Тогда её математическое ожидание

${\displaystyle \mathbb {E} [X]={\frac {1}{n}}\sum \limits _{i=1}^{n}x_{i}}$ 

равно среднему арифметическому всех принимаемых значений.

• Пусть случайная величина имеет непрерывное равномерное распределение на интервале ${\displaystyle [a,b]}$ , где ${\displaystyle a$ . Тогда её плотность имеет вид ${\displaystyle f_{X}(x)={\frac {1}{b-a}}\mathbf {1} _{[a,b]}(x)}$  и математическое ожидание равно

${\displaystyle \mathbb {E} [X]=\int \limits _{a}^{b}\!{\frac {x}{b-a}}\,dx={\frac {a+b}{2}}}$ .

• Пусть случайная величина ${\displaystyle X}$  имеет стандартное распределение Коши. Тогда

${\displaystyle \int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx=\infty }$ ,

то есть математическое ожидание ${\displaystyle X}$  не определено.

• Дисперсия случайной величины
• Моменты случайной величины
• Условное математическое ожидание