Условные математические ожидания

Условные математические ожидания и условные вероятности являются ключевыми понятиями теории вероятностей, именно в этих понятиях корень отличия данной дисциплины от теории меры (некоторое время назад существовало мнение, что теория вероятностей является ветвью теории меры, что, конечно же, не соответствует действительности).

Эти понятия лежат в основе таких замечательных понятий как мартингалы и семимартингалы, которые строятся с использованием условных вероятностей относительно последовательности сигма-алгебр.

Вообще, условные вероятности предоставляют в распоряжение исследователей чрезвычайно гибкий язык, очень полезный для описания многих вероятностных явлений.

В нашем изложении условных вероятностей мы пользуемся вначале превосходной книгой А.Н. Ширяева "Вероятность", далее даем разнообразные примеры применения.

Кульминацией этих понятий является условное ожидание относительно сигма-алгебры. Вначале обсудим условные математические ожидания относительно разбиений, которые являются шагом в направлении к общему понятию вероятности относительно сигма-алгебры.

Пусть (, A, P) – конечное вероятностное пространство и D={D₁, … ,D_k} - некоторое разбиение пространства исходов  (D_iA , P(D_i)>0, i=1, … , k, и D₁+…+D_k = ). Пусть, далее, A – событие из A и P(A|D_i) - условная вероятность события A относительно события D_i.

С набором условных вероятностей { P(A|D_i), i=1, … , k } можно связать случайную величину

          (1)

принимающую на атомах разбиения D_i значения P(A|D_i). Чтобы подчеркнуть, что эта случайная величина связана именно с разбиением D, её обозначают P(A|D) или P(A|D)(w) и называют условной вероятностью события A относительно разбиения D.

Это понятие, а так же вводимые далее более общие понятия условных вероятностей относительно сигма-алгебр, играют важную роль в теории вероятностей, что постепенно будет раскрываться последующим изложением.

Остановимся на простейших свойствах условных вероятностей :

P(A+B|D)= P(A|D)+ P(B|D);          (2)

если D – тривиальное разбиение, состоящее из одного множества , то

P(A|)=P(A).           (3)

Определение условной вероятности P(A|D) как случайной величины даёт возможность говорить о её математическом ожидании, используя которое можно следующим компактным образом записать формулу полной вероятности:

MP(A|D)=P(A).           (4)

Действительно, поскольку

то по определению математического ожидания

Пусть теперь =(w) – случайная величина, принимающая с положительными вероятностями значения y₁ , … , y_k:

где D_j={ w: (w)= y_j }. Разбиение ={ D₁ , … , D_k} называется разбиением, порождаемым случайной величиной .

Условную вероятность P(A|) будем в дальнейшем обозначать P(A|) или P(A|)(w), и называть условной вероятностью события A относительно случайной величины .

Условимся также под P(A|=y_j) понимать условную вероятность P(A|D_j), где D_j={w: (w)=y_j}.

Аналогичным образом, если ₁, ₂, … , _m - случайные величины и  - разбиение, порождённое величинами ₁, ₂, … , _m с атомами

то  обозначается P(A|₁, ₂, … , _m) и называется условной вероятностью события A относительно случайных величин ₁, ₂, … , _m.

• Пример 1. Пусть  и  - две независимые одинаково распределённые случайные величины, принимающие каждая значения 1 и 0 с вероятностями p и q. Найдём для k=0,1,2 условную вероятность P(+=|) события A={w: +=k} относительно .

С этой целью отметим сначала следующий общий полезный факт: если  и  - две независимые случайные величины со значениями x и y соответственно, то

P(+=z | =y) = P(+y=z).          (5)

В самом деле,

Используя эту формулу для рассматриваемого случая, находим, что

Итак,

      (6)

или, что то же самое,

     (7)

Пусть =(w) – случайная величина, принимающая значения в множестве X={x1, … , x_l}:

 и D={ D₁ , … , D_k } – некоторое разбиение.

Подобно тому как для  по вероятностям P(A_j), j=1, … , l было определено математическое ожидание

       (8)

так и с помощью условных вероятностей P(A_j | D), j=1, … , l естественно определить условное математическое ожидание случайной величины  относительно разбиения D, обозначаемое M(| D), или M( | D)(w), формулой

      (9)

Согласно этого определения условное математическое ожидание M( | D)(w) является случайной величиной, принимающей для всех элементарных событий w, принадлежащих одному и тому же атому D_i, одно и то же значение 

Это замечание показывает, что к определению условного математического ожидания M(| D) можно было бы подойти иначе. А именно, сначала определить M( | D_i) – условное математическое ожидание x относительно события D_i формулой

      (10)

а затем положить по определению

        (11)

Полезно отметить также, что значения M(|D) и M(|D) не зависят от способа представления случайной величины .

Приводимые далее свойства условных математических ожиданий непосредственно вытекают из их определения:

M(a+b | D) = aM( | D) + bM(| D), a, b - константы;      (12) 

M( | ) = M;          (13) 

M(C | D) = C, C – константа;          (14)

если =I_A(w), то

M( | D) = P(A | D).          (15)

Последнее равенство показывает, в частности, что свойства условных вероятностей можно получать непосредственно из свойств условных математических ожиданий.

Следующее важное свойство обобщает формулу полной вероятности (5):

MM(| D) = M.         (16)

Для доказательства достаточно заметить, что, согласно (5),

Пусть D = { D₁ , … , D_k } – разбиение и =(w) – некоторая случайная величина. Будем говорить, что  измерима относительно этого разбиения или D-измерима, если   D, т.е. =(w) может быть представлена в виде

где y_i могут быть и равными. Иначе говоря, случайная величина D-измерима тогда и только тогда, когда она принимает постоянные значения на атомах разбиения D.

• Пример 2. Если D – тривиальное разбиение, D = {}, то  D-измерима в том и только том случае, если  = C, где C – постоянная. Всякая случайная величина  измерима относительно разбиения .

Предположим, что случайная величина  является D-измеримой. Тогда

М( | D) = M( | D)      (17)

и, в частности,

М(| D) =     (M( | ) =).           (18)

Для доказательства (17) заметим, что если  то

и, значит,

      (19)

С другой стороны, учитывая, что  и  получаем

что вместе с (19) доказывает (17).

Установим ещё одно важное свойство математических ожиданий. Пусть D₁ и D₂ – два разбиения, причём D₁ D₂ (D₂ “мельче” D₁). Тогда

M[M( | D₂ | D₁] = M(| D₁).      (20)

Для доказательства предположим, что

D₁ = { D₁₁ , … , D_1m },      D₂ = { D₂₁ , … , D_2n }

Тогда, если  то

и достаточно лишь установить, что

M[P(A_j | D₂) | D₁] = P(A_j | D₁).          (21)

Поскольку

то

что и доказывает (21).

В том случае, когда разбиение D порождается случайными величинами  условное математическое ожидание  будет обозначаться M( | ₁, … , _k) или M( | ₁, … , _k)(w) , и называться условным математическим ожиданием x относительно  ₁, … , _k.

Непосредственно из определения M( | ) следует, что если и независимы, то

M(| ) = M.         (22)

Из (18) следует также, что

M(| ) = .          (23)

Свойство (22) допускает следующее обобщение.

Пусть случайная величина не зависит от разбиения D (т.е. для любого Di D случайные величины и  независимы). Тогда

M( | D) = M.      (24)

Из (20) в качестве частного случая получаем следующую полезную формулу:

M[M( | ₁, ₂) | ₁] = M( | ₁).      (25)

• Пример 3. Для случайных величин и , рассмотренных в примере 1, найдём M(+ | ). В силу (22) и (23) M(+ | ) = M + = p+.

Этот результат можно получить и отправляясь от (8):

• Пример 4. Пусть и - независимые одинаково распределённые случайные величины. Тогда

      (26)

Действительно, считая для простоты, что и принимают значения 1, 2, … , m, находим, что (1 km, 2I2m)

Этим доказано первое равенство в (26). Для доказательства второго достаточно заметить, что

2M( | +) = M(|  +) + M( | +) = M( + |  +) =  +.

Каждому разбиению D = { D₁, … ,D_k } конечного множества  соответствует алгебра (D ) подмножеств .

Точно так же и обратно, всякая алгебра B подмножеств конечного пространства  порождается разбиением D (B = (D)). Тем самым между алгебрами и разбиениями конечного пространства  существует взаимно однозначное соответствие.

Это обстоятельство следует иметь в виду в связи с вводимым в дальнейшем понятием условного математического ожидания относительно специальных систем множеств, так называемых -алгебр.

В случае конечных пространств понятия алгебр и -алгебр совпадают. При этом оказывается, что если B – некоторая алгебра, то вводимое в дальнейшем условное математическое ожидание M( | B) случайной величины  относительно алгебры B просто совпадает с M( | D) – математическим ожиданием x относительно разбиения D такого, что B = (D).

В этом смысле в случае конечных пространств в дальнейшем мы не будем различать M( | B) и M( | D), понимая всякий раз, что M( | B) есть по определению просто M( | D).

В начало

Содержание портала