Многомерное нормальное распределение

Одномерное нормальное распределение обобщается на многомерное нормальное распределение.

Многомерное нормальное распределение строится из распределения одномерных гауссовских величин.

Лучше всего представить процесс построения по шагам.

Рассмотрим n независимых случайных величин , имеющих одно и то же (стандартное) гауссовское распределение со средним 0 и стандартным отклонением 1.

Эти величины назовем исходными.

Каждая величина из исходных величин имеет плотность

Так как величины независимые, то совместная плотность вероятности этих величин есть

Мы просто перемножили плотности между собой и получили написанное выражение.

Основываясь на исходных величинах, определим далее величины

             (*)

Это линейное невырожденное преобразование величин ,  k=1,…,n.

Очевидно, среднее этих новых величин есть: 

Ковариация равна:

Формула для ковариаций верна (вы можете проверить это непосредственным вычислением), поскольку исходные величины ,  k=1,…,n  с нулевыми средними значениями являются некоррелированными:

  при  l=1,…,n.

Собственно, именно эти величины и имеют совместное многомерное нормальное распределение в общем случае.

Самое главное для них – корреляционная матрица, корреляция измеряет меру связи. 

Построенные новые случайные величины уже зависимы (связаны) между собой.

Не нужно запоминать формулу плотности многомерного нормального распределения, но нужно понять ее смысл.

Определим корреляционную матрицу величин .

Матрица R={R_kj} с элементами  ,   i,j=1,…,n

называется корреляционной матрицей случайных величин 

(  есть коэффициент корреляции между величинами ,  ).

Легко показать, что корреляционная матрица R имеет также вид 

где  – матрица линейного преобразования (*), а  – матрица, сопряженная к (с элементами  , i,j,=1,…,n).

Определители |R| и | | указанных матриц связаны равенством |R|=| |²; при этом | | есть якобиан преобразования (*), и, следовательно, совместная плотность распределения случайных величин  может быть описана формулой

где  – та квадратичная форма, в которую переходит сумма квадратов  при линейном преобразовании, обратном к (*).

Легко видеть, что матрица {b_ij} этой квадратичной формы является обратной к корреляционной матрице {R_ij}, поскольку сумма квадратов переходит в квадратичную форму

,   (**)

где {c_kj} есть матрица, обратная к , так что

.

Как уже отмечалось ранее, корреляционная матрица {R_ij} является положительно определенной: при любых действительных c₁,…,c_n

;

Свойством положительной определенности обладает, очевидно, и обратная матрица {b_ij}=R^-1.

Для любой невырожденной положительно определенной матрицы {b_ij} формула (**), где |R|^-1  означает определитель матрицы {b_ij} и a₁,…,a_n – произвольные постоянные, задает некоторую плотность вероятности (именно, такой вид имеет плотность вероятности величин , которые связаны со «стандартными» гауссовскими величинами  линейным преобразованием (*) с матрицей , являющейся квадратным корнем из матрицы ).

Распределение вероятностей с плотностью (**), так же как и случайные величины  с таким распределением вероятностей, называется нормальным (или гауссовским).

Задача 1. Покажите, как из двумерной гауссовской величины получить трехмерную, из трехмерной четырехмерную и т.д.

Задача 2. Мы определили новые нормальные величины, исходя из исходных, см. формулу (*). Очевидно, можно провести обратный процесс (операция ортоганализации), подумайте, как это сделать. Это важная процедура, именно такая процедура возникает в задачах прогнозирования.

Связанные определения:
Cтандартное нормальное распределение
Критерий Колмогорова-Смирнова
Нормальное распределение
Шапиро-Уилка W критерий

В начало

Содержание портала