电竞比分网-中国电竞赛事及体育赛事平台

分享

搞懂多變量高斯分布的由來

 taotao_2016 2020-03-01

多變量高斯分布(multivariate Gaussian distribution)的形式如下:

其中, 是D維 mean vector, 是 協(xié)方差矩陣, 里面的第 i 行第 j 列元素表示第 i 個變量第 j 個變量的協(xié)方差 , 代表協(xié)方差矩陣的行列式。

二維高斯分布的圖如下所示(來自wikipedia),它的每一個維度都是高斯分布:

搞懂多變量高斯分布的由來

本文主要就是講式(1)的由來。前置知識:雅可比矩陣和雅可比行列式

設 是一個函數(shù),它的輸入是向量 ,輸出是向量 :

那么 雅可比矩陣 是一個m×n矩陣:

由于矩陣描述了向量空間中的運動——變換,而雅可比矩陣看作是將點 轉化到點 ,或者說是從一個n維的歐式空間轉換到m維的歐氏空間。

如果m = n, 可以定義雅可比矩陣 的行列式,也就是 雅可比行列式(Jacobian determinant) 。

在微積分換元中,也就是給出了 從x到y(tǒng)的n維體積的比率,二維雅可比矩陣的幾何意義在二維情況(有直觀的圖),雅可比行列式代表xy平面上的面積微元與uv平面上的面積微元的比值。

雅可比行列式是:

搞懂多變量高斯分布的由來

如圖所示:dA代表dx和dy張成的平行四邊形的面積,如果du和dv充分接近于0,那么dA:

二重積分換元:

n維度情況以此類推。

多變量高斯分布

首先考慮 單變量標準正態(tài)分布 ,概率密度函數(shù)為:

然后考慮 n 維獨立標準高斯分布,就是 n 個 獨立的 一維標準正態(tài)分布隨機變量的聯(lián)合分布:

為了表達方便,用向量的形式來表示,設 ,式(3)寫作:

一般的,設 由 的線性變換得到:

其中A是 的 非奇異矩陣 , 是n維向量

可把 用 表示:

注意到, 式(6)線性變換的雅可比行列式 是 ,因此:

設 ,則 ,由聯(lián)合概率分布密度的定義,有:

因此,向量 的聯(lián)合概率概率密度函數(shù)是:

也就得到式(1)

可以看出:多變量高斯分布是單變量高斯分布向多維的推廣。

    本站是提供個人知識管理的網(wǎng)絡存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點。請注意甄別內(nèi)容中的聯(lián)系方式、誘導購買等信息,謹防詐騙。如發(fā)現(xiàn)有害或侵權內(nèi)容,請點擊一鍵舉報。
    轉藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多