這篇文章總結(jié)了概率統(tǒng)計中期望、方差、協(xié)方差和相關(guān)系數(shù)的定義、性質(zhì)和基本運算規(guī)則。

期望

定義

設(shè)P(x)是一個離散概率分布函數(shù)，自變量的取值范圍為{x1,x2,?,xn}。其期望被定義為：

設(shè)p(x)是一個連續(xù)概率密度函數(shù)。其期望為：

性質(zhì)

1、線性運算規(guī)則

期望服從線性性質(zhì)（可以很容易從期望的定義公式中導(dǎo)出）。因此線性運算的期望等于期望的線性運算：

這個性質(zhì)可以推廣到任意一般情況：

2、函數(shù)的期望

設(shè)f(x)為x的函數(shù)，則f(x)的期望為：

離散：

連續(xù)：

一定要注意，函數(shù)的期望不等于期望的函數(shù)，即E(f(x))≠f(E(x))！。

3、乘積的期望

一般來說，乘積的期望不等于期望的乘積，除非變量相互獨立。因此，如果x和y相互獨立，則E(xy)=E(x)E(y)。

期望的運算構(gòu)成了統(tǒng)計量的運算基礎(chǔ)，因為方差、協(xié)方差等統(tǒng)計量本質(zhì)上是一種特殊的期望。

方差

定義

方差是一種特殊的期望，被定義為：

性質(zhì)

1、展開表示

反復(fù)利用期望的線性性質(zhì)，可以算出方差的另一種表示形式：

2、常數(shù)的方差

常數(shù)的方差為0，由方差的展開表示很容易推得。

3、線性組合的方差

方差不滿足線性性質(zhì)，兩個變量的線性組合方差計算方法如下：

其中Cov(x,y)為x和y的協(xié)方差，下一節(jié)討論。

4、獨立變量的方差

如果兩個變量相互獨立，則：

作為推論，如果x和y相互獨立：Var(x+y)=Var(x)+Var(y)。

協(xié)方差

定義

兩個隨機變量的協(xié)方差被定義為：

因此方差是一種特殊的協(xié)方差。當x=y時，Cov(x,y)=Var(x)=Var(y)。

性質(zhì)

1、獨立變量的協(xié)方差

獨立變量的協(xié)方差為0，可以由協(xié)方差公式推導(dǎo)出。

2、線性組合的協(xié)方差

協(xié)方差最重要的性質(zhì)如下：

很多協(xié)方差的計算都是反復(fù)利用這個性質(zhì)，而且可以導(dǎo)出一些列重要結(jié)論。

作為一種特殊情況：

另外當x=y時，可以導(dǎo)出方差的一般線性組合求解公式：

相關(guān)系數(shù)

定義

相關(guān)系數(shù)通過方差和協(xié)方差定義。兩個隨機變量的相關(guān)系數(shù)被定義為：

性質(zhì)

1、有界性

相關(guān)系數(shù)的取值范圍為-1到1，其可以看成是無量綱的協(xié)方差。

2、統(tǒng)計意義

值越接近1，說明兩個變量正相關(guān)性（線性）越強，越接近-1，說明負相關(guān)性越強，當為0時表示兩個變量沒有相關(guān)性。