這篇文章總結了概率統(tǒng)計中期望、方差、協(xié)方差和相關系數(shù)的定義、性質和基本運算規(guī)則。

期望

定義

設是一個離散概率分布函數(shù)，自變量的取值范圍為。其期望被定義為：

設是一個連續(xù)概率密度函數(shù)。其期望為：

性質

1、線性運算規(guī)則

期望服從線性性質（可以很容易從期望的定義公式中導出）。因此線性運算的期望等于期望的線性運算：

這個性質可以推廣到任意一般情況：

2、函數(shù)的期望

設為x的函數(shù)，則的期望為：

離散：

連續(xù)：

一定要注意，函數(shù)的期望不等于期望的函數(shù)，即！。

3、乘積的期望

一般來說，乘積的期望不等于期望的乘積，除非變量相互獨立。因此，如果x和y相互獨立，則。

期望的運算構成了統(tǒng)計量的運算基礎，因為方差、協(xié)方差等統(tǒng)計量本質上是一種特殊的期望。

方差

定義

方差是一種特殊的期望，被定義為：

性質

1、展開表示

反復利用期望的線性性質，可以算出方差的另一種表示形式：

2、常數(shù)的方差

常數(shù)的方差為0，由方差的展開表示很容易推得。

3、線性組合的方差

方差不滿足線性性質，兩個變量的線性組合方差計算方法如下：

其中為x和y的協(xié)方差，下一節(jié)討論。

4、獨立變量的方差

如果兩個變量相互獨立，則：

作為推論，如果x和y相互獨立：。

協(xié)方差

定義

兩個隨機變量的協(xié)方差被定義為：

因此方差是一種特殊的協(xié)方差。當x=y時，。

性質

1、獨立變量的協(xié)方差

獨立變量的協(xié)方差為0，可以由協(xié)方差公式推導出。

2、線性組合的協(xié)方差

協(xié)方差最重要的性質如下：

很多協(xié)方差的計算都是反復利用這個性質，而且可以導出一些列重要結論。

作為一種特殊情況：

另外當x=y時，可以導出方差的一般線性組合求解公式：

相關系數(shù)

定義

相關系數(shù)通過方差和協(xié)方差定義。兩個隨機變量的相關系數(shù)被定義為：

性質

1、有界性

相關系數(shù)的取值范圍為-1到1，其可以看成是無量綱的協(xié)方差。

2、統(tǒng)計意義

值越接近1，說明兩個變量正相關性（線性）越強，越接近-1，說明負相關性越強，當為0時表示兩個變量沒有相關性。