协方差

在機率論與統計學中，共變異數（英語：Covariance）用於衡量随机变量間的相關程度。

「Covariance」的各地常用譯名
中国大陸	协方差
臺灣	共變異數
港澳	協方差
日本、韓國	共分散

兩變數X與Y在3種不同的共變異數情況下的關係

定義

若实数随机变量 ${\displaystyle X}$  与 ${\displaystyle Y}$  期望值分别为 ${\displaystyle E(X)=\mu }$  与 ${\displaystyle E(Y)=\nu }$  ，則兩者間的协方差定义为：

${\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} [(X-\mu )(Y-\nu )]}$ 

根據勒貝格積分的線性性質，上面的原始定義可以進一步簡化為：

${\displaystyle \operatorname {cov} (X,Y)=\int _{\Omega }(X-\mu )(Y-\nu )\,dP=\int _{\Omega }X\cdot Y\,dP-\mu \int _{\Omega }Y\,dP-\nu \int _{\Omega }X\,dP+\mu \nu =E(X\cdot Y)-\mu \nu }$ 

其中 ${\displaystyle \Omega }$  為样本空间， ${\displaystyle P}$  是定義在 ${\displaystyle \Omega }$  上的機率。

性質

統計獨立

定理 — 若隨機變數 ${\displaystyle X}$  和 ${\displaystyle Y}$  是相互独立的，則

${\displaystyle \operatorname {cov} (X,Y)=0}$ 

計算性質

如果${\displaystyle X}$ 与${\displaystyle Y}$ 是实数随机变量，${\displaystyle a}$ 与${\displaystyle b}$ 是常数，那么根据协方差的定义可以得到：

${\displaystyle \operatorname {cov} (X,X)=\operatorname {var} (X)}$ ，

${\displaystyle \operatorname {cov} (X,Y)=\operatorname {cov} (Y,X)}$ ，

${\displaystyle \operatorname {cov} (aX,bY)=ab\,\operatorname {cov} (X,Y)}$ ，

对于随机变量序列${\displaystyle X_{1},\ldots ,X_{n}}$ 与${\displaystyle Y_{1},\ldots ,Y_{m}}$ ，有

${\displaystyle \operatorname {cov} \left(\sum _{i=1}^{n}{X_{i}},\sum _{j=1}^{m}{Y_{j}}\right)=\sum _{i=1}^{n}{\sum _{j=1}^{m}{\operatorname {cov} \left(X_{i},Y_{j}\right)}}}$ ，

对于随机变量序列${\displaystyle X_{1},\ldots ,X_{n}}$ ，有

${\displaystyle \operatorname {var} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\operatorname {var} (X_{i})+2\sum _{i,j\,:\,i<j}\operatorname {cov} (X_{i},X_{j})}$ 。

协方差矩阵

分别为${\displaystyle m}$  与${\displaystyle n}$  个标量元素的列向量随机变量${\displaystyle X}$ 与${\displaystyle Y}$ ，二者对应的期望值分别为${\displaystyle \mu }$ 与${\displaystyle \upsilon }$ ，这两个变量之间的协方差定义为${\displaystyle m\times n}$  矩阵

${\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} ((X-\mu )(Y-\nu )^{\top }).}$ 

两个向量变量的协方差${\displaystyle \mathrm {cov} (X,Y)}$ 与${\displaystyle \mathrm {cov} (Y,X)}$ 互为转置矩阵。

协方差有时也称为是两个随机变量之间“线性独立性”的度量，但是这个含义与线性代数中严格的线性独立性线性独立不同。

相關係數

主条目：皮尔逊积矩相关系数

取决于协方差的相关性${\displaystyle \eta }$ 

${\displaystyle \eta ={\dfrac {\operatorname {cov} (X,Y)}{\sqrt {\operatorname {var} (X)\cdot \operatorname {var} (Y)}}}\ ,}$ 

更准确地说是线性相关性，是一个衡量线性独立的无量纲数，其取值在${\displaystyle [-1,1]}$ 之间。相关性${\displaystyle \eta =1}$ 时称为“完全线性相关”（相关性${\displaystyle \eta =-1}$ 时称为“完全线性负相关”），此时将${\displaystyle Y_{i}}$ 对${\displaystyle X_{i}}$ 作Y-X 散点图，将得到一组精确排列在直线上的点；相关性数值介于－1到1之间时，其绝对值越接近1表明线性相关性越好，作散点图得到的点的排布越接近一条直线。

相关性为0（因而协方差也为0）的两个随机变量又被称为是不相关的，或者更准确地说叫作“线性无关”、“线性不相关”，这仅仅表明${\displaystyle X}$ 与${\displaystyle Y}$ 两随机变量之间没有线性相关性，并非表示它们之间一定没有任何内在的（非线性）函数关系，和前面所说的“${\displaystyle X}$ 、${\displaystyle Y}$ 二者并不一定是统计独立的”说法一致。

参见

• 變異數
• 自协方差
• 协方差矩阵
• 协方差函数
• 误差传播