모집단과 표본집단의 평균벡터, 공분산행렬, 상관행렬

Research/확률, 통계

모집단과 표본집단의 평균벡터, 공분산행렬, 상관행렬

bskyvision.com 2019. 4. 1. 17:49

확률벡터(random vector)는 요소들이 확률변수들인 벡터이다. p개의 확률변수로 이뤄진 확률벡터는 다음과 같이 표현할 수 있다.

$\large X = \begin{bmatrix} X_1 \\ X_2 \\ \vdots \\ X_p \end{bmatrix}$

이것이 모집단이라고 가정하자.

모집단의 평균벡터, 공분산행렬, 상관행렬

모집단 X의 평균벡터(mean vector)는 다음과 같이 표현할 수 있다.

$\large E(X) = \begin{bmatrix} E(X_1) \\ E(X_2) \\ \vdots \\ E(X_p) \end{bmatrix} = \begin{bmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_p \end{bmatrix}$ ...(모집단의 평균벡터)

여기서 평균벡터 E(X)는 각 확률변수의 평균들을 담아 놓은 것을 의미한다. 모집단 X의 공분산행렬(covariance matrix)은 다음과 같이 표현할 수 있다.

$\large \begin{align*} \Sigma(X) &= Cov(X) = E(X-\mu)(X-\mu)^T \\ &= E\left ( \begin{bmatrix} X_1 - \mu_1 \\ X_2 - \mu_2 \\ \vdots \\ X_p - \mu_p \end{bmatrix}\begin{bmatrix} X_1 - \mu_1 & X_2 - \mu_2 & \cdots & X_p - \mu_p \end{bmatrix} \right )\\ &= \begin{bmatrix} \sigma_{11} & \sigma_{12} & \cdots & \sigma_{1p} \\ \sigma_{21} & \sigma_{22} & \cdots & \sigma_{2p}\\ \vdots & \vdots & \ddots & \vdots \\ \sigma_{p1} & \sigma_{p2} & \cdots & \sigma_{pp} \end{bmatrix} \end{align*}$ ...(모집단의 공분산행렬)

공분산행렬에서 대각요소들은 확률변수 $X_1, X_2,..., X_p$ 의 분산들이고, 대각요소를 제외하고는 두 확률변수들의 공분산들이다. 또한 확률변수 $X_i$ 와 $X_k$ 의 공분산이나 확률변수 $X_k$ 와 $X_i$ 의 공분산이나 같은 것을 의미하므로, $\sigma_{ik} = \sigma_{ki}$ 이다. 모집단 X의 공분산행렬을 구했다면, 모집단 X의 상관행렬(correlation matrix)을 찾는 것은 간단하다.

$\large \rho = \begin{bmatrix} 1 & \rho_{12} & \hdots & \rho_{1p} \\ \rho_{21} & 1 & \hdots & \rho_{2p}\\ \vdots & \vdots & \ddots & \vdots \\ \rho_{p1} & \rho_{p2} & \hdots & 1 \end{bmatrix}$ ...(모집단의 상관행렬)

여기서

$\large \rho_{ik}= \frac{\rho_{ik}}{\sqrt{\rho_{ii}}\sqrt{\rho_{kk}}}$

는 확률변수 $X_i$ 와 $X_k$ 의 상관계수(correlation coefficient)이다. 공분산에서와 마찬가지로, 상관행렬에서도 $\rho_{ik} = \rho_{ki}$ 이다. 또한 대각요소는 모두 1인 것을 확인할 수 있다. 같은 확률변수에 대해서 상관계수를 구하면 완벽한 양의 선형 연관성을 갖고 있기 때문이다.

표본집단의 평균벡터, 공분산행렬, 상관행렬

모집단으로부터 n개의 확률표본 $X_1, X_2,..., X_n$ 을 추출했다고 가정하자. 각 확률표본은 1 x p 사이즈의 확률벡터이다: $X_i = (X_{i1}, X_{i2},..., X_{ip})' \: (i=1,2,...,n)$ . 이때 표본평균벡터, 표본공분산행렬, 표본상관계수들을 구하는 방법에 대해 알아보자.