Gaussian Mixture Model (GMM)

 

Gaussian Mixture Model

 정규분포는 가장 널리 사용되는 분포이기는 하지만 Unimodal한 형태만을 표현가능하다는 제약이 있다. 따라서 일반적인 확률분포를 추정하기 위해서 보다 일반적인 형태의 확률모델이 필요한데, 여러 개의 가우시안을 혼합하여 만드는 가우시안 혼합 모델이 있다.

 식은 아래와 같은데, 정규분포의 상대적인 중요도를 고려하여, 주어진 데이터 x에 대해 GMM은 x가 발생할 확률을 식과 같이 여러 Gaussian probability density function의 합으로 표현한다.

 위 식에서 mixing coefficient는 k번째 정규분포가 전체 혼합 확률밀도 함수에서 차지하는 상대적인 중요도를 의미하고 mixing coefficient는 데이터가 k번째 정규분포에 assign될 확률변수로 볼 수 있다. 따라서 아래 두 조건을 만족해야 한다.