contrast divergence1 [PGM] part3 - RBM(Restricted Boltzmann Machine), DBN(Deep Belief Network) 확률 그래피컬 모델(Probability Graphical Model) - part3 4. RBM과 DBN RBM(Restricted Boltzmann Machine)은 통계 물리(statistical physics)의 세부분야인 통계 역학(statistical mechanics)을 이용합니다. 따라서 통계 역학을 일군 볼츠만, 깁스 이름이 자주 등장합니다. BM은 학습이 매우어려워 거의 사용하지 않습니다. 대신 RBM(harmonium)이라는 같은 종류의 노드 사이에는 에지를 허용하지 않는 구조를 제안하게 됩니다.(Smolensky, 1986) 이후 대조발산(contrastive divergence) 학습 알고리즘이 제안되어 이 구조는 빛을 보게 됩니다.(Hinton, 2002) 그 후 RBM 층을 여.. 2019. 11. 28. 728x90 이전 1 다음
