Visualization2 [ML] Semi-supervised Learning, Transfer Learning 설명 Semi-supervised Learning and Transfer Learning 1. 표현학습(Representation Learning) 2000년대 초반까지는 수작업 특징(hand-crafted feature)을 미리 구해 특징 벡터를 추출하고 얕은 구조의 기계학습을 구현했었습니다. 하지만 수작업의 한계는 다양한 도메인에서 사람이 일일이 최적의 특징을 설계하는 것이 어렵다는 것입니다. 딥러닝에서는 특징 추출과 기계 학습이 동시에 최적화합니다.(end-to-end) 다른 도메인에 적용시키려면 데이터만 바꾸어 새로 학습하면 됩니다. 최적의 특징을 자동으로 알아내는 접근방식의 중요성을 강조하기 위해 표현학습(representation learning)이라는 용어를 사용합니다. 깊은 구조의 은닉층은 저급.. 2019. 11. 23. [Manifold Learning] IsoMap, LLE, t-SNE 설명 Manifold Learning 여기서 매니폴드 학습은 데이터 분포의 비선형(non-linear) 구조를 직접적으로 고려합니다. 즉, Nonlinear Dimensionality Reduction 문제를 봅니다. 1. Manifold? 위상수학에서 개발된 매니폴드와 이론과 달리, 기계학습에서는 개념적으로 다룹니다. 주로 고차원 공간에 내재한 저차원 공간을 매니폴드라고 합니다. 매니폴드는 보통 비선형 구조를 가지며, 특정 점을 중심으로 인근만 살피면 선형 구조에 가깝습니다. 기계학습에서 trainset에 있는 샘플은 매니폴드 위 또는 매니폴드에 가까이 있습니다. 훈련집합 샘플 $x = (x_1, x_2, \cdots, x_d)^T$ 는 $d$차원 공간의 한 점입니다. 데이터는 보통 매우 높은 차원 공간에 .. 2019. 11. 16. 728x90 이전 1 다음
