MLP로 손글씨 인식을 실제로 해보면,
유클리드 거리를 싸그리 무시해도 기가막히게 잘 찾는다.
왜일까?
이 범용근사정리에서 답이 나온다.
충분히 많은 뉴런과 활성화 함수가 있으면 어떤 복잡한 함수도 흉내낼 수 있다
말이 어렵다. 수학은 원래 어렵다. 이런것도 공부를 하긴 해야돼.
근데 일단 기초를 훑고, 그다음에 이론을 박박 긁자
근데 이해가 가기는 하지? 제어공학에서 하는 상태 공간 투영
사실 그것도 기억 잘 안네. 아무튼 차원을 확장하니까 간단한 규칙(퍼셉트론)으로 복잡한 기능을 할 수 있게 되었잖아.