인공지능과 빅데이터 5주차 3차시 - 단층 퍼셉트론의 한계와 다층 퍼셉트론

XOR이 나오겠네요

단층 퍼셉트론의 단점

나왔습니다 XOR!!!

선 하나만 만들어서는 XOR을 구분할 수 없다.

 

은닉층을 추가했을 때 복잡한 선을 만들 수 있다. BUT 학습은 어떻게????? -> 첫번째 겨울 -> Back propagation!

 

특징이 구분하기 너무 쉽다! -> 선형 분리 가능

사람조차 구분하기 힘든 일을 인공지능이 해줘야 필요성이 생긴다!

비선형 경계를 통해 좋은 성능을 낸다.

이 문제가 잘 풀린다면 비선형의 문제를 해결할 수 있다.

히든 레이어가 1개인 네트워크

activation function

 

activation function

미분 가능하다 -> back propagation에서 사용된다.

위 과정을 반복하면서 쭉쭉 진행한다.

입력이 어떤 형태로 들어와도 표현 가능하다!

back propagation....

임의로 w와 b의 값을 정한다. -> 출력이 기대출력이 되도록 w와 b를 변화시킨다.

오차함수는 다양하다. 예측과 정답이 같아지도록 하는 것은 똑같다.

 

출력단부터 적용해나가기 때문이다.

Soft max