자연어 처리 - CNN, RNN으로 문장 표현하기

문제점

역시 순서 정보가 사라지는 것 같다더니..

CNN

여러개의 차원을 동시에 본다!

필터를 여러개 쓰면 또 여러개가 나올 것이다.

Convolutional Neural entwork for Sentence classification

max pooling -> 가장 큰 값만 가지고 온다 -> 순서 정보가 사라진다.

문제점! 아직도 순서 정보가 사라진다.

RNN

순서가 바뀌면 결과가 바뀐다!

초기 정보 사라짐!

해결!

다른 의미를 가진 말이지만 입력하는 모습은 똑같다.

disambiguation - 명확화

RNN for text classification

순방향과 역방향 정보를 모두 가지게 된다!