목표 - 자연어 형태의 문장을 이해하는 작업인 자연어 이해 작업에 대해 이해할 수 있다. 재밌는 일이 있었고, 말하고 싶어한다. !!를 보니 엄청났나 보다 등등... syntactic = 표제적인 이해 - 문법적으로 옳은지 사람이 설계한다 -> 시간이 오래 걸리며, 모든 케이스를 포함하기 힘들다. 결국 자연어 이해도 임베딩 잘하기 인거 맞지...? BERT - 자연어 이해 작업을 해결하기 위해 나왔다. 문장간 관계를 양방향으로 확인한다. 문서를 분류, 태깅은 인코더를 사용한다. 전제와 가설을 유사도를 분석하여 판단한다. 관계 지식 그래프를 그리기 위한 필수적인 진행이다.