인공지능과 빅데이터 6주차 2차시 - 심층신경망, 딥러닝 개념

딥러닝 - 학습, 모델링, 실제 사용에 대해 알아보자!

머신러닝은 사람이 먼저 피쳐를 고른다. 그 후 컴퓨터가 알아서 학습하여 구별한다.

머신러닝은 피쳐를 사람이 고른다!

딥러닝 피쳐는 잘 모르지만 컴퓨터가 잘 찾은 특징이다. - 사람이 놓칠 수 있는 중요한 특징을 잘 잡는다. -> 성능측면에서 더 좋을 수 있다
다만 더 좋은 성능이 나왔을 때 이유를 설명하기 어렵다. - 컴퓨터기 피쳐를 뽑기 때문

 

딥러닝 학습 - 원하는 방향으로 예측하도록 weight와 bias를 업데이트한다.

학습 시간이 오래 걸리는 단점이 있다. but feature를 잘 뽑아 낸다.

 

심층 신경망을 쓰는 딥러닝 기술이 항상 좋을까? - 항상 좋지는 않을거 같다. 일단 데이터 문제, 시간문제가 기본적으로 있다. 

문제에 따라 적절히 분석 방법 선택해야 한다!

딥러닝으로 풀기 적절한 문제를 풀어야 한다.

 

 

딥러닝이 정확도가 높은 이유는??

내가 이미지를 보고 사과라고 인식했을 때 모든 것을 언어로 표현할 수 없다는 것이다.

레이어층, 노드가 많음으로써 많은 특징들을 담을 수 있다.

심층 신경망 - 입력데이터의 인식하는데 굉장한 성능을 보인다.

이미지 인식 분야에서는 컴퓨터가 사람을 넘어섰다.

말로 표현해서 인식시키는 것 보다 딥러닝이 알아서 하는 것이 훨씬 좋은 것이다.

딥 뉴럴 네트워크가 사과의 특징을 입력한다. - 레이어, 노드수가 많은 심층 신경망을 사용하고, 컴퓨터가 특징을 추출하기 때문에 가능해진 것이다.

 

Simple features?

입력의 노드들은 굉장히 단순할 것이다. -> simple features - 노드, 레이어 수가 많다면 이 것도 많을 것이다.

 

네트워크 전체로 보면 세밀하고 다양한 feature가 뽑히게 된다.

 

즉 수준이 높아지는 것이다.

딥러닝 - simple features를 굉장히 잘게 쪼개서 많은 feature를 뽑고, 패턴인식의 수준이 높아졌다.

심층신경망을 학습 시킨다 == 딥러닝

단층 퍼셉트론, 다층 퍼셉트론과 같은 구조이다. - 동일 레이어 말고, 이전 이후 레이어와 모두 연결되어있다.

 

기본적으로 이미지를 입력으로 받아 특징 추출에 최적화되어있다.

이미지는 공간적인 상관관계가 존재한다. -> 여기서 특징을 잘 추출한다.

 

이제 시계열 !

시간적, 순서 데이터에 특화되어있다.

과거의 데이터가 현재에 영향을 주도록 되어있다. - 자연어 처리에서 많이 활용되고 있다. 앞 단어를 알아야 뒤에 단어를 생성한다.

 

ReLU - 기울기 소실 해결

Drop out - 오버피팅 해결