인공지능/공부
딥러닝 개론 4강 - 최적화
이게될까
2024. 4. 16. 20:20
728x90
728x90
아담, 모멘텀 그런 류들 잔뜩 나오겠네요
그냥 이런 것이 있다 정도..
분모가 계속 커진다. -> 0에 수렴한다.
분자에도 만들어 0으로 가는 것을 막자!
굳이 분자 문모 다 만들지 말고 0만 안되게 하자
기울기 대신에 기울기를 누적한 것을 더해준다.
논리 게이트 구현 1
논리 게이트 구현 2
정규화의 중요성!
728x90