목록딥러닝 학습방법 (1)
코딩 기록들
딥러닝 학습방법
- 부적합 : train, test 데이터셋 모두에서 성능이 떨어지는 경우 - 과적합 : train, valid 데이터셋 성능이 우수하나 test 에서 떨어지는 경우 - Gradient vanishing 기울기소실 / exploding 기울기폭주 : 학습의 역전파 과정에서 이상가중치 발생 -- > 적용가능한 해결방안 : 활성함수변경, 가중치초기화, 정규화(요즘 사용안하는 추세임) 모델 학습 하이퍼파라미터 **주의 : 모델 찾을때 최근 3년 넘어가는건 사용하지말기 & 너무최신꺼는 버그가 많음** 1) Loss Function - 모델이 도출한 output과 정답지target의 차이를 수치화하는 함수 - 회귀분석문제에는 MSE / classification에는 Cross-Entropy - 이진분류문제는 Bi..
딥러닝 학습방법
2023. 1. 6. 09:54