목록SGD (1)

HAZEL

[ Deep Learning 02 ] 경사하강 학습법 ( Gradient Descent ) , 옵티 마이저 ( Optimizer )

Deep Learning 02. 경사하강 학습법 1. 모델을 학습하기 위한 기본적인 용어 1.1. 학습 매개변수 ( Trainable Parameters ) : 학습 과정에서 값이 변화하는 매개변수 : 매개변수가 변화하면서, 알고리즘 출력이 변화됨. : y = ax + b 일때, a 와 b를 의미함 , 즉, 가중치 W와 편향 b 1.2. 손실함수 ( Loss Function) : 실제값과 예측값의 차이를 수치화 해주는 함수 : 실행하고 있는 학습 알고리즘이 얼마나 잘못하고 있는지를 나타내는 지표 : 지표의 값이 낮을수록 즉, 손실이 낮을 수록 학습이 잘 됬다는 것을 의미함. : 정답과 알고리즘 출력을 비교하면서 손실을 구함. -> 어떤 손실함수를 사용하냐에 따라서 학습이 어떻게 이루어지는지 결정됨 1.2..
DATA ANALYSIS/ML & DL 2021. 1. 27. 00:35
이전 Prev 1 Next 다음