Optimization

목차 Optimization 어떤 objective function(대상이 되는 함수)의 함숫값을 최적화(최대/최소화)시키는 parameter조합을 찾는 문제 최대화 : 소요시간,비용인 경우 / 최소화 : 성능,이윤인 경우 Output이 목표로 하는 타겟값과 가까워지도록 loss function을 설정하고 error가 줄어드는 방향으로 학습시키기위해 1) 각 weight와 gradient값을 계산 2) 앞의 값들을 이용해 weight를 다시 설정 1),2)를 반복하며 최적의 weight값을 갖는 모델을 찾아내는 과정 Optimizer Loss의 최솟값을 찾아가는 알고리즘 - 학습속도를 빠르고 안정적이게 하는 것이 목표 Optimizer 종류 1. Gradient Descent (경사하강법) 가장 기본적이..

2023.10.03