Gradient Descent
경사 하강법에 대해서 알아 보고자 한다. 기본 적인 Error Function의 구조는 아래 링크와 같다. 2021.07.17 - [AI] - Error Function $$ ErrorFunction() = - \frac{1}{n} \sum_{i=1}^n y_i*ln(\sigma(Wx_i + b)) + (1-y_i)*ln(1-\sigma(Wx_i + b)) $$ 이것을 3차원의 형태로 그려보면 아래와 같이 표현 할 수 있다. 아래 E 또는 Error 가 Error Function의 계산 결과 이다. 즉, w1의 변화량은 Error function의 결과 값에 어느 정도의 변화를 만들어 내는가? w2의 변화량은 Error function의 결과값에 어떤 변화를 만들어 내는가? 이것을 표현한 내용이라고 생각..