딥러닝의 기본 학습 - How to minimize cost-이론-2

How to minimize cost

W값을 찾는다는것은 최소의 cost 값을 찾는다고 볼수 있다, 그래프로 바꿔서 보면 사람은 종합의사 판단을 할수 있어 쉽게 찾을수 있지만 컴퓨터는 이를 인지 할수 없으므로 알고 리즘을 이용하여 이값을 찾도록 한다.

> 선형=모델이다. 선형의 정답의 기울기를 찾아 가는 최소의 방법을 구하는 원리이다.

> 그렇다면 이부분을 해결한다는 선형의 정답을 찾을수 있다는 것이다.

> 기계 적으로 w 의 최소값을 찾는알고리즘  

 

Hypothesis and Cost

 

공식

 

Simplified hypothesis

 

공식

 

Gradient descent algorithm

> 경사가 내려가는 알고리즘

• Minimize cost function

• Gradient descent is used many minimization problems

• For a given cost function, cost (W, b), it will find W, b to minimize cost

• It can be applied to more general function: cost (w1, w2, …)

여러개의 w가 나올수 있다...

 

> 적용되는 방법은 미분 -- 참조

정형화...수식을 웹으로 입력하면 개노가다..ㅎㅎㅎ

알파는 러닝 레잇 이고, 코스트함수를 미분한 것이 경사알고리즘이다. 

미분처리 하면 오~~

경사 알고리즘이 도출된다. w값을 찾기위한 알고 리즘 

경사알고리즘의 경우 다경사가 되면 예상했던 답이 아닌 다른값으로 나올수 있다.

최적의 해는 보는바와 같은 그림의 형태 여야 만족한다.....