딥러닝

복습: 우선 이전에 내용을 복습하자면 1. Feedforward 를 위해서 각 입력에서 입력받은것을 가중치에 합산해서 sigmoid 나 Relu 로 활성화 함수를 거쳐마지막 층에서 softmax를 구한후 loss function 으로 Loss를 구해준다. 이후에 Backpropagation 을 통해서 가중치들을 업데이트 해준다. Gradient decent (경사하강법) 자 우리는 이전에 loss (정답과의 오차값) 을 구했다.그렇다면 우리가 해야 할 것은 이 loss 가 줄어드는 방향으로 가중치를 갱신해줘야 된다는 것이다. 여기서 한가지 드는 의문이 있는데, 가중치의 줄어드는 방향을 어떻게 아는 것인가? 이것은 이제 우리가 미분을 활용하면 된다, 미분은 즉 변화량을 뜻하고 즉 우리는 E에대해..

0. 왜 딥러닝을 사용하는가 Visual Recognition 오류율 추이이다2011(Xerax)부터 딥러닝을 사용하기 시작하였는데 이때부터오류율이 3.56% 까지 급락하였다.이건 딥러닝을 사용하면서부터 성능이 급격하게 좋아짐을 알 수 있다. 1.어떻게 학습시키나 (How to learn) 우선 분류 문제를 해결한다고 생각해보자 우리는 동그라미와 삼각형을 분류시키는 선을 그리도록 학습시킬 것이다. 만약 우리가 동그라이미와 삼각형사이에 긋는다면 정답 이다. 이런식으로 분류하지 못하고 경계를 제대로 찾지 못한다면 오답인 것이다. 자 이번그림도 잘못 그렸지만 이전 그림보다는 더 잘 분류했다고 볼 수 있다. 자 이번엔 이전보다 더 학습이 되어서 제대로 라인을 그렸다. 자 이런식으로 단계를 나누자면 3단..