해당 포스트는 2019년 강의 영상과 자료를 보고 작성하였으며, 2022년 강의 자료를 통해 보강하였습니다. 해당 포스트에 포함된 이미지는 2022년 강의 자료에서도 확인 가능합니다. HTML 삽입 미리보기할 수 없는 소스 Optimization 손실함수를 최소화 하는 가중치 행렬 w*를 찾는 문제는, 최적화 문제임 이때 우리가 다룰 손실함수 L(w)는 가중치 행렬을 입력으로 받아 스칼라 손실을 출력하는 함수 최적화 문제를 직관적으로 이해할 때는 눈을 감은 채 사진과 같은 고차원의 풍경을 탐색하는 것으로 이해해볼 수 있음 땅의 각 지점(x, y 좌표)은 가중치 행렬 w의 다른 값 해당 지점의 높이는 손실함수 L(w)의 값이 됨 최적화 과정에서 우리는 어디가 바닥인지 정확히 알 수 없지만 탐색을 통해 최저..