최적화 알고리즘

1. 최적화 알고리즘 (최적화 문제 풀이 방법)

  ㅇ 라그랑제 승수법 (Lagrange Multiplier Method)
     - 제약조건 있는 최적화 문제에서, 제약조건을 목적함수로 옮김으로써,
       제역조건 없는 최적화 문제로 변환시킴

  ㅇ 내리막 경사법, 경사 하강법 (Gradient Descent Method)
     - 비용함수를 최소화하기 위해, 반복해서 파라미터를 조정해 나가는 것
     - 경사 하강에 대해, 가장 직관적인 선택은, 경사가 가장 가파른 하강 방향 임
        . 경사가 가장 가파른 방향은 그래디언트 Δf와 반대방향 임
     - ...

  ㅇ ... (편집중) ...