[설계 최적화 이론] Gradient Method - Steepest Descent Method, Conjugate Gradient Method

이번 포스팅은 최적화문제(Optimization Problem)의 Unconstrained Optimization method 중에서도 Gradient method의 다섯 가지 method에 대해 하나씩 공부해보겠습니다. 잠깐 다시 짚어보자면, 최적해를 찾기 위한 방법은 Starting point부터 점차적으로 최적해를 찾아가도록 수많은 iteration을 통해 point를 improve해 나가는 Direct한 방법과 소위 최적조건(Optimality Condition)을 만족하는 어떠한 방정식을 풀어나가는 Indirect한 방법이 있습니다. Indirect한 방법은 iteration이나 starting point가 필요없고, 최적해를 만족하는 조건이 방정식으로 정의될 수 있어야 합니다. 자, 그럼 본격..

2023.10.04