1. 최적화 문제의 구분
ㅇ 고전적 최적화 문제 유형
- 연속적(continuous) 및 미분가능(differential) 함수의 최적해를 찾는 문제
. 최적해 : 어느 영역에서 함수가 극값(최대값/최소값 또는 극대값/극소값)을 갖는 경우
- 최적해를 찾는데 미분적분학을 이용한 해석적인 문제로 다룸 ☞ 극값 참조
ㅇ 제약조건(구속조건) 존재 여부
- 비 구속 최적화(Unconstrained Optimization) 문제
. 별도의 제약조건이 없는 경우
- 구속 최적화(Constrained Optimization) 문제
. 목적 함수 외에 파라미터가 만족해야 할 별도의 제약조건이 있는 경우
.. 어떤 조건이 주어지고, 그 조건을 만족하는 상황 하에서 만,
.. 최고/최저값을 갖는 지점을 찾는 조건부 최적화 문제
ㅇ 목적함수(비용함수) 및 제약조건(구속조건)이 선형적 여부
- 목적함수 및 제약조건(식)이 모두 1차 함수(선형적) : 선형 프로그래밍 문제(선형계획법)
- 목적함수가 2차 함수이고 제약조건이 1차 함수(선형적) : 2차 프로그래밍 문제
- 목적함수가 1차/2차 함수도 아니거나 또는 구속조건이 비선형 : 비선형 프로그래밍 문제
ㅇ 차원별
- 일차원/일변수 최적화 문제 : 목적함수가 1개의 종속변수에 만 의존
. 例) f(x) = 5x + 27 등
- 다차원/다변수 최적화 문제 : 목적함수가 2 이상의 종속변수에 의존
. 例) f(x, y) = 2x − 4xy + 5 등
ㅇ 해법(알고리즘)
- 심플렉스법 : 선형계획법 문제에서 최적해를 구하는 정형화된 알고리즘
- 정수 계획법 : 선형계획법 문제에서 구하려는 해가 정수값을 가져야 한다는 전제가 있음
- 동적 계획법 : 제약조건이 미분방정식이고, 목적함수가 적분형태로,
여러 기간에 걸친 의사결정 문제를 다룸