실용 최적화 알고리즘

1장. 소개
__1.1 역사
__1.2 최적화 프로세스
__1.3 기본 최적화 문제
__1.4 제약식
__1.5 임계점
__1.6 국지적 극소점의 조건
__1.7 등고선 그래프
__1.8 개요
__1.9 요약
__1.10 연습문제

2장. 미분과 그래디언트
__2.1 미분
__2.2 다차원에서의 미분
__2.3 수치 미분
__2.4 자동미분
__2.5 요약
__2.6 연습문제

3장. 괄호법
__3.1 단봉성
__3.2 최초의 괄호를 발견하는 법
__3.3 피보나치 탐색
__3.4 황금분할 탐색
__3.5 2차 적합 탐색
__3.6 슈베르트-피야브스키법
__3.7 이진 탐색
__3.8 요약
__3.9 연습문제

4장. 국지적 경사
__4.1 경사 방향 반복 시행
__4.2 라인 탐색
__4.3 근사적 라인 탐색
__4.4 신뢰 영역법
__4.5 종료 조건
__4.6 요약
__4.7 연습문제

5장. 1계 도함수법
__5.1 그래디언트 하강
__5.2 켤레 그래디언트법
__5.3 모멘텀
__5.4 네스테로프 모멘텀
__5.5 아다그라드
__5.6 알엠에스프롭
__5.7 아다델타
__5.8 아담
__5.9 하이퍼그래디언트 하강
__5.10 요약
__5.11 연습문제

6장. 2계 도함수법
__6.1 뉴턴법
__6.2 시컨트법
__6.3 준뉴턴법
__6.4 요약
__6.5 연습문제

7장. 직접법
__7.1 순환적 좌표 탐색
__7.2 파월법
__7.3 후크-지브스법
__7.4 일반화 패턴 탐색
__7.5 넬더-미드 심플렉스법
__7.6 사각형 분할
__7.7 요약
__7.8 연습문제

8장. 확률적 방법
__8.1 잡음 하강
__8.2 메시 적응적 직접 탐색
__8.3 모의 담금질
__8.4 교차 엔트로피법
__8.5 자연 진화 전략
__8.6 공분산 행렬 적응법
__8.7 요약
__8.8 연습문제

9장. 모집단 방법
__9.1 초기화
__9.2 유전 알고리즘
__9.3 미분 진화
__9.4 입자 군집 최적화
__9.5 반딧불이 알고리즘
__9.6 뻐꾸기 탐색
__9.7 혼합 방법
__9.8 요약
__9.9 연습문제

10장. 제약식
__10.1 제약조건이 있는 최적화
__10.2 제약조건의 형태
__10.3 제약조건을 제거하는 변환
__10.4 라그랑주 승수
__10.5 부등식 제약조건
__10.6 쌍대성
__10.7 페널티법
__10.8 확대 라그랑주법
__10.9 내부점법
__10.10 요약
__10.11 연습문제

11장. 선형 제약 최적화
__11.1 문제 구성
__11.2 심플렉스 알고리즘
__11.3 쌍대 자격
__11.4 요약
__11.5 연습문제

12장. 다중 목적 최적화
__12.1 파레토 최적성
__12.2 제약식 방법
__12.3 가중치 방법
__12.4 다목적 모집단법
__12.5 선호 추출
__12.6 요약
__12.7 연습문

13장. 샘플링 플랜
__13.1 완전 요인법
__13.2 랜덤 샘플링
__13.3 균등 투영 플랜
__13.4 층화 추출법
__13.5 공간 채움 척도
__13.6 공간 채움 부분 집합
__13.7 준랜덤 수열
__13.8 요약
__13.9 연습문제

14장. 대리 모델
__14.1 대리 모델의 적합화
__14.2 선형 모델
__14.3 기저 함수
__14.4 잡음을 포함한 목적 함수의 적합화
__14.5 모델 선택
__14.6 요약
__14.7 연습문제

15장. 확률적 대리 모델
__15.1 가우시안 분포
__15.2 가우시안 프로세스
__15.3 예측
__15.4 그래디언트 측정
__15.5 측정 잡음
__15.6 가우시안 프로세스 적합화
__15.7 요약
__15.8 연습문제

16장. 대리 최적화
__16.1 예측 기반 탐험
__16.2 오차 기반 탐험
__16.3 신뢰 구간 하계 탐험
__16.4 개선 확률 탐험
__16.5 기대 개선 탐험
__16.6 안전 최적화
__16.7 요약
__16.8 연습문제

17장. 불확실성하에서의 최적화
__17.1 불확실성
__17.2 집합 기반 불확실성
__17.3 확률적 불확실성
__17.4 요약
__17.5 연습문제

18장. 불확실성 전파
__18.1 샘플링법
__18.2 테일러 근사
__18.3 다항식 카오스
__18.4 베이지안 몬테카를로
__18.5 요약
__18.6 연습문제

19장. 이산 최적화
__19.1 정수 계획
__19.2 라운딩
__19.3 절단 평면
__19.4 분기 한정법
__19.5 동적 계획법
__19.6 개미집단 최적화
__19.7 요약
__19.8 연습문제

20장. 표현식 최적화
__20.1 문법
__20.2 유전 계획법
__20.3 문법적 진화 기법
__20.4 확률적 문법
__20.5 확률적 프로토타입 트리
__20.6 요약
__20.7 연습문제

21장. 다분야 통합 최적화
__21.1 분야 분석
__21.2 분야 간 일관성
__21.3 구조
__21.4 다분야 통합 설계 실현 가능
__21.5 순차적 최적화
__21.6 개별 분야 실현 가능
__21.7 협업 최적화
__21.8 연립 분석과 설계
__21.9 요약
__21.10 연습문제

부록 A. 줄리아
__A.1 타입
__A.2 함수
__A.3 제어 흐름
__A.4 패키지

부록 B. 테스트 함수
__B.1 액클리 함수
__B.2 부스 함수
__B.3 브라닌 함수
__B.4 플라워 함수
__B.5 미칼레비츠 함수
__B.6 로젠브록의 바나나 함수
__B.7 윌러의 릿지
__B.8 원형 함수

부록 C. 수학 개념
__C.1 점근 표기법
__C.2 테일러 전개
__C.3 볼록성
__C.4 놈
__C.5 행렬 미적분
__C.6 양정부호
__C.7 가우시안 분포
__C.8 가우시안 구적

부록 D. 해답