This thesis deals with the general nonlinear constrained optimization techniques. The developed algorithms can overcome the shortcomings of the reported techniques in classical and evolutionary optimization fields. A hybrid evolutionary programming (EP), a two-phase EP (TPEP) and an Evolian techniques are proposed. An improvement over the Evolian method is also presented. The first method, the hybrid EP, combines the evolutionary optimization approach with the classical gradient-based neural network method. The second method, the TPEP approach, is an extension to the hybrid EP, which does not require the gradient information. It utilizes an augmented Lagrangian function, and the Lagrange multipliers are updated in accordance with the constraint violation. The third method, Evolian, incorporates the concept of multi-phase optimization process and constraint scaling techniques to resolve the ill-conditioning problem. In each phase, the typical EP is performed using the augmented Lagrangian objective function, and the Lagrange multipliers, the constraint scaling factors, and the penalty parameters are updated at each phase transition. A novel method, Evolian II, is also proposed to improve Evolian with respect to solution feasibility, global convergence, computational complexity, and convergence speed. The interior and augmented Lagrangian penalty methods are combined to obtain a feasible solution trajectory with a moderate amount of computation time. A novel termination criterion is introduced in Evolian II, which reduces the computational burden in determining the convergence. It is shown that the optimality of the converged solution can be guaranteed with moderate assumptions. The use of subpopulation scheme and multiple Lagrange multipliers helps to improve the global convergence property of Evolian II.
본 논문에서는 비선형 제한 최적화 문제를 다루고 있다. 특히 전통적인 기법과 진화 연산 기법의 다양한 고찰을 통해 기존의 방법들의 단점을 극복하기 위한 방법들을 제안한다. 첫번째 방법인 하이브리드 진화 프로그래밍은 진화 연산과 전통적인 경사도에 기반한 신경회로망 기법을 결합한 것이다. 두번째 방법인 이상 진화 프로그래밍은 하이브리드 진화 프로그래밍 기법의 확장으로서 경사도 정보를 필요로 하지 않는다. 이 기법은 오그멘티드 라그랑지안 함수를 이용하여 제한 조건의 위배 정도에 따라서 라그랑지 승수를 변화시킨다. 세번째 방법은 Evolian 이라고 하는데, 다상 최적화 과정과 제한 조건 스케일링 기법을 첨가한 것이다. 각 상에서는 오그멘티드 라그랑지안 함수를 목적함수로 삼아서 기존의 진화 프로그래밍을 실행시키고, 수렴후에 라그랑지 승수와 제한 조건 스케일링 인수 및 페널티 계수를 보정하여 새로운 목적함수를 구성한다. 마지막 방법은 Evolian II인데, 이것은 Evolian을 더욱 향상시킨 방법으로서 탐색 과정 동안 최적 개체가 제한 조건을 위배하지 않도록 하며, 전역적인 수렴성을 보장하고, 계산의 복잡도를 줄이고, 계산 속도를 증가시키도록 구성되었다. 이 기법은 내부 페널티 함수와 오그멘티드 라그랑지안 함수를 결합시켜서 제한 조건을 만족하며 계산 시간을 어느 정도 줄이도록 하였다. 또한 새로운 종료 조건을 제안하여 수렴성을 결정하는데에 소요되는 계산량을 줄이도록 하였다. 이렇게 함으로써 적당한 가정하에서 수렴해의 최적성이 보장된다. Evolian II에서는 부개체군의 개념과 다중 라그랑지 승수의 개념을 도입하여서 전역 수렴성을 향상시킨다.
