Solving black-box optimization is critical in the sense that most of the real-world problems do not provide explicit problem formulation. Despite the success of Bayesian optimization for such problems, most of the works have been made under the assumption of continuous input domains. However, a number of real- world applications also involve ordinal or nominal variables in their search spaces. In this work, we focused on optimizing such mixed search spaces where different types of variables coexist. We introduce a novel perspective where we mold the data into an appropriate graph structure (i.e. each dimension represents a distinct node) where its connectivity would take its role as a kernel. In detail, we adopt latent space optimization framework with graph neural network as an encoder so that interactions between different variables can be naturally aggregated by the message passing scheme. We first empirically validate our approach and propose a new framework of jointly searching appropriate graph structure (kernel) and optimizing downstream task. Experimental results show that our method demonstrates high efficiency comparing to state-of-the-art algorithms on various tasks regarding computation time.
대부분의 실생활 문제는 명확한 목적 함수를 알 수 없는 블랙 박스 문제이기 때문에 블랙 박스 최적화는 중 요한 연구 분야 중 하나이다. 베이지안 최적화 방법론은 이러한 문제를 해결하는 가장 효율적인 방법론으로 꼽히는데, 이 방법론은 일반적으로 연속적인 탐색공간을 가정하지만 실제 문제들 대다수는 불연속적인 변수 혹은범주형변수또한포함하고있다. 본연구는다양한데이터타입이공존하는혼합변수공간을위한 효율적인 베이지안 최적화 방법론을 제안한다. 주어진 데이터를 그래프 형태로 변환하여 그래프 뉴럴 네트 워크의 활용으로 그래프 구조가 커널 역할을 하는 잠재 공간 최적화 방법론을 소개한다. 문제마다 적합한 그래프 구조가 존재함을 실험적으로 입증한 후, 최적화 과정과 함께 목표 문제에 맞는 그래프 구조를 학습을 통해 찾아나가는 합동 프레임워크를 제시한다. 본 연구에서 제안하는 방법론은 다양한 문제에 대한 실험을 통해 최신 알고리즘보다 시간 대비 성능 측면에서 높은 효율을 입증한다.
