Graph neural networks have been used in various recommendation and structured data analytics with excellent performance in analyzing complex relationships between data. However, they differ from other deep learning models in that they require a large number of data that form relationships with each other to be input to a model computation. Unfortunately, this poses challenges in terms of performance and privacy to existing systems when dealing with graph neural networks as they are designed for general deep learning models. The foremost performance challenge lies in that the time to transfer input data to the AI computation accelerator such as GPU is often longer than the model computation time in the accelerator, which limits the speed of model training and inference. This is because graph neural networks tend to have large input data while having a relatively simple network structure. It also poses a challenge in terms of privacy. A graph neural network for a recommender system uses not only the private data of a client, but also those of other related entities. However, there has been no clear approach to protecting the privacy of all of them. We propose a privacy-preserving model inference system leveraging our new cryptographic protocol that ensures the privacy of multiple users. At the same time, our system achieves high performance in model computation as it utilizes both GPU and CPU to divide the computation of specific model operations, which greatly reduces the time required for input data transfer and utilizes all resources of the server efficiently.
그래프 뉴럴 네트워크는 데이터간의 복잡한 관계의 분석에 탁월한 성능을 바탕으로 추천과 같은 구조화된 데이터를 분석하는 애플리케이션들에 활용되고 있다. 하지만, 입력 데이터가 그래프 구조의 서로 관계를 형성하는 수 많은 데이터로 구성되어 있다는 특징으로 인해 다른 일반적인 뉴럴 네트워크 모델들을 위해 설계된 시스템들을 이용할 시 여러 가지 어려움을 겪는다. 먼저, 관계를 구성하는 많은 데이터들이 모델 입력에 포함되기 때문에 네트워크 구조가 비교적 단순함에도 불구하고 입력 데이터의 크기가 큰 경향이 있다. 이로 인해 발생하는 성능 문제로, 입력 데이터를 GPU와 같은 AI 연산 가속기로 전송하는 시간이 가속기의 모델 연산 시간보다 길어져 모델 학습 및 추론 속도가 제한되는 경우가 많다. 또한 개인 정보 보호 측면에서도 문제가 된다. 추천 시스템용 그래프 뉴럴 네트워크는 추천 대상자의 개인 데이터뿐만 아니라 관련된 다른 관련 주체들의 데이터도 사용하는데, 이들 모두의 프라이버시를 보호할 수 있는 접근 방식이 아직 존재하지 않는다. 본 연구는 고성능 그래프 뉴럴 네트워크 모델 연산을 위해 GPU와 CPU를 함께 활용하여 모델의 특정 단계의 연산을 적절히 나누어 수행하여, 입력데이터 전송 소요 시간을 대폭 단축하고 서버의 모든 자원을 효율적으로 활용하는 시스템을 제안한다. 또한 다수의 사용자의 프라이버시를 동시에 보호하기 위한 암호화 프로토콜 기반의 개인 정보 보호 모델 추론 시스템과 그 효율화 방법을 제안한다.
