Open-Domain Dialogue (ODD) systems present unique challenges in generating engaging conversations such as contextual understanding and generating engaging and natural responses. With the recent remarkable progress of Large Language Models (LLM), we aim to enhance smaller dialogue models by extracting emotion knowledge from LLMs. We introduce the concept of Emotion-aware Memory (EM), which acts as a repository to store key emotional features extracted from LLMs. By leveraging EM during the response decoding stage, we aim to generate emotionally-enriched responses. We experiment and achieve state-of-the-art performance on DailyDialog and EmpatheticDialogues datasets. This research contributes to emotionally-aware dialogue systems and paves the way for more engaging conversational agents.
오픈 도메인 대화 시스템은 자연스러운 대화를 하기 위해 상황 이해와 공감되는 응답 생성과 같은 어려움을 겪는다. 최근, 대규모 언어 모델은 대화 생성 등 다양한 자연어 처리 태스크에서 놀라운 발전을 이루었다. 따라서, 본 논문에서는 대규모 언어 모델이 갖고 있는 감정 지식을 추출하여 작은 대화 모델을 향상시키는 것을 목표로 한다. 우리는 대규모 언어 모델에서 추출한 주요 감정 특징을 감정 메모리에 저장한다. 응답 생성 단계에서 감정 메모리를 활용하여 감정적으로 풍부한 응답 생성하는 것을 목표로 한다. 제안된 방법으로 두 대화 데이터셋에서 실험하여 감정 메모리가 감정 기반 응답 생성에 기여하는지 검증한다.
