Understanding the semantic meaning behind animal behavior remains a significant challenge in behavioral neuroscience. This study introduces Behavert, a large language model adapted to decipher and predict the semantic meaning of mouse actions. By leveraging the bidirectional capabilities of BERT, originally designed for natural language processing, we tokenize behavior data of mice and train the model to recognize and predict behavioral patterns. Our approach considers motion akin to syllable variation in language, where sequential changes in posture and rapid shifts in movement pose significant cognitive challenges in processing dynamic motion sequences. By incorporating temporal information through positional encoding, Behavert effectively processes these sequences, akin to interpreting a complex language. This study harnesses the analytic power of large language models to decode the information embedded within these movements. Behavert demonstrates an ability to not only accurately identify established behavioral patterns, including intricate social interactions, but also to predict future behavioral phenotypes, particularly regarding stress susceptibility. This dual capability allows Behavert to reveal structured, language-like formats in mouse behavior, bridging the gap between observing immediate actions and forecasting long-term behavioral trends. This novel adaptation of the BERT architecture to behavioral data highlights the potential of large language model frameworks to bridge the gap between artificial intelligence and behavioral neuroscience. Our findings pave the way for more intuitive and robust analyses of complex biological behaviors, advancing the understanding of animal communication through the lens of language model technology.
동물 행동의 의미를 이해하는 것은 행동 신경과학에서 큰 도전입니다. 이 연구에서는 마우스 행동의 의미를 해독하고 예측할 수 있는 언어 모델인 Behavert를 소개합니다. 자연어 처리용으로 설계된 BERT의 양방향 기능을 활용하여 마우스 행동 데이터를 토큰화하고, 위치 인코딩을 통해 시간 정보를 통합함으로써, Behavert는 동적인 움직임 시퀀스를 효과적으로 처리합니다. 이 모델은 복잡한 사회적 상호작용을 포함한 행동 패턴을 정확하게 식별하고, 특히 스트레스 취약성과 관련된 미래의 행동 형태를 예측합니다. 이러한 능력은 마우스 행동에서 언어와 같은 구조를 밝혀내며, 즉각적인 행동 관찰과 장기적인 행동 추세 예측 사이의 간극을 메우는 새로운 접근 방식을 제시합니다. BERT 아키텍처를 행동 데이터에 적용한 이 연구는 인공지능과 행동 신경과학을 연결하는 대형 언어 모델의 잠재력을 강조하며, 복잡한 생물학적 행동의 분석과 이해를 진전시킵니다.
