Adverse drug reactions (ADR) refers to the unintended reaction occurring after normal intake of a drug which has harmful effect on a patient’s health and is suspected to have a causal relationship with the drug. ADR has been regarded as one of the major challenges in the modern medical community, not only causing patients to experience serious side effects, but also inducing extra time and expense required for additional treatment. The establishment of big data sources in the clinical field and the advent of deep learning have sparked the development of various health care models which predict patients’ diseases, including ADR with electronic health records (EHR). In recent years, in the healthcare field, studies to overcome the limitations of EHR and improve the performance of predictive model by creating EHR based federate learning model which combines various formats of data have actively been conducted. In this study, we present a new deep learning model using a representative natural language pre-training model, BERT (bidirectional encoder representations from transformers) to comprehensively grasp the medical data of individual patient described in the common data model (CDM) and molecular characteristics of drugs in the prescription record and predict their ultimate impact on the ADR occurrence. Since ADR is caused by a unique combination of individual biological properties, medical conditions, and drugs, the model developed in this study can have a great strength in that it comprehensively considers ADR-related variables using the attention mechanism in the transformer module. Moreover, we introduced a temporal embedding technique to consider the temporal characteristics of EHR and its corresponding correlation with ADR. In this study, we aimed to construct the deep learning model that more accurately predicts ADR, a significant problem in the modern clinical field, by learning CDM-based individual patient medical data (medical description and time records) and molecular features of drugs. In addition, since our model was constructed based on the pre-training model, it will have high utility for multiple hospitals or drug research after combined with a larger amount of CDM data and more diverse drug molecular information.
약물 이상 반응 (Adverse Drug reaction, ADR)은 약물의 정상 복용 이후 발생한 의도하지 않은 반응 중 환자의 건강에 유해한 영향을 미치고 해당 약물과의 인과 관계가 의심되는 경우를 의미한다. ADR은 발생 환자가 심각한 부작용을 겪게 할 뿐 아니라, 추가적인 치료에 필요한 시간과 비용을 유발하여 현대 의료계에서 주요한 과제 중 하나로 여겨진다. 의료 분야 빅 데이터의 구축과 딥 러닝의 등장은 전자 의료 기록 (electronic health record, EHR)을 이용하여 ADR을 비롯한 환자의 질병을 예측하는 다양한 헬스케어 모델의 발전을 촉발하였다. 최근 몇 년간 헬스케어 분야에서는 다양한 형태의 데이터를 포함하는 EHR 기반 연합 학습 모델을 생성하여 예측 모델의 성능을 향상시키기 위한 연구가 활발히 이루어지고 있다. 본 연구에서는 대표적인 자연어 사전학습 모델인 BERT (bidirectional encoder representations from transformers)를 사용하여 공통 데이터 모델 (common data model, CDM) 내 기술된 개인환자의 의료 데이터와 처방 기록 내 약물들의 분자적 특성을 총체적으로 파악하여, 이들이 궁극적으로 ADR 발생에 미치는 영향을 예측하는 새로운 딥 러닝 모델을 제시한다. ADR은 개인의 생물학적 특성 및 의료 상태와 약물 간의 독특한 조합에 의해서 일어나기에, 본 학위연구에서 개발된 모델은 ADR 관련 변수들을 transformer 모듈 내 attention 메커니즘을 이용하여 총체적으로 고려했다는 점이 큰 강점이 될 수 있다. 또한 EHR이 가지는 시간적 특성과 그에 따른 ADR과의 상관관계를 고려하기 위해 시간적 임베딩 (temporal embedding) 기법을 도입하였다. 본 연구는 CDM 기반 개인환자 의료 데이터 (의료 기술 내용 및 시간 기록) 및 약물의 분자적 특성 등을 학습하여 현대 의료계에 중요한 문제로 있는 ADR에 대한 정밀한 예측을 할 수 있는 딥 러닝 모델 생성을 목표로 하였다. 또한 우리의 모델은 사전 학습 모델을 기반으로 구축되어 더 많은 양의 관련 CDM 데이터와 더 다양한 약물 분자 정보를 결합하여 여러 병원 및 약물 연구에 높은 효용성을 가질 것이다.
