Recent studies have reported that deep learning techniques could achieve high performance in medical image analysis. However, there is a limitation in interpreting the diagnostic decisions of deep learning due to the black-box nature. To increase confidence in the decisions of deep learning and the usability in real-world deployments, it is required to develop a new interpretable deep network. In this study, a novel deep network, named interpretationlet network, has been devised to visually interpret the diagnostic decisions of computer-aided diagnosis (CAD). The proposed method could make a diagnostic decision by indicating the important areas on the region-of-interest (ROI) image. Based on the observation that the radiologists usually make a diagnostic decision using the lesion characteristics (i.e. margin and shape in breast masses), the proposed method decomposes the visual interpretation into a margin interpretationlet and a shape interpretationlet. In order to guide the interpretationlet to represent meaningful information, the training method is proposed by using the BI-RADS (Breast Imaging-Reporting and Data system) mass lexicon is used. To verify the effectiveness of the proposed method, comparative experiments have been conducted on a public mammogram database. Experimental results show that the proposed method could provide the interpretable visual evidence in the deep network. The proposed interpretationlet network achieved comparable diagnostic performance compared with the other methods. These results imply that the proposed interpretationlet network could be a promising approach to develop the explainable CAD.
딥러닝 (심층학습) 기술이 의료 영상 분석에서도 높은 성능을 얻을 수 있다는 연구 결과가 최근 발표되고 있다. 그러나 딥러닝의 블랙 박스 특성으로 인해 현재 기술로는 딥 네트워크로부터 얻은 진단의 근거를 해석하는 데는 한계가 있다. 실제 의료 진단분야에서 딥러닝 기반 컴퓨터 지원 진단 기술에 대한 신뢰를 높이려면 해석 가능한 새로운 딥 네트워크 기술을 개발해야한다. 이 연구에서는 컴퓨터 지원 진단의 진단 결정을 시각적으로 해석하기 위해 병변 어휘 가이드 딥 네트워크가 새롭게 고안되었다. 제안된 방법은 관심 영역 (region of interest) 이미지에서 딥 네트워크의 진단 결정에 중요한 영역을 표시함으로써 딥 네트워크의 진단 결정에 대한 근거를 제공할 수 있다. 방사선 전문의가 실제 병변 진단 시 병변의 특성 (마진 및 모양: margin and shape)을 근거로 진단 결정을 내리는 관찰에 기반하여, 제안하는 방법은 시각적 해석을 마진 해석 및 모양 해석으로 나누어 제공한다. 제안하는 딥 네트워크를 효과적으로 학습하기 위하여 병변 특성을 기록하기 위해 표준으로 정의된 의사의 병변 어휘로 딥 네트워크를 가이드하는 방법을 제한한다. 제안된 방법의 유효성을 검증하기 위해 공인 마모그램 데이터베이스에서 다양한 실험이 수행되었다. 실험 결과는 제안된 방법이 딥 네트워크의 진단에 대해 해석 가능한 시각적 정보를 제공할 수 있음을 보여준다. 또한 제안된 딥 네트워크는 다른 방법들과 비교하여 높은 진단 성능을 달성했다. 이러한 결과는 제안하는 딥 네트워크 방법이 설명 가능한 컴퓨터 지원 진단 기술을 개발하기 위한 유망한 접근 방법이 될 수 있음을 나타낸다.
