Recently, machine learning approaches have emerged in many applications, such as autonomous driving, text recognition, and language processing, from their flexibility in data processing despite the data acquired from various formats. Thus, materials researchers pay attention to machine learning methodology to solve many conundrums behind complex knowledge and intuitions. However, measurements in many scientific areas usually generate a small-sized and sparse dataset that is difficult to be regarded as big data, which is a common requirement for machine learning applications. In order to facilitate machine learning techniques on materials subjects, understanding how to identify and process in the form of machine-understandable style is essential.
In this study, we conduct segmentation of Al-Zn alloy solidification images using X-ray computed tomography separating dendrite and liquidus phase using SegNet architecture trained on the synthetically generated phase-field training dataset. Image modifications were applied to imitate statistical metrics of the target image to prepare the training images, and the influences of each modification were inspected using accuracy, intersection over union, and boundary F1 score. In addition, the optimal number of training images for SegNet architecture was verified through quantitative metrics and visual aspects of segmentations. The best network trained on synthetic datasets showed comparable scores to those trained on manually segmented images. Afterwards, we expanded the model into 3D from 2D to transfer more context along the z-direction. The best 3D network segmented the dataset with less jittering in the vertical section.
Secondly, we utilize machine learning to predict the electrochemical property, which includes composition and cycled states, of Ni-Co-Mn oxide cathode materials based on images from scanning electron microscopy (SEM). Physical parameters, including primary particle size, packing density, and secondary particle size, were considered by training the EfficientNet-b7 architecture. Classification of SEM images was preceded to verify that the convolutional neural network understands the correlation between morphologies in the image and electrochemical states, including composition and cycling state. The best model classified the composition and cycled state with 99.8% accuracy, indicating that the machine learning methods can be applied to material image datasets. In order to compare the performance of the model, we surveyed domain experts with an average of 30.0% accuracy, which equals one-third of the machine learning approach. Moreover, we conducted a grad-class activation map technique to visualize the model's decision-making process. The boundary of the secondary particles positively affects the prediction results, while the body of particles and void negatively affect the prediction. Thus, the model utilizes the boundary information to infer the composition and cycling states likewise domain experts. Furthermore, the best model expanded to SEM images of electrode materials with additives. The compositional accuracy was 96.0%, implying that we can expand our methods to embrace other electrode materials for fast analysis.
Lastly, we applied machine learning methodology on atomic force microscopy, especially ferroelectric domain behavior, using Piezoresponse force microscopy and Polarization-derived friction microscopy. In order to visualize the domain evolution, we need high-speed imaging of ferroelectric domain configuration through friction force derived by polarization. Various correction methods for friction force microscopy images were applied to have high-quality images. Afterwards, super-resolution using a convolutional network named SRCNN was done. The model upscaled the image with the noise if the low-resolution images contained friction noises. In order to remove the noise and increase the quality of friction images, we applied style transfer using cyclic generative adversarial models. The friction and phase images from piezoresponse force microscopy are used to define the style. The generative model understands the specific descriptors of friction and phase images converting friction images to high-quality phase images. Thus, we can build a post-processing model to visualize the ferroelectric domain without noise if we have sufficient training data. With machine learning-assisted friction imaging, we can overcome the scanning limit of piezoresponse force microscopy that utilizes a lock-in-amplifier to calculate the signals into amplitude and phase based on input electrical signals.
Various materials datasets are used for analysis to correlate the property and structures using adequate pre- and post-processing followed by machine learning approaches. Specifically, separating the meaningful information from acquired images having complicated features using machine learning can be done to secure the relationship between structure and properties. Furthermore, we can directly find the interconnection between the structure and properties faster. By applying machine learning methodology to materials discovery, we expect that we can efficiently search and evaluate new materials.
최근 기계 학습의 데이터 처리 유연성을 바탕으로 자율주행, 문자 인식, 언어 처리 등의 다양한 영역에서 기계 학습이 활발히 이용되고 있으며, 다양한 배경 지식을 요하고 긴 시간 연구가 필요한 재료 과학의 난제 해결을 위한 방법으로 주목 받고 있다. 하지만, 재료 과학 영역에서 생성되는 재료 데이터는 보통 작은 크기를 갖고, 다양한 형식으로 존재하기 때문에 일반적으로 기계 학습에 응용되는 빅 데이터의 형태로 구성하기 어렵다. 따라서 기계 학습을 재료 과학 분야에 응용하기 위해서는 생성되는 데이터를 식별하고 인공지능 훈련에 적절한 형태로 가공하는 과정이 필수적이다.
본 연구에서는 알루미늄-주석 합금 응고 실험의 X-ray 컴퓨터 단층 촬영 이미지에서 고체 상과 액체 상을 합성 곱 신경망의 한 종류인 SegNet을 phase-field 시뮬레이션 이미지에 훈련시켜 상 분리하고자 한다. 훈련 데이터를 준비하기 위하여, 목표하는 이미지를 통계적으로 분석하여 생성된 시뮬레이션 이미지에 다양한 변형을 가하여 데이터를 준비하였으며, 각 변형에 대하여 픽셀 정확도, Intersection over Union, 경계 F1 점수를 바탕으로 각 변형이 모델의 성능에 미치는 영향력을 평가하였다. 또한, 다양한 훈련 이미지 수를 포함하는 훈련 및 정량적/정성적 평가를 통하여 최적의 훈련 이미지 수를 확인하였다. 최적의 성능을 갖는 신경망은 손으로 직접 만든 훈련데이터를 기반으로 학습한 신경망과 비슷한 성능을 보였다.
두 번째로, 주사 전자 현미경을 이용하여 Ni-Co-Mn 양극 재료의 형상을 확보하고, 이를 바탕으로 재료의 전기화학적 물성을 예측하였다. 1차 입자의 크기, 입자 집적도 및 2차 입자의 크기 등의 물리적 정보를 EfficientNet-b7 구조를 갖는 합성 곱 신경망을 통해 훈련하고 조성과 전지의 사이클 상태와의 상관 관계를 분석하였다. 주사 전자 현미경 이미지 바탕으로 물질의 조성 및 화학 반응의 단계를 99.8%의 정확도로 분류함으로써 구조적 형상과 전기화학적 물성의 상관 관계 분석에 기계 학습 적용 가능성을 확인했다. 또한, 전지 분야 전문가들에게 동일하게 이미지를 바탕으로 양극 재료의 조성 및 반응 단계를 추측하도록 설문한 결과, 평균적으로 30.0%의 정확도를 보여주며 이는 기계학습 방법론 정확도의 1/3 정도에 해당하는 정확도이다. 기계 학습을 바탕으로 하는 방법론의 확장성을 확인하기 위하여 양극 재료에 첨가제가 포함된 이미지를 바탕으로 물질의 조성을 예측한 결과, 96.0%의 정확도로 조성 예측에 성공하였다. 학습된 모델의 의사결정 과정을 확인하기 위하여 네트워크 시각화 방법인 Grad-Class Activation Map을 기반하여, 각각의 이미지에 대하여 예측에 영향을 미치는 영역을 확인할 수 있었다. 이미지의 입자 경계면을 통해 양의 상관관계를 이루고 있으며, 입자 내부 혹은 배경 영역에서 음의 상관관계를 보임을 확인할 수 있다. 모델 시각화를 통하여, 전문가들과 비슷한 영역에서 이미지의 조성 및 사이클 상태를 추측한다는 사실을 확인할 수 있다. 따라서, 이를 바탕으로 확장한다면 다양한 물질을 빠르게 분석하기 위한 방법론으로 기계 학습 방법론이 사용될 수 있음을 확인할 수 있다.
마지막으로, 주사 탐침 현미경, 특히 압전 감응 힘 현미경 및 강유전기반 마찰 현미경에 기계 학습을 이용하여 결과 이미지를 분석하고, 강유전체의 도메인 거동을 시각화 하였다. 도메인이 성장하는 과정을 확인하기 위하여 고속 이미징이 필수적인데, 재료의 강유전성에 의해 다르게 발현되는 팁과 시료 표면의 물리적 반응을 기록하는 마찰 기반 현미경을 바탕으로 고속으로 시각화 할 수 있다. 이 과정에서 발생하는 신호의 왜곡을 보정하고, 합성 곱 신경망의 일종인 SRCNN을 활용하여 데이터를 더 높은 해상도로 변환하는 업 스케일링이 수행되었다. 하지만, 기존에 존재하는 잡음이 동시에 초해상도로 변환되는 문제가 발생하였으며, 이를 해결하기 위하여 적대적 생성 신경망을 바탕으로 하는 마찰 현미경과 압전 감응 힘 현미경의 위상 이미지 사이의 스타일 트랜스퍼를 통하여 고품질의 강유전 도메인 이미지를 확보할 수 있다. 이를 바탕으로 충분히 많은 데이터를 기반하면, 강유전 도메인을 빠르게 시각화 할 수 있는 후처리 모델을 구축할 수 있다는 것을 확인할 수 있으며, 이 과정을 통하여 압전 감응 힘 현미경의 한계를 극복하고 실시간 수준의 도메인 성장을 확인할 수 있을 것으로 기대된다.
이와 같이 다양한 재료에서 얻어지는 데이터를 적절한 전 처리 및 후 처리를 바탕으로 기계학습을 기반하여 분석하고 활용하고자 한다. 기계학습의 강점을 활용하여 의미 있는 데이터를 빠르게 분석하고 이를 바탕으로 소재의 구조-물성 사이의 복잡한 상관관계를 확보하고자 한다. 이를 바탕으로, 측정된 이미지와 소재의 물성 사이의 연결성을 빠르게 분석할 수 있다. 이를 통해, 적은 데이터와 다양한 데이터의 특징을 갖는 소재 영역에서도 기계학습 및 인공지능을 통하여 효율적으로 신소재를 설계하고 평가할 수 있을 것으로 기대된다.
