Recently, researches based on deep neural network have been increasing in data analytics platforms to address various problems caused by inaccurate prediction of conventional data analysis algorithm used to provide from missing data interpolation to artificial intelligence services. In particular, the data analysis platform used in smart grid is important for AMI data management to provide data collection and power services. The computing platform that analyzes AMI data handles the vast amount of time series data whose data characteristics change in real time, with conventional offline deep learning methods having problems requiring a lot of computing resources. Therefore, the strategies of gradually learning a deep neural network through the incremental learning method was proposed. However, learning performance improvements are needed in an environment where the biased distribution fluctuates according to different power consumption habits because incremental learning methods are only effective when data features do not significantly change.
In this thesis, we proposed a hybrid deep learning scheduling algorithm to improve and accelerate learning performance in the multi-AMI environment, which biased data feature varies dramatically. By analyzing the frequency distribution of cosine similarity, a model recognizes the biased data feature of power consumption patterns. Using the zero skewness property of an uniform distribution, skewed data distribution is reduced and the diversity of experience buffer was increased with update strategy maximizing variance of pattern. When scheduling an online and offline gradient in different computational complexity, the proposed model reduces processing time by selectively calculating gradient considering the degree of data feature transition. To verify the performance of the proposed algorithm, we conducted three experiments on the proposed method and the existing method of continual learning. When comparing average predictive errors for the distribution of entire test data, the accuracy performance of proposed scheme was higher than the incremental learning method and similar to the traditional continual learning. A performance comparison of training time showed 43% to 47% faster processing time than conventional continual learning methods with gradient regularization.
최근, 데이터 분석 플랫폼에서는 결측 데이터 보간부터 인공지능 기반 지능형 서비스까지 제공하기 위해 사용하는 데이터 분석 기법의 부정확한 예측으로 인해 발생하는 여러가지 문제점을 해결하기 위하여 딥 러닝 기법 연구가 활발하게 진행되고 있다. 특히, 스마트 그리드에서 사용하고 있는 데이터 분석 플랫폼은 전력 데이터 수집 및 전력 서비스를 제공하기 위해 AMI 데이터 관리가 매우 중요하다. AMI 데이터를 분석하는 컴퓨팅 플랫폼은 실시간으로 데이터 특성이 변하는 막대한 양의 시계열 데이터을 처리하는데, 기존의 오프라인 딥 러닝 방법은 많은 컴퓨팅 자원이 요구되는 문제점이 있다. 오프라인 딥 러닝 개선을 위한 증분 학습 방법이 제안되었다. 그러나 증분 학습 방법은 데이터의 통계적 특성이 크게 변하지 않을 경우에 효과적인 학습 방법이기 때문에 통계적 특성이 편향된 데이터를 처리할 때는 데이터 분포도가 변화하는 환경을 고려한 학습 성능 개선이 필요하다.
본 학위논문에서는 편향된 데이터의 분포도가 많이 변화하는 멀티 AMI 사용자 환경에서 학습 성능을 높이고 가속 처리하기 위해 하이브리드 딥 러닝 스케줄링 알고리즘을 제안했다. 중요한 접근 방식으로 코사인 유사성 기반 도수 분포도를 분석하여 데이터 패턴의 편향된 분포의 프로파일링 단계을 제안한다. 균등 분포도를 이용하여 편향성을 줄이고 선택적 메모리 버퍼 업데이트 전략으로 메모리 버퍼의 다양성을 증가시켰다. 또한 계산 복잡도 차이가 있는 온라인과 오프라인 딥 러닝 처리 시 파라미터의 그라디언트 연산을 스케줄링할 때, 연속적으로 들어오는 데이터 스트림의 서로 다른 분포를 고려하여 선택적으로 그라디언트를 계산함으로써 처리 시간을 단축시키는 모델을 제안했다. 제안된 알고리즘의 성능을 검증하기 위해, 기존의 지속적인 학습 방법과 비교 실험을 수행했다. 전체 테스트 데이터의 분포도에 대한 평균 예측 에러에 대한 성능 비교시 정확도 성능은 증분 학습 방법보다 높은 예측 정확도와 기존의 지속적인 학습 기법과 비슷한 정확도 성능을 보였다. 전체 훈련 시간 성능 비교했을 때, 기존 파라미터 그라디언트 정규화 기반 지속적인 학습 기법보다 43% ~ 47% 정도 빠른 처리 성능을 보였다.
