서지주요정보
Ensemble strategies for efficient deep learning of image denoising and improving sequential Monte Carlo methods = 영상 잡음 제거의 효율적 심층 학습과 순차 몬테 칼로법 향상을 위한 앙상블 기법
서명 / 저자 Ensemble strategies for efficient deep learning of image denoising and improving sequential Monte Carlo methods = 영상 잡음 제거의 효율적 심층 학습과 순차 몬테 칼로법 향상을 위한 앙상블 기법 / Inpyo Hong.
발행사항 [대전 : 한국과학기술원, 2020].
Online Access 원문보기 원문인쇄

소장정보

등록번호

8036356

소장위치/청구기호

학술문화관(도서관)2층 패컬티라운지(학위논문)

DCS 20018

휴대폰 전송

도서상태

이용가능

대출가능

반납예정일

리뷰정보

초록정보

In this thesis, we address two important estimation frameworks, sequential Monte Carlo and deep neural networks for the problem of recursive Bayesian estimation and natural image denoising, and propose ensemble strategies for improving their estimation efficiency. For sequential Monte Carlo, its previous resampling schemes have two drawbacks. First, they remove so many samples that ensemble diversity becomes reduced. Second, they lose so large weight information that approximation error becomes significant. As a result, sequential Monte Carlo methods suffer from low sampling efficiency. Hence, we introduce a novel resampling scheme designed to overcome the two drawbacks. Our proposed scheme employs a deterministic approach to decrease the number of removed samples and keeps weights such that the loss of weight information is minimized. By doing so, our scheme increases the diversity of samples and approximation performance, and so, improves the sampling efficiency of the methods. We will show these results through two recursive Bayesian estimation examples. For deep neural networks, we propose a novel ensemble strategy of exploiting multiple deep neural networks for efficient deep learning of image denoising. To learn the high diversity of natural image patches and noise distributions in image denoising, we divide the denoising task into several local subtasks according to the complexity of image patches and conquer each subtask using a network trained on its local space. We then combine the local subtasks at test time by applying the set of networks to each noisy patch as a weighted mixture. Our methodology of using locally-learned networks based on patch complexity effectively decreases the diversity of image patches at each single network, and their adaptively-weighted mixture to the input combines the local subtasks efficiently. Extensive experimental results demonstrate that our strategy outperforms previous methods with much smaller training samples and trainable parameters, and so, improves the learning efficiency.

본 학위 논문은 재귀 베이지안 추정을 위한 순차 몬테 칼로법과 영상의 잡음 제거를 위한 심층 신경망에 대해서 다루며 그들의 추정 효율을 높이기 위한 앙상블 기법들을 제안한다. 순차 몬테 칼로법에서는 기존의 표본 재추출 기법들이 너무 많은 표본들과 가중치 정보를 제거함으로써 앙상블의 다양성이 감소되고 근사화 에러가 증가되는 문제를 다룬다. 이는 표본 효율이 낮음을 의미하는데 이를 해결하기 위해 결정론 기반의 표본 재추출 기법을 제안하여 제거되는 표본들의 수를 제한하고 가중치 정보의 손실을 최소화한다. 그 결과로 표본들의 다양성과 근사화 성능이 증가하고 표본 효율성이 향상됨을 재귀 베이지안 추정 문제를 통하여 확인한다. 심층 신경망에서는 여러 개의 심층 신경망을 이용하여 영상의 잡음 제거 문제에서 영상 패치들과 잡음 분포의 높은 다양성을 효율적으로 심층 학습하는 방법을 제안한다. 구체적으로, 잡음 제거 문제를 영상 패치들의 복잡도에 따라 여러 개의 작은 국소 문제들로 분할하고 각 문제마다 그 국소 범위에서 심층 신경망을 심층 학습한다. 그렇게 학습된 여러 개의 국소 심층 신경망들은 추론 시점에 가중치 혼합 방식으로 결과가 합쳐진다. 다양한 실험 결과는 제안한 기법이 기존 기법들 대비 학습 효율성이 향상되어 훨씬 적은 학습 데이터와 파라미터로 더 좋은 성능을 냄을 확인한다.

서지기타정보

서지기타정보
청구기호 {DCS 20018
형태사항 v, 73 p. : 삽도 ; 30 cm
언어 영어
일반주기 저자명의 한글표기 : 홍인표
지도교수의 영문표기 : Daeyoung Kim
지도교수의 한글표기 : 김대영
수록잡지명 : "Efficient Deep Learning of Image Denoising using Patch Complexity Local Divide and Deep Conquer". Pattern Recognition, v.96, (2019)
수록잡지명 : "Restrained Resampling for Sequential Monte Carlo Methods". IASTED International Conference on Signal and Image Processing, (2012)
Including Appendix
학위논문 학위논문(박사) - 한국과학기술원 : 전산학부,
서지주기 References : p. 69-73
주제 Sequential Monte Carlo
Resampling
Recursive Bayesian Estimation
Autoencoders
Deep Neural Networks
Local Experts
Image Denoising
Patch Complexity
Ensemble Selection
Efficiency
순차 몬테 칼로법
표본 재추출
재귀 베이지안 추정
오토인코더
심층 신경망
국소 심층 학습
영상 잡음 제거
영상 패치 복잡도
앙상블 선택
효율성
QR CODE qr code