Mobile cloud computing has become a widespread phenomenon owing to the rapid development and proliferation of mobile devices all over the globe. Furthermore, revolutionary mobile hardware technologies, such as 5G and IoT, have led to increased competition for mobile intelligence among tech-giants, such as Google, Apple, and Facebook, further leading to developments in the field of mobile cloud computing. However, several challenges still remain; above all, low reliability, limited communication, and inaccurate inference are commonly considered as the fundamental challenges by the highest portion of mobile cloud computing studies that involve primary topics such as task allocation and machine learning.
In this dissertation, we introduce three studies of paramount importance on mobile cloud computing that are related to the abovementioned two primary topics and address the three fundamental challenges: $\circled1$ mobile task allocation, $\circled2$ mobile image retrieval, and $\circled3$ hierarchical federated learning. From the perspective of mobile cloud type, those studies are further classified into local mobile cloud and federated mobile cloud. Local mobile cloud is a movable cloud based on a mobile ad-hoc network (MANET) that is dynamically established upon the agreement of nearby device users by using a device-to-device communication technology, whereas federated mobile cloud, an extension of the local mobile cloud, is a single global federation of multiple geo-distributed local mobile clouds.
For the local mobile cloud, we address the problems on $\circled1$ mobile task allocation and $\circled2$ mobile image retrieval. In the $\circled1$ mobile task allocation, we propose a novel task allocation cost, called TPS, as well as a novel mobile task allocation algorithm, called MTA. The primary objective of MTA is to improve job speed and reliability by considering network contention and mobility: contention awareness & mobility awareness. Based on the contention awareness principle, we aim to model contention-based communication delays in a mobile cloud and allocate tasks to nodes that can reduce the delay, consequently increasing job speed. In addition, based on the mobility awareness principle, we identify unreliable nodes with high mobility and then allocate tasks by giving priority to reliable nodes instead. In the $\circled2$ mobile image retrieval, we propose a novel framework of image retrieval based on mobile deep learning, called LetsPic-DL, which leverages a fine-tuning technique and several communication optimization techniques for improving accuracy and communication speed, respectively. In particular, the communication optimization techniques involve model cache, model quantization, and model combiner.
For the federated mobile cloud, we address $\circled3$ the hierarchical federated learning problem, for which we formally analyze a convergence bound of the hierarchical federated learning problem, derive IID (independent and identically distributed) grouping and adaptive communication principles for improving accuracy and communication speed, respectively, and propose a novel communication-aware hierarchical federated averaging algorithm, called CH-FedAvg. Based on the IID grouping principle, we group nodes to make the data distribution of a group closer to a global IID distribution. Based on the adaptive communication principle, we aim to reduce the overall communication duration by adaptively adjusting the frequencies of node-to-group communication and group-to-global communication.
The strength of this dissertation lies in a wide variety of topics and challenges inherent in mobile cloud computing. We believe that our study significantly enhances the quality of task allocation and machine learning in mobile cloud computing.
모바일 클라우드 컴퓨팅은 모바일 기기의 급속한 발달과 세계적인 확산에 힘입어 널리 사용되고 있다. 나아가 5G, IoT 등 혁신적인 모바일 하드웨어 기술은 구글, 애플, 페이스북 등 기술기업 간 모바일 인텔리전스 경쟁을 심화시켜 모바일 클라우드 컴퓨팅 분야의 발전을 이끌고 있다. 그러나 여전히 몇 가지 과제가 남아 있다. 무엇보다, 낮은 신뢰성(low reliability), 제한된 통신(limited communication), 부정확한 추론(inaccurate inference)은 대부분의 모바일 클라우드 컴퓨팅 연구에 의해 근본적인 과제로 간주된다. 그러한 연구들은 태스크 할당(task allocation) 및 기계 학습(machine learning)과 같은 주요 주제들에 기반한다.
본 학위논문에서는 위에서 언급한 두 가지 주요 주제와 관련되며 세 가지 근본적인 과제를 해결하는 모바일 클라우드 컴퓨팅의 가장 중요한 세 가지 연구를 소개한다: $\circled1$ 모바일 태스크 할당(mobile task allocation), $\circled2$ 모바일 이미지 검색(mobile image retrieval), $\circled3$ 계층적 연합학습(hierarchical federated learning). 모바일 클라우드 유형의 관점에서 이러한 연구들은 지역 모바일 클라우드(local mobile cloud)와 연합 모바일 클라우드(federated mobile cloud)로 세분화된다. 지역 모바일 클라우드는 장치 간 통신기술을 사용하여 인근 장치 사용자의 합의에 따라 동적으로 구축되는 모바일 애드혹 네트워크(MANET; mobile ad-hoc network) 기반의 이동 가능한 클라우드인 반면, 연합 모바일 클라우드는 지역 모바일 클라우드의 확장 개념으로써 세계적으로 분산된 다수의 지역 모바일 클라우드의 단일 연합이다.
지역 모바일 클라우드에서는 $\circled1$ 모바일 태스크 할당 문제 및 $\circled2$ 모바일 이미지 검색 문제를 해결한다. $\circled1$ 모바일 태스크 할당 연구에서는 새로운 태스크 할당 비용인 TPS와 MapReduce 작업의 속도와 안정성을 동시에 극대화하는 새로운 모바일 태스크 할당 알고리즘인 MTA를 제안한다. MTA의 주요 목표는 네트워크 경합과 이동성을 고려하여 작업 속도와 신뢰성을 향상시키는 것이다: 경합 인식(contention awareness) 및 이동성 인식(mobility awareness). 먼저, 경합 인식 원칙에 따라 모바일 클라우드의 경합 기반 통신 지연을 모델링하고, 지연을 줄일 수 있는 노드에 작업을 할당하여 결과적으로 작업 속도를 높이는 것을 목표로 한다. 그리고 이동성 인식 원칙에 따라 이동성이 높은 신뢰할 수 없는 노드를 식별한 다음 신뢰할 수 있는 노드에 우선순위를 부여하여 작업을 할당한다. 다음으로 $\circled2$ 모바일 이미지 검색 연구에서는, 새로운 모바일 딥러닝 기반 이미지 검색 프레임워크인 LetsPic-DL을 제안한다. 이 프레임워크는 정확성과 통신속도를 향상시키기 위해 미세조정 학습 및 통신 최적화 기법을 활용하며, 통신 최적화 기법은 모델 캐쉬(model cache), 모델 양자화(quantization), 모델 컴바이너(combiner)를 포함한다.
연합 모바일 클라우드에서는 $\circled3$ 계층적 연합학습 문제를 해결한다. 우선 우리는 계층적 연합학습 문제의 수렴 한계를 정형적으로 분석하고, 정확성과 통신속도를 향상시키기 위한 IID 그룹화(independent and identically distributed grouping) 및 적응형 통신(adaptive communication) 원칙을 도출하며, 통신을 고려하는 새로운 계층적 연합 평균 알고리즘인 CH-FedAvg를 제안한다. 먼저, IID 그룹화 원칙에 따라 노드를 그룹화하여 그룹의 데이터 분포를 글로벌 IID 분포에 가깝게 한다. 그리고 적응형 통신 원칙에 따라 노드 대 그룹 간 통신과 그룹 대 글로벌 통신의 빈도를 통신 비용에 기반해서 조정해, 전체적인 통신 시간을 단축하는 것을 목표로 한다.
이 논문의 강점은 모바일 클라우드 컴퓨팅에 내재된 다양한 주제와 과제를 다루는 데 있다. 우리는 우리의 연구가 모바일 클라우드 컴퓨팅의 작업 할당과 기계학습 품질을 크게 향상시킨다고 믿는다.
