The collaborative machine learning technique known as Federated Learning (FL) has been the subject of active research, allowing multiple devices to learn together. Recent research has focused on model-heterogeneous FL, which aims to address the computational differences between participating devices. However, these studies have assumed an ideal communication channel without noise, which is not reflective of real-world wireless communication environments. This paper presents an evaluation of the performance of benchmark algorithms FjORD and HeteroFL in a wireless communication environment. Additionally, we propose a more communication-efficient algorithm, W-FjORD, for model-heterogeneous FL. Numerical results indicate that the proposed scheme significantly improves performance compared
to benchmark schemes.
여러 대상이 협력하여 기계학습을 진행하는 연합 학습은 활발하게 진행되고 있는 연구 분야이다. 최근에 연합 학습에 참여하는 기기들의 계산 능력이 다른 문제를 해결하기 위한 모델-이질적인 연합학습이 집중적으로 다루어 지고 있다. 하지만, 기존의 연구들은 노이즈가 없는 이상적인 통신 채널을 가정했으며, 이는 현실적인 무선 통신 환경을 반영하지 못한다. 본 논문은 기존 벤치마크 알고리즘들인 FjORD와 HeteroFL을 무선 통신 환경에 적용할 때의 성능을 분석한다. 또한, 우리는 통신 환경에서 더욱 효율적인 모델-이질적인 연합학습 알고리즘 W-FjORD를 제시하였다. 수치적인 결과를 통해 제시된 방식이 벤치마크 알고리즘들에 비해 성능을 크게 향상시킨다는 것을 검증하였다.
