Bayesian federated learning (FL) offers a principled framework for the definition of collaborative training algorithms that are able to quantify epistemic uncertainty and to produce trustworthy decisions. Upon the completion of collaborative training, an agent may decide to exercise her legal ``right to be forgotten'', which calls for her contribution to the jointly trained model to be deleted and discarded. This paper studies FL and unlearning in a decentralized network within a Bayesian framework. It specifically develops federated variational inference solutions based on the decentralized solution of local free energy minimization problems within exponential-family models and on local gossip-driven communication.
Then, this paper proposes to leverage the flexibility of non-parametric Bayesian approximate inference to develop a novel Bayesian federated unlearning method, referred to as \emph{Forget-Stein Variational Gradient Descent (Forget-SVGD)}. Variational \emph{particle-based} Bayesian learning methods have the advantage of not being limited by the bias affecting more conventional parametric techniques. Upon the completion of FL, Forget-SVGD carries out local SVGD updates at the agents whose data need to be ``unlearned''. The proposed method is validated via performance comparisons with non-parametric schemes that train from scratch by excluding data to be forgotten, as well as with existing parametric Bayesian unlearning methods.
Finally, conventional frequentist FL schemes are known to yield overconfident decisions. Bayesian FL addresses this issue by allowing agents to process and exchange uncertainty information encoded in distributions over the model parameters. However, this comes at the cost of a larger per-iteration communication overhead. This paper investigates whether Bayesian FL can still provide advantages in terms of calibration when constraining communication bandwidth. We present compressed particle-based Bayesian FL protocols for FL and federated ``unlearning" that apply quantization and sparsification across multiple particles. The experimental results confirm that the benefits of Bayesian FL are robust to bandwidth constraints.
본 논문에서는 분산 네트워크에서 베이지안 연합학습 및 비학습을 위한 알고리즘을 제안 및 연구한다. 베이지안 학습방법은 기존 비베이지안 또는 빈도주의적 학습 방법에 비해 불확실성을 더 정확하게 정량화할 수 있는데 그 장점이 있으며, 이를 통해 신뢰도 높은 결정을 내릴 수 있게 도와준다. 다음으로 비학습이란 학습과는 반대되는 개념으로, 학습이 완료되고 난후 학습에 참여한 에이전트의 요청에 의해 데이터셋을 지울 때, 단순히 데이터셋 뿐만 아니라 학습된 모델에서 해당 데이터셋이 기여한 부분 까지도 지우는 것을 의미한다. 본 논문에서는 먼저 분산 네트워크, 특히 서버가 존재하지 않는 분산네트워크에서의 베이지안 연합 학습 및 비학습에 대해서 연구한다. 랜덤 워크 프로토콜에 기반하여, 일반적으로 베이지안 학습에서 주로 쓰이는 지수족 분포를 활용한 연합 변분 추론 솔루션을 제안한다. 나아가, 제안된 프로토콜의 특성을 활용해 효율적인 비학습 방법을 제안한다.
다음으로, 위의 매개변수 기반의 비학습 방법의 단점을 보완하기위해, 임의의 분포에 대해서도 사후분포 추정이 가능한 스타인 변분 경사 하강법기반의 비학습을 제안한다. 스타인 변분 경사 하강법의 경우 파티클이라는 모델 샘플들을 통해 사후분포를 추정하는 특징이 있으며, 연합 학습이 완료된 후 학습에 참여한 에이전트가 자신의 데이터에 대한 비학습을 요청하면, 요청한 에이전트로 업데이트 된 파티클들을 보내 에이전트 내에서 변분 경사 하강법으로 비학습 업데이트를 수행한다. 데이터셋을 통해 제안한 방법을 기존의 매개변수 기반 베이지안 비학습방법과 비교하였으며, 나아가 비학습할 데이터를 제외한 나머지를 처음부터 다시 학습하는 방법과 성능 비교를 통해 그 효율성을 검증했다.
마지막으로, 기존의 빈도주의적 연합학습 방식은 불확실한 데이터에 대해 지나치게 확신에 찬 결정을 내리는 문제 있는 반면, 베이지안 연합학습의 경우 사후분포 기반의 추정을 통해 이러한 문제를 해결한다고 알려져있다. 그러나 하나의 모델이 아닌, 모델의 분포 또는 다수의 샘플들을 교환하기 때문에 기존 빈도주의적 연합학습방식에 비해 더 많은 통신 오버헤드를 필요로 하게 된다. 본 논문에서는 베이지안 연합학습이 무선 통신 환경과 같이 제한된 통신 대역폭이 가정되었을 때도 여전히 위와 같은 이점을 제공할 수 있는지에 대해 연구하였으며, 이를 위해 베이지안 연합 학습을 위한 새로운 형태의 다중 파티클 압축 방법에 대해 소개하였다. 제안된 방법을 통해 베이지안 연합학습의 이점이 통신 대역폭의 제한이 있는 상황에서도 여전히 유효함을 확인할 수 있다.
