How it works
連合学習の1ラウンド
ステップ 1 / 5
モデル配布
サーバーが現在のグローバルモデルを選ばれたクライアント群(スマホなど)に配る。
この配布→学習→集約→平均のサイクルを数百〜数千ラウンド繰り返し、モデルが収束するまで続ける。毎ラウンド別のクライアント群が選ばれる。
詳しい解説
データを動かさず、モデルを動かす
従来の機械学習はデータを一か所に集めて学習する。連合学習は逆に、モデルを各データの所在地へ送り、その場で学習させて更新だけを回収する。McMahan ら(2017)が提案した FedAvg が基本アルゴリズムで、各端末のローカル更新をデータ量で重み付き平均する。医療・金融・モバイルなど、生データを集約できない/したくない場面が主戦場。
更新だけでも漏れる — だから安全な集約
「生データを送らない」だけでは不十分で、勾配更新から元の入力を部分的に復元する攻撃が知られる。Bonawitz ら(2017)の Secure Aggregation は、各端末が更新に打ち消し合うマスクを掛け、サーバーは多数の更新の「合計」しか復号できないようにする。さらに差分プライバシーを重ねると、合計値からの推定も抑えられる。
現実は non-IID
各ユーザーのデータは分布が偏り(non-IID)、量もばらばらで、端末は途中で圏外・電池切れになる。これが素朴な分散学習と決定的に違う点で、クライアントのサンプリング、更新の集約、脱落耐性の設計が肝になる。Gboard の次単語予測は、連合学習を大規模実運用した代表例。
主要パラメータ・設計要素
ラウンド数
配布→学習→集約の反復回数。多いほど収束するが通信コストと時間が増える。数百〜数千が典型。
FedAvg
基本の集約アルゴリズム。各端末のローカル更新をデータ量で重み付き平均する。ローカルステップ数が多いほど通信は減るが偏りに弱くなる。
安全な集約
個々の更新を打ち消しマスクで隠し、サーバーには合計だけを見せる暗号プロトコル。端末脱落にも一定まで耐える。
クライアント抽出
毎ラウンド参加させる端末の選び方。全端末は使わず一部を抽出する。抽出方針が収束の速さと公平性に効く。
non-IID の度合い
端末間でデータ分布がどれだけ偏るか。偏りが強いほど FedAvg は収束しにくく、補正手法が必要になる。
産業・ユースケース
この技術が実際に価値を生んでいる領域と、その使われ方。
モバイル・端末AI
GoogleのGboardは連合学習で次単語予測や絵文字候補モデルを改善する。文字入力そのものは端末に留め、勾配・重み更新のみを集約サーバへ送って共有モデルを更新する。
医療・ヘルスケア
複数病院が患者記録を共有せずに共同で診断モデルを学習する。各施設内で学習した更新のみを交換するため、腫瘍検出などの用途で施設間のデータ規制を越えずに精度を高められる。
金融・不正検知
複数の銀行やカード会社が取引データを持ち出さずに横断的な不正検知モデルを学習する。組織間でパターンを共有しつつ、顧客の生取引を各社の内部に留められる。
自動車・フリート学習
車載カメラやセンサーを持つ車両群が、走行データを丸ごとアップロードせずに知覚・運転支援モデルを共同改善する。稀なシーンの学習を全体へ反映しつつ帯域とプライバシーを節約する。
IoT・エッジ
スマートスピーカーや産業センサーなど多数のエッジ機器が、ローカルで学習した更新のみを集約してウェイクワード検出や異常検知モデルを更新する。生の音声・稼働データは端末に残る。
最新の動向
Gboard の全ての次単語予測モデルが差分プライバシー保証つきで学習されるようになり、連合学習+DP が本番標準になった(Google, 2023)。
連合学習と LLM を組み合わせ、公開モデルを土台にプライベートなクロスデバイス微調整を行う研究が活発。
Flower(flower.ai)や TensorFlow Federated などのフレームワークが成熟し、研究から産業応用(金融・医療)へ普及が進む。
安全な集約と差分プライバシーを既定で組み合わせ、更新経由の情報漏えいと合計値からの推定を同時に抑える設計が一般化。
ベンチマーク・実測の目安
通信コスト削減
同期 SGD 比で 10〜100 倍少ない通信ラウンド
FedAvg は同期確率的勾配降下法に比べ通信を 10〜100 倍削減したと報告(McMahan et al., 2017, arXiv:1602.05629)。
安全な集約の脱落耐性
最大で参加者の約 1/3 の脱落に耐える
Bonawitz らの Secure Aggregation プロトコルは高次元データで最大約 1/3 のユーザー脱落に耐えると報告(Bonawitz et al., 2017)。
実運用規模
モバイルキーボードの次単語予測を実端末群で学習
Google Gboard は連合学習で次単語予測モデルを大規模に本番学習している(Google AI, Gboard 連合学習の公表事例)。
※数値は各出典に基づく参考値です。前提条件により大きく変わります。実装時は一次情報をご確認ください。