Privacy Tech · 詳細ガイド
差分プライバシー
個人が含まれていてもいなくても結果がほぼ変わらないよう、統計に較正されたノイズを混ぜて「あなたがそこにいた」ことを隠す。
How it works
差分プライバシーの仕組み
ステップ 1 / 5
元データ
一人ひとりの記録を含むデータセット。ある個人を入れた版と抜いた版を「隣接データセット」と呼ぶ。
詳しい解説
「区別できなさ」を数式にする
差分プライバシーは、隣接する2つのデータセット(一人だけ違う)に対して、どの出力が出る確率も高々 e^ε 倍しか変わらないことを保証する。ε(イプシロン)が小さいほど強い保証で、攻撃者が出力を見ても「その人がいたか」をほとんど判定できない。プライバシーは個々のデータではなく、アルゴリズム(メカニズム)の性質として定義される点が核心。
グローバル DP とローカル DP
グローバル DP では信頼できる収集者が生データを持ち、公開する集計値にだけノイズを足す(米国勢調査局が採用)。ローカル DP では各デバイスが送信前に自分のデータをノイズ化するため収集者すら生値を見ない(Apple や Google のテレメトリが採用)。ローカルは信頼前提が弱い代わりに、同じ精度を得るのに桁違いに多くのデータが要る。
プライバシーと有用性のトレードオフ
ノイズは個人を守ると同時に統計の精度を落とす。ε を下げれば守りは強いが結果は粗く、上げれば正確だが漏えいリスクが増す。実務では ε の選定・合成の会計・感度の見積もりが要で、NIST SP 800-226 はこれらの落とし穴(「プライバシーハザード」)を体系化している。
主要パラメータ・設計要素
ε(イプシロン)
プライバシー損失の上限。小さいほど強い(典型的に 0.1〜10 のオーダー)。値が下がるとノイズが増え精度が落ちる。
δ(デルタ)
(ε, δ)-DP における「保証が破れる」極小の失敗確率。ガウスメカニズムで使われ、通常はデータ件数の逆数より十分小さく取る。
感度
一人の追加・削除でクエリ結果が動きうる最大幅。ノイズ量は感度に比例して決まる。件数なら 1、合計なら値域に依存。
合成
複数クエリでプライバシー損失が積み上がる規則。単純には ε が加算、高度な合成定理でより緩やかに増える。総額が予算。
グローバル / ローカル
信頼できる収集者が集計にノイズを足す(グローバル)か、各デバイスが送信前にノイズ化する(ローカル)か。信頼前提とデータ量が変わる。
産業・ユースケース
この技術が実際に価値を生んでいる領域と、その使われ方。
公共・行政
米国国勢調査局は2020年国勢調査の公開統計に差分プライバシーを本番適用し、集計値へ較正済みノイズを加えて個人の再識別を防ぎつつ人口配分などの用途に耐える精度を確保した。
テクノロジー・テレメトリ
AppleやGoogleは端末側でローカル差分プライバシーを用い、絵文字・変換候補・使用頻度などのテレメトリを収集する。生データを送らずノイズ付きの値を集約し全体傾向のみを推定する。
医療・公衆衛生
疾病サーベイランスや病院間の統計共有で、退院数や有病率などの集計にノイズを加えて公表する。希少疾患でも特定患者が推定されないよう保護しつつ傾向分析を可能にする。
モビリティ・地図
地図・ナビ事業者は混雑度や人気時間帯などの位置集計を差分プライバシーで保護して公開する。Googleの「混雑する時間帯」など、個々の来訪を隠しつつ全体の流れを示す用途に使われる。
広告・効果測定
コンバージョン計測で、キャンペーン単位の成果集計にノイズを加えて個人の行動特定を防ぐ。プライバシー保護型の広告効果APIが、精度と匿名性のトレードオフを予算(ε)で管理する。
最新の動向
NIST が SP 800-226「差分プライバシー保証の評価ガイドライン」を2025年3月に確定し、実務者向けの評価枠組みが標準化された。
DP-SGD による差分プライバシー付き機械学習が主流化し、学習済みモデルからの記憶データ抽出への防御として使われている。
OpenDP(Harvard 主導)や Google の open-source ライブラリなど、監査可能な実装が研究から本番利用へ広がっている。
大規模 LLM の合成データ生成に DP を組み合わせ、プライバシー予算を保ったまま学習データを増やす手法が活発化。
ベンチマーク・実測の目安
実運用データセットの規模
2020年国勢調査の全世帯・全人口統計に DP を適用
米国勢調査局は2020年国勢調査の Disclosure Avoidance System(TopDown)で、公表統計にグローバル差分プライバシーを適用した(US Census Bureau, 2020 DAS)。
保証の形
出力確率の変化は高々 e^ε 倍
ε-差分プライバシーの定義そのもの(Dwork & Roth, 『The Algorithmic Foundations of Differential Privacy』, 2014)。
ローカル DP の代償
同精度に必要なデータ量が桁違いに増える
ローカル DP は信頼できる収集者を不要にする代わりに、グローバル DP より大幅に多いサンプルを要する(定性的、NIST SP 800-226 の議論に基づく)。
※数値は各出典に基づく参考値です。前提条件により大きく変わります。実装時は一次情報をご確認ください。