How it works
実データから合成データが生まれるまで
ステップ 1 / 5
実データ
元となる機微なデータセットを、管理された安全な環境に置きます。ここから先へ生データは出しません。
プライバシー検査に落ちたり忠実度が足りなければ、生成モデルを調整して作り直します。品質とプライバシーの両立まで、生成と評価を往復します。
詳しい解説
「似ている」だけでは安全ではない
合成データの落とし穴は、生成モデルが訓練データを丸暗記してしまうことです。見た目が本物そっくりでも、実在のレコードがほぼそのまま出力されれば意味がありません。研究では、実データとの類似度だけを見る素朴なプライバシー指標では、こうした漏えいを見逃すことが示されています。だからこそ、攻撃を模した監査（メンバーシップ推論など）が欠かせません。
差分プライバシーで作る合成データ
最も強い保証は、生成モデルの学習段階に差分プライバシーを組み込む方法です。学習に加える上限ノイズによって、どの一人がデータに含まれていても・いなくても出力がほとんど変わらないことを保証します。NISTはSP 800-226で差分プライバシーの主張の妥当性や現実的なεの範囲を整理し、政府データの合成にも用いられ始めています。
忠実度とプライバシーのトレードオフ
合成データは万能ではありません。元データの偏りを受け継ぎ、稀な事象（外れ値・少数派）を十分に再現できないことがあります。プライバシーを強めるほどデータは平滑化され、有用性は下がります。用途に対して「使える精度か」「漏えいしていないか」を毎回二方向から検証することが実務の鍵です。
主要パラメータ・設計要素
生成器の種類
GAN・拡散モデル・LLM・統計/コピュラモデルなど。表形式データには統計・GAN系、テキストや画像には拡散・LLMが向きます。
忠実度 vs プライバシー
本物への近さ（分析に使える精度）と、個人の再現しにくさは基本的に相反します。用途ごとに置きどころを決めます。
メンバーシップ推論リスク
「この人は訓練データに含まれていたか」を攻撃者が当てられる度合い。監査で残存リスクを実測します。
DP合成
生成モデルの学習に差分プライバシーを適用し、ε（プライバシー予算）で保証の強さを制御します。
産業・ユースケース
この技術が実際に価値を生んでいる領域と、その使われ方。
医療・データ共有
実患者データの統計的特性を模した合成患者データを生成し、研究者やベンダーと共有する。実在患者に紐づかないため、モデル開発や検証を規制リスクを抑えて進められる。
金融・不正モデル学習
希少な不正取引パターンを合成データで増強し、不正検知モデルの学習に用いる。実顧客の取引を露出させずにクラス不均衡を補正し、検知精度を高められる。
ソフトウェア・テスト
開発・テスト環境で本番の個人情報を使わず、現実的な合成データセットを投入する。スキーマや分布を保ったままダミー値で動作検証でき、テスト環境からの情報漏えいを防ぐ。
自動運転・シミュレーション
自動運転の学習で、雨天・逆光・飛び出しなど稀で危険なシーンを合成生成する。実走行では集めにくいエッジケースを大量に作り、知覚モデルを安全に鍛える。
小売・分析
小売業者が需要予測やレコメンドの検証に合成購買履歴を用いる。実顧客の購買を明かさずに現実的なパターンを再現し、パートナーやツール評価にも安全に共有できる。
最新の動向
GretelがNVIDIAに買収され（2025年3月）、合成データ生成が主要AIプラットフォームに組み込まれつつある。
MOSTLY AIが合成データSDKをApache 2.0でオープンソース化（2024年末）し、DP付き生成が手元で扱いやすくなった。
NISTがSP 800-226で差分プライバシー保証の評価基準を整備し、DP合成データの実運用ガイドが揃ってきた。
「類似度ベースのプライバシー指標」への批判が強まり、攻撃を模した監査（メンバーシップ推論等）が事実上の標準になりつつある。
拡散モデルやLLMの台頭で、表形式にとどまらずテキスト・時系列・画像の高忠実な合成が現実的になっている。
ベンチマーク・実測の目安
素朴な合成データの漏えいリスク
類似度指標を通っても実レコードが漏れうる
Annamalai・Ganev・De Cristofaro「The Inadequacy of Similarity-based Privacy Metrics」(arXiv:2312.05114, 2024) が、類似度ベース指標では漏えいを検出しきれないと示した。
プライバシー保証の基準
差分プライバシーが推奨基準として整理
NIST SP 800-226「Guidelines for Evaluating Differential Privacy Guarantees」(2025) が主張の妥当性と現実的なε範囲を提示。
※数値は各出典に基づく参考値です。前提条件により大きく変わります。実装時は一次情報をご確認ください。