- 年、Shumailov らは Nature 誌 (「AI models collapse when trained on recursively generated data」と報じられる論文) で、モデル出力を再帰的に学習データとして用いると分布の裾が失われ、世代を重ねるごとに縮退する現象を示した。これは「モデル崩壊 (model collapse)」として広く引用され、合成データ戦略への強い警告となった。Twitter やメディアでは「AI は自己中毒で死ぬ」という扇情的見出しが並び、合成データ懐疑論を強化した。
ほぼ同時期、Gerstgrasser ら (2024 に arXiv で公開された「Is Model Collapse Inevitable?」系論文群) は、実データを保持したまま合成データを累積 (accumulate) する条件では崩壊が起きにくい、あるいは大きく緩和されると報告したと指摘される。鍵は「置換 (replace) か累積 (accumulate) か」であり、旧世代の実データを捨てずに残し、合成データを追加する運用では分布縮退が抑制されるという主張である。理論的には、実データが分布の「アンカー」として機能し、合成データによる drift を引き戻す力を持つ、と解釈される。
この二つの結果は一見矛盾するが、設定を分解すると両立する。Shumailov の強い崩壊は、純粋な自己出力置換・小規模モデル・制御された分布 (Gaussian や OPT-125M) 下で観測された理想化シナリオに近い。一方 Gerstgrasser の緩和は、実データ混入・多様性の確保・フィルタリングを含む現実的運用に近い。つまり「合成データ = 必ず崩壊」も「合成データ = 安全」もどちらも誇張であり、条件依存であると理解される。メディア見出しと研究知見の齟齬がここで生じた。
- 〜2026 年にかけての追試・拡張研究では、(a) 品質フィルタ (報酬モデル・検証器・self-consistency) を挟むと崩壊は遅延しやすい、(b) 多様性保全のための温度・rejection sampling・min-p サンプリングの設計が決定的、(c) ドメインによっては合成データが実データより学習効率が高いケースもある (特に数学・コード領域で検証器が使える場合)、といった報告が蓄積されつつあると指摘される。一方で、長期世代を跨いだ微妙な分布偏移 (マイノリティ方言・希少概念・ロングテール知識の消失) が評価難しく、短期ベンチマークでは捕捉できない可能性も継続的に懸念されている。
実務的にも論点は多層化している。第一層は「訓練データ中に AI 生成文が混入する問題」で、これはクロール時点で避けがたく、今後の Web 全体が合成汚染されていくと予想される。第二層は「意図的な合成データ生成」で、これは設計次第で有益にも有害にもなる。第三層は「合成 vs 蒸留」の区別で、強い教師モデルからの蒸留は崩壊よりも知識圧縮に近く、崩壊論の枠外で議論すべきである。
現場のベストプラクティスとして合意が取れつつあるのは次の点だ。(1) 実データを「種コーパス」として常時保持し、新世代の学習でも希釈しすぎない (accumulate 戦略)。(2) 合成データは検証可能タスク (数学・コード・形式推論) に偏重させ、主観的・創造的領域での盲目的生成を避ける。(3) 品質フィルタは単純な尤度ではなく、下流タスク評価に連動させる。(4) 世代ごとの分布モニタリング (perplexity drift・n-gram 多様性・embedding クラスタ変化・希少語カバレッジ) を運用 KPI として組み込む。(5) 人間生成データの独占的確保 (ライセンス契約・オリジナル執筆) は今後プレミアム資産化する可能性がある。
結論として、モデル崩壊は「ホラー神話」でも「解決済み問題」でもなく、継続的なデータ衛生の問題である。合成データを戦略に据える組織は、Shumailov と Gerstgrasser の両極を短絡せず、自社の運用条件に合わせた実証を積み重ねるべきだろう。見出しは常に単純化するが、実装は常に条件付きである、という基本原則がここでも再確認される。