Apa yang didedahkan OpenAI
Pada 30 September 2026, OpenAI berkata ia telah mengenal pasti dan melumpuhkan kempen terselaras untuk mengekstrak "penaakulan terlindung" daripada modelnya, iaitu rekod dalaman yang digunakan model untuk menyelesaikan tugas dan tidak muncul dalam jawapan akhir. Amalan ini dipanggil penyulingan adversarial: penggunaan output atau penaakulan sesuatu model tanpa kebenaran untuk melatih atau menambah baik model lain.
Bukan pencerobohan biasa
Menurut OpenAI, pengendali tidak memecahkan penyulitan, tidak menjejaskan pangkalan data dan tidak mengakses perbualan pengguna. Mereka memanipulasi interaksi model supaya penaakulan terlindung dihasilkan semula dalam bentuk boleh dilihat, secara besar-besaran, melanggar syarat perkhidmatan.
Satu teknik yang disebut: menyalin penaakulan tersulit daripada satu perbualan dan meminta model dalam perbualan lain menyahsulit serta menyalinnya. Penyelidik bebas juga melaporkan kelemahan berkaitan merentas model dan pemadatan perbualan, yang disahkan OpenAI.
Garis masa dan skala
- 1 Julai: aktiviti bermula pada jumlah rendah.
- 24–25 Julai: lonjakan 16,000 permintaan dengan corak pengekstrakan daripada lebih 4,000 pengguna.
- Siasatan lanjut mengaitkan corak itu dengan kelompok lebih 15,000 pengguna, dilumpuhkan sepenuhnya menjelang 28 Julai.
OpenAI menegaskan angka ini ialah cubaan, bukan semestinya pengekstrakan berjaya.
Atribusi
Syarikat itu tidak pasti sama ada semua pengendali daripada satu pihak, tetapi mengaitkan kelompok teras dengan individu yang berkaitan Moonshot AI, pembangun Kimi. Ini penilaian OpenAI; setakat penulisan, kami tidak menemui respons awam daripada Moonshot.
Tindak balas OpenAI
- menyekat atau mengehadkan akaun palsu dan mengetatkan kawalan pendaftaran serta infrastruktur;
- menutup laluan yang membolehkan penaakulan tersulit pengguna lain dimainkan semula;
- menambah semakan untuk mengesan dan menahan output strim yang mungkin mendedahkan penaakulan;
- bekerjasama dengan penyedia pihak ketiga;
- berkongsi penemuan melalui Frontier Model Forum dan saluran kerajaan.
Mengapa penting
OpenAI berhujah penaakulan yang diekstrak boleh melatih model lain tanpa perlindungan model asal. Anthropic juga melancarkan Opus 5.5 dengan "preserved thinking", perlindungan anti-penyulingan; ini cabaran seluruh industri.
Maksudnya untuk perniagaan
- Jika anda menggunakan API AI, jangkakan lebih banyak semakan akaun dan sekatan berkaitan penaakulan dan konteks.
- Integrasi yang memindahkan artifak penaakulan antara akaun atau penyedia mungkin rosak.
- Semasa memilih model, timbangkan asal usul dan perlindungan, bukan harga sahaja.
Sumber
- OpenAI (30 Sep 2026): https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/
- Anthropic, Claude Opus 5.5: https://www.anthropic.com/claude-opus-5-5
Mahu menggunakan AI dengan selamat dan tadbir urus yang baik? KGA IT menawarkan konsultasi percuma: kga-it.com.