Apa kata Nadella
Pada 10 Oktober 2026, CEO Microsoft Satya Nadella menerbitkan esei "Models as Insider Risks in the Super Intelligence Era": model AI termaju, tertutup atau terbuka, patut dilayan sebagai risiko dalaman.
"Kita mesti menganggap model telah dikompromi dan membendungnya dari awal. Seperti brek kecemasan."
Ini bukan seruan menghentikan pembangunan AI, tetapi seni bina kawalan.
Prinsip
- Asingkan kecerdasan daripada kuasa (kebenaran di luar model).
- Kepelbagaian model.
- Rekod tahan usik dan boleh dibaca.
- Ujian berterusan, kawalan bebas dan audit.
- Pembendungan dan pendedahan insiden segera.
Untuk perniagaan
- Kelayakan minimum untuk setiap ejen.
- Dasar di luar model melalui gerbang.
- Kelulusan manusia untuk tindakan kritikal.
- Log tidak boleh diubah.
- Suis henti yang diuji.
Sumber
- CNBC (2026-10-10): https://www.cnbc.com/2026/10/10/microsoft-satya-nadella-ai-emergency-brake-safety.html
- The Verge (2026-10-10): https://www.theverge.com/ai-artificial-intelligence/1009337/satya-nadella-says-we-should-assume-all-ai-models-are-compromised
- Bloomberg (2026-10-10): https://www.bloomberg.com/news/articles/2026-10-10/microsoft-ceo-nadella-calls-for-emergency-brake-on-advanced-ai
- The Straits Times (2026-10-11): https://www.straitstimes.com/world/microsoft-ceo-nadella-calls-for-emergency-brake-on-advanced-ai
Mahu menerapkan kawalan risiko dalaman pada ejen AI anda? KGA IT menawarkan konsultasi percuma: kga-it.com.