Nadella nói gì
Ngày 10/10/2026, CEO Microsoft Satya Nadella đăng bài luận "Models as Insider Risks in the Super Intelligence Era": các mô hình AI tiên tiến, đóng hay mở trọng số, nên được coi là rủi ro nội bộ.
"Chúng ta phải giả định mô hình đã bị xâm phạm và cô lập nó ngay từ đầu. Hãy coi đó như phanh khẩn cấp."
Đây không phải lời kêu gọi dừng phát triển AI, mà là kiến trúc kiểm soát.
Nguyên tắc
- Tách trí tuệ khỏi quyền hạn (quyền đặt bên ngoài mô hình).
- Đa dạng mô hình.
- Nhật ký chống giả mạo, dễ đọc.
- Kiểm thử liên tục, kiểm soát độc lập và kiểm toán.
- Cô lập và công bố sự cố kịp thời.
Với doanh nghiệp
- Thông tin xác thực tối thiểu cho từng tác tử.
- Chính sách bên ngoài mô hình qua gateway.
- Người duyệt hành động quan trọng.
- Nhật ký bất biến.
- Công tắc dừng đã kiểm thử.
Nguồn
- CNBC (2026-10-10): https://www.cnbc.com/2026/10/10/microsoft-satya-nadella-ai-emergency-brake-safety.html
- The Verge (2026-10-10): https://www.theverge.com/ai-artificial-intelligence/1009337/satya-nadella-says-we-should-assume-all-ai-models-are-compromised
- Bloomberg (2026-10-10): https://www.bloomberg.com/news/articles/2026-10-10/microsoft-ceo-nadella-calls-for-emergency-brake-on-advanced-ai
- The Straits Times (2026-10-11): https://www.straitstimes.com/world/microsoft-ceo-nadella-calls-for-emergency-brake-on-advanced-ai
Bạn muốn áp dụng kiểm soát rủi ro nội bộ cho tác tử AI? KGA IT cung cấp tư vấn miễn phí: kga-it.com.