Pelancaran
Syarikat China Moonshot AI menyediakan Kimi K3 dalam API dan aplikasinya pada 16 Julai 2026 dan berjanji mengeluarkan pemberat sebelum hujung bulan. Pada 27 Julai, semasa "Kimi K3 Open Day", ia menerbitkan pemberat, laporan teknikal dan tiga projek infrastruktur di GitHub (MoonshotAI/Kimi-K3).
Angka utama
- 2.8 trilion parameter dalam reka bentuk Mixture-of-Experts, dengan 16 daripada 896 pakar aktif bagi setiap token.
- Tetingkap konteks 1 juta token dan input teks, imej serta video secara asli.
- Teknik baharu Kimi Delta Attention (KDA) dan Attention Residuals, yang menurut syarikat memberi kira-kira 2.5x kecekapan penskalaan berbanding Kimi K2.
- Latihan sedar kuantisasi MXFP4 sejak peringkat SFT.
- Turut dibuka: MoonEP (komunikasi MoE), FlashKDA (kernel) dan AgentEnv (sandbox ejen).
Dalam penanda aras Moonshot sendiri, K3 hampir menyamai model tertutup terbaik dan mendahului beberapa ujian ejen seperti BrowseComp dan MCPMark. Angka itu daripada syarikat dan masih perlu pengesahan bebas.
Kaveat
Pemberat dikeluarkan di bawah Kimi K3 License, bukan lesen standard seperti MIT atau Apache. Penggunaan komersial di luar kes yang dibenarkan perlu semakan terma. Menjalankan model sebesar ini memerlukan kluster GPU kelas tinggi, jadi "terbuka" tidak bermaksud "murah".
Kenapa penting
Menurut Moonshot, ini model terbuka pertama dalam kelas 3 trilion parameter, mengukuhkan usaha makmal China untuk pemberat terbuka yang kompetitif.