Pelancaran
Pada 7 Oktober 2026, Perplexity, yang terkenal dengan enjin carian AI, menerbitkan keluarga pplx-embed-v2-late di Hugging Face: dua model embedding terbuka untuk carian, bersaiz 0.6B dan 9B parameter, di bawah lesen MIT (penggunaan komersial dibenarkan). Seminggu sebelumnya, syarikat itu melancarkan pplx-embed-v2-context.
Kedua-duanya multimodal: ia mengindeks teks dan imej (foto, tangkapan skrin dan halaman PDF serta slaid yang dipaparkan) tanpa OCR, mengekalkan jadual dan susun atur.
Apa yang berbeza
1. Late interaction (gaya ColBERT). Daripada memampatkan seluruh dokumen ke dalam satu vektor, model menghasilkan satu vektor 128 dimensi bagi setiap token atau tampalan imej. Semasa carian, setiap token pertanyaan mencari bahagian dokumen yang paling serupa (skor MaxSim). Bahagian berbeza pertanyaan boleh sepadan dengan bahagian berbeza dokumen, yang biasanya memberi keputusan lebih tepat.
2. Ruang dikongsi antara saiz. Kedua-dua model disuling token demi token daripada "guru" dalaman 18B yang sama. Secara praktikal, anda boleh mengindeks dokumen sekali dengan 9B yang berkualiti tinggi dan membuat pertanyaan dengan 0.6B yang pantas dan murah, yang boleh berjalan pada komputer riba, tanpa membina semula indeks.
Angka
- Menurut Perplexity, pada ViDoRe V3 (carian dokumen visual), model 0.6B menyamai model dengan lima kali ganda parameter aktif.
- Menurut liputan AI Weekly, 9B mencatat 92.4% pada MADQA (500 soalan merentasi kira-kira 18,000 halaman PDF).
- Keputusan ini milik syarikat sendiri; laporan teknikal penuh dijangka "lewat tahun ini".
Batasan
- Satu input boleh jadi teks atau imej, bukan kedua-duanya serentak.
- Late interaction menyimpan banyak vektor bagi setiap dokumen: indeks jauh lebih besar berbanding embedding tradisional dan memerlukan pangkalan data vektor yang menyokong berbilang vektor.
- API dihoskan belum tersedia; buat masa ini ia untuk mereka yang menghos sendiri.
Mengapa ia penting
Syarikat menyimpan pengetahuan dalam PDF, slaid, hamparan yang diimbas dan tangkapan skrin. Saluran OCR merosakkan jadual dan kehilangan konteks visual. Model terbuka yang mencari terus dalam imej halaman, dengan lesen permisif dan model kecil untuk pertanyaan, menjadikan RAG korporat lebih tepat dan murah.
Cara menilai
- Ambil set dokumen sebenar (manual, kontrak, laporan) dan soalan dengan jawapan diketahui.
- Bandingkan dengan embedding semasa dari segi ketepatan dan kos storan.
- Uji gabungan indeks 9B + pertanyaan 0.6B.
- Pastikan pangkalan data vektor anda menyokong berbilang vektor (MaxSim).
Sumber
- Blog Perplexity: https://www.perplexity.ai/en-GB/hub/blog/multimodal-embeddings-beyond-a-single-vector
- Hugging Face, perplexity-ai/pplx-embed-v2-late-9b: https://huggingface.co/perplexity-ai/pplx-embed-v2-late-9b
- AI Weekly (8/10/2026): https://aiweekly.co/alerts/perplexity-open-sources-pplx-embed-v2-late-924-on-madqa
Mahu memperbaiki carian dan RAG atas dokumen syarikat anda? KGA IT menawarkan konsultasi percuma: kga-it.com.