Ang paglulunsad
Noong Oktubre 7, 2026, inilathala ng Perplexity, kilala sa AI search engine nito, ang pamilyang pplx-embed-v2-late sa Hugging Face: dalawang open embedding model para sa paghahanap, na 0.6B at 9B parameter, sa ilalim ng MIT license (pinapayagan ang komersyal na paggamit). Isang linggo bago nito, inilabas ng kumpanya ang pplx-embed-v2-context.
Multimodal ang mga ito: nag-i-index ng text at larawan (photos, screenshots at rendered pages ng PDF at slides) nang walang OCR, na pinapanatili ang tables at layout.
Ano ang naiiba
1. Late interaction (ColBERT-style). Sa halip na ipitin ang buong dokumento sa iisang vector, gumagawa ang model ng isang 128-dimension na vector kada token o piraso ng larawan. Sa paghahanap, hinahanap ng bawat token ng query ang pinakakahawig na bahagi ng dokumento (MaxSim scoring). Maaaring tumugma ang iba't ibang bahagi ng query sa iba't ibang bahagi ng dokumento, kaya kadalasang mas tumpak ang resulta.
2. Shared space sa magkaibang laki. Parehong na-distill token kada token ang dalawang model mula sa iisang internal na 18B "teacher". Sa praktika, maaari mong i-index ang dokumento nang isang beses gamit ang de-kalidad na 9B at mag-query gamit ang mabilis at murang 0.6B, na tumatakbo pa sa laptop, nang hindi binubuo ulit ang index.
Mga numero
- Ayon sa Perplexity, sa ViDoRe V3 (visual document retrieval), kapantay ng 0.6B model ang mga model na may limang beses na mas maraming active parameter.
- Ayon sa ulat ng AI Weekly, nakakuha ang 9B ng 92.4% sa MADQA (500 tanong sa mga 18,000 pahina ng PDF).
- Galing sa kumpanya mismo ang resulta; lalabas ang buong technical report "bago matapos ang taon".
Mga limitasyon
- Ang isang input ay text o larawan, hindi sabay.
- Nag-iimbak ng maraming vector kada dokumento ang late interaction: mas malaki nang husto ang index kaysa sa tradisyonal na embeddings at kailangan ng vector database na sumusuporta sa multi-vector.
- Wala pang hosted API; sa ngayon ay para sa nagse-self-host.
Bakit mahalaga
Nakaimbak ang kaalaman ng mga kumpanya sa PDF, slides, na-scan na spreadsheet at screenshots. Sinisira ng OCR pipelines ang tables at nawawala ang visual na konteksto. Ang open model na direktang naghahanap sa larawan ng pahina, na may permisibong lisensya at maliit na model para sa queries, ay ginagawang mas tumpak at mas mura ang enterprise RAG.
Paano ito suriin
- Kumuha ng totoong set ng dokumento (manuals, kontrata, ulat) at mga tanong na alam ang sagot.
- Ikumpara sa kasalukuyang embedding sa accuracy at gastos ng storage.
- Subukan ang kombinasyong index sa 9B + query sa 0.6B.
- Tiyaking sinusuportahan ng vector database mo ang multi-vector (MaxSim).
Mga pinagmulan
- Blog ng Perplexity: https://www.perplexity.ai/en-GB/hub/blog/multimodal-embeddings-beyond-a-single-vector
- Hugging Face, perplexity-ai/pplx-embed-v2-late-9b: https://huggingface.co/perplexity-ai/pplx-embed-v2-late-9b
- AI Weekly (8/10/2026): https://aiweekly.co/alerts/perplexity-open-sources-pplx-embed-v2-late-924-on-madqa
Gusto mo bang pagandahin ang search at RAG sa mga dokumento ng kumpanya mo? Nag-aalok ang KGA IT ng libreng konsultasyon: kga-it.com.