Ra mắt
Ngày 7/10/2026, Perplexity, nổi tiếng với công cụ tìm kiếm AI, công bố trên Hugging Face họ mô hình pplx-embed-v2-late: hai mô hình embedding mở cho tìm kiếm, kích thước 0,6B và 9B tham số, theo giấy phép MIT (cho phép dùng thương mại). Một tuần trước đó, công ty đã ra mắt pplx-embed-v2-context.
Cả hai đều đa phương thức: lập chỉ mục văn bản và hình ảnh (ảnh, ảnh chụp màn hình và trang PDF, slide đã kết xuất) không cần OCR, giữ nguyên bảng biểu và bố cục.
Điểm khác biệt
1. Late interaction (kiểu ColBERT). Thay vì nén cả tài liệu vào một vector, mô hình tạo một vector 128 chiều cho mỗi token hoặc mảnh ảnh. Khi tìm kiếm, mỗi token của truy vấn tìm phần giống nhất trong tài liệu (chấm điểm MaxSim). Các phần khác nhau của câu hỏi có thể khớp với các phần khác nhau của tài liệu, thường cho kết quả chính xác hơn.
2. Không gian chung giữa các kích thước. Cả hai mô hình được chưng cất theo từng token từ cùng một mô hình "thầy" nội bộ 18B. Trên thực tế, bạn có thể lập chỉ mục tài liệu một lần bằng bản 9B chất lượng cao và truy vấn bằng bản 0,6B nhanh, rẻ, chạy được cả trên laptop, mà không cần dựng lại chỉ mục.
Số liệu
- Theo Perplexity, trên ViDoRe V3 (tìm kiếm tài liệu dạng hình ảnh), mô hình 0,6B ngang các mô hình có số tham số hoạt động gấp năm lần.
- Theo AI Weekly, bản 9B đạt 92,4% trên MADQA (500 câu hỏi trên khoảng 18.000 trang PDF).
- Kết quả do chính công ty công bố; báo cáo kỹ thuật đầy đủ sẽ ra "trong năm nay".
Hạn chế
- Một đầu vào là văn bản hoặc hình ảnh, không thể cả hai cùng lúc.
- Late interaction lưu nhiều vector cho mỗi tài liệu: chỉ mục lớn hơn nhiều so với embedding truyền thống và cần cơ sở dữ liệu vector hỗ trợ đa vector.
- API được lưu trữ chưa có; hiện tại dành cho người tự triển khai.
Vì sao quan trọng
Doanh nghiệp lưu tri thức trong PDF, slide, bảng tính scan và ảnh chụp màn hình. Pipeline OCR làm vỡ bảng biểu và mất ngữ cảnh hình ảnh. Một mô hình mở tìm kiếm trực tiếp trên hình ảnh trang, với giấy phép thoáng và mô hình nhỏ cho truy vấn, giúp RAG doanh nghiệp chính xác và rẻ hơn.
Cách đánh giá
- Lấy một tập tài liệu thật (hướng dẫn, hợp đồng, báo cáo) và câu hỏi đã biết đáp án.
- So sánh với embedding hiện tại về độ chính xác và chi phí lưu trữ.
- Thử kết hợp chỉ mục bằng 9B + truy vấn bằng 0,6B.
- Kiểm tra cơ sở dữ liệu vector có hỗ trợ đa vector (MaxSim) không.
Nguồn
- Blog Perplexity: https://www.perplexity.ai/en-GB/hub/blog/multimodal-embeddings-beyond-a-single-vector
- Hugging Face, perplexity-ai/pplx-embed-v2-late-9b: https://huggingface.co/perplexity-ai/pplx-embed-v2-late-9b
- AI Weekly (8/10/2026): https://aiweekly.co/alerts/perplexity-open-sources-pplx-embed-v2-late-924-on-madqa
Bạn muốn cải thiện tìm kiếm và RAG trên tài liệu doanh nghiệp? KGA IT cung cấp tư vấn miễn phí: kga-it.com.