Ra mắt
Ngày 6/10/2026, Google DeepMind phát hành EmbeddingGemma 2, mô hình embedding đa phương thức mở theo giấy phép Apache 2.0 (cho phép dùng thương mại). Mô hình chuyển văn bản, mã, hình ảnh, video và âm thanh, cùng các tổ hợp của chúng, thành vector trong cùng một không gian 768 chiều. Nhờ đó có thể tìm một đoạn video từ ghi âm giọng nói, hoặc tìm trong hàng giờ ghi âm bằng một câu.
Theo Google, EmbeddingGemma đầu tiên, chỉ hỗ trợ văn bản, đã vượt 20 triệu lượt tải.
Thông số kỹ thuật
- Tổng 740 triệu tham số, dựa trên kiến trúc Gemma 4.
- Dạng mô-đun: chỉ tải phần cần thiết. 270M cho văn bản và mã, 440M thêm thị giác, 570M thêm âm thanh, 740M cho tất cả. Mọi phiên bản đều tạo vector tương thích.
- Ngữ cảnh 8.192 token cho văn bản và mã, hơn 100 ngôn ngữ.
- Matryoshka (MRL): vector có thể cắt ngắn còn 512, 256 hoặc 128 chiều, giảm tới 6 lần dung lượng cơ sở dữ liệu vector mà ít mất chất lượng.
- Tốt hơn 14% so với EmbeddingGemma 1 trên MTEB (Code), vẫn giữ chất lượng đa ngôn ngữ.
- Dùng qua sentence-transformers (v6.1.0+):
SentenceTransformer("google/embeddinggemma-2"). Hãy dùng bfloat16 hoặc float32, không dùng float16.
Vì sao quan trọng
Embedding là nền tảng của tìm kiếm ngữ nghĩa và RAG. Trước đây, doanh nghiệp có ảnh, video kiểm tra, ghi âm tổng đài và tài liệu PDF cần nhiều mô hình và pipeline riêng. Một mô hình nhỏ duy nhất chạy trên laptop, điện thoại hoặc CPU cho phép:
- Tìm kiếm đa phương tiện nội bộ: "video kiểm tra có cảnh van bị ăn mòn".
- RAG trên thiết bị và ngoại tuyến, không gửi dữ liệu nhạy cảm lên đám mây, quan trọng với các quy định bảo vệ dữ liệu cá nhân.
- Pipeline nhẹ hơn: vì dùng chung tokenizer và bộ mã hóa âm thanh với Gemma 4, cả hai chạy cùng nhau với ít bộ nhớ hơn.
Lưu ý
- Số liệu điểm chuẩn do Google công bố; hãy thử với dữ liệu của bạn, đặc biệt là tiếng Việt.
- Với video, điều chỉnh tần suất lấy mẫu khung hình; video dài tốn kém khi embed.
- Cắt còn 128 chiều tiết kiệm dung lượng, nhưng Google chủ yếu khuyến nghị cho văn bản.
- Đổi mô hình embedding bắt buộc lập chỉ mục lại toàn bộ; hãy lên kế hoạch chuyển đổi.
Cách bắt đầu
- Chọn một trường hợp nhỏ (ví dụ: tìm ảnh bảo trì).
- Chỉ tải các bộ mã hóa cần thiết để tiết kiệm bộ nhớ.
- So sánh với embedding hiện tại về độ chính xác và chi phí lưu trữ.
- Sau đó mở rộng sang âm thanh và video.
Nguồn
- Google Blog (2026-10-06): https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/
- Google Developers Blog, "EmbeddingGemma 2: The Developer Guide": https://developers.googleblog.com/en/embeddinggemma-2-the-developer-guide/
- EmbeddingGemma 2 model card: https://ai.google.dev/gemma/docs/embeddinggemma/model_card_2
Bạn muốn xây dựng tìm kiếm và RAG đa phương thức với dữ liệu riêng? KGA IT cung cấp tư vấn miễn phí: kga-it.com.