EmbeddingGemma 2 di Google: Embedding Multimodali su Dispositivo per l'AI Edge

Google DeepMind lancia EmbeddingGemma 2: un modello di embedding multimodale unificato per l'AI edge

Google DeepMind ha ufficialmente presentato EmbeddingGemma 2, il successore del suo popolare modello EmbeddingGemma, progettato per mappare nativamente testo, codice, immagini, video e audio in un unico spazio di embedding unificato. Il rilascio segna un significativo passo avanti per l'AI su dispositivo, consentendo agli sviluppatori di creare pipeline di ricerca, recupero e RAG cross-modali che operano interamente offline. Con oltre 20 milioni di download del modello EmbeddingGemma originale, il nuovo modello si basa su questo slancio espandendosi ben oltre il testo.

EmbeddingGemma 2 è basato sull'architettura Gemma 4 e viene rilasciato con licenza Apache 2.0, commercialmente permissiva. Il modello ha 740 milioni di parametri, ma il suo design modulare consente agli sviluppatori di utilizzare solo i componenti necessari, scendendo fino a 270 milioni di parametri per carichi di lavoro solo testo, con encoder opzionali per la visione (170M) e l'audio (300M) per il supporto multimodale completo. Questa flessibilità lo rende un'opzione interessante per ambienti con risorse limitate.

Perché EmbeddingGemma 2 è importante per gli sviluppatori

Il modello EmbeddingGemma originale era già un punto di riferimento per pipeline RAG incentrate sulla privacy e ricerca su dispositivo, ma era limitato al testo. EmbeddingGemma 2 rimuove questa limitazione. Unificando più modalità in uno spazio di embedding condiviso, gli sviluppatori possono ora eseguire ricerche semantiche in librerie multimediali, trovare momenti specifici in un video utilizzando query testuali o audio e persino instradare decisioni basate sul contesto multimodale, tutto senza inviare dati al cloud.

Questo è uno sviluppo critico per settori in cui la privacy è fondamentale, come sanità, finanza e ricerca aziendale. Eseguire gli embedding localmente riduce la latenza, taglia i costi di larghezza di banda e garantisce che i dati sensibili non lascino mai il dispositivo. L'efficienza del modello è impressionante: con la quantizzazione, richiede solo circa 191 MB di RAM attiva per i pesi solo testo e circa 567 MB per il modello multimodale completo su un Google Pixel 11 Pro.

Punti salienti tecnici e benchmark delle prestazioni

EmbeddingGemma 2 offre prestazioni di prim'ordine per la sua dimensione. Ecco le specifiche e i miglioramenti chiave:

• Migliori della categoria per modelli sub-1B: Guida benchmark come MTEB Code e MAEB, con un miglioramento di 9,92 punti sulle prestazioni del codice (da 68,76 a 78,68 su MTEB Code).
• Architettura modulare: La modalità solo testo utilizza 270 milioni di parametri; gli encoder opzionali per visione e audio portano il totale a 740 milioni.
• Efficiente in termini di archiviazione: Utilizza Matryoshka Representation Learning (MRL) per troncare i vettori di output da 768 dimensioni a 512, 256 o 128, offrendo fino a 6x di riduzione dell'archiviazione per database vettoriali locali.
• Finestra di contesto estesa: 8.000 token (4 volte più grande di EmbeddingGemma 1), consentendo l'elaborazione di fino a 5,5 minuti di audio, 29 immagini, 58 fotogrammi video o combinazioni intervallate.
• Ottimizzato per dispositivo: Funziona efficientemente entro vincoli ristretti, rendendolo ideale per hardware mobile e edge.

Nei test, EmbeddingGemma 2 non solo eguaglia le prestazioni di testo multilingue del suo predecessore, ma supera anche alcuni modelli specialistici più del doppio delle sue dimensioni in compiti di visione e audio. Questo rapporto qualità-parametro è un importante punto di forza per gli sviluppatori che necessitano di alta accuratezza senza il sovraccarico computazionale di modelli più grandi.

Integrazione e supporto dell'ecosistema

Google ha garantito che EmbeddingGemma 2 funzioni perfettamente con gli strumenti esistenti. Il modello condivide il tokenizer di testo e l'encoder audio con Gemma 4, il che significa che gli sviluppatori possono eseguire entrambi i modelli in una pipeline unificata con un'impronta di memoria combinata inferiore. Ciò è particolarmente utile per sistemi RAG su dispositivo che abbinano EmbeddingGemma 2 per il recupero e Gemma 4 per il ragionamento contestuale.

I partner e gli strumenti che supportano EmbeddingGemma 2 dal primo giorno includono:

• Hugging Face e Kaggle: I pesi del modello sono disponibili per il download diretto.
• Google AI Edge: Integrazioni con MediaPipe e LiteRT per attività chiavi in mano di embedding, recupero e decisione.
• Distribuzione nel browser: Supporto per Transformers.js e WebGPU per inferenza nel browser.
• Framework popolari: vLLM, llama.cpp, SGLang, Ollama, MLX e sentence-transformers.
• Fine-tuning: Guida da Unsloth per casi d'uso personalizzati.

Google ha anche lanciato app demo nella sua AI Edge Gallery, tra cui Instant Media Search e Video Moments Finder, per mostrare casi d'uso reali.

Disponibilità e come iniziare

EmbeddingGemma 2 è ora disponibile con licenza Apache 2.0, che consente l'uso commerciale. Gli sviluppatori possono scaricare i modelli da Hugging Face e Kaggle. Per la distribuzione su dispositivo, Google raccomanda l'uso di MediaPipe per attività chiavi in mano o LiteRT per integrazione personalizzata. L'azienda ha anche pubblicato una guida completa per sviluppatori e documentazione per aiutare i team a iniziare rapidamente.

Con la sua combinazione di prestazioni, efficienza e licenza permissiva, EmbeddingGemma 2 è destinato a diventare una pietra miliare dell'AI multimodale su dispositivo. Mentre il computing edge continua a crescere, questo modello fornisce agli sviluppatori gli strumenti per costruire applicazioni più intelligenti, più private e più reattive.