Googles EmbeddingGemma 2 lässt die Gemma-Lizenzhürde fallen und verbessert sich bei mehrsprachigem Text um 0,21
Googles neues On-Device-Embedding-Modell kann ohne vorherige Anfrage an Google heruntergeladen werden, während das vorherige Modell noch die Genehmigung von Google benötigt. Der Hugging-Face-Eintrag für google/embeddinggemma-2 trägt den Tag license:apache-2.0, wobei Gating auf false gesetzt ist, während der Eintrag für EmbeddingGemma 1 den Tag license:gemma trägt, wobei Gating auf manual gesetzt ist – die Einstellung, die einen Download hinter einer Anfrage zurückhält, die Google manuell genehmigt. Beide wurden am 6. Oktober um 23:06 UTC abgerufen.

Ein Streudiagramm des mittleren Scores im Verhältnis zur Modellgröße, wobei EmbeddingGemma 2 blau markiert ist zwischen grauen Punkten für andere Modelle. Bild: Google
EmbeddingGemma 2 wurde am 6. Oktober von Sahil Dua und Henrique Schechter Vera, Research Engineers bei Google DeepMind, in Googles Ankündigungsbeitrag angekündigt. Es hat 740 Millionen Parameter, ein 270M-Text-Backbone mit Bild- und Audio-Encodern, die nur geladen werden, wenn eine Arbeitslast sie benötigt, und bildet Text, Code, Bilder, Video und Audio in einen 768-dimensionalen Raum ab.
Die Lizenzänderung ist der springende Punkt
Apache 2.0 allein ist für ein Gemma-Derivat nichts Neues, denn Googles 4B-Modell zur Sprecherkennzeichnung vom 5. Oktober wurde unter derselben Lizenz veröffentlicht. Das Gating ist das, was sich ändert. Version 1 unterliegt den Gemma-Nutzungsbedingungen mit aktivierter manueller Genehmigung, und Google gibt an, dass es damit „mehr als 20 Millionen Downloads“ erreicht hat. Version 2 steht unter Apache 2.0 mit deaktiviertem Gating, sodass ein Build-Server die Gewichte unbeaufsichtigt abrufen kann.
Die Modellkarte führt „License: Apache 2.0“ auf und nennt Google DeepMind als Autor. Die Gewichte liegen auf Hugging Face und Kaggle, und Google gibt an, dass die Verfügbarkeit im Gemini Enterprise Agent Platform Model Garden „demnächst“ kommt.
Der Gewinn liegt im Code, nicht im mehrsprachigen Text
Google hat die Benchmarks selbst auf dem Full-Precision-Checkpoint durchgeführt und im Vergleich zu EmbeddingGemma 1 veröffentlicht. Bei MTEB code v1 erreicht das neue Modell 78,68 gegenüber 68,76, ein Plus von 9,92 Punkten. Bei MTEB multilingual v2 erreicht es 61,36 gegenüber 61,15, ein Plus von 0,21.
Die Zeilen für Bild, Video und Audio enthalten überhaupt keine Vergleichswerte, da EmbeddingGemma 1 nur Text verarbeitet hat. Googles Zahlen für die neuen Modalitäten lauten 64,64 bei MIEB lite, 57,28 und 67,84 bei den beiden Bildtracks von MMEB v2, 50,67 bei MMEB v2 Video, 69,54 bei MSEB Retrieval und 49,39 bei MAEB.
Googles Ankündigungsbeitrag bezeichnet das Modell als „Klassenbester für seine Größe“ und beansprucht „führende Ergebnisse unter multimodalen Embeddern mit weniger als 1B Parametern“. Die Modellkarte begnügt sich mit „unter den stärksten multimodalen Embedding-Modellen mit weniger als 1B Parametern“, und jede dort veröffentlichte Vergleichszahl bezieht sich ausschließlich auf EmbeddingGemma 1. Konkurrenzmodelle erscheinen nur in den Streudiagrammen des Ankündigungsbeitrags, wo Google sie nach Größe aufträgt, statt die Ergebnisse tabellarisch aufzuführen.
Die Vektorverkleinerung kostet mehr, als die Headline-Zahl vermuten lässt
Matryoshka Representation Learning ermöglicht es, einen 768-dimensionalen Vektor auf 512, 256 oder 128 zu kürzen, was Google als „bis zu 6x weniger Speicherbedarf für lokale Vektordatenbanken und Speichernutzung“ anpreist. Bei 128 Dimensionen sinkt der Gesamtscore von MMEB v2 von 59,01 auf 45,65 und der MSEB-Retrieval-Wert von 69,54 auf 56,71.
Google sagt dies auch auf der Modellkarte: „128 Dimensionen verschlechtern die multimodale Qualität erheblich und sollten vor der Übernahme gegen Ihre eigene Arbeitslast validiert werden.“ Bei 256 Dimensionen hält sich die Qualität besser; dort liegt der multimodale Gesamtscore bei 56,24.
Bei der Hardware nennt Google quantisierte Gewichte auf einem Google Pixel 11 Pro, die „nur rund 191 MB aktiven RAM für reine Textgewichte und rund 567 MB für das vollständige multimodale Modell“ benötigen. Das Kontextfenster beträgt 8.192 Tokens – viermal so groß wie bei EmbeddingGemma 1 – und wird über alle Modalitäten hinweg genutzt, und zwar mit 25 Tokens pro Sekunde Audio und 280 Tokens pro Bild, was Google mit 5,5 Minuten Audio, 29 Bildern oder 58 Videoframes in einem einzigen Durchgang übersetzt.
Die Trainingsdaten reichen bis zu einem Stichtag im Januar 2025 und umfassen mehr als 140 Sprachen. Alle oben genannten Werte sind Google, das Google misst – auf einem Checkpoint, den Google selbst veröffentlicht hat.