Google setzt auf marvell: neue ki-chips für rasante inferenz

Google verstärkt seine KI-Strategie mit einer Partnerschaft mit Marvell Technology. Das Tech-Gigant plant, gemeinsam mit dem Halbleiterhersteller zwei neue Chips für die Inferenzphase seiner künstlichen Intelligenz zu entwickeln – und das mit ambitionierten Zielen.

Ein wettlauf um die geschwindigkeit

Die Inferenz, also die Anwendung eines bereits trainierten KI-Modells auf neue Daten, ist der entscheidende Schritt, um den eigentlichen Mehrwert zu generieren. Google will hier die Effizienz und die Geschwindigkeit drastisch erhöhen. Dafür werden zwei Chips entwickelt: Ein Speicherchip, der nahtlos mit der Tensor Processing Unit (TPU) von Google zusammenarbeiten soll, und eine komplett neue TPU, speziell für Inferenzaufgaben.

Es geht um eine Ergänzung zu den bereits bestehenden Partnerschaften mit Broadcom, MediaTek und TSMC. Die aktuellen TPU-Generationen, insbesondere Ironwood, die seit November über Google Cloud verfügbar ist, haben bereits die Leistung deutlich verbessert – bis zu zehnmal schneller als die Vorgänger und mehr als viermal effizienter im Vergleich zu TPU v6e.

Ironwood ermöglicht die Integration von bis zu 9.216 Chips in ein sogenanntes ‘Superpod’ – ein KI-Supercomputer, der über das proprietäre Netzwerk ICI miteinander verbunden ist. Dieses Interconnect bietet eine Bandbreite von 9,6 Tb/s, was einer Datenübertragung von 9,6 Billionen Bits pro Sekunde entspricht. Das Ergebnis: 1,77 Petabytes an gemeinsam genutztem, Hochbandbreiten-Speicher – eine deutlich effizientere und schnellere Speicherlösung als herkömmliche RAM-Systeme.

Doch Google ist nicht allein, der Wettlauf um die Inferenzleistung spitzt sich zu. Microsoft hat beispielsweise den Maia 200 vorgestellt, der laut eigenen Angaben dreimal so schnell wie Amazons Trainium der dritten Generation bei FP4-Berechnungen ist und eine FP8-Leistung übertrifft, die die TPU der siebten Generation von Google erreicht.

Die Investition in diese neuen Chips signalisiert Googles Entschlossenheit, die Grenzen der KI-Inferenz weiter zu verschieben. Der Wettbewerb im Bereich der KI-Hardware wird in den kommenden Jahren entscheidend für die Entwicklung neuer Anwendungen sein – und Google scheint fest entschlossen, vorne dabei zu sein.