Künstliche Intelligenz braucht immer mehr Rechenleistung – und das treibt Kosten und Energiebedarf in die Höhe. Google arbeitet nun an einem Chip, der die Architektur seines KI-Modells Gemini direkt in den Silizium-Chip einbettet. Das verspricht deutlich effizientere KI-Anwendungen.

Der neue Chip namens "Frozen v2" soll laut Informationen von The Information ab 2028 eingesetzt werden. Im Gegensatz zu den bisherigen TPU-Chips von Google, die flexibel für verschiedene Modelle nutzbar sind, wird bei Frozen v2 ein Teil der Modellarchitektur fest in die Hardware integriert. Das bedeutet: Bestimmte Abläufe des KI-Modells sind fest verdrahtet und müssen nicht mehr aufwendig berechnet werden.

Wie funktioniert "Frozen v2"?

Der Begriff "Frozen" stammt aus der KI-Entwicklung und beschreibt das Einfrieren von Parametern, die dann nicht mehr verändert werden. Bei Googles Frozen v2 Chip wird nicht einfach ein kompletter Satz von Modellparametern (Gewichte) fest eingebaut – das wäre zu unflexibel gewesen. Stattdessen wird die Struktur des Modells, also das Grundgerüst der KI-Architektur, direkt in den Chip integriert. Neue Parameter können weiterhin geladen werden, wodurch das Modell aktualisierbar bleibt.

Diese Vorgehensweise spart Rechenzeit, da bestimmte Berechnungsschritte entfallen. Das kann die Effizienz beim Ausführen von KI-Anfragen um das 6- bis 10-fache verbessern. Für Unternehmen, die KI intern nutzen, bedeutet das geringere Betriebskosten und schnellere Antwortzeiten.

Warum ist das für Unternehmen interessant?

Viele KMU denken bei KI vor allem an Softwarelösungen. Doch die Hardware dahinter entscheidet maßgeblich über Kosten und Leistungsfähigkeit. Ein Beispiel: Ein mittelständisches Unternehmen, das KI für die Kundenberatung einsetzt, kann mit effizienterer Hardware schneller reagieren und gleichzeitig Stromkosten senken.

Google plant Frozen v2 vor allem für den eigenen Gebrauch, um den steigenden Bedarf an KI-Rechenleistung zu decken. Die Chips werden wohl nicht als Produkt für andere Unternehmen angeboten. Trotzdem zeigt das Vorgehen, wie wichtig spezialisierte Hardware für die Zukunft der KI ist.

Was bedeutet das für den KI-Markt?

Die Optimierung von KI-Inferenzkosten wird immer entscheidender. Unternehmen, die KI-Modelle effizienter betreiben, können ihre Preise wettbewerbsfähiger gestalten und Marktanteile gewinnen. Google könnte mit Frozen v2 seine Modelle günstiger anbieten und so gegenüber Konkurrenten wie OpenAI oder Anthropic punkten.

Für Entscheider:innen in KMU ist das ein Signal, dass KI nicht nur eine Frage von Software ist. Effizienzsteigerungen durch spezialisierte Hardware können auch mittelgroßen Unternehmen Vorteile bringen, wenn sie KI-Lösungen einsetzen oder darüber nachdenken.

Was heißt das für Sie?

Die Entwicklung von Frozen v2 zeigt, dass KI-Hardware zunehmend maßgeschneidert wird. Für Unternehmen bedeutet das, dass KI-Lösungen langfristig nicht nur durch bessere Algorithmen, sondern auch durch effizientere Hardware günstiger und leistungsfähiger werden.

Wenn Sie KI in Ihrem Unternehmen nutzen oder planen, lohnt es sich, auch die Infrastruktur im Blick zu behalten. Effiziente Hardware kann die Betriebskosten senken und die Performance verbessern. Talient.ai unterstützt Sie dabei, passende Automatisierungs- und KI-Lösungen zu finden, die auf Ihre Unternehmensgröße und Bedürfnisse abgestimmt sind.