Für lokale Google-KI reicht auch ein Mittelklasse-Smartphone mit MediaTek-Chip

Der Chip-Hersteller MediaTek hat kürzlich eine vielversprechende Ankündigung für die Mittelklasse gemacht. Der neue Dimensity-8300-Chip soll wie sein großes Geschwisterkind Dimensity 9300 ab sofort Googles kleinstes KI-Modell Gemini Nano unterstützen.

Bislang war Gemini Nano vor allem High-End Geräten vorbehalten. Durch die Integration in den günstigeren Dimensity 8300 könnte die auf dem Smartphone laufende KI aber schon bald einer breiteren Zielgruppe zugänglich gemacht werden.

Bis jetzt ist der Dimensity 8300 nur im Anfang des Jahres vorgestellten Poco X6 Pro zu finden, ich gehe aber davon aus, dass mehr Smartphones hinzukommen bzw. auch mehr Chips solche KI-Funktionen unterstützen werden.

Gemini Nano ermöglicht beispielsweise praktische Funktionen wie „Smart Reply“ oder generiert auf Knopfdruck Zusammenfassungen von Sprachnachrichten direkt auf dem Gerät. Solche lokalen KI-Features waren bisher Top-Modellen vorbehalten.

Generative KI auf dem Gerät (oder am Rande des Geräts) bietet Entwicklern und Nutzern mehrere Vorteile im Vergleich zum Cloud-Computing. Zu den Vorteilen gehören nahtlose Leistung, mehr Datenschutz, bessere Sicherheit und Zuverlässigkeit, geringere Latenzzeiten, die Möglichkeit, in Bereichen mit wenig oder gar keiner Konnektivität zu arbeiten, und niedrigere Betriebskosten.

MediaTek

Ob dabei ähnlich schnelle Verarbeitungszeiten erreicht werden wie mit High-End Chips, bleibt abzuwarten. Konkrete Leistungsdaten nannte MediaTek nicht, nur, dass der Chip Modelle mit bis zu 10 Milliarden Parametern ausführen könnte (das reicht für die Basics, GPT-4 hat aber beispielsweise mutmaßlich 100 Mal so viele). Die breite Unterstützung von Gemini Nano bleibt dennoch ein großer Schritt, um KI einem Mainstream-Publikum vor allem ohne Zugang zur Cloud zugänglich zu machen.

via