Smartphone-KI: Was lokal läuft und was in die Cloud geht

Lokal und online arbeiten

Ein Teil moderner KI arbeitet tatsächlich vollständig auf dem Gerät. Andere Aufgaben werden an Server übertragen und dort von wesentlich größeren Modellen verarbeitet. Dazwischen entstehen zunehmend hybride Systeme, die zunächst prüfen, ob eine Aufgabe lokal erledigt werden kann und nur bei höherem Rechenbedarf auf die Cloud zurückgreifen. Für den Nutzer macht dieser Unterschied nicht nur bei Geschwindigkeit und Funktionsumfang einen Unterschied. Er entscheidet auch darüber, welche Daten das eigene Gerät verlassen.

KI auf dem Smartphone ist älter als der aktuelle Hype

Smartphones verwenden künstliche Intelligenz beziehungsweise Verfahren des maschinellen Lernens schon wesentlich länger, als Begriffe wie Galaxy AI, Gemini oder Apple Intelligence existieren.

Die Kamera erkennt Gesichter und Motive, der Autofokus verfolgt Personen, Sprachassistenten erkennen gesprochene Wörter und die Tastatur versucht vorherzusagen, welches Wort als Nächstes geschrieben werden soll. Auch die automatische Sortierung von Fotos, Geräuschunterdrückung bei Telefongesprächen und viele Energiesparfunktionen beruhen auf Modellen, die aus Daten bestimmte Muster ableiten.

Neu ist weniger die grundsätzliche Verwendung von KI als die Leistungsfähigkeit generativer Modelle, die inzwischen direkt auf leistungsfähigen Smartphones ausgeführt werden können.

Generative KI stellt erheblich höhere Anforderungen

Eine Kamera muss für eine einfache Motiverkennung beispielsweise feststellen, ob sich auf einem Bild eine Person, ein Tier oder ein Gebäude befindet. Ein generatives Sprachmodell soll dagegen einen Text verstehen, Zusammenhänge berücksichtigen und anschließend eine neue Antwort erzeugen.

Dafür sind erheblich größere Modelle und wesentlich mehr Rechenoperationen notwendig. Dass solche Aufgaben inzwischen teilweise auf einem Gerät ausgeführt werden können, das problemlos in eine Hosentasche passt, ist vor allem der Entwicklung spezialisierter Hardware zu verdanken.

Moderne Smartphone-Chips bestehen längst nicht mehr ausschließlich aus klassischen CPU- und Grafikkernen.

Eine NPU ist auf KI-Berechnungen spezialisiert

In vielen aktuellen Prozessoren befindet sich eine Neural Processing Unit, kurz NPU. Andere Hersteller verwenden teilweise abweichende Bezeichnungen für vergleichbare Beschleuniger.

Diese Recheneinheiten sind darauf ausgelegt, bestimmte mathematische Operationen besonders effizient auszuführen, die bei neuronalen Netzen sehr häufig vorkommen. Eine solche Aufgabe könnte grundsätzlich auch von einer CPU oder GPU berechnet werden, würde dort aber häufig mehr Energie benötigen oder länger dauern.

Das ist bei Smartphones besonders wichtig. Eine KI-Funktion ist wenig hilfreich, wenn sie innerhalb weniger Minuten den Akku leert oder das Gerät stark erwärmt.

Das KI-Modell muss trotzdem in den Speicher passen

Rechenleistung ist nur eine Voraussetzung für lokale künstliche Intelligenz. Ein Modell benötigt außerdem Speicherplatz und während der Nutzung ausreichend Arbeitsspeicher.

Große KI-Modelle, wie sie in Rechenzentren eingesetzt werden, können Anforderungen besitzen, die weit jenseits dessen liegen, was in einem Smartphone praktikabel wäre. Für mobile Geräte werden deshalb kleinere und speziell optimierte Modelle entwickelt.

Google verwendet für solche Aufgaben beispielsweise Gemini Nano. Das Modell ist ausdrücklich für die Ausführung auf Geräten vorgesehen und kann über den Android-Systemdienst AICore bereitgestellt werden.

AICore bringt KI-Modelle direkt auf Android-Geräte

Android besitzt mit AICore inzwischen einen Systemdienst, über den geeignete Geräte generative KI-Modelle lokal verwenden können. AICore übernimmt dabei unter anderem die Bereitstellung und Verwaltung des Modells.

Google setzt dafür Gemini Nano ein. Anwendungen können entsprechende Funktionen nutzen, ohne für jede Aufgabe eine Anfrage an einen externen KI-Server schicken zu müssen.

Damit werden beispielsweise Aufgaben wie das Zusammenfassen, Umschreiben oder Beschreiben bestimmter Inhalte grundsätzlich direkt auf kompatibler Hardware möglich. Welche Funktionen tatsächlich zur Verfügung stehen, hängt allerdings vom Smartphone, Hersteller, Betriebssystem und der jeweiligen Anwendung ab.

Lokal bedeutet tatsächlich lokal

Wird eine KI-Aufgabe vollständig auf dem Smartphone ausgeführt, müssen die für diese Berechnung erforderlichen Eingabedaten nicht an einen externen Server übertragen werden.

Ein Text kann beispielsweise direkt auf dem Gerät analysiert werden. Das Modell berechnet dort seine Antwort und gibt sie anschließend an die App zurück.

Für sensible Inhalte ist das ein erheblicher Unterschied. Eine persönliche Nachricht, eine Notiz oder ein Foto muss für eine solche Funktion das Smartphone nicht verlassen.

Lokale KI kann ohne Internet funktionieren

Ein weiterer Vorteil zeigt sich sofort, wenn keine Datenverbindung vorhanden ist. Befindet sich das benötigte Modell bereits auf dem Smartphone, kann die Berechnung grundsätzlich auch offline erfolgen.

Das ist beispielsweise für Übersetzungen, Transkriptionen oder bestimmte Textfunktionen interessant. Im Flugzeug, in einem Funkloch oder im Ausland ohne mobile Daten bleibt die entsprechende Funktion weiterhin verfügbar.

Nicht jede als KI beworbene Smartphone-Funktion funktioniert allerdings offline. Ob eine konkrete Funktion eine Internetverbindung benötigt, hängt davon ab, wo ihre Berechnung tatsächlich stattfindet.

Offline heißt nicht, dass niemals Daten geladen werden

Auch eine lokal arbeitende KI benötigt gelegentlich eine Internetverbindung. Modelle müssen zunächst auf das Gerät gelangen und können später aktualisiert werden.

Sprachpakete, KI-Modelle oder zusätzliche Komponenten belegen deshalb teilweise überraschend viel Speicherplatz. Nach einem Systemupdate kann deren Größe ebenfalls steigen oder ein aktualisiertes Modell im Hintergrund heruntergeladen werden.

Die eigentliche Verarbeitung kann anschließend trotzdem vollständig lokal erfolgen. Das Herunterladen eines Modells und das Übertragen persönlicher Eingaben an einen KI-Dienst sind zwei unterschiedliche Vorgänge.

Lokale KI reagiert häufig schneller

Bei einer Cloud-Anfrage müssen Daten zunächst übertragen werden. Der Server verarbeitet sie und sendet anschließend das Ergebnis zurück.

Schon eine schnelle Mobilfunkverbindung verursacht dabei zusätzliche Verzögerungen. Ist das Netz ausgelastet oder die Verbindung schlecht, fällt dieser Unterschied stärker auf.

Lokale Modelle können dagegen unmittelbar auf der Hardware beginnen. Für kleine Aufgaben kann dadurch eine sehr kurze Reaktionszeit entstehen. Gerade bei Funktionen, die permanent im Hintergrund oder während des Schreibens arbeiten, ist das wichtig.

Die Cloud besitzt erheblich mehr Rechenleistung

Warum werden dann nicht sämtliche KI-Funktionen lokal ausgeführt? Der wichtigste Grund liegt in den Grenzen mobiler Hardware.

Ein Rechenzentrum kann leistungsfähige Spezialprozessoren, große Mengen Arbeitsspeicher und wesentlich größere Modelle verwenden. Stromverbrauch und Kühlung spielen dort zwar ebenfalls eine wichtige Rolle, die Grenzen liegen jedoch völlig anders als bei einem Smartphone mit einem wenige Millimeter dünnen Gehäuse.

Komplexe Aufgaben profitieren deshalb weiterhin von serverbasierten Modellen.

Größere Modelle können komplexere Aufgaben bewältigen

Ein kleines lokales Modell eignet sich gut für klar abgegrenzte Aufgaben. Es kann beispielsweise einen kurzen Text zusammenfassen, einen Satz umformulieren oder bestimmte Informationen klassifizieren.

Bei langen Dokumenten, umfangreichen Gesprächen oder schwierigen Schlussfolgerungen stößt ein kleines Modell schneller an Grenzen. Größere Modelle können wesentlich mehr Parameter, einen größeren Kontext und aufwendigere Berechnungen verwenden.

Cloud-KI ist deshalb nicht automatisch intelligenter, besitzt für anspruchsvolle Aufgaben aber erheblich größere technische Ressourcen.

Apple verwendet bewusst einen hybriden Ansatz

Apple Intelligence zeigt besonders deutlich, wie lokale und serverbasierte KI miteinander kombiniert werden können.

Nach Angaben von Apple bildet die Verarbeitung auf dem Gerät die Grundlage des Systems. Kann eine Anfrage lokal erledigt werden, bleibt die Berechnung auf dem iPhone. Für komplexere Aufgaben kann Apple Intelligence auf Private Cloud Compute zurückgreifen.

Dabei werden größere Modelle auf speziellen Servern mit Apple-Chips ausgeführt. Das Smartphone entscheidet also nicht grundsätzlich zwischen „KI auf dem Gerät“ und „KI im Internet“, sondern kann abhängig von der Aufgabe unterschiedliche Rechenorte verwenden.

Private Cloud Compute soll die Cloud anders absichern

Bei gewöhnlichen Onlinediensten muss der Nutzer darauf vertrauen, wie der Betreiber eingehende Daten verarbeitet, speichert und protokolliert.

Apple verfolgt bei Private Cloud Compute ein anderes Konzept. Nach Angaben des Unternehmens sollen nur die für die jeweilige Anfrage benötigten Daten verarbeitet und anschließend nicht dauerhaft gespeichert werden. Zusätzlich stellt Apple technische Informationen über die eingesetzte Server-Software zur Verfügung, damit deren Sicherheitsmechanismen überprüft werden können.

Damit verschwindet die Cloud nicht. Apple versucht vielmehr, serverbasierte Berechnungen mit einem Datenschutzmodell zu verbinden, das stärker an die Sicherheitsarchitektur seiner Geräte angelehnt ist.

Samsung lässt Cloud-Verarbeitung teilweise abschalten

Auch Samsung kombiniert lokale und serverbasierte Funktionen. Einige Galaxy-AI-Funktionen können vollständig auf kompatiblen Geräten laufen, während andere eine Netzwerkverbindung und Cloud-Verarbeitung benötigen.

Bei unterstützten Galaxy-Geräten kann die Verarbeitung von KI-Daten in den Einstellungen auf das Gerät beschränkt werden. Der entsprechende Schalter verhindert die Nutzung bestimmter cloudbasierter Verarbeitungen.

Das hat allerdings einen Preis: Funktionen, die zwingend einen Onlinedienst benötigen, stehen danach nicht mehr oder nur eingeschränkt zur Verfügung.

Übersetzungen eignen sich besonders gut für lokale Verarbeitung

Eine Übersetzungsfunktion besitzt Eigenschaften, die gut zu kleineren spezialisierten Modellen passen. Der Aufgabenbereich ist relativ klar definiert und die verwendeten Sprachmodelle können gezielt dafür optimiert werden.

Deshalb gehören Übersetzungen bei modernen Smartphones häufig zu den Funktionen, die zumindest teilweise offline möglich sind.

Das ist gleichzeitig ein wichtiger Datenschutzvorteil. Bei einer Telefonübersetzung oder einem persönlichen Gespräch können sehr private Informationen vorkommen. Je weniger davon einen externen Server erreichen müssen, desto geringer ist die zusätzliche Datenübertragung.

Zusammenfassungen können lokal oder online entstehen

Bei Textzusammenfassungen lässt sich dagegen nicht pauschal sagen, wo die Verarbeitung erfolgt.

Kurze Texte können von modernen On-Device-Modellen direkt auf dem Smartphone verarbeitet werden. Sehr lange Dokumente oder komplexe Inhalte benötigen möglicherweise ein größeres Modell in der Cloud.

Selbst innerhalb derselben Gerätefamilie können sich die Möglichkeiten unterscheiden. Ein neueres Smartphone mit leistungsfähigerem Prozessor und mehr Arbeitsspeicher kann Funktionen lokal ausführen, für die ein älteres Modell auf einen Server angewiesen wäre oder die dort überhaupt nicht angeboten werden.

Bildbearbeitung kann enorme Rechenleistung benötigen

Noch deutlicher wird der Unterschied bei generativer Bildbearbeitung. Ein störender Gegenstand soll entfernt und die entstandene Fläche realistisch ergänzt werden. Dafür muss die KI nicht nur erkennen, was auf dem Bild vorhanden ist, sondern passende neue Bildinformationen erzeugen.

Kleinere Korrekturen können lokal erfolgen. Aufwendige generative Bearbeitungen werden dagegen häufig in der Cloud durchgeführt.

Der Nutzer sieht davon möglicherweise nur einen Fortschrittsbalken. Technisch kann währenddessen jedoch ein Teil des Fotos an einen Server übertragen und dort verarbeitet werden.

Das KI-Symbol verrät den Verarbeitungsort nicht

Ein grundsätzliches Problem moderner Smartphone-Oberflächen besteht darin, dass eine als „AI“ gekennzeichnete Funktion wenig darüber aussagt, wie sie technisch arbeitet.

Zwei Funktionen innerhalb derselben App können völlig unterschiedlich aufgebaut sein. Eine verarbeitet sämtliche Daten lokal, die zweite verwendet einen Server des Geräteherstellers und eine dritte möglicherweise einen externen KI-Anbieter.

Für eine Datenschutzbewertung reicht deshalb die Information „KI-Funktion“ nicht aus.

Auch eine App kann ihre eigene Cloud verwenden

Die KI-Fähigkeiten des Betriebssystems sind nur ein Teil des Gesamtbildes. Apps können völlig unabhängig davon eigene KI-Dienste integrieren.

Eine Anwendung kann Text, Audio oder Bilder an ihre eigenen Server oder an einen externen Anbieter senden. Das geschieht unabhängig davon, ob das verwendete Smartphone grundsätzlich leistungsfähig genug für lokale KI wäre.

Entscheidend sind deshalb weiterhin Datenschutzbestimmungen, App-Berechtigungen und die konkrete technische Umsetzung des jeweiligen Dienstes.

Ein leistungsfähiges Smartphone garantiert keine lokale Verarbeitung

Aus der Hardware alleine lässt sich ebenfalls nicht ableiten, wo eine Funktion ausgeführt wird.

Ein aktuelles High-End-Smartphone kann über eine sehr leistungsfähige NPU verfügen und trotzdem eine bestimmte KI-Funktion ausschließlich über einen Cloud-Dienst anbieten. Umgekehrt können vergleichsweise einfache Aufgaben vollständig lokal verarbeitet werden.

Die Entscheidung hängt neben der Rechenleistung auch von Modellgröße, Lizenzierung, Entwicklungsaufwand, gewünschter Qualität und dem Geschäftsmodell des Anbieters ab.

Datenschutz ist der größte Vorteil lokaler KI

Bei vollständig lokaler Verarbeitung kann besonders sensibles Material auf dem Gerät verbleiben.

Das ist beispielsweise bei privaten Nachrichten, Gesundheitsinformationen, vertraulichen Dokumenten oder Fotos interessant. Jede unnötige Übertragung an einen Server schafft zusätzliche Stellen, an denen Daten verarbeitet werden müssen.

Lokale Verarbeitung reduziert diese Angriffsfläche. Sie bedeutet allerdings nicht automatisch, dass eine Anwendung grundsätzlich datenschutzfreundlich ist. Eine App kann weiterhin andere Daten übertragen, auch wenn eine einzelne KI-Funktion lokal arbeitet.

Cloud-Verarbeitung ist nicht automatisch unsicher

Umgekehrt wäre es falsch, jede serverbasierte KI als unsicher zu betrachten.

Daten können während der Übertragung verschlüsselt werden, Server können streng abgesichert sein und Anbieter können eingehende Informationen nur kurzfristig für die Berechnung verwenden. Entscheidend ist die konkrete Architektur.

Der grundlegende Unterschied bleibt dennoch bestehen: Was ausschließlich lokal verarbeitet wird, muss für diese Aufgabe keinem fremden System anvertraut werden.

Entscheidend ist auch, ob Eingaben gespeichert werden

Bei Cloud-KI stellt sich neben der Übertragung eine zweite Frage. Was passiert mit den Daten nach Abschluss der Anfrage?

Je nach Anbieter können unterschiedliche Regeln gelten. Eingaben können unmittelbar verworfen, für eine bestimmte Zeit zur Missbrauchserkennung gespeichert oder unter bestimmten Bedingungen zur Verbesserung des Dienstes verwendet werden.

Gerade bei sensiblen Informationen lohnt sich deshalb ein Blick in die Datenschutzeinstellungen und Nutzungsbedingungen eines Dienstes.

KI-Funktionen können zusätzliche Einstellungen besitzen

Bei modernen Smartphones lohnt es sich, die Einstellungen nicht nur oberflächlich zu betrachten.

Samsung bietet beispielsweise die Möglichkeit, unterstützte KI-Funktionen auf Verarbeitung innerhalb des Geräts zu beschränken. Andere Systeme weisen darauf hin, wenn eine Funktion eine Onlineverbindung benötigt oder einen externen Dienst verwendet.

Wer besonderen Wert auf Datenschutz legt, sollte solche Optionen bewusst konfigurieren, statt lediglich die Voreinstellungen zu übernehmen.

Lokal arbeitende KI benötigt Speicherplatz

Die größere Unabhängigkeit hat einen Nachteil. Das Modell selbst muss auf dem Gerät gespeichert werden.

Je leistungsfähiger lokale Modelle werden, desto relevanter wird ihr Speicherbedarf. Neben Fotos, Apps und Videos konkurrieren damit zunehmend auch Sprach- und KI-Modelle um den internen Speicher eines Smartphones.

Ein Teil dieser Daten wird vom Betriebssystem verwaltet und fällt deshalb nicht immer sofort als eigenständige App auf.

KI benötigt nicht nur Speicher, sondern auch Arbeitsspeicher

Während eine KI-Aufgabe ausgeführt wird, müssen Teile des Modells und die aktuell verarbeiteten Daten im Arbeitsspeicher verfügbar sein.

Das ist einer der Gründe, weshalb neue KI-Funktionen teilweise nur für bestimmte Smartphone-Generationen erscheinen. Selbst wenn ein älteres Gerät für gewöhnliche Anwendungen noch schnell genug ist, kann seine Speicherarchitektur für ein modernes generatives Modell ungeeignet sein.

Die Beschränkung auf neuere Hardware ist deshalb nicht zwangsläufig ausschließlich Marketing.

Auch der Akku setzt Grenzen

Lokale Berechnung spart die Datenübertragung, verbraucht aber selbst Energie.

Eine aufwendige KI-Berechnung belastet Prozessor, NPU und Arbeitsspeicher. Wird sie häufig ausgeführt, kann sich das beim Stromverbrauch bemerkbar machen.

Hersteller müssen deshalb zwischen Modellgröße, Geschwindigkeit, Ergebnisqualität und Energiebedarf abwägen. Ein theoretisch leistungsfähigeres lokales Modell wäre wenig attraktiv, wenn das Smartphone dadurch heiß wird oder die Akkulaufzeit massiv sinkt.

Die Cloud verlagert den Energieverbrauch

Bei serverbasierter KI verschwindet dieser Rechenaufwand nicht. Er findet lediglich an einem anderen Ort statt.

Das Smartphone benötigt dann Energie für die Datenübertragung, während die eigentliche Berechnung im Rechenzentrum erfolgt. Dort entstehen wiederum Stromverbrauch und Kühlungsbedarf.

Für den einzelnen Smartphone-Akku kann die Cloud trotzdem effizienter sein, wenn eine sehr komplexe Berechnung ansonsten lange Zeit die lokale Hardware stark belasten würde.

Die Zukunft dürfte hybrid sein

Die technische Entwicklung deutet deshalb nicht auf einen vollständigen Sieg von lokaler oder cloudbasierter KI hin.

Stattdessen werden Smartphones immer häufiger versuchen, die jeweils sinnvollste Variante zu verwenden. Kleine, häufige und datenschutzkritische Aufgaben eignen sich besonders gut für lokale Modelle. Komplexe Anfragen können an leistungsfähigere Server weitergereicht werden.

Das Smartphone wird damit zunehmend selbst entscheiden, welche Rechenleistung eine Aufgabe tatsächlich benötigt.

Kleinere Modelle werden gleichzeitig leistungsfähiger

Eine wichtige Entwicklung findet bei der Optimierung der Modelle statt. Ein KI-Modell muss nicht zwangsläufig immer größer werden, um bessere Ergebnisse zu liefern.

Durch effizientere Architekturen, Quantisierung und gezielte Optimierungen können Modelle mit geringerem Speicher- und Rechenbedarf überraschend leistungsfähig werden. Genau davon profitiert die On-Device-KI.

Aufgaben, für die vor wenigen Jahren noch leistungsfähige Server erforderlich gewesen wären, können dadurch auf mobilen Geräten ausgeführt werden.

Neue Smartphones werden stärker für KI gebaut

Bei Prozessorvorstellungen spielen Angaben zur KI-Leistung inzwischen eine ähnliche Rolle wie früher CPU-Takt und Grafikleistung.

Hersteller entwickeln Chips zunehmend mit Blick auf lokale Modelle. NPUs werden leistungsfähiger, Speicherbandbreiten steigen und Betriebssysteme erhalten eigene Schnittstellen für KI-Funktionen.

Damit verändert sich die Smartphone-Architektur. Das Gerät ist nicht mehr nur ein Terminal, das Anfragen an eine große KI im Rechenzentrum weiterleitet, sondern entwickelt sich selbst zu einer kleinen KI-Plattform.

Das kann ältere Smartphones schneller ausschließen

Für Nutzer besitzt diese Entwicklung allerdings eine unangenehme Seite.

Ein Smartphone kann bei Display, Kamera und Prozessorleistung noch vollkommen ausreichend sein und trotzdem bestimmte neue KI-Funktionen nicht erhalten. Der Grund liegt dann möglicherweise in fehlender NPU-Leistung, zu wenig Arbeitsspeicher oder einer nicht unterstützten Chiparchitektur.

Softwarefunktionen werden dadurch stärker an bestimmte Hardwaregenerationen gekoppelt.

Nicht jede KI-Funktion rechtfertigt einen Neukauf

Die Hersteller präsentieren neue KI-Fähigkeiten naturgemäß als wichtigen Fortschritt. Für die Kaufentscheidung sollte trotzdem geprüft werden, welche Funktionen im eigenen Alltag tatsächlich einen Nutzen bringen.

Eine gelegentliche Textzusammenfassung oder Bildbearbeitung rechtfertigt nicht automatisch den Wechsel eines ansonsten problemlos funktionierenden Smartphones.

Interessanter wird lokale KI dort, wo sie permanent im Hintergrund hilft, persönliche Informationen verarbeitet oder Funktionen ohne Internetverbindung ermöglicht.

Nutzer sollten nach dem Verarbeitungsort fragen

Die wichtigste Frage bei einer neuen Smartphone-KI lautet deshalb nicht nur, was sie kann.

Mindestens ebenso interessant ist, wo sie es tut.

Läuft die Funktion vollständig auf dem Smartphone, benötigt sie einen Server oder entscheidet das System abhängig von der Aufgabe? Werden Fotos oder Texte übertragen? Wie lange werden diese Daten gespeichert? Kann Cloud-Verarbeitung deaktiviert werden und welche Funktionen fallen anschließend weg?

Diese Fragen werden mit zunehmender Verbreitung künstlicher Intelligenz wichtiger.

On-Device-KI verändert den Datenschutz grundlegend

Bisher bedeutete leistungsfähige künstliche Intelligenz meistens, dass persönliche Daten das eigene Gerät verlassen mussten. Die Berechnung fand dort statt, wo ausreichend große Server zur Verfügung standen.

Leistungsfähigere Smartphone-Chips verändern dieses Verhältnis. Immer mehr Aufgaben können dort verarbeitet werden, wo die Daten ohnehin entstehen.

Ein Foto muss dann nicht hochgeladen werden, um seinen Inhalt zu analysieren. Eine Nachricht muss nicht zwangsläufig an einen Server geschickt werden, damit eine KI sie umformuliert. Gesprochene Sprache kann teilweise direkt auf dem Gerät transkribiert oder übersetzt werden.

Die Cloud wird trotzdem nicht verschwinden

Gleichzeitig steigen die Erwartungen an künstliche Intelligenz schneller, als mobile Hardware größere Modelle vollständig übernehmen kann.

Nutzer erwarten nicht nur kurze Zusammenfassungen, sondern umfassende Assistenten, komplexe Bildgenerierung, lange Kontextfenster und zunehmend anspruchsvollere Schlussfolgerungen.

Für solche Aufgaben werden Rechenzentren weiterhin eine wichtige Rolle spielen. Das Ziel moderner Smartphone-Systeme besteht deshalb weniger darin, die Cloud vollständig abzuschaffen, sondern sie nur dann einzusetzen, wenn ihre zusätzlichen Ressourcen tatsächlich benötigt werden.

Smartphone-KI besteht künftig aus zwei Welten

Der Begriff Smartphone-KI beschreibt damit eigentlich zwei unterschiedliche technische Welten.

Auf der einen Seite steht die On-Device-KI. Sie ist schnell, kann offline funktionieren und besitzt einen klaren Datenschutzvorteil, weil persönliche Inhalte das Gerät nicht verlassen müssen. Ihre Grenzen liegen bei Modellgröße, Speicher, Rechenleistung und Energieverbrauch.

Auf der anderen Seite steht die Cloud-KI. Sie kann erheblich größere Modelle einsetzen und komplexere Aufgaben bewältigen, benötigt dafür aber eine Netzwerkverbindung und eine Übertragung von Informationen an ein externes System.

Die interessantesten Lösungen entstehen dort, wo beide Ansätze sinnvoll miteinander verbunden werden. Für Nutzer wird deshalb künftig weniger entscheidend sein, ob ein Smartphone „KI kann“. Entscheidend wird sein, welche Aufgaben es selbst erledigt – und für welche es die eigenen Daten tatsächlich in die Cloud schicken muss.