Was bedeutet On-Device AI?

On-Device AI bedeutet, dass die Berechnungen der künstlichen Intelligenz direkt auf deinem Handy stattfinden. Früher mussten Smartphones für komplexe Aufgaben (wie das Erkennen von Sprache) die Daten über das Internet an riesige Server in Rechenzentren schicken (Cloud-KI). Dort wurde die Aufgabe gelöst und das Ergebnis an dein Handy zurückgesendet.

Heute haben moderne Smartphones einen eigenen, extrem leistungsstarken Chip eingebaut. Es handelt sich um die sogenannte NPU (Neural Processing Unit), die direkt am Smartphone SoC (System on a Chip) hängt. Dieser Chip ist rein dafür da, KI-Aufgaben direkt am Gerät zu berechnen. Funktionen wie intelligente Tastatur-Vorhersagen oder das Transkribieren von Audioaufnahmen passieren somit, ohne dass auch nur ein einziges Datenpaket dein Handy verlässt.

On-Device AI ist somit auch dafür verantwortlich, dasss Smartphone Chips immer schneller und leistungsfähiger werden: Davon merkst du in der alltäglichen Anwendung zwar wenig. Für alles rund um KI macht es aber gewaltige Unterschiede.

Die Vorteile: Warum lokale KI deine Privatsphäre schützt

Dass die Berechnungen nicht mehr zwingend ins Netz ausgelagert werden, bringt im digitalen Alltag massive Vorteile mit sich:

• Maximaler Datenschutz: Private Notizen, biometrische Daten oder persönliche Fotos bleiben lokal gespeichert. Da sie gar nicht erst auf fremde Server hochgeladen werden, können sie auf diesem Weg auch nicht abgefangen werden.
• Immer und überall nutzbar: Weil keine Serververbindung nötig ist, klappt die On-Device AI auch daheim im WLAN-Ausfall, im Flugmodus oder beim Wandern im Funkloch.
• Keine Wartezeiten: Die Daten müssen nicht erst um die halbe Welt und zurück geschickt werden. Die KI reagiert in Echtzeit – was besonders bei Live-Übersetzungen in Gesprächen enorm praktisch ist.

Die Grenzen der On-Device Verarbeitung

So beeindruckend lokale Smartphone-Chips mittlerweile sind, sie können (noch) nicht alles. Enorm komplexe Aufgaben – wie etwa das Generieren völlig neuer, hochauflösender Bilder oder das Beantworten sehr spezifischer, tiefgehender Wissensfragen – überfordern die Rechenleistung und den Akku eines Handys. Daher nutzen Hersteller oft sogenannte Hybrid-Modelle. Einfache KI-Aufgaben erledigt das Handy lokal. Braucht es mehr Power, wird die Anfrage verschlüsselt an die Cloud geschickt. Hier ist es essenziell zu wissen, welche Daten dein Handy teilt und wie du das kontrollieren kannst.

Volle Kontrolle über deine Daten: So stellst du dein Handy richtig ein

Woher weißt du nun, ob die KI wirklich nur am Gerät rechnet? Die großen Smartphone-Hersteller gehen das Thema Transparenz unterschiedlich an. Hier sind die genauen Pfade zu den wichtigsten Einstellungen auf den aktuellsten Geräten.

Samsung (One UI)
Samsung bietet für seine "Galaxy AI" einen sehr transparenten und strikten Ansatz: den Master-Schalter. Du kannst bei Samsung-Handys mit einem Knopfdruck erzwingen, dass alle unterstützten KI-Funktionen ausschließlich lokal stattfinden. Gehe zu Einstellungen > Galaxy AI (bei manchen Modellen Erweiterte Funktionen > Moderne Intelligenz). Aktiviere den Schalter "Daten nur auf dem Gerät verarbeiten". Wichtig: Bestimmte Funktionen, wie das aufwendige generative Bearbeiten von Fotos, erfordern zwingend die Cloud und funktionieren bei aktiviertem Schalter nicht. Für Live-Übersetzungen musst du die jeweiligen Sprachpakete vorab herunterladen.

Google Pixel (Android)
Google setzt bei seinen Pixel-Handys auf eine Architektur namens "Private Compute Core" und das lokale Sprachmodell "Gemini Nano". Sensible Aufgaben wie die Zusammenfassung im Rekorder oder die Erkennung von Spam-Anrufen (Scam Detection) laufen standardmäßig und strikt lokal ab – Audio wird flüchtig am Gerät verarbeitet und nicht gespeichert. Einen einfachen "Cloud-Aus-Schalter" für alle Funktionen gibt es hier jedoch nicht.

Wenn du den cloudbasierten KI-Assistenten einschränken willst, gehst du so vor: Gehe auf Einstellungen > Apps > Standard-Apps > App für digitale Assistenten. Wähle hier "Gemini" ab und wechsle zu "Keine", wenn du den generativen Assistenten nicht nutzen möchtest. Außerdem kannst du unter Einstellungen > Datenschutz und Sicherheit > Privatsphäre-Dashboard kontrollieren, welche Aktivitäten es im Zusammenhang mit KI-Assistenten gab.

Apple iPhone (iOS 27)
Apple fährt mit Apple Intelligence einen hybriden Weg. Sehr viele Anfragen werden lokal gelöst. Reicht die Power nicht, schickt das iPhone die Anfrage an die sogenannte "Private Cloud Compute". Apple verspricht, dass diese Serverdaten nicht gespeichert und nicht für das Training von KI verwendet werden. Einen klassischen Schalter, um die Cloud-Nutzung komplett zu verbieten und nur die lokale KI zu nutzen, gibt es standardmäßig für Endnutzer:innen aktuell nicht. Du kannst dir aber volle Transparenz verschaffen oder die KI für einzelne Bereiche bei Bedarf ganz abschalten.

Gehe zu Einstellungen > Datenschutz & Sicherheit > Apple Intelligence Bericht. Hier kannst du dir den Verlauf der letzten 15 Minuten oder 7 Tage exportieren, um genau zu sehen, wann dein Handy auf die Private Cloud Compute zugegriffen hat. Mehr Infos dazu hier: Datenschutz am iPhone | apple.com.

Wenn du die KI Assistenzen in den einzelnen Apps deaktivieren willst, musst du sie leider relativ mühsam in allen Apps deaktiveren. Wie das genau geht, findest du auf der Apple Support Seite in diesem Bericht.

Fazit: Ein echter Schritt nach vorn für datenschutzbewusste Nutzer:innen

On-Device AI ist kein bloßes Marketing-Schlagwort, sondern ein echter Sicherheitsgewinn. Wenn Daten dein Handy gar nicht erst verlassen, gibt es auch keine Angriffsfläche im Netz [cite: 1.2.3]. Gerade bei hochsensiblen Dingen wie Live-Übersetzungen von Arztgesprächen oder dem Scannen von Ausweisen ist die lokale Verarbeitung ein Meilenstein.

Dennoch gilt: Lokale KI ersetzt nicht den bewussten Umgang mit deinen Daten. Halte die Software deines Handys immer aktuell, prüfe Berechtigungen kritisch und schütze dein Smartphone mit einem verlässlichen Basisschutz.