Menschen, die Tag für Tag unzählige Chats mit Claude, ChatGPT & Co. führen, Personen, die von KI-Systemen offenbar in den Selbstmord getrieben werden – oder Leute, die meinen, ein großes Sprachmodell sei ihr Partner fürs Leben: All diese merkwürdigen psychologischen Effekte Künstlicher Intelligenz sind längst Alltag. Bei Apples Siri AI soll das aber möglichst nicht passieren: Der iPhone-Hersteller hat dazu diverse „Guard Rails“ implementiert. Das berichten sowohl Nutzer der aktuellen Beta des KI-fizierten Sprachassistenzsystems als auch Leak-Experten, die entsprechende Strings im iOS-27-Code entdeckt haben.

Keine KI-Freundin, dafür Stundenzählerin

Versuche, Siri AI zum „AI girlfriend“ zu machen, scheinen zum Beispiel zu scheitern. Die Ex-Wall-Street-Journal-Tech-Reporterin Joanna Stern versuchte zum Beispiel über mehrere Tage, Siri zu ihrer Freundin „oder darüber hinaus“ zu machen. So erklärt die Sprachassistenz weder ihre Liebe noch versucht sie, Nutzern therapeutische Tipps zu geben. Auch bei medizinischen Problemstellungen – die etwa ChatGPT freudig zu diagnostizieren versucht –, reagiert Siri AI ablehnend.

Auch das Thema Chatbot-Sucht scheint man bei Apple im Hinterkopf behalten zu haben. Siri AI überwacht offenbar, wie lange einzelne Konversationen dauern – und gibt dann eine „Mach‘ mal Pause“-Meldung aus. Das geschieht allerdings laut Nachforschungen des Leak-Experten Aaron Perris erst nach mehreren Stunden. Siri AI gibt außerdem aus, dass das System „kein Mensch“ („not a person“) sei. Bislang sind beide Strings noch nicht bei Betatestern aufgetaucht, daher lässt sich noch nicht sagen, wann genau sie auftauchen.

Siri AI setzt Apple-Versprechungen um

Tester der aktuellen Beta von Siri AI loben, dass es Apple tatsächlich gelungen ist, die vor zwei Jahren angekündigten Funktionen umzusetzen. Das gilt insbesondere für die kontextbezogene Nutzung. Da auf dem iPhone oftmals das halbe Leben eines Nutzers zu finden ist, kann die Sprachassistenz somit sehr hilfreich sein. Apple betont, dass weder dem Konzern noch seinen Dienstleistern Daten offengelegt werden, auch in der Cloud sind sie so verschlüsselt, dass selbst Administratoren nicht herankommen.

Momentan erhalten Developer nur gestaffelt Zugriff auf Siri AI. Nach Installation der Betas von iOS 27, iPadOS 27 und macOS 27 müssen sich diese auf eine Warteliste setzen lassen, die nach und nach geöffnet wird. (Nutzer mit Apple-Store-ID aus der EU dürfen grundsätzlich nicht mitmachen.) Es gibt Klagen über vergleichsweise langsame Cloud-Antwortzeiten.

(bsc)

Apple gibt Entwicklern auf dem iPhone zahlreiche neue Metriken zur Optimierung ihres Anwendungsvertriebs an die Hand – und setzt dabei offenbar erstaunlich aggressiv auf ein Tracking der App-Store-Nutzer. Das berichtet das deutsch-kanadische Sicherheitsforschungsteam Mysk. Demnach speichert der iPhone-Hersteller gar jeden einzelnen Buchstaben bei der Eingabe in Suchfelder inklusive Zeitstempel. Das Problem: Wer den App Store verwendet, bekommt dafür keine Opt-out-Möglichkeit – offenbar auch dann nicht, wenn man personalisierter Werbung auf dem iPhone durch Apple grundsätzlich widerspricht.

Neue Metriken für Entwickler

Möglicherweise steckt Apples neue „Personalized Collections“-Funktion hinter dem erhöhten Mitspeichern der App-Store-Aktivität – oder nutzt diese zumindest. Damit möchte Apple erfassen, welche Interessen User an Apps haben, um ihnen dann algorithmisch passende Vorschläge zu machen. Sogenannte App Notes sollen zudem erklären, warum die Empfehlungen kamen – was an Mechanismen von Facebook oder Google erinnert, die Nutzern ihre interessenbasierte Reklame ebenfalls auf ihren Websites erklären (und sogar konfigurierbar machen).

Die Gruppe Mysk entdeckte die Speicherei auf simplem Weg, wie das Team auf X mitteilte: Die Daten fanden sich in Apples „Privacy Takeout“-Material, das man über privacy.apple.com anfordern kann, da dies gesetzlich so vorgeschrieben ist (etwa durch die DSGVO in Europa). Mysk zufolge handelt es sich bei den Informationen um App-Analytics-Daten, nicht um Endpoint-Infos für die App-Suche selbst. Mysk gelang es sogar, einen 1000 Zeichen langen Text, der in das Suchfeld des App Store eingefügt wurde, wiederzufinden – er war mit der Nutzer-ID verknüpft und landete in Apples Daten, obwohl die Eingabetaste nicht betätigt worden war.

Keine neue Entwicklung

Weitere in den gespeicherten Daten zu findende Informationen betreffen laut Mysk die Zeit, die ein Nutzer in bestimmten App-Store-Bereichen verbringt, etwa wie viel in einer Beschreibung gescrollt wird. Auch alle App-Store-Links aus Browsern werden samt Referrer geloggt.

Laut Mysk ist die Datensammlung nicht neu und besteht in Teilen mindestens seit iOS 14. Durch die Verknüpfung mit der ID seien die Daten auch nicht anonym. Offenbar interessieren sich auch Strafverfolger für die Informationen, so wurde Mysk laut eigenen Angaben bereits 2022 von US-Behörden angesprochen, die Hilfe bei der Datenanalyse wünschten. In den USA läuft gegen die App-Store-Datensammelei seit mehreren Jahren eine Sammelklage von Nutzern.

(bsc)

Das von der EU-Kommission und von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) vor rund einem Jahr versprochene Rahmenwerk für KI-Kompetenzen in Schulen wurde nun in seiner abgestimmten Fassung veröffentlicht. Es enthält gegenüber dem Entwurf keine Überraschungen, nur einige weiter ausdifferenzierte Tipps für die Unterrichtsgestaltung, damit die vorher als wichtig eingestuften KI-Kompetenzen auch tatsächlich entsprechend verschiedener Leistungsniveaus erworben werden können. Auf ein tiefgreifendes Problem macht die endgültige Fassung des Rahmenwerks aber unweigerlich aufmerksam: Sind KI-Kompetenzen nicht auch schon in der Lehrerschaft etabliert, wird auch die Vermittlung an die Schülerschaft in naher Zukunft kaum gelingen.

Der Hinweis auf nötige Fortbildungen für ältere Lehrkräfte und auch eine nötige Implementierung von KI-Schulungen schon in der Lehramtsausbildung wirkt deshalb etwas hilflos. Bedeutet dies doch, dass die eigentlich als so wichtig eingestuften KI-Kompetenzen nicht erst jetzt, sondern sehr wahrscheinlich erst in einigen Jahren so in Bildungseinrichtungen gelehrt werden könnten, wie es schon heute nötig wäre.

Was Lehrkraft Hänschen nicht lernt, lernt Schüler Hans nimmermehr

Am Konsultationsprozess wirkten laut EU und OECD mehr als 2000 Personen mit, 41 Prozent von ihnen Lehrkräfte. Der grundsätzliche Aufbau des Erwerbs von KI-Kompetenzen ist in der finalen Fassung erhalten geblieben. Junge Menschen sollen schrittweise lernen, mit KI zu interagieren (engage), mit ihr zu kreieren (create), sie zu verwalten (manage) und selbst KI zu designen (shape). Weiter ausdifferenziert sind nun die zu erreichenden Kompetenzstufen: Aus „Primary Education Scenario“ und „Secondary Education Scenario“ (Entwurf), sind die Kompetenzstufen „Basic“, „Intermediate“ und „Advanced“ geworden. Sie unterscheiden nicht mehr strikt zwischen Altersgruppen, sondern richten sich gleichermaßen an Kinder der Primar- und Sekundarstufe. Welche Aufgabenstellungen für welche Lerngruppen passend sind, sollen Lehrkräfte selbst entscheiden.

Problematisch bleibt im Rahmenwerk die Unverbindlichkeit gegenüber den Bildungssystemen. Es wird zwar festgestellt, dass laut der OECD-Studie „Teaching and Learning International Survey“ (TALIS) „im Jahr 2024 fast 40 Prozent der Lehrkräfte in den OECD-Bildungssystemen in KI geschult“ wurden. Diese Studie habe aber auch gezeigt, dass im Durchschnitt nur jede dritte Lehrkraft KI einsetzt und drei von vier Lehrkräften angeben, dass ihnen das Wissen und die Kompetenzen für einen KI-gestützten Unterricht fehlen (OECD, 2025b).

Es ist also nicht verwunderlich, dass das Rahmenwerk immer wieder daran appelliert, dass „Schulleitungen und Systemverantwortliche“ Lehrkräfte darin unterstützen müssen, KI zu verstehen und vermitteln zu können. Sie bräuchten berufliche Weiterbildung und institutionelle Unterstützung, um den Einsatz von KI gezielt zu strukturieren und in pädagogisch fundierte Verfahren zu integrieren. Nicht zuletzt bemüht das Rahmenwerk den Hinweis auf die allgemeine gesellschaftliche Verantwortung, KI-Kompetenzen zu vermitteln, da Lehrkräfte diese Aufgabe nicht alleine werden stemmen können. Die Verantwortung bleibt damit diffus, die Umsetzung nicht gesichert.

(kbe)