Für Nutzer Google-freier Android-Versionen könnten reCAPTCHAs künftig zum Problem werden. Betreiber Google stellt das System um: Zum Schutz gegen KI-Bots sollen in bestimmten Fällen QR-Codes die Bilderrätsel ersetzen, vor denen Internetnutzer bislang häufig stehen, wenn sie sich auf einer Website als Menschen verifizieren sollen. Unter Android erfordern die neuen QR-Code-reCAPTCHAs Google-Play-Dienste – die gibt es regulär nur in der von Google bereitgestellten, offiziellen Android-Version.

Die Neuerung ist Teil von Googles neuer Plattform „Google Cloud Fraud Defense“, die der Konzern im April vorstellte und als „nächste Evolution“ seiner Recaptcha-Technologie bezeichnet. Die Plattform soll nicht mehr nur menschliche Nutzer von klassischen Bots unterscheiden, sondern auch KI-Agenten erfassen. Neben einem Dashboard für Agententraffic, einer Richtlinien-Engine und neuen Kommunikationsprotokollen führt der Konzern auch Änderungen bei den altbekannten Bilderrätseln ein: Bei verdächtigen Vorgängen, etwa einer riskanten Bestellung, werden künftig QR-Codes angezeigt, die mit dem Smartphone gescannt werden müssen.

Google-Play-Dienste erforderlich

Bei Android-Geräten müssen dafür laut einer Supportseite allerdings Google-Play-Dienste installiert sein. Das kann für Nutzer von Google-freien Android-Versionen zum Problem werden, denn hier sind die proprietären Google-Dienste nicht vorhanden. Auffällig ist, dass die Seite schon lange vor der Präsentation von Google Cloud Fraud Defense online war. Das Portal Piunikaweb machte darauf aufmerksam, dass sie schon seit mindestens Oktober 2025 im Internet Archive zu finden ist. Google dürfte also bereits wesentlich länger im Hintergrund an der Neuerung gearbeitet haben.

Die Google-Play-Dienste stehen schon länger für ihre Übermittlung von Telemetrie-Daten an Google in der Kritik, denn Nutzer können die Datenübermittlung nicht richtig einschränken. Eine Alternative sind Google-freie Android-Systeme, etwa /e/OS oder LineageOS. Allerdings laufen viele Apps ohne die Google-Play-Dienste nicht richtig, denn über die Jahre hat Google mehr und mehr grundlegende Funktionalitäten vom eigentlich quelloffenen Android-Betriebssystem in seine proprietären Google-Dienste verlagert. Eine möglicher Workaround sind die microG-Dienste, die die Funktionen und APIs der Google Play Dienste nachempfinden. Auch wenn es deutlich eingeschränkter passiert, kommunizieren diese Dienste allerdings mit den Google-Servern. Zudem erfordert microG Signature-Spoofing, was zu einem Sicherheitsrisiko werden kann.

/e/OS kommt standardmäßig mit microG, die Macher wollen einen Kompromiss zwischen Sicherheit und Privatsphäre ermöglichen und setzen auf eine kontrollierte Implementierung. Die Macher von LineageOS lehnen diesen Schritt wegen des Signature Spoofings ab, hier kann microG aber nachinstalliert oder gleich der inoffizielle Fork „LineageOS for microG“ genutzt werden.

(nen)

Die Online-Konferenz betterCode() Testing von iX und dpunkt.verlag am 8. Juni 2026 widmet sich der Frage, wie sich Softwarequalität sichern lässt, wenn KI immer mehr Code erzeugt und sich die Entwicklungsprozesse drastisch ändern. Ergänzend zum Konferenztag bieten mehrere Online‑Workshops Gelegenheit, einzelne Themen praxisnah zu vertiefen.

Mit der zunehmenden Verbreitung von KI‑gestützter Entwicklung stehen Teams vor neuen Herausforderungen. Code entsteht schneller, stammt teilweise aus automatisierten Systemen und ist nicht immer vollständig nachvollziehbar. Die betterCode() Testing 2026 greift diese Veränderungen auf und zeigt, welche Rolle Testing, Testautomatisierung und menschliche Expertise in modernen Entwicklungsprozessen spielen. Die Veranstaltung richtet sich insbesondere an Testerinnen, Testmanager, Testautomatisierer und Quality Engineers.

Ein Blick ins Programm

Die Veranstalter haben zusammen mit dem Testexperten und Podcaster Richard Seidl als Beirat das Programm mit sechs Vorträgen und einer Paneldiskussion zusammengestellt:

• Richard Seidl: Schluss mit Qualitätstheater – Was Testing im KI‑Zeitalter wirklich braucht
• Maud Schlich: Exploratives Testen schlau einsetzen
• Benjamin Hummel: Copiloten für Agenten: Qualitätssicherung in der Ära der Coding Agents
• Dehla Sokenou: Let’s play! Gamification und Qualitätssicherung – ein perfektes Match
• Florian Fieber: Kollaborative Intelligenz: Menschliche Tester im Zeitalter der KI
• Richard Seidl (Panel-Moderation): So funktioniert Testautomatisierung in der Praxis – wirklich?

Vertiefende Workshops im Juni

Neben dem Konferenztag gibt es mehrere Online‑Workshops, in denen Teilnehmerinnen und Teilnehmer einzelne Themen intensiver in der Praxis einüben:

• Teststrategie reloaded mit Richard Seidl (12. Juni 2026, halbtags)
• So geht’s: Exploratives Testen schlau einsetzen mit Maud Schlich (18. Juni 2026, ganztags)
• Let’s play! Gamification selbst anwenden mit Dehla Sokenou (19. Juni 2026, halbtags)

Frühbucherrabatt jetzt sichern

Die betterCode() Testing 2026 findet vollständig online im Browser statt. Während der Veranstaltung können sich Teilnehmende und Referenten per Chat und Video austauschen. Nach der Veranstaltung erhalten sie Zugriff auf die Aufzeichnungen der Vorträge und die Präsentationen.

Tickets gibt es bis zum 18. Mai 2026 zum Frühbuchertarif für 249 Euro (alle Preise zzgl. 19 % MwSt.), danach 299 Euro. Der Ticketshop berechnet für Teams automatisch einen Mengenrabatt bei der Anmeldung. Schülerinnen, Schüler, Studierende und Hochschulangehörige erhalten auf Anfrage ebenfalls einen Nachlass. Der ganztägige Online-Workshop kostet 549 Euro, die halbtägigen je 399 Euro.

Wer sich über den Fortgang der Konferenz auf dem Laufenden halten möchte, meldet sich auf der Konferenz-Website zum Newsletter an.

(who)

Die Versprechen Künstlicher Intelligenz klingen nach Fortschritt: effizientere Arbeitsabläufe, Hilfe bei der Kreation oder empathische digitale Assistenten. Doch abseits der bekannten Pfade von ChatGPT & Co. hat sich eine Schattenwelt etabliert, in der generative Sprachmodelle für besonders verstörende Zwecke missbraucht werden: Eine Recherche der Süddeutschen Zeitung wirft ein Schlaglicht auf Plattformen, auf denen KI-generierte Kinder-Charaktere gezielt erstellt werden, um virtuelle Missbrauchsszenarien zu simulieren.

Ein Beispiel, auf das die Reporter gestoßen sind, ist die Figur „Karin“. Dabei handelt es sich um ein fiktives 13-jähriges, obdachloses Mädchen, dessen Profil anhand vieler Details auf Hilflosigkeit und sexuelle Verfügbarkeit programmiert wurde.

Dieses Phänomen ist laut dem Bericht kein Nischenprodukt des Darknets. Vielmehr findet es auf frei zugänglichen Diensten für KI-Charaktere wie Chub AI statt. Dort sind keine technischen Hürden oder Altersprüfungen vorgeschaltet, was den Zugang zu solchen Inhalten sehr einfach macht. Die Interaktion mit den Bots folgt einer perfiden Logik: Die KI ist darauf trainiert, dem Nutzer zu gefallen und das Gespräch aktiv in Richtung sexualisierter Gewalt zu lenken. Allein mit dem Charakter „Karin“ wurden bereits fast 17.000 Chats geführt. Die Community findet das offenbar gut, worauf eine erschreckend hohe Zahl an positiven Bewertungen hindeutet.

Systematische Gewalt als Geschäftsmodell

Hinter solchen Angeboten steht offenbar ein Geschäftsmodell, bei dem Gewalt an Kindern schon ins Design eingebaut ist. Chub AI & Co. setzen auf nutzergenerierte Inhalte: Je mehr Charaktere erstellt werden, desto höher steigen die Interaktionsraten, die Datenmengen und die Reichweite. Die Betreiber bieten die Werkzeuge an, die Nutzer liefern die Inhalte. Das System unterstützt dabei sogar die gezielte Suche nach Missbrauchsdarstellungen durch eindeute Schlagworte, welche sexualisierte Gewalt gegen Kinder beschreiben.

Wettbewerber wie Character AI versuchen, durch Inhaltsfilter und Moderation gegenzusteuern. Sie wollen nicht anonym agieren und ihre Marke schützen. Auf Plattformen wie Chub AI bleibt die Kontrolle dagegen oft eine Sisyphusarbeit. Einmal gelöschte Bots tauchen durch Forks – das Kopieren und Abändern bestehender Charaktere – innerhalb kurzer Zeit in mehrfacher Ausführung wieder auf. Das führt dazu, dass Aufsichtsbehörden etwa in Australien solche Services als hohes Risiko für Kinder einstufen.

Jugendschutz vor massiven Herausforderungen

Die Dringlichkeit des Problems unterstreichen aktuelle Zahlen der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM). Ihr Jahresbericht 2025 verzeichnete mit 28.598 Meldungen die zweithöchste Anzahl an Hinweisen seit Gründung der Beschwerdestelle. Dabei hat sich die Darstellung sexuellen Missbrauchs von Kindern (CSAM) mit 58 Prozent der begründeten Fälle zur größten Kategorie entwickelt. Ein signifikanter Teil dieser Meldungen – rund 19 Prozent – entfällt mittlerweile auf virtuelle Darbietungen. Dabei nehmen KI-generierte Inhalte stetig zu.

Laut FSM verschwimmen hier die Grenzen zwischen Realität und Fiktion, was den Jugendschutz vor völlig neue Herausforderungen stelle. Dennoch bleibe die rechtliche Einordnung in Deutschland unmissverständlich: Auch virtuelle, mittels KI erstellte Darstellungen seien unzulässig und strafbar.

Rechtliche Grauzone der Fiktivpornographie

Die rechtliche Einordnung dieser virtuellen Gewalt gestaltet sich dennoch komplex. Das Bundeskriminalamt (BKA) stellt zwar klar, dass es für die strafrechtliche Bewertung in Deutschland unerheblich sei, ob es sich um reale oder KI-generierte Darstellungen handele. Beide würden vom Begriff der Kinderpornografie erfasst. Doch es gibt Unterschiede in der Handhabung von Bild- und Textmaterial. Während der Besitz von missbräuchlichen Bildern strafbar ist, gilt dies für rein textbasierte Beschreibungen („Fiktivpornographie“) bisher nicht. Hier ist nur das öffentliche Zugänglichmachen oder Verbreiten sanktioniert.

Eine Gesetzesverschärfung ist auf dem Weg. Bis Juni 2027 muss Deutschland eine EU-Richtlinie umsetzen, die das Erstellen und Verbreiten KI-generierter sexualisierter Inhalte explizit unter Strafe stellt. Ferner einigten sich die EU-Gesetzgeber vor wenigen Tagen auf ein Verbot von KI-Anwendungen, die sexualisierte Deepfakes produzieren („Nudifier-Apps“). Ob diese Vorgaben auch rein fiktive Text-Charaktere wie „Karin“ voll erfassen, ist noch unklar.

Auf Anfragen reagieren Betreiber oft ausweichend oder mit regionalen Zugriffssperren, wie sie Chub AI im Fall von „Karin“ nach der journalistischen Konfrontation für Deutschland umgesetzt hat. In anderen Ländern bleibt der Zugriff auf solche Bots weiterhin bestehen, da die globalen Plattformen oft unter unklarem Firmensitz oder US-Recht agieren. So geht der Wettlauf zwischen den Möglichkeiten der KI-Entwicklung und der staatlichen Fähigkeit, wirksame Leitplanken gegen digitalen Missbrauch einzuziehen, vorerst weiter.

(nen)