Google SMS-App zensuriert Nacktbilder, aber nicht Videos

Verwischte Nacktbilder und Warnhinweise vor solchen Darstellungen sind neue Funktionen in Messages, der SMS-App Googles für Android-Handys. Sie werden mit dem aktuellen Update der Anwendung ausgerollt. Google betont, dass keine Inhalte hochgeladen würden; die notwendige Bilderkennung erfolgt demnach ausschließlich auf dem jeweiligen Gerät selbst.

Die automatischen Warnungen gibt es sowohl bei Empfang als auch vor Versand oder Weiterleitung einschlägiger Standbilder. Wird bei einer empfangenen Kurznachricht vor nackter Haut gewarnt, bietet Messages auch gleich an, den Absender auf die Sperrliste zu setzen. Für Videos funktioniert der Filter laut Google nicht.

Die umstrittene Funktion kennen Apple-Nutzer seit Jahren. Mitte 2023 hat Apple einen Filter, der zunächst in der Nachrichten-App iMessage Dienst versah, auf weitere Teile des Betriebssystems sowie Videos erweitert.

SafetyCore kann gelöscht werden

Die neue Filterfunktion ist nur verfügbar, wenn Messages in ein Google-Konto eingeloggt ist. Erwachsene, die den Filter nutzen möchten, müssen ihn in den Einstellungen der Messages-App aktivieren. Für Jugendliche ohne elterliche Aufsicht (13 bis 17 Jahre) ist der Filter automatisch eingeschaltet, kann vom Anwender aber ausgeschaltet werden. Jüngere Nutzer unter Elternaufsicht haben diese Möglichkeit nicht, dort hat der Aufseher über die Anwendung Family Link die Kontrolle.

Die Nacktbilderkennung übernimmt eine Android-App namens SafetyCore (ab Android 9), die über kein aufrufbares User Interface verfügt. SafetyCore kann laut Versuchen der Redaktion über die Android-Einstellungen problemlos gelöscht werden, um Speicherplatz freizugeben. Dann verweigert Messages, wenig überraschend, die Aktivierung des Nacktbildfilters. Selbstredend können Android-Anwender auch andere SMS-Programme verwenden; Googles Messages-App ist nur eine von vielen Möglichkeiten. Der Datenkonzern weist darauf hin, dass sein Algorithmus nicht unbedingt fehlerfrei ist. Er mag bisweilen Nacktdarstellungen unerkannt durchgehen lassen, oder umgekehrt Prüderie-konforme Bilder irrtümlich verwischen und vor ihnen warnen.

(ds)