OpenAI hat auch die Pläne für einen Erwachsenenmodus von ChatGPT „für unbestimmte Zeit“ auf Eis gelegt, um sich voll auf die aktuellen Kernprojekte konzentrieren zu können. Das berichtet die Financial Times unter Berufung auf anonyme Quellen. Der Schritt folgt damit fast unmittelbar auf die Einstellung des KI-Videogenerators Sora. Im Fall des Abschieds vom eigenen Chatbot für erwachsene und auch erotische Inhalte war demnach Kritik von Investoren und interner Widerstand ausschlaggebend. Das damit verbundene Risiko sei einfach zu groß gewesen, während der Modus nicht viel zum Geschäft von OpenAI beigetragen hätte.

„Erwachsene wie Erwachsene behandeln“

Sam Altman hat den Plan für einen Erwachsenenmodus von ChatGPT im Oktober öffentlich gemacht. Damals sagte er, sein Unternehmen wolle „Erwachsene Nutzer wie Erwachsene behandeln“. Das würde auch Erotika für Nutzer und Nutzerinnen umfassen, deren Alter verifiziert worden sei. Wie weit es mit „Erotik“ dabei gehen sollte, hat er aber offengelassen. Intern sei das Thema aber besonders kontrovers gewesen, berichtet die Financial Times jetzt. „KI sollte nicht deine Freunde oder deine Familie ersetzen, man sollte menschliche Verbindungen haben“, zitiert die Zeitung jemanden, der OpenAI angeblich auch wegen dieser Pläne verlassen hat. Die Freigabe war vorher schon verschoben worden, ursprünglich sollte der Erwachsenenmodus laut Altman schon im Dezember kommen.

Laut der Zeitung gab es aber auch technische Probleme bei der Arbeit an dem erweiterten Modus, es habe Schwierigkeiten gegeben, KI-Systeme so zu trainieren, dass sie Inhalte generieren, die vorher unerwünscht waren. Beim Trainingsmaterial habe es Probleme gegeben, illegale Inhalte zuverlässig auszusortieren. Hinzu kommt, dass der Erwachsenenmodus auf eine funktionierende Altersverifizierung angewiesen ist. Die habe man bei OpenAI aber so noch nicht gehabt. Die seit Anfang des Jahres eingeführten Techniken hätten eine Fehlerrate von über 10 Prozent, was das Risiko solch einer Funktion weiter erhöht hätte.

(mho)

Das EU-Parlament hat am Donnerstagmorgen die von der EU-Kommission und zahlreichen Mitgliedsstaaten gewünschte Verlängerung der sogenannten „freiwilligen Chatkontrolle“ erneut abgelehnt. Zugleich haben sich die Parlamentarier für eine eingeschränkte Verlängerung unter strikten Auflagen ausgesprochen.

Damit bleibt das Parlament bei seiner Linie. Die Parlamentarier hatten den Vorschlag der Kommission bereits vor zwei Wochen abgelehnt und sich für starke Einschränkungen ausgesprochen. Auf Druck der Kommission und der Mitgliedsstaaten erzwang die Fraktion der Europäischen Volkspartei (EVP) eine erneute Abstimmung.

Kompromiss gescheitert

Nach der ersten Abstimmung hatten die Kommission und der Rat der Mitgliedsstaaten die Verhandlungen über einen Kompromiss mit dem Parlament platzen lassen. Zuvor war das Vorhaben schon im Rechts-Ausschuss des Parlaments gescheitert. Damit war klar, dass die Ausnahmeregelung für die „freiwillige Chatkontrolle“ in wenigen Tagen ausläuft.

Das Parlament hätte am Donnerstag eigentlich über das Ergebnis dieser Kompromissverhandlungen abstimmen sollen. Stattdessen hat die EVP eine erneute Abstimmung erzwungen, um vielleicht ein anderes Ergebnis zu erzielen. Während das nicht aufging und das Parlament in wesentlichen Punkten bei seiner Linie blieb, war insbesondere die Abstimmung über vorgeschlagene Einschränkungen knapp.

Als „freiwillige Chatkontrolle“ wird die Praxis von Unternehmen wie Meta oder Google bezeichnet, die über ihre Plattform laufende Kommunikation automatisch auf Darstellungen von Kindesmissbrauch zu prüfen. Für die Unternehmen besteht dafür keine gesetzliche Verpflichtung. Weil die Praxis aber gegen EU-Datenschutzregeln verstößt, gibt es dafür befristete Ausnahmeregelungen.

Die derzeit gültige Ausnahme läuft am 3. April ab. Die EU-Kommission hatte vorgeschlagen, diese Regelung um weitere zwei Jahre zu verlängern. Das hat das Parlament abgelehnt und sich stattdessen für eine kürzere Laufzeit bis August 2027 sowie starke Einschränkungen der Befugnisse ausgesprochen. Unter anderem soll die Suche nach einschlägigem Material nur bei konkretem Verdacht möglich sein.

Parallel verhandelt die EU über eine gesetzliche Grundlage, um eine Dauerlösung für die Chatkontrolle zu schaffen. Das Parlament ist gegen eine anlasslose Überwachung sämtlicher Kommunikation und setzt sich für klare Einschränkungen ein. Da die Verhandlungen stocken, sollte die Ausnahme erneut verlängert werden.

Die Verhandlungen über einen Kompromiss für die Ausnahmeregelung sind offenbar deshalb geplatzt, weil die Länder fürchten, damit eine Vorentscheidung für die Verhandlungen über die dauerhafte Lösung zu treffen. Der Rat will sich die Option auf eine anlasslose Chatkontrolle offenhalten.

Kommission macht Druck

Argumentiert wird dabei mit Kinderschutz und notwendigen Befugnissen für Ermittlungsbehörden. Noch am Mittwoch hatten vier EU-Kommissare eindringlich an die Parlamentarier appelliert, eine Verlängerung der derzeit gültigen Regeln zu ermöglichen. „Der Schutz von Kindern, nicht der von Tätern, muss der leitende Grundsatz des Handelns der EU bleiben“, mahnen Henna Virkkunen, Magnus Brunner, Michael McGrath und Glenn Micallef in einem Schreiben an die Parlamentarier. Kritiker argumentieren, dass eine allgemeine Chatkontrolle unverhältnismäßig in die Rechte der Bürger eingreift.

Das Drama um die Chatkontrolle ist alles andere als parlamentarischer Alltag. Und es wird jetzt wohl ein weiteres Kapitel geben: Nachdem das Parlament den Kommissionsvorschlag zwar abgelehnt, aber einen eigenen Änderungsvorschlag verabschiedet hat, sieht das parlamentarische Prozedere jetzt eigentlich erneute Verhandlungen mit Kommission und Rat vor. Kommt es erneut nicht zu einem Kompromiss und der Rat akzeptiert das demokratische Votum, ist die „freiwillige Chatkontrolle“ am 3. April Geschichte.

(vbr)

Apple-Systeme werden aktuell vermehrt angegriffen: Nach dem Exploitkit Coruna und der mittlerweile auf GitHub aufgetauchten Malware DarkSword, die Kriminellen als Vorbild dienen könnte, kursiert in gefälschten Repositories und via npm aktuell auch der macOS-Infostealer GhostClaw. Dieser versucht vom aktuellen Boom beim KI-Agenten OpenClaw zu profitieren und hofft, auf Nutzer zu treffen, die sich wenig mit dem Terminal auskennen – und dort Befehle einzutippen, die die Installation erst ermöglichen. Auch Entwickler, die nach OpenClaw-Werkzeugen suchen, könnten in die Falle tappen.

„Rug Pull“ mit quelloffener Software

Wie unter anderem die Jamf Threat Labs festgestellt haben, nutzt GhostClaw auch die Tatsache aus, dass Development zunehmend KI-unterstützt erfolgt. Die Kampagne läuft offenbar bereits seit Anfang März, GhostClaw wird teilweise auch als GhostLoader bezeichnet. Hauptinstallationsweg war anfangs der Node.js-Paketmanager npm. Nun fand Jamf Threat Labs mehrere GitHub-Repositories, die ebenfalls der Verbreitung dienen. Mindestens acht neue Proben von GhostClaw wurden entdeckt.

Das Problem: Sowohl die npm-Pakete als auch das Material auf GitHub gibt sich als ungefährliche Software aus beziehungsweise kopiert bekannte Produkte, darunter SDKs, Entwicklerwerkzeuge und sogenannte Trading Bots für den Handel mit Kryptowährungen. Laut Jamf Threat Labs erfolgt dabei eine Art Rug Pull: Ungefährlicher oder gar nicht funktionierender Code bleibt zunächst aktiv, wird dann einige Wochen später aber durch die Malware-Komponenten ersetzt oder ergänzt. Dieses Vorgehen soll offenbar Vertrauen erschwindeln.

Anleitung zur Malware-Installation

Einige der entdeckten GhostClaw-Repositories, darunter das sogenannte antigravity-pack, enthalten sogar ein README-Dokument, in dem auch Anfängern beigebracht wird, wie sie die Malware zu installieren haben – inklusive Passwort-Eingabe. Auch via OpenClaw lässt sich der Schadcode installieren, dabei wird das SKILL-System von dem KI-Agenten missbraucht. GhostClaw ist zudem an macOS angepasst und generiert über das Osascript-Kommando auf den ersten Blick authentisch wirkende Dialoge, über die man zu Freigaben genötigt werden soll. Jamf Threat Labs nennt in seiner Analyse diverse Indicators of Compromise, also Dateien, mit denen sich eine Infektion feststellen lässt.

GhostClaw/GhostLoader stiehlt unter anderem Passwörter, interessiert sich für Krypto-Wallets und will Vollzugriff auf die Mac-SSD. Damit ist letztlich alles möglich. Auch ein entfernter Command-and-Control-Server wird angesprochen, Angreifer könnten den Mac also auch fernsteuern. Nutzer sollten ganz genau hinsehen, welche Repositories sie installieren oder über npm auf ihren Mac holen. Infos zum Vorgehen von GhostClaw via npm hat Jfrog Security Research zusammengetragen.

(bsc)