ChatGPT nutzt Grokipedia

Grokipedia, die KI-generierte Enzyklopädie von xAI, liefert Inhalte an andere Chatbots. Laut Guardian finden sich in der von Elon Musk initiierten Alternative zu Wikipedia problematische Einträge: Pornografie habe direkt zur Aidskrise beigetragen, Transgender-Personen würden abfällig bezeichnet, Rechtfertigungen für Sklaverei tauchten auf. Teile dieser Inhalte erscheinen nun auch bei ChatGPT und Claude.

Beide Chatbots sollen die Quelle verschleiert haben. Obwohl die Informationen eindeutig aus Grokipedia stammten, tauchte diese nicht in den Quellenangaben auf. Die Tests waren klein, doch sie verdeutlichen, wie leicht externe Quellen einen Chatbot beeinflussen können.

Zero-Day-Exploits durch KI sind bereits Realität

Künstliche Intelligenz kann bereits Zero-Day-Exploits entwickeln, wie Sicherheitsforscher Sean Heelan in einer neuen Studie dokumentiert. Für die anspruchsvollste Aufgabe benötigte ChatGPT gut drei Stunden und kostete etwa 50 Dollar. Diese Summe ließe sich leicht vervielfachen, ohne das Budget einer mittelgroßen Cybercrime-Bande zu sprengen.

Das verändert die Bedrohungslage grundlegend. Mit überschaubarem Investment könnte erstmals ein Arsenal funktionierender Exploits für nahezu alle internetfähigen Geräte entstehen. „Für dieses Szenario müssen wir Security neu denken“, sagt heise-Security-Experte Jürgen Schmidt. Die Herausforderung liege darin, bekannte Sicherheitsmethoden so zu verbreiten, dass Lücken zur Ausnahme werden.

Der Deutsche Verkehrssicherheitsrat empfiehlt den Bundesländern den flächendeckenden Einsatz von Monocams. Diese KI-gestützten Systeme an Brücken oder Straßenrändern erkennen automatisch, ob jemand am Steuer ein Smartphone in der Hand hält. Rheinland-Pfalz hat die Technik nach einer Testphase zum Jahresbeginn in den Regelbetrieb überführt.

Die Forderung steht im Zentrum der Debatte beim 64. Verkehrsgerichtstag Ende Januar in Goslar. DVR-Präsident Manfred Wirsch sieht in der technischen Aufrüstung ein wirksames Mittel gegen uneinsichtige Fahrer. Die Diskussion dreht sich um das Ziel von null Verkehrstoten in einer zunehmend digitalen Welt.

EU-Kommission eröffnet Digital-Services-Act-Verfahren gegen X

Die EU-Kommission hat ein drittes Verfahren gegen Elon Musks Plattform X eingeleitet. Im Fokus steht das Zusammenspiel zwischen dem sozialen Netzwerk und dem KI-Modell Grok. Dieses hatte zuletzt für Aufsehen gesorgt, weil es strafbare Inhalte generierte: Nacktbilder Minderjähriger, Gewaltfantasien und mutmaßlich geschlechtsspezifische Gewaltdarstellungen.

Die Kommission will prüfen, ob X seinen rechtlichen Pflichten nachgekommen ist. Zusätzlich verlangt sie Auskunft über die Empfehlungsalgorithmen der Plattform. Für die Untersuchung arbeitet Brüssel eng mit der irischen Aufsichtsbehörde zusammen, da die europäische X-Tochter in Dublin sitzt. Neben dem Digital Services Act könnten auch nationales Strafrecht und Datenschutzregeln greifen.

Anthropic muss Einstellungstests ständig erneuern, weil Claude sie löst

Anthropic kämpft mit einem ungewöhnlichen Recruiting-Problem: Das Unternehmen musste seinen Programmiertest bereits dreimal überarbeiten, weil jede neue Claude-Version die vorherige Testversion unbrauchbar machte. Mit Claude 3.7 Sonnet hätte über die Hälfte der Kandidaten besser abgeschnitten, wenn sie die Aufgabe komplett an die KI delegiert hätten. Claude Opus 4.5 erreichte schließlich dieselbe Punktzahl wie die besten menschlichen Bewerber.

Ein KI-Verbot kam für Teamleiter Tristan Hume nicht infrage, weil Ingenieure im Arbeitsalltag ebenfalls KI-Assistenten nutzen. Stattdessen orientierte er sich an Programmier-Puzzlespielen mit stark eingeschränkten Umgebungen. Der neue Test nutzt ungewöhnliche Einschränkungen, die in Claudes Trainingsdaten kaum vorkommen. Der Nachteil: Der Test hat weniger mit den realen Aufgaben zu tun. Doch Realismus, sagte Hume, könnte ein Luxus sein, den sich Anthropic nicht mehr leisten könne.

OpenAI kündigt Codex-Updates mit hohem Cybersecurity-Risiko an

OpenAI plant mehrere Neuerungen für sein Code-Modell Codex im kommenden Monat. CEO Sam Altman warnt dabei ungewöhnlich offen: Das Modell werde erstmals die Stufe „Hoch“ im unternehmenseigenen Cybersecurity-Risikoframework erreichen. Auf dieser Stufe kann ein Modell laut OpenAI bestehende Hürden für Cyberangriffe beseitigen, etwa durch automatisierte Attacken auf gut geschützte Ziele oder das automatische Finden von Sicherheitslücken.

Zunächst will OpenAI mit Produktbeschränkungen verhindern, dass Menschen die Modelle für Cyberkriminalität nutzen. Langfristig sollen die Modelle auch beim Beheben von Lücken helfen. Altman begründet die Veröffentlichung trotz der Risiken damit, dass es bald viele leistungsfähige Modelle geben werde. Deshalb sei es wichtig, aktuelle KI schnell einzusetzen, um Software sicherer zu machen.

Mit KI gesparte Zeit wird genutzt, um KI-Ergebnisse zu korrigieren

Der Einsatz generativer KI in Unternehmen erweist sich als zweischneidig. Laut einer Umfrage des HR- und Finanzsoftwareanbieters Workday sparen zwar 85 Prozent der Befragten eine bis sieben Stunden pro Woche mit KI. Doch bis zu 40 Prozent dieser Zeitersparnis geht für Nacharbeit an fehlerhaften Ergebnissen wieder verloren.

Nur 14 Prozent der Befragten kommen mit KI zu einem durchweg positiven Nettoergebnis und besserer Qualität. Auch messbarer Wert durch KI-Einführung bleibt für die Mehrheit aus: Laut der Beratungsgesellschaft PwC haben bisher nur rund 12 Prozent der Unternehmen Kosteneinsparungen und Wertzuwachs erzielt.

Meta schaltet KI-Charaktere für Teenager ab, zumindest vorerst

Meta will den Zugang von Teenagern zu seinen KI-Charakteren vorübergehend in allen Apps weltweit sperren, bis ein neues Kinderschutzmodell steht. Künftig sollen Eltern die Möglichkeit erhalten, Einzelgespräche ihrer Kinder mit KI-Charakteren zu unterbinden und mehr Einblick in deren KI-Interaktionen zu bekommen.

Die Ankündigung kommt kurz vor einem Verfahren gegen Meta in New Mexico. Dort wird das Unternehmen beschuldigt, Kinder nicht ausreichend vor sexueller Ausbeutung in seinen Apps zu schützen. Meta wies vergangene Woche ähnliche Vorwürfe zurück: Psychische Probleme von Jugendlichen ließen sich nicht direkt auf Social-Media-Nutzung zurückführen.

Sinnvoller Einsatz von KI bei Gericht

Im c’t-Datenschutz-Podcast „Auslegungssache“ spricht Richterin Kristin Benedikt auch über KI am Gericht. Einen „Robo-Richter“ lehnt sie strikt ab. Entscheidungen müssten von Menschen vorbereitet und getroffen werden. Sinnvoll sei KI aber bei unterstützenden Aufgaben, etwa bei Dolmetscherdiensten in Asylverfahren.

Das Problem: Geeignete Dolmetscher für seltene Sprachen oder etwa russische Gebärdensprache sind schwer zu finden. Komplexe juristische Sachverhalte gehen bei der Übersetzung oft verloren. Wenn KI hier unterstützen könne, sei das ein gutes Szenario, sagte Benedikt, die am bayerischen Verwaltungsgericht auch als Datenschutzbeauftragte tätig ist.

Japanische Kreative verlieren Einkommen durch generative KI

Rund zwölf Prozent der japanischen Manga-Künstler, Illustratoren und anderen Kreativen haben im vergangenen Jahr Einkommensverluste durch generative KI erlitten. Das ergab eine Umfrage der Freelance League of Japan mit knapp 25.000 Teilnehmern. Etwa drei Prozent verloren mehr als die Hälfte ihres Einkommens.

Betroffene berichten von kürzeren Fristen und niedrigeren Honoraren, weil Auftraggeber KI-Einsatz voraussetzen. Fast 90 Prozent sehen generative KI als Bedrohung für ihren Lebensunterhalt. Die Liga fordert von der japanischen Regierung Transparenzpflichten für Trainingsdaten, Kennzeichnungspflichten für KI-Werke und neue Systeme zur Gewinnbeteiligung.

Kein Ende des Geldsegens für Anguilla

Die Karibikinsel Anguilla hat die Millionenmarke bei registrierten .ai-Domains überschritten. Die Wachstumsrate liegt bei einem Prozent pro Woche. Premierministerin Cora Richardson Hodge gab die Zahl vergangene Woche bekannt.

Die Regierung des britischen Überseegebiets mit seinen 16.000 Einwohnern investiert die Einnahmen in Straßensanierung, Flughafenausbau und kostenfreie Gesundheitsversicherung für Kleinkinder. Im Dezember kündigte sie den Aufbau eines Staatsfonds an, um die Einnahmen für künftige Generationen zu sichern.

(igr)