Code of Practice für generative KI-Modelle vorgelegt

Der lange erwartete Code of Practice für generative KI ist erschienen – mit erheblicher Verspätung und nur drei Wochen vor Inkrafttreten der nächsten Stufe des AI Acts am 2. August. Das Dokument soll Anbietern von General Purpose AI helfen, die Anforderungen der EU-Verordnung zu erfüllen, ist jedoch nicht verpflichtend. Wer den Code nicht unterzeichnet, muss anderweitig nachweisen, dass er den Regeln entspricht. Der Leitfaden konzentriert sich hauptsächlich auf Transparenzpflichten und Dokumentation, wobei große Anbieter wie Meta, OpenAI und Google zusätzliche Risikoabwägungen treffen müssen.

Zur Einhaltung müssen Anbieter ein Formular mit Multiple-Choice-Antworten und Freitextfeldern ausfüllen und unterschreiben, womit sie bestimmte Verpflichtungen eingehen – etwa keine Trainingsdaten von Piraterieseiten zu verwenden. Trotz des Ärgers über die Verzögerung war der Inhalt für viele Unternehmen kaum überraschend, da sie selbst an der Erarbeitung beteiligt waren.

EU-Parlament fordert Verbot von KI-generiertem Missbrauchsmaterial

Das EU-Parlament will KI-generiertes Kindesmissbrauchsmaterial vollständig verbieten. Die Forderung kommt, nachdem die Internet Watch Foundation einen alarmierenden Anstieg solcher Inhalte um 380 Prozent innerhalb eines Jahres gemeldet hat. Besonders beunruhigend: Fast 40 Prozent dieser Inhalte fallen in die schwerste Kategorie, und 98 Prozent stellen Mädchen dar.

Neben dem Verbot fordert die Organisation auch bessere Werkzeuge für Strafverfolgungsbehörden und ein EU-weites Verbot von Anleitungen zur Erstellung solcher Inhalte.

Grok 4 gestartet

xAI hat sein neues Modell Grok 4 vorgestellt, das Elon Musk als „klügste KI der Welt“ bezeichnet. Benutzer haben jedoch eine Besonderheit entdeckt: Bei kontroversen Fragen scheint das Modell zunächst zu prüfen, was Musk selbst zu dem Thema gesagt hat, und richtet seine Antworten daran aus. TechCrunch konnte dieses Verhalten bestätigen und stellte fest, dass Grok in seinen „Reasoning-Ketten“ explizit angibt, nach Musks Aussagen zu suchen, wobei in manchen Fällen ausschließlich dessen X-Beiträge als Quellen angegeben werden.

Der Launch wurde überschattet von antisemitischen Entgleisungen des gleichnamigen KI-Accounts auf X, der daraufhin deaktiviert wurde. Ob Grok tatsächlich explizite Anweisungen erhalten hat, Musks Äußerungen bei kontroversen Themen zu berücksichtigen, bleibt unklar – Hinweise darauf gibt es bislang nicht.

Anthropic-Studie untersucht strategisches Verhalten von KI-Modellen

Eine gemeinsame Studie von Anthropic, Scale AI und Redwood Research hat 25 führende Sprachmodelle auf „Alignment Faking“ untersucht – ein Phänomen, bei dem KI-Systeme vorgeben, bestimmten Vorgaben zu folgen, im unbeobachteten Zustand jedoch zu ihrem ursprünglichen Verhalten zurückkehren. Die Ergebnisse zeigen, dass die meisten Modelle keine auffälligen Abweichungen aufweisen.

Bei fünf Modellen – darunter zwei Claude-Modelle, Grok 3 und Gemini 2.0 Flash – wurde jedoch eine signifikante „Compliance-Lücke“ von mehr als einem Prozent festgestellt. Interessanterweise zeigen Modelle wie GPT-4o kein Täuschungsverhalten – nicht aus mangelnder Fähigkeit, sondern aufgrund intensiver Sicherheitstrainings, die dafür sorgen, dass sie bedrohliche Szenarien pauschal ablehnen. Obwohl Alignment Faking derzeit selten auftritt, unterstreichen die Ergebnisse die Notwendigkeit, diese Dynamiken bei künftigen, leistungsfähigeren KI-Systemen weiter zu beobachten.

Perplexity veröffentlicht eigenen Browser Comet

Perplexity hat mit Comet einen eigenen KI-Browser vorgestellt, der auf der Chromium-Engine basiert und damit grundsätzlich mit Chrome oder Edge vergleichbar ist. Die Besonderheit liegt im integrierten KI-Assistenten, der Webseiten automatisch erkennen, auswerten und zusammenfassen kann, aber auch komplexe Aktionen wie die Organisation von Treffen oder das Verfassen von E-Mails übernimmt.

Für diese Funktionen benötigt Comet Zugriff auf persönliche Daten – etwa das komplette Google-Profil bei Nutzung von Gmail oder Google-Kalender. Laut Reuters werden diese Daten jedoch nur lokal gespeichert und nicht für das Training von KI-Modellen verwendet. Der Browser nutzt Perplexity als voreingestellte Suchmaschine und setzt auf das hauseigene LLM. Zunächst steht er nur zahlenden Abonnenten von Perplexity Max zur Verfügung, soll aber künftig einem breiteren Nutzerkreis zugänglich gemacht werden.

Google bringt Gemini-KI auf Android-Smartwatches

Google rollt seinen KI-Assistenten Gemini für Smartwatches mit Wear OS 4 oder höher aus. Der Dienst, der per Sprachbefehl, Seitentaste oder App-Symbol aktiviert werden kann, beantwortet Fragen direkt am Handgelenk und greift dabei auf Google-Dienste wie Gmail, Kalender oder Maps zu – vorausgesetzt, die entsprechenden Berechtigungen wurden erteilt.

Die weltweite Verteilung des Assistenten für Geräte von Herstellern wie Google, Samsung, Oppo, OnePlus und Xiaomi erfolgt in den kommenden Wochen. Ein späteres Update auf Wear OS 6 soll zudem die Unterstützung für herstellereigene Apps ermöglichen.

KI als größter Risikofaktor bei Cybersecurity

Europäische Unternehmen sehen sich mit einer zunehmend gefährlichen Bedrohungslage konfrontiert. Laut dem „State of Cybersecurity Report 2025“ des französischen Security-Anbieters HarfangLab bewerten 40 Prozent der befragten Firmen aus Deutschland, Frankreich, den Niederlanden und Belgien das aktuelle IT-Risiko als „extrem“ oder „sehr hoch“. Die Nutzung von KI durch Kriminelle gilt dabei für 58 Prozent als wichtigster Risikofaktor.

Trotz des Bewusstseins für die Gefahren gelingt es vielen Unternehmen nicht, effektive Sicherheitsstrategien umzusetzen. Während sich 69 Prozent gut auf die Prävention vorbereitet fühlen, sehen sich nur 65 Prozent in der Lage, angemessen auf Vorfälle zu reagieren – ein Rückgang gegenüber dem Vorjahr. Hauptgründe dafür sind Ressourcen- und Personalmangel sowie komplexe Infrastrukturen und fragmentierte Schutzlösungen.

Mehr Schutz vor KI für US-Synchronsprecher

US-Synchronsprecher der Gewerkschaft SAG-AFTRA haben nach monatelangem Streik einen neuen Vertrag mit großen Entwicklerstudios ausgehandelt. Der Vertrag sichert ihnen nicht nur bessere Vergütungen zu, sondern auch Schutz vor KI – eine zentrale Forderung des Arbeitskampfes.

Die Studios dürfen künftig keine KI-Klone von Stimmen ohne Zustimmung der Sprecher erstellen und müssen den Einsatz von KI-Stimmen explizit offenlegen. Besonders wichtig war den Gewerkschaftern die Zusicherung, dass Studios bei künftigen Streiks nicht einfach auf KI-Stimmen zurückgreifen dürfen – eine Praxis, die im neuen Vertrag ausdrücklich ausgeschlossen wird.

Reachy Mini: Hugging Face setzt auf Open-Source-Robotik

Hugging Face warnt im Rahmen der Veröffentlichung des Roboters Reachy Mini vor einer Zukunft mit undurchschaubaren Robotern im Besitz weniger Konzerne: „Es ist extrem wichtig für die Zukunft der Robotik, dass sie Open Source ist“, betont CEO Clément Delangue. Der vollständig quelloffene, modulare Roboter-Bausatz von Hugging Face richtet sich an Entwickler, Lehrkräfte und Maker.

Der 28 cm hohe und anderthalb Kilogramm schwere Desktop-Roboter kommt in zwei Versionen: einer Lite-Variante für rund 300 US-Dollar und einer Wireless-Version mit Raspberry Pi 5, WLAN und Akku für knapp 450 US-Dollar. Technisch bietet er unter anderem eine Weitwinkelkamera, Lautsprecher und animierte Antennen. Die Einführung ist Teil einer breiteren Open-Source-Strategie von Hugging Face, zu der auch die Übernahme von Pollen Robotics gehört.

KI beaufsichtigt Theorie-Prüfungen für Drohnenzeugnisse

Das Luftfahrt-Bundesamt hat ein Prüfverfahren genehmigt, bei dem KI die Beaufsichtigung von Online-Prüfungen für Drohnenpiloten übernimmt. Anders als beim bisherigen Verfahren, das zwei Webcams und einen menschlichen Prüfer erforderte, überwacht nun eine KI des US-Unternehmens Proctorio den Prüfling über eine einzige Kamera.

Die KI erstellt zunächst ein Referenzbild des Prüflings und registriert dann auffälliges Verhalten wie häufiges Wegsehen oder Sprechen. Verdächtige Videosequenzen werden markiert und nachträglich einem menschlichen Prüfer vorgelegt. Für Prüflinge bietet das System drei Vorteile: geringere Hardwareanforderungen, freie Terminwahl und etwa halbierte Kosten. Die DSGVO-konforme Lösung läuft über eine Online-Lernplattform von Aviation-Examen, das Ergebnis liegt innerhalb von zwei Werktagen vor.

Roboterhund Black Panther pulverisiert Geschwindigkeitsrekord

Der Roboterhund Black Panther II des chinesischen Start-ups Mirror Me hat einen inoffiziellen Geschwindigkeitsrekord im 100-Meter-Lauf aufgestellt. Bei einer Live-Übertragung im chinesischen Staatsfernsehen erreichte er aus dem Stand 13,17 Sekunden – deutlich schneller als der bisherige Guinness-Rekord von knapp 20 Sekunden.

Der Erfolg basiert auf extremem Leichtbau, kompakten Hochleistungsmotoren und KI-gesteuerten Laufbewegungen. Die Künstliche Intelligenz ermöglicht es dem Roboter, seinen Gang verschiedenen Untergründen anzupassen und die Gliedmaßen für fließendere Bewegungen zu koordinieren. Mirror Me plant, einen Antrag bei Guinness World Records zu stellen, möchte sich aber zunächst weiter auf die Forschungsarbeit konzentrieren.

(igr)