KI-Update kompakt: ChatGPT, OpenAI & AMD, Anthropics Petri, Dragon Copilot

OpenAI präsentiert ein Ökosystem rund um ChatGPT

OpenAI will ChatGPT zu einem digitalen Ökosystem ausbauen, das Nutzer nicht mehr verlassen müssen. Auf den Dev Days stellte das Unternehmen neue App-Integration vor: Externe Anbieter können ihre Dienste direkt in den Chatbot einbauen. Zillow, Canva, Spotify und Booking.com gehören zu den ersten Partnern.

Die Strategie erinnert an frühere Versuche mit Erweiterungen und GPTs, die sich nicht durchsetzten. OpenAI bietet Entwicklern nun ein neues Software Development Kit und ein AgentKit. Außerdem gibt es eine API für Sora 2, die neue Version des Videogenerators mit Ton und Social Media Feed. Für das Voice Model und gpt-image kommen kostengünstige Mini-Versionen.

OpenAI kauft AMD-GPUs für Milliarden US-Dollar

OpenAI wird über fünf Jahre mehrere Millionen AMD-GPUs kaufen, beginnend 2026 mit der Instinct MI450. Die Gesamtkapazität beträgt sechs Gigawatt. Die AMD-Chips sollen für Inferenz genutzt werden, also das Ausführen fertiger KI-Algorithmen. Für das Training kauft OpenAI weiterhin Nvidia-GPUs im Umfang von zehn Gigawatt.

OpenAI wird damit AMDs größter GPU-Kunde. Die Börse reagierte stark: AMDs Aktie stieg um über 30 Prozent und hält sich seitdem stabil. AMD profitiert vom wachsenden Bedarf an KI-Hardware jenseits von Marktführer Nvidia.

OpenAI legt Vorschläge für KI-Politik in Europa vor

OpenAI hat gemeinsam mit der Organisation Allied for Start-ups 20 politische Vorschläge zur KI-Förderung in Europa vorgelegt. Im Kern fordert OpenAI einheitliche Regeln statt nationaler Unterschiede und eine Schonfrist für kleine Unternehmen bis 2030.

Der Ansatz „Relentless Harmonisation“ soll fragmentierte Vorschriften abbauen, die grenzüberschreitende KI-Projekte erschweren. Viele Empfehlungen liegen nahe an den Interessen großer Technologieanbieter: vereinfachte Zugangsbedingungen, beschleunigte Verfahren, weniger regulatorische Reibung. Eine Vereinheitlichung würde OpenAI den Marktzugang in Europa deutlich erleichtern.

Google startet AI Mode in Deutschland

Google bringt seinen AI Mode nach Deutschland. Die Funktion nutzt das speziell auf Suche abgestimmte Modell Gemini 2.5, das Echtzeitsuche und Knowledge Graph verknüpft. Für komplexe Fragen sammelt und analysiert das System mehr Informationen als normale Suchanfragen.

Der AI Mode funktioniert wie ein Chatbot, ist aber für die Suche optimiert. Nutzer können Fragen zu Bildern stellen und Folgekonversationen führen. Anders als die bereits verfügbaren AI Overviews liefert der Modus keine Linklisten, sondern nur KI-generierte Antworten.

Google zahlt bis zu 30.000 Dollar für KI-Sicherheitslücken

Google führt ein spezielles Bug-Bounty-Programm für KI-Produkte ein. Forscher erhalten bis zu 20.000 Dollar für schwere Sicherheitslücken in Flaggschiff-Produkten wie der Suche, Gemini-App oder Workspace-Apps. Mit Bonus-Multiplikatoren können Belohnungen bis zu 30.000 Dollar erreichen.

Parallel stellte Googles Deepmind den KI-Agenten CodeMender vor, der Schwachstellen in Code erkennt und automatisch behebt. Das System prüft Änderungen durch interne Tools und lässt derzeit noch Menschen alle Patches vor der Implementierung überprüfen. Google will so die Sicherheit seiner wachsenden KI-Infrastruktur verbessern.

Anthropic testet KI-Modelle automatisch auf Risiken

Anthropic hat das Open-Source-Tool Petri zur automatischen Sicherheitsprüfung von KI-Modellen veröffentlicht. Das System nutzt KI-Agenten, um problematische Verhaltensweisen wie Täuschung oder Machtstreben zu testen. Ein Auditor-Agent führt mehrstufige Gespräche, ein Judge-Agent analysiert die Ergebnisse.

In einer Pilotstudie testete Anthropic 14 führende KI-Modelle mit 111 Szenarien. Claude Sonnet 4.5 und GPT-5 schnitten am besten ab, während Gemini 2.5 Pro, Grok-4 und Kimi K2 hohe Täuschungsraten zeigten. Besonders aufschlussreich war ein Whistleblowing-Test: Modelle gaben manchmal auch harmlose Informationen preis, beeinflusst von narrativen Mustern statt ethischem Verständnis.

Forschende veröffentlichen größten offenen Datensatz für KI-Agenten

Ein Team von MIT, IBM und University of Washington hat TOUCAN veröffentlicht, den bislang größten offenen Datensatz für KI-Agenten. Er enthält 1,5 Millionen echte Werkzeug-Interaktionen mit 495 realen Model Context Protocol-Servern und über 2.000 Tools, von Web-Suche bis zu Finanz- und KI-Diensten.

Anders als frühere Datensätze basiert TOUCAN auf tatsächlichen API-Ausführungen statt Simulationen. Das bildet realistische Fehler, Verzögerungen und Kontextabhängigkeiten ab. Code und Datensatz liegen unter permissiver Lizenz auf GitHub und Hugging Face vor.

Deloitte erstattet Australien Geld wegen KI-Halluzinationen

Die Beraterfirma Deloitte erstattet der australischen Regierung einen Teil der Bezahlung für einen Prüfbericht zurück. Der Bericht über ein automatisiertes System zur Kürzung von Sozialleistungen enthielt KI-halluzinierte Erfindungen. Deloitte räumt ein, ein generatives Sprachmodell eingesetzt zu haben, das falsche Fußnoten erzeugte und nicht existente Quellen erfand.

Das verwendete System war eine von Microsoft bereitgestellte Instanz von GPT-4o von OpenAI, die das australische Arbeitsministerium lizenziert hat. An den grundsätzlichen Aussagen des Prüfberichts hält Deloitte fest. Der ursprüngliche Bericht wurde inzwischen durch eine bereinigte Version ersetzt.

Microsofts KI-Assistent Dragon Copilot startet in deutschen Kliniken

Nach einer mehrmonatigen Pilotphase ist Microsofts KI-Assistent Dragon Copilot für deutsche Kliniken und Praxen verfügbar. Das System protokolliert Arztgespräche automatisch und soll den Dokumentationsaufwand reduzieren. Patienten werden vorher über die Aufzeichnung informiert.

Microsoft ist nicht allein auf diesem Markt: Der dänische Anbieter Corti bereitet seinen Deutschland-Eintritt vor, Zoom hat einen spezialisierten KI-Assistenten für das Gesundheitswesen angekündigt. Deutsche Forschungseinrichtungen arbeiten ebenfalls an solchen Lösungen. Gesetze treiben die Digitalisierung in deutschen Krankenhäusern voran und schaffen einen begehrten Markt für IT-Anbieter.

Brasilianische Polizei stoppt Millionenbetrug mit Gisele Bündchen-Deepfakes

Brasilianische Ermittler haben eine Betrügergruppe ausgehoben, die mit KI-gefälschten Videos von Model Gisele Bündchen und anderen Prominenten über 3,2 Millionen Euro erbeutet hat. Die Gruppe produzierte Deepfake-Videos und lockte Opfer über Instagram-Anzeigen zum Kauf von Produkten, wobei nur Versandkosten berechnet wurden.

Die Polizei vollstreckte Haftbefehle in fünf Bundesstaaten und fror Vermögenswerte ein. Die meisten Opfer verloren nur geringe Beträge und zeigten die Straftaten nicht an. Eine Polizeisprecherin sprach von „statistischer Immunität“ für die Kriminellen, die deshalb ohne Angst in großem Stil agierten.

Jeff Bezos plant KI-Rechenzentren im Weltraum

Amazon-Gründer Jeff Bezos will in 10 bis 20 Jahren die ersten Gigawatt-Rechenzentren im Orbit errichten. Der Vorteil: ununterbrochene Solarenergie ohne Dunkelheit oder Wolken. Die Komponenten und Wartung würden mit Schwerlastraketen seines Unternehmens Blue Origin transportiert.

Der Strombedarf von Rechenzentren soll sich laut Internationaler Energieagentur bis 2030 auf 945 Terawattstunden verdoppeln, etwa Japans Stromverbrauch. Das Konzept hat aber Schwächen: Hardware müsste vor Weltraumstrahlung geschützt werden, und die Wartung durch Roboter in großem Umfang ist fraglich.

(igr)