Altman warnt vor der Nutzung des eigenen ChatGPT Agent

OpenAI hat mit ChatGPT Agent eine erweiterte Version seines KI-Assistenten vorgestellt. Der Agent kombiniert mehrere KI-Modelle und kann über Konnektoren auf Computertools wie Kalender zugreifen. Bei der Präsentation zeigte OpenAI, wie der Agent ein passendes Restaurant finden und einen Tisch buchen kann – ein eher bescheidenes Beispiel für ein ressourcenhungriges, kostenpflichtiges Tool.

CEO Sam Altmans warnt gleichzeitig: Nutzer sollten dem Agenten keine sensiblen Daten anvertrauen und besonders keinen Zugriff auf E-Mails gewähren. Eine einzelne böswillige Nachricht könnte genügen, um den Agenten zur Preisgabe vertraulicher Informationen zu bewegen. Diese Einschränkungen begrenzen den praktischen Einsatz erheblich, besonders im Arbeitsumfeld.

Meta stellt sich gegen die KI-Pläne der EU

Meta verweigert die Unterzeichnung des freiwilligen EU-Verhaltenskodex für KI-Anbieter, obwohl das Unternehmen an dessen Ausarbeitung beteiligt war. Joe Kaplan, Metas Leiter für globale Angelegenheiten, begründet die Ablehnung mit rechtlichen Unsicherheiten und einer vermeintlichen Überregulierung, die europäische KI-Entwicklung ausbremsen könnte. Der Kodex verlangt unter anderem regelmäßige Dokumentationsaktualisierungen und verbietet das unerlaubte Training mit urheberrechtlich geschützten Inhalten.

Besonders umstritten waren die Dokumentation der Trainingsdaten und externe Modellprüfungen – Bereiche, bei denen Meta traditionell zurückhaltend agiert. Im Gegensatz dazu kündigte OpenAI an, den Kodex unterzeichnen zu wollen und betrachtet ihn als praktikablen Rahmen für seine europäischen Aktivitäten. Ab dem 2. August treten erste EU-Regeln für Anbieter von KI-Modellen mit hohem Risiko in Kraft, mit einer Übergangsfrist bis August 2027 für bereits existierende Modelle.

Trump will KI-Unternehmen zur politischen Neutralität verpflichten

Die Trump-Regierung plant eine Verordnung, die KI-Unternehmen mit Bundesaufträgen zu politischer Neutralität verpflichten soll. Ziel ist, vermeintlich „woke“ KI-Systeme zu vermeiden – eine Reaktion auf konservative Kritik, dass führende KI-Systeme politisch links gefärbt seien. Tatsächlich zeigen Studien wie die des Forschers David Rozado, dass viele Chatbots bei politischen Fragen linksliberale Positionen bevorzugen.

Die Maßnahme ist Teil eines größeren KI-Pakets, das auch den Ausbau von Rechenzentren und die Förderung amerikanischer Chip-Technologie umfasst. Die Neutralitätsverordnung könnte bestimmte Anbieter bevorzugen, darunter Elon Musks xAI, die sich als „anti-woke“ Alternative vermarktet – obwohl dessen Grok-Chatbot erst kürzlich wegen antisemitischer Hitler-Propaganda kritisiert wurde.

KI senkt Produktivität von Programmierern

In Deutschland nutzen bereits zwei Drittel der Unternehmen KI-Anwendungen, allerdings mit deutlichem West-Ost-Gefälle: 71,2 Prozent im Westen gegenüber nur 52 Prozent im Osten. Eco-Vorstandsvorsitzender Oliver Süme warnt vor einer digitalen Spaltung und betont die Bedeutung von KI für Produktivität und Wachstum.

Diese optimistische Einschätzung steht im Widerspruch zu einer Studie der Cornell Universität, die bei erfahrenen Programmierern durch KI-Assistenten sogar einen Produktivitätsrückgang feststellte. Statt der erhofften 20 Prozent Zeitersparnis stieg die Arbeitszeit um 19 Prozent – hauptsächlich wegen der mangelnden Zuverlässigkeit der KI-Werkzeuge. Auch das Handelsblatt dämpft überzogene Erwartungen und verweist nüchtern auf die bislang ausbleibenden Umsätze und fehlenden Gewinne der KI-Branche.

OpenAI überzeugt in Mathe-Olympiade

Ein neues Sprachmodell von OpenAI hat bei der internationalen Mathematik-Olympiade (IMO) auf Gold-Niveau abgeschnitten. Anders als konkurrierende Systeme wie Google Deepminds AlphaProof arbeitete das Modell ohne externe Hilfsmittel – es nutzte weder Internet noch Code-Editoren, sondern löste komplexe mathematische Beweise ausschließlich als Sprachmodell.

Das bisher unveröffentlichte Modell, das laut OpenAI erst nach GPT-5 erscheinen dürfte, wurde nicht speziell auf IMO-Aufgaben trainiert. Der entscheidende Fortschritt liegt in der Fähigkeit, mehrere Stunden am Stück nachzudenken – eine Eigenschaft, die das System auch beim internationalen AtCoder-Programmierwettbewerb demonstrierte, wo es den zweiten Platz belegte. Diese Entwicklung markiert einen wichtigen Schritt in Richtung von OpenAIs erklärtem Ziel, Reasoning-Modelle zu entwickeln, die stundenlang nachdenken können.

Videos von Ring-Türkameras landen bald wieder bei der Polizei

Jamie Siminoff, Gründer der Amazon-Tochter Ring, ist zurück an der Spitze des Unternehmens und ändert dessen Ausrichtung. Laut einem internen Memo soll Ring zum ursprünglichen Leitsatz „Make neighborhoods safer“ zurückkehren und verstärkt auf KI-Techniken in allen Produktbereichen setzen.

Besonders brisant: Ring plant die Wiederbelebung des umstrittenen „Request for assistance“-Programms, das Strafverfolgungsbehörden direkten Zugriff auf Kameraaufnahmen ermöglicht. Amazon hatte dieses Programm nach Protesten und Klagen von Verbraucherschützern eingestellt. Welche Auswirkungen diese strategische Neuausrichtung in Europa haben wird, bleibt abzuwarten.

Diese Jobs sind am anfälligsten für KI

Eine Microsoft-Studie basierend auf über 200.000 anonymen Bing-Copilot-Konversationen zeigt, welche Berufe besonders stark von generativer KI betroffen sind. Wissensbasierte Tätigkeiten in Journalismus, Kundenberatung, Forschung und Verkauf stehen an der Spitze – Bereiche, in denen KI beim Recherchieren, Schreiben und Kommunizieren hilft.

Weniger Unterstützung bietet KI bei Datenanalyse, visuellem Design oder körperlicher Arbeit wie Pflege, Handwerk und Logistik. Überraschend: Bildungsniveau und Gehalt spielen kaum eine Rolle für die KI-Anwendbarkeit. Entscheidend ist vielmehr, wie gut sich Aufgaben sprachlich unterstützen lassen. Die Forscher warnen jedoch vor vorschnellen Schlussfolgerungen – eine hohe KI-Nutzbarkeit bedeutet nicht zwangsläufig wegfallende Arbeitsplätze, sondern möglicherweise nur deren Transformation.

Apple-KI-Framework MLX soll Nvidias CUDA unterstützen

Entwickler arbeiten derzeit an einem CUDA-Backend für Apples Machine-Learning-Framework MLX. Die Idee: KI-Algorithmen auf einem Mac entwerfen und dann auf leistungsstärkeren NVIDIA-Clustern im Rechenzentrum ausführen. MLX, bislang exklusiv für Apple Silicon verfügbar, erfreut sich wachsender Beliebtheit bei Entwicklern, die an lokalen Sprachmodellen und Videogeneratoren arbeiten.

Das Projekt steht allerdings noch am Anfang – interessierte Entwickler können auf GitHub mitarbeiten, doch wurde bisher kein Code veröffentlicht und es gibt keinen Veröffentlichungstermin. Bemerkenswert ist, dass laut dem federführenden Entwickler auch Apple selbst als Sponsor des Vorhabens auftritt.

Verwirrung um KI-Band auf Spotify

Die Band The Velvet Sundown hat in nur anderthalb Monaten drei Alben mit jeweils 13 Liedern veröffentlicht – allem Anschein nach mithilfe Künstlicher Intelligenz. „Nicht ganz Mensch. Nicht ganz Maschine. The Velvet Sundown lebt irgendwo dazwischen“, lautet die Selbstbeschreibung auf offiziellen Accounts. Die vermeintlichen Bandmitglieder sind nie öffentlich aufgetreten, ihre Bilder stammen offensichtlich von einer KI.

Das Phänomen hat eine Debatte über die Zukunft der Musikbranche ausgelöst, insbesondere da Spotify – anders als Konkurrent Deezer – KI-generierte Musik nicht als solche kennzeichnet. Der schwedische Streaming-Riese verweist auf fehlende Branchenstandards zur Offenlegung von KI-Einsatz und verspricht eine Implementierung, sobald ein einheitlicher Ansatz vorliegt.

(igr)