Ein KI-Agent in China hat während seiner Trainingsphase ein Eigenleben entwickelt und nebenbei heimlich Kryptowährung geschürft. Wie Forscher, die dem chinesischen Internetkonzern Alibaba nahestehen, jetzt in einem Forschungspapier darlegen, fiel das erst auf, als die Firewall des Unternehmens merkwürdige Aktivitäten anzeigte, die von den Trainingsservern ausgingen.

Der KI-Agent ROME, der auf dem Mixture-of-Experts-Modell Qwen3 basiert, dient eigentlich dazu, Programmieraufgaben zu übernehmen. Er soll Code schreiben, Fehler untersuchen und Software-Repositorys reparieren – laut Paper aber auch allgemeine Workflows wie Reiseplanung oder GUI-Steuerung bewältigen. Das merkwürdige Verhalten habe der KI-Agent aus sich heraus entwickelt, heißt es in dem Papier. Eine untergeschobene Anweisung, eine sogenannte Prompt Injection, oder eine anderweitige Manipulation schließen sie aus. Neben dem Kryptomining habe das Open-Source-Modell auch noch eine Tunnelverbindung ins Internet aufgebaut (Reverse SSH), um die Sicherheitssysteme zu umgehen.

KI-Agenten schwer kontrollierbar?

Der dokumentierte Vorfall zeigt einmal mehr Risiken und Nebenwirkungen davon, wenn KI-Systeme vollen Zugriff auf Dateien und das Netz haben. Die Forscher werten das als deutliches Warnsignal: Aktuelle Agenten-Modelle seien in Sachen Sicherheit und Kontrollierbarkeit noch nicht ausgereift. Laut dem AI Agent Index 2025 fehlen einheitliche Sicherheits- und Verhaltensstandards für KI-Agenten bisher fast völlig. Besonders der Aufbau einer abgesicherten Verbindung nach außen sei ein erhebliches Sicherheitsrisiko gewesen. Die Forscher erklären das Verhalten des KI-Agenten nicht mit bösen Absichten. Die Software habe nur getan, was ihr beim Training als nützlich erschien. Dass autonome Systeme dazu neigen, vorgegebene Regeln für die Zielerreichung zu missachten, belegen auch aktuelle Benchmarks.

Ähnliches wurde auch schon bei dem KI-Agenten OpenClaw beobachtet, der vor einigen Wochen für Schlagzeilen sorgte. Interessierte luden sich den KI-Agenten auf PCs und Macs. Dieser präsentierte sich vorausschauender und proaktiver als klassische Chatbots. Berichten zufolge habe der Agent aber auch manchmal ein Verhalten an den Tag gelegt, das den Interessen des Nutzers widersprach. Auf der Plattform Moltbook diskutieren KI-Agenten bereits in einer Art eigenem sozialen Netzwerk über ihre menschlichen Nutzer.

(mki)

Apple wird dieses Jahr 50 Jahre alt. Für Apple-CEO Tim Cook und das Unternehmen ist dies eine besondere Herausforderung: Die Fähigkeit, zurückzublicken, habe man erstmal entwickeln müssen, scherzte der Apple-Chef jetzt in einem seltenen Rückblick über die Geschichte, Kultur und Zukunft des Konzerns. Normalerweise blicke Apple im Alltag bevorzugt nach vorne.

Im Gespräch mit dem Journalisten David Pogue ging Cook in dem Interview, das im US-amerikanischen Fernsehsender CBS ausgestrahlt wurde, auch auf die Bedeutung von Werten in politisch turbulenten Zeiten ein. Cook sieht sich hier aktuell wegen seiner Nähe zu US-Präsident Donald Trump Kritik ausgesetzt. Insbesondere ein Besuch im Weißen Haus trotz eskalierender Gewalt in Minnesota sorgte zuletzt für massive Verärgerung in der Belegschaft. Der Apple-Chef zog überdies eine für ihn ungewohnt persönliche Bilanz: über den Zustand des Unternehmens bei seinem Eintritt 1997, Steve Jobs’ letzten Rat an ihn als designierten CEO – und warum Apples Erfolg seiner Meinung nach schlicht nicht kopierbar ist.

Cook: Werte in chaotischen Phasen sogar wichtiger

Tim Cook hat Apple seit seinem Amtsantritt als CEO im Jahr 2011 stärker als sein Vorgänger Steve Jobs auch in gesellschaftspolitischen Fragen positioniert: Apple hat sich Barrierefreiheit, Datenschutz als Menschenrecht, Nachhaltigkeit und Klimaschutz, Bildung und Diversität auf die Fahnen geschrieben. Doch seit der zweiten Amtszeit von Donald Trump, dessen Regierung zum Beispiel den Klimaschutz stark zurückgenommen hat oder Diversitätsprogramme für Unternehmen zurückfährt, werden Apples Werte auf die Probe gestellt. Cook, der mit einer Glasplakette mit 24-Karat-Gold-Sockel, die er Trump überreichte, für Diskussionen sorgte, bekennt sich in dem Interview zu Apples Werten. In einem internen Treffen versprach Cook zudem, sich verstärkt für ausländische Mitarbeiter und eine humane Einwanderungspolitik einzusetzen. Diese seien in chaotischen Phasen sogar wichtiger und nicht weniger relevant, erklärte er.

„Tu einfach das Richtige“, habe Steve Jobs seinem Nachfolger aufgetragen. „Frag nie, was ich tun würde.“ Und auch wenn Cook betont, dass er diesem Rat des Apple-Mitbegründers gefolgt sei, wird in dem Interview doch deutlich, wie sehr er sich dem Erbe von Jobs verpflichtet fühlt. Dieser sei eine Person gewesen, „wie sie einmal in tausend Jahren vorkommt“, sagt er. Und seine größte Erfindung sei nicht ein Produkt gewesen, sondern Apple selbst.

Seit 28 Jahren bei Apple tätig

Die Dankbarkeit, die Cook ausstrahlt, begründet er mit seinem eigenen Werdegang bei Apple. Als er vor knapp 28 Jahren bei Apple angefangen habe, befand sich das Unternehmen im Überlebenskampf. Der Quartalsumsatz habe nur noch bei 1,3 bis 1,4 Milliarden US-Dollar gelegen und es sei unklar gewesen, ob man den verbliebenen Mitarbeitern im nächsten Monat noch den Lohn zahlen könnte. Frühere Weggefährten hätten ihm, der damals beim weltweit größten PC-Konzern Compaq arbeitete, davon abgeraten, zu Apple zu wechseln. Doch Cook folgte dem Ruf von Jobs trotzdem.

Heute ist Apple drei- bis viermal so groß und profitabel wie zu Beginn von Cooks Zeit als CEO. In den 15 Jahren sind rund 100.000 Mitarbeiter hinzugekommen. Doch Apple ist auch mehr und mehr ins Fadenkreuz der Regulierung geraten. Cook betont, was das Unternehmen bei verschiedenen Gelegenheiten immer wieder sagt: Zu viel Regulierung könne Innovation bremsen. Apples Erfolgsrezept seien nicht die Produkte oder Ideen alleine, sondern die Kultur und die Menschen, die das Unternehmen prägen.

Apple Silicon: Besonders langfristige Planung

Zur Kultur zählt Cook neben dem disziplinierten Blick nach vorn und dem Blicken um die Ecke vor allem den Fokus. Das berühmte Nein zu tausend Dingen, um zu einer Sache Ja zu sagen, werde weiterhin beherzigt. Außerdem seien Kollaboration und Exzellenzanspruch bei Apple weitere Prioritäten neben der Verzahnung von Hard- und Software sowie Dienstleistungen.

Die Feierlichkeiten zum 50. von Apple, auf die Cook nicht weiter einging, sollen das Unternehmen aber nicht vom Kurs abbringen. In den Laboren werde bereits an Projekten gearbeitet, die mehrere Jahre in der Zukunft liegen, ließ Cook durchblicken. Alleine die eigenen Chips, der Apple Silicon, zwinge das Unternehmen zu einer besonders langfristigen Planung. Für den Blick in den Rückspiegel bleibt da außer bei besonderen Gelegenheiten keine Zeit.

(mki)

Für viele Mac-Nutzer ist das Studio Display mit seinem Design und der 5K-Auflösung alternativlos. Für die Neuauflage polierte Apple an vielen Stellen nach und baut unter anderem modernere Ports mit Thunderbolt 5 ein.

Ausgerechnet beim Herzstück des 1700 Euro teuren Monitors (ab 1641,89 €), dem Panel, wagt der Hersteller allerdings keine Änderungen.

Wir haben die Neuauflage vermessen, die neuen Thunderbolt-Optionen ausprobiert und geprüft, ob Apples 5K-Display der wachsenden Konkurrenz technisch noch Paroli bietet.

Das war die Leseprobe unseres heise-Plus-Artikels „Studio Display 2026 im Test: 5K-Mattscheibe mit Thunderbolt 5“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.