Connect with us

Künstliche Intelligenz

Alibaba-Forscher: KI-Agent entwickelt Eigenleben beim Training


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Ein KI-Agent in China hat während seiner Trainingsphase ein Eigenleben entwickelt und nebenbei heimlich Kryptowährung geschürft. Wie Forscher, die dem chinesischen Internetkonzern Alibaba nahestehen, jetzt in einem Forschungspapier darlegen, fiel das erst auf, als die Firewall des Unternehmens merkwürdige Aktivitäten anzeigte, die von den Trainingsservern ausgingen.

Weiterlesen nach der Anzeige

Der KI-Agent ROME, der auf dem Mixture-of-Experts-Modell Qwen3 basiert, dient eigentlich dazu, Programmieraufgaben zu übernehmen. Er soll Code schreiben, Fehler untersuchen und Software-Repositorys reparieren – laut Paper aber auch allgemeine Workflows wie Reiseplanung oder GUI-Steuerung bewältigen. Das merkwürdige Verhalten habe der KI-Agent aus sich heraus entwickelt, heißt es in dem Papier. Eine untergeschobene Anweisung, eine sogenannte Prompt Injection, oder eine anderweitige Manipulation schließen sie aus. Neben dem Kryptomining habe das Open-Source-Modell auch noch eine Tunnelverbindung ins Internet aufgebaut (Reverse SSH), um die Sicherheitssysteme zu umgehen.

Der dokumentierte Vorfall zeigt einmal mehr Risiken und Nebenwirkungen davon, wenn KI-Systeme vollen Zugriff auf Dateien und das Netz haben. Die Forscher werten das als deutliches Warnsignal: Aktuelle Agenten-Modelle seien in Sachen Sicherheit und Kontrollierbarkeit noch nicht ausgereift. Laut dem AI Agent Index 2025 fehlen einheitliche Sicherheits- und Verhaltensstandards für KI-Agenten bisher fast völlig. Besonders der Aufbau einer abgesicherten Verbindung nach außen sei ein erhebliches Sicherheitsrisiko gewesen. Die Forscher erklären das Verhalten des KI-Agenten nicht mit bösen Absichten. Die Software habe nur getan, was ihr beim Training als nützlich erschien. Dass autonome Systeme dazu neigen, vorgegebene Regeln für die Zielerreichung zu missachten, belegen auch aktuelle Benchmarks.

Ähnliches wurde auch schon bei dem KI-Agenten OpenClaw beobachtet, der vor einigen Wochen für Schlagzeilen sorgte. Interessierte luden sich den KI-Agenten auf PCs und Macs. Dieser präsentierte sich vorausschauender und proaktiver als klassische Chatbots. Berichten zufolge habe der Agent aber auch manchmal ein Verhalten an den Tag gelegt, das den Interessen des Nutzers widersprach. Auf der Plattform Moltbook diskutieren KI-Agenten bereits in einer Art eigenem sozialen Netzwerk über ihre menschlichen Nutzer.

Lesen Sie auch


(mki)



Source link

Künstliche Intelligenz

Analyst zu Gemini auf dem iPhone: Rettet Google Apples KI-Ambitionen?


Trotz der Tatsache, dass Apple in Sachen Künstliche Intelligenz im Vergleich zur Konkurrenz zurückliegt, gibt es an der Börse positive Stimmung für den iPhone-Hersteller: Allein am Montag legten die Anteilsscheine bislang um knapp 1,7 Prozent zu, die Marktkapitalisierung nähert sich 4,6 Billionen US-Dollar.

Weiterlesen nach der Anzeige

Dabei hat Apple den Hype um milliardenschwere Hyperscaler-Rechenzentren ebenso wenig mitgemacht wie um die Anwerbung (sehr) teurer KI-Experten. Den Begriff „agentisch“ findet man auf Apples Website höchstens an wenigen Stellen der Entwickler-Website oder im App Store, wo Anwendungen von OpenAI und Co. angeboten werden.

Stattdessen setzt Apple voll auf die Kombination eigener Modelle mit Googles Gemini, also auf Zukauf. Der Preis soll mit einer Milliarde Dollar im Jahr geradezu ein Schnäppchen sein. Der bekannte Analyst Ming-Chi Kuo hat nun verschiedene Szenarien durchgerechnet, wie es mit Apples KI-Strategie weitergehen könnte, deren Details zumindest teilweise bereits heute bei der Entwicklerkonferenz WWDC 2026 verraten werden sollen.

Das Szenario der Börsen-„Bullen“ ist laut Kuo, dass Apple nur temporär im Hinblick auf KI Schwächen hat. Die Idee: Der Konzern kann aufholen und dennoch zum Schluss führend sein. Kuos Kontakte in Apples Lieferkette sprechen davon, dass das Geschäft zumindest bis Ende des Jahres stark bleibt. Das Narrativ gehe ungefähr so: „Wenn es Apple jetzt schon ohne KI so gut geht, stellen Sie sich vor, was mit KI passiert.“ Es sei dabei relativ egal, was Apple auf der WWDC zeige, die Bullen-Story könne erhalten bleiben.

Es gibt allerdings einige Schwächen bei dieser Vorstellung: Apple müsste auf der WWDC zunächst zeigen, dass es dem Unternehmen gelingt, mit Googles Gemini die bessere Nutzererfahrung zu liefern als Google selbst. Das gilt laut Kuo für KI-Anwendungen – also die geplante Siri-App samt Sprachbedienung –, agentische Workflows und die KI-Nutzung lokal auf dem Gerät (bei fehlendem Netzempfang oder aus Datenschutzgründen) und hybrid in der Cloud.

Weiterlesen nach der Anzeige

Sollte es Apple gelingen, „mehr“ mit Gemini zu erreichen als Google mit seinen eigenen Apps, wäre dies ein Signal an die Bullen, dass ihre Einschätzung stimmt. Geschieht dies nicht, würde sich Apple an Google ketten: Gemini wäre dann der Horizont dessen, was Apple im KI-Bereich auf seinen Plattformen leisten kann.

Entsprechend genau muss man heute hinschauen. Apple hatte sich mit seiner verschobenen kontextsensitiven Siri bereits einen massiven Schnitzer geleistet, der zuletzt sogar sehr teuer wurde, weil Nutzer deshalb klagten.


(bsc)



Source link

Weiterlesen

Künstliche Intelligenz

Liveticker zur WWDC: Ab 19 Uhr alles zu iOS 27, macOS 27, Siri und Apple-KI


Weiterlesen nach der Anzeige

Jetzt ist es so weit: Ab 19 Uhr mitteleuropäischer Sommerzeit steigt Apples diesjährige Keynote zur Entwicklerkonferenz World Wide Developers Conference (WWDC) 2026. Wie immer dürfte es vor allem um Software gehen: iOS 27, macOS 27, iPadOS 27, watchOS 27, tvOS 27 und visionOS 27 werden erwartet. Besonderer Fokus in diesem Jahr ist das Thema Künstliche Intelligenz, wo Apple bekanntermaßen viel Nachholbedarf hat.

So sollen Siri und Apple Intelligence auch dank Google-Gemini-Unterstützung endlich smarter und kontextsensitiver werden – unter anderem erstmals in Form eines echten Chatbots. Ob es auch neue Hardware geben wird, ist unklar. Denkbar wären unter anderem neue Mac-Studio- und Mac-mini-Modelle sowie Zubehör wie HomePod mini und Apple TV, allerdings gab es hier in jüngster Zeit keine konkreten Gerüchte, dass das Erscheinen an die WWDC geknüpft wäre. Alle Infos im Minutenprotokoll.

Weiterlesen nach der Anzeige

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Inhalt geladen.


(bsc)



Source link

Weiterlesen

Künstliche Intelligenz

Bootloop bei Pixel-Geräten seit März: Google hat offenbar eine Lösung


Seit Google im März ein größeres Update auf Android 16 QPR3 als „Pixel-Drop“ veröffentlichte, können zahlreiche Nutzer ihre Pixel-Smartphones nicht mehr verwenden. Denn seitdem stecken offenbar mindestens Hunderte Pixel-Geräte – von der Pixel-6-Serie bis hin zur neuesten Pixel-10-Reihe – in einer Neustart-Schleife (Bootloop) fest. Seitdem arbeitet Google an der Behebung des Fehlers, jedoch mit bescheidenem Erfolg. Die Betroffenen sind über ihre seit Monaten nutzlosen Geräte frustriert; nun haben erste Nutzer offenbar von Google ein Lösungstool erhalten. Den Berichten zufolge funktioniert es nicht bei allen.

Weiterlesen nach der Anzeige

Der öffentliche Issue-Tracker-Eintrag zum Bootloop-Fehler ist mittlerweile nahezu 800 Einträge lang. Nutzer teilen dort seit März Google und anderen Betroffenen ihre Erfahrungen mit. Sie schreiben über ihre Lösungsversuche und die teils frustrierende Kommunikation mit Google, die manchen Bootloop-Opfern Google-Store-Guthaben und ein Ersatzgerät anboten, jedoch ohne Rettung der auf ihren defekten Geräten gespeicherten Daten.

Dabei teilte Google Ende April mit, an einer Lösung zu arbeiten, die die Geräte retten könne, ohne Datenverlust. Diese Lösung hat Google offenbar seit Anfang Juni an erste Nutzer verteilt. Bei dieser handelt es sich um ein Web-Tool, für das Betroffene ihr Pixel-Gerät an einen Rechner anschließen müssen, der mindestens 7 GByte freien Speicher hat.

Nach Angaben der dedizierten Webseite funktioniert das Tool auf Pixel 3 oder neueren Geräten mit Android-Version 10 und höher. Es unterstütze ferner keine Android-Tablets oder ChromeOS-Geräte. Den Beiträgen der ersten Tester zufolge muss das Pixel-Gerät in den Fastboot-Modus und dort in den Rescue Mode versetzt werden. Einem Beitrag zufolge führt das Tool durch den Prozess, die Nutzer müssen lediglich den Anweisungen folgen.

Google hält zudem fest, dass es sich bei der Software noch um eine Betaversion handelt. Es ist daher durchaus möglich, dass der Konzern alsbald eine neue, stabile Software teilt. Tester müssen sich dem Beitrag zufolge keine Sorgen um ihre Daten machen. Es heißt: „Keine Sorge – dieser spezielle Wiederherstellungsprozess ist so konzipiert, dass er den Bootloop behebt, ohne Ihre persönlichen Daten zu löschen. Sobald das Telefon wieder funktioniert, können Sie Ihre Dateien wie gewohnt sichern.“

Weiterlesen nach der Anzeige

Einige Betroffene berichten, dass ihr Gerät nicht erkannt wurde, sodass eine Rettung nicht erfolgen konnte. Als Lösung hatte eine Person eine Android 17 Beta geflasht, mit der das Pixel-Smartphone wieder funktionierte. Ein weiterer Nutzer berichtet unter anderem auf Reddit und im Issue-Tracker über eine erfolgreiche Lösung: Er konnte sein Gerät in den abgesicherten Modus starten. Dann habe er die Standortdienste aktiviert, WLAN deaktiviert und sämtliche gespeicherten Netzwerke entfernt. Anschließend sei das Gerät seinem Bericht zufolge wieder normal gestartet.

Die zahlreichen Beiträge der laut Issue-Tracker offiziell über 400 Betroffenen zeigen jedoch auf, dass Google das Problem bis heute nicht vollkommen im Griff hat und auch keine universelle Lösung liefern kann. Für die Betroffenen ist das eine bittere Erfahrung mit Googles Hardwaresupport. Eine offizielle Stellungnahme zur Angelegenheit hat Google uns auf Anfrage von Anfang vergangener Woche nicht liefern können.

Es sei festzuhalten, dass die Anzahl der betroffenen Geräte verhältnismäßig überschaubar zu sein scheint, jedoch sollte der Konzern Geräte mit solchen gravierenden Fehlern schneller beheben und transparenter kommunizieren.

Lesen Sie auch


(afl)



Source link

Weiterlesen

Beliebt