Bestehende KI-Sicherheitspraktiken reichen nicht aus

Die Fähigkeiten sogenannter General-Purpose-KI haben sich im vergangenen Jahr rasant entwickelt. KI-Modelle wie ChatGPT, Gemini und Claude werden leistungsfähiger, doch bestehende Sicherheitspraktiken kommen nicht hinterher. Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report, an dem über 100 Forschende aus mehr als 30 Ländern mitgearbeitet haben.

Vor allem in Mathematik, Naturwissenschaften und Programmierung gab es große Sprünge. Nutzbarkeit und Risiko von KI seien eng verbunden, ein starker Anstieg der Leistung verstärke zugleich die potenziellen Risiken. Besonders alarmierend: KI erkennt immer zuverlässiger Sicherheitslücken in Software. Auch die Verbreitung von KI-generierten Fake-News bereitet Sorge. Hinzu kommt, dass KI-Systeme Menschen daran hindern, informierte Entscheidungen zu treffen. Das kritische Denken werde geschwächt, viele würden KI blindlings vertrauen.

Die bestehenden Sicherheitspraktiken können den Forschenden zufolge nicht ausreichend Abhilfe schaffen, da neue Fähigkeiten der KI unvorhersehbar und die Funktionsweisen von Modellen unzureichend erforscht seien. Positiv sei, dass zwölf KI-Unternehmen im vergangenen Jahr Sicherheitsframeworks veröffentlichten. Zentral sei aber vor allem eine Stärkung der gesellschaftlichen Resilienz.

Sexualisierte Deepfakes von Grok möglicherweise aus Kalkül

Die Pariser Staatsanwaltschaft hat am Dienstag die Räumlichkeiten des Kurznachrichtendiensts X in der französischen Hauptstadt durchsuchen lassen. Die Razzia wurde von der Abteilung für Cyberkriminalität zusammen mit Europol durchgeführt. Sie erfolgte im Zuge von Ermittlungen, die vor einem Jahr eingeleitet wurden und in denen es um die Algorithmen und die Auswahl angezeigter Beiträge geht. Die Staatsanwaltschaft hat bereits zugesichert, dass sich die Ermittlungen nicht mehr nur auf möglicherweise längst überholte Zustände bei X beschränken sollen, berichtet die Tageszeitung Le Figaro.

Inzwischen hat auch der KI-Chatbot Grok immer mehr Einfluss darauf, was Nutzern angezeigt wird. Darum sollen die Ermittlungen entsprechend ausgeweitet werden. Dabei sei auch explizit auf die sexuellen Deepfakes verwiesen worden, mit denen Grok nach dem Jahreswechsel weltweit für Aufsehen gesorgt hat. Laut einem Bericht der Washington Post könnte Ziel dieser Funktion gewesen sein, bewusst die Popularität von Grok zu steigern. Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um 72 Prozent im Vergleich zum gleichen Zeitraum im Dezember.

Auch die Leugnung von Verbrechen gegen die Menschlichkeit wurde bereits in die Ermittlungen aufgenommen, nachdem antisemitische Ausfälle des KI-Chatbots im Sommer vergangenen Jahres für Entsetzen gesorgt hatten. Indes hat Elon Musk bereits am Montag bekannt gegeben, dass xAI von seiner Firma SpaceX übernommen wurde. Fast konstante Sonnenenergie soll in Zukunft die Künstliche Intelligenz Grok antreiben, mit anfangs einer Million Satelliten.

Ist OpenClaw der erste echte KI-Assistent?

OpenClaw ist der neue Trend in der KI-Szene. Der autonome Agent hat auf GitHub mehr als 150.000 Sternebewertungen eingesammelt. User loben, dass der KI-Assistent sich proaktiv um Aufgaben kümmert und ihnen wirklich Arbeit abnimmt. Die Installation erfolgt mit einem einzigen Shell-Befehl, der Zugriff über Chat-Tools wie WhatsApp oder Telegram. Durch die Installation erlauben User OpenClaw kompletten Zugriff auf ihr Endgerät und alle Daten. Das Tool übernimmt auch eigenständig Aufgaben, die nicht direkt per Prompt angestoßen wurden.

Die Möglichkeiten werden nur dadurch realisiert, dass der KI-Assistent vollständigen Zugriff auf System und angebundene Dienste bekommt. OpenClaw kann Shell-Befehle ausführen und auf Passwort-Manager zugreifen. Der KI-Assistent speichert seine Erinnerungen als unverschlüsselte Textdateien. Würden Angreifer Zugriff auf das Gerät bekommen, könnten sie die Dateien ohne weiteres lesen. Sicherheitsexperten empfehlen, OpenClaw nur auf Zweitgeräten zu installieren.

OpenAI veröffentlicht Desktop-App zur Steuerung von KI-Agenten

OpenAI hat für seinen Programmier-Assistenten Codex eine macOS-App vorgestellt. Die soll die Verwaltung und Steuerung mehrerer KI-Agenten erleichtern. Nutzer können verschiedene Aufgaben parallel abarbeiten lassen. Die Agenten lassen sich asynchron über mehrere Projekte hinweg steuern. Die App steht ab sofort Nutzern aller Bezahl-Tarife zur Verfügung. Parallel zur Veröffentlichung verdoppelt OpenAI die Nutzungslimits für zahlende Kunden.

KI lauscht mit und verbessert den Ton

Seit bald elf Jahren betreibt Google den Mobilfunkdienst Fi Wireless. Telefonate routet der Konzern über eigene Server. Dort greift eine Künstliche Intelligenz ein, um Hintergrundgeräusche zu unterdrücken und gesprochenes Wort zu verstärken. Noch ist unklar, ob auch internationale Verbindungen bearbeitet werden, wie lange die Daten gespeichert bleiben und was Google sonst damit macht.

heise online hat Google dreimal um Auskunft gebeten, aber keine Antwort erhalten. Nicht ausgeschlossen ist daher, dass die KI durch Stimmerkennung die Identität der Teilnehmer feststellt oder Gesprächsinhalte mithört.

KI-Abschalter für Firefox kommt mit dem nächsten Update

Im Firefox Browser sollen mit einem einzigen Schalter ab Ende des Monats alle KI-Funktionen abgeschaltet werden können. Mit dem nächsten Update, das Ende Februar herauskommen soll, soll dieser Knopf eingefügt werden. Der Schalter soll so funktionieren, dass man alle KI-Funktionen pauschal ablehnen kann, ohne dass das bei Updates rückgängig gemacht wird. Es gibt aber auch die Möglichkeit, einzelne KI-Funktionen ab- und anzuschalten. Es muss sich noch zeigen, wie tief diese Abschaltung wirklich funktioniert.

USA starten Milliarden-Projekt zur Sicherung seltener Erden

Die US-Regierung hat das „Project Vault“ bekannt gegeben, eine strategische Reserve für kritische Mineralien wie Kobalt oder Lithium im Wert von 12 Milliarden Dollar. Diese soll die amerikanische Industrie unabhängiger von chinesischen Importen machen. Sie spielen eine zentrale Rolle beim massiven Ausbau der KI-Recheninfrastruktur.

Das Vorhaben kombiniert rund 2 Milliarden Dollar privates Kapital mit einem 10-Milliarden-Dollar-Kredit der US Export-Import Bank. Zu den beteiligten Unternehmen gehören Google, General Motors und Boeing.

Googles neues KI-Tool lässt Gaming-Aktien purzeln

Nachdem Google sein experimentelles KI-Tool Project Genie veröffentlicht hat, sind die Aktienkurse von Branchengrößen der Spieleindustrie Ende vergangener Woche drastisch eingebrochen. Take-Two fiel um 10 Prozent, Roblox büßte 12 Prozent ein und Unity verlor 21 Prozent an Wert. Project Genie kreiert aus Textbeschreibungen oder hochgeladenen Bildern interaktive Umgebungen. In Wirklichkeit ist die Technologie noch sehr begrenzt.

Die Erlebnisse sind auf 60 Sekunden beschränkt, Spielmechaniken und Sound fehlen. Vor diesem Hintergrund ist der Kurssturz eine Überreaktion der Wall Street.

Google erweitert KI-Testarena um Poker und Werwolf

Google DeepMind und die Datenplattform Kaggle bauen ihre gemeinsame KI-Testumgebung „Game Arena“ aus. Auf der Plattform treten KI-Modelle in strategischen Spielen gegeneinander an. Bisher maßen sich die Systeme vor allem im Schach, nun kommen Werwolf und Poker hinzu. Poker prüft, wie gut ein Modell mit Risiken und unvollständigen Informationen umgeht.

Werwolf misst laut Google etwa gut die Soft Skills, die zukünftige KI-Assistenten in ihrer Zusammenarbeit mit Menschen benötigen, darunter Kommunikation, Verhandlung und die Fähigkeit Mehrdeutigkeit zu navigieren. Zudem dient das Spiel Werwolf auch der Sicherheitsforschung: Es zeigt, ob eine KI Manipulationen durchschauen kann, aber auch wie gut sie andere KI-Modelle im Spiel täuschen kann.

Aktuell werden die Ranglisten von Googles eigenen Modellen Gemini 3 Pro und Gemini 3 Flash dominiert.

AlphaGenome eröffnet neue Möglichkeiten zur Genregulation

Ein Jahr, nachdem der Nobelpreis für Chemie an das KI-Modell AlphaFold von Google DeepMind vergeben wurde, hat das Unternehmen jetzt das KI-Modell AlphaGenome vorgestellt. Zwar gilt das menschliche Genom seit 2022 als komplett entschlüsselt, doch welche Prozesse etwa für bestimmte Krankheiten oder Reaktionen auf Umweltfaktoren verantwortlich sind, ist oft unklar.

Mit einer Auflösung bis hinab zu einzelnen Basenpaaren kann das neue Modell laut Studie für eine Sequenz von bis zu einer Million Basenpaaren Tausende molekularer Eigenschaften vorhersagen. Unter anderem, wo bestimmte Gene in verschiedenen Zell- und Gewebetypen beginnen und enden, die Menge der produzierten RNA und auch, welche DNA-Basen zugänglich sind, nahe beieinander liegen oder an bestimmte Proteine gebunden sind. Grob gesagt, liefert das neue Modell ein größeres Bild mit einer höheren Auflösung.

(igr)

Amazons KI-Sprachassistentin Alexa+ steht in den USA nun allen Nutzern offen: Nach einem knappen Jahr Testphase können nun uneingeschränkt alle Nutzer in den USA Alexa+ verwenden, kündigte Amazon an. Prime-Kunden bekommen Alexa+ ohne Aufpreis, alle anderen können Alexa+ separat für 20 US-Dollar im Monat buchen.

Das ist ein denkbar schlechter Deal: Das Prime-Abonnement ist günstiger und beinhaltet zusätzliche Vorzüge wie schnelleren Versand und Zugang zu Prime Video. Angesichts dieser Konstellation ist zu erwarten, dass die aufpreisfreie Prime-Anbindung von Alexa+ nur vorübergehender Natur sein könnte.

Alexa+ ist eine auf mehreren Large Language Models aufgebaute Sprachassistentin, die im Vergleich zur „alten“ Alexa einen größeren Funktionsumfang mitbringt. Unter anderem kann sich Alexa+ natürlicher mit Menschen unterhalten und Fragen sinnvoller beantworten. Im Unterschied zur bisherigen Alexa soll die neue Version etwa den Kontext von Anfragen besser verstehen, sich auch ohne ständige Wiederholung des Aktivierungsworts ansprechen lassen und Rückfragen stellen. Da sie als KI-Agentin funktioniert, kann sie außerdem beispielsweise bei Lieferdiensten Essen bestellen.

Gratis ausprobieren

Wer nicht für Alexa zahlen möchte und kein Prime-Kunde ist, kann Alexa+ in den USA trotzdem ausprobieren: Laut Amazon kann man die neue Sprachassistentin auch als Gratis-User über die Alexa-App und Alexa.com ausprobieren. Dieser Zugang ist auf Textausgabe limitiert, eine Sprachausgabe fehlt also.

Wann Alexa+ auch in Deutschland für alle Nutzer angeboten wird, ist noch offen. Hierzulande hat Amazon im vergangenen November mit dem Betatest der Sprachassistentin begonnen. Amazon erhofft sich von den Teilnehmern des Beta-Programms Feedback, um die Assistentin vor dem offiziellen Marktstart noch zu verbessern.

Zu den Preisen und Abo-Möglichkeiten von Alexa+ in Deutschland macht Amazon noch keine Angaben.

()

AMDs Strähne hält an: Auch das vierte Quartal 2025 schließt die Firma mit Rekordumsatz ab. AMD überbietet die eigene Prognose und knackt zum ersten Mal in der eigenen Firmengeschichte die 10 Milliarden US-Dollar Umsatz. Knapp 10,3 Milliarden sind es geworden, 34 Prozent mehr als ein Jahr zuvor und 11 Prozent mehr als im vorangegangenen Quartal.

Dank höherer Durchschnittspreise steigt der Gewinn noch stärker. AMD nennt im Geschäftsbericht knapp 1,8 Milliarden Dollar Betriebsgewinn für das Quartal und 1,5 Milliarden Nettogewinn. Gegenüber dem vierten Quartal 2024 entspricht das einer Verdopplung beziehungsweise einer guten Verdreifachung. Der Nettogewinn steigt so stark, weil AMD Ende 2024 unter anderem 186 Millionen Dollar zur Umstrukturierung verbuchte.

Auch das gesamte Jahr 2025 kann sich sehen lassen. AMD gibt gut 34,6 Milliarden Dollar Umsatz (+34 Prozent), 3,7 Milliarden Betriebsgewinn (+94 Prozent) und 4,3 Milliarden Nettogewinn (+164 Prozent) an. Letzterer ist höher, weil AMD unter anderem einen Steuervorteil von 103 Millionen Dollar und 577 Millionen Dollar Einkommen aus anderen Quellen verbucht. Dabei handelt es sich primär um unrealisierte Gewinne aus Langzeitinvestitionen.

Epyc und Instinct wachsen

Die beiden Kernsparten Data Center und Client & Gaming sind im Jahr 2025 erheblich gewachsen. Hardware für Rechenzentren bringt AMD erneut das meiste Geld, allerdings schrumpft der Abstand.

16,6 Milliarden Dollar haben Epyc-Prozessoren und Instinct-Beschleuniger über das gesamte Jahr eingebracht, ein Plus von 32 Prozent. Laut AMD laufen die Epycs anhaltend stark, während die Produktion der Instinct-GPUs weiter hochfährt. Mit der MI400-Serie und Epyc Venice ist die Aussicht positiv. Der Betriebsgewinn steigt aufgrund höherer Investitionen nur unwesentlich auf 3,6 Milliarden Dollar.

Seit Ende 2025 darf AMD auch wieder angepasste KI-Beschleuniger nach China verkaufen. Zuvor steuerlich abgesetzte Instinct-MI308-Modelle spülen jetzt doch 390 Millionen Dollar in die Kasse. Der Verkauf soll 2026 weiterlaufen.

Bild 1 von 5

Ryzen-Rekord

Client & Gaming verbessert sich dagegen um 51 Prozent auf 14,6 Milliarden Dollar Jahresumsatz. Die Sparte schließt alle Ryzen-Prozessoren, Radeon-Grafikkarten und Konsolenchips ein, etwa für die Playstation 5 und Xbox Series X/S. Der Betriebsgewinn steigt wegen eines vorteilhaften Produktmix um 141 Prozent auf 2,9 Milliarden Dollar.

AMD nennt einen Verkaufsrekord mit Ryzen-Prozessoren im vergangenen Quartal. Dort machten sie mit 3,1 Milliarden Dollar fast 79 Prozent des Spartenumsatzes aus – 34 Prozent mehr als ein Jahr zuvor. Grafikkarten und Konsolenchips kommen auf 843 Millionen Dollar Quartalsumsatz (+50 Prozent).

Einzig die Embedded-Sparte mit Produkten des übernommenen FPGA-Spezialisten Xilinx ist rückläufig. Der Jahresumsatz sinkt um drei Prozent auf knapp 3,5 Milliarden Dollar, der Betriebsgewinn um 13 Prozent auf gut 1,2 Milliarden.

Im kompletten Jahr hat AMD 8,1 Milliarden Dollar für Forschung und Entwicklung ausgegeben, 25 Prozent mehr als 2024. Die Kosten für Marketing und Verwaltung steigen um 52 Prozent auf 4,1 Milliarden Dollar.

Abverkauf an der Börse

Im angelaufenen ersten Quartal 2026 erwartet AMD 9,8 Milliarden Dollar Umsatz (+/- 300 Millionen). Im Mittel sinkt der Umsatz zum letzten Ergebnis damit nur um fünf Prozent, in Anbetracht des traditionell schwachen Jahresbeginns ein guter Wert. Im Vergleich zum ersten Quartal 2025 entspräche das 32 Prozent Wachstum.

Der Börse gefällt der Geschäftsbericht derweil nicht, obwohl AMD die selbst gesteckten Erwartungen und Börsenprognosen geschlagen hat. Die Aktie ist seit Bekanntgabe um über zehn Prozent gefallen.

(mma)