Bestehende KI-Sicherheitspraktiken reichen nicht aus

Die Fähigkeiten sogenannter General-Purpose-KI haben sich im vergangenen Jahr rasant entwickelt. KI-Modelle wie ChatGPT, Gemini und Claude werden leistungsfähiger, doch bestehende Sicherheitspraktiken kommen nicht hinterher. Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report, an dem über 100 Forschende aus mehr als 30 Ländern mitgearbeitet haben.

Vor allem in Mathematik, Naturwissenschaften und Programmierung gab es große Sprünge. Nutzbarkeit und Risiko von KI seien eng verbunden, ein starker Anstieg der Leistung verstärke zugleich die potenziellen Risiken. Besonders alarmierend: KI erkennt immer zuverlässiger Sicherheitslücken in Software. Auch die Verbreitung von KI-generierten Fake-News bereitet Sorge. Hinzu kommt, dass KI-Systeme Menschen daran hindern, informierte Entscheidungen zu treffen. Das kritische Denken werde geschwächt, viele würden KI blindlings vertrauen.

Die bestehenden Sicherheitspraktiken können den Forschenden zufolge nicht ausreichend Abhilfe schaffen, da neue Fähigkeiten der KI unvorhersehbar und die Funktionsweisen von Modellen unzureichend erforscht seien. Positiv sei, dass zwölf KI-Unternehmen im vergangenen Jahr Sicherheitsframeworks veröffentlichten. Zentral sei aber vor allem eine Stärkung der gesellschaftlichen Resilienz.

Sexualisierte Deepfakes von Grok möglicherweise aus Kalkül

Die Pariser Staatsanwaltschaft hat am Dienstag die Räumlichkeiten des Kurznachrichtendiensts X in der französischen Hauptstadt durchsuchen lassen. Die Razzia wurde von der Abteilung für Cyberkriminalität zusammen mit Europol durchgeführt. Sie erfolgte im Zuge von Ermittlungen, die vor einem Jahr eingeleitet wurden und in denen es um die Algorithmen und die Auswahl angezeigter Beiträge geht. Die Staatsanwaltschaft hat bereits zugesichert, dass sich die Ermittlungen nicht mehr nur auf möglicherweise längst überholte Zustände bei X beschränken sollen, berichtet die Tageszeitung Le Figaro.

Inzwischen hat auch der KI-Chatbot Grok immer mehr Einfluss darauf, was Nutzern angezeigt wird. Darum sollen die Ermittlungen entsprechend ausgeweitet werden. Dabei sei auch explizit auf die sexuellen Deepfakes verwiesen worden, mit denen Grok nach dem Jahreswechsel weltweit für Aufsehen gesorgt hat. Laut einem Bericht der Washington Post könnte Ziel dieser Funktion gewesen sein, bewusst die Popularität von Grok zu steigern. Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um 72 Prozent im Vergleich zum gleichen Zeitraum im Dezember.

Auch die Leugnung von Verbrechen gegen die Menschlichkeit wurde bereits in die Ermittlungen aufgenommen, nachdem antisemitische Ausfälle des KI-Chatbots im Sommer vergangenen Jahres für Entsetzen gesorgt hatten. Indes hat Elon Musk bereits am Montag bekannt gegeben, dass xAI von seiner Firma SpaceX übernommen wurde. Fast konstante Sonnenenergie soll in Zukunft die Künstliche Intelligenz Grok antreiben, mit anfangs einer Million Satelliten.

Ist OpenClaw der erste echte KI-Assistent?

OpenClaw ist der neue Trend in der KI-Szene. Der autonome Agent hat auf GitHub mehr als 150.000 Sternebewertungen eingesammelt. User loben, dass der KI-Assistent sich proaktiv um Aufgaben kümmert und ihnen wirklich Arbeit abnimmt. Die Installation erfolgt mit einem einzigen Shell-Befehl, der Zugriff über Chat-Tools wie WhatsApp oder Telegram. Durch die Installation erlauben User OpenClaw kompletten Zugriff auf ihr Endgerät und alle Daten. Das Tool übernimmt auch eigenständig Aufgaben, die nicht direkt per Prompt angestoßen wurden.

Die Möglichkeiten werden nur dadurch realisiert, dass der KI-Assistent vollständigen Zugriff auf System und angebundene Dienste bekommt. OpenClaw kann Shell-Befehle ausführen und auf Passwort-Manager zugreifen. Der KI-Assistent speichert seine Erinnerungen als unverschlüsselte Textdateien. Würden Angreifer Zugriff auf das Gerät bekommen, könnten sie die Dateien ohne weiteres lesen. Sicherheitsexperten empfehlen, OpenClaw nur auf Zweitgeräten zu installieren.

OpenAI veröffentlicht Desktop-App zur Steuerung von KI-Agenten

OpenAI hat für seinen Programmier-Assistenten Codex eine macOS-App vorgestellt. Die soll die Verwaltung und Steuerung mehrerer KI-Agenten erleichtern. Nutzer können verschiedene Aufgaben parallel abarbeiten lassen. Die Agenten lassen sich asynchron über mehrere Projekte hinweg steuern. Die App steht ab sofort Nutzern aller Bezahl-Tarife zur Verfügung. Parallel zur Veröffentlichung verdoppelt OpenAI die Nutzungslimits für zahlende Kunden.

KI lauscht mit und verbessert den Ton

Seit bald elf Jahren betreibt Google den Mobilfunkdienst Fi Wireless. Telefonate routet der Konzern über eigene Server. Dort greift eine Künstliche Intelligenz ein, um Hintergrundgeräusche zu unterdrücken und gesprochenes Wort zu verstärken. Noch ist unklar, ob auch internationale Verbindungen bearbeitet werden, wie lange die Daten gespeichert bleiben und was Google sonst damit macht.

heise online hat Google dreimal um Auskunft gebeten, aber keine Antwort erhalten. Nicht ausgeschlossen ist daher, dass die KI durch Stimmerkennung die Identität der Teilnehmer feststellt oder Gesprächsinhalte mithört.

KI-Abschalter für Firefox kommt mit dem nächsten Update

Im Firefox Browser sollen mit einem einzigen Schalter ab Ende des Monats alle KI-Funktionen abgeschaltet werden können. Mit dem nächsten Update, das Ende Februar herauskommen soll, soll dieser Knopf eingefügt werden. Der Schalter soll so funktionieren, dass man alle KI-Funktionen pauschal ablehnen kann, ohne dass das bei Updates rückgängig gemacht wird. Es gibt aber auch die Möglichkeit, einzelne KI-Funktionen ab- und anzuschalten. Es muss sich noch zeigen, wie tief diese Abschaltung wirklich funktioniert.

USA starten Milliarden-Projekt zur Sicherung seltener Erden

Die US-Regierung hat das „Project Vault“ bekannt gegeben, eine strategische Reserve für kritische Mineralien wie Kobalt oder Lithium im Wert von 12 Milliarden Dollar. Diese soll die amerikanische Industrie unabhängiger von chinesischen Importen machen. Sie spielen eine zentrale Rolle beim massiven Ausbau der KI-Recheninfrastruktur.

Das Vorhaben kombiniert rund 2 Milliarden Dollar privates Kapital mit einem 10-Milliarden-Dollar-Kredit der US Export-Import Bank. Zu den beteiligten Unternehmen gehören Google, General Motors und Boeing.

Googles neues KI-Tool lässt Gaming-Aktien purzeln

Nachdem Google sein experimentelles KI-Tool Project Genie veröffentlicht hat, sind die Aktienkurse von Branchengrößen der Spieleindustrie Ende vergangener Woche drastisch eingebrochen. Take-Two fiel um 10 Prozent, Roblox büßte 12 Prozent ein und Unity verlor 21 Prozent an Wert. Project Genie kreiert aus Textbeschreibungen oder hochgeladenen Bildern interaktive Umgebungen. In Wirklichkeit ist die Technologie noch sehr begrenzt.

Die Erlebnisse sind auf 60 Sekunden beschränkt, Spielmechaniken und Sound fehlen. Vor diesem Hintergrund ist der Kurssturz eine Überreaktion der Wall Street.

Google erweitert KI-Testarena um Poker und Werwolf

Google DeepMind und die Datenplattform Kaggle bauen ihre gemeinsame KI-Testumgebung „Game Arena“ aus. Auf der Plattform treten KI-Modelle in strategischen Spielen gegeneinander an. Bisher maßen sich die Systeme vor allem im Schach, nun kommen Werwolf und Poker hinzu. Poker prüft, wie gut ein Modell mit Risiken und unvollständigen Informationen umgeht.

Werwolf misst laut Google etwa gut die Soft Skills, die zukünftige KI-Assistenten in ihrer Zusammenarbeit mit Menschen benötigen, darunter Kommunikation, Verhandlung und die Fähigkeit Mehrdeutigkeit zu navigieren. Zudem dient das Spiel Werwolf auch der Sicherheitsforschung: Es zeigt, ob eine KI Manipulationen durchschauen kann, aber auch wie gut sie andere KI-Modelle im Spiel täuschen kann.

Aktuell werden die Ranglisten von Googles eigenen Modellen Gemini 3 Pro und Gemini 3 Flash dominiert.

AlphaGenome eröffnet neue Möglichkeiten zur Genregulation

Ein Jahr, nachdem der Nobelpreis für Chemie an das KI-Modell AlphaFold von Google DeepMind vergeben wurde, hat das Unternehmen jetzt das KI-Modell AlphaGenome vorgestellt. Zwar gilt das menschliche Genom seit 2022 als komplett entschlüsselt, doch welche Prozesse etwa für bestimmte Krankheiten oder Reaktionen auf Umweltfaktoren verantwortlich sind, ist oft unklar.

Mit einer Auflösung bis hinab zu einzelnen Basenpaaren kann das neue Modell laut Studie für eine Sequenz von bis zu einer Million Basenpaaren Tausende molekularer Eigenschaften vorhersagen. Unter anderem, wo bestimmte Gene in verschiedenen Zell- und Gewebetypen beginnen und enden, die Menge der produzierten RNA und auch, welche DNA-Basen zugänglich sind, nahe beieinander liegen oder an bestimmte Proteine gebunden sind. Grob gesagt, liefert das neue Modell ein größeres Bild mit einer höheren Auflösung.

(igr)