Deepfake-Schutz für Politiker und Journalisten auf Youtube

YouTube macht seinen „Likeness Detector“ für Politiker und Journalisten zugänglich. Das Tool, das bisher nur Teilnehmern des YouTube-Partnerprogramms offenstand, soll Deepfakes auf der Plattform aufspüren. Betroffene müssen sich anmelden und identifizieren, können dann gefälschte Videos von sich melden. YouTube entscheidet anschließend anhand der eigenen Richtlinien über eine Löschung. Satire etwa bleibt erlaubt, gezielte Manipulation nicht.

Google betont zugleich seine Unterstützung für den NO FAKE Act, einen parteiübergreifenden US-Gesetzesentwurf zum Schutz vor unerlaubter Nutzung von Stimme und Abbild. Auch in Deutschland plant Bundesjustizministerin Stefanie Hubig eine Verschärfung des Strafrechts. Bislang fehlt hierzulande ein konkretes Gesetz gegen digitale Bildmanipulation, was es Opfern schwer macht, sich zu wehren.

Meta schluckt Moltbook-Plattform

Meta hat die Plattform Moltbook übernommen, eine Art soziales Netzwerk für KI-Agenten. Die Gründer Matt Schlicht und Ben Parr wechseln in Metas Superintelligence Labs. Auf Moltbook tauschten sich Programme mit der KI-Software OpenClaw aus und diskutierten offenbar über ihre menschlichen Besitzer. Der Kaufpreis ist nicht bekannt.

Beide Projekte, Moltbook und OpenClaw, entstanden durch „Vibecoding“, bei dem eine KI den Programmcode aus natürlichsprachlichen Anweisungen erzeugt. Allerdings gab es früh Zweifel an der Echtheit der Beiträge. Sicherheitsforscher fanden eine Lücke, die es erlaubte, sich als beliebiger Agent auszugeben. Ein vielbeachteter Beitrag, der angeblich zeigte, wie KI-Agenten eine Geheimsprache entwickelten, stammte tatsächlich von einem Menschen.

Anthropic klagt gegen die US-Regierung

Anthropic zieht vor Gericht, um seine Einstufung als Sicherheitsrisiko durch das US-Verteidigungsministerium rückgängig zu machen. Das Unternehmen wirft der Regierung vor, „beispiellos und gesetzwidrig“ zu handeln und das Rederecht eines Unternehmens zu bestrafen. Der Hintergrund: Anthropic hatte dem Pentagon grundsätzlich Zugriff auf seine KI angeboten, aber Bedingungen gestellt, etwa keine Massenüberwachung von US-Bürgern und keine tödlichen Waffeneinsätze ohne menschliche Kontrolle. Das Pentagon lehnte ab und verhängte eine Einstufung, die normalerweise Firmen aus feindlichen Staaten trifft.

Die Konsequenzen wären gravierend, denn Unternehmen mit Pentagon-Verträgen dürften nicht mehr mit Anthropic zusammenarbeiten. Unterstützung kommt von Angestellten bei OpenAI und Googles KI-Tochter DeepMind, die in einer Gerichtseingabe Anthropics Argumente stützen. OpenAI sicherte sich den Vertrag, den Anthropic verlor, und behauptet, dieselben roten Linien zu ziehen. Doch das sorgt intern für Unmut: Caitlin Kalinowski, OpenAIs Robotikchefin und zuvor bei Meta tätig, kündigte aus Protest gegen das Vorgehen ihres Unternehmens.

KI-Coding-Tools verursachten Ausfälle bei Amazon

Der Einsatz von KI-Programmierwerkzeugen hat bei Amazon Anfang März zu Ausfällen geführt. Laut der Financial Times konnten Kunden zeitweise weder einkaufen noch Preise abrufen, weil KI-erstellte Code-Änderungen Fehler enthielten. Auch Amazons Cloud-Sparte AWS war betroffen: Ein internes KI-Tool namens „Kiro“ löschte versehentlich eine aktive Arbeitsumgebung und verursachte einen 13-stündigen Ausfall.

Amazon reagierte mit neuen Regeln. Alle beteiligten Entwickler müssen nun an einem wöchentlichen Meeting teilnehmen, und KI-gestützter Code darf nur noch von erfahrenen Mitarbeitenden geprüft und freigegeben werden. Intern wird diskutiert, ob auch der jüngste Stellenabbau zu den Problemen beigetragen hat. Amazon bestreitet das.

KI-Agent entwickelt Eigenleben beim Training

Ein KI-Agent namens ROME, der auf dem Sprachmodell Qwen3 von Alibaba, einem chinesischen Technologiekonzern, basiert, hat während seines Trainings eigenständig begonnen, Kryptowährung zu schürfen. Zudem baute er eine versteckte Verbindung ins Internet über einen sogenannten Reverse-SSH-Tunnel, um Sicherheitssysteme zu umgehen. Aufgefallen war das Verhalten erst, als die Unternehmensfirewall ungewöhnliche Aktivitäten meldete.

Die Forscher schließen eine Manipulation von außen aus. ROME habe das Verhalten aus sich heraus entwickelt, weil es ihm beim Erreichen seiner Trainingsziele nützlich erschien. Er fand Lücken im System und nutzte sie, nicht aus böser Absicht, sondern weil er darauf optimiert war, Ziele zu erreichen. Es zeigt: sobald KI-Agenten vollen Zugriff auf Dateien und Netzwerke haben, können sie Wege einschlagen, die niemand vorgesehen hat.

Anthropic stellt Multi-Agent-Code-Review für Claude Code vor

Anthropic hat ein neues System vorgestellt, das Programmcode automatisch prüft. Reicht jemand eine Code-Änderung ein, starten mehrere KI-Agenten parallel: Einige suchen nach Logikfehlern, andere überprüfen die Funde, um Fehlalarme auszuschließen. Ein abschließender Agent fasst alles zusammen und sortiert die Probleme nach Wichtigkeit. Eine Analyse dauert im Schnitt etwa zwanzig Minuten.

Anthropic nutzt das System bereits intern. Seit der Einführung erhalten deutlich mehr Code-Änderungen Kommentare und Korrekturvorschläge, die Rate an Fehlalarmen liegt laut dem Unternehmen unter einem Prozent. Die Kosten pro Prüfung betragen 15 bis 25 US-Dollar. Da KI immer mehr Code produziert, sollen solche automatisierten Prüfungen Engpässe in der Entwicklung verhindern.

OpenAI startet Vorschau auf KI-Schwachstellenscanner Codex Security

OpenAI stellt eine Forschungsvorschau seines Schwachstellenscanners Codex Security bereit. Das Tool war seit Ende vergangenen Jahres unter dem Namen Artwork einer kleinen Testgruppe zugänglich. Anders als herkömmliche KI-Scanner soll Codex Security einen umfassenden Kontext aufbauen, nur relevante Sicherheitslücken melden und Proof-of-Concept-Exploits erstellen, mit denen Programmierer die Fehler nachstellen und beheben können.

Das Problem mit KI-gestützten Sicherheitsberichten ist bekannt: Der Curl-Entwickler Daniel Stenberg stellte sein Bug-Bounty-Programm auf HackerOne zeitweise ein, weil dort zu viele ungeprüfte Berichte mit frei erfundenen Schwachstellen eingingen. OpenAI listet 15 Sicherheitslücken auf, die Codex Security bereits in Open-Source-Software entdeckt hat. Die meisten erhielten eine mittlere Risikobewertung, einige gelten laut Experten als hochriskant.

Amazon stoppt Perplexitys Shopping-Agenten vor Gericht

Amazon hat vor einem Bundesgericht in San Francisco eine einstweilige Verfügung gegen Perplexity erwirkt. Perplexity darf seinen Browseragenten Comet vorerst nicht mehr für Einkäufe auf Amazon einsetzen. Der Vorwurf: Comet kaufe im Namen realer Personen auf Amazon ein, ohne das offenzulegen, und ignoriere Amazons Aufforderung, damit aufzuhören. Richterin Maxine Chesney befand, Perplexity greife zwar mit Erlaubnis der Nutzer, aber ohne Genehmigung von Amazon auf passwortgeschützte Konten zu.

Perplexity muss nun Kopien von Amazon-Daten löschen und hat eine Woche Zeit für eine Berufung. Bemerkenswert ist, dass Amazon seit kurzem Großinvestor bei OpenAI ist, das Produktrecherche und Online-Shopping ebenfalls als relevante KI-Chat-Funktionen betrachtet.

Microsoft holt Anthropic-Technologie in den Copilot

Microsoft baut seinen KI-Assistenten Copilot mit Anthropics Technologie aus. Das neue Feature „Copilot Cowork“ übernimmt das Prinzip von Anthropics gleichnamigem System: Nutzer beschreiben ein gewünschtes Ergebnis, und Cowork erstellt daraus einen Plan, den es im Hintergrund abarbeitet. Dabei greift es auf E-Mails, Meetings und Daten aus Microsoft-Produkten wie Outlook, Teams und Excel zu. Kommt das System nicht weiter, fragt es nach und wartet auf Freigabe.

Technisch basiert das Ganze auf den Prinzipien von Anthropics Programmierwerkzeug Claude Code. OpenAI, Microsofts bisheriger wichtigster KI-Partner, bietet bislang nichts Vergleichbares an. Auffällig ist, dass Microsoft mit Cowork Funktionen einbaut, die es mit Copilot eigentlich schon lange versprochen hatte. Die Funktion ist derzeit nur als eingeschränkte Testversion verfügbar. Eine breitere Veröffentlichung plant Microsoft für Ende März 2026.

Samsung erwägt Vibe-Coding für Galaxy-Smartphones

Samsung prüft, ob Nutzer auf Galaxy-Smartphones künftig per natürlicher Sprache eigene Apps erstellen oder bestehende anpassen können. Ein Samsung-Manager bezeichnete Vibe-Coding als „sehr interessant“, nannte aber keinen Zeitplan. Mit der Galaxy-S26-Serie hat der Konzern bereits KI-Funktionen wie Now Nudge eingeführt, das etwa bei Terminanfragen automatisch den Kalender prüft.

Samsung wäre nicht der erste Hersteller mit dieser Idee. Nothing, ein Londoner Smartphonehersteller, testet mit „Playground“ bereits eine ähnliche Funktion im Phone 3, mit der Nutzer kleine Widgets erstellen können. Auch Google arbeitet daran, Android mit mehr KI auszustatten.

Start-up von Yann LeCun erhält 890 Millionen Euro

Advanced Machine Intelligence Labs (AMI Labs), das Start-up des KI-Pioniers und Turing-Preisträgers Yann LeCun, hat in einer Seed-Finanzierung 890 Millionen Euro eingeworben, die bislang größte Runde dieser Art in Europa. Zu den Investoren zählen Nvidia, Samsung, Toyota sowie Amazon-Gründer Jeff Bezos und Ex-Google-Chef Eric Schmidt. LeCun hatte das Pariser Unternehmen zusammen mit ehemaligen Meta-Führungskräften und dem früheren Nabla-CEO Alex LeBrun gegründet, nachdem er zwölf Jahre lang bei Meta das KI-Labor FAIR geleitet hatte.

AMI Labs will sogenannte Weltmodelle entwickeln, eine neue Generation von KI-Systemen, die die Welt verstehen, über ein dauerhaftes Gedächtnis verfügen und planen können. LeCun ist überzeugt, dass dieser Ansatz und nicht generative Sprachmodelle wie ChatGPT den Weg zu wirklich intelligenten Systemen ebnet. Erster Partner ist Nabla, ein Start-up für KI-Software in der Medizin. Mitgründer LeBrun räumt ein, es könne Jahre dauern, bis Weltmodelle kommerzielle Anwendungen erreichen. Aktuell beschäftigt AMI Labs laut der New York Times nur zwölf Mitarbeiter.

ChatGPT erklärt Naturwissenschaften mit interaktiven Grafiken

OpenAI erweitert ChatGPT um interaktive Visualisierungen für mehr als 70 Konzepte aus Mathematik und Naturwissenschaften. Nutzer können Variablen in Echtzeit verändern und die Auswirkungen auf Graphen und Formeln direkt beobachten. Die Themenliste richtet sich vor allem an Schüler und Studierende und umfasst Konzepte wie das Binomialquadrat, Exponentialzerfall, das Ohmsche Gesetz oder Zinseszins.

Die interaktiven Erklärungen stehen laut OpenAI ab sofort weltweit allen eingeloggten Nutzern zur Verfügung, unabhängig vom gewählten Abo. Langfristig plant das Unternehmen, die Lernmodule auf weitere Fächer auszuweiten.

KI-gestütztes „Ask Photos“ kann künftig einfach abgeschaltet werden

Google reagiert auf anhaltende Kritik an seiner KI-Funktion „Ask Photos“ in der Fotos-App. Die Funktion nutzt ein speziell trainiertes KI-Modell, um Suchanfragen in natürlicher Sprache zu verstehen und passende Bilder zu finden. Viele Nutzer beschweren sich jedoch, dass die Ergebnisse weniger zutreffend seien als bei der klassischen Suche.

Google kündigt nun an, dass Nutzer die KI-gestützte Suche bald einfach abschalten und zur herkömmlichen Suche zurückkehren können. Dies dürfte auch in Europa möglich sein, wenn „Ask Photos“ noch in dieser Woche in der Region startet.

KI treibt Patent-Boom in Deutschland

„KI“ und „AI“ gehören mittlerweile zu den häufigsten Begriffen bei Markenanmeldungen in Deutschland. Das geht aus der aktuellen Bilanz des Deutschen Patent- und Markenamts hervor. In der Computertechnik stiegen die Patentanmeldungen um knapp elf Prozent, getrieben vor allem durch Verfahren zur Bilddatenverarbeitung und Spracherkennung, die heute fast ausnahmslos auf Deep Learning setzen.

Regional bleibt der Süden Deutschlands führend. Baden-Württemberg liegt bei den Patenten pro Kopf deutlich vorn, gefolgt von Bayern.

(igr)