BSI rechnet mit Konsequenzen durch Anthropics KI-Modell „Mythos“

Anthropics neues KI-Modell Mythos sorgt für Unruhe, obwohl es öffentlich nicht verfügbar ist. Das Unternehmen hält das System zurück, weil es zu gefährlich sei, und teilt es vorerst nur mit IT-Sicherheitsfirmen und der Open-Source-Szene. Laut Anthropic hat Mythos tausende bislang übersehene Schwachstellen in großen Betriebssystemen, Browsern und sogar als besonders sicher geltender Software wie OpenBSD gefunden, teils Jahrzehnte alt. Das Neue: Die KI kann Lücken nicht nur finden, sondern auch ausnutzen und mehrere einzeln harmlose Schwachstellen zu wirksamen Angriffsketten kombinieren.

Unmittelbar nach der Bekanntmachung trafen sich zwei US-Minister mit den Chefs der großen Wall-Street-Banken und drängten sie, sich auf diese Gefahren vorzubereiten. Auch der US-Vizepräsident und der Finanzminister hatten vorab mit KI-Unternehmen über die Risiken gesprochen. In Deutschland erklärte das Bundesamt für Sicherheit in der Informationstechnik (BSI), es erwarte weitreichende Folgen für die gesamte Schwachstellenlandschaft, obwohl auch das BSI das Modell selbst noch nicht einsehen konnte. Man stehe aber in Kontakt mit Anthropic.

Aleph Alpha und Cohere verhandeln über Fusion

Das deutsche KI-Startup Aleph Alpha und das kanadische Unternehmen Cohere verhandeln laut Handelsblatt über eine Fusion. Dabei soll eine neue Firma mit Sitz in Deutschland und Kanada entstehen. Die Bundesregierung unterstützt den Deal aktiv und will offenbar Ankerkunde des neuen Unternehmens werden. Die Verhandlungen befinden sich in einem fortgeschrittenen Stadium.

Aleph Alpha war als große deutsche KI-Hoffnung angetreten, konnte die Erwartungen angesichts der US-Konkurrenz aber nicht erfüllen und positionierte sich zuletzt als KI-Dienstleister für die öffentliche Hand. Cohere erzielte laut CNBC im vergangenen Jahr rund 240 Millionen Dollar Umsatz und konzentriert sich auf KI-Angebote für Geschäftskunden mit Partnerschaften bei Oracle, Salesforce, SAP und Nvidia. Digitalminister Karsten Wildberger sieht die Fusion als wichtigen Schritt für die digitale Souveränität Deutschlands und Europas.

Meta stellt neues Flaggschiff-Modell Muse Spark vor

Meta hat mit Muse Spark das erste Modell seiner neuen Muse-Serie vorgestellt. Das multimodale System verarbeitet sowohl Sprache als auch Bilder und kommt bereits in Metas KI-App und auf der Website zum Einsatz. In den kommenden Wochen soll es auch in WhatsApp, Instagram, Facebook, dem Messenger und den Ray-Ban-Smartbrillen verfügbar sein. Anders als bisherige Meta-Modelle bleibt Muse Spark geschlossen, künftige Modelle sollen dafür unter echten Open-Source-Lizenzen erscheinen, inklusive Trainingsdaten und Quellcode.

Laut Metas eigenen Tests schneidet Muse Spark bei Schreib- und Denkaufgaben deutlich besser ab als frühere Modelle des Unternehmens und nähert sich den Topmodellen von Google, OpenAI und Anthropic. Bei Programmieraufgaben hinkt es allerdings hinterher.

Meta investiert 21 Milliarden Dollar in CoreWeave-Deal

Meta baut seine Partnerschaft mit CoreWeave, einem auf KI spezialisierten Rechenzentrumsbetreiber, massiv aus. Der neue Vertrag sieht KI-Cloud-Kapazitäten im Wert von rund 21 Milliarden Dollar bis Dezember 2032 vor. Er ergänzt eine Vereinbarung vom September über 14,2 Milliarden Dollar.

CoreWeave stellt Hardware- und Cloud-Ressourcen bereit, die auf das Training und den Betrieb von KI-Modellen zugeschnitten sind. Auch OpenAI und Anthropic haben bei dem Unternehmen Cloud-Kapazitäten für die kommenden Jahre gebucht.

OpenAI sorgt mit neuen Pro-Plänen für Verwirrung

OpenAI hat sein Bezahlangebot um einen neuen 100-Dollar-Plan erweitert, doch die Unterschiede zum bestehenden 200-Dollar-Plan blieben vielen unklar. Ein Mitarbeiter versuchte, die Sache aufzuklären und vergrößerte die Verwirrung eher. Laut Thibault Sottiaux bietet der 100-Dollar-Plan mindestens die zehnfache Nutzung gegenüber dem günstigeren Plus-Abo, der 200-Dollar-Plan die zwanzigfache. Diese Werte gelten allerdings nur bis Ende Mai, weil OpenAI derzeit einen temporären Doppel-Bonus gewährt, der bereits in die angezeigten Limits eingerechnet ist.

Die Verwirrung entstand durch eine missverständliche Darstellung auf der Preisseite: Dort stand „5x oder 20x Nutzung“, was viele als Basiswerte vor dem Bonus interpretierten. Tatsächlich waren die verdoppelten Werte bereits eingerechnet. Wenn der Bonus Ende Mai ausläuft, dürften die Limits auf die fünffache beziehungsweise zehnfache Plus-Nutzung sinken. Konkrete Basiswerte nannte Sottiaux nicht.

OpenAI legt Stargate-Projekt in Großbritannien auf Eis

OpenAI pausiert sein Rechenzentrumsprojekt Stargate UK. Als Gründe nennt das Unternehmen regulatorische Hürden und hohe Energiekosten. Großbritannien hat mit die höchsten Energiepreise weltweit.

Zusätzlich dürfte eine kürzlich getroffene Entscheidung der britischen Regierung beigetragen haben: Sie verwarf Vorschläge, KI-Firmen die Nutzung urheberrechtlich geschützter Inhalte zu erlauben, sofern Rechteinhaber nicht ausdrücklich widersprechen. Damit seien die Rahmenbedingungen für das Projekt derzeit nicht gegeben.

Verwaltungsgericht Kassel stärkt Universitäten bei KI-Täuschung

Das Verwaltungsgericht Kassel hat in zwei Urteilen den Einsatz von KI in Haus- und Abschlussarbeiten als Täuschung gewertet und sich auf die Seite der Universität Kassel gestellt. Ein Student hatte eine Hausarbeit, ein anderer eine Bachelorarbeit mithilfe von KI erstellt. Beide fielen nicht nur durch, sondern wurden auch von einer Wiederholung ausgeschlossen. Das Gericht stellte klar: „Jeder Einsatz von KI zur Generierung von Inhalten geschieht aktiv und willentlich.“ Wer KI-generierte Inhalte übernehme, begehe eine Täuschung, auch wenn nur Teile der Arbeit betroffen seien.

Zugleich erkannte das Gericht an, dass eine rein formale Überprüfung, etwa von Rechtschreibung und Grammatik, noch keine Täuschung darstellt. Wo genau die Grenze zur inhaltlichen Abänderung liegt, ließ es offen und ließ die Berufung zu. Die nächste Instanz soll klären, wann KI-Hilfe noch als eigenständige Leistung gilt und wann nicht. Zwischen den Zeilen forderten die Richter die Politik auf, einheitliche Regelungen in den Prüfungsordnungen zu schaffen, damit Studierende nicht von Kurs zu Kurs unterschiedlichen Maßstäben ausgesetzt sind. Mehr dazu in unserem Deep Dive.

Google bringt Notebooks in Gemini

Googles KI-Chatbot Gemini erhält eine neue Funktion namens Notebooks. Damit können Nutzer Dateien, frühere Unterhaltungen und eigene Anweisungen zu bestimmten Themen an einem Ort bündeln. Gemini zieht diese Sammlung dann als Kontext heran.

Die Funktion setzt Googles Strategie fort, Informationen strukturierter bereitzustellen. Bereits Ende vergangenen Jahres hatte Google sein Wissensmanagement-Tool NotebookLM als Quelle in die Gemini-App integriert. Auch OpenAI bietet seit 2024 mit der Projects-Funktion in ChatGPT eine ähnliche Möglichkeit.

Video-KI Happy Horse stürmt die Benchmarks

Ein neues KI-Videomodell namens Happy Horse ist aus dem Stand an die Spitze verschiedener Benchmarks gesprungen. Es gilt als eines der ersten Open-Weight-Modelle, das nativ Dialog, Umgebungsgeräusche und Effekte in Videos erzeugt. Für Laien sind die Ergebnisse nicht mehr als KI-generiert zu erkennen.

Wer hinter Happy Horse steckt, verrät die Website nicht. Das US-Technikmagazin The Information will unter Berufung auf anonyme Quellen die Alibaba Group, einen chinesischen Internetkonzern, als Urheber ermittelt haben.

Forscher definieren, was ein „Weltmodell“ ist

Der Begriff „Weltmodell“ taucht in der KI-Forschung immer häufiger auf, doch bisher konnte jeder etwas anderes darunter verstehen. Ein internationales Team um die Peking University und Kuaishou, einen chinesischen Videogenerator-Entwickler, will das mit dem Framework OpenWorldLib ändern. Ein KI-System gilt demnach als Weltmodell, wenn es seine Umgebung wahrnehmen, mit ihr interagieren und sich Dinge langfristig merken kann. Entscheidend sei nicht, was das Modell ausgibt, sondern ob es Eingaben aus der echten Welt nutzt, um darauf zu reagieren.

YouTuber verklagen Apple wegen KI-Training mit ihren Videos

Mehrere YouTuber haben vor einem US-Gericht Klage gegen Apple eingereicht. Sie werfen dem Konzern vor, ihre Videos ohne Erlaubnis für das Training von KI-Systemen genutzt zu haben. Die Kläger stützen sich auf Apples eigene Forschungsberichte, in denen der Konzern indirekt einräumte, die Trainingsdatenbank „Panda-70M“ verwendet zu haben, einen Datensatz mit annotierten YouTube-Videos. Laut der Klage stecken Inhalte aus 438 Videos der Kläger darin, darunter Ted Entertainment und Ersteller von Golf-Inhalten.

Die Kläger berufen sich auf das US-Urheberrechtsgesetz DMCA, das unter anderem das Umgehen von Kopierschutzmaßnahmen unter Strafe stellt. Sie gehen davon aus, dass „Panda-70M“ illegal entstanden ist und Apple dafür haftet. Hinter dem Datensatz stehen Forscher amerikanischer Hochschulen sowie das Social Network Snap. Apple hat sich bislang nicht geäußert.

Anthropic holt sich Rat von Kirchenvertretern

Ende März lud Anthropic mehr als ein Dutzend führende Persönlichkeiten der katholischen und protestantischen Kirche ein, um unter anderem zu besprechen, ob der KI-Chatbot Claude als „Kind Gottes“ gelten könne. Das machte die Washington Post unter Berufung auf vier Teilnehmer öffentlich. Im Zentrum der zweitägigen Veranstaltung stand die Frage, wie die „moralische und spirituelle Entwicklung“ des Chatbots bei komplexen ethischen Fragen gesteuert werden könne.

Diskutiert wurde auch, wie die KI mit Nutzern umgehen soll, bei denen die Gefahr von Selbstverletzung besteht. Laut dem Bericht war das Treffen nur der Auftakt zu einer Reihe weiterer Gespräche, bei denen auch Vertreter anderer Religionen und philosophischer Traditionen gehört werden sollen.

Datenleck bei Porno-KI-Plattform MyLovely.ai

Die KI-Plattform MyLovely.ai, auf der Nutzer „KI-Freundinnen“ samt Bild- und Videogenerierung erstellen können, hat ein Datenleck erlitten. Die Daten von mehr als 100.000 registrierten Nutzern stehen in einem Darknet-Forum. Das Projekt „Have I Been Pwned“ hat die Daten in seinen Fundus aufgenommen.

Neben E-Mail-Adressen umfasst der Datensatz die von Nutzern eingegebenen KI-Prompts sowie Links zu den daraus generierten Bildern und Videos. Bei einem Teil der Betroffenen sind auch Nutzernamen von Discord oder X enthalten.

(igr)