KI-Update kompakt: V-Jepa-2, Sicherheitslücke in KI-Agent, Hirnfäule, Nvidia

Meta veröffentlicht das KI-Weltmodell V-Jepa 2

Meta hat mit V-Jepa 2 ein KI-Modell vorgestellt, das grundlegend anders funktioniert als generative KI-Modelle wie übliche Sprachmodelle. Anstatt Wörter vorherzusagen und zu generieren, trifft es abstraktere Vorhersagen und lernt so eigenständig aus Videos. Ziel ist ein Weltmodell, das unsere Welt versteht – kein Videogenerator wie Sora. Dabei soll es sich am menschlichen Gehirn und besonders am Lernprozess von Kindern orientieren, die ein Verständnis der physikalischen Welt entwickeln, bevor sie sprechen können. Metas Chefwissenschaftler Yann LeCun betont, dass Sprache die physikalische Welt nie vollständig abbilden kann – ein fundamentales Problem herkömmlicher Sprachmodelle.

Gleichzeitig bestätigen sich die Gerüchte von gestern: Meta erwirbt für 14,3 Milliarden US-Dollar einen 49-Prozent-Anteil an Scale AI, einem Unternehmen, das sich auf die Lieferung von Daten für die Form von KI spezialisiert hat, die LeCuns Ansatz eigentlich vermeiden will. Durch die Teilübernahme soll Meta Auflagen der US-Wettbewerbsbehörden aus dem Weg gehen können.

Kritische Sicherheitslücke in Copilot zeigt Risiko von KI-Agenten

Eine schwerwiegende Sicherheitslücke im Microsoft 365 Copilot hat monatelang die Preisgabe sensibler Informationen ermöglicht. Dafür genügte eine E-Mail mit geschickt formulierten Anweisungen – kein menschliches Eingreifen war nötig, da die KI die E-Mail selbstständig verarbeitete. Microsoft brauchte fünf Monate, um das von Aim Security im Januar entdeckte Problem zu beheben.

Laut Adir Gruss, Technikvorstand von Aim Security, handelt es sich um ein grundlegendes Problem aller KI-Agenten, das auch Anthropics MCP oder Salesforces Agentforce betreffen dürfte. „Die Tatsache, dass Agenten vertrauenswürdige und nicht vertrauenswürdige Daten im selben ‚Denkprozess‘ verwenden, ist der grundlegende Designfehler“, erklärt Gruss. Er fordert eine klare Trennung zwischen vertrauenswürdigen Befehlen und nicht vertrauenswürdigen Daten in der Architektur von KI-Agenten.

OpenAI überschreitet Umsatzmarken

OpenAI hat laut einem Firmensprecher die Marke von 10 Milliarden US-Dollar jährlich wiederkehrendem Umsatz überschritten. Diese Berechnung basiert auf dem aktuellen Monatsumsatz aus ChatGPT-Abonnements und API-Nutzung, ohne Microsoft-Lizenzen oder Einzelverträge einzubeziehen. Noch Anfang 2024 lag dieser Wert bei 5,5 Milliarden US-Dollar – bei gleichzeitigen Verlusten von 5 Milliarden US-Dollar.

Für 2025 plant das Unternehmen bereits 13 Milliarden US-Dollar Umsatz, ein realistisches Ziel. Gleichzeitig hat OpenAI seine Infrastrukturinvestitionen erhöht und kürzlich das KI-Hardware-Start-up io für fast 6,5 Milliarden US-Dollar übernommen. Bis 2030 strebt das Unternehmen sogar 174 Milliarden US-Dollar Umsatz an. Von seinen Einnahmen muss OpenAI allerdings laut The Information 20 Prozent an Microsoft abgeben.

Anthropics Claude Lernmodus soll gegen „Hirnfäule“ helfen

Anthropic hat seinem KI-Assistenten Claude einen speziellen Lernmodus verpasst. Überraschenderweise entstand „Claude for Education“ nicht primär zur Betrugsbekämpfung, sondern auf Wunsch der Studierenden selbst. „Sie sorgen sich vor Brainrot“, erklärt Drew Bent, bei Anthropic für KI und Bildung zuständig. Studierende wollten langfristig lernen, statt nur schnelle Lösungen zu erhalten.

Diese Sorgen sind berechtigt. Eine Schweizer Studie mit 666 Teilnehmenden zeigt: Je häufiger junge Menschen zwischen 17 und 25 Jahren KI nutzen, desto schlechter schneiden sie bei Tests zum kritischen Denken ab. Dabei steigt die Nutzung rasant. Eine Umfrage des Centrums für Hochschulentwicklung ergab, dass zwei Drittel der Studierenden KI-Tools mindestens wöchentlich nutzen, ein Viertel sogar täglich. Die Herausforderung liegt laut Bent in der richtigen Balance: KI soll das Denken vertiefen, nicht davon ablenken.

Neuer KI-Browser Dia geht in die Betaphase

Der neue Browser Dia der Browser Company ist ab sofort als Betaversion für Mac-Nutzer verfügbar. Statt separate Fenster für verschiedene KI-Tools offenzuhalten, bietet Dia KI-Zugriff in jedem Tab über die Seitenleiste. Die Adressleiste fungiert gleichzeitig als Schnittstelle zum eingebauten KI-Chatbot, über die Nutzer auch Dateien hochladen und zusammenfassen lassen können.

Eine optionale Funktion namens „Verlauf“ erlaubt dem Browser, sieben Tage des Browserverlaufs als Kontext für KI-Anfragen zu nutzen. Mit „Custom Skills“ können Nutzer zudem eigene Funktionen erstellen. Dia ist nicht allein: Opera Neon ermöglicht bereits den Einsatz von KI-Agenten für Mini-Anwendungen, Google hat Gemini in Chrome integriert und sowohl OpenAI als auch Perplexity arbeiten an eigenen Browsern. Der Trend zur Integration von KI in die wichtigste Computeranwendung ist unübersehbar.

Disney und Universal klagen gegen Midjourney

Disney und Universal haben gemeinsam Klage gegen den Bildgenerator Midjourney eingereicht. Vor einem kalifornischen US-Bezirksgericht werfen die Rechteinhaber dem Unternehmen vor, einen „virtuellen Verkaufsautomaten“ zu betreiben, der „endlos unautorisierte Kopien“ ihrer urheberrechtlich geschützten Figuren wie Shrek, Darth Vader oder Buzz Lightyear erzeugt.

Laut New York Times bezeichnen die Kläger Midjourney als „Musterbeispiel für Urheberrechts-Trittbrettfahrer und ein Fass ohne Boden des Plagiats“. Das Unternehmen habe weder finanziell noch kreativ zur Entwicklung der Charaktere beigetragen, werbe aber aktiv mit der Möglichkeit, diese zu generieren. Im Gegensatz zu einer bereits laufenden Klage von Künstlern, die sich gegen die Nutzung ihrer Werke für das KI-Training richtet, fokussiert sich dieser Rechtsstreit ausschließlich auf den Output des Bildgenerators.

Nvidia will sich in der europäischen KI-Welt verankern

Nvidia intensiviert seine Präsenz in Europa mit zahlreichen strategischen Kooperationen. Der Chipgigant plant sechs KI-Technologiezentren an Universitäten in Deutschland, Schweden, Finnland, Italien, Spanien und Großbritannien. In Deutschland arbeitet Nvidia mit dem Konsortium Bayern KI zusammen, zu dem das Zentrum für Nationales Hochleistungsrechnen Erlangen und das Leibniz-Rechenzentrum gehören, um Forschung in Medizin, Stable-Diffusion-Modellen und Robotik voranzutreiben.

Für europäische Industrieunternehmen baut Nvidia in Deutschland eine Industrial AI Cloud mit 10.000 Blackwell-GPUs – ein nach heutigen Standards noch relativ kompaktes System zur Optimierung von Produktionsabläufen. Gleichzeitig investieren Unternehmen wie DeepL in eigene Nvidia-Hardware: Der Übersetzungsdienst erwirbt einen DGX Superpod mit 576 B200-Beschleunigern zur Verbesserung seiner Tools.

ByteDance stellt neues Video-KI-Modell vor

TikTok-Mutterkonzern ByteDance hat mit Seedance 1.0 ein neues KI-Modell für Videogenerierung vorgestellt, das in Tests sogar Googles Veo 3 übertreffen soll. Wie sein Konkurrent erzeugt Seedance aus einfachen Texteingaben oder Bildern komplexe Videos mit längeren Abläufen, mehreren Kameraeinstellungen und konsistenten Figuren.

Auf der Testplattform Artificial Analysis belegt Seedance aktuell bei Text-zu-Video und Bild-zu-Video jeweils den ersten Platz, direkt vor Veo 3. Ein Manko: Audio kann das Modell nicht erzeugen. ByteDance plant, die Technologie in eigene KI-Plattformen wie Doubao und Jimeng zu integrieren, um Marketing, Content-Produktion und einfache Videobearbeitung per Spracheingabe zu unterstützen.

Wikipedia stoppt Test von KI-generierten Artikelzusammenfassungen

Wikipedia hat ein Projekt zur Erstellung KI-generierter Artikelzusammenfassungen vorerst gestoppt. Ursprünglich sollte ein kleiner Teil der mobilen Nutzer die Möglichkeit erhalten, sich diese Zusammenfassungen anzeigen zu lassen. Die Ankündigung löste jedoch heftige Kritik aus: Viele wiesen auf das Risiko für den Ruf der Enzyklopädie und die bekannte Fehleranfälligkeit von KI-Inhalten hin.

Die Wikimedia Foundation, Betreiberin der Wikipedia, zeigt sich einsichtig. Das Projekt wird zwar nicht vollständig aufgegeben, aber vorerst pausiert. „Wir nehmen die Reaktionen ernst und werden bald auf das Thema zurückkommen“, heißt es in einer Stellungnahme. Bis dahin werden keine weiteren Schritte in diese Richtung unternommen.

(igr)