KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz (KI) in Europa auszuschöpfen.

Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, sodass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.

Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein“, teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit.

Grok-Skandale und deutsche Debatte über digitale Gewalt

Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.

In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Sie wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.

Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen – und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.

EU legte bereits 2024 Richtlinie vor

Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll.

Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, von Deutschland allerdings bisher nicht in nationales Recht übertragen worden. Dafür hat die Bundesrepublik noch bis zum Sommer nächsten Jahres Zeit. Zuletzt kündigte Justizministerin Stefanie Hubig (SPD) entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an.

Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmer betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.

Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben.

Verpflichtende Wasserzeichen für KI-Inhalte verschoben

Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen forderten zuletzt aber immer wieder mehr Zeit, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen.

An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen.

Industrie befürchtet Doppelregulierung

Aus der Industrie kamen zuletzt Forderungen, Doppelregulierungen abzubauen, um Europas Wettbewerbsfähigkeit nicht zu untergraben. Auch Bundeskanzler Friedrich Merz (CDU) hatte sich zuletzt dafür ausgesprochen, die europäischen Regeln in diesem Bereich zu vereinfachen. Damit etwa die Maschinenbaubranche sich beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss, sollen Ausnahmen geschaffen werden.

Für den CDU-Europaabgeordneten Axel Voss gehen diese Änderungen nicht weit genug: „Wir brauchen einen Rahmen, der Innovation ermöglicht und Schutz garantiert – nicht einen Flickenteppich aus sektoriellen KI-Sonderregeln“, kommentierte der Parlamentarier.

(olb)

Anthropic ist eine Partnerschaft mit SpaceX eingegangen und hat sich dabei einen Großteil der KI-Rechenkapazitäten in dessen großen Supercomputer Colossus gesichert. Gleichzeitig und vielleicht auch deshalb erhöhte das KI-Unternehmen die Nutzungslimits für Abonnenten seiner KI-Modelle dramatisch. Anwender von Claude Code bekommen deutlich mehr Nutzungszeit, und das bisherige Limit in Spitzenzeiten wird aufgehoben. Zudem werden die API-Grenzen für Token von Claude Opus deutlich angehoben.

Der Grund dürfte im Zukauf neuer Rechenkapazitäten liegen. Bei seiner Fertigstellung im Herbst 2024 galt Colossus als womöglich schnellster Supercomputer der Welt und wurde zunächst für das Training von Grok, dem KI-Modell von xAI, genutzt. Doch jetzt schreibt Anthropic, dass sich die KI-Firma „die gesamte Rechenkapazität“ dieses Rechenzentrums gesichert hat. Das läuft demnach auf eine Rechenleistung von 300 Megawatt pro Monat hinaus, basierend auf mehr als 220.000 Nvidia-GPUs.

Token- und Nutzungslimits deutlich erhöht

Die zusätzliche Rechenkapazität soll Abonnenten von Claude Pro und Max zugutekommen. Deshalb verdoppelt Anthropic nach eigenen Angaben die bisherige Tarifbegrenzung von fünf Stunden für Pro-, Max-, Team- und Enterprise-Abos von Claude Code. Pro- und Max-Abonnenten dieses KI-Agenten für Programmieraufgaben werden zudem von der Begrenzung in Spitzenzeiten befreit. Diese Upgrades sind ab sofort nutzbar.

Für Claude Opus, das Mitte April in der Version 4.7 freigegeben wurde und Anweisungen substanziell besser befolgen soll, wurden die Token-Limits bei der Nutzung per API auch ab sofort dramatisch erhöht. In der niedrigsten Stufe (Tier 1) wurden die Input-Token mehr als verzehnfacht (von 30.000 auf 500.000 pro Minute) und die Output-Token exakt verzehnfacht (von 8000 auf 80.000 pro Minute). In der höchsten Stufe (Tier 4) sind es nun 10 statt 2 Millionen Input-Token pro Minute und 800.000 statt 400.000 Output-Token pro Minute.

Anthropic-Interesse an orbitalen Rechenzentren

Anthropic erwägt zukünftig auch die Nutzung von Rechenzentren im Weltall für die eigenen KI-Modelle. „Wir haben außerdem unser Interesse an einer Partnerschaft mit SpaceX zur Entwicklung einer orbitalen KI-Rechenkapazität von mehreren Gigawatt bekundet“, heißt es seitens der KI-Firma. Einen Zeitplan gibt es bislang nicht, aber bei der Übernahme von xAI samt Grok und X durch SpaceX im Februar 2026 hatte Konzernchef Elon Musk erklärt, dass der Erdorbit aufgrund der Sonnenenergie schon in wenigen Jahren der günstigste Ort für KI-Rechenzentren sein werde.

(fds)

STACKIT, der Cloud-Anbieter der Schwarz Gruppe, und das Kölner KI-Unternehmen neuland.ai wollen gemeinsam eine durchgängig in Deutschland betriebene KI-Architektur etablieren. Dazu kombinieren sie die Cloud-Infrastruktur von STACKIT mit dem neuland.ai HUB, einer KI-Management- und Orchestrierungsplattform. Kunden können darüber verschiedene KI-Modelle über einheitliche Schnittstellen ansprechen, darunter Llama, Mistral, Qwen und große Open-Source-Modelle mit bis zu 120 Milliarden Parametern.

Die KI-Modelle laufen dabei wahlweise „on prem“ auf der Hardware des Nutzers, in der souveränen Cloud von STACKIT auf Rechenzentren in Deutschland oder – falls gewünscht – auch bei US-Hyperscalern, ohne dass das auf Anwendungsseite einen Unterschied macht. neuland.ai verspricht, dass Kundendaten Ende-zu-Ende-verschlüsselt gespeichert sind und das Unternehmen keinen Zugriff darauf hat, sodass sie nicht für Modelltraining verwendet werden können. Der neuland.ai HUB soll zudem im STACKIT Marketplace verfügbar werden.

Das gemeinsame Angebot richtet sich an Unternehmen, die ihre Daten nicht an US-amerikanische Unternehmen wie OpenAI oder Anthropic schicken wollen oder dürfen. Unter dem US Cloud Act können US-amerikanische Behörden auf bei US-Unternehmen gespeicherte Daten zugreifen, selbst wenn diese Daten in Rechenzentren in Europa liegen. Mit dem KI-Angebot von neuland.ai und STACKIT sollen deutsche Unternehmen die regulatorischen Anforderungen aus NIS2, DORA und dem EU AI Act erfüllen können.

(odi)