Künstliche Intelligenz
Sexualisierte Deepfakes: EU-Länder einigen sich auf Verbot
KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz (KI) in Europa auszuschöpfen.
Weiterlesen nach der Anzeige
Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, sodass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.
Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein“, teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit.
Grok-Skandale und deutsche Debatte über digitale Gewalt
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.
In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Sie wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen – und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.
Weiterlesen nach der Anzeige
EU legte bereits 2024 Richtlinie vor
Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll.
Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, von Deutschland allerdings bisher nicht in nationales Recht übertragen worden. Dafür hat die Bundesrepublik noch bis zum Sommer nächsten Jahres Zeit. Zuletzt kündigte Justizministerin Stefanie Hubig (SPD) entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an.
Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmer betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.
Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben.
Verpflichtende Wasserzeichen für KI-Inhalte verschoben
Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen forderten zuletzt aber immer wieder mehr Zeit, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen.
An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen.
Industrie befürchtet Doppelregulierung
Aus der Industrie kamen zuletzt Forderungen, Doppelregulierungen abzubauen, um Europas Wettbewerbsfähigkeit nicht zu untergraben. Auch Bundeskanzler Friedrich Merz (CDU) hatte sich zuletzt dafür ausgesprochen, die europäischen Regeln in diesem Bereich zu vereinfachen. Damit etwa die Maschinenbaubranche sich beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss, sollen Ausnahmen geschaffen werden.
Für den CDU-Europaabgeordneten Axel Voss gehen diese Änderungen nicht weit genug: „Wir brauchen einen Rahmen, der Innovation ermöglicht und Schutz garantiert – nicht einen Flickenteppich aus sektoriellen KI-Sonderregeln“, kommentierte der Parlamentarier.
(olb)
Künstliche Intelligenz
Agentic QA: Wie KI-Agenten die Qualitätssicherung transformieren
Mit dem Aufkommen der LLMs hat sich das Tempo von Innovation und Wandel im Bereich des Softwaretestens neu definiert.
KI-Agenten können die Schwerarbeit übernehmen – Tests generieren, Protokolle analysieren und Schnittstellen überwachen –, während sich Experten darauf konzentrieren, Ergebnisse auszuwerten, Risiken einzuschätzen, die Qualität der KI-Ergebnisse sicherzustellen und KI-gesteuerte Prozesse zu steuern.
Die Rolle des Teams erweitert sich: Qualitätsexperten können nun strategisch über Risiken nachdenken, Fachwissen zur Abstimmung von Geschäft und Technologie einbringen und die Verhaltensoptimierung intelligenter Testagenten steuern. In dieser neuen Ära ist ihre Arbeit dynamischer, fokussierter und unverzichtbarer denn je.
Das war die Leseprobe unseres heise-Plus-Artikels „Agentic QA: Wie KI-Agenten die Qualitätssicherung transformieren“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Anthropic: Angst vor China-Spionage soll Auslöser für KI-Lockdown sein
Die Trump-Regierung greift im globalen KI-Wettlauf mit harten Bandagen durch. Auslöser für weitreichende Exportkontrollen gegen die KI-Schmiede Anthropic ist ein schwelender Konflikt um den Zugang zu dessen leistungsstärkster Technologie, dem Modell Claude Mythos. Anthropic stellte dieses System im Rahmen seines Programms Project Glasswing laut Wired auch dem südkoreanischen Telekommunikationsriesen SK Telecom zur Verfügung. Das soll die Sicherheitsbehörden im Weißen Haus auf den Plan gerufen haben, die hinter der südkoreanischen Firma verdeckte Verbindungen nach China vermuteten.
Weiterlesen nach der Anzeige
Die Nervosität in Washington rund um eine potenzielle Peking-Connection verschärfte sich, als Amazon das Weiße Haus auf Schwachstellen in Fable 5 aufmerksam machte. Dabei handelt es sich um eine modifizierte Version von Mythos, die Anthropic Anfang Juni für die Öffentlichkeit freigegeben hatte. Amazon-Forscher demonstrierten, dass sich die eingebauten Sperren umgehen lassen, wodurch unbefugte Nutzer Zugriff auf die Cybersicherheitsfähigkeiten von Mythos erlangen könnten.
Für die US-Regierung fügten sich die Puzzleteile zu einem Bedrohungsszenario zusammen: Ein mächtiges KI-Werkzeug, das Software-Sicherheitslücken aufspüren kann, lag offenbar in den Händen eines Partners mit Verbindungen nach China. Dazu kam die Angst vor der möglichen Freischaltung aller Funktionen.
Per Exportbeschränkung ordnete das Weiße Haus an, sämtlichen ausländischen Staatsbürgern den Zugriff auf Mythos und Fable 5 zu entziehen, um jeglichen Datenabfluss Richtung Peking zu kappen.
Da eine Filterung nach Nationalitäten technisch kaum datenschutzkonform umsetzbar ist, zog Anthropic die Notbremse und schaltete die betroffenen Modelle ab. Dass die US-Regierung in diesem Fall derart kompromisslos reagierte, dürfte auch an Amodeis Weigerung liegen, sich politisch unterzuordnen. Das Pentagon hatte Anthropic wegen eines Streits über Massenüberwachung bereits im März vor die Tür gesetzt.
Geschäftliche Verstrickungen mit Peking
Dass gerade SK Telecom ins Visier der US-Falken geriet, ist historisch begründet. Zwar erwirtschaftete die Mobilfunksparte in China zuletzt kaum Umsatz und bestreitet jegliche unzulässige Nähe zu Peking. Doch SK Telecom ist Teil eines größeren Konglomerats, dessen Tochterfirmen Halbleiter- und Energiegeschäfte mit der Volksrepublik betreiben.
Weiterlesen nach der Anzeige
Zudem unterhält SK Telecom seit über zwanzig Jahren das Joint Venture UNISK mit dem staatlichen chinesischen Telekommunikationsanbieter China Unicom. Diesen Konzern belegte die Trump-Regierung frühzeitig wegen mutmaßlicher Verbindungen zum chinesischen Militär mit Investitionsverboten. Der US-Regulierer FCC verbannte ihn aus dem US-Netz. Für das Weiße Haus Grund genug, die Reißleine zu ziehen.
Inzwischen versucht Anthropic, den Schaden in Washington zu begrenzen. Das Startup hat seine Lobby-Präsenz im Kapitol in diesem Jahr verdreifacht, ein Büro in Washington eröffnet und hochkarätige Republikaner sowie Ex-Trump-Mitarbeiter angeheuert. Aktuell verhandeln beide Seiten täglich über eine Lösung, bei der ein gemeinsames technisches Prüfverfahren den Weg für eine Wiederinbetriebnahme ebnen könnte. In der Tech-Branche wächst zugleich die Sorge, dass der China-Verdacht einen Präzedenzfall schafft und eine „elektronische Überprüfung der Staatsbürgerschaft“ zur Standardbedingung im Silicon Valley wird.
Ein Bumerang und der Kontrast zu OpenAI
Kritiker werfen Amodei vor, die geopolitische Tragweite und die China-Paranoia in Washington unterschätzt zu haben. Eigene Warnungen seien ihm zum Verhängnis geworden: Amodei hatte zuvor betont, dass Mythos zu mächtig für hochentwickelte Cyberangriffe sei, um es ohne Kontrolle freizugeben. Zwar sprangen Anthropic nach der Zwangssperre über 175 Tech-CEOs und Cybersicherheitsexperten in einem offenen Brief bei. Doch das Vertrauen der US-Sicherheitsbehörden scheint verspielt.
OpenAI-Chef Sam Altman schaltete dagegen nach Trumps Wahlsieg sofort auf Kuschelkurs. Der ChatGPT-Betreiber stellte frühere Mitarbeiter des Präsidenten ein, finanzierte im Sinne der Regierung US-Rechenzentren und schickte über Lobby-Gruppen Gelder an Politiker, die gegen eine KI-Regulierung eintreten. Der Lohn der politischen Anpassung zeigte sich beim jüngsten G7-Gipfel: Altman saß beim KI-Lunch direkt neben Trump. Amodei musste mit dem französischen Präsidenten Emmanuel Macron vorliebnehmen.
(nen)
Künstliche Intelligenz
Nach IT-Vorfall bei Amazons One Medical droht Veröffentlichung von Daten
One Medical hat einen IT-Sicherheitsvorfall bestätigt. Nach Angaben der Amazon-Tochter verschafften sich Unbekannte zwischen dem 8. und 11. Juni 2026 Zugriff auf ein Dateispeichersystem eines Drittanbieters, in dem archivierte Daten von Patienten von One Medical Seniors sowie der übernommenen Gesundheitsorganisation Iora Health gespeichert waren. Der Vorfall wurde demnach am 13. Juni entdeckt; das Unternehmen sperrte den Zugriff und leitete eine Untersuchung ein.
Weiterlesen nach der Anzeige
Iora Health war auf die Versorgung älterer Patienten spezialisiert und wurde 2021 von One Medical übernommen. One Medical beschreibt sich als digital gestützten Dienstleister für den Zugang zur Gesundheitsversorgung, der rund um die Uhr über Telefon oder ein Online-Formular erreichbar ist. Iora Health firmiert heute unter dem Namen One Medical Seniors. Laut einer Mitteilung betrifft der Vorfall ausschließlich bestimmte Altbestände von One Medical Seniors.
Betroffen seien dem bisherigen Kenntnisstand zufolge demografische und klinische Daten von Patienten der laut Website bisher angebundenen Standorte in Atlanta, Cape Cod, Charlotte, Denver, Houston, Phoenix, Seattle, Tucson und der Region Piedmont Triad. Andere One-Medical-Kliniken, Dienste oder das elektronische Patientenaktensystem seien nicht betroffen. Betroffene Patienten will das Unternehmen nach Abschluss der Untersuchung benachrichtigen.

Drohung auf der Website von Shiny Hunters
(Bild: heise medien)
Die Ransomware-Gruppe ShinyHunters behauptet, 8,8 Terabyte Daten von One Medical erbeutet zu haben, und droht mit einer Veröffentlichung, falls bis zum 22. Juni keine Verhandlungen aufgenommen werden.
Amazon übernahm One Medical 2023
Weiterlesen nach der Anzeige
One Medical gehört seit 2023 zu Amazon. Der Konzern hatte die Übernahme des Betreibers von Gesundheitszentren und Telemedizin-Angeboten bereits 2022 angekündigt. Für rund 3,5 Milliarden US-Dollar übernahm Amazon das Unternehmen 1Life Healthcare, das unter der Marke One Medical in den USA mehr als 180 Gesundheitszentren betreibt. Mit der Akquisition baute Amazon seine Aktivitäten im Gesundheitssektor deutlich aus.
Der Vorfall wirft zudem Fragen zum Umgang mit übernommenen Altsystemen auf. Nach dem Angriff auf Change Healthcare hatte UnitedHealth eingeräumt, dass nach der Übernahme des Unternehmens im Jahr 2022 zunächst unterschiedliche Systeme auf einen gemeinsamen Sicherheitsstandard gebracht werden mussten. Change Healthcare betreibt zentrale Abrechnungs- und Zahlungsdienste für Krankenhäuser, Ärzte, Apotheken und Versicherungen in den USA.
Die Angreifer waren dort über kompromittierte Zugangsdaten in ein Citrix-Portal eingedrungen, das für den Fernzugriff auf Systeme genutzt wurde und nicht mit Multi-Faktor-Authentifizierung abgesichert war. Der Vorfall betraf fast 200 Millionen Menschen, hauptsächlich aus den USA.
Sowohl One Medical als auch UnitedHealth waren bereits vor den jeweiligen Sicherheitsvorfällen Gegenstand kritischer Berichterstattung. Während bei One Medical organisatorische Probleme in der Patientenbetreuung thematisiert wurden, steht UnitedHealth seit Jahren wegen seiner Größe, Marktmacht und Geschäftspraktiken unter Beobachtung, auch vom „meistgehassten Versicherer“ war laut Die Zeit die Rede.
(mack)
-
Künstliche Intelligenzvor 3 Monaten
JBL Bar 1300MK2 im Test: Soundbar mit Dolby Atmos, starkem Bass und Akku‑Rears
-
Künstliche Intelligenzvor 3 MonatenEmpfehlungsalgorithmen bei TikTok erklärt: Die Maschine hinter dem Endlos‑Feed
-
Social Mediavor 3 MonatenVon Kennzeichnung bis Plattformpflichten: Was die EU-Regeln für Influencer Marketing bedeuten – Katy Link im AllSocial Interview
-
Künstliche Intelligenzvor 3 MonateniX-Workshop Angriffsziel lokales AD − Schwachstellen finden und beheben
-
Künstliche Intelligenzvor 2 Monaten„Don’t Starve Elsewhere“: Survival‑Hit kehrt nach zehn Jahren zurück
-
Künstliche Intelligenzvor 2 MonatenWeitere Entlassungswelle bei Disney: Bis zu 1000 Mitarbeiter betroffen
-
Künstliche Intelligenzvor 2 MonatenKine‑Exakta: Die erste Spiegelreflexkamera fürs Kleinbild
-
Künstliche Intelligenzvor 2 Monaten
xTool P3 im Test: CO₂-Laser mit 80 Watt schneidet und graviert auch Acryl
