Die EU-Kommission hatte im Rahmen des sogenannten Omnibus-Pakets vorgeschlagen, Hochrisiko-KI-Systeme erst 16 Monate später, als zunächst geplant , zu regulieren. Nun hat der Europäische Rat der Änderung des AI Acts zugestimmt und seine Ansichten ausformuliert. Das ist Teil der Simplifizierungs-Agenda, bei der die EU aktuell mehrere bestehende Gesetze auf ihre Aktualität und Umsetzbarkeit betrachtet. In diesem Fall geht es vor allem um bisher fehlende Standards und Werkzeuge für Hochrisiko-KI, die noch ausgearbeitet werden müssen.

Zudem möchte der Rat verbieten, dass Inhalte generiert werden können, die Kindesmissbrauch und intime Situationen zeigen, sowie sexuelle Handlungen, die nicht einvernehmlich sind. Gemeint ist nicht nur die fehlende Erlaubnis des Aktes, sondern die fehlende Erlaubnis, solche Bilder künstlich zu erzeugen.

Auslöser für die Erweiterung waren massenhaft erstellte Bilder mit sehr fragwürdigen Inhalten, die Menschen mit dem Bildgenerator von Grok gemacht hatten. Die Bilder posteten viele bei X. Grok ist der Bildgenerator von Elon Musks xAI, dem auch X gehört. Es gibt allerdings zahlreiche Organisationen, wie etwa Hate Aid, die schon lange fordern, dass sogenannte Face-Swap-Apps verboten werden. Mit diesen ist es ein Leichtes, Köpfe und Gesichter von Personen aus pornografischen Bildern durch die Köpfe anderer Personen zu ersetzen.

Spätere Regulierung von Hochrisiko-KI

Zwei weitere Anpassungen an der KI-Verordnung betreffen Hochrisiko-KI-Systeme. Hochrisiko bedeutet, diese KI-Systeme können die Grundrechte und das Leben gefährden. Beispiele sind die biometrische Fernidentifizierung, auch bekannt als Gesichtserkennung, sowie beispielsweise der Einsatz von KI-Systemen in der kritischen Infrastruktur, Justiz und im Bildungswesen. Dabei geht es jeweils nicht generell um den Einsatz von KI, sondern um spezielle Aufgaben – so darf etwa die Auswertung von Prüfungen im Bildungswesen nicht ausschließlich von einer KI übernommen werden.

Neuer Stichtag für Hochrisiko-KI-Systeme ist der 2. August 2028. Ab dann gelten Regeln und Pflichten beim Einsatz von Hochrisiko-KI, wenn diese in andere Systeme eingebunden sind. Bereits der 2. Dezember 2027 ist nun der neue Stichtag für eigenständige Hochrisiko-KI-Systeme – solche, die nicht Teil eines umfangreicheren Produktes sind.

Wer ein Hochrisiko-KI-System betreibt, muss dieses in einer EU-Datenbank registrieren. Der Europäische Rat fordert, dass dies immer gemacht wird – auch wenn Betreiber meinen, ihr System gehöre vielleicht nicht dazu. Das stand zuletzt im Raum, inwieweit Betreiber selbst entscheiden können, wie ihre Systeme einzustufen sind. Ebenfalls bekräftigt der Rat den Grundsatz der strengen Notwendigkeit für die Verarbeitung von personenbezogenen Daten.

Dem AI Office soll weiterhin die grundlegende Überwachung von Allzweck-KI-Modellen (General Purpose AI) obliegen. Ausnahmen, bei denen nationale Behörden zuständig sind, sollen von dem EU-Amt aufgelistet werden.

Der Rat fordert die Kommission auf, Leitlinien zu entwickeln, die den Verwaltungsaufwand für Unternehmen, die KI-Systeme einsetzen, minimieren. Ausnahmen, die bisher nur für Klein- und Mittelständische Unternehmen halten, sollen auch auf kleinere Midcap-Unternehmen gelten.

Die Forderungen des Rates werden nun mit dem EU-Parlament besprochen.

(emw)

Die Zahl der Beschwerden über Inhalte bei jeder Form von Hostern im Netz ist weiter hoch: 51.358 Mal wurden 2025 Hinweise an die Beschwerdestelle des Internetwirtschaftsverbands eco gegeben. 30 Jahre nach dem Start der ersten Meldestelle für rechtswidrige Internetinhalte ist die Zahl der berechtigten Meldungen in einem besonders problematischen Bereich auf Rekordniveau. Die Änderungen durch den Digital Services Act spielen dabei kaum eine Rolle.

Die berechtigten Meldungen von Darstellungen sexuellen Missbrauchs und anderer Inhalte aus dem Bereich der Selbstbestimmung von Kindern und Jugendlichen haben gegenüber dem bisherigen Rekordjahr 2023 noch einmal um fast 50 Prozent zugenommen. Von den für rechtswidrig befundenen 30.035 Inhalten im Jahr 2025 wurden alle in Deutschland gehosteten entfernt – und immerhin 98,58 Prozent aller dieser Inhalte weltweit, berichtet die Eco-Beschwerdestelle. „Selbstregulierung funktioniert“, und das auch international, betont Alexandra Koch-Skiba, die die Internet-Beschwerdestelle seit Jahren leitet. Einen Grund dafür sieht sie in der internationalen Zusammenarbeit der Anbieter im „Inhope“-Netzwerk, das seit vielen Jahren den länderübergreifenden Austausch koordiniert. Doch die Zahlen sind nicht nur gestiegen, der Zeitraum bis zur Löschung hat sich auch deutlich verlängert.

Aufwand für Beschwerdestelle steigt

Die Verbreiter würden sich verschiedener Verschleierungstaktiken bedienen, um eine Auffindbarkeit der beanstandeten Inhalte für Dritte zu erschweren, erklärt Alexandra Koch-Skiba, von notwendigen Referrern über zulässige oder verbotene IP-Adressräume bis hin zu technisch ausgereifteren Verfahren. Im Regelfall würde ihr Team zwar Mittel und Wege finden, die jedoch den zeitlichen Aufwand pro Fall erhöhen würden. Auch Massenmeldungen vieler Inhalte auf einmal würden zeitliche Auswirkungen haben. Sprich: Die Fallbearbeitung dauert länger.

Die von der Beschwerdestelle veröffentlichten Daten zeigen, dass bis zur Löschung von Inhalten erstmals bei weniger als 70 Prozent der für rechtswidrig erachteten Inhalte binnen einer Woche die Löschung stattfand. „Löschen statt sperren“ und die Straftaten auch zur Anzeige zu bringen sei auch 2026 die richtige Strategie, meint der Geschäftsführer des Eco-Internetwirtschaftsverbands Alexander Rabe. Und sagt: „Keine Internetsperre wird Menschen aufhalten, die diesen menschlichen Abgründen folgen wollen.“ Nach vier Wochen sind laut den Zahlen eben doch fast alle Inhalte, die rechtswidrig waren, entfernt.

Hinweisgeber nutzen anonyme Meldemöglichkeit

Dabei gibt es vor allem vier Hauptquellen für die Meldungen an die Eco-Internetbeschwerdestelle: Fast die Hälfte aller Hinweise kam von anderen Beschwerdestellen, die im Inhope-Netzwerk agieren. Die zweithäufigste Quelle ist mit über 15.000 Fällen die eigene Recherche – also weitere Inhalte, die meist beim Nachspüren nach ersten Hinweisen mitentdeckt wurden, heißt es in dem Jahresbericht der Beschwerdestelle. Über 4.000 Mal kamen Hinweise von Bürgerinnen und Bürgern mit Namensnennung, 5.000 Mal wurde von der Möglichkeit Gebrauch gemacht, anonyme Hinweise zu geben.

Chinas umsatzstärkster Einzelhändler JD.com hat die Eröffnung seines Onlineshops Joybuy in Deutschland, Großbritannien, Frankreich, den Niederlanden, Belgien und Luxemburg angekündigt. Der Händler bietet auf seiner Plattform Produkte aus den Bereichen Technik, Haushaltsgeräte, Beauty, Wohnen, Lebensmittel und Dinge des täglichen Bedarfs „zu wettbewerbsfähigen Preisen“ an. Ähnlich wie Amazon verspricht der Händler in bestimmten Regionen eine zeitnahe Lieferung.

JD.com dürfte einigen spätestens seit dem Einstieg bei Europas größtem Elektronik-Fachhändler MediamarktSaturn (Ceconomy) ein Begriff sein. Nun erweitert der chinesische E-Händler seinen Fußabdruck in Europa mit Joybuy, der mit seinem umfangreichen Sortiment Amazon Paroli bieten möchte.

Neben Produkten aus genannten Bereichen verfügt Joybuy auch über Markenshops der Unternehmen L’Oréal, Logitech, Braun, De’Longhi, Brita, Bodum, Playstation und weiteren. Auch Amazon hat ähnliche Partnershops mit diversen Händlern.

Schnelle Lieferung

Joybuy bietet zudem ähnlich wie Amazon eine eigene Logistik: „Indem wir den gesamten Prozess vom Lager bis zur Haustür selbst steuern, wollen wir taggleiche Lieferungen perspektivisch zum neuen Standard machen“, sagt das Unternehmen.

Das Unternehmen ermöglicht Kundinnen und Kunden mit der „Double 11“-Expresslieferung, ihre Bestellung noch am selben Tag zu erhalten, wenn sie bis 11 Uhr bestellen, heißt es. Dieses Angebot greife jedoch zunächst nur in ausgewählten Städten Nordrhein-Westfalens, darunter Bochum, Dortmund, Duisburg, Düsseldorf, Essen und Köln. Es gilt ab einem Bestellwert von 29 Euro „ohne zusätzlichen Aufpreis“.

Damit sollten zu Beginn „mehr als 5 Millionen Menschen in über 2 Millionen Haushalten von der Same-Day-Lieferung“ profitieren. Hierfür verfügt das Unternehmen über ein 90.000 Quadratmeter großes Logistikzentrum und den eigenen Zustelldienst JoyExpress. Außerhalb der „Double 11“-Regionen ist eine Lieferung am nächsten Tag oder Standardversand deutschlandweit möglich, erklärt Joybuy.

Überdies bietet das Unternehmen ein Mitgliedschaftsprogramm namens JoyPlus an: Für 3,99 Euro im Monat entfallen die Versandkosten ohne Mindestbestellwert. Außerdem erhalten Nutzer Zugang zu exklusiven Angeboten und sammeln Punkte. Auch für Studentinnen und Studenten gibt es Vergünstigungen: Sie zahlen einen reduzierten Preis von 2,99 Euro im Monat. Neukunden können das Plus-Abo 30 Tage kostenfrei testen.

Aus Ochama wird Joybuy

JD.com war bislang in einigen europäischen Ländern als Ochama unterwegs. Diesen Namen legt das Unternehmen mit dem Start von Joybuy nun ab.

Laut JD.com erfolgt der Wechsel von bisherigen Ochama-Kunden zu Joybuy automatisch. Ochama-Daten und Bestellungen würden automatisch auf Joybuy transferiert, schrieb der E-Händler auf seiner Webseite schon im August 2025.

Ebenfalls seit August ist Joybuy.com in Deutschland mit seinem Onlineshop aktiv. Die Ankündigung am 16. März stellt offenbar letztlich den offiziellen Startschuss mitsamt der Same-Day-Delivery-Option dar.

(afl)