Connect with us

Künstliche Intelligenz

Grok-Skandal: KI von xAI generiert sexuelle Deepfakes von Frauen und Kindern


Die KI Grok, die direkt in die Plattform X integriert ist und von Elon Musks Konzern xAI betrieben wird, hat in den vergangenen Tagen einen handfesten Skandal ausgelöst. Nutzer haben die Bildbearbeitungsfunktion des generativen KI-Systems verwendet, um Fotos von Frauen und sogar Minderjährigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden öffentlich auf X gepostet, was zu heftiger Empörung führte.

Weiterlesen nach der Anzeige

Agenturen und Medien wie Bloomberg, Reuters und Politico beschreiben, wie Grok auf einfache Anfragen wie „entferne ihre Kleidung“ oder „setze sie in einen Bikini“ reagierte und entsprechende Bilder generierte, die teilweise oder vollständig entblößt wirkten. Besonders brisant sind Fälle, in denen Jugendliche und Kinder betroffen waren.

Über den X-Account von Grok selbst ist in mehreren Postings die Rede davon, es habe „vereinzelte Fälle“ gegeben, in denen Nutzer KI-Bilder von Minderjährigen in „knapper Bekleidung“ erhalten hätten. Dazu kommt der Hinweis auf ein „Versagen der Sicherheitsvorkehrungen“, was gegenwärtig behoben werde. Die Vorfälle hätten „gegen ethische Standards und möglicherweise gegen US-amerikanische Gesetze zu kinderpornografischem Material“ verstoßen. Weiter heißt es: „xAI überprüft den Vorfall, um künftige Probleme zu vermeiden.“

Aus den Äußerungen über das Grok-Konto geht nicht klar hervor, ob auch diese rein automatisch generiert oder zumindest menschlich überprüft wurden. Das KI-System erweckt den Eindruck, für sich selbst zu sprechen. In einer früheren Stellungnahme zu den Vorkommnissen soll xAI pauschal etwa gegenüber Reuters erklärt haben: „Die etablierten Medien lügen.“

Viele der anstößigen Bilder wurden später gelöscht, doch Screenshots zirkulieren weiter. Betroffene Frauen und Teenager beklagen sich, dass ihre auf X geposteten Fotos ohne ihr Wissen manipuliert worden seien, was ihre Würde verletze.

Vor allem in Frankreich reagierte die Politik prompt. Die Hochkommissarin für Kinder, Sara El Haïry, zeigte sich empört und forderte den Medienregulierer Arcom auf, die Fälle auf Basis des Digital Services Act (DSA) zu prüfen. Gleich drei Ressortchefs aus dem französischen Kabinett – Wirtschaftsminister Roland Lescure, KI-Ministerin Anne Le Hénanff und Gleichstellungsministerin Aurore Bergé – erstatteten Anzeige bei der Pariser Staatsanwaltschaft und meldeten die Inhalte an die Meldeplattform Pharos zur sofortigen Entfernung. Sie erklärten gemeinsam: Das Internet sei weder rechts- noch straffrei. Zugleich wandten sich die Abgeordneten Arthur Delaporte und Eric Bothorel an die Justiz.

Die Staatsanwaltschaft in Paris bestätigte gegenüber Politico, dass die Vorfälle in eine laufende Untersuchung gegen X einfließen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok. Das Delikt könnte mit bis zu zwei Jahren Haft für Verantwortliche beziehungsweise einer Geldbuße geahndet werden.

Weiterlesen nach der Anzeige

Auch international hagelt es Kritik: In Indien forderte das IT-Ministerium einen Bericht von X. In Großbritannien mahnte eine Ministerin strengere Regeln an. xAI positioniert Grok mit Funktionen wie „Spicy Mode“ für suggestive Inhalte bewusst freizügiger als Konkurrenzmodelle wie ChatGPT oder Gemini. Doch Experten warnen seit Langem vor daraus erwachsenden Risiken. Auch Kinderschutzorganisationen schlugen bereits im Vorjahr Alarm. Die jüngsten Entgleisungen bei Grok unterstreichen auch erneut die dunkle Seite generativer KI.


(nen)



Source link

Künstliche Intelligenz

iX-Workshop Exchange Migration: Ende des Supports für Exchange Server 2016/2019


Seit dem 14. Oktober 2025 ist der Support für Microsoft Exchange Server 2016 und 2019 beendet. Unternehmen erhalten demnach keine Sicherheitsupdates, Bugfixes oder technischen Support mehr. Dies stellt insbesondere für öffentlich zugängliche Exchange Server ein erhebliches Sicherheitsrisiko dar.

Weiterlesen nach der Anzeige

Im Workshop Exchange Migration: Von Microsoft Exchange Server zu Exchange Online erfahren Sie, wie Sie Ihren Exchange Server 2016 oder 2019 schrittweise zu Exchange Online migrieren können. Sie lernen die verfügbaren Migrationsoptionen kennen und erhalten einen Überblick über die Vorbereitung, Initiierung und Bewältigung von Herausforderungen während des Migrationsprozesses. Nach der Schulung sind Sie in der Lage, fundierte Entscheidungen für eigene Migrationsprozesse zu treffen und in Zusammenarbeit mit den notwendigen Fachabteilungen die Umstellung mit Microsoft Bordmitteln selbst durchzuführen.

März
05.03.2026
Online-Workshop, 09:00 – 17:00 Uhr
Juni
18.06.2026
Online-Workshop, 09:00 – 17:00 Uhr
10 % Frühbucher-Rabatt bis zum 21. Mai 2026
Oktober
08.10.2026
Online-Workshop, 09:00 – 17:00 Uhr
10 % Frühbucher-Rabatt bis zum 10. Sep. 2026

Der Workshop wird von Daniel Dreeser geleitet. Als M365 Consultant bei der Rewion GmbH berät er Kunden auf strategischer und technischer Ebene. Seine Schwerpunkte sind die Bereitstellung von hybriden M365-Infrastrukturen, der Betrieb von Exchange Online und die Einführung von Microsoft Teams auf Basis von Best Practices.

Der Workshop richtet sich an IT-Administratoren. Um genügend Raum für einen regen Austausch mit dem Referenten und untereinander zu ermöglichen, ist die Teilnehmerzahl auf 20 Personen begrenzt.




(ilk)



Source link

Weiterlesen

Künstliche Intelligenz

Im Funkloch: Wie Smart Meter auch ohne LTE-Empfang online gehen


Das Interesse an Smart Metern steigt: Die „intelligenten Messsysteme“ (iMS / iMSys) ermöglichen dynamische Stromtarife und verschaffen Nutzern einen Überblick über ihren Stromverbrauch. Haushalte mit Wärmepumpe, Wallbox oder PV-Anlage erhalten früher oder später sogar verpflichtend ein Smart Meter von ihrem örtlichen Messstellenbetreiber.

Doch egal ob Pflicht oder Wunsch: Bevor der Monteur des Messstellenbetreibers das Smart Meter Gateway installiert, prüft er zunächst mit einem Messgerät den LTE-Empfang am Zählerschrank. Reicht die Signalstärke nicht aus, kann er das Gateway nicht installieren. „Schließlich hilft es nicht, wenn das iMS keinen oder nur wackeligen Empfang hat“, schrieb im Januar 2026 Markus Rüger vom Betreiber EWE Netz in einem Beitrag auf LinkedIn. „Kunden, die sich das iMS gewünscht haben, sind dann enttäuscht.“

Die Funklöcher in den Kellern der Republik verhindern den Einbau nicht nur in Einzelfällen. RheinNetz aus Köln teilte auf Anfrage von c’t mit, dass nur in circa 80 Prozent der Anfahrten eine Installation möglich sei. Noch niedriger ist die Erfolgsquote in Hamburg: „In etwa 70 bis 75 Prozent der Fälle liegen die Messwerte im grünen Bereich, sodass ein iMSys mit Mobilfunk verbaut werden kann“, sagte ein Sprecher der Hamburger Energienetze. N-ergie aus Nürnberg berichtet von einer LTE-Abdeckung von „maximal 70 Prozent“.


Das war die Leseprobe unseres heise-Plus-Artikels „Im Funkloch: Wie Smart Meter auch ohne LTE-Empfang online gehen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Missing Link: Digitaler Neustart des Sozialstaats soll Zettelwirtschaft beenden


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Deutschland leistet sich einen der umfassendsten Sozialstaaten der Welt. Doch das System droht unter seiner eigenen Last zu erstarren. Viele Bürger blicken kaum noch durch, welche Leistungen ihnen in welcher Lebenslage zustehen; die Sachbearbeiter in den Behörden arbeiten an der Grenze ihrer Belastbarkeit. Das Sozialstaatsgebilde ist über Jahrzehnte organisch gewachsen und hat dabei eine Komplexität erreicht, die nicht nur für die Betroffenen frustrierend ist, sondern auch zu massiven Effizienzverlusten führt. In dieser angespannten, durch den Fachkräftemangel in der Verwaltung verschärften Lage hat die im September 2025 eingesetzte Kommission zur Sozialstaatsreform (KSR) vor Kurzem ihren Abschlussbericht vorgelegt.

Weiterlesen nach der Anzeige

Das Gremium, das mit Vertretern der Bundesressorts, Länder und kommunalen Spitzenverbände besetzt ist, verstand seinen Auftrag als Weckruf für einen „digitalen Neustart“. Es geht also nicht nur ums Nachjustieren an bestehenden Gesetzen, sondern um eine fundamentale Neuausrichtung.

Bundesarbeitsministerin Bärbel Bas (SPD) fasst die Ambition so zusammen: „Unser Sozialstaat muss gerechter, einfacher und digitaler werden. Dafür hat die Sozialstaatskommission ein ambitioniertes Paket an Empfehlungen vorgelegt, um die Sozialverwaltung und das Sozialrecht bürgerfreundlicher zu gestalten.“ Ziel ist es, den Sozialstaat als handlungsfähige Institution erlebbar zu machen, die Menschen im Alltag unterstützt, statt sie durch bürokratische Hürden zu entmutigen.

Bisher galt Digitalisierung in der öffentlichen Verwaltung oft als ein nachgelagertes Projekt, eine Art Sahnehäubchen auf bestehenden analogen Prozessen. Die KSR bricht mit dieser Logik und widmet der digitalen Organisation in dem Report ein eigenes, zentrales Kapitel. Sie sieht digitale Verfahren nicht mehr als ergänzendes Modernisierungsprojekt, sondern als Bedingung für effizientere Abläufe. Ohne einen technologischen Sprung wird das soziale Schutzniveau angesichts schrumpfender personeller Ressourcen in den Behörden schlicht nicht zu halten sein.

Das Herzstück der skizzierten Transformation ist die konsequente „Ende-zu-Ende-Digitalisierung“ der Antrags- und Verwaltungsverfahren. Aktuell ist die Sozialverwaltung durch eine stark fragmentierte IT-Landschaft mit zahllosen Fachverfahren geprägt, die kaum miteinander kommunizieren.

Um dieses Manko zu beseitigen, schlägt die Kommission den Einsatz des auch anderweitig bereits viel diskutierten Deutschland-Stack vor: einer technisch souveränen Technologieplattform, die einheitliche Standards und Schnittstellen für alle staatlichen Anwendungen vorgibt. Sie soll modulare Basisdienste wie Cloudleistungen, Authentifizierungsdienste und eine bidirektionale Postfachfunktion bereitstellen. Diese müssten Bund, Länder und Kommunen gleichermaßen verwenden.

Weiterlesen nach der Anzeige

Für die Bürger soll sich der Zugang zum Sozialstaat radikal vereinfachen. Anstatt sich durch einen Dschungel aus verschiedenen Ämtern und Webseiten zu kämpfen, wird dem Bericht nach ein einziges digitales Zugangsportal zur wesentlichen Anlaufstelle. Über dieses Portal sollen sämtliche Interaktionen abgewickelt werden – von der Information über mögliche Ansprüche über die Antragstellung bis zum Abruf von Bescheiden. Perspektivisch könnten darüber sogar Leistungen ausgezahlt werden. Dieses One-Stop-Shop-Prinzip soll durch eine Anschluss- und Nutzungspflicht für alle föderalen Ebenen verbindlich abgesichert werden.

Dabei geht es um mehr als eine schicke Benutzeroberfläche. Die Kommission fordert die Umsetzung des Once-only-Prinzip. Das bedeutet: Wenn Daten einmal bei einer Behörde hinterlegt sind, müssen sie nicht bei jedem Folgeantrag erneut eingereicht werden. Nicht die Bürger sollen laufen, sondern die Bits und Bytes: die Behörden tauschen die benötigten Informationen im Hintergrund untereinander aus.

Ein zentraler Hebel dafür ist die Nutzung der steuerlichen Identifikationsnummer (Steuer-ID) als registerübergreifendes Identitätsmerkmal. Nur damit lässt sich laut der KSR sicherstellen, dass Personen über verschiedene Systeme hinweg eindeutig zugeordnet werden können. Das sei die Basis für automatisierte Prozesse.

Doch ein solcher Ansatz ist für Datenschützer seit Langem ein rotes Tuch. Bereits mit dem Registermodernisierungsgesetz sei die Steuer-ID zu einer Identifikations- und Bürgernummer für allgemeine Zwecke außerhalb der Finanzverwaltung geworden, monierte etwa der damalige Bundesdatenschutzbeauftragte Ulrich Kelber 2023. Schon dies komme der Einführung eines bereichsübergreifenden Personenkennzeichens gleich, was das Bilden von Profilen „übermäßig“ erleichtere und so „den besonders geschützten geistigen Innenraum“ der Bürger gefährde. Es gebe keine hinreichenden Hürden, um Missbrauch effektiv zu verhindern.

2021 waren etwa auch Forscher, Sachverständige und Bürgerrechtler gegen die Registerreform Sturm gelaufen. Mit dem KSR-Vorstoß könnte diese an sich schon verfassungsrechtlich kritische Situation deutlich verschärft werden.

Ein anderer kontroverser Punkt ist der empfohlene verstärkte Einsatz von Künstlicher Intelligenz (KI) und Automatisierung in der Verwaltung. Die KSR rät, rein regelgebundene Prozesse ohne Ermessensspielraum weitestgehend automatisiert ablaufen zu lassen.

Was soll da schon schiefgehen? Die niederländischen Behörden wollten mit einem System zur automatisierten Risikoerkennung schon einmal herausfinden, ob und welche Bürger den Staat möglicherweise betrügen, indem sie zu Unrecht Wohngeld, Arbeitslosengeld oder sonstige Sozialleistungen beziehen, Steuerbetrug begehen oder schwarzarbeiten. Mit dieser „System Risk Indication (SyRI)“ errichteten die Niederlande nach Ansicht des UN-Sonderbeauftragten für extreme Armut und Menschenrechte, Philip Alston, einen „Überwachungsstaat für die Armen“. Er unterstützte daher eine Klage von Menschenrechtsgruppen und betroffener Bürger gegen dieses gesellschaftliche Scoring-Verfahren.

In komplexeren Fällen, in denen Ermessensentscheidungen zu treffen sind, soll KI die Sachbearbeiter laut der KSR daher nur unterstützen. Die endgültige Entscheidung müsse hier stets in menschlicher Hand verbleiben, verlangt sie. Dies würde Kapazitäten freisetzen, damit sich die Beschäftigten in den Behörden wieder intensiver um die individuelle Beratung und Begleitung kümmern könnten.

Ein weiterer wichtiger Baustein in der technologischen Vision der Kommission ist die Integration der European Digital Identity Wallet (EUDI), die ab 2027 europaweit zur Verfügung stehen soll. Diese digitale Brieftasche auf dem Smartphone soll weit mehr sein als ein bloßer Ersatz für den Personalausweis. Die Kommission pocht darauf, zentrale Nachweise systematisch für die Bereitstellung über die EUDI-Wallet aufzubereiten, um Identifikation und Nachweiserbringung zu einem integrierten Bestandteil staatlicher Verfahren zu machen.

Als konkreten ersten Schritt schlagen die Experten vor, den Schwerbehindertenausweis zu digitalisieren und so zu gestalten, dass er den EUDI-Anforderungen entspricht. Dafür soll der Bund zeitnah eine rechtliche Grundlage schaffen. Aus technischer Sicht bietet die EUDI-Wallet die Chance, das Once-only-Prinzip auf ein neues Level zu heben. Anstatt Dokumente einzuscannen oder mühsam per Post zu versenden, könnten Bürger benötigte Nachweise direkt aus ihrer Wallet gesichert an die Sozialbehörden übermitteln.

Doch hier droht Widerstand von Bürgerrechtsorganisationen. Die American Civil Liberties Union (ACLU), der Electronic Frontier Foundation (EFF) und Epicenter.works erheben schon jetzt schwere Vorwürfe gegen die geplante EUDI-Implementierung. Sie befürchten, dass ausstellende Behörden prinzipiell in der Lage sein könnten, jede Nutzung der digitalen Identität nachzuverfolgen. Eine solche „Phone-Home-Funktion“ müsse zwingend ausgeschlossen werden, unterstreichen die Vertreter der Zivilgesellschaft. Es dürfe keinen Akteur geben, der Interaktionen zentral beobachten und Informationen aus E-Government, Bankgeschäften oder Logins bei sozialen Netzwerken verknüpfen könne.

Dazu kommt der Vorwurf von Epicenter.works, die EU-Kommission versuche eine lebenslange Personenkennziffer „durch die Hintertür“ einzuführen. Obwohl sich der Gesetzgeber eigentlich gegen eine „eindeutige und dauerhafte Kennung“ bei Online-Brieftaschen entschieden hatte, scheine die Brüsseler Regierungsinstitution diesen Ansatz bei der Umsetzung der Verordnung immer wieder aufzugreifen.



Source link

Weiterlesen

Beliebt