Die heutige Degitalisierung könnte etwas feiern: den Launch des Deutschland-Stacks, KI-Agenten, eine deutsche Führungsrolle in der Verwaltungsdigitalisierung, Govtech, Innovation. Renommierte Preise, ach was sag‘ ich: Auszeichnungen vom Stellenwert eines Oscars. Das steht zumindest auf LinkedIn. Nur wird diese Kolumne das heute nicht tun, das wäre ja noch schöner.
Denn zum Feiern kann in der Realität der real angekommenen Digitalisierung von Verwaltung und Gesundheitswesen niemandem zu Mute sein. Dieses Problem ist systematisch und besonders in Deutschland ein wiederkehrendes. Denn eigentlich ist erfolgreiche Digitalisierung ein wenig wie die Schaffung cineastischer Meisterwerke, bei denen immer wieder ein paar entscheidende Teile vergessen worden zu sein scheinen: das Publikum und die Schaffung eines Rahmens für ein solches. Kunst der Kunst wegen; Kunst, für die das Erlangen eines Blickes noch schwerer zu bekommen ist als auf einen raren Kunstfilm im Arthaus-Kino.
Damit Digitalisierung zu einem Blockbuster werden könnte, fehlt nämlich oftmals das, was das Kino schon lange hat: etablierte Verbreitungswege. Digitalisierung in Deutschland scheitert allzu oft am Rollout.
Rollin‘
Anfang dieses Monats gab es in Berlin eine Pressekonferenz im Bundesministerium für Digitales und Staatsmodernisierung. Dabei ging es um einen „neuen Umsetzungsansatz für die Digitalisierung der Verwaltung“, im Speziellen um das Ausrollen von digitalen Verwaltungsleistungen. Spezielle Teams für den Roll-in sollen dabei in die Verwaltungen vor Ort gehen und dort bei der Einrichtung neuer Systeme helfen. Ziel ist dann letztlich das Ausrollen oder Einrollen von immerhin fünf Verwaltungsleistungen, die dann im jeweiligen Bundesland flächendeckend verfügbar sein sollen.
Geschehen soll das zuerst pilotiert, dann in ganz Bayern und Hessen. Und wer jetzt erwartet, dass es in Bayern und Hessen dann am Ende dieses Jahres dieselben fünf Verwaltungsleistungen flächendeckend verfügbar geben könnte, nein, das wäre zu einfach. In Bayern werden die Leistungen „Online-Ummeldung“, „Online-Beantragung des Führerscheins“, „Online-Beantragung von Bauvorbescheid und Baugenehmigung“, „Online-Beantragung einer Aufenthaltsgenehmigung“ und „Online-Waffenrechtliche Erlaubnisse“ eingeführt.
Hessen will die Leistungen „Online-Ummeldung“, „Online-Beantragung des Führerscheins (Erstantrag)“, „Online-Beantragung einer Aufenthaltsgenehmigung“, „Online-Unterhaltsvorschuss“ und „Online-Anlagengenehmigung und -zulassung“ flächendeckend einführen.
Damit sind dann Ende 2026 vielleicht zwei Verwaltungsleistungen in der Schnittmenge flächendeckend verfügbar, also in Hessen und Bayern. Nicht in der ganzen Republik.
Aber gab es nicht einmal ein Vorhaben, das sogar ganze 575 Verwaltungsleistungen flächendeckend verfügbar machen wollte? Ja, das gab es und die Älteren hier kennen das als Onlinezugangsgesetz. Das trat 2017 in Kraft, der Prozess sollte 2022 abgeschlossen sein, und naja, 2026 stehen wir also an dem Punkt, dass Roll-in-Teams durch Hessen und Bayern tingeln und Verwaltungsleistungen in der Art wandernder Kaufleute von Kommune zu Kommune bringen. Dingdong, dürfen wir mit Ihnen über Einer-für-alle-Leistungen sprechen? Heute im Angebot: Online-Ummeldung, ganz fangfrisch aus Hamburg.
Vertriebswege
Nun wurden im Intro ja schon die schlechten Filmpreisvergleiche angestoßen. Im Gegensatz zu digitalen Verwaltungsleistungen haben Kinofilme – trotz stärker werdenden Streamings von Inhalten für Zuhause – immer noch besser funktionierende Verteilungswege für ihre Inhalte. In Deutschland gab es 2024 1.722 Kinos mit 4.842 Leinwänden, auf denen zumindest die großen Blockbuster im ganzen Land konsumierbar werden. Häufig auch die Filme, die einen oder mehrere Oscars gewinnen.
Digitale Verwaltungsleistungen sind von dieser Omnipräsenz leider oft noch weit entfernt. Die Online-Ummeldung, die in Hessen und Bayern ja von Kommune zu Kommune endlich vollends ausgerollt werden soll, ist aktuell erst von zwei Dritteln der Bevölkerung nutzbar. Zwar haben 15 von 16 Bundesländern schon die digitale Verwaltungsleistung ausgerollt und auch das Saarland, das hier ausnahmsweise mal nicht als universeller Messmaßstab dienen soll, plant eine Nutzung. Nur gibt es auf kommunaler Ebene eher noch viele Nutzbarkeitslücken, ähnlich wie beim nicht durchgehenden Mobilfunkempfang. Online ummelden in Regensburg? Fehlanzeige. Ummeldung vom Sofa aus in Brandenburg? Nur in drei Prozent des Landes verfügbar.
Verwaltungsarbeit in Deutschland wird vorwiegend von den Kommunen vor Ort umgesetzt. Bundesgesetze und Länderregelungen schön und gut, aber die „Musik“ spielt vor Ort in der Kommune. Und so kommen die ganzen neuen, verheißungsvollen digitalen Verwaltungsleistungen oftmals gar nicht so recht weiter. Die Gründe dafür ließen sich jetzt in typischer Verantwortungsdiffusion im Kreis der möglichen Verantwortlichen hin- und herschieben. Die Kommunen könnten schuld sein, weil sie die Leistungen nicht annehmen. Vielleicht noch einmal einen Brief schreiben, wie das der ehemalige Staatssekretär Johann Saathof tun wollte? Bitten allein werden nach fast zehn Jahren OZG nicht mehr helfen. Fingerzeige auch nicht.
Realistisch betrachtet sind die allermeisten Kommunen in Deutschland auf Roll-in-Teams angewiesen, die Kommunen dabei helfen, digitale Verwaltungsleistungen vor Ort zu implementieren. Kommunen mit manchmal nur halben IT-Stellen, die sich in Personalunion um das Schul-WLAN, die Drucker im Amt und irgendwelche Onlineleistungen kümmern sollen, werden nicht viele Kapazitäten haben, auch noch viele neue digitale Baustellen aufzumachen. „Sobald eine andere Aufgabe kommt, eine Pflichtaufgabe, die hat dann doch Priorität vor der Digitalisierung“, attestiert etwa ein Erfahrungsbericht der Hochschule Harz zum Rollout des OZG in kleinen Kommunen. Von den fehlenden finanziellen Mitteln in manchen Kommunen ganz zu schweigen.
Vollständig zentralisieren lassen sich Verwaltungsleistungen im Digitalen übrigens auch nicht, auch wenn das vielleicht gerade die Hoffnung ist. Spätestens bei der Durchsetzung von Verwaltungsvorgängen, sei es über Ordnungsämter, Standesämter oder ähnliche Behörden, braucht auch zentrale Infrastruktur wieder dezentrale Anknüpfungspunkte in der Kommune vor Ort. Damit bleiben Rollout-Herausforderungen in der Verwaltung immer vorhanden.
Ebenso kann es schwerlich ein vollständig zentralisiertes digitales Gesundheitswesen geben, weil dieses immer mit Menschen agieren muss, die vor Ort mit echten Patient*innen interagieren. Auch hier: Es gibt kein vollständig zentralisierbares digitales System, das nicht irgendwann auf Rollout-Probleme vor Ort stoßen würde.
Märkte
In der Digitalisierung der Verwaltung, aber auch des Gesundheitswesens, ist eines in Deutschland immer gewiss: Dass aus großen Digitalprojekten immer ein für die Wirtschaft durchaus erträglicher Markt wird, ganz egal, ob digitale Leistungen bei Bürger*innen auch wirklich ankommen.
Das OZG ist und war ein riesiger Markt. Versenktes Budget für die OZG EfA-Leistungen? Über eine Milliarde Euro ohne nennenswerte Fortschritte. Folglich sprach der Bundesrechnungshof zur Verwendung der Mittel für das Onlinezugangsgesetz 2024 zu vom Bund finanzierten Leistungen teilweise sogar von Investitionsruinen.
Ähnlich verhält es sich mit der verschleppten Nutzung bei anderen Digitalgroßprojekten in Deutschland. Der „neue“ Personalausweis etwa, der bei seiner Einführung 2010 einen für die damalige Zeit unglaublichen Funktionsumfang mitbrachte. eID-Funktion zum Ausweisen im Internet, qualifizierte elektronische Signaturen, Pseudonym-Funktionen sowie eine Alters- oder Wohnortbestätigung, ohne Geburtsdatum oder genaue Adresse preiszugeben.
Wir sind communityfinanziert
Unterstütze auch Du unsere Arbeit mit einer Spende.
Funktionen, die heute eigentlich jede Bundesbürger*in in der digitalen Welt brauchen könnte. Funktionen, die aber nach wie vor schlecht ausgerollt werden. PIN für die ganzen schönen digitalen Ausweisfunktionen nicht zur Hand? Tja, es gab mal einen PIN-Rücksetzdienst, der war aber dann zu teuer. Digitales, rechtssicheres Signieren mit jedem Personalausweis, offline und immer verfügbar? Wäre technisch gegangen. Wurde 2010 aber dem Markt überlassen (€). Signaturzertifikate für den Personalausweis bot dann in einem marktoffenen Modell mit genau noch einem Marktteilnehmer dann nur ein staatsnaher Marktteilnehmer an.
Nicht nur in der Verwaltung, sondern auch im Gesundheitswesen wird in der Digitalisierung in Deutschland immer im Markt die Lösung für das Problem der Skalierung gesehen. Das ist aber nicht ohne große Komplexität und erzeugt teils erhebliche Probleme, ein großes, stimmig zusammenpassendes Ganzes zu schaffen. Oder wie die für die Spezifikationen der Digitalisierung des Gesundheitswesens zuständige gematik schreibt:
Denn im Marktmodell gibt es für TI-Anwendungen wie die ePA zahlreiche Softwarelösungen der verschiedenen Systemhersteller. Diese müssen alle mit der TI kompatibel sein und teils auch untereinander funktionieren. Das erhöht die Komplexität des „Ökosystems“ Telematikinfrastruktur zusätzlich.
Auch wenn das „teils“ funktionieren eher noch mehr Fragen aufwirft, ist die Beschreibung des Marktmodells und der Gründe des Scheiterns geradezu universell anwendbar auf typisch deutsche Digitalgroßprojekte: marktorientiert, komplex, zersplittert und kaum bis wenig von der Bevölkerung nutzbar und damit auch wirklich genutzt. Egal ob in der Versorgung im Gesundheitswesen oder von Bürger*innen in der Verwaltung.
Academy-Standard
Ein letztes Mal ist es dabei sinnvoll, den Filmvergleich zu bemühen. Die Academy of Motion Picture Arts and Sciences, die alljährlich in glamourösen Veranstaltungen die Oscars für die Filme des Jahres vergibt, ist nicht nur eine Organisation für Jubelereignisse. Die Academy hat in der Zeit ihres Bestehens auch wesentlich zur Standardisierung des Films und seiner Vertriebswege beigetragen. Das Academy-Format stellte 1929 einen wesentlichen Meilenstein für die Standardisierung von Filmformaten dar. Filme waren so von ihren Aufnahmen bis zu ihrer Verbreitung in unzähligen Kinos endlich entsprechend interoperabel einsetzbar. Vor und nach der Festsetzung des Academy-Standards gab es immer wieder durchaus viele unterschiedliche andere Filmformate, mit ganz sonderlichen Entwicklungen in größeren und breiten Formaten oder sogar mit mehreren Kameras auf einmal.
Letztlich blieb der Academy-Standard aber lange Jahrzehnte ein geeigneter Rahmen, um unzählige, vielfältige und mannigfaltige filmische Werke zu produzieren und diese auch weltweit aufführen zu können.
Wer in der Digitalisierung der Verwaltung Vergleiche mit dem Oscar anbringt, sollte sich darüber bewusst sein, dass hinter all diesen Preisen wesentlich mehr steckt als ein paar Showevents und Marketing. Die Digitalisierung der Verwaltung in Deutschland ist noch lange nicht an dem Punkt, sich über Oscars Gedanken machen zu können. Filme, die nur aus Spezialeffekten bestehen, sind ebenso sinnfrei wie Verwaltungspreise für „agentische KI“, die letztlich nur als Show-Anwendung dient.
Die Digitalisierung in Deutschland braucht einen Rahmen, in dem diese funktionieren und skalieren kann. Ob das der Deutschland-Stack – der auch mir immer noch sehr nebulös ist – sein kann, muss sich zeigen. Der Deutschland-Stack braucht aber sicherlich weit mehr als eine singuläre agentische KI-Anwendung. Es ist fraglich, ob der Weg zu einem tragfähigen Fundament das abermalige Rufen nach Startups, nach Govtech und der heilenden Hand des Marktes ist. Letztlich haben nahezu alle durch den Markt geprägten digitalen Großprojekte, angefangen vom nPA zur ePA bis hin zum OZG, zwar viele Gelder bewegt, aber das Publikum, uns als Bürger*innen, weit weniger erreicht als populäre Kinofilme. Egal, ob der Film oder die digitale Leistung jetzt einen Oscar bekommen hat oder nicht.
Wer sich mit großem Kino vergleicht, sollte auch verstehen, was hinter großem Kino steht: gute Rahmenwerke und Standards, gute Verteilwege, viel Kreativität im Inhalt, aber auch viel Klarheit in der Technik. Vielleicht klappt es dann auch wirklich mit einer internationalen Führungsrolle – nicht nur auf LinkedIn.
Bericht für den Bundestag: So gefährlich sind Deepfakes
Im Jahr 2020 veröffentlicht der britische TV-Sender Channel 4 eine sonderbare Weihnachtsansprache. Zu sehen ist eine Person, die man auf den ersten Blick für die (inzwischen verstorbene) Königin Elisabeth II. halten muss. Nur ihre Worte klingen zunehmend weniger royal. Schließlich besteigt die vermeintliche Queen ihren Schreibtisch und legt unter Konfetti-Regen einen TikTok-Tanz hin.
Die Auflösung der Szene zeigt Channel 4 direkt im Anschluss: Die mit vergoldetem Stuck verzierten Wände weichen einem Greenscreen. Statt der Königin kommt eine Darstellerin zum Vorschein. Schon damals nannte man die eingesetzte Tricktechnik „Deepfake“. Es geht um synthetische Darstellungen, die täuschend echt aussehen. Heute kann jeder Mensch mit öffentlichen Online-Werkzeugen solche und noch aufwendigere Inhalte selbst erstellen. Möglich machen es Bild- und Videogeneratoren, die viele als KI bezeichnen.
Die Weihnachtsansprache der falschen Queen ist nur ein Beispiel aus einem lesenswerten Bericht über die Gefahren und Potenziale von Deepfakes, den Forschende im Auftrag des Bundestags erstellt haben. Das im Januar veröffentlichte Papier kommt aus dem Büro für Technikfolgen-Abschätzung. Es berät das Parlament in Fragen von Wissenschaft und Technik mit nach eigener Aussage unparteiischen Analysen.
Auf 46 Seiten buchstabieren die Forschenden aus, was mit Deepfakes alles möglich ist; wo sie Schaden anrichten oder Gutes bewirken können. Teils sehen die Forschenden Bedarf für strengere Regulierung, teils machen sie aber auch klar: Mit Gesetzen allein kommt man nicht weiter. Die Zusammenfassung.
Deepfakes: Das sind die Gefahren
Deepfakes können „sowohl für böswillige als auch für wohlmeinende Zwecke angewendet werden“, schreiben die Forschenden. Mindestens vier konkrete Risiken lassen sich aus dem Bericht zusammenfassen.
Nicht-einvernehmliche, sexuelle Aufnahmen: Mit Deepfake-Technologie können Menschen beliebige Gesichter fotorealistisch in Pornos montieren; sie können Kleider in Aufnahmen durch nackte Körper ersetzen – oder gänzlich neue Aufnahmen generieren. Die Forschenden schätzen: Dieses Phänomen ist das häufigste. Betroffen seien „fast ausschließlich“ Frauen. Sie würden bloßgestellt, herabgewürdigt, eingeschüchtert und erpresst. Diese Fälle seien nicht als individuelle Übergriffe zu werten, sondern hätten gesellschaftliche Auswirkungen, „indem sie die Gleichstellung von Frauen im öffentlichen, digitalen Raum angreifen“.
Politische Manipulation: In einem Deepfake-Video aus dem Jahr 2022 hatte ein vermeintlicher Präsident Selenskyj die Kapitulation der Ukraine vor dem Aggressor Russland erklärt. Mit diesem Beispiel illustrieren die Forschenden die Gefahr von politisch motivierten Deepfakes. Sie können auf die öffentliche Meinungsbildung abzielen oder Unruhen anheizen. Bereits der Verdacht, dass eine Aufnahme gefälscht ist, könne „den gesellschaftlichen Zusammenhalt destabilisieren“. Nennenswerte Auswirkungen hätten solche politischen Deepfakes allerdings noch nicht gehabt, „trotz vieler Fälle insbesondere im Kontext von Wahlkämpfen“.
Gefälschte Aussagen und Beweise: Immer wieder dienen Kamerabilder als Beweise vor Gericht. Aber Deepfakes „stellen grundlegend die Glaubwürdigkeit von Bild-, Ton- und Videodokumenten in juristischen Verfahren infrage“, warnen die Forschenden. Durch vermeintliches Beweismaterial könnten Menschen auch unberechtigt in Verdacht geraten. Als weiteres Problem nennen die Forschenden virtuelle Gerichtsverhandlungen. Hier sei das Risiko erhöht, dass eine per Video zugeschaltete Person ein Deepfake ist.
Betrug: Mit Deepfakes können Kriminelle Gesichter und Stimmen imitieren und sich als jemand anderes ausgeben. Die Forschenden schreiben von einer „neuen Form des Enkeltricks“. Als Beispiel nennen sie einen britischen Fall aus dem Jahr 2019: Die Führungskraft eines Unternehmens hatte 220.000 Euro auf ein ungarisches Konto überwiesen, weil der vermeintliche Chef per Telefon darum gebeten hatte.
Deepfakes: Das sind die Potenziale
Deepfakes sind ambivalent. Mindestens fünf Einsatzmöglichkeiten beschreiben die Forschenden in ihrem Bericht als positiv, einige aber mit ethischen Bedenken.
Medien: „Deepfakes sind ein neues Werkzeug, um der eigenen Kreativität Ausdruck zu verleihen“, schreiben die Forschenden. Möchte man etwa Filme in andere Sprachen übersetzen, lassen sich mit Deepfakes die Lippenbewegungen anpassen. Gealterte Darsteller*innen können jüngere Versionen von sich selbst verkörpern. Das werfe allerdings die Frage auf, ob es Filme mit bereits verstorbenen Schauspieler*innen geben dürfe. Satirische Deepfakes wiederum könnten „durch humoristische Kritik“ Debatten anstoßen. In journalistischen Videos könnten Deepfakes Quellen verfremden, die anonym bleiben wollen.
Bildung: Für TV-Dokus stellen Medienmacher*innen gerne historische Szenen nach. Deepfakes könnten wichtige Persönlichkeiten oder Ereignisse der Zeitgeschichte besonders eindrücklich erfahrbar machen, schreiben die Forschenden. In der beruflichen Bildung wiederum können Lehrkräfte mithilfe von Deepfakes gefährliche Situationen besser simulieren.
Gesundheit: Diese Anwendungsfälle werden gerade noch erforscht, heißt es im Bericht. Zum Beispiel könnten Menschen, die nach einer OP nicht mehr wie zuvor sprechen können, ihre Stimme synthetisch erzeugen lassen. Auch würden Wissenschaftler*innen diskutieren, ob Deepfakes Menschen dabei helfen können, bestimmte Traumata zu verarbeiten.
Verdeckte Ermittlungen: Auf ethisch und juristisch dünnem Eis bewegen sich mehrere Anwendungsfälle für die Polizei. Schon heute darf sich die Polizei mit künstlich erzeugten Aufnahmen sogenannter Kinderpornografie Zutritt zu Netzwerken von Pädokriminellen verschaffen – obwohl der Besitz dieses Materials strafbar ist. Deepfake-Technologie macht es zunehmend einfacher, solche Darstellungen zu generieren. Darüber hinaus diskutieren Behörden, ob sie Deepfakes für verdeckte Ermittlungen einsetzen können. Konkret könnten Beamt*innen dem Bericht zufolge die Stimme von Menschen aus dem Umfeld eines Verdächtigen imitieren. „Nach derzeitiger Rechtslage ist ein solches Vorgehen in Deutschland allerdings nicht möglich“, schreiben die Forschenden.
Öffentliche Kommunikation der Polizei: Mit Deepfake-Technologie kann die Polizei Fotos von Vermissten bearbeiten, die inzwischen älter aussehen müssten, wie die Forschenden erklären. Auch bei öffentlichen Aufrufen könnten Deepfakes zum Einsatz kommen. Als Beispiel nennt der Bericht ein Video der niederländischen Polizei aus dem Jahr 2022: Darin bittet ein per Deepfake animierter, getöteter Jugendlicher die Öffentlichkeit um Hinweise auf seinen eigenen Tod. Ethische Bedenken äußern die Forschenden an dieser Stelle nicht.
Das schützt schon heute vor Deepfakes
Das eine Anti-Deepfake-Gesetz gibt es nicht, stattdessen aber ein Bündel an Regulierungen je nach Art des Deepfakes. Teils unterscheiden sich die Vorschriften in Deutschland, Europa und anderen Ländern der Welt.
Nicht-einvernehmliche, sexuelle Deepfakes sind in der EU strafbar, zumindest, wenn Menschen sie verbreiten. Das verlangt die neue Richtlinie zur Bekämpfung von Gewalt gegen Frauen, die Mitgliedstaaten wie Deutschland noch umsetzen müssen. In den USA reguliert der Take It Down Act das Phänomen. Das aktuelle deutsche Strafrecht bietet generell für betroffene bildbasierter Gewalt noch einen Flickenteppich an Regelungen.
Deepfakes von Politiker*innen im Vorfeld von Wahlen sind in einigen US-Bundesstaaten reguliert, wie der Bericht ausführt. Konkret geht es um Deepfakes, die „darauf abzielen, den Ruf eines Kandidaten zu schädigen oder das Ergebnis einer Wahl zu beeinflussen“; ausdrücklich ausgenommen sind demnach Parodie und Satire.
Eine Kennzeichnungspflicht von Deepfakes steht in der KI-Verordnung (AI Act) der EU. Anbieter von KI-Systemen müssen demnach dafür sorgen, dass KI-Erzeugnisse einen maschinenlesbaren Hinweis verpasst bekommen. Die Maßnahmen werden jedoch als „ineffektiv und nicht ausreichend“ erachtet. Selbst korrekt gekennzeichnete Inhalte würden viele Leute erreichen.
Meldeverfahren und Moderation bei rechtswidrigen Inhalten schreibt in der EU das Gesetz über digitale Dienste (DSA) vor, und betrifft damit auch rechtswidrige Deepfakes. Kritik gibt es aber bei der Umsetzung: So schreibe das Gesetz keine konkreten Fristen dafür vor, wie schnell Anbieter reagieren müssen.
Das deutsche Zivilrecht gibt Betroffenen von Deepfakes je nach Fall verschiedene Mittel an die Hand. Zum Beispiel schützt das allgemeine Persönlichkeitsrecht das Recht am eigenen Bild, den Schutz der persönlichen Ehre – oder „das Recht, von der Unterschiebung nicht getätigter Äußerungen verschont zu bleiben“, führen die Forschenden aus. All das kann bei nicht-einvernehmlichen Deepfakes relevant sein. Die Krux ist hier eher: Betroffene haben es schwer, ihre Ansprüche vor Gericht durchzusetzen.
Das deutsche Strafrecht erfasst mehr als nicht-einvernehmliche sexuelle Deepfakes. Wenn Deepfakes zum Beispiel genutzt werden, um Menschen Geld aus der Tasche zu ziehen, kann Betrug in Frage kommen. Erstellen Kriminelle per Deepfakes kompromittierendes Material und drohen mit dessen Veröffentlichung, können das Erpressung oder Nötigung sein, wie der Bericht ausführt.
Das sind die Lücken beim Schutz vor Deepfakes
Das Wort „Lücken“ taucht im Bericht insgesamt acht Mal auf. Die Forschenden machen aber auch klar, dass die gestückelte Regulierung von Deepfakes einen tieferen Sinn hat: Das deutsche Rechtssystem ist nämlich technologieneutral. Das heißt, es orientiert sich nicht an bestimmten Technologien wie Deepfakes, sondern an Rechtsgütern wie Datenschutz, Ehre oder dem Recht am eigenen Bild.
Manches wiederum lässt sich nicht mit Gesetzen lösen. Das zeigen zumindest einige der offenen Baustellen, die aus dem Bericht hervorgehen.
Im deutschen Strafrecht erkennen die Forschenden Lücken im Kontext von nicht-einvernehmlichen sexuellen Deepfakes. Hier müsse die EU-Richtlinie, die deren Verbreitung unter Strafe stellt, „noch in nationales Recht umgesetzt werden“.
Die Durchsetzung des Rechts kann dem Bericht zufolge daran scheitern, dass Ermittler*innen schlicht nicht wissen, welche Behörde zuständig ist. „Deepfakes können global verbreitet werden, ihre Bekämpfung erfordert daher regelmäßig eine internationale Zusammenarbeit“, so der Bericht.
Beim Schutz vor Diskriminierung sehen die Forschenden eine weitere Lücke. So könnten KI-generierte Darstellungen Stereotype von Geschlechtern darstellen oder rassistische Annahmen reproduzieren. Konkretes Beispiel aus dem Bericht: wenn KI-generierte „Terroristen“ stets „männlich“ sind und eine „dunkler Hautfarbe“ hätten. Zwar ist der Schutz vor Diskriminierung auch in der EU gesetzlich verankert; in der Praxis gebe es bei entsprechenden Deepfakes aber kaum Handhabe, wie aus dem Bericht hervorgeht.
Zuverlässig erkennen lassen sich Deepfakes nicht. Zwar entwickeln Forschende zunehmend bessere Software dafür, doch im Gegenzug lassen sich auch KI-Systeme gezielt darauf trainieren, Deepfake-Detektoren zu täuschen. Das Ergebnis ist ein „Katz-und-Maus-Spiel“, schreiben die Forschenden. „Detektoren erweisen sich daher in ihrer Effektivität als zeitlich begrenzt und laufen den Weiterentwicklungen von Deepfakes stets hinterher.“
Mehr öffentliche Aufklärung über Fälle von schädigenden Deepfakes ist laut Bericht eine Gegenmaßnahme, „um die Aufmerksamkeit für das Problem zu erhöhen und Schutzmaßnahmen zu verbessern“. An dieser Stelle gehen die Forschenden allerdings nicht darauf ein, dass Berichte über Deepfakes auch deren Reichweite erhöhen.
Standards und Regeln im Umgang mit KI-generierten Inhalten sind eine weitere Option, so die Forschenden. Das betreffe etwa Parteien und Medien. „Auf diese Weise kann die Grenze zwischen kreativen und gefahrlosen und schädigenden Anwendungen deutlich gemacht werden.“
Anonymisierendes Linux: Tails 7.5 mit sichererem Thunderbird
close notice
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
.
Die Linux-Distribution Tails, die zum anonymen Surfen im Netz dient, ist in Version 7.5 erschienen. Auffälligste Neuerung ist die Auslagerung des Mailprogramms Thunderbird in ein externes Paket. Das dient der besseren Sicherheit.
Weiterlesen nach der Anzeige
Das schreiben die Tails-Maintainer in der Versionsankündigung zu Fassung 7.5 der anonymisierenden Linux-Distribution. Zentrale Softwarepakete bringen die Programmierer damit auf den aktuellen Stand. So ist der Tor-Browser nun in Version 15.0.7 dabei, der Tor-Client hingegen auf Stand 0.4.9.5.
Tails: Sichererer E-Mail-Client
Thunderbird kommt zwar in der Fassung 140.7.1 mit, allerdings installiert Tails den Mail-Client nun als Zusatzsoftware, um seine Sicherheit zu verbessern. Dazu müssen die Features „Thunderbird Email Client“ und „Zusätzliche Software“ beim persistenten Speicher aktiviert sein. Dadurch installiert Tails bei jedem Start den Thunderbird neu aus dem persistenten Speicher. Als Grund nennen die Entwickler, dass Mozilla stets neue Thunderbird-Versionen veröffentlicht hat, nur wenige Tage nach dem Release neuer Tails-Versionen. Dadurch war Thunderbird fast ständig nicht mehr aktuell und enthielt bekannte Sicherheitslücken.
Das Problem löst das stets aktuelle Installationspaket im persistenten Speicher. Nach der Installation zeigt Tails einen Dialog mit dem Titel „Thunderbird Migration“ an. Dort findet sich auch der Hinweis, dass Thunderbird mit Tails 7.8, das im Mai 2026 erwartet wird, nicht mehr länger als Standard-Software mitgeliefert wird.
Aktualisierte Tails-Images
Wie üblich stellt das Tails-Projekt einmal Abbilder zum Verfrachten der Distribution auf USB-Sticks und einmal ISO-Images zum Brennen auf DVD oder Testen in virtuellen Maschinen bereit. Mit solch einem USB-Stick oder einer DVD lassen sich etwa fremde Rechner starten, sodass darauf eine vertrauenswürdige Umgebung zum Surfen im Netz läuft. Mit dem persistenten Speicherbereich auf dem Stick lassen sich dann auch Daten mitnehmen, die Neustarts überdauern.
Weiterlesen nach der Anzeige
Mitte Februar haben die Tails-Entwickler die Version 7.4.2 als Notfall-Update herausgegeben. Darin haben sie insbesondere den Linux-Kernel aktualisiert, wodurch mehr als hundert Schwachstellen darin ausgebessert wurden. Die hätten Angreifer in Kombination mit anderen Sicherheitslücken etwa zur Deanonymisierung von Nutzern und Nutzerinnen missbrauchen können.
EU soll „vollständig und endgültig“ auf Chatkontrolle verzichten
Auch Inhalte von verschlüsselten Messengern wie Signal und WhatsApp sind im Fokus der Chatkontrolle. – Alle Rechte vorbehalten IMAGO / photothek
Die EU-Gesetzgeber sollen in den Trilog-Verhandlungen zur CSA-Verordnung vollständig und endgültig auf eine Chatkontrolle verzichten. Das fordern die unabhängigen Datenschutzbehörden aus Bund und Ländern.
Die Datenschutzkonferenz appelliert in einer Stellungnahme (PDF) an die Verhandelnden, von der Massenüberwachung privater Chats per Aufdeckungsanordnungen, dem flächendeckenden Scannen privater Nachrichten und einem Durchbrechen der Ende-zu-Ende-Verschlüsselung ohne Ausnahme abzusehen.
„Hintertüren in der Verschlüsselung gefährden die Sicherheit der Kommunikation aller Bürgerinnen und Bürgern und könnten auch von Kriminellen ausgenutzt werden“, so die Datenschützer:innen. Zu den Gefahren für eine Ende-zu-Ende-Verschlüsselung zählen die Datenschützer auch das Client-Side-Scanning, bei dem Inhalte vor dem Verschlüsseln auf dem Endgerät durchsucht werden.
Generell dürfe eine Überwachung privater Kommunikation nur gezielt und bei einem konkreten Verdacht zum Einsatz kommen, so die Datenschutzkonferenz. Auch ein Ziel wie die Verhinderung und Verfolgung von sexuellem Missbrauch von Kindern rechtfertige keinen Generalverdacht gegen Millionen von Bürger:innen. Die Aufsichtsbehörden begründen dies unter anderem mit dem Recht auf Vertraulichkeit der Kommunikation und dem Recht auf informationelle Selbstbestimmung.
Erste Einigungen im Trilog
Ein Großteil der Trilog-Verhandlungen passiert auf Arbeitsebene. Gestern fand die zweite Verhandlung auf politischer Ebene statt. Laut Tagesspiegel Background Digitalisierung (€) haben sich Rat und Parlament „vorläufig auf eine Reihe politisch sensibler Fragen geeinigt“, die Informationen sind aber vage. Bisher ging es vor allem um das EU-Zentrum gegen Kindesmissbrauch, nicht direkt um die Chatkontrolle. Die dritten politischen Trilog-Verhandlungen sind für den 11. Mai angesetzt.
Der Trilog ist im EU-Gesetzgebungsverfahren der Abschnitt, in dem EU-Kommission, EU-Parlament und der Rat ihre vorher gefundenen Positionen zusammen verhandeln und eine finale Version des Gesetzestextes erarbeiten, die dann später dem Europaparlament zur Abstimmung gegeben wird. Der Trilog ist erfahrungsgemäß eine intransparente Phase des Gesetzgebungsprozesses, in dem noch viel passieren kann. Wer im Trilog, welche Verhandlungspositionen vertritt und was die strittigen Punkte sind, haben wir in diesem Erklär-Artikel beschrieben.
