Connect with us

Datenschutz & Sicherheit

Neues aus dem Fernsehrat (114): Der Alte



Er bleibt es: Vergangenen Freitag haben wir als ZDF-Fernsehrat Norbert Himmler für weitere fünf Jahre als ZDF-Intendanten bestätigt. Auffällig ist, wie kontroverse öffentliche Berichterstattung und große Einigkeit innerhalb des Gremiums auseinanderfallen.

Himmler war – nachdem die zwischenzeitliche Überraschungskandidatin Floria Fee Fassihi zurückgezogen hatte – der einzige Kandidat und wurde mit einer Mehrheit von über 90 Prozent der abgegebenen Stimmen gewählt. Die heftige Kritik dieser „Wahl ohne Auswahl“ ist Anlass für eine Kolumne zum Wahlverfahren und der Frage, ob die Vielfalt im Fernsehrat für demokratische Wahlen genügt.

Die Kritik

Auf dem Wahlzettel am Freitag standen ein Name und drei Optionen:

Norbert Himmler; [ ] Ja, [ ] Nein, [ ] Enthaltung

Anders war es noch vor fünf Jahren, als ein Nachfolger für den damaligen Intendanten Thomas Bellut gesucht wurde. Himmler trat damals gegen die Leiterin des ARD-Hauptstadtstudios Tina Hassel an. Zur Entscheidung kam es erst, nachdem Tina Hassel im dritten Wahlgang ihre Kandidatur zurückzog. Sie hatte in den beiden Wahlgängen davor weniger Stimmen als Himmler erhalten, dieser hatte allerdings nicht das erforderliche Quorum von drei Fünfteln der Stimmen des Fernsehrats auf sich vereinen können.

In der Logik des Fernsehrates, der sich in einen „schwarzen“ (konservativen) und einen „roten“ (progressiven) Freundeskreis aufteilt (zur Kritik von Leonhard Dobusch an diesem System siehe hier), war Hassel damals die Kandidatin des roten und Himmler der des schwarzen Freundeskreises.

Nun gab es also nur noch einen Kandidaten. Vorgeschlagen von der Vorsitzenden des schwarzen Freundeskreises Christiane Schenderlein, Staatsministerin für Sport und Ehrenamt im Bundeskanzleramt, trifft beides – Person und Verfahren – auf scharfe Kritik in den (soweit ich es erkennen kann nahezu ausschließlich konservativen) Medien. Wolfgang Kubicki poltert in der BILD, das Wahlverfahren sei „intransparenter Muff“, der „radikal demokratisiert“ gehöre. Boehme-Neßler (den man sonst davon kennt, dass er die Forderung eines AfD-Verbots als „Zivilisationsbruch“ bezeichnet) im Cicero und Hanfeld in der FAZ sind sich einig, dass diese Wahl eine „Farce“ war (für die Zusammenstellung der Kritik sei Bartels im Altpapier gedankt).

Das Verfahren

Das Ausmaß und die Stoßrichtung der Kritik überraschen doch etwas, wenn man bedenkt, dass es sich um Empörung des konservativen (bis rechtsäußeren) Feuilletons über die Wahl eines Kandidaten auf Vorschlag der konservativen Gruppe handelt. Wolfgang Kubicki, so scheint es, ist völlig erbost darüber, dass es nicht mehr links-grüne Vorschläge auf dem Stimmzettel gab. Wie demokratisch und offen war das Verfahren für die Kandidatenaufstellung also?

Gemäß der Wahlsatzung des ZDF wurde das Amt des Intendanten vom 5. bis 30. Januar 2026 öffentlich ausgeschrieben, bewerben konnte sich also jedermann. Sofern die Bewerbungen die formalen gesetzlichen Voraussetzungen erfüllten (recht banale Eigenschaften wie die unbeschränkte Geschäftsfähigkeit und ein ständiger Wohnsitz in Deutschland, § 26 Abs. 2 ZDF-Staatsvertrag), wurden sie an sämtliche Mitglieder des Fernsehrats weitergeleitet. Danach lagen uns als Fernsehratsmitgliedern sieben Bewerbungen vor.

Wenn nur ein einziges Fernsehratsmitglied eine Bewerbung unterstützt, wäre die Person zur Wahl zugelassen worden und hätte die Möglichkeit bekommen, sich im Plenum vorzustellen und befragt zu werden (§ 5 Abs. 4 ZDF-Wahlsatzung). Während die Möglichkeit der Bewerbung also so gut wie keinen Einschränkungen unterlag, waren die Hürden für die Zulassung zur Wahl zumindest denkbar gering (und es erscheint mir absolut sinnvoll, dass Kandidierende ohne Aussicht auf auch nur eine Stimme sich nicht einer öffentlichen Wahl stellen müssen). Das Verfahren selbst hätte deshalb kaum offener ausgestaltet sein können.

Nun stellt sich die Anschlussfrage: Sind wir als Wahlgremium – als Fernsehrat – vielleicht derart gleichartig besetzt, dass von vornherein klar war, dass sämtliche Mitglieder die gleiche Präferenz teilen werden?

Welche Gesellschaft repräsentiert dieser Fernsehrat?

Wie homogen ist also der Fernsehrat, diese laut Rosenfelder (Welt) „Ständevertretung des politischen Beamtenapparats und der durchpolitisierten Verbands- und NGO-Landschaft“? Ist – so könnte die Kontrollfrage lauten – (ausgerechnet) Wolfgang Kubicki der wahre Anwalt marginalisierter Gruppen, der darauf hinweist, welche Interessen im Gremium nicht ausreichend vertreten sind?

In seiner Grundsatzentscheidung aus dem Jahr 2014 hat das Bundesverfassungsgericht entschieden, dass die damalige Zusammensetzung des Fernsehrats den Anforderungen des Grundgesetzes nicht genügte. Seitdem ist klar, dass maximal ein Drittel der Fernsehratsmitglieder „staatlich oder staatsnah“ sein darf. In der Praxis besteht diese „Staatsbank“ im Fernsehrat nun aus 20 der 60 Mitglieder (16 für die Bundesländer, zwei für die Bundesregierung, zwei für die Kommunen). Gemeinsam mit den 40 weiteren Mitgliedern muss der Fernsehrat „möglichst vielfältige […] Perspektiven und Erfahrungshorizonte […] aus allen Bereichen des Gemeinwesens zusammenzuführen“, um als „Sachwalter des Interesses der Allgemeinheit“ zu dienen. Die Zusammensetzung soll gleichermaßen das „Gebot der Vielfaltsicherung“ und das „Gebot der Staatsferne“ sichern.

Und es ist tatsächlich ein recht bunter Strauß an zivilgesellschaftlichen und wirtschaftlichen Organisationen, die Menschen in den Fernsehrat entsenden. Von Arbeitgeberverbänden zu den Gewerkschaften und Sozialverbänden, von den Kirchen bis zum Bund der Vertriebenen, von den Bereichen „Internet“ (den ich vertreten darf) über „Kunst“ und „Musik“ bis zu „Wissenschaft“ und „Heimat und Brauchtum“. Dank des Rotationsprinzips (auf jeden Mann muss eine Frau folgen und umgekehrt, § 21 Abs. 4 ZDF-Staatsvertrag – nicht-binäre Geschlechter wurden in der Gesetzesnovelle 2015 offensichtlich nicht bedacht) ist er aktuell zudem auch weit überwiegend weiblich. So kommt auch eine große Diversitätsstudie der Neuen Deutschen Medienmacher*innen zu dem Ergebnis, dass zumindest „[im] Vergleich mit anderen Rundfunkräten […] der ZDF-Fernsehrat damit recht vielfältig besetzt“ ist.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Trotzdem gibt es auch Schwächen: Die Perspektiven junger Menschen sind in dem Gremium mit einem Altersdurchschnitt von 57,3 Jahren [Stand: Juli 2022, Diversitätsstudie] eindeutig unterrepräsentiert, auch die ganz unterschiedlichen Erfahrungen von Menschen mit Einwanderungsgeschichte (rund 25 Prozent der deutschen Bevölkerung) oder muslimischen Glaubens (6,4 Prozent der Bevölkerung) werden primär durch jeweils eine:n Vertreter:in für die Bereiche „Muslime“ und „Migranten“ vertreten, aber sind selten bei Repräsentant:innen anderer Bereiche vorhanden. Auch Nicht-Akademiker:innen und, noch deutlich weniger, Menschen mit Armutsgeschichte sind nach meinem sehr subjektiven Eindruck kaum im Fernsehrat vertreten.

Das Fehlen all dieser Diversitätsmerkmale macht insoweit auch mich zu einem geradezu typischen Vertreter in dem Gremium. Selbstverständlich prägt das auch die Debatten im Fernsehrat: Welche Themen diskutiert und welche Programmbeschwerden als begründet angesehen werden, hängt auch mit den Erfahrungen und Werten zusammen, die die Mitglieder des Fernsehrats individuell einbringen.

Wenn wir als Fernsehrat tatsächlich die Vielfalt der Gesellschaft abbilden möchten, müssen wir in diesen Bereichen besser werden. Das wäre gesetzlich beispielsweise über eine explizite Vertretung für junge Menschen oder vielfältigere Sitze für Menschen mit Migrationsgeschichte möglich. Noch wichtiger ist aber, dass sich zivilgesellschaftliche und wirtschaftliche Entsendeorganisationen (auch „das Internet“) an die eigene Nase fassen und bei zukünftigen Entsendungen darauf achten, den Fernsehrat mit einem Profil zu ergänzen, welches wirklich neue Perspektiven einbringen kann.

Fernsehrat bestätigt Amtsinhaber

Nach diesem sehr großen Bogen soll es zurück zur Ausgangsfrage gehen: Ist die Wahl des Intendanten durch den Fernsehrat demokratisch legitim? Ich würde das eindeutig bejahen. Das Verfahren war offen und der Fernsehrat ist vielfältig besetzt (auch wenn es hier Defizite gibt, um denen es Kubicki, Rosenfeld und Boehme-Neßler aber wohl kaum ging). Gibt es trotzdem eine große Einigkeit im Gremium, mag das vielleicht überraschend sein, ist aber für sich noch kein Anzeichen für fehlende Streitkultur und offene Kritik in anderen Fragen. Verweise auf die (Aus-)Wahl von vor fünf Jahren gehen schlicht fehl, weil es für ein solches Amt einen erheblichen Unterschied macht, ob ein Amtsinhaber zur Wiederwahl antritt (man also über den bisherigen Kurs abstimmt) oder es notwendigerweise aufgrund einer Neubesetzung frischen Wind gibt.

Offensichtlich sind große Teile des Fernsehrats mit der Arbeit von Norbert Himmler grundsätzlich zufrieden. Aus meiner Perspektive gerade nicht, weil er ein „Verwalter“ ist, sondern weil er die notwendige Transformation des ZDF vom Sender zum Ermöglicher gesellschaftlichen Dialogs ernst nimmt (und sie unter anderem als ersten Punkt seiner Bewerbungsrede nannte). Auch die konsequente Nutzung und Entwicklung von Open-Source-Systemen und der (wenn auch meiner Meinung nach viel zu zögerliche) Ausbau des Angebots frei-lizensierter Inhalte sind Schritte in die richtige Richtung.

Das ist alles kein Persilschein, sondern lediglich die Grundlage für Vertrauen, dass dieser Intendant weiter die Zukunft des Senders gestalten soll. Dabei ist er – so wie der Sender als Ganzes – auf kritische Begleitung angewiesen, die Fehler klar benennt (um Nutzung von KI-Material im heute-journal geht es in der nächsten Kolumne, versprochen!) und Druck macht, wenn Dinge sich zu langsam entwickeln.



Source link

Datenschutz & Sicherheit

DSGVO: EuGH schiebt systematischen Auskunftsmissbräuchen Riegel vor


Das Recht auf Auskunft über die eigenen personenbezogenen Daten gehört zu den schärfsten Schwertern der Datenschutz-Grundverordnung (DSGVO). Doch wer dieses Instrument zweckentfremdet, um daraus ein Geschäftsmodell zu machen, stößt nun an juristische Grenzen. Der Europäische Gerichtshof (EuGH) hat am Donnerstag in einem wegweisenden Urteil klargestellt, dass Auskunftsanträge eindeutig als rechtsmissbräuchlich eingestuft werden können. Voraussetzung ist, dass sie allein mit der Absicht gestellt werden, später Schadenersatzansprüche zu provozieren.

Weiterlesen nach der Anzeige

Mit der Entscheidung in der Rechtssache C-526/24 stärkt das höchste europäische Gericht die Verteidigungsmöglichkeiten von Unternehmen gegen sogenannte Datenschutz-Trolle. Der Fall nahm seinen Ausgang vor dem Amtsgericht Arnsberg. Dort entwickelte sich eine Art Lehrstück über eine moderne juristische Grauzone.

Eine in Österreich wohnhafte Person hatte sich für den Newsletter des Optikerunternehmens Brillen Rottler angemeldet und dabei freiwillig ihre Daten in die Maske eingegeben. Nur 13 Tage später forderte sie das Unternehmen nach Artikel 15 DSGVO auf, umfassend Auskunft über die verarbeiteten Daten zu erteilen. Als das Unternehmen den Antrag mit Verweis auf einen mutmaßlichen Missbrauch ablehnte, klagte die Person auf eine Entschädigung von mindestens 1000 Euro für den angeblich entstandenen immateriellen Schaden.

Das Optikerunternehmen konnte vor Gericht darauf verweisen, dass der Antragsteller kein Unbekannter war. Medienberichte und Informationen von Rechtsanwälten legten nahe, dass die Person systematisch Newsletter abonniert, unmittelbar danach Auskunft verlangt und bei der kleinsten Verzögerung oder Ablehnung Klagewellen wegen Datenschutzverstößen initiiert. Das Amtsgericht Arnsberg rief daraufhin den EuGH an. Es wollte klären lassen, ob bereits ein erster Auskunftsantrag als „exzessiv“ im Sinne der DSGVO gelten kann und unter welchen Bedingungen ein Schadenersatzanspruch in solchen Konstellationen besteht.

Lesen Sie auch

Die Luxemburger Richter stellten nun fest, dass der einschlägige Schutz der DSGVO nicht schrankenlos gilt. Zwar dient das Auskunftsrecht dazu, dass sich Bürger der Datenverarbeitung bewusst werden und deren Rechtmäßigkeit überprüfen können. Ziel ist es, gegebenenfalls Rechte auf Berichtigung oder Löschung wahrzunehmen. Wenn aber nachgewiesen werden kann, dass ein Antrag trotz formaler Korrektheit nur gestellt wurde, um künstlich die Voraussetzungen für eine Schadenersatzklage zu schaffen, liegt ein Rechtsmissbrauch vor.

Weiterlesen nach der Anzeige

Ein solcher Nachweis kann laut EuGH etwa durch das bisherige Verhalten der Person und öffentlich zugängliche Informationen über ähnliche Forderungen gegenüber anderen Unternehmen geführt werden.

Relevant für die Praxis ist die Klarstellung des EuGH zu den Voraussetzungen für Schadenersatz. Ein bloßer Verstoß gegen die DSGVO reicht demnach nicht automatisch für eine Geldentschädigung aus. Der Kläger muss vielmehr nachweisen, dass ihm tatsächlich ein konkreter materieller oder immaterieller Schaden entstanden ist.

Zwar umfasst ein immaterieller Schaden grundsätzlich auch den Kontrollverlust über die eigenen Daten. Doch setzt der EuGH hier jetzt eine entscheidende Hürde: Wer durch sein eigenes Verhalten die entscheidende Ursache für den Schaden gesetzt hat – etwa indem er die Datenverarbeitung nur provoziert, um sie später zu „verklagen“ – kann keinen Ersatz verlangen.

Firmen verspricht dieses Urteil eine Erleichterung. Sie können bei exzessiven Anträgen unter Berufung auf Artikel 12 Absatz 5 DSGVO entweder die Auskunft verweigern oder ein angemessenes Entgelt für den Verwaltungsaufwand verlangen. Trotzdem bleibt die Beweislast beim Verantwortlichen.

Das Amtsgericht Arnsberg muss nun im konkreten Einzelfall prüfen, ob das Verhalten des Klägers die Schwelle zum Missbrauch überschritten hat, wobei Faktoren wie die kurze Zeitspanne zwischen Anmeldung und Antrag sowie die Freiwilligkeit der Datenpreisgabe eine zentrale Rolle spielen.


()



Source link

Weiterlesen

Datenschutz & Sicherheit

Beispiellose Malware-Angriffe auf iPhones: Apple mahnt zum Update


iPhone-, iPad- und Mac-Nutzer sollten schnellstmöglich alle verfügbaren Updates einspielen. Die jüngsten Versionen von iOS 26 bis zurück zu iOS 15 schützen gegen Schwachstellen, die durch die zwei mächtigen Exploit-Kits DarkSword und Coruna offenbar für großflächige Angriffe gegen iPhone-Nutzer eingesetzt wurden, wie Apple mitteilte. Ob ein Update vorliegt, lässt sich auf dem Gerät in „Einstellungen > Allgemein > Softwareupdate“ prüfen. Die Software auf dem neuesten Stand zu halten, bleibe der wichtigste Baustein, um das eigene Gerät zu schützen.

Weiterlesen nach der Anzeige

Genaue Versionsnummern mit sämtlichen verfügbaren Patches nannte der Hersteller nicht. Aktuell sind iOS, iPadOS und macOS 26.3.1, iOS 18.7.6 sowie iOS/iPadOS 16.7.15 und iOS/iPadOS 15.8.7. Für die alten iOS-/iPadOS-Versionen hatte Apple in der vergangenen Woche unter Verweis auf Coruna ein Notfall-Update veröffentlicht. Ob die Exploit-Kits auch gegen Macs eingesetzt wurden, bleibt unklar, Sicherheits-Updates liefert Apple derzeit für macOS 26, macOS 15 und macOS 14.

Nutzer, die noch iOS 17 einsetzen, müssen demnach auf iOS 18 aktualisieren. iPhones, die noch mit iOS 13 oder iOS 14 laufen, sollten zur Beseitigung der Sicherheitslücken auf iOS 15 umsteigen, merkt der Hersteller an.

Mehrere Sicherheitsforscher haben in den vergangenen Tagen ausführliche Analysen zu DarkSword und Coruna veröffentlicht. Zum ersten Mal scheinen hochkomplexe Exploit-Kits im breiteren Stil gegen beliebige iPhone-Nutzer eingesetzt worden zu sein – auch aus finanzieller Motivation und nicht allein im Rahmen gezielter staatlicher Überwachung.

Der Aufruf einer manipulierten Webseite reichte demnach zur kompletten Kompromittierung des iPhones aus. Dabei konnten angeblich sensible Daten von den Geräten ausgelesen und an die Angreifer übertragen werden. Die Angriffe richteten sich unter anderem gegen Nutzer in der Ukraine, Türkei und Saudi-Arabien, die Exploits waren speziell auf bestimmte Versionen von iOS 17 und iOS 18 ausgelegt.

Weiterlesen nach der Anzeige


(lbe)



Source link

Weiterlesen

Datenschutz & Sicherheit

Maschinen sollen Papierkram erledigen: „Kollege KI“ steht auf wackeligen Beinen


Sogenannte KI-Agenten sollen die Arbeit von Behörden einfacher machen und Personal entlasten. Digitalminister Karsten Wildberger verspricht sich viel davon. Für KI-Experimente gibt die Verfassung der öffentlichen Verwaltung aber wenig Spielraum.

Schattenrisse von zwei Figuren, die Herren mit Jacket darstellen; der eine von beiden trägt statt eines Kopfes einen Computerbildschirm mit der Aufschrift "KI"
Der „Kollege KI“ soll Verwaltungsmitarbeiter:innen entlasten. (Symbolbild) – Alle Rechte vorbehalten Figuren: IMAGO / Zoonar; Macintosh: Wikimedia/Tmarki; Montage: netzpolitik.org

Digitalminister Karsten Wildberger (CDU) lässt wenig Gelegenheiten aus, um über sogenannte Künstliche Intelligenz zu sprechen. Sein Plan: KI in die Workflows der öffentlichen Verwaltung bringen und die KI-Branche in Deutschland ankurbeln. Im Blick hat er dabei nicht mehr nur Chatbots wie BärGPT vom CityLab Berlin oder LLMoin des öffentlichen IT-Dienstleisters Dataport aus Hamburg. Der neue Hype ist sogenannte agentische KI.

Um diese flächendeckend in der öffentlichen Verwaltung einzuführen, hat das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) im Februar den Agentic AI Hub gestartet. Die Idee des Hubs: KI-Start-ups entwickeln KI-Tools, zugeschnitten auf die Bedürfnisse von Behörden und Ämtern. Staatssekretär Thomas Jarzombek (CDU) sagt dazu: „Wir wollen Start-ups eine Rampe in die Verwaltung bauen.“

Mit KI-Agenten soll die öffentliche Verwaltung effizienter arbeiten und Verwaltungsverfahren sollen insgesamt schneller werden, teilt das BMDS auf Anfrage mit. Das könne man dadurch erreichen, dass agentische KI die Entscheidungsfindung von Sachbearbeiter:innen unterstützt.

„Kollege KI“

Personal in Behörden ist vielerorts überlastet. Unter anderem liegt das an Personalknappheit. Schon jetzt zeichnet sich ab, dass sich das Problem weiter verschärfen wird, wenn Mitarbeiter:innen aus der Boomer-Generation in den Ruhestand gehen.

Mit KI will das BMDS gegen diese Entwicklung ankommen. Die Idee dahinter ist ein „Kollege KI“. Den solle man in die Verwaltung bringen, sagte Heiko Geue im Kontext des KI-Marktplatzes beim Pressegespräch im November. Er ist Vorsitzender des IT-Planungsrats und Finanz- und Digitalminister des Landes Mecklenburg-Vorpommern. Agentische KI könne ähnlich wie ein:e Mitarbeiter:in damit beauftragt werden, bestimmte Aufgaben selbstständig zu erledigen, so das BMDS gegenüber netzpolitik.org. Generative KI könne eine Aufforderung wie „Schreibe einen Bescheid“ in Text umsetzen.

Agentische KI hingegen generiere keine Inhalte wie Texte, Code oder Bilder, sondern könne Aufgaben übernehmen, etwa Antragsunterlagen auf Vollständigkeit prüfen oder personenbezogene Daten in Dokumenten schwärzen. Die Entscheidung solle am Ende aber immer der Mensch treffen, so das Ministerium.

Kommunale KI-Piloten

Ob KI-Programme Mitarbeiter:innen wirklich entlasten und die Arbeit beschleunigen, hierfür legt das BMDS gegenüber netzpolitik.org keine Belege vor. Auf die Frage, welche KI-Projekte Verwaltungsarbeit übernehmen können sollen, verweist die Pressestelle auf den KI-Marktplatz und die H2KI-Plattform. Diese Plattform nutzt KI um Genehmigungsverfahren abzuwickeln. Laut BMDS sei sie „eine Blaupause für den KI-Einsatz bei der Genehmigung von Infrastrukturprojekten“.

Ähnliche Projekte aus Kommunen wählte das BMDS Anfang März aus. Davon gehen zunächst 18 in die Pilotphase und sollen langfristig Verwaltungen bundesweit zur Verfügung stehen. Das Programm Forml der Städte Frankfurt am Main und Düsseldorf richtet sich etwa an Sachbearbeiter:innen von Anträgen auf einen Wohnberechtigungsschein. Laut Produktbeschreibung ist Forml eine Cloud-Software, die „unstrukturierte Daten aus Dokumenten, Scans oder Bildern“ verarbeitet. Es soll eingehende Anträge „auf Vollständigkeit und Einkommen“ prüfen.

Formfix, entwickelt in Köln, Heinsberg und zwei Berliner Bezirken, soll Antragsprozesse auf Hilfe zur Pflege vereinfachen; sowohl für die Antragstellenden als auch für das Amt, das die eingereichten Unterlagen schneller bearbeiten können soll.

Aus dem Neckar-Odenwald-Kreis stammt Lector.ai. „Mittels Vision-LLMs“ verarbeitet die Software Behördenpost und soll „den hohen manuellen Sortieraufwand großer Dokumentenmengen“ reduzieren.

Mehr als Marketing?

Wie viel Zeit können die Werkzeuge in der Praxis einsparen; wie viel Arbeit machen sie langfristig durch Pflege und Fehler? Während solche Fragen noch unbeantwortet sind, rührt der Digitalminister die Werbetrommel. Im Januar warb er damit, dass die KI-Agenten Genehmigungsverfahren zu über 80 Prozent beschleunigen könnten.

Die Bundestagsabgeordnete Rebecca Lenhard von den Grünen fragte nach, wie er zu dieser Einschätzung komme. Weder Methodik noch Vergleichsmaßstäbe hat der Minister offengelegt. „Für eine so weitreichende Behauptung ist das zu wenig“, kommentiert Lenhard in einem Pressestatement.

Effekte der KI-Nutzung müssten „transparent, nachvollziehbar und belastbar evaluiert werden“. Da KI bereits in Genehmigungsverfahren eingesetzt werde, brauche es umso dringlicher „klare Standards für Qualitätssicherung, Nachvollziehbarkeit und Verantwortlichkeit“, fordert die Abgeordnete.

KI ist nicht neutral

Technisch beruhen agentische und generative KI auf denselben großen Sprachmodellen und teilen deren strukturelle Schwächen: KI ist eine Black Box und liefert Output, der nicht neutral ist, sondern „biased“, verzerrt. Black Box meint, es lässt sich nicht genau nachvollziehen, warum KI-Programme zu einem bestimmten Ergebnis kommen.

Das Bias-Problem besteht darin, dass KI-Systeme auf Trainingsdaten basieren, die ihrerseits von Vorurteilen und Ressentiments geprägt sein können. KI-Output kann daher je nach Kontext diskriminierend sein, rassistisch, ableistisch, sexistisch oder ageistisch.

Dieser Effekt kann sich durch kognitive Verzerrungen bei Menschen verstärken, die mit KI-Erzeugnissen arbeiten. Vorurteile und Ressentiments verbergen sich nicht nur in Trainingsdaten, sondern auch in der Interaktion zwischen Mensch und KI. Welche Fragen Menschen KI stellen, wie sie den Output interpretieren und wie sie darauf reagieren, kann beeinflussen, was diese Systeme tun. Zudem kann der sogenannte Automation Bias dazu führen, dass Menschen die Ergebnisse einer Maschine weniger kritisch hinterfragen als Ergebnisse von Kolleg:innen.

Weiter sind Ergebnisse von KI-Systemen sind nicht verlässlich reproduzierbar. Das macht das Arbeiten nach Grundsätzen wie Nachvollziehbarkeit und Verantwortlichkeit schwer.

Verwaltung muss neutral arbeiten

Wenn Unternehmen mit KI experimentieren, haben sie größere rechtliche Spielräume. Die Verwaltung wiederum muss laut Verfassung neutral, objektiv und gesetzestreu handeln. KI-Systeme sind durch ihre Funktionsweise allerdings nicht in der Lage, Normen anzuwenden oder ethische Verantwortung zu übernehmen – ihre Outputs basieren auf berechneten Wahrscheinlichkeiten. Wie lässt sich das mit der Arbeit der Verwaltung vereinbaren?

David Wagner von der Kanzlei Spirit Legal untersucht, wie die öffentliche Verwaltung KI dennoch in verfassungskonformer Weise nutzen kann. Der Rechtsanwalt beschäftigt sich mit Legal Requirement Engineering, er übersetzt also rechtliche Vorgaben methodisch in technische Anforderungen. Unternehmen regulatorische Anforderungen effizient und rechtskonform in technische Lösungen überführen  Zwar schließe das Grundgesetz den KI-Einsatz nicht aus. Doch bedürfe es technischer und rechtlicher Leitplanken. Ein Baustein könne eine Protokollpflicht sein, die Sachbearbeiter:innen verpflichtet, Eingaben, Ausgaben und eigene Änderungen am Ergebnis zu dokumentieren. Das allein genüge aber nicht.

Das BMDS betont, am Ende treffe immer ein Mensch die Entscheidung. Wagner hält dagegen: Wenn KI-Systeme Anträge vorprüfen oder Bescheide vorbereiten, präge ihr Output die Entscheidung der Sachbearbeiter:innen. Das europäische Datenschutzrecht schränke solche Konstellationen ein. Demnach dürften Entscheidungen gegenüber Betroffenen nicht allein auf automatisierter Verarbeitung beruhen.

Der EuGH habe klargestellt, dass das Verbot auch greife, wenn die Verarbeitung eine menschliche Entscheidung maßgeblich beeinflusse, so Wagner. Menschliche Kontrolle sei ohnehin gefordert. Im Kontext der Verwaltung entbinde sie den Gesetzgeber aber nicht, den Einsatz von KI durch spezielle Rechtsgrundlagen einzuhegen.


Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.



Source link

Weiterlesen

Beliebt