Datenschutz & Sicherheit
Outsourcing und Ausbeutung: „Es gibt keine KI ohne Datenarbeit“
Im Bundestag wurde heute erstmals über die Arbeitsbedingungen von Datenarbeiter:innen hinter Künstlicher Intelligenz und Sozialen Medien diskutiert. Die Ausschüsse für Digitales und Arbeit hatten zu einem Fachgespräch zum Thema Data Labeling geladen. Die klare Botschaft der drei Sachverständigen: Wenn Deutschland auf KI setzt, dann muss es mehr Verantwortung für die Menschen im Maschinenraum der Technologie übernehmen.
Als Data Labeling oder auch Daten-Annotation bezeichnet man eine Tätigkeit, bei der Menschen zum Beispiel Bildmaterial mit Metadaten versehen, also mit Labels, die den Inhalt beschreiben. Das ist unter anderem für Machine-Learning-Systeme erforderlich, die hinter fast allem stehen, auf dem heute das Label „KI“ klebt. Die Arbeiter:innen sind selten bei den Tech-Konzernen selbst beschäftigt, sondern werden häufig unter ausbeuterischen Bedingungen bei Outsourcing-Firmen oder -Plattformen angestellt.
Seit Jahren bringen Whistleblower:innen, Aktivist:inen, Forscher:innen und Journalist:innen die unsichtbar gemachten Arbeitskräfte in die Öffentlichkeit. Auch wir auf netzpolitik.org berichten kontinuierlich darüber. Die Arbeitsbedingungen in der Branche haben sich aber kaum verbessert, weshalb Erwartungen an die Politik groß sind. Das heutige Fachgespräch, an dem sich Abgeordnete von Union, SPD, Grünen und Linkspartei beteiligten, könnte ein Anfang sein. An konkreten Ideen, wie sich die Lage der Arbeiter:innen verbessern lässt, mangelt es jedenfalls nicht.
„Sie sehen die KI, aber uns sehen Sie nicht“
Die ehemalige Datenarbeiterin Joan Kinyua war virtuell aus der kenianischen Hauptstadt Nairobi zugeschaltet. Sie habe mehr als acht Jahre in der Branche gearbeitet hat, die „Künstlicher Intelligenz dabei hilft, die Welt zu verstehen“. Für unterschiedliche Anbieter habe sie unter anderem Bilder von Straßen mit Metadaten versehen, damit selbstfahrende Autos keine Unfälle bauen. Auch mit Straßenszenen aus Berlin habe sie arbeiten müssen (lest dazu mehr in unserem kürzlich veröffentlichten Interview mit Joan).
Später habe sie auch Bilder mit Gewaltdarstellungen klassifizieren müssen, sogar solche, die Gewalt an Kindern zeigten. Gleichzeitig habe sie selbst Daten für das KI-Training erzeugen sollen, indem sie Bilder ihrer Tochter zur Verfügung stellt.
Ausgeübt habe sie die Tätigkeit meist vom eigenen Computer zuhause, über sogenannte Microwork-Plattformen – „ohne Arbeitsvertrag, Sozialversicherung oder Gesundheitsversorgung“. Oft habe sie stundenlang auf neue Aufträge warten müssen, teilweise bis zu 20 Stunden am Tag auf Stand-By. Immer wieder hätten Auftraggeber:innen ihre Ergebnisse abgelehnt. Den Input hätten sie trotzdem behalten, sie selbst sei leer ausgegangen. So habe es Tage gegeben, an denen sie in fünf Stunden nur zwei Cent verdient habe. Im Schnitt würden Datenarbeiter:innen in Kenia 250 US-Dollar im Monat verdienen, was kaum zum Überleben reiche.
Von ihrer Arbeit habe sie außerdem Panik-Attacken und Angstzustände erhalten. Wie ihr gehe es vielen in der Branche, schildert Kinyua. Als Präsidentin der kenianischen Data Labelers Association vertrete sie inzwischen die Interessen von mehr als tausend Datenarbeiter:innen. Viele von ihnen litten unter posttraumatischen Belastungsstörungen.
„Sie sehen die KI, aber uns sehen Sie nicht“, so beschrieb Joan Kinyua den Abgeordneten ihre Lage. Es sei auch in der Verantwortung des Deutschen Bundestages, das zu ändern und für bessere Bedingungen zu sorgen. Unter anderem schlug die Kenianerin Mindeststandards für Datenarbeiter:innen in Deutschland und weltweit vor. Dazu zählt auch eine Obergrenze für die Arbeit an belastenden Inhalten. Zudem brauche es unabhängige Audits der Anbieter, sowie Register für KI-Arbeiter:innen und ganz grundsätzlich mehr Transparenz über Outsourcing und Lieferketten von Tech-Konzernen.
Milliarden-Profite dank Prekarisierung
Dr. Milagros Miceli von der TU Berlin berichtete von ihren Erkenntnissen aus fast einem Jahrzehnt Forschung zu Datenarbeit. Die von Joan Kinyua geschilderten Arbeitsbedingungen seien „kein Einzelfall, sondern ein konstantes Muster“. Oder genauer gesagt: das Geschäftsmodell einer milliardenschweren Branche.
Der von ihr geprägte Begriff der Datenarbeit umfasse mehr als das Labeling von Daten im engeren Sinne: Auch das Generieren und Sammeln von Daten zähle dazu, in zunehmendem Maße außerdem die Validierung des algorithmischen Outputs und das Korrigieren von Fehlern. Zudem müssten Arbeiter:innen immer wieder so tun, als seien sie eine KI.
Miceli ist eine der Initiator:innen des „Data Workers Inquiry“, in dem Datenarbeiter:innen von ihrer Wirklichkeit berichten. Kürzlich hat das Projekt die Geschichte einer Person veröffentlicht, die sich als AI Girlfriend ausgeben musste, also als Chatbot, der eine Liebesbeziehung mit seinen Nutzer:innen simuliert.
Die unterschiedlichen Formen der Datenarbeit seien essenzieller Bestandteil von KI-Produkten, einer Studie zufolge würde sie 80 Prozent der Entwicklungsarbeit von Künstlicher Intelligenz ausmachen. Miceli ist in ihrer Botschaft deshalb klar: „Ohne Datenarbeit und ohne Menschen wie Joan Kinyua gibt es keine KI“. Tech-Konzerne würden Milliarden damit verdienen „dass sie Arbeiter:innen durch Outsourcing und Plattformisierung prekarisieren und austauschbar machen“. Wenn Deutschland KI fördern wolle, müsse deshalb unbedingt für bessere Arbeitsbedingungen sorgen.
Viele der Arbeiter:inen seien hochqualifiziert, hätten Bachelor-Abschlüsse oder sogar promoviert, berichtet die Forscherin. Dabei sei wichtig, dass die Tätigkeit nicht auf Länder wie Kenia beschränkt ist, sondern auch in Deutschland und Europa viele Menschen in der Branche tätig seien. Wie viele genau, das könne man aufgrund der Intransparenz der Unternehmen nicht sagen.
Probleme bei Gesundheits- und Datenschutz
Bekannt ist, dass mehrere Tech-Konzerne und Outsourcing-Unternehmen in Deutschland große Zentren für die Moderation von Inhalten auf Social-Media-Plattformen unterhalten. Eine Tätigkeit, die die Sachverständigen ebenfalls zum Feld der Datenarbeit zählt und die bereits vor drei Jahren bei einem Fachgespräch im Bundestag Thema war. Julia Kloiber vom Superrr Lab war damals bereits dabei und wies heute erneut darauf hin, dass dabei oft Menschen in vulnerablen Lebenssituationen ausgenutzt würden.
Kloiber empfahl unter anderem besseren Schutz für Menschen, die mit schädlichen Inhalten arbeiten müssen. Bei der Polizei etwa, wo ebenfalls Menschen mit Darstellungen von Kindesmissbrauch arbeiten müssten, gebe es klare Expositionsbegrenzungen. Auch für Datenarbeiter:innen brauche es eine Obergrenze, die die Arbeit mit belastendem Material festlegt. Außerdem brauche es Trauma-Prävention und Zugang zu professioneller psychologischer Unterstützung.
Wir sind communityfinanziert
Unterstütze auch Du unsere Arbeit mit einer Spende.
Der fehlende Schutz habe nicht nur schwerwiegende Folgen für die Betroffenen, sondern auch für das Gesundheitssystem, schließlich könnten Menschen ein ganz Leben lang unter posttraumatischen Belastungsstörungen leiden. Manchmal könnten sie deshalb nicht mehr arbeiten. Die dadurch entstehenden Kosten würden von den Tech-Konzernen externalisiert und von der Allgemeinheit aufgefangen.
Kloiber wies zudem auf Datenschutzprobleme beim Outsourcing hin: Nicht nur würden die Datenarbeiter:innen selbst stark überwacht, bei ihnen landeten auch große Mengen personenbezogener Daten und sensibler Inhalte. Erst kürzlich hatten Datenarbeiter:innen als Whistleblower:innen darüber berichtet, dass sie Aufnahmen aus Meta-Brillen bearbeiten müssten und dabei auch Nacktaufnahmen und andere intime Szenen von Nutzer:innen zu Gesicht bekämen.
„Unsere digitale Zukunft darf nicht auf Ausbeutung fußen“
Deutlich wurde bei dem Fachgespräch, dass auch deutsche Firmen davon profitieren, dass sie prekäre Arbeit an Menschen wie Joan Kinyua auslagern. Auch die Auto-Industrie, die Pharma-Branche oder Tech-Unternehmen wie Siemens gehörten zu den Kunden von Outsourcing-Unternehmen im Datenbereich, berichtete etwa Milagros Miceli.
Für Julia Kloiber ist klar, dass Deutschland deshalb auch Verantwortung übernehmen müsse. Eine Untersuchung des Fairwork-Projekt der Universität Oxford und Wissenschaftszentrums Berlin habe die Löhne von vier Outsourcing-Unternehmen untersucht. Nur zwei von ihnen hätten Mindestlohn gezahlt, keines den sogenannten Existenzlohn („Living Wage“), der nicht nur das bloße physische Überleben, sondern auch soziale und kulturelle Teilhabe ermöglicht.
Einen wichtigen Ansatzpunkt sieht die Geschäftsführerin des Superrr Lab deshalb in der Regulierung von Lieferketten. Hier drohe der hohe Standard des erst kürzlich eingeführten und dann schon wieder halb gecancelten deutschen Lieferkettengesetzes abgesenkt zu werden. Die Schwarz-Rote Koalition hatte sich darauf geeinigt, nicht über die – ebenfalls gerade ausgehöhlte – EU-Lieferkettenrichtlinie hinauszugehen.
Bei der Umsetzung der Richtlinie müsse Deutschland sicherzustellen, dass der Geltungsbereich nicht eingeschränkt werde. Die EU-Regeln sollen nur Unternehmen ab 5000 Beschäftigten und einem Umsatz von 1,5 Milliarden Euro gelten. In Deutschland würden dann 95 Prozent der Unternehmen von den Sorgfaltspflichten für ihre Lieferketten entbunden, so Kloiber.
Die Expertin brachte zudem ein Direktanstellungsgebot ins Spiel, wie es erst kürzlich gefeuerte und streikende TikTok-Angestellte in Deutschland gefordert hatten. Ganz grundsätzlich Kloiber eine realistischere Kosten-Nutzen-Rechnung, wenn in Deutschland KI ausgebaut und etwa in der Verwaltung eingesetzt werde. Soziale und auch ökologische Kosten dürften nicht länger ausgeblendet werden: „Unsere digitale Zukunft darf nicht auf Ausbeutung fußen.“
Datenschutz & Sicherheit
Handy-Spione als Schnäppchen: Italiens boomende Spyware-Schattenindustrie
Wenn von staatlicher Überwachungssoftware die Rede ist, fallen meist Namen wie Pegasus, Predator oder Paragon (Graphite)). Diese hochentwickelten Werkzeuge kosten Millionen und nutzen unbekannte Sicherheitslücken in Form von Zero-Day-Exploits, um Smartphones völlig ohne Zutun der Betroffenen zu infizieren. Doch diese High-End-Produkte bilden nur die Spitze des Eisbergs. Abseits des Rampenlichts hat sich in Europa ein paralleler, weitaus billigerer Markt etabliert.
Weiterlesen nach der Anzeige
Eine Untersuchung der NGO Osservatorio Nessuno und der Dachvereinigung European Digital Rights (EDRi) beleuchtet die Schattenwelt der Low-Cost-Spyware in Italien. Hier existieren Dutzende kleinerer Überwachungsfirmen, die maßgeschneiderte Trojaner für Ermittlungsbehörden entwickeln. Recherchen des Mediennetzwerks IrpiMedia zeigen, dass italienische Staatsanwaltschaften teils nur ein paar Dutzend Euro pro Überwachungstag zahlen. In diesem Niedrigpreissegment sind teure Sicherheitslücken gar nicht notwendig. Stattdessen setzen die Anbieter auf psychologische Tricks und Social Engineering, um Zielgeräte zu kapern.
Ein reales Szenario verdeutlicht das Vorgehen dieser günstigen Spione. Plötzlich verliert die Zielperson den Mobilfunkempfang. Unmittelbar danach trifft eine SMS ein, die scheinbar vom Mobilfunkanbieter stammt. Sie fordert den Nutzer dazu auf, ein angeblich dringendes Update zu installieren, um den Dienst wiederherzustellen. Der beigefügte Link führt auf eine echt wirkende Phishing-Seite im Namen des Providers. Dort wird das Opfer dazu verleitet, eine manipulierte Android-Anwendungsdatei (APK) herunterzuladen, bei der es sich um eine präparierte Kopie der regulären App handelt.
Sobald die Installation abgeschlossen ist, beginnt das Programm mit der Datenspionage. Damit die Täuschung funktioniert, greifen die Überwacher auf die Schützenhilfe der Internetanbieter zurück. Auf Anfrage von Justiz oder Strafverfolgern drosseln die Provider gezielt die Verbindung des Betroffenen, um den Vorwand der SMS glaubwürdig erscheinen zu lassen. Einmal auf dem Telefon aktiv, missbrauchen diese Anwendungen die Android-Barrierefreiheitsdienste, verknüpfen unbemerkt WhatsApp-Sitzungen mit externen Geräten, deaktivieren lokale Antivirenprogramme und unterdrücken standardmäßige Warnhinweise, die den Zugriff auf Mikrofon oder Kamera anzeigen.
Günstige Schadprogramme im Dauereinsatz
Osservatorio Nessuno hat zwei bisher kaum bekannte Produkte beleuchtet. Das Schadprogramm Morpheus, das mit der Firma IPS Intelligence in Verbindung gebracht wird, überlistet Opfer gezielt bei der Nutzung von WhatsApp. Es blendet eine gefälschte biometrische Abfrage ein. Diese legt sich exakt über die originale Aufforderung zur Geräteverknüpfung, wodurch die Angreifer Zugriff auf das Chat-Konto erlangen.
Ähnlich agiert der Staatstrojaner Spyrtacus, den das Unternehmen SIO entwickelt und vertreibt. Durch den Missbrauch von Bedienungshilfen fertigt dieser Screenshots an, schneidet Sprachanrufe mit und exportiert Chatverläufe. Das Werkzeug befindet sich laut dem Bericht bereits seit Jahren im Dauereinsatz und wird regelmäßig durch Updates aktualisiert. Um die Infrastruktur aufrechtzuerhalten und die Spionagesoftware unentdeckt verteilen zu können, nutzen Anbieter systematisch Schein- und Briefkastenfirmen. Manche dieser Konstrukte dienen dazu, die Schad-Apps als legitime Anwendungen in den offiziellen Google Play Store einzuschleusen.
Weiterlesen nach der Anzeige
Angetrieben wird diese florierende Industrie durch die hohe staatliche Nachfrage in Italien. Statistiken des Justizministeriums belegen, dass Staatsanwälte allein 2024 rund 5200 Trojaner-Infektionen autorisierten. Dieses Volumen übersteigt die Zahlen anderer EU-Länder bei Weitem und hat die Kompromittierung digitaler Endgeräte zu einer Routine-Ermittlungsmethode werden lassen.
Nach einer Entdeckung ist es für Betroffene, Rechtsanwälte oder unabhängige IT-Forensiker unmöglich herauszufinden, welches Unternehmen die Software bereitstellte, welche Behörde sie einsetzte und ob überhaupt ein gültiger Beschluss vorlag.
Grundrechte untergraben, EU in der Pflicht
Dieses System verlangt nach immer mehr Daten. Strafverfolger fordern massenhafte Infektionen zum kleinsten Preis, was zu einer Normalisierung des unbegrenzten Zugriffs auf die Privatsphäre führt. Ob der Einbruch über hochentwickelte Zero-Click-Lücken, manipulative Täuschung oder physische Installation erfolgt, wie es bei Stalkerware geschieht, macht für das Opfer keinen Unterschied. Jede Spyware bricht die Vertraulichkeit digitaler Geräte und extrahiert Fotos, Passwörter, Standorte sowie private Nachrichten.
EDRi gibt zu bedenken, dass solche Instrumente unvereinbar mit den EU-Grundrechten sowie den Prinzipien der Verhältnismäßigkeit und Notwendigkeit seien. Die Verantwortung für die unkontrollierte Verbreitung liege auch bei der EU-Kommission, deren Untätigkeit den Markt begünstige. Die Entwicklung und der Handel in Europa seien kaum reguliert, Binnenmarktregeln erlaubten den grenzüberschreitenden Vertrieb. Die EU fungiere so als globaler Knotenpunkt für Überwachungstechnologie, die weltweit zu Menschenrechtsverletzungen beitrage.
Eine wachsende Koalition aus Zivilgesellschaft und Journalistenverbänden ruft daher nach einem vollständigen EU-weiten Verbot kommerzieller Spyware. Nötig seien auch strikte Transparenzpflichten für die Mitgliedstaaten.
(nen)
Datenschutz & Sicherheit
Netzpolitische Enzyklika: Wie Papst Leo gegen die Verzweckung des Menschen argumentiert

„Nichts ist in der Welt der KI immateriell oder magisch“, stellt Papst Leo XIV. in seiner Enzyklika „Magnifica humanitas“ fest, die er am Pfingstmontag veröffentlichte und die medial einige Wellen geschlagen hat.
Wenn der Papst über „Künstliche Intelligenz“ schreibt, dann will er seine Reflexionen nicht auf das Endprodukt reduziert wissen. Stattdessen lenkt er den Blick auf die gesamte Lieferkette, die zu einer scheinbar mühelos auf dem Bildschirm aufscheinenden Antwort führt. Er spricht von einem „ausgedehnten Netzwerk aus natürlichen Ressourcen, Energieinfrastruktur und vor allem Menschen“.
Und der Papst belässt es nicht bei diesem einen Thema. Vielmehr spannt er mit in knapp 250 Abschnitten einen weiten Bogen über zahlreiche netzpolitische Themen: von Fragen nach digitalem Kolonialismus, Überwachung und algorithmischer Diskriminierung über die Regulierung von multinationalen Digitalkonzernen und der digitalen Allmende bis hin zur brandaktuellen Frage nach Altersgrenzen für Social-Media-Dienste.
Anschlussfähig an progressive Netzpolitik
Eine Enzyklika ist primär ein theologisches Dokument. Der Ansatz ist daher auch ein religiös begründeter.
Die Würde des Menschen gründet nach katholischem Verständnis in der Gottesebenbildlichkeit und ist zentral für die Organisation von Gemeinwesen. Eine gerechte Gesellschaft muss so organisiert sein, dass sie die Würde des Menschen schützt und fördert. Aus dem kirchlichen Verständnis des Menschen entwickelt die katholische Soziallehre Sozialprinzipien, die ethische Leitplanken für gesellschaftliche und politische Institutionen bilden: Personalität, Solidarität, Subsidiarität, Gemeinwohl und Gerechtigkeit sowie integrale Entwicklung, was säkular formuliert ungefähr Nachhaltigkeit bedeutet.
Das ist der Instrumentenkasten, mit dem der Papst aus der Tradition der katholischen Soziallehre argumentiert. Vor allem die Prinzipien der Subsidiarität, der Gerechtigkeit und der Nachhaltigkeit macht er in seiner Enzyklika stark. Damit zeigt er sich nicht nur erstaunlich anschlussfähig an digitalpolitische Diskurse, sondern auch an progressive Netzpolitik.
Drei in der Enzyklika behandelte Bereiche zeigen das besonders deutlich: die kritische Haltung zu Datenkolonialismus, die Problematisierung des Überwachungskapitalismus und ein Plädoyer für die digitale Allmende.
Das „neue Gesicht“ des Kolonialismus
Für den Papst zeigt der Kolonialismus heute ein „neues Gesicht“: „Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen.“
Das trifft auf den Umgang mit Menschen im globalen Norden zu, umso mehr aber auch auf den globalen Süden. In Regionen „mit geringerer geopolitischer Bedeutung und größerer struktureller Anfälligkeit“ sieht der Papst eine neue Logik der Ausbeutung, die sich nicht nur physischer Rohstoffe bemächtigt, sondern sich auch Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten einverleibt.
Diese Informationen bezeichnet Leo als „Seltene Erden der Macht“, deren systematische Verknüpfung, Auswertung und Ausbeutung im Kern die Gefahr mit sich bringt, „auszuwählen, wer und was zählt“. Gesundheitsdaten beschreibt er als „strukturellen Hebel für die Zukunft“.
Der päpstliche Lösungsansatz greift den Gedanken der informationellen Selbstbestimmung auf: Es gelte, den Menschen die Daten zurückzugeben, die sie beschreiben, und sie in die Lage zu versetzen, „zu entscheiden, wie diese genutzt werden, von wem und für wen“.
Konkret fordert der Papst Transparenz für die Lieferketten der Digitalwirtschaft, klare Kriterien für eine präventive ethische Überprüfung und Standards für Arbeitnehmer*innen-Schutz.
„Andernfalls wird das digitale Zeitalter nicht postkolonial sein, sondern in einer anderen Form kolonial“, so der Papst.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Wenn der Papst wie das Bundesverfassungsgericht klingt
Papst Leo XIV. will außerdem die „Freiheit vor Abhängigkeit und Kommerzialisierung schützen“. Er problematisiert, dass Plattformen darauf ausgelegt seien, „die Zeit und Aufmerksamkeit der Nutzer zu binden, indem ihre Schwachstellen ausgenutzt und ihre innere Freiheit geschwächt werden“. Derartige Geschäftsmodelle fasst er als Verzweckung des Menschen auf.
Für eine Regulierung und Begleitung dieser Phänomene schlägt der Papst mehrere Ansätze vor: „Erziehung zu digitaler Zurückhaltung, Schutz von Minderjährigen und Bekämpfung von Modellen, die aus der Verletzlichkeit anderer Nutzen ziehen“.
In der Überwachung und Kommerzialisierung durch Profilbildung sieht der Papst ein weiteres Problem, das mit sozialer Kontrolle einhergeht. „Wenn jede Handlung – Bewegungen, Käufe, Beziehungen, Vorlieben – Spuren hinterlässt, dann entsteht eine neue Macht: jene, Profile zu erstellen, Vorhersagen zu treffen und Verhalten zu beeinflussen, oft ohne dass sich die Menschen dessen voll bewusst sind.“
Das gefährde die Freiheit und diskriminiere vor allem die Schwächsten. Dabei komme es nicht nur auf tatsächliche repressive Maßnahmen an: „Was verstärkt oder unsichtbar gemacht wird, was belohnt oder bestraft wird, prägt letztlich Meinungen und Entscheidungen und führt zu Konformität und Selbstzensur.“
Hier klingt der Papst fast wie das Bundesverfassungsgericht: „Wer unsicher ist, ob abweichende Verhaltensweisen jederzeit notiert und als Information dauerhaft gespeichert, verwendet oder weitergegeben werden, wird versuchen, nicht durch solche Verhaltensweisen aufzufallen“, heißt es im Volkszählungsurteil aus dem Jahr 1983.
Daten als „gemeinsames oder kollektives Gut“
Bisher war der Vatikan eher durch eine restriktive Haltung bei Immaterialgüterrechten bekannt, zumindest, wenn es um Urheberrecht geht: Das Urheberrecht des Staats der Vatikanstadt ist eher beschränkend. Amtliche vatikanische Texte sind nicht gemeinfrei, bei der Digitalisierung von Archiven und Kunstschätzen wird nicht auf Commons und Open Data gesetzt.
Urheberrechte spricht Papst Leo in der Enzyklika zwar nicht direkt an. In Bezug auf Immaterialgüterrechte zeigt er sich aber deutlich Allmende-orientiert. Er greift dazu das theologische Verständnis der Gemeinwohlpflichtigkeit des Eigentums auf und macht es für Immaterialgüter fruchtbar.
„Daten sind das Ergebnis der Beiträge vieler und dürfen nicht an einige Wenige verkauft oder ihnen überlassen werden“, heißt es an einer Stelle, wo sich der Papst dafür ausspricht, Daten teilhabeorientiert als „gemeinsames oder kollektives Gut zu verwalten“.
An anderer Stelle bezeichnet er „Patente, Algorithmen, digitale Plattformen, technologische Infrastrukturen, Daten“ als Güter, die für alle bestimmt sind. „In einem Kontext, in dem der Reichtum der Nationen immer mehr von Wissen und Technologien abhängt, entsteht ein neues Ungleichgewicht, wenn diese Güter ohne angemessene Teilhabe und Zugangsmöglichkeiten in den Händen weniger konzentriert bleiben“, so Leo weiter.
Netzpolitische Kontinuitäten
Dass der amtierende Papst und mit ihm die katholische Kirche sich in dieser Weise netzpolitisch positionieren, ist in weiten Teilen keine Überraschung. Seit mindestens rund 25 Jahren betreibt der Vatikan Netzpolitik.
Die ersten Texte zu Ethik und Kirche im Internet erschienen bereits 2002. Zeittypisch wurde darin vor allem die Chancen für Kommunikation und Vernetzung betont, verbunden mit einem Appell zu gemeinwohlorientierter Entwicklung. Papst Johannes Paul II. (1978–2005) legte großen Wert auf die Nutzung neuer Medien, unter seinem Nachfolger Benedikt XVI. (2005–2013) waren die Botschaften zum katholischen „Welttag der Sozialen Kommunikationsmittel“ durch differenzierte Stellungnahmen zu digitalen Kommunikationsdynamiken geprägt.
In der späteren Phase des Pontifikats von Franziskus (2013–2025) trat KI in den Fokus. Im Jahr 2020 entwickelte die Päpstliche Akademie für das Leben mit dem „Rome Call for AI Ethics“ einen aus christlichen Werten gespeisten, aber durch Kooperationspartner aus der Wirtschaft und anderer Religionen anschlussfähigen KI-Kodex.
Im vergangenen Jahr veröffentlichten das Glaubens- und das Kulturdikasterium, also die römischen Behörden, die für theologische Grundsatzfragen und den Dialog mit der Kultur zuständig sind, die Erklärung „Antiqua et nova“ („Altes und Neues“) über das Verhältnis von Künstlicher Intelligenz und menschlicher Intelligenz, die ersten systematischen Ausführungen zum Umgang mit KI. In diesem Dokument hat die katholische Kirche auch erstmals Datenschutz theologisch hergeleitet und fundiert begründet.
Wir sind ein spendenfinanziertes Medium.
Unterstütze auch Du unsere Arbeit mit einer Spende.
Anschlussfähig an eine säkulare Öffentlichkeit
Mit seiner Enzyklika baut Leo XIV. auf dieser Vorarbeit auf und schreibt die Linien seiner Vorgänger und der Äußerungen aus den Vatikanbehörden fort.
Dass dies nun erstmals in der Form einer Enzyklika geschieht, ist das eigentlich Bedeutende – nicht nur, weil diese Form auch in der säkularen Öffentlichkeit so anschlussfähig ist, dass die Veröffentlichung tagelang weltweit in den Medien präsent war.
Eine Enzyklika ist die feierlichste Form der Ausübung des „ordentlichen Lehramts“ des Papstes. Unfehlbar ist sie nach katholischem Verständnis indes nicht. Aber wer katholisch ist, hat – so will es das Kirchenrecht – das anzuerkennen, was Päpste so vorlegen.
Seit geraumer Zeit wenden sich Päpste mit ihren Enzykliken nicht mehr nur an Katholik*innen, sondern an „alle Menschen guten Willens“ – entsprechend anschlussfähig an globale Diskurse müssen die Lehrschreiben sein. Das gilt insbesondere dann, wenn es wie in diesem Fall um soziale Fragen geht.
Der Umgang mit KI als die „soziale Frage“ unserer Zeit
Mit seiner Enzyklika stellt sich Leo XIV. in die Tradition seiner Vorgänger. Sein Namenspate Leo XIII. (1878–1903) hatte sich 1891 als erster Papst mit einer Sozialenzyklika zu zentralen Fragen des gesellschaftlichen und sozialen Zusammenlebens geäußert. Für Leo XIII. bestand die soziale Frage seiner Zeit in den Auswirkungen der Industrialisierung auf die Welt der Arbeit. Sein Lehrschreiben „Rerum novarum“ kam für die Industrielle Revolution der Mitte des 19. Jahrhunderts allerdings reichlich spät.
Leo XIV. hat den Umgang mit KI in einer seiner ersten Ansprachen als Papst als „soziale Frage“ unserer Zeit bezeichnet. Anders als Leo XIII. schreibt er zu einem Zeitpunkt, in dem die von ihm behandelte gesellschaftliche Umwälzung noch so weit am Anfang steht, dass gesellschaftliche Auswirkungen offen sind und politische Regulierungsinstrumente erst entwickelt werden.
Sozialenzykliken haben das Potenzial, den gesellschaftlichen Kurs zu beeinflussen, vor allem aber, Schwerpunkte in der Kirche zu setzen. Das jüngste Beispiel dafür ist die Umweltenzyklika „Laudato si“, in der sich Papst Franziskus 2015 umfangreich mit Nachhaltigkeit befasst und das Klima und die Umwelt als gemeinschaftliches Gut bezeichnet hat. Die Enzyklika hat Nachhaltigkeit zu einem kirchlichen Kernthema gemacht. Weltweit befassen sich Kirchengemeinden und kirchliche Verbände seither intensiv mit der praktischen Umsetzung.
Positive Resonanz aus Brüssel
Obwohl die Enzyklika von Papst Leo XIV. größtenteils nur den Rahmen vorgibt, kann sie also Wirkungen entfalten. Rückenwind erhält etwa das Projekt der Europäischen Union, Datenkolonialismus und Überwachungskapitalismus durch Regulierung zu gestalten. „Wir können der Vision des Heiligen Vaters Papst Leo XIV. und der Notwendigkeit eines soliden Rechtsrahmens für KI nur zustimmen“, äußerte sich ein Sprecher der Kommission dann auch gegenüber der Katholischen Nachrichten-Agentur.
Mit seiner Enzyklika scheint der Papst somit einen Nerv getroffen zu haben. Die Bewertungen fallen größtenteils positiv aus – auch, weil sich Leo XIV., der vor seiner Wahl zum Papst selbst soziale Medien und insbesondere „X“ nutzte, die alte Twitter-Kulturtechnik des Diss per Nonmention beherrscht. Mal weniger subtil, wenn er darüber klagt, dass sich in der Weltpolitik „religiöser Extremismus und identitätsbasierter Fanatismus […] mit irrationaler Wirtschaftspolitik“ verbünden, mal etwas subtiler, wenn er Herr-der-Ringe-Fans wie Elon Musk und dem Palantir-Gründer Peter Thiel mit einem Zitat von Gandalf Nachhaltigkeit und Bescheidenheit erklärt.
Auch der Vatikan ist mitunter nicht konsequent
Es bleiben aber auch offene Fragen. Denn so klar die ethischen Leitplanken für KI und die Digitalwirtschaft auch sind, so unverständlich ist die Beteiligung von Anthropic-Mitgründer Chris Olah bei der Pressekonferenz zur Vorstellung der Enzyklika.
Zwischen dem Vatikan und Anthropic, die sich selbst eines ethischeren Anspruchs für ihre Produkte rühmen, gibt es seit längerer Zeit einen Austausch. Das Unternehmen mag damit weniger problematisch als andere KI-Hersteller sein. Die in der Enzyklika benannten umfassenden Probleme der Nachhaltigkeit, des Energieverbrauchs und der Umwälzung des Arbeitsmarkts gelten aber pauschal für die Technologie – und damit auch für Anthropic.
Ein Ausreißer ist das allerdings nicht: Das Unternehmen reiht sich damit ein in die Riege von Tech-Konzernen, die mit dem Vatikan in Sachen Digital-Ethik kooperieren – der „Rome Call“ wurde etwa von Microsoft und IBM unterzeichnet. Und in der Vergangenheit gab es ebenfalls klare Aussagen zur Rolle von Krypo-Währungen im Menschenhandel. Zugleich kooperiert die Vatikan-Bibliothek mit einem Blockchain- und NFT-Start-up. Das zeigt: Auch im Vatikan selbst ist die konsequente Umsetzung ethischer Erkenntnisse nicht immer einfach.
Felix Neumann ist Journalist und schreibt über die Schnittpunkte von Kirche, Recht und Digitalität als Redakteur bei katholisch.de und Herausgeber von „Artikel91.eu – Datenschutz in Kirchen und Religionsgemeinschaften“.
Datenschutz & Sicherheit
KW 22: Die Woche, als die Databroker Files weiter Kreise zogen
Liebe Leser*innen,
mit unseren Veröffentlichungen zu den Databroker Files haben wir einiges angestoßen, und der Stein rollt weiter. Es geht um den meist illegalen Handel mit Handy-Standortdaten der Werbe-Industrie.
In den USA haben Senator*innen und Kongressabgeordnete jüngst das Pentagon befragt, wie dieser Datenhandel US-Soldat*innen gefährdet. Das klingt weit weg – ist aber eine direkte Folge unserer Recherchen. Im November 2024 hatten wir gemeinsam mit dem US-Magazin Wired veröffentlicht, wie Datenhändler NATO und US-Militär bloßstellen.
Anhand von Handy-Ortungen in Deutschland konnten wir genaue Bewegungsprofile von Militär-Angehörigen nachvollziehen. Etwa in Grafenwöhr, dem größten Übungsplatz für das US-Militär in Europa, oder in der Ramstein Air Base, dem Hauptquartier der US Air Force für Europa und Afrika. Die Bewegungsprofile, die wir sahen, führten von Baracken zu Privatadressen, zu Supermärkten und teils bis zu Bordellen.
Nun, da wir eure Aufmerksamkeit haben…
Auf diese Recherche haben sich die US-Senator*innen und Kongressabgeordneten in ihren Fragen direkt bezogen. Und aus der Antwort des US-Kriegsministeriums geht klar hervor: Kommerziell verfügbare Handy-Standortdaten können US-Soldat*innen zur Zielscheibe machen.
Entsprechende Warnungen habe das Zentralkommando bereits an Truppen verschickt. Es ist zuständig für den Nahen Osten, Zentralasien und Teile Südasiens, also auch für jene Soldat*innen, die gerade Angriffe gegen den Iran führen. Zuvor habe man „mehrere Berichte über Bedrohungen erhalten, wonach Gegner kommerzielle Standortdaten ausnutzen, um US-Personal im Einsatzgebiet ins Visier zu nehmen oder zu überwachen“.
Zuerst berichtet hat das die Agentur Reuters, mit Verweis auf die Vorrecherchen von zwei deutschen „news outlets“ – gemeint sind der Bayerische Rundfunk und wir.
Ich erinnere mich noch gut, wie wir 2024 abgewogen hatten, ob wir noch einen extra Artikel zu US-Soldat*innen bringen sollen. Immerhin hatten wir schon berichtet, wie der Datenhandel alle gefährdet – und nationale Sicherheit ist kein Kernthema von netzpolitik.org. Aber wir hatten die Ahnung: Die Perspektive könnte ein Türöffner sein, um Menschen zu erreichen, die sich sonst nicht für Datenschutz und Privatsphäre stark machen, die Massenüberwachung ausweiten statt eindämmen.
Die Reaktionen aus dem Pentagon zeigen: Das hat geklappt. Reuters schreibt: „Gesetzgeber fordern das Pentagon zum Handeln auf und bezeichnen die Adtech-Branche als Bedrohung für die nationale Sicherheit“. Bingo. Möglich ist das jedoch nur, weil unsere Recherchen anschauliche Beispiele liefern, hier etwa für den demokratischen Senator Ron Wyden und sein Team, die seit Jahren mit viel Mühe zu diesem Thema arbeiten.
Wir sind ein spendenfinanziertes Medium.
Unterstütze auch Du unsere Arbeit mit einer Spende.
US-Militär kämpft gegen Werbetracking
Laut Pentagon arbeite man immer noch daran, das Werbetracking auf den Dienstgeräten der Soldat*innen wirksam abzuschalten. Das sei man gerade am Testen…
In meinen Augen zeigt das: Der oftmals zitierte Kontrollverlust rund um Tracking und Datenhandel trifft nicht nur Verbraucher*innen. Selbst eine mächtige Institution wie das US-Militär ringt damit, die gefährliche Spur der angeblich nur zu Werbezwecken erhobenen Daten abzuschütteln. Wie absurd ist das bitte?
Und damit zurück zum Datenschutz: Seit Jahren fordern Fachleute ein Verbot von Tracking und Profilbildung zu Werbezwecken. Das würde allen eine Menge Ärger ersparen. Mich würde es freuen, wenn der Stein, den wir da ins Rollen gebracht haben, eines Tages den unkontrollierten Datenhandel umkegelt. Davon sind wir aber noch sehr weit entfernt. Stattdessen setzen Regierungen, unter anderem in den USA, die Werbedaten selbst zur Überwachung ein.
Databroker Files in Österreich und Spanien
Auch in internationalen Medien ziehen die Databroker Files derweil weiter Kreise. Diese Woche hat der öffentlich-rechtliche Rundfunk in Österreich (ORF) das Thema fürs ZIB Magazin aufbereitet.
Für den spanischen TV-Sender Radiotelevisión Española RTVE wiederum hat mein Kollege Ingo Dachwitz das Geschäft mit unseren Daten erklärt. Die 74-minütige Doku von und mit dem Journalisten Carles Tamayo ist diese Woche erschienen.
Und nächste Woche legen wir nach, wieder zusammen mit unseren Kolleg*innen des Bayerischen Rundfunks. Eine neue Veröffentlichung, eine neue Dimension. Lasst euch überraschen.
Schönes Wochenende und bis die Tage
Sebastian
a German news outlet
-
Entwicklung & Codevor 3 MonatenCommunity-Protest erfolgreich: Galera bleibt Open Source in MariaDB
-
Künstliche Intelligenzvor 3 MonatenBlade‑Battery 2.0 und Flash-Charger: BYD beschleunigt Laden weiter
-
Künstliche Intelligenzvor 3 Monaten
Top 10: Der beste Luftgütesensor im Test – CO₂, Schadstoffe & Schimmel im Blick
-
Apps & Mobile Entwicklungvor 3 MonatenMähroboter ohne Begrenzungsdraht für Gärten mit bis zu 300 m²
-
Künstliche Intelligenzvor 3 MonateniPhone Fold Leak: Apple spart sich wohl iPad‑Multitasking
-
Künstliche Intelligenzvor 2 Monaten
JBL Bar 1300MK2 im Test: Soundbar mit Dolby Atmos, starkem Bass und Akku‑Rears
-
Künstliche Intelligenzvor 3 MonatenPetra‑AI: KI soll Frauen in der Perimenopause unterstützen
-
Social Mediavor 2 MonatenVon Kennzeichnung bis Plattformpflichten: Was die EU-Regeln für Influencer Marketing bedeuten – Katy Link im AllSocial Interview
