Die Angst vor der KI ist oft von theoretischer Natur, insbesondere die Sorge: KI frisst meinen Job. In der Bankbranche gehen Analysten von 200.000 wegfallenden Stellen aus. Dem stehen aber eine Million unbesetzbarer Stellen im öffentlichen Dienst im Jahr 2030 gegenüber. Hier werden wir der KI noch dankbar sein.

Ganz konkret für die allermeisten Menschen sind hingegen Gefahren, die es jetzt schon gibt und persönliche Daten betreffen – die Daten aller Menschen, die in irgendeiner Form im Internet erscheinen, auf Webseiten, in Berichten, in Datenbanken oder in Social-Media-Profilen. Denn all das saugen sich die großen LLM-Modelle beim Training ein und spucken es auf Prompt-Anfrage in freundlicher Sprache hübsch verpackt wieder aus. Wie ein dicker Wal filtern sie statt des Planktons persönliche Daten aus der Flut und verdauen sie.

Man könnte einwenden, dass die großen Player der Branche wie Google, Meta und Microsoft sich diese Daten ohnehin schon immer in ihren großen Bauch einverleiben. Aber die mit KI betriebene Art der Verwertung erreicht eine neue Dimension an Performance, verständiger Kompilation und leichter Auswertbarkeit für fast jedermann.

Keine kleinen Datenfische

Das Ausmaß des Datensaugens zeigt eine Untersuchung der Datenschutzfirma incogni, laut der die LLM-Betreiber nicht nur im Internet sammeln – oft unter Ignorieren der robots.txt – sondern auch in diffusen „Datenbanken“ (Claude), bei „Marketingpartnern“ (Gemini und Meta) bei „Datenbrokern“ (Microsoft), bei „Sicherheitspartnern“ (ChatGPT, Gemini und DeepSeek) oder auf dem Handy. Hier gibt es Standortdaten (Gemini und Meta), Telefonnummern (DeepSeek, Gemini und Pi) oder sogar Fotos (Grok, auch mit Dritten geteilt) zum Verzehr. Eine Opt-out-Möglichkeit hierfür bietet keiner der LLM-Betreiber in der Studie.

Anders beim Umgang mit den Prompt- und Chat-Daten: Hier können Anwenderinnen und Anwender bei ChatGPT, Copilot, Mistral und Grok erklären, dass die KI-Firmen ihre Kommunikationsdaten nicht verwenden sollen. Anthropic verzichtet für seine Claude-Modelle prinzipiell auf Daten über User-Eingaben. Alle anderen Firmen in der Untersuchung schweigen darüber.

Die LLM-Betreiber verletzen mit diesem monströsen Datensee grundlegende Prinzipien des Datenschutzes, beispielsweise, dass persönliche Daten nicht so leicht zusammengeführt werden sollen („Mandantentrennung“), um das Entstehen ebensolcher Datenpools an sensiblen Daten zu verhindern. Genau das geschieht aber derzeit beim LLM-Training.

Theoretisch werden damit leichtgängige Antworten auf Fragen möglich wie „Mit wem war Susi in den vergangenen Jahren im Urlaub?“, falls Susi das gelegentlich irgendwo halböffentlich gepostet hat. Möglicherweise fischen die KI-Interfaces wie ChatGPT solche Fragen heraus, im LLM-Bauch stecken die Antworten dennoch drin. Und mit geschicktem Prompting lässt sich mehr herauskitzeln als das, was der LLM-Betreiber vielleicht möchte – Sicherheitsexperten kennen das.

Die KI liefert hier Zusammenhänge, die mit einer traditionellen Google-Suche weitaus aufwendiger oder sogar unmöglich gewesen wären. Diese Gefahr ist konkreter als der für die meisten Menschen erstmal nur theoretisch drohende Jobverlust. Genau deshalb sollten sich gerade Social-Media-Freunde im KI-Zeitalter stärker bewusst machen, wer oder was sich ihre halböffentlichen Daten einverleibt – es könnte ein Datenhai mit Walfischbauch sein.

(who)

Immer wieder sagen Teams in Unternehmen, dass sie jetzt agil arbeiten. Sie wollen nun mutig sein und in Iterationen arbeiten, eine offene Fehler- und Feedbackkultur leben, die Commitments einhalten und stärker fokussieren und ihre Kunden natürlich besser einbinden. Zu Beginn sind sie hoch motiviert, ihre Arbeitsweise und Projekte nach den agilen Werten und Prinzipien umzustellen. Allerdings stoßen die Teammitglieder schnell an die Grenzen des Agil-Seins.

Aber warum bleibt das Being Agile oft eine schöne Idee, während das Doing Agile im Alltag untergeht? Warum redet man so oft über Werte und Prinzipien, aber vergisst, wie man sie konkret umsetzt? Und warum läuft trotz agiler Transformation immer noch alles wie vorher? Ina Einemann hat Agile Coach Daniel Otten zu Gast. Zusammen gehen sie unter anderem auf diese Fragen ein.

Weitere Hinweise

(mdo)

Kaum ein Softwareprojekt kommt heute noch ohne Open-Source-Teile aus. Wie kann man solche Komponenten im Projekt rechtlich und technisch richtig einsetzen? Welche Auswirkungen haben Lizenzen mit einem Copyleft? Was gilt es in Bezug auf Compliance zu beachten? Gerade der EU Cyber Resilience Act bringt das Thema wieder auf die Agenda.

Prof. Dirk Riehle ist Professor für Open-Source-Software und diskutiert diese und andere Fragen in Eberhard Wolffs Videocast. Weitere Informationen über den heutigen Gast finden sich auf dessen Website.

Lisa Marie Schäfer malt dieses Mal keine Sketchnotes.

Livestream am 4. Juli

Die Ausstrahlung findet live am Freitag, 4. Juli 2025, von 13 bis 14 Uhr statt. Die Folge steht im Anschluss als Aufzeichnung bereit. Während des Livestreams können Interessierte Fragen via Twitch-Chat, YouTube-Chat, Bluesky, Mastodon, Slack-Workspace oder anonym über das Formular auf der Videocast-Seite einbringen.

software-architektur.tv ist ein Videocast von Eberhard Wolff, Blogger sowie Podcaster auf iX und bekannter Softwarearchitekt, der als Head of Architecture bei SWAGLab arbeitet. Seit Juni 2020 sind über 250 Folgen entstanden, die unterschiedliche Bereiche der Softwarearchitektur beleuchten – mal mit Gästen, mal Wolff solo. Seit mittlerweile mehr als zwei Jahren bindet iX (heise Developer) die über YouTube gestreamten Episoden im Online-Channel ein, sodass Zuschauer dem Videocast aus den Heise Medien heraus folgen können.

Weitere Informationen zur Folge finden sich auf der Videocast-Seite.

(mai)