Connect with us

Datenschutz & Sicherheit

Die Sehnsucht nach totaler Souveränität



Am 18. Februar 1922 notierte Franz Kafka in sein Tagebuch eine Miniatur, die wie so vieles aus seiner Feder auf den ersten Blick komisch wirkt und auf den zweiten unheimlich. Ein Theaterdirektor, der alles von Grund auf selbst schaffen muss – sogar die Schauspieler muss er erst zeugen. Ein Besucher wird nicht vorgelassen, der Direktor sei mit wichtigen Theaterarbeiten beschäftigt. Und was tut er? Er wechselt die Windeln eines künftigen Schauspielers.

Man lacht kurz. Dann hört man auf.

Die totale Kontrolle über den Produktionsprozess kehrt sich in die Selbstauflösung des Produzenten um. Wer alles selbst erschaffen will – Stück, Bühne, Ensemble -, landet zwangsläufig bei der Windel. Wie man aus der wunderbaren Kafka-Biographie von Reiner Stach lernen kann: Ambition und Absurdität sind bei Kafka keine Gegensätze.

Als Schriftsteller war Kafka jemand, der Nacht für Nacht sein ganzes Ensemble allein erschaffen musste, neben dem Bürojob in der Arbeiter-Unfall-Versicherungsanstalt. Er wusste, dass der kreative Absolutismus seinen Preis hat: Man ist bis zum Umfallen beschäftigt. Mit dem, was gerade nötig ist, damit die Sache irgendwann und irgendwie weitergeht. Und dann fällt einem das nächste Problem auf.

Der Gründer als vollständiges Ensemble

Ich kenne diesen Tagebucheintrag aus Nicolas Mahlers Band „Kafka für Boshaft“. Seit Monaten lese ich ihn immer wieder. Konkret: Seit Sam Altman und andere Vordenker der Branche die Prophezeiung ausgaben, dass Einzelpersonen mit Hilfe von KI-Agenten bald Unternehmen mit Milliardenbewertung aufbauen würden. Das Stichwort lautet Ein-Personen-Unicorns. Übersetzt: Der Gründer als vollständiges Ensemble, als Entwickler, Designer, Vertriebler, Buchhalter und Marketingstratege zugleich, verstärkt durch eine Armee von Sprachmodellen, die gehorsam Code generieren und Kunden kontaktieren.

Diese Prophezeiung ist verführerisch, weil sie einer uralten, prometheischen Sehnsucht nach totaler Souveränität und Kontrolle schmeichelt. Kein Team, das koordiniert werden will. Keine menschlichen Eigenheiten, die berücksichtigt werden müssen. Keine lästigen Kollegen, die anderer Meinung sind. Nur man selbst, die Bühne und die Modelle. Das klingt nach Befreiung. Es riecht nach Windel. Kafka, so ist mir beim Lesen aufgefallen, hat sein Stück hundert Jahre zu früh aufgeschrieben.

Denn Kafkas Direktor ist ja nicht deshalb lächerlich, weil sein Vorhaben scheitert – er scheitert im Tagebucheintrag ja gar nicht. Er ist lächerlich, weil die innere Logik seines Ehrgeizes ihn unausweichlich dorthin geführt hat: zur Windel. Wer lückenlose Kontrolle anstrebt, muss die Schauspieler selbst zeugen; wer sie selbst zeugt, muss auch für sie sorgen. Die Allmacht endet im Pflegeheim der eigenen Schöpfung.

Was der Mensch (ver)lernt

Das weist auf einen blinden Fleck hin, der in der aktuellen Euphorie um Solo-Coder und ihre KI-Agenten in den sozialen Medien oft übersehen wird. Nicht die Frage, ob diese Werkzeuge produktiv sind – das sind sie, oft beeindruckend -, sondern die Frage, was der Mensch dahinter dabei lernt oder verlernt. Sprachmodelle produzieren auf Zuruf: Code, Marktanalyse, Pitch-Deck. Aber sie wissen im strengen Sinne gar nichts. Der Direktor hat ein glänzendes Ensemble gezeugt; ob es spielen kann, erfährt er erst, wenn der Vorhang aufgeht.

Nehmen wir den KI-Bühnenbildner: Er kann Ihnen den Unterschied zwischen Preußischblau und Kobalt in drei Absätzen erklären. Aber er scheitert daran, ein Objekt auf der Bühne zu lokalisieren, das nicht dort ist, wo er es erwartet. Die jüngste Forschung zu multimodalen Sprachmodellen zeigt genau das: Selbst die leistungsfähigsten Systeme erzielen beim visuellen Grounding – dem schlichten Auffinden eines Gegenstandes im Bild – erschreckend niedrige Trefferquoten; bei Aufgaben, die das Erkennen von Abwesenheit erfordern, versagen die meisten vollständig. Was Kognitionswissenschaftler das Binding-Problem nennen, ist in der Praxis vernichtend: Das Modell beschreibt, was es zu sehen erwartet. Es sieht nicht. In anderen Worten: Der KI-Bühnenbildner malt aus dem Gedächtnis, nicht aus der wirklichen Anschauung.

Und der Hauptdarsteller? Er kommt manchmal, wenn man ihm richtig zuflüstert („promptet“), auf die richtige Zeile – aber über Wege, die er sich nicht merken kann, weil er sie nicht gegangen ist. Apples Forschungsteam hat das in einer wichtigen Studie nüchtern „The Illusion of Thinking“ genannt: Sogenannte Reasoning-Modelle, die durch verlängerte Denkprozesse besonders zuverlässig wirken sollen, erleiden ab einem bestimmten Komplexitätsniveau einen Genauigkeitskollaps. Bei einfachen Aufgaben übertreffen sie die älteren Modelle nicht einmal. Was bleibt, ist ein Ensemble, das gelegentlich brillant klingt, aber strukturell unzuverlässig ist. Kein Probengedächtnis, keine Replizierbarkeit. Das Paradox setzt sich beim Publikum fort: Studierende, die regelmäßig KI-Assistenten zum Schreiben und Denken nutzen, zeigen messbar schwächere Gedächtnisleistung, geringere kognitive Eigenständigkeit und – besonders ernüchternd – auch dann noch schlechtere Ergebnisse, wenn sie wieder ohne KI arbeiten. MIT-Forscher sprechen von „kognitiver Verschuldung“.

Die Windeln stapeln sich im Fundus.

Wohin eine solche Aufführung führt? Das sieht man am Bild des Hobby-Coders, der zwar engagiert mit Claude Code spielt, sich aber nie die Prinzipien von sauberem Code angeeignet hat. Zweihundert Zeilen, die funktionieren – bis sie es nicht mehr tun. Dann beginnt das Debugging: ein Durchsuchen von generiertem Code, den der Autor nicht mehr versteht, und zunehmend auch nicht das Modell, das beim nächsten Prompt munter darüber hinweg generiert. Laut einer Analyse von 211 Millionen Codezeilen durch GitClear hat sich der sogenannte Code-Churn im KI-Zeitalter verdoppelt, während 45 Prozent des KI-generierten Codes Sicherheitslücken enthält. Dies wird zunehmend von Hackern ausgenutzt. Der Begriff „Vibe Coding“ ist keine zwei Jahre alt und hat bereits eine eigene technische Schuldenkrise produziert, die erst langsam sichtbar wird. Das Theater steht. Die Windeln stapeln sich im Fundus.

Diese Kritik bedeutet nicht, dass die Werkzeuge wertlos wären. Ich selber nutze lokale KI-Modelle gerne und viel, gerade für mühsame Programmieraufgaben. Für technisch versierte Gründer sind KI-Agenten ein Hebel, den frühere Generationen nicht kannten. Manche Windeln nimmt einem das Modell tatsächlich ab. Doch Unicorns heißen nicht umsonst so: mythische Wesen, selten und wunderlich. Ein-Personen-Unicorns wären mythische Wesen zweiter Ordnung. Was manche Influencer in den sozialen Medien als wundersame Programmierprojekte präsentieren, die angeblich an einem Wochenende entstanden sind, sind Ausnahmen aus einer frühen Phase. Alle anderen debuggen noch.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Der Unterschied zwischen Vision und Theater auf dem höchsten Niveau liegt in der Arbeit dazwischen. Nicht in der glamourösen, nicht in der sichtbaren, sondern in der stillen, zeitaufwändigen, ein wenig demütigenden Arbeit, die das Geschehen auf der Bühne am Laufen hält. Ökonomen, die Transformationstechnologien von der Dampfmaschine bis zur Elektrifizierung analysiert haben, nennen das die Komplementaritätsbedingung. Eine Basistechnologie entfaltet ihren Nutzen nicht durch bloße Verfügbarkeit, sondern durch die jahrelange, unsichtbare Reorganisation von Prozessen, Kompetenzen und Institutionen.

Daron Acemoglu hat das für die generative KI konkret beziffert: Selbst unter optimistischen Annahmen dürfte die Technologie das BIP über zehn Jahre um weniger als ein Prozent heben – weil die komplementäre Arbeit, die sie erst produktiv macht, Zeit braucht und konstante Validierung verlangt.

Man wird nicht vorgelassen. Der Direktor ist beschäftigt.

Was er tut? Er wechselt Windeln.

Die KI nimmt einem ein paar davon ab. Vielleicht sogar viele. Aber das Theater baut sie einem nicht.

Anselm Küsters ist Fachbereichsleiter Digitalisierung und Neue Technologien am Centrum für Europäische Politik (cep) in Berlin. Im Sommersemester 2025 und Wintersemester 2025/26 war er zudem Vertretungsprofessor für Digital Humanities an der Universität Stuttgart. Er ist Autor des Buches „Small is beautiful 2.0: Mit digitaler Dezentralisierung zu einer menschlicheren Wirtschaft“, das jüngst im Herder Verlag erschienen ist.



Source link

Verwandte Themen:
Weiterlesen

Datenschutz & Sicherheit

Europa stärkt KI-Sicherheit nach US-Modell-Blockade


Nach von der US-Regierung zwischenzeitlich verhängten Sperren für KI-Modelle zur Aufdeckung von Software-Schwachstellen soll Europa besser vor wirkmächtiger künstlicher Intelligenz geschützt werden. Bis zum Ende des Jahres will die EU-Kommission einem Aktionsplan zufolge konkrete Notfallmaßnahmen für den Fall entwickeln, dass der Zugang zu KI mit potenziell bedrohlichen Cyberfähigkeiten von einem Drittstaat eingeschränkt wird.

Weiterlesen nach der Anzeige

In der EU obliegt die Regulierung von künstlicher Intelligenz primär der Europäischen Kommission, alle Anbieter müssen sich etwa an das europäische KI-Gesetz halten.

Trump-Regierung hatte zuvor Zugänge blockiert

Nach einer Anordnung der US-Regierung unter Präsident Donald Trump Mitte Juni hatte das Unternehmen Anthropic mit Sitz in Kalifornien den Zugang zu seinen kürzlich veröffentlichten Frontier-Modellen blockiert. Regierungsbehörden hätten Anthropic unter Verweis auf die nationale Sicherheit angewiesen, den Zugang aller Ausländer zu dem KI-Modell Mythos 5 sowie zu dessen beschränkter Fassung Fable 5 zu unterbinden, teilte das Unternehmen mit.

Anthropic bewirbt das KI-Modell Mythos 5 als besonders geeignet, um Schwachstellen und Sicherheitslücken in Software aufzuspüren. Anfang Juli hob die US-Regierung die Exportsperren für beide KI-Modelle dann nach mehr als zwei Wochen wieder auf.

EU-Digitalkommissarin Henna Virkkunen setzt auf den Aufbau eigener KI-Fähigkeiten in Europa. „Wir können uns bei Fähigkeiten, die entscheidend für unsere Sicherheit sind, nicht allein auf außereuropäische Lösungen verlassen“, sagte Virkkunen. Das sei kostspielig, aber die Kosten, führende KI-Modelle nicht aufzubauen, seien noch höher.

EU-Kommission plant Leitfaden und sichere Test-Plattform

Weiterlesen nach der Anzeige

Die Europäische Kommission will dem Plan nach mit der EU-Cybersicherheitsagentur Enisa einen Leitfaden erarbeiten. Der soll große öffentliche und private Institutionen dabei unterstützen, Zugänge zu fortgeschrittenen KI-Modellen zu erhalten, heißt es in dem Papier weiter. Ebenfalls will die Kommission neue EU-Bewertungskapazitäten im Bereich Cybersicherheit schaffen, die voraussichtlich 2027 ihre Arbeit aufnehmen sollen. Die zusätzlichen Kapazitäten sollen dem EU-KI-Amt zugute kommen und KI-Modelle auf Risiken prüfen, bevor sie in den europäischen Markt kommen.

Geplant ist der Mitteilung zufolge auch eine sichere Plattform zum Testen von KI etwa mit simulierten Umgebungen, über die auch Betreiber in der kritischen Infrastruktur wie im Finanz-, Energie-, Gesundheits- oder Transportbereich oder der öffentlichen Verwaltung Erkenntnisse gewinnen können. Bereits jetzt sollten Organisationen beginnen, IT-Schwachstellen mit Hilfe von frei zugänglichen KI-Modellen zu finden und zu beheben, mahnte die EU-Kommission an.

In der zentralen Frage, wie Europa stärker eigene KI-Kapazitäten aufbauen kann, verweist die Kommission auf ihr im Juni vorgestelltes Paket für technologische Souveränität sowie das über 200 Milliarden Euro schwere Programm für KI-Gigafactories.


(axk)



Source link

Weiterlesen

Datenschutz & Sicherheit

Offene Datenbank: Nextcloud GmbH behebt potenzielles Datenleck


Bei der Nextcloud GmbH, dem Unternehmen hinter der gleichnamigen Opensource-Kollaborationslösung, gab es womöglich ein Datenleck. Wie Sicherheitsforscher herausfanden, stand eine ElasticSearch-Datenbank mit über 360.000 Einträgen offen und hätte von jedermann ausgelesen werden können.

Weiterlesen nach der Anzeige

Bereits am 18. Mai stießen die Forscher auf die Datenbank mit etwa 8 GByte Informationen zu Nextcloud-Kunden, -Partnern und Mitarbeitern. Auch Verträge und Scripte für Nextcloud-Firmenkunden sollen sich in dem offenen ElasticSearch-Cluster befunden haben.

Nachdem die Finder das Unternehmen erst eine Woche darauf auf das Problem hingewiesen hatten schloss die Nextcloud GmbH die Lücke zwei Tage später. Sie informierte die zuständigen Aufsichtsbehörden.

Die Forscher von Cybernews schreiben: „Wenn unser Team den exponierten Datensatz finden konnte, dann hätten Angreifer das auch tun können“. Die Nextcloud GmbH stellt gegenüber heise security klar: „Uns ist derzeit kein Fall bekannt, in dem die Daten missbraucht wurden.“

Fatale Fehlkonfiguration

Ursache des potenziellen Lecks ist nach Angaben des Unternehmens eine Fehlkonfiguration der Hostingstruktur der Nextcloud GmbH. Die Open-Source-Kollaborationssoftware sowie ihre Nutzer seien nicht in Mitleidenschaft gezogen worden: „ Andere Nextcloud-Server unserer Kunden, Partner oder anderer Nutzer sind von diesem Problem nicht betroffen.“

Nextcloud positioniert sich als quelloffene Alternative zu proprietären Lösungen wie Microsofts M365. Das Land Mecklenburg-Vorpommern will zugunsten von Nextcloud auf Sharepoint verzichten.

Weiterlesen nach der Anzeige


(cku)



Source link

Weiterlesen

Datenschutz & Sicherheit

Gegenwind wird stärker: SPD-Fraktion gegen De-facto-Abschaffung der Informationsfreiheit


Innen‑, Digital- und Rechtspolitiker:innen der SPD-Fraktion stellen sich deutlich gegen die Pläne des Koalitionsausschusses zur De-Facto-Abschaffung der Informationsfreiheit, die seit einer Woche auf massiven Widerstand aus der Zivilgesellschaft gestoßen ist. Das geht aus einem Positionspapier hervor, das netzpolitik.org im Volltext veröffentlicht.

In diesem Papier aus der SPD-Bundestagsfraktion heißt es deutlich: „Es darf nicht zu einer Reduzierung der bestehenden Auskunftsansprüche für Bürgerinnen und Bürger, für Presse und Zivilgesellschaft kommen.“

Zwar zeigen sich die Abgeordneten offen für eine Überprüfung zu Veröffentlichungspflichten in Spezialgesetzen zu kritischen Infrastrukturen, generell halten sie das Informationsfreiheitsgesetz aber für sicher. Es enthalte heute schon „die notwendigen Vorschriften zum Schutz der berechtigten staatlichen Sicherheitsbelange, die den Schutz seit zwanzig Jahren ausnahmslos gewährleistet“ hätten.

Gegenüber der eigenen Koalition machen die SPD-Abgeordneten eine klare Ansage: „Für eine Abschaffung des bisherigen Transparenzniveaus des Informationsfreiheitsgesetzes wird es keine Zustimmung der SPD-Bundestagsfraktion geben.“

Schwarz-Rot plant Frontalangriff auf Journalismus und Transparenz

Massiver Gegenwind

Der Koalitionsausschuss hatte am 2. Juli Pläne vorgestellt, die einer Abschaffung des Informationsfreiheitsgesetzes nahekommen. Arne Semsrott von FragDenStaat sprach vom „schwersten Angriff auf staatliche Transparenz in der Geschichte der Bundesrepublik“.

Die Pläne beinhalteten unter anderem, dass die Bürger:innen bei Informationsfreiheitsanfragen ein „berechtigtes Interesse“ vortragen müssen und nicht wie heute der Staat begründen muss, wenn er Dokumente nicht freigibt. Gleichzeitig sollten nur noch natürliche Personen und zudem nur noch Deutsche und EU-Bürger:innen Informationen anfragen dürfen.

Außerdem will die Koalition die Gebührenobergrenze von 500 Euro abschaffen, so könnten die Anfragen über Kosten noch mehr als heute abschreckend wirken. Einführen will der Koalitionsausschuss zudem ein generelles Schwärzen von Namen, was die Nachvollziehbarkeit der Informationen erschweren würde.

Gegen diese De-Facto-Abschaffung haben sich mehr als 100 zivilgesellschaftliche Organisationen ausgesprochen, darunter zahlreiche Medien- und Journalismusverbände. Auch die Bundesdatenschutzbeauftragte sowie die Konferenz der Informationsfreiheitsbeauftragten hatten die Pläne mit deutlichen Worten abgelehnt.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Eine Petition gegen das Vorhaben hat in kürzester Zeit mehr als 400.000 Unterzeichner:innen gesammelt. Nun ist der Widerstand gegen die Pläne in der SPD-Fraktion selbst angekommen.

Die Digitalorganisation D64 hat unterdessen eine Aktion „Rettet das Informationsfreiheitsgesetz!“ gestartet. In der Graswurzel-Kampagne stellt D64 Musteranträge für Parteimitglieder von Union und SPD bereit, damit sich dort unterschiedliche Parteigliederungen für das Informationsfreiheitsgesetz und gegen die geplanten Änderungen aussprechen können.

Update 15:25 Uhr:
Die Pläne der Bundesregierung lösen nun auch international Befürchtungen aus. Die Menschenrechtsorganisation Human Rights Watch fordert die Bundesregierung in scharfen Worten auf, die geplante Abschaffung der Informationsfreiheit zu stoppen. Die Pläne würden „grundlegende Menschenrechte gefährden, die für Transparenz und die Beteiligung der Öffentlichkeit in einer rechtsstaatlichen Demokratie unerlässlich sind.“

 

Dokument

 

  • Dokument: Positionspapier der AG Inneres, AG Digitales und AG Recht der SPD-Bundestagsfraktion zur Informationsfreiheit
  • Datum: Juli 2026

„Das Informationsfreiheitsgesetz (IFG) ist in diesem Jahr 20 Jahre alt geworden und die einfachgesetzliche Aktivierung des Grundrechts der Informationsfreiheit hat sich mit dem voraussetzungslosen Informationszugang bewährt. Ein moderner Staat und eine moderne Verwaltung braucht Transparenz.

Die SPD-Bundestagsfraktion unterstützt daher das Vorhaben, das Informationsfreiheitsgesetz (IFG) unter Wahrung des Rechts auf Informationszugang weiterzuentwickeln, zu vereinfachen und verständlicher sowie transparenter zu machen. Maßgabe dazu ist die Vereinbarung des Koalitionsvertrages, nach der wir das Informationsfreiheitsgesetz in der bisherigen Form wir mit einem Mehrwert für Bürgerinnen und Bürger und Verwaltung reformieren wollen. Dazu zählt insbesondere die Digitalisierung des Bearbeitungsprozesses, denn es ist nicht nachvollziehbar, dass die Bundesverwaltung auch nach 20 Jahre nach Inkrafttreten des IFG die Akten noch händisch schwärzt.

Selbstverständlich muss auch angesichts der dramatisch veränderten Sicherheitslage überprüft werden, ob die staatliche Resilienz und der Schutzbedarf etwa der kritischen Infrastrukturen sichergestellt ist. Nach unserer Einschätzung enthält das IFG die notwendigen Vorschriften zum Schutz der berechtigen staatlichen Sicherheitsbelange, die den Schutz seit zwanzig Jahren ausnahmslos gewährleistet haben. Überprüft werden müssen aber Veröffentlichungspflichten in den Spezialgesetzen etwa zu kritischen Infrastrukturen, da sich hier möglicherweise heute andere Einschätzungen ergeben. Es darf nicht zu einer Reduzierung der bestehenden Auskunftsansprüche für Bürgerinnen und Bürger, für Presse und Zivilgesellschaft kommen. Für eine Abschaffung des bisherigen Transparenzniveaus des Informationsfreiheitsgesetzes wird es keine Zustimmung der SPD-Bundestagsfraktion geben.“



Source link

Weiterlesen

Beliebt