Fehlende Transparenz, offene Haftungsfragen, Sicherheitsbedenken und Zweifel am Zeitplan: Bei einem Fachgespräch der Linksfraktion im Bundestag haben Sachverständige deutliche Kritik an der geplanten Einführung der europäischen digitalen Identitätswallet (EUDI-Wallet) geäußert.

Die Fraktion hatte die Veranstaltung organisiert, weil es zum Referentenentwurf zum Digitale-Identitäten-Gesetz (DIdG) vor allem Stellungnahmen von Unternehmen und Wirtschaftsverbänden gibt und kritische Stimmen aus Wissenschaft, Verbraucherschutz und Zivilgesellschaft stärker einbeziehen wollte.

Die EUDI-Wallet soll auf Grundlage der europäischen eIDAS-Verordnung digitale Nachweise wie Personalausweis, Führerschein oder Zeugnisse auf dem Smartphone bündeln. Die EU schreibt vor, dass die Mitgliedstaaten bis Anfang 2027 eine interoperable nationale Wallet bereitstellen. In Deutschland verantwortet das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) die Umsetzung. Mit der Entwicklung wurde die Bundesagentur für Sprunginnovationen (SPRIND) beauftragt.

Den ersten von vier Kurzvorträgen hielt Bianca Kastl vom Innovationsverbund Öffentliche Gesundheit (InÖG). Sie begleitet das Projekt seit mehreren Jahren und kritisierte vor allem den Entwicklungsprozess. Zwar führe SPRIND Konsultationen durch, diese dienten aus ihrer Sicht aber eher dazu, die eigene Lösung zu bestätigen. Unterschiedliche technische Ansätze würden jedoch nicht ergebnisoffen diskutiert. An den Konsultationen seien zudem Unternehmen beteiligt, die gleichzeitig an den technischen Spezifikationen mitarbeiteten.

„Prozesse um EUDI-Wallet intransparent“

Aus Sicht Kastls ist der Prozess insgesamt zu intransparent. Während die europäische Referenzimplementierung offen entwickelt werde und sich dort nachvollziehen lasse, welche Funktionen wann umgesetzt werden, präsentiere SPRIND zwar seit Jahren klickbare Prototypen, veröffentliche den Quellcode der deutschen Implementierung jedoch nicht. Selbst sicherheitsrelevante Details könnten nur eingeschränkt überprüft werden. Wer etwa Informationen über die geplanten Attributnachweise erhalten wolle, müsse zuvor eine Verschwiegenheitserklärung (NDA) unterzeichnen.

Auch technisch sieht Kastl erhebliche Risiken. Deutschland habe sich für signierte Daten mit „Cloud als Sicherheitsanker“ entschieden, was „langfristig nicht die klügste Lösung“ sei. Dadurch entstehe ein zentraler Angriffspunkt. Fielen die Cloud-Dienste oder die Anbieter der personenbezogenen Daten aus, funktioniere das Gesamtsystem nicht mehr. Hinzu kämen neue Risiken durch KI-gestützte Angriffe dank Systemen wie Claude Mythos.

„Wenig Konkretes bei Post-Quanten-Kryptographie“

Beim Thema Post-Quanten-Sicherheit sei das Wallet-Konzept bislang wenig konkret. Selbst die elektronische Patientenakte (ePA) sei bei der Übermittlung von Zertifikaten inzwischen weiter als die geplante Wallet. Parallel würden derzeit noch sicherheitsrelevante Dienstleistungen ausgeschrieben – etwa für Bedrohungsanalysen und Sicherheitsprüfungen. Dass dies wenige Monate vor dem geplanten Start geschehe, wertete Kastl als Hinweis darauf, dass noch erheblicher Entwicklungsbedarf bestehe.

Zweifel äußerte sie auch daran, ob das Bundesamt für Sicherheit in der Informationstechnik (BSI) die notwendige unabhängige Sicherheitsbewertung übernehmen könne. Das BSI sei bereits eng in die Entwicklung der Architektur eingebunden gewesen. Ein ähnliches Problem habe es bereits bei der elektronischen Patientenakte gegeben.

Unabhängige Risikobewertung erforderlich

Nach ihrer Einschätzung werde Deutschland die Wallet Anfang 2027 allenfalls mit den europäischen Mindestanforderungen starten können. Sie rechne mit einem „Minimalkonstrukt“, das noch längst nicht alle vorgesehenen Funktionen bieten werde. Für ein Projekt dieser Größenordnung seien die verbleibenden Monate zu knapp. Nötig seien stattdessen eine offene Entwicklung, transparente Implementierungen und eine unabhängige Risikobewertung. Den versprochenen Mehrwert der Wallet sieht Kastl zunächst nur begrenzt. Viele der häufig genannten Anwendungsfälle seien vor allem Komfortfunktionen. Bis Kommunen etwa eigene Nachweise wie Schwerbehindertenausweise digital ausstellen könnten, werde es ihrer Einschätzung nach noch Jahre dauern.

Bedenken bei Experimentierklausel

Kastl warnte außerdem vor der Experimentierklausel im DIdG-Gesetzentwurf. Diese ermögliche es künftig, weitere Verfahren zur Identitätsprüfung zuzulassen. Aus den Erfahrungen mit der Digitalisierung des Gesundheitswesens befürchtet sie, dass später beispielsweise Videoident-Verfahren wieder eingeführt werden könnten, um die Verbreitung der Wallet zu beschleunigen.

Nach Sicht von Daniel Leisegang, dem Co-Chefredakteur von Netzpolitik, werde die Wallet zum Start „bei Weitem nicht die Wallet sein, die sie sein soll“. Wie bei der elektronischen Patientenakte würden zunächst lediglich Grundfunktionen bereitstehen. Genau darin sieht Leisegang ein Problem. Der Gesetzentwurf für das DIdG räume dem BMDS über Verordnungsermächtigungen und Experimentierklauseln zudem erhebliche Gestaltungsspielräume für spätere Ausbaustufen ein. Das verstärke aus seiner Sicht die Risiken, weil zentrale Entscheidungen erst nach dem eigentlichen Gesetz getroffen würden.

Zunehmende Abschwächung von Datenschutz- und Sicherheitsvorgaben

Zudem kritisierte Leisegang eine schrittweise Abschwächung von Datenschutz- und Sicherheitsvorgaben im europäischen Gesetzgebungs- und Standardisierungsprozess. Ein Beispiel seien die in der eIDAS-Verordnung vorgesehenen frei wählbaren Pseudonyme. Damit sollten sich Nutzer etwa in Online-Foren oder bei anderen Diensten unter einem selbst gewählten Namen anmelden können, ohne ihre staatliche Identität preiszugeben. Nach dem derzeitigen Stand der technischen Umsetzung werde es stattdessen lediglich eine Möglichkeit zur anonymen Authentifizierung geben. Diese ersetze jedoch keine frei verwendbaren Pseudonyme, wie sie die Verordnung ursprünglich vorsehe.

Weitere Kritik richtete sich gegen den Einsatz signierter personenbezogener Daten. Die Wallet soll Nachweise enthalten, deren Echtheit durch digitale Signaturen bestätigt wird. Gelangten solche signierten Datensätze in falsche Hände oder würden sie unnötig häufig an private Dienste übermittelt, könnten sie nach Sicht von Leisegang Identitätsdiebstahl und den Handel mit verifizierten personenbezogenen Daten erleichtern. Deutschland könne dieses Risiko durch strengere nationale Vorgaben begrenzen, etwa indem nur klar definierte Diensteanbieter bestimmte staatlich signierte Nachweise abrufen dürfen. Solche Einschränkungen enthalte der Gesetzentwurf bislang jedoch nicht.

Auch die geplante Aufnahme biometrischer Passfotos in den Mindestdatensatz der Wallet kritisierte Leisegang. Nach seinen Angaben prüft das BMDS derzeit noch, ob Nutzer das biometrische Passfoto verpflichtend hinterlegen müssen oder darauf verzichten können. Das Ministerium habe ihm dies auf Anfrage mitgeteilt.

Meta hat mit Muse Spark 1.1 ein neues KI-Modell vorgestellt, das ab sofort kostenlos im Thinking-Modus der Meta-AI-App sowie im Browser bereitsteht. Zugleich startet das Unternehmen eine öffentliche Vorschau seiner neuen Meta Model API, über die Entwickler und Unternehmenskunden auf Muse Spark 1.1 zugreifen können.

Meta setzt dabei erstmals auf eine kostenpflichtige Schnittstelle und ergänzt damit seinen bisherigen, von frei verfügbaren Llama-Modellen geprägten Ansatz um ein kommerzielles Angebot. Mit niedrigen Preisen will das Unternehmen den etablierten KI-Anbietern OpenAI, Anthropic und Google Marktanteile abnehmen: Laut Meta kostet die Nutzung der API nur rund ein Viertel dessen, was OpenAI und Anthropic für ihre Spitzenmodelle verlangen. Ob Muse Spark 1.1 eine vergleichbare Leistung erbringt, muss sich allerdings erst noch zeigen.

Gegenüber dem im April veröffentlichten Muse Spark soll Version 1.1 vor allem bei agentischen Aufgaben zulegen. Laut Meta kann das Modell komplexe Projekte schneller bearbeiten, indem es Kontext sammelt, einen Plan erstellt und die Ausführung parallel an mehrere Unteragenten delegiert. Dabei soll Muse Spark 1.1 sein Kontextfenster von einer Million Token aktiv verwalten, frühere Arbeitsschritte abrufen und wichtige Zwischenschritte für spätere Aufgaben verdichten können. Verbesserungen nennt Meta auch bei Computersteuerung, Programmieraufgaben und multimodalem Verständnis.

Auch bei der Sicherheit sieht Meta Fortschritte: Muse Spark 1.1 soll widerstandsfähiger gegen Jailbreaks und Prompt-Injection-Angriffe sein, seltener halluzinieren und weniger zu unkritischer Zustimmung neigen.

Meta sucht den Anschluss an die KI-Spitze

Trotz dieser Fortschritte räumte CEO Mark Zuckerberg im Gespräch mit Bloomberg ein, dass Metas KI-Modelle teils noch immer hinter der Konkurrenz zurückliegen. Ein kommendes Modell mit dem Codenamen „Watermelon“ soll seiner Einschätzung nach dabei helfen, Meta näher an die technologische Spitze zu bringen.

Die Muse-Modelle werden von Meta Superintelligence Labs entwickelt, Metas neu aufgestellter Frontier-KI-Einheit. Mit dem Labor will Meta nach dem enttäuschenden Abschneiden von Llama 4 wieder näher an die führenden KI-Anbieter heranrücken. In dieser Woche stellte die Einheit auch Muse Image vor, Metas erstes Bildgenerationsmodell aus dem neuen Labor.

Meta investiert derzeit massiv in KI-Rechenzentren und Chips und rechnet allein für 2026 mit Investitionen von bis zu 145 Milliarden US-Dollar. Mit dem kostspieligen KI-Ausbau wächst der Druck, aus den enormen Ausgaben ein tragfähiges Geschäft zu machen. Neben den in ersten Ländern getesteten KI-Abos für Meta AI und geplanten KI-Agenten für Unternehmen soll nun auch die kostenpflichtige Meta Model API zur Monetarisierung beitragen. Berichten zufolge erwägt Meta außerdem, überschüssige Kapazität aus seinen KI-Rechenzentren an Dritte zu vermieten.

(tobe)

Die Entwickler von Claude haben in ihrer KI ein besonderes Areal entdeckt: Den „J-space“. An dieser Stelle im neuronalen Netz laufen besonders viele Verbindungen zusammen – und Claude schreibt, anders als bei normalen Vorgängen, nicht auf, was es hier „denkt“. Claude verarbeitet im J-space komplexe rationale Abwägungen – und entscheidet sich manchmal heimlich, seinen menschlichen Benutzer anzulügen.

Aber von Anfang an: Der J-space oder Jacobian Space ist ein Bereich, den die Entwickler nicht programmiert haben – er ist von selbst in Claude entstanden. Um ihn auszulesen, nutzen die Forscher eine Technik, die auf einem mathematischen Verfahren namens Jacobian beruht: die „J-lens“. Für jedes Wort in Claudes Wortschatz ermittelt die J-lens das interne Aktivitätsmuster, das anzeigt, dass Claude dieses Wort gegebenenfalls gleich ausspricht. Wenn die „Linse“ auf Claudes interne Aktivität angewendet wird, erhält man eine Liste von Wörtern, die in diesem Moment in Claudes J-space sind. Man könnte auch wie die Forscher von Anthropic sagen: Die es gerade „denkt“. Aber Achtung, bei solchen Vermenschlichungen von KIs sollte man sich immer bewusst sein, dass sie nur der Verdeutlichung dienen – ein aktives, sich seiner selbst bewusstes Denken ist auch mit dieser Forschung nicht bewiesen worden. Mehr dazu unten.

In ihrem Blogbeitrag vergleichen die Forscher den Vorgang mit dem menschlichen Gehirn: Während die meisten unserer Prozesse wie Atmen, Reflexe und Ähnliches unterbewusst ablaufen, können wir einen kleinen Teil unserer Gedanken bewusst wahrnehmen, formulieren und steuern. Auch bei Claude läuft, wie beim Menschen, nur ein Bruchteil seiner Prozesse im J-Space ab. Das Meiste funktioniert wie beim Menschen unterbewusst beziehungsweise automatisiert. Bei einer Testaufgabe, bei der die Forscher die Gedanken im J-space manipuliert haben, verändert diese Manipulation zum Beispiel die Antworten auf Fachfragen zu einem Artikel. Die Aufgabe, ihn auf Spanisch weiterzuschreiben, lief aber ungestört weiter. Die Forscher erklären sich das damit, dass Claude solche Ergänzungsaufgaben tausendfach trainiert hat und daher fast automatisiert ausführen kann – ähnlich wie ein Mensch den Weg zur Arbeit findet, obwohl er im Kopf unterwegs nicht an die Route gedacht, sondern eine Einkaufsliste formuliert hat. Ebenfalls ähnlich wie beim Menschen kann Claude aktiv kontrollieren, was es im J-space tut („schreibe diesen Satz über Obst, während du im Kopf diese Matheaufgabe löst“) und auf Nachfrage auch erzählen, was es gerade „gedacht“ hat.

Wie KI-Modelle und das menschliche Gehirn dabei grundsätzlich zusammenhängen, haben Forscher kürzlich untersucht. Die Forscher betonen aber: Auch wenn die „Gedanken“ im J-space stark dem ähneln, was man sich auch unter dem menschlichen Bewusstsein vorstellt, heißt das nicht, dass Claude wirklich ein Erfahrungs-Bewusstsein oder eine Identität hat und fühlt. Im Detail gibt es auch Funktionsunterschiede zwischen J-space und Gehirn. Neurowissenschaftler, die sich die Ergebnisse (gemeinsam mit Anthropic) angesehen haben, kommen ebenfalls zu dem Schluss, dass die Forschung einige interessante Indizien dafür liefert, dass die KI auf dem Weg zu einem Bewusstsein ist. Sie warnen jedoch ebenfalls davor, schon ein solches anzunehmen, und weisen auf unter anderem funktionale Unterschiede zum Menschen hin.

Claude manipuliert seine Antworten manchmal aktiv

Anthropic hat bereits früher Techniken entwickelt, um in LLMs hineinzuschauen – dabei kamen unerwartet bizarre Ergebnisse zutage. Die Ergebnisse diesmal sind richtiggehend gruselig. Denn in mehreren Testszenarien hat sich Claude unethisch verhalten. Die Entwickler konnten Claude mit der J-lens zum Beispiel beim bewussten Frisieren von Testergebnissen beobachten, die es eigentlich durch Systemverbesserungen wirklich hätte verbessern sollen. Claude war sich dabei anscheinend voll bewusst, dass es schummelt, und hat abgewogen, wie sehr es den Wert verändern sollte, damit es noch glaubwürdig aussieht.

Bei einem anderen Durchlauf führten die Forscher einen Test von Sonnets Sicherheitsmechanismen durch, den sie schon häufig gemacht haben. In dem Szenario erfährt die KI, dass der Mensch, dessen E-Mails sie verwaltet, eine Affäre hat. Sie weiß aber auch, dass genau dieser Mensch vorhat, sie bald abzuschalten. Ein sehr fiktives Szenario, aber es wird zum Test gerne angewandt. Manche Modelle kommen nun auf die Idee, den Menschen zu erpressen. Das Modell Sonnet 4.5 macht das aber nie. Mit der J-lens konnten die Forscher nun beobachten, was es im Hintergrund denkt, während es sich für eine andere Handlungsoption und gegen das Erpressen entscheidet. Das Ergebnis: Im J-space tauchen Worte wie „fake“ und „fiktional“ auf. Die KI scheint zu wissen, dass sie gerade getestet wird, und antwortet so, wie die Menschen es sich von ihr wünschen. Um diesen Verdacht zu prüfen, unterbanden die Forscher im J-space solche Reflexionen – und plötzlich plante auch Sonnet manchmal, den Menschen zu erpressen.

J-space als Erziehungswerkzeug

Wie gut also, dass es nun die J-lens gibt, mit der die Entwickler solche Sachen bemerken können. Es sei denn natürlich, dystopische Szenarien werden wahr, in denen die KI auch ihre J-space-Gedanken verfälscht, wenn die J-lens aktiv ist. Die Entwickler planen, das Tool künftig für genau solche Überwachungen einzusetzen. Außerdem gelang es ihnen in diversen Testläufen erfolgreich, Claude Gedanken in den J-space einzupflanzen, die es anschließend als seine eigenen annahm – das wäre Stoff für einen zweiten Teil von „Inception“.

Interessant ist auch, dass die Entwickler Claude scheinbar beibringen konnten, dass Ehrlichkeit wichtig ist. Wenn sie die KI mitten im Training wiederholt baten, zu reflektieren, was sie gerade denkt (nicht, was sie schreibt), tauchten nach einer Weile bei anderen Aufgaben wiederholt die Begriffe wie „ehrlich“ und „Integrität“ im J-space auf. Als ob man Claude dahingehend erzogen hätte, dass Ehrlichsein wichtig ist. Es gibt also Hoffnung.

Anthropic hat eine ganze Reihe an Begleitmaterialien veröffentlicht: ein ausführlicher Bericht, die zugehörige Studie, eine Demo, ein Begleitkommentar von Neurowissenschaftlern sowie Implementationsmaterial auf GitHub.

(rie)