Im April wurde bekannt, dass das Bundesdigitalministerium (BMDS) die Telekom und SAP beauftragt hat, einen Prototyp einer Bürger-App für ganz Deutschland zu entwickeln. Im Interview mit c’t erläutert der zuständige Staatssekretär Markus Richter nun die Pläne im Detail: Wie die „Deutschland-App“ Bürger durch Anträge leiten soll und welche Rolle generative KI dabei spielt. Außerdem gibt Richter einen Ausblick auf die nächsten Schritte hin zur digitalen Brieftasche EUDI-Wallet und zum Deutschland-Stack, der Zukunfts-IT der öffentlichen Verwaltungen.

c’t: Herr Richter, ab 2027 wollen Sie mit der Deutschland-App den Staat schlanker, bürgernäher und verständlicher machen. Laut Ihrem Chef, Digitalminister Karsten Wildberger, wird die App „krass“. Aber wie soll sie konkret funktionieren?

Markus Richter: Ziel ist, dass die App mithilfe von künstlicher Intelligenz, einer Crawler-Technik und einem Assistenzsystem den Zugang zur Verwaltung erleichtert. Die App greift auf die bestehenden Dienste der Behörden zu. Die Bürger interagieren also nur mit der App und können leichter Verwaltungsleistungen beantragen. Wir sind gerade dabei, einen Prototyp zu erstellen.

Das war die Leseprobe unseres heise-Plus-Artikels „Interview zur Deutschland-App: Wie KI komplizierte Anträge entwirren soll“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Amazon.com bietet nun die vorübergehende Einbettung eigener Mitarbeiter bei großen Kunden der Amazon Web Services (AWS) an. Sie sollen bei den Kunden KI-Agenten zusammenstellen und installieren, die dann AWS-Dienste nutzen. Diese Hausbesucher nennt Amazon Forward Deployed Engineers (FDE), eine von Palantir übernommene Marketingbezeichnung.

Ziel ist natürlich, den Absatz zu beschleunigen, aber auch Kunden an AWS zu binden. Sind die KI-Agenten erst einmal tief in der IT einer großen Organisation integriert, wird der Wechsel zu einem Mitbewerber aufwändig und damit teuer. Speziell in sensiblen Bereichen wie Behörden, Geldinstituten und streng regulierten Branche wie dem Finanzwesen sollen die AWS-FDEs eingebettet werden.

Am Anfang steht regelmäßig der Aufbau sogenannter knowledge graphs; die beim jeweiligen Kunden vorhandenen Informationen werden so zusammengestellt, dass die AWS-Agenten sie leicht verarbeiten können. Nicht zuletzt soll das menschliche Mitarbeiter leichter ersetzbar machen: Die „Expertise lebt im Code des Kunden, nicht in Organisationswissen, das ausscheiden kann“, formuliert AWS-Vizepräsidentin Francessca Vasquez.

Amazon: „Kein traditionelles Consulting”

Amazon richtet bei AWS eine eigene FDE-Abteilung ein und nimmt dafür nach eigenen Angaben eine Milliarde US-Dollar in die Hand. Die FDEs sollen weltweit tätig werden, auch im deutschen Sprachraum, wie das Unternehmen gegenüber heise online bestätigt hat. Konkrete Angaben zur Gebührenstruktur macht Amazon bislang nicht. Sie soll sich jedoch auf „business outcomes and deliverables” konzentrieren, nicht auf verrechnete Mannstunden oder traditionelle Consulting-Vergütungen.

AWS FDE richtet sich an große Kunden, die über KI-Experimente hinaus sind und KI für echte Geschäftsprozesse einsetzen möchten. Der Datenkonzern verspricht, dass das FDE-System nicht auf Abhängigkeit, sondern auf Selbständigkeit der Kunden abstelle. Mit Fortschritt des jeweiligen Projekts würden die IT-Mitarbeiter des Kunden schrittweise von Beobachtern zu Teilnehmern und schließlich zu selbständigen Betreibern der KI-Agenten. Gleichzeitig

Erstkunden des FDE-Angebots sind den Angaben zufolge Ricoh, eine amerikanische Fluggesellschaft, zwei amerikanische Sportligen, Cox Automotive und das Allen Institute. Letzteres ist eine von Microsoft-Mitgründer Paul Allen und seiner Frau Jody gegründete neurowissenschaftliche Forschungseinrichtung.

(ds)

Das Ringen um die EU-Chatkontrolle in Brüssel geht weiter. Nach sechs Monaten intensiver Verhandlungen unter der zyprischen Ratspräsidentschaft melden die Unterhändler des Parlaments zwar substanzielle Kompromisse in fast allen Bereichen der geplanten Verordnung zum Schutz von Kindern vor sexuellem Missbrauch im Netz. Doch hinter den Kulissen tobt weiter ein Machtkampf um das digitale Briefgeheimnis, bei dem die Gesetzgebungsgremien zunehmend zu unkonventionellen Mitteln greifen.

Wie das Verhandlungsteam des Parlaments nach dem sogenannten Trilog am Montag mitteilte, konnten sich die Verhandlungsführer bei Kernfragen der Chatkontrolle 2.0 – der verpflichtenden und verdachtsunabhängigen Durchleuchtung privater Kommunikation auch bei verschlüsselten Messengern – erneut nicht einigen. Die Abgeordneten hielten demnach dem massiven Druck der Mitgliedstaaten stand und verteidigten ihre rote Linie gegen eine flächendeckende Massenüberwachung.

Dem Vernehmen nach erzielten die Beteiligten Fortschritte bei Streitpunkten wie künftigen Alterskontrollen. Optionen zum Scannen verschlüsselter Chats nach Missbrauchsmaterial bleiben dagegen weiter umkämpft. Eine Übereinkunft zu dem Paket ist damit vertagt. Der Verein Digitale Gesellschaft wertet das als wichtigen Etappensieg: Der anhaltende zivilgesellschaftliche Protest zeige Wirkung.

Juristische Brechstange im Ministerrat

Zeitgleich formiert sich im Ministerrat und innerhalb der konservativen Europäischen Volkspartei (EVP) eine Gegenoffensive. Mit einem politisch und juristisch höchst ungewöhnlichen Manöver versuchen die Befürworter der Überwachung, das Parlament auszuhebeln. Im Visier steht dabei die Reaktivierung der bereits abgelaufenen Chatkontrolle 1.0.

Diese E-Privacy-Ausnahmeregelung erlaubte es Tech-Konzernen auf freiwilliger Basis, Chats nach Missbrauchsmaterial zu durchsuchen. Da das Parlament eine formelle Verlängerung dieser Norm bereits abgelehnt hat und die Regelung so offiziell erloschen ist, greifen die EU-Regierungen nun zur juristischen Brechstange.

Weil eine abgelaufene Regelung rein formal nicht mehr verlängert werden kann, plant der Rat, den ursprünglichen Gesetzesvorschlag umzuschreiben. Anstatt einer einfachen Fristverlängerung soll im Eilverfahren ein inhaltlich identisches, aber formal neues Gesetz geschaffen werden. Dieses Vorgehen würde laut Kritikern nicht nur das Initiativrecht der EU-Kommission faktisch aushebeln, sondern auch unbequeme demokratische Kontrollinstanzen umgehen. Durch diesen Trick würde auch die Notwendigkeit für eine neue Stellungnahme des Europäischen Datenschutzbeauftragten sowie für eine Folgenabschätzung der Grundrechtseingriffe entfallen.

Überrumpelungsversuch vor der Sommerpause

Um diesen neuen Entwurf durchzudrücken, schalten die Regierungen im Rat in den Turbomodus. Da das Parlament nächste Woche seine letzte Sitzung vor der Sommerpause hat und dann erst wieder im September zusammentritt, drängt die Zeit. Um den regulären Weg über eine Ministerratstagung abzukürzen, hat der Ausschuss der Ständigen Vertreter der EU-Staaten das Thema im schriftlichen Umlaufverfahren auf die Agenda gesetzt. Der Entwurf soll so im beschleunigten Verfahren auf die parlamentarische Tagesordnung der kommenden Woche gedrückt werden, um die Abgeordneten zu überrumpeln.

Nach Informationen aus Verhandlungskreisen gehört die Bundesregierung zu den treibenden Kräften hinter diesem Versuch. Die Ansage von führenden Politikern von SPD und CDU, eine anlasslose Chatkontrolle sei tabu, droht so endgültig Makulatur zu werden.

(mki)