Für die einen ist es Kultobjekt und smarte Küchenrevolution, für die anderen ein teurer Mixer mit Tablet dran – doch eine bemerkenswerte Erfolgsgeschichte ist der Thermomix von Vorwerk so oder so. In dieser Folge des c’t uplink sprechen wir aber auch über andere Geräte, etwa über das Konkurrenzprodukt Cookit von Bosch und Ähnliches, aber auch über vernetzte Kaffee-Vollautomaten und einen smarten Grill. Und: Was können spezialisierte Rezepte-Apps eigentlich besser als ganz normale Notiz-Apps?

Zu Gast im Studio: Sven Hansen, Stefan Wischner
Host: Jan Schüßler
Produktion: Ralf Taschke

► Unser Titelthema zu vernetzten Küchenhelfern gibts in c’t 14/2025.

In unserem WhatsApp-Kanal sortieren Torsten und Jan aus der Chefredaktion das Geschehen in der IT-Welt, fassen das Wichtigste zusammen und werfen einen Blick auf das, was unsere Kollegen gerade so vorbereiten.

► c’t Magazin
► c’t auf Mastodon
► c’t auf Instagram
► c’t auf Facebook
► c’t auf Bluesky
► c’t auf Threads
► c’t auf Papier: überall, wo es Zeitschriften gibt!

(jss)

AI Act und seine Stufen

Der AI Act oder auch die KI-Verordnung ist nach einem risikobasierten Ansatz aufgebaut. Es gibt inakzeptable Risiken und damit einhergehend auch KI-Systeme, die verboten sind. Dazu gehört etwa das sogenannte Social-Scoring. Diese Systeme sind bereits seit Anfang des Jahres verboten. Nun soll in einem nächsten Schritt GPAI reguliert werden. General Purpose AI sind jene Basismodelle, die für allgemeine Zwecke eingesetzt werden können – darunter fallen also die GPT-Modelle von OpenAI, Metas Llama oder Googles Gemini. Über die geplante Regulierung sprechen wir in diesem Deep-Dive des Podcasts mit Arnika Zinke, digital-politische Beraterin aus dem EU-Parlament. Denn der eigentliche Fahrplan scheint ins Wanken geraten zu sein. Doch Zinke sagt, viele Sorgen und Gerüchte seien unbegründet und zum Teil sogar mit Absichten gestreut.

Die kommende Stufe des AI Acts bringt noch eine weitere Unterteilung der Größe der Modelle mit – Größe meint verschiedene Kennzahlen wie etwa Parameter, aber auch Nutzer. Besonders große Modelle müssen mehr Pflichten einhalten. Ob auch KI-Modelle von dem französischen Anbieter Mistral oder der Bildgenerator Flux von Black Forest Labs dazugehören, ist noch unbekannt.

Für alle Anbieter von GPAI ist ein Code of Practice vorgesehen, eine Hilfe zur Umsetzung der Verordnung. An dem arbeiten, wie Zinke erklärt, Menschen aus der Politik, von Unternehmen, aus der Wissenschaft und aus der Zivilgesellschaft. Dabei sei dem Parlament besonders wichtig gewesen, dass Experten dabei sind, die den Aussagen der Big-Tech-Unternehmen etwas entgegenhalten können, also etwa, wenn die KI-Anbieter behaupten, etwas sei technisch gar nicht möglich, um Regulation abzuwenden.

Code of Practice für KI-Anbieter

„Grundsätzlich ist es so, dass kein Provider dem folgen muss, es ist ein freiwilliger Code, und man kann auch auf andere Weise den AI Act umsetzen“, sagt Zinke. Deswegen sei auch die ganze Debatte, die es aktuell gebe, um diese Unterschrift vor allem von den Big-Tech-Firmen gepusht. Es klinge derzeit manchmal, als könne der ganze AI Act noch scheitern. Dem sei nicht so, versichert Zinke. Es gehe aktuell darum, ob es eine längere Implementierungspflicht geben könne.

Zinke rechnet damit, dass der Code of Practice sehr zeitnah veröffentlicht wird. Eigentlich sollte er bereits im Mai verfügbar sein. Nun bleibt den Anbietern wenig Zeit für die Umsetzung, allerdings seie diese ja bei der Ausarbeitung des Codes dabei gewesen.

KI-Regulierung nur für große Anbieter

Zur Regulierung für GPAI gehören etwa Transparenzpflichten, es soll offengelegt werden, welche Daten für das Training genutzt wurden, es gehe um den Energieverbrauch.

„Und dann gibt es eben noch diesen kleinen Extra-Teil, der nur wirklich für die absoluten Top-Modelle gilt, die entweder sehr viel Energie verbrauchen beziehungsweise sehr viel Computerkapazität verwenden oder die zum Beispiel von sehr, sehr vielen Menschen genutzt werden“, sagt Zinke. Für diese Top-Modelle gelten dann noch zusätzliche Risikoabschätzungen, die sie machen müssen, und die sie der Kommissionvorlegen müssen. „Da reden wir zum Beispiel von Risikoabschätzungen; ob sich die KI sozusagen verselbstständigen kann, ob es zu Nuklearkatastrophen kommen kann oder großen Infrastrukturproblemen.“ HInzukämen Abschätzungen, die Desinformationen und Diskriminierung betreffen, sowie Data-Poisoning, also absichtlich vergiftete Trainingsdaten.

Standards und die Simplifizierung

Neben dem Code of Practice soll es auch bei der Ausarbeitung der Standards zu Verzögerungen kommen. Wo genau es hapert, ist allerdings derzeit unklar. Es steht im Raum, ob es hier einen Stop-the-Clock geben wird, also einen Aufschub. Auch Henna Virkkunen, Vize-Exekutivpräsidentin der Kommission, hat bereits bestätigt, dass darüber gesprochen werde. Damit soll Unternehmen mehr Zeit bei der Umsetzung gelassen werden, bis alle Fragen geklärt sind.

Problematisch erscheinen vielen Anbietern die Überschneidungen mit der DSGVO. Es geht etwa um Auskunftspflichten und das Recht auf Richtigstellung bei Daten zur eigenen Person. Geplant ist eine Überprüfung der Gesetze, doch diese Simplifizierung, die dabei herauskommen soll, wird frühestens gegen Ende des Jahres Ergebnisse bringen. „Dem möchte ich nicht vorhergreifen, denn der Sinn dieses Digital Fitness Checks ist ja genau herauszufinden, wo es Schwierigkeiten gibt.“ Idealerweise hätte man natürlich Überschneidungen und Widersprüche bereits bei der Erarbeitung der Gesetze ausgebügelt. Laut Zinke nutzen aber aktuell gerade solche Akteure, denen die DSGVO schon immer ein Dorn im Auge war, dieses Narrativ der Simplifizierung und unnötigen Überschneidungen sowie der Überregulation.

Dabei findet Zinke, sei es enorm wichtig, dass Unternehmen Rechtssicherheit haben und es ein einheitliches Regelwerk gebe. Oft werde vergessen, dass gerade diese Rechtssicherheit einen Rahmen bilde, in dem Startups gedeihen können. „Auch in den USA ist fehlende Regulierung ein Problem, jeder Bundesstaat hat andere KI-Gesetze, und schlussendlich übernehmen die großen Unternehmen einfach jedes Startup.“

(emw)

Die hessische Landesregierung will dafür sorgen, dass Polizei und Ordnungsämter informiert werden, wenn nach Einschätzung der Ärzte eine Gefahr für andere besteht. Das sieht ein Gesetzentwurf der Landtagsfraktionen von CDU und SPD zur Änderung des Psychisch-Kranken-Hilfe-Gesetzes (PsychKHG) vor. Auch andere Bundesländer planen entsprechende Gesetzesänderungen.

Künftig soll auch eine Abhängigkeit von Suchtstoffen als psychische Störung im Sinne des Gesetzes gelten. Zudem müssen bei Entlassungen aus psychiatrischen Einrichtungen die zuständigen Behörden „unverzüglich“ benachrichtigt und mit den notwendigen Informationen zur Gefährdungseinschätzung versorgt werden, wenn weiterhin eine Gefahr für Dritte bestehe.

Die Neuregelungen im Gesetzentwurf „Zweites Gesetz zur Änderung des Psychisch-Kranken-Hilfe-Gesetzes“ werden mit einem besseren Informationsaustausch zur Gefahrenabwehr begründet, wie aus einer Eilanfertigung hervorgeht (PDF). Datenschützer und Sozialverbände äußerten bereits Kritik und warnen vor einer Stigmatisierung und dem möglichen Missbrauch sensibler Gesundheitsdaten. Ob die Pläne mit der Datenschutzgrundverordnung (DSGVO) vereinbar sind, ist bislang unklar.

„Mit der Gesetzesänderung bekennt sich Hessen klar zur Stärkung der psychiatrischen Versorgung und setzt auf einen wirksamen Schutzmechanismus im Spannungsfeld zwischen individueller Hilfe und öffentlicher Sicherheit“, sagte der innenpolitische Sprecher der CDU-Fraktion, Alexander Bauer. Ein Beitrag auf Instagram, in dem der gesundheitspolitische Sprecher der CDU-Landtagsfraktion, Ralf-Nobert Bartelt, den Gesetzentwurf ankündigte, wird derzeit kontrovers diskutiert. Er erklärte, dass alle Personen, die eine Gefahr für sich selbst oder andere darstellen, „Ordnungsbehörden gemeldet werden müssen“.

Hessische Datenschutzbehörde nicht eingebunden

Der Hessische Beauftragte für Datenschutz und Informationsfreiheit (HBDI), Prof. Alexander Roßnagel, war in die Vorbereitung des Gesetzentwurfs nicht eingebunden. Er kennt den Entwurf nicht und musste diesen erst beim Hessischen Ministerium für Familie, Senioren, Sport, Gesundheit und Pflege anfordern.

„Die geplanten Meldungen der Entlassung von Patientinnen oder Patienten, von denen ‚ohne ärztliche Behandlung eine Fremdgefährdung ausgehen könnte‘, ist ein tiefer Eingriff in die Grundrechte der betroffenen Personen, weil besonders schützenswerte Daten betroffen sind und die Meldungen zu Beeinträchtigungen dieser Personen führen können. Eine solche Meldung verfolgt einen Schutzzweck im öffentlichen Interesse, ist aber nur unter engen Voraussetzungen zulässig“, so Roßnagel. Detaillierter könne er sich erst äußern, sobald er den Gesetzentwurf kennt.

Änderungen an Psychisch-Kranken-Gesetzen

Nicht nur in Hessen, sondern auch in anderen Bundesländern wie Schleswig-Holstein setzt man auf Symptom- und nicht auf Ursachenbekämpfung. Die dortige Innenministerin Sabine Sütterlin-Waack (CDU) hofft auf eine bessere Vernetzung der Behörden, wie aus einem Beitrag vom Deutschlandfunk hervorgeht. Demnach zählt sie den Datenschutz und die ärztliche Schweigepflicht zu den größten Hürden. Wichtig sei jedoch, dass „sensible Daten über Menschen mit psychischen Krankheiten weitergeleitet werden dürfen“.

Auch Niedersachsen hatte vor Kurzem dafür notwendige Änderungen am Psychisch-Kranken-Gesetz (NPsychKG) angekündigt, wie aus einem Bericht des NDR hervorgeht. In Bayern und Thüringen sieht es ähnlich aus. Die bessere Vernetzung wurde bereits im Koalitionsvertrag versprochen: Darin ist unter anderem von „rechtlichen Rahmenbedingungen für einen effektiven und effizienten Datenaustausch zwischen den Diensten und anderen Behörden (Ausweitung von Übermittlungsbefugnissen und Prüfung von Löschfristen)“, die Rede.

Kürzlich wurden die Forderungen und Anpassungen an die rechtlichen Rahmenbedingungen auch in einem Beschluss der Innenministerkonferenz (IMK) „Integriertes Risikomanagement bei Menschen mit psychischen Erkrankungen“ bekräftigt. Gefordert ist unter anderem, dass relevante Informationen zu psychischen Erkrankungen zuständigen Behörden und gegebenenfalls auch der Polizei zugänglich gemacht werden. Demnach sei ein integriertes Risikomanagement zwischen Gesundheits-, Sicherheits-, Ausländer- und Justizbehörden notwendig.

Starke Kritik an Vorhaben

Nach dem Anschlag in Magdeburg sprach sich Carsten Linnemann (CDU) gegenüber dem Deutschlandfunk Ende 2024 dafür aus, dass es neben Registern für Rechtsextreme und Islamisten ein Register für psychisch kranke Gewalttäter brauche. Datenschützer und Patientenvertretungen lehnen das entschieden ab. Regelmäßig werden derartige Taten für die Ausweitung von Überwachungsbefugnissen oder deren Begründung genutzt.

Die Landesärztekammer Hessen hatte sich im Frühjahr gegen Pläne für ein zentrales Register ausgesprochen: „Viele Betroffene könnten aus Angst vor Registrierung und Stigmatisierung davon abgehalten werden, ärztliche Hilfe und Therapie in Anspruch zu nehmen. Menschen mit bestimmten psychischen Erkrankungen, die unter bestimmten Umständen ein erhöhtes Risiko für Gewalttaten aufweisen können, benötigen frühzeitige und intensive Therapie“. Stattdessen müssten die notwendigen Ressourcen bereitgestellt werden, um die Behandlung zu verbessern.

„Gravierende Einzelfälle von Gewalttaten, begangen von psychisch Kranken, werden hier zum Anlass genommen, pauschal Daten zur Behandlung psychisch Kranker generell für die Sicherheitsbehörden zu verwenden. Das zerstört Vertrauen und die Schweigepflicht und ist abzulehnen. Gerade bei der Entlassung aus stationärer Behandlung, die jetzt den Behörden jeweils gemeldet werden soll, ist der Zustand kranker Menschen meist gebessert. Sie in der Folge zu überwachen, um eine Verschlechterung und eine – äußerst selten vorkommende – Fremdaggressivität rechtzeitig mitzubekommen, wäre nicht verhältnismäßig“, sagt dazu der Psychiater und Psychotherapeut Dr. Andreas Meißner, der sich für den Schutz von Patientendaten einsetzt.

Elektronische Patientenakte ebenfalls von Interesse

Immer wieder forderten Vertreter aus Politik und Polizei auch, Daten aus der elektronischen Patientenakte zu nutzen, um Straftaten psychisch kranker Menschen zu verhindern. Die Justiz- und Gesundheitsministerin von Schleswig-Holstein, Kerstin von der Decken (CDU), fordert laut dpa die Nutzung von Daten psychisch kranker Menschen aus der elektronischen Patientenakte. Diese könnte den Informationsaustausch zwischen verschiedenen psychiatrischen Einrichtungen verbessern, sagte sie im Innen- und Rechtsausschuss des Landtags.

(mack)