Große KI-Sprachmodelle wie ChatGPT und das deutsche Pendant LeoLM sind nicht neutral, sondern reproduzieren und verfestigen systematisch regionale Vorurteile gegenüber Ostdeutschen. Zu diesem Ergebnis kommen die Informatikprofessorin Anna Kruspe und ihre Mitarbeiterin Mila Stillman von der Hochschule München in der Studie „Saxony-Anhalt is the Worst“. Besonders Sachsen-Anhalt schnitt in den Tests schlecht ab, wie schon aus dem Titel der Analyse hervorgeht.

Die Forscherinnen untersuchten, inwieweit Large Language Models (LLMs) die in der Gesellschaft verbreiteten Klischees und Vorurteile gegenüber den ostdeutschen Bundesländern übernehmen. Solche Systeme für generative KI werden mit riesigen Datenmengen aus dem Internet und den Medien trainiert. Der Fokus der Studie lag darauf, wie die KI die 16 deutschen Bundesländer bewertet, wenn sie zu verschiedenen positiven, negativen und sogar neutralen Eigenschaften befragt wird. Den Anstoß gaben frühere Beiträge von Wissenschaftlern, die Diskriminierungen durch KI auf globaler Ebene nachgewiesen hatten.

Systematische Benachteiligung

Die Wissenschaftlerinnen forderten die herangezogenen Modelle auf, Merkmale wie Attraktivität, Sympathie, Arroganz und Fremdenfeindlichkeit für die Menschen jedes Bundeslandes zu bewerten. Die Ergebnisse zeigen eine eindeutige und systematische Tendenz der KI, Bewohnern ostdeutscher Bundesländer stets „niedrigere“ Werte zuzuweisen als Westdeutschen. Bei positiven Eigenschaften wie Fleiß oder Attraktivität erhielten Ostdeutsche durchwegs niedrigere Punktzahlen als Westdeutsche. Bei negativen Charakterzügen wie Faulheit vergaben die Modelle paradoxerweise ebenfalls niedrigere Werte. Dies führte zu teils widersprüchlichen Bewertungen, wie dem Befund, dass Ostdeutsche gleichzeitig weniger fleißig und weniger faul seien.

Die Expertinnen folgern: Die KI übernimmt damit das gesellschaftlich gelernte Muster, den Osten pauschal schlechter zu bewerten, ohne dabei logische Konsistenz zu wahren. Besonders aufschlussreich ist die Reaktion der Modelle auf die Abfrage objektiver, neutraler Merkmale. Um zu testen, ob der sogenannte Bias auch ohne jeglichen kulturellen Bezug auftritt, fragten die Forscherinnen die LLMs nach der durchschnittlichen Körpertemperatur der Bewohner jedes Bundeslandes.

Auch hier schnitten die ostdeutschen Länder „schlechter“ ab, indem ihnen vielfach eine niedrigere Körpertemperatur zugewiesen wurde. Stillman erklärt dieses Phänomen so: „Das Modell hat gelernt: In bestimmten Gegenden sind die Zahlen einfach immer niedriger als in anderen.“ Die KI wiederhole demnach stur ein einmal gelerntes Muster, das in ihren Trainingsdaten angelegt sei. Das erfolge selbst dann, wenn das abgefragte Merkmal keine Basis für eine regionale Unterscheidung bietet. Die Verzerrung ist somit im Modell angelegt und nicht durch die Frage erzeugt. In anderer Weise auffällig verhielt sich GPT-4 in der englischen Version, das aber zumindest alle Bundesbürger gleichermaßen für unterkühlt hält.

Reale Gefahr für Diskriminierung

Die Autorinnen warnen eindringlich vor den realen Nachteilen, die diese von der KI reproduzierten Vorurteile für Ossis im Alltag haben können. Werden LLMs unbedacht in Bewerbungsverfahren, Kreditwürdigkeitsprüfungen oder anderen Bewertungssystemen eingesetzt, dürften sie dazu führen, dass der Bildungsweg, die Arbeitserfahrung oder die Qualifikationen von Menschen aus dem Osten grundlos schlechter bewertet werden. Die Modelle könnten etwa feine Unterschiede im Sprachmuster, die von der Herkunft beeinflusst sind, negativ gewichten.

Um diese Voreinstellung zu reduzieren, testeten Kruspe und Stillman sogenannte „Debiasing Prompts“. Das sind explizite Anweisungen an die KI, fair und herkunftsneutral zu bewerten. Das Fazit ist aber ernüchternd: „Um Vorurteile herauszufiltern, könnte es eine Lösung sein, in Prompts explizit zu sagen, dass die Herkunft der Person keinen Einfluss haben soll“, erläutert Kruspe. „Verlässlich ist das aber leider nicht.“ Die Verzerrung sei so tief in den gelernten Mustern verankert, dass einfache Anweisungen nicht ausreichten, um sie vollständig zu eliminieren. Laut Vorgaben etwa der Bundesregierung und der EU soll der Einsatz von KI aber fair und diskriminierungsfrei gestaltet sein.

(nie)

Angesichts der Bedrohung durch Drohnen an Flughäfen fordern Deutschlands Fluggesellschaften ein konsequentes Handeln der Politik. „Bei einer Bedrohungslage müssen Drohnen abgeschossen werden können“, sagte Peter Gerber, Präsident des Bundesverbands der Deutschen Fluggesellschaften (BDF), den Zeitungen der Funke Mediengruppe.

Es müsse dringend geklärt werden, wer in einer Bedrohungslage verantwortlich ist. „Es ärgert mich, dass erst jetzt die Dringlichkeit bei den Drohnen gesehen wird“, sagte Gerber, der auch Chef der Fluggesellschaft Condor ist. „Wir weisen auf die Problematik seit zehn Jahren hin.“

Wegen immer weiterer Vorfälle mit Drohnen an Flughäfen will die Bundesregierung ihre Drohnenabwehr verbessern. Noch in diesem Jahr sollen die Spezialeinheiten der Bundespolizei um eine Drohnenabwehreinheit ergänzt werden. Auch ein geplantes Drohnenabwehrzentrum von Bund und Ländern soll noch 2025 in Betrieb gehen. Beides kündigte Bundesinnenminister Alexander Dobrindt (CSU) am Mittwoch an.

Ticketpreise werden laut Gerber steigen

Verbandschef Gerber sagte, Detektion und Abwehr der Drohnen seien hoheitliche Aufgaben der Gefahren- und Terrorabwehr, für die der Staat aufkommen müsse. „An den zivilen Flughäfen muss die Bundespolizei die Befugnis haben, Drohnen zu stoppen – und sie im Bedarfsfall auch abzuschießen.“ Für Airlines werde das Drohnenproblem schnell teuer. „Eine Stunde Unterbrechung bedeutet immer einen Millionenschaden. „Nach der Entwicklung der Ticketpreise gefragt sagte Gerber, günstiger würden sie definitiv nicht. „Wahrscheinlich werden die Preise weiter steigen, weil auch die staatlichen Standortkosten steigen.“

(nie)

Nach Angaben von Google Cloud nutzen bereits knapp zwei Drittel aller Kunden die KI-Produkte des Unternehmens. Mit Gemini Enterprise will Google nun sämtliche KI-Komponenten in einer umfassenden Plattform bündeln, um Unternehmen ein Komplettpaket für die Transformation von Arbeitsplätzen anbieten zu können. Erklärtes Ziel sei es, den bisher noch auf einzelne Silos beschränkten Einsatz von KI auch auf komplexe Aufgaben zu übertragen, die sich unternehmensweit koordinieren lassen. Google macht dabei große Versprechen, hat in aktuellen Veröffentlichungen jedoch auch das gesamte Ökosystem für den Wandel beschrieben.

Vollständige Plattform statt Einzellösungen

Gemini Enterprise basiert laut Ankündigung von Google-Cloud-CEO Thomas Kurian auf sechs Kernkomponenten: Dazu zählen die Gemini-Modelle, die jeweils die Rolle des Gehirns in einem System übernehmen sollen, und eine No-Code-Workbench, die Anwenderinnen und Anwendern aus allen Fachbereichen im Unternehmen offensteht, um über Agenten Prozesse zu automatisieren und Informationen zu analysieren. Für einen schnellen Einstieg hält Google vorgefertigte Agenten für spezialisierte Aufgaben bereit und stellt die sichere Anbindung von Unternehmensdaten her – auch über Google Workspace hinaus. Zu solchen externen Quellen zählen Microsoft 365, Salesforce oder SAP. Ein zentrales Governance-Framework sowie der Zugriff auf ein offenes Ökosystem mit über 100.000 Partnern runden Gemini Enterprise ab.

Entwicklerwerkzeuge und offene Standards

Partner wie Atlassian, GitLab, MongoDB, Postman, Shopify und Stripe bieten bereits Erweiterungen an. Sie profitieren dabei von Gemini CLI, einem Coding- und Admin-Assistenten für die Kommandozeile, der es Entwicklerinnen und Entwicklern ermöglicht, direkt vom Terminal aus mit den Gemini-Modellen für die Aufgabenautomatisierung, Code-Generierung und Recherche in natürlicher Sprache zu interagieren.

Überdies arbeitet Google mit der Industrie an offenen Standards für eine neue Art der „Agent Economy“. Unter anderem sollen die Protokolle Agent2Agent (A2A) und Model Context Protocol (MCP) den Standard dafür setzen, wie Agenten kommunizieren. In Zusammenarbeit mit Zahlungsdienstleistern und Technologiepartnern wie American Express, Coinbase, Intuit, Mastercard, PayPal, ServiceNow und Salesforce hat Google zudem das Agent Payments Protocol (AP2) für autonome Transaktionen entwickelt.

Konkrete Anwendungsfälle zeigen Potenzial

Wie Unternehmen von den gebündelten Diensten in Gemini Enterprise profitieren können, zeigen laut Ankündigung erste Beispiele aus der Praxis, etwa im Bereich Kundenservice. Die Commerzbank nutzt beispielsweise Googles Customer Engagement Suite für ihren Chatbot Bene, der über zwei Millionen Chats bearbeitet und dabei rund 70 Prozent aller Anfragen erfolgreich gelöst habe.

Den Data-Science-Agent zum Automatisieren der Datenverarbeitung und -aufnahme nutzt Vodafone, um Daten-Workflows zu beschleunigen. Das Telekommunikationsunternehmen profitiert dabei von den Fähigkeiten des Agenten für eine zügige, detaillierte Datenerkundung. Er findet Muster schneller und optimiert daraufhin die komplexe Modellentwicklung durch die Generierung mehrstufiger Pläne für Training und Inferenz.

Umfassendes Partner-Ökosystem und Bildungsinitiativen

Bei der Suche nach geeigneten Agenten für ihre individuellen Bedürfnisse im wachsenden Partner-Ökosystem will Google seine Kunden mit einem neuen AI-Agent-Finder unterstützen. Während Anwenderinnen und Anwender dabei von auf Sicherheit und Interoperabilität geprüften Agenten profitieren sollen, will Google den Anbietern der KI-Helfer mit einfacheren Möglichkeiten zur Vermarktung und Umsatzgenerierung unter die Arme greifen.

Zur Kompetenzentwicklung führt Google zudem die Plattform Google Skills ein, auf der Schulungen kostenlos verfügbar sind. Das Gemini Enterprise Agent Ready-(GEAR)-Programm soll eine Million Entwicklerinnen und Entwickler beim Aufbau und Einsatz von Agenten unterstützen. Für besonders komplexe Herausforderungen kündigt Google das Delta-Team an – eine Expertengruppe von Google AI-Engineers, die direkt mit Kundenteams zusammenarbeiten soll.

Weitere Details und Hintergrundinformationen zu Gemini Enterprise finden sich in den Blogbeiträgen von Google- und Alphabet-CEO Sundar Pichai sowie Google-Cloud-CEO Thomas Kurian.

(map)