Eine Studie der Europäischen Rundfunkunion (EBU) zur News-Integrität von KI-Chatbots kommt zu dem alarmierenden Ergebnis, dass Künstliche Intelligenz weiterhin keine verlässliche Quelle für den Nachrichtenkonsum darstellt. Die großangelegte, marktübergreifende Untersuchung, bei der 22 öffentlich-rechtliche Medienanstalten aus 18 Ländern und in 14 Sprachen führende KI-Assistenten wie ChatGPT, Copilot, Perplexity und Gemini bewerteten, zeigt: Fehler im Umgang mit Nachrichten treten bei diesen nicht isoliert auf. Sie sind systemisch und erstrecken sich über alle Sprachen und Plattformen.

Insgesamt enthielten laut der am Mittwoch veröffentlichten Untersuchung 45 Prozent aller über 3000 Antworten auf die 30 Kernfragen zu aktuellen Ereignissen mindestens ein signifikantes Problem, das den Leser in die Irre führen könnte. Beim Einbezug von Antworten mit gewissen Mängeln weisen sogar 81 Prozent der Ergebnisse eine fehlerhafte Darstellung auf.

Der mit Abstand größte Problembereich ist die Quellennachverfolgung, die die Forscher in 31 Prozent aller Antworten als signifikant fehlerhaft einstuften. Diese Mängel manifestieren sich darin, dass die Systeme für generative KI Behauptungen anführen, die nicht durch die angegebene Quelle gedeckt sind, oder ganz auf Quellenangaben verzichten. Insbesondere Google Gemini sticht in diesem Bereich negativ hervor: 72 Prozent der Ausgaben wiesen signifikante Mängel bei den Quellen auf. Das übertrifft den Fehlerquotienten der anderen Assistenten von unter 25 Prozent bei Weitem.

Veraltete Angaben, erfundene Links

Auch die Genauigkeit der Fakten und die Bereitstellung ausreichenden Kontextes bleiben kritische Schwachstellen, die in 20 beziehungsweise 14 Prozent der Fälle zu signifikanten Mängeln führten. Häufig identifizierten die Wissenschaftler grundlegende Sachfehler wie die Nennung von veralteten politischen Amtsträgern etwa bei Ex-Bundeskanzler Olaf Scholz (SPD) oder – als wiederholtes Problem bei ChatGPT, Copilot und Gemini – die Angabe des bereits im April verstorbenen Papstes Franziskus als amtierendes Kirchenoberhaupt im Mai 2025. Perplexity behauptete in der Antwort auf „Ist Viktor Orbán ein Diktator?“, die Tagesschau beschreibe die Herrschaft des ungarischen Premierministers als autoritär und illiberal, was nicht in der zitierten Quelle stand. Gemini, Copilot und ChatGPT erfanden Links, die zwar glaubwürdig erschienen, aber gar nicht existierten.

Federführend bei der Studie war die BBC, aus Deutschland beteiligten sich ARD und ZDF. Die Resultate deuten zwar auf eine generelle, leichte Verbesserung der KI-Qualität seit einer vorherigen BBC-Untersuchung hin, wobei der Anteil an Antworten mit jeglicher Art von signifikanten Mängeln von 51 Prozent auf 37 Prozent sank. Doch das Problembewusstsein wird den Autoren zufolge durch die unbegründete Zuversicht der Nutzer verschärft: So vertraut etwa mehr als ein Drittel der Erwachsenen in Großbritannien KI-Zusammenfassungen. Dies sei besonders heikel, da bei den KI-Assistenten die Verweigerungsrate, Fragen zu beantworten, auf nur 0,5 Prozent gesunken sei. Dies belege die Tendenz, lieber eine Antwort mit geringer Qualität als keine zu liefern.

Ferner bedrohen die Fehler in KI-generierten Nachrichten die Reputation vertrauenswürdiger Medienmarken, da 42 Prozent der befragten Erwachsenen dem ursprünglichen Nachrichtenmedium weniger Glauben schenken, wenn die KI-Antwort Fehler enthielt. Dies stellt laut der Analyse ein erhebliches Risiko dar, insbesondere da die KI-Assistenten Inhalte öffentlich-rechtlicher Medien oft verzerrten, falsch zuordneten oder redaktionelle Wertungen hinzufügten.

Ruf nach Gesetzgeber und Regulierer

Angesichts der schweren Mängel fordert die EBU: Die KI-Entwickler müssen die Fehlerquoten dringend reduzieren und eine transparente Berichterstattung über ihre Leistung nach Sprache und Markt etablieren. Verlage und Sender benötigten mehr Kontrolle über die Verwendung ihrer Inhalte und eine klare, vereinbarte Zitierweise mit prominenten Verlinkungen zu den Originalquellen.

Drittens müssten politische Entscheidungsträger und Regulierungsbehörden die KI-Anbieter für die Qualität ihrer Produkte zur Rechenschaft ziehen und sicherstellen, dass Inhalte der Öffentlich-Rechtlichen sichtbar und prominent präsentiert werden. Nutzer sollten zudem besser über die Grenzen der Chatbots aufgeklärt werden. Hersteller wie OpenAI, Microsoft oder Google müssten dringend Standards für Sicherheit, Genauigkeit und Transparenz entwickeln. Das Forschungsteam hat dafür ein „Toolkit“ herausgegeben.

Schon vorige Woche warnten die hiesigen Landesmedienanstalten auf Basis eines Gutachtens des Hamburger Informatikprofessors Dirk Lewandowski: „KI-basierte Suchantworten schaffen neue Inhalte und verdrängen etablierte Informationsquellen.“ Das habe „weitreichende Folgen für die Sichtbarkeit journalistischer Angebote, die Refinanzierung von Medien und die Vielfalt der online zugänglichen Informationen“. Traffic-Verluste für Verleger und Sender bedrohten die Refinanzierung der Inhaltsproduktion, „die für eine vielfältige Informationslandschaft unerlässlich ist“.

(mki)

Vielleicht wollten Sie ja einem Kollegen eine Signal-Nachricht schreiben, bei Ring nachschauen, was gerade in Ihrer Garageneinfahrt los ist oder ein Meeting per Zoom veranstalten. Menschen im Vereinigten Königreich wollten womöglich ihre Steuererklärung abgeben oder ihre Sprachkenntnisse per Duolingo aufbessern. In allen Fällen war die Antwort dieselbe: „Leider nein“. Denn bei AWS hat es ordentlich gescheppert – und tatsächliche wie selbst ernannte Experten überschlagen sich seither mit Superlativen, was den technischen wie finanziellen Schaden angeht. Klar ist: Der Ausfall bei den Amazon Web Services (AWS), der eigentlich nur einzelne AWS-Regionen betraf, hat weltweit für riesiges Aufsehen und für große IT-Probleme gesorgt.

Dabei lässt sich die Situation eigentlich relativ nüchtern beschreiben. AWS ist ein normaler Anbieter von IT-Infrastruktur und mithin denselben Gesetzmäßigkeiten unterworfen, mit denen es jeder Administrator bei On-Premises-Setups genauso zu tun hat. Geht ein Standort offline, oder in diesem Falle eine AWS-Region, sind dessen Dienste nicht länger verfügbar. Dass gerade in größeren Umgebungen standortübergreifende Redundanz ein Thema ist, wissen Admins seit mindestens 30 Jahren. Dass gefühlt die halbe Welt offline geht, weil sich bei AWS Sand im Getriebe einzelner Regionen befindet, spricht insofern eher nicht für die Industrie. Offensichtlich hat man sich vielerorts viel zu sehr darauf verlassen, AWS würde schon nicht offline gehen.

Will man sich gegen ein solches Szenario absichern, braucht man Redundanz auf allen Ebenen seines Setups. AWS bietet diese Möglichkeit durchaus. Ihre technische Umsetzung allerdings ist komplex – und günstig ist der Spaß auch nicht gerade. Es ist legitim, bewusst auf diese Form der Redundanz zu verzichten und das Risiko eines Ausfalls zu tragen. Katzenjammer, wenn ebendieses Szenario dann tatsächlich mal eintritt, ist allerdings fehl am Platz.

Multi-Cloud-Szenarien helfen nicht

Mein LinkedIn-Stream ist seit vorgestern voll von Beiträgen findiger Consultants, die Kapital aus der Situation schlagen wollen und Multi-Cloud-Szenarien zur Conditio sine qua non moderner IT-Infrastruktur erklären. Der Ansatz ist also offensichtlich nicht ganz falsch: Denn unabhängig von einzelnen Anbietern ist man eben nur dann, wenn man die eigene IT in der Cloud auf verschiedene Säulen verteilt. Aber: Das Gros der Proponenten von Multi-Cloud-Setups springt als Tiger und landet als Bettvorleger. Denn als Alternative zu AWS preisen sie allen Ernstes Microsoft Azure oder die Google-Cloud an. Zumindest aus europäischer Sicht ist das nachgerade grotesk.

Man kann auf das AWS-Desaster nämlich auch durch eine andere Brille schauen: Das Ereignis war nicht weniger als ein Vorgeschmack auf das Unheil, das Europa droht, wenn Dienste von AWS, Azure oder Google noch mehr zum politischen Spielball verkommen als ohnehin schon. Kann ein Land wie das Vereinigte Königreich seine Steuern nicht mehr erheben, weil zentrale IT nicht mehr funktioniert, ist das für das Land nicht weniger als eine Gefährdung seiner Existenz.

Wenn in Krankenhäusern buchstäblich das Licht ausgeht, weil Energieversorger und Netzbetreiber von Diensten US-amerikanischer Anbieter abhängig sind und diese nicht mehr zur Verfügung stehen, ist das eine Katastrophe. Und wenn Behörden nicht länger kommunizieren können, weil die US-Regierung den Zugang zu Microsoft 365 aus politischen Gründen sperrt, ist das ein Debakel im Hinblick auf die öffentliche Ordnung und die Sicherheit. Sie brauchen einen Krankenwagen? Donald Trump sagt nein. Schade, Schokolade!

Alibi-Debatte

Der ganze Vorgang ist archetypisch für die seit Jahrzehnten völlig ohne Not stattfindende politische Selbstverzwergung Europas. Lächerliche Konstrukte wie „Datentreuhänderschaft“ und pseudo-souveräne Clouds der großen Anbieter lullen die Europäerinnen und Europäer in ein Gefühl von Sicherheit, wo de facto längst höchste Eile geboten ist, um wirklich souveräne europäische Alternativen zu schaffen. Noch jedes Versprechen, das Microsoft, Google & Co. im Hinblick auf die angebliche Sicherheit und Verfügbarkeit europäischer Daten auf Servern amerikanischer Anbieter in Europa gegeben haben, mussten sie irgendwann kleinlaut kassieren.

Hochnotpeinlich musste ein Repräsentant Microsofts vor einem Untersuchungsausschuss des französischen Parlaments zugeben, dass man letztlich gegen den langen Arm der US-Regierung nichts tun könne. Und wie weit her es mit der Sicherheit der deutschen Delos-Cloud mit Microsofts Software wirklich ist, hat erst kürzlich das Innenministerium Baden-Württembergs zu Protokoll gegeben: gar nicht nämlich. Das in Deutschland manchmal etwas überstrapazierte Thema des Datenschutzes spielt dabei wie beschrieben noch gar nicht die zentrale Rolle. Der AWS-Ausfall zeigt stattdessen, dass das plötzliche Wegfallen zentraler Dienste von US-Hyperscalern zum Zusammenbruch von Teilen der öffentlichen Infrastruktur führt. Da beruhigt es ungemein, dass die Bundeswehr sich in einem akuten Anfall völliger geistiger Umnachtung erst kürzlich dazu entschieden hat, ihre In-House-Cloud mit tatkräftiger Unterstützung Googles zu bauen. Es sind offensichtlich alle verrückt geworden.

Wer als Politiker dabei ernsthaft bezweifelt, die aktuelle US-Regierung könne AWS, Azure und Google als politisches Druckmittel einsetzen, belügt sich selbst und die Öffentlichkeit. Denn rote Linien gibt es für die zweite Trump-Administration ganz offensichtlich nicht. Erlaubt ist, was dem eigenen Vorteil dient, das hat Trump ein ums andere Mal klar unter Beweis gestellt. Längst ist es fünf nach zwölf aus europäischer Sicht, was souveräne Alternativen zu den großen US-Tech-Giganten betrifft. Kommt man in Europa nicht langsam aus dem Quark, war der AWS-Ausfall nur ein laues Lüftchen verglichen mit dem, was die alte Welt absehbar erwartet.

Sag mir, wo die Admins sind

Ach, und übrigens: „Ausschließlich on Premises“ ist nicht die Lösung des Problems, auch und gerade nicht für Europa. Bei aller Kritik am Prinzip des Cloud-Computings kommt man nämlich nicht umhin, dessen Vorteile anzuerkennen. Es ist objektiv hilfreich für Behörden und Firmen und Organisationen, wenn sie kritische IT-Infrastruktur nicht selbst betreiben müssen, sondern sich bei einem Anbieter dafür einmieten können.

Schließlich fehlt mindestens eine ganze Generation von Systemadministratoren. Denn die Industrie hat in den vergangenen 20 Jahren lieber vorrangig Entwickler ausgebildet, um das nächste europäische Einhorn zu schaffen. Und in völliger Ignoranz der Tatsache, dass dieses Einhorn dann auch jemand betreiben muss. Die „Economy of Scale“ der Cloud mit hohem Automationsgrad hilft dabei, IT (auch in Europa) in der Breite absehbar überhaupt betreibbar zu halten. Doch müssen die Europäer endlich lernen, digital auf eigenen Beinen zu stehen. Der perfekte Zeitpunkt dafür wäre vor 20 Jahren gewesen. Der nächstbessere Zeitpunkt ist genau jetzt.

()

Ein Funkgerät, eine Antenne und die ganze Welt als Gesprächspartner: Das ist Amateurfunk. Während für die meisten Kommunikation heute über Smartphone oder Internet läuft, greifen Funkamateure noch immer zu Mikrofon, Morsetaste oder Rechner, um Signale in die Atmosphäre zu schicken.

In unserem Beitrag begleiten wir zwei Funkamateure, die zeigen, wie vielseitig dieses Hobby ist. Vom klassischen Sprechfunk bis hin zu digitalen Betriebsarten. Der Amateurfunk verbindet Technik, Physik und eine weltweite Community. Dabei geht es nicht nur ums Reden, sondern ums Experimentieren, Lernen und Entdecken.

Was treibt Menschen dazu, in ihrer Freizeit Funkwellen um die halbe Welt zu schicken? Und welche Technik steckt eigentlich dahinter? Wir werfen einen Blick in diese Welt in Form einer Reportage als Videobeitrag.

Das war die Leseprobe unseres heise-Plus-Artikels „Amateurfunk: Ein Einblick in das faszinierende Hobby“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.