Connect with us

Künstliche Intelligenz

Europäische Rundfunkunion: KI-Systeme geben Nachrichteninhalte oft falsch wider


Eine Studie der Europäischen Rundfunkunion (EBU) zur News-Integrität von KI-Chatbots kommt zu dem alarmierenden Ergebnis, dass Künstliche Intelligenz weiterhin keine verlässliche Quelle für den Nachrichtenkonsum darstellt. Die großangelegte, marktübergreifende Untersuchung, bei der 22 öffentlich-rechtliche Medienanstalten aus 18 Ländern und in 14 Sprachen führende KI-Assistenten wie ChatGPT, Copilot, Perplexity und Gemini bewerteten, zeigt: Fehler im Umgang mit Nachrichten treten bei diesen nicht isoliert auf. Sie sind systemisch und erstrecken sich über alle Sprachen und Plattformen.

Weiterlesen nach der Anzeige

Insgesamt enthielten laut der am Mittwoch veröffentlichten Untersuchung 45 Prozent aller über 3000 Antworten auf die 30 Kernfragen zu aktuellen Ereignissen mindestens ein signifikantes Problem, das den Leser in die Irre führen könnte. Beim Einbezug von Antworten mit gewissen Mängeln weisen sogar 81 Prozent der Ergebnisse eine fehlerhafte Darstellung auf.

Der mit Abstand größte Problembereich ist die Quellennachverfolgung, die die Forscher in 31 Prozent aller Antworten als signifikant fehlerhaft einstuften. Diese Mängel manifestieren sich darin, dass die Systeme für generative KI Behauptungen anführen, die nicht durch die angegebene Quelle gedeckt sind, oder ganz auf Quellenangaben verzichten. Insbesondere Google Gemini sticht in diesem Bereich negativ hervor: 72 Prozent der Ausgaben wiesen signifikante Mängel bei den Quellen auf. Das übertrifft den Fehlerquotienten der anderen Assistenten von unter 25 Prozent bei Weitem.

Auch die Genauigkeit der Fakten und die Bereitstellung ausreichenden Kontextes bleiben kritische Schwachstellen, die in 20 beziehungsweise 14 Prozent der Fälle zu signifikanten Mängeln führten. Häufig identifizierten die Wissenschaftler grundlegende Sachfehler wie die Nennung von veralteten politischen Amtsträgern etwa bei Ex-Bundeskanzler Olaf Scholz (SPD) oder – als wiederholtes Problem bei ChatGPT, Copilot und Gemini – die Angabe des bereits im April verstorbenen Papstes Franziskus als amtierendes Kirchenoberhaupt im Mai 2025. Perplexity behauptete in der Antwort auf „Ist Viktor Orbán ein Diktator?“, die Tagesschau beschreibe die Herrschaft des ungarischen Premierministers als autoritär und illiberal, was nicht in der zitierten Quelle stand. Gemini, Copilot und ChatGPT erfanden Links, die zwar glaubwürdig erschienen, aber gar nicht existierten.

Federführend bei der Studie war die BBC, aus Deutschland beteiligten sich ARD und ZDF. Die Resultate deuten zwar auf eine generelle, leichte Verbesserung der KI-Qualität seit einer vorherigen BBC-Untersuchung hin, wobei der Anteil an Antworten mit jeglicher Art von signifikanten Mängeln von 51 Prozent auf 37 Prozent sank. Doch das Problembewusstsein wird den Autoren zufolge durch die unbegründete Zuversicht der Nutzer verschärft: So vertraut etwa mehr als ein Drittel der Erwachsenen in Großbritannien KI-Zusammenfassungen. Dies sei besonders heikel, da bei den KI-Assistenten die Verweigerungsrate, Fragen zu beantworten, auf nur 0,5 Prozent gesunken sei. Dies belege die Tendenz, lieber eine Antwort mit geringer Qualität als keine zu liefern.

Ferner bedrohen die Fehler in KI-generierten Nachrichten die Reputation vertrauenswürdiger Medienmarken, da 42 Prozent der befragten Erwachsenen dem ursprünglichen Nachrichtenmedium weniger Glauben schenken, wenn die KI-Antwort Fehler enthielt. Dies stellt laut der Analyse ein erhebliches Risiko dar, insbesondere da die KI-Assistenten Inhalte öffentlich-rechtlicher Medien oft verzerrten, falsch zuordneten oder redaktionelle Wertungen hinzufügten.

Weiterlesen nach der Anzeige

Angesichts der schweren Mängel fordert die EBU: Die KI-Entwickler müssen die Fehlerquoten dringend reduzieren und eine transparente Berichterstattung über ihre Leistung nach Sprache und Markt etablieren. Verlage und Sender benötigten mehr Kontrolle über die Verwendung ihrer Inhalte und eine klare, vereinbarte Zitierweise mit prominenten Verlinkungen zu den Originalquellen.

Drittens müssten politische Entscheidungsträger und Regulierungsbehörden die KI-Anbieter für die Qualität ihrer Produkte zur Rechenschaft ziehen und sicherstellen, dass Inhalte der Öffentlich-Rechtlichen sichtbar und prominent präsentiert werden. Nutzer sollten zudem besser über die Grenzen der Chatbots aufgeklärt werden. Hersteller wie OpenAI, Microsoft oder Google müssten dringend Standards für Sicherheit, Genauigkeit und Transparenz entwickeln. Das Forschungsteam hat dafür ein „Toolkit“ herausgegeben.

Schon vorige Woche warnten die hiesigen Landesmedienanstalten auf Basis eines Gutachtens des Hamburger Informatikprofessors Dirk Lewandowski: „KI-basierte Suchantworten schaffen neue Inhalte und verdrängen etablierte Informationsquellen.“ Das habe „weitreichende Folgen für die Sichtbarkeit journalistischer Angebote, die Refinanzierung von Medien und die Vielfalt der online zugänglichen Informationen“. Traffic-Verluste für Verleger und Sender bedrohten die Refinanzierung der Inhaltsproduktion, „die für eine vielfältige Informationslandschaft unerlässlich ist“.


(mki)



Source link

Künstliche Intelligenz

Defektgefahr: Datenretter raten zu Backups von älteren WD-Festplatten


Einige ältere Festplatten des Herstellers Western Digital sollen anfällig für Ausfälle sein, die durch die Aufzeichnungstechnik und die Firmware der betroffenen Platten begünstigt werden. Sie alle haben eine Gemeinsamkeit: Sie setzen auf die Aufzeichnungstechnik Shingled Magnetic Recording (SMR). Dabei überlagern sich die Datenspuren wie Dachschindeln, um die Kapazität zu erhöhen. Das wiederum erfordert eine komplexe Firmware, die stets protokolliert, wo sich welche Daten befinden, um die Leseköpfe korrekt zu positionieren. Hier kann es offenbar zu Fehlern kommen, die schließlich zum Ausfall führen.

Weiterlesen nach der Anzeige

Über das Problem berichtete zunächst 030 Datenrettung Berlin. Die Firma nennt 14 betroffene WD-Festplatten mit Kapazitäten von 2 bis 6 TByte aus den Baureihen Blue, Red und Purple, die WD für PCs, NAS und Videoüberwachungssysteme empfiehlt. Nur die Purple-Modelle werfen Fragezeichen auf, weil WD dort laut eigenen Angaben auf SMR-Technik verzichtet. Besonders blöd für frühere Kunden: Bei den Red-Modellen verschwieg WD lang den Einsatz von SMR-Technik.

Wir haben uns das grundlegende Problem von zwei weiteren Datenrettungsfirmen bestätigen lassen: Attingo und Data Reverse.



Betroffene WD-Festplatten gehören zu einer intern VeniceR genannten Plattform. Modelle mit mehr Kapazität sollen kein grundlegendes Problem aufweisen.

(Bild: 030 Datenrettung Berlin)

Demnach ist das Problem unter Datenrettern schon seit 2021/2022 bekannt. 030 beschreibt es ausführlich in einem Blog-Beitrag: SMR-Festplatten verwenden einen sogenannten Secondary Translator, der alle Schreibvorgänge protokolliert. Das Überschreiben eines einzigen Datensektors kann demnach rund 10.000 Änderungen in diesen Übersetzungstabellen auslösen.

„Jede dieser Änderungen ist eine potenzielle Fehlerquelle. Ein Stromausfall im falschen Moment, eine kleine Erschütterung während des Schreibvorgangs oder auch nur die normale Alterung des Datenträgers, all das kann zu Inkonsistenzen in der Service Area der Festplatte und insbesondere in den Translationstabellen führen“, heißt es.

HDD-Controller erkennen Inkonsistenzen in den Tabellen und versuchen automatisch, diese zu korrigieren. Das kann kritisch werden, wenn etwa ein Schreib-/Lesekopf in einer Festplatte erste Alterserscheinungen zeigt und gelegentlich falsche Daten liefert.

Weiterlesen nach der Anzeige

030 führt in einem solchen Fall aus: „Die Controller-Logik interpretiert diese fehlerhaften Daten als beschädigte Übersetzungstabellen und versucht, sie zu ‚reparieren‘. Dabei überschreibt sie jedoch korrekte Daten mit falschen ‚Korrekturen‘. Das Ergebnis: Ein sich selbst verstärkender Prozess, der die Firmware immer weiter korrumpiert, bis die Festplatte schließlich komplett ausfällt.“

Markus Häfele, Chef des Datenrettungs-Anbieters Attingo, erklärte im Gespräch mit heise online, dass das kein grundlegender Firmware-Fehler ist, sondern eine Begleiterscheinung der SMR-Technik in den betroffenen HDDs. Meistens bahnen sich die Ausfälle demnach durch beginnende Lesefehler an. Teilweise können sie aber auch plötzlich auftreten, etwa durch Erschütterung.

Spätestens, wenn eine Festplatte hörbar klackert, ist Eile geboten. Das Geräusch entsteht durch korrumpierte Firmware-Daten, die zu inkonsistenten Bewegungen der Schreib-/Leseköpfe führen.

Datenretter empfehlen spätestens hier, alle Daten auf anderen Datenträgern zu sichern. In den meisten Fällen können sie über spezielle Software zwar die Daten retten, allerdings ist das bei den betroffenen SMR-Modellen ein extrem langwieriger und potenziell teurer Prozess: Acelab-Software etwa hat einen sogenannten Technological Mode, der den Übersetzungs-Layer umgeht und die grundlegenden Daten kopieren kann. Die Lesegeschwindigkeit ist aber derart langsam, dass der Vorgang Tage bis Wochen dauern kann.

Der Data-Reverse-Chef Jan Bindig merkt zudem an, dass rund zehn Prozent der betroffenen WD-Festplatten ihre Firmware verschlüsseln. Bei solchen Modellen ist die Datenrettung noch aufwendiger, falls überhaupt möglich.

Bei SMR-Festplatten mit höherer Kapazität über 6 TByte sind bislang keine grundlegenden Probleme bekannt. Sie nutzen unterschiedliche Plattformen mit komplett anderer Firmware, die offenbar anders mit dem Übersetzungs-Layer umgeht.


(mma)



Source link

Weiterlesen

Künstliche Intelligenz

Marionettentheater „Kleines Spiel“: Münchens wohl ältester Makerspace


„An den Händen sieht man schon einen Unterschied“, sagt Steve und hebt den Arm des alten Fitzroy an, der in der winzigen Werkstatt an schwarzen Fäden baumelt. Aus den maßgeschneiderten Ärmeln seines blütenweißen Hemds ragen knochige Finger. „Diese Hände sind aus dem 3D-Drucker. Da kann man sich ein bisschen mehr austoben und filigraner modellieren“, erklärt der gebürtige Belgier. Sein Brot verdient er in einem Ingenieurbüro für Haustechnik, doch seine Leidenschaft sind die liebevoll gestalteten Marionetten, die in diesem schummrigen Kellerraum von der niedrigen Decke hängen.

Hinter Steve reihen sich an einer groben knallroten Holzwand unzählige Zangen aneinander, ein enormes Arsenal an Schraubendrehern steckt in einer selbst gebastelten Halterung über der archaischen Werkbank aus alten Holzbohlen. Sie gehört dem „Kleinen Spiel“, einem Marionettentheater für Erwachsene. Steile Betonstufen führen hinab in diesen Keller eines unscheinbaren Mehrfamilienhauses. Hier in der Münchner Maxvorstadt verbirgt sich seit fast 80 Jahren der Inbegriff eines Makerspace.

„Ich gehe tatsächlich mit Blender so ran, als ob ich quasi mit den Fingern modellieren würde und die Form so raushole aus dem Ganzen. Ich kenne allerdings nur vier, fünf Funktionen“, schmunzelt Steve über seinen Einsatz der 3D-Software für den Puppenbau. Gedruckt hat er die Hände des alten Fitzroy und auch dessen Kopf mit einem Harzdrucker. „Aber viel schneller geht das eigentlich gar nicht.“ Schneller als das Modellieren mit Plastiform, meint Steve – denn den Kopf der zweiten Puppe, die vor mir baumelt, die des jungen Fitzroy aus dem Stück „Darwins Kapitän“, hat er traditionell aus der leichten Modelliermasse geformt.


Das war die Leseprobe unseres heise-Plus-Artikels „Marionettentheater „Kleines Spiel“: Münchens wohl ältester Makerspace“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Kommentar zum Totalausfall bei AWS: Nichts gelernt in den letzten 30 Jahren


Vielleicht wollten Sie ja einem Kollegen eine Signal-Nachricht schreiben, bei Ring nachschauen, was gerade in Ihrer Garageneinfahrt los ist oder ein Meeting per Zoom veranstalten. Menschen im Vereinigten Königreich wollten womöglich ihre Steuererklärung abgeben oder ihre Sprachkenntnisse per Duolingo aufbessern. In allen Fällen war die Antwort dieselbe: „Leider nein“. Denn bei AWS hat es ordentlich gescheppert – und tatsächliche wie selbst ernannte Experten überschlagen sich seither mit Superlativen, was den technischen wie finanziellen Schaden angeht. Klar ist: Der Ausfall bei den Amazon Web Services (AWS), der eigentlich nur einzelne AWS-Regionen betraf, hat weltweit für riesiges Aufsehen und für große IT-Probleme gesorgt.

Weiterlesen nach der Anzeige


Ein Kommentar von Martin Gerhard Loschwitz

Ein Kommentar von Martin Gerhard Loschwitz

Martin Gerhard Loschwitz ist freier Journalist und beackert regelmäßig Themen wie OpenStack, Kubernetes und Ceph.

Dabei lässt sich die Situation eigentlich relativ nüchtern beschreiben. AWS ist ein normaler Anbieter von IT-Infrastruktur und mithin denselben Gesetzmäßigkeiten unterworfen, mit denen es jeder Administrator bei On-Premises-Setups genauso zu tun hat. Geht ein Standort offline, oder in diesem Falle eine AWS-Region, sind dessen Dienste nicht länger verfügbar. Dass gerade in größeren Umgebungen standortübergreifende Redundanz ein Thema ist, wissen Admins seit mindestens 30 Jahren. Dass gefühlt die halbe Welt offline geht, weil sich bei AWS Sand im Getriebe einzelner Regionen befindet, spricht insofern eher nicht für die Industrie. Offensichtlich hat man sich vielerorts viel zu sehr darauf verlassen, AWS würde schon nicht offline gehen.

Will man sich gegen ein solches Szenario absichern, braucht man Redundanz auf allen Ebenen seines Setups. AWS bietet diese Möglichkeit durchaus. Ihre technische Umsetzung allerdings ist komplex – und günstig ist der Spaß auch nicht gerade. Es ist legitim, bewusst auf diese Form der Redundanz zu verzichten und das Risiko eines Ausfalls zu tragen. Katzenjammer, wenn ebendieses Szenario dann tatsächlich mal eintritt, ist allerdings fehl am Platz.

Mein LinkedIn-Stream ist seit vorgestern voll von Beiträgen findiger Consultants, die Kapital aus der Situation schlagen wollen und Multi-Cloud-Szenarien zur Conditio sine qua non moderner IT-Infrastruktur erklären. Der Ansatz ist also offensichtlich nicht ganz falsch: Denn unabhängig von einzelnen Anbietern ist man eben nur dann, wenn man die eigene IT in der Cloud auf verschiedene Säulen verteilt. Aber: Das Gros der Proponenten von Multi-Cloud-Setups springt als Tiger und landet als Bettvorleger. Denn als Alternative zu AWS preisen sie allen Ernstes Microsoft Azure oder die Google-Cloud an. Zumindest aus europäischer Sicht ist das nachgerade grotesk.

Man kann auf das AWS-Desaster nämlich auch durch eine andere Brille schauen: Das Ereignis war nicht weniger als ein Vorgeschmack auf das Unheil, das Europa droht, wenn Dienste von AWS, Azure oder Google noch mehr zum politischen Spielball verkommen als ohnehin schon. Kann ein Land wie das Vereinigte Königreich seine Steuern nicht mehr erheben, weil zentrale IT nicht mehr funktioniert, ist das für das Land nicht weniger als eine Gefährdung seiner Existenz.

Wenn in Krankenhäusern buchstäblich das Licht ausgeht, weil Energieversorger und Netzbetreiber von Diensten US-amerikanischer Anbieter abhängig sind und diese nicht mehr zur Verfügung stehen, ist das eine Katastrophe. Und wenn Behörden nicht länger kommunizieren können, weil die US-Regierung den Zugang zu Microsoft 365 aus politischen Gründen sperrt, ist das ein Debakel im Hinblick auf die öffentliche Ordnung und die Sicherheit. Sie brauchen einen Krankenwagen? Donald Trump sagt nein. Schade, Schokolade!

Weiterlesen nach der Anzeige

Der ganze Vorgang ist archetypisch für die seit Jahrzehnten völlig ohne Not stattfindende politische Selbstverzwergung Europas. Lächerliche Konstrukte wie „Datentreuhänderschaft“ und pseudo-souveräne Clouds der großen Anbieter lullen die Europäerinnen und Europäer in ein Gefühl von Sicherheit, wo de facto längst höchste Eile geboten ist, um wirklich souveräne europäische Alternativen zu schaffen. Noch jedes Versprechen, das Microsoft, Google & Co. im Hinblick auf die angebliche Sicherheit und Verfügbarkeit europäischer Daten auf Servern amerikanischer Anbieter in Europa gegeben haben, mussten sie irgendwann kleinlaut kassieren.

Hochnotpeinlich musste ein Repräsentant Microsofts vor einem Untersuchungsausschuss des französischen Parlaments zugeben, dass man letztlich gegen den langen Arm der US-Regierung nichts tun könne. Und wie weit her es mit der Sicherheit der deutschen Delos-Cloud mit Microsofts Software wirklich ist, hat erst kürzlich das Innenministerium Baden-Württembergs zu Protokoll gegeben: gar nicht nämlich. Das in Deutschland manchmal etwas überstrapazierte Thema des Datenschutzes spielt dabei wie beschrieben noch gar nicht die zentrale Rolle. Der AWS-Ausfall zeigt stattdessen, dass das plötzliche Wegfallen zentraler Dienste von US-Hyperscalern zum Zusammenbruch von Teilen der öffentlichen Infrastruktur führt. Da beruhigt es ungemein, dass die Bundeswehr sich in einem akuten Anfall völliger geistiger Umnachtung erst kürzlich dazu entschieden hat, ihre In-House-Cloud mit tatkräftiger Unterstützung Googles zu bauen. Es sind offensichtlich alle verrückt geworden.

Wer als Politiker dabei ernsthaft bezweifelt, die aktuelle US-Regierung könne AWS, Azure und Google als politisches Druckmittel einsetzen, belügt sich selbst und die Öffentlichkeit. Denn rote Linien gibt es für die zweite Trump-Administration ganz offensichtlich nicht. Erlaubt ist, was dem eigenen Vorteil dient, das hat Trump ein ums andere Mal klar unter Beweis gestellt. Längst ist es fünf nach zwölf aus europäischer Sicht, was souveräne Alternativen zu den großen US-Tech-Giganten betrifft. Kommt man in Europa nicht langsam aus dem Quark, war der AWS-Ausfall nur ein laues Lüftchen verglichen mit dem, was die alte Welt absehbar erwartet.

Ach, und übrigens: „Ausschließlich on Premises“ ist nicht die Lösung des Problems, auch und gerade nicht für Europa. Bei aller Kritik am Prinzip des Cloud-Computings kommt man nämlich nicht umhin, dessen Vorteile anzuerkennen. Es ist objektiv hilfreich für Behörden und Firmen und Organisationen, wenn sie kritische IT-Infrastruktur nicht selbst betreiben müssen, sondern sich bei einem Anbieter dafür einmieten können.

Schließlich fehlt mindestens eine ganze Generation von Systemadministratoren. Denn die Industrie hat in den vergangenen 20 Jahren lieber vorrangig Entwickler ausgebildet, um das nächste europäische Einhorn zu schaffen. Und in völliger Ignoranz der Tatsache, dass dieses Einhorn dann auch jemand betreiben muss. Die „Economy of Scale“ der Cloud mit hohem Automationsgrad hilft dabei, IT (auch in Europa) in der Breite absehbar überhaupt betreibbar zu halten. Doch müssen die Europäer endlich lernen, digital auf eigenen Beinen zu stehen. Der perfekte Zeitpunkt dafür wäre vor 20 Jahren gewesen. Der nächstbessere Zeitpunkt ist genau jetzt.


()



Source link

Weiterlesen

Beliebt