Künstliche Intelligenz
England: Fehler von Copilot trug zu Stadionverbot für israelische Fans bei
Nach dem umstrittenen Ausschluss der Fans des israelischen Fußballvereins Maccabi Tel Aviv von einem „Europa League“-Spiel gegen Aston Villa in England hat der zuständige Polizeichef jetzt eingeräumt, dass die Entscheidung maßgeblich von einer KI-Halluzination beeinflusst worden war. Demnach hatte eine mithilfe von Microsofts Copilot erstellte Risikoanalyse der Polizei für den Stadtrat von Birmingham auf ein vorheriges Match von Maccabi bei West Ham United Bezug genommen, das es nie gegeben hat.
Weiterlesen nach der Anzeige
Bisher hatte der Polizeichef eine Verwendung von KI bei zwei Auftritten im Parlament abgestritten und erklärt, dass der falsche Verweis Folge einer fehlerhaften Google-Suche beziehungsweise Recherche auf Social Media gewesen sei. Erst jetzt sei er darauf aufmerksam geworden, dass die Microsoft-KI den Fehler produziert habe. Dafür entschuldige er sich aufrichtig. Die Angelegenheit hat sich in Großbritannien längst zu einem handfesten Skandal entwickelt und beschäftigt am Mittwoch erneut das Parlament.
Noch viel mehr Probleme
Die Partie Aston Villa gegen Maccabi Tel Aviv wurde am 6. November ausgetragen. Fans aus Israel waren aus Sicherheitsgründen nicht ins Stadion gelassen worden. Das hatte für erhebliche Kritik gesorgt; Israels Außenminister sprach von einer „beschämenden Entscheidung“. Aston Villa selbst hatte erklärt, dass die zuständige West Midlands Police vorab Sorge um die öffentliche Sicherheit geäußert hatte. Die nötigen Sicherheitszertifikate seien nicht ausgestellt worden. Die fehlerhafte Risikoanalyse war damals nicht öffentlich bekannt, stattdessen wurde auf das Risiko israelkritischer Proteste in der Stadt hingewiesen.
Nachdem bekannt geworden ist, dass in der Analyse auf eine Partie verwiesen wurde, die es nie gegeben hat, wurde der Polizeichef zweimal im britischen Parlament befragt. Beide Male hat er die naheliegende Vermutung, dass eine „KI-Halluzination“ dafür verantwortlich war, zurückgewiesen. Vor seinem dritten Auftritt musste er das nun revidieren, hier hat er erstmals auf Microsofts Copilot verwiesen. Der Verweis auf die nie durchgeführte Partie ist laut dem Guardian nur ein Teil des Problems, an der Polizeibehörde wird in dem Zusammenhang auch andere Kritik geübt. Das Eingeständnis macht aber einmal mehr deutlich, welche Folgen die kritiklose Verwendung von KI-generierten Inhalten haben kann und wie weit die schon verbreitet ist.
Die Risikoanalyse selbst ist derweil noch nicht öffentlich, berichtet die BBC. Der Nachrichtensender selbst zitiert aber einen Abgeordneten, der die fragliche Passage schon Anfang Dezember vorgelesen hat. Dort heißt es, dass das Spiel gegen West Ham am 9. November 2023 das bislang letzte des israelischen Vereins in Großbritannien gewesen sei. Der Abgeordnete habe dann erklärt, dass er erwarten würde, dass nach so einem Bericht intern Erkundigungen eingeholt würden, wie sich die „Hooligans“ denn damals verhalten hätten. Das hätte dann niemand beantworten können, „denn das Spiel hat ja nicht stattgefunden“. Solch eine Recherche ist also offensichtlich unterblieben. Bislang gibt es aber auch keine Hinweise darauf, dass der halluzinierte Verweis ursächlich für die Absage war.
(mho)
Künstliche Intelligenz
Bald 100. Sozialroboter von Navel Robotics im Einsatz
Das Münchner Start-up Navel Robotics liefert Anfang März 2026 seinen 100. sozialen Roboter „Navel“ aus. Empfänger ist die Seniorenhaus GmbH der Cellitinnen zur hl. Maria mit 24 Senioreneinrichtungen zwischen Kleve und Trier. Nach Angaben des Unternehmens sind mittlerweile 100 Navel-Roboter im täglichen Einsatz in stationären Einrichtungen. Pflege- und Betreuungskräfte sowie Bewohnerinnen und Bewohner nutzen die KI-gestützten Systeme regelmäßig. Navel komme laut dem Gründer Claude Toussaint zunehmend auch in anderen Bereichen zum Einsatz, beispielsweise bei Kindern für eine bessere Sprachentwicklung.
Weiterlesen nach der Anzeige
Studien und Praxiserfahrungen aus Pilotprojekten, unter anderem mit der Medizinischen Hochschule Hannover, der TU München und der Evangelischen Heimstiftung, deuten darauf hin, dass soziale Roboter kognitive und emotionale Aktivierung fördern und positive Impulse für die Stimmung in den Einrichtungen setzen können. In Einrichtungen unterhält er mit Gedichten, Witzen und Quizangeboten und agiert dabei empathisch. Perspektivisch soll der Roboter künftig selbstständig durch die Einrichtung fahren und Bewohnerinnen und Bewohner zum Beispiel zum Mittagessen abholen.
Eine direkte personelle Entlastung blieb vergangenen Forschungsprojekten zufolge allerdings noch aus, da der Roboter im aktuellen Entwicklungsstadium meist begleitet werden muss und noch nicht autonom agiert. „Die größten Einschränkungen lagen in der Reaktionszeit, der Sprachverarbeitung und der fehlenden autonomen Mobilität“, heißt es im Abschlussbericht der Evangelischen Heimstiftung von 2024. Inzwischen hat Navel mehrere Updates erhalten – etwa für die Gesichtserkennung – und soll beispielsweise auf Menschen zufahren können, wenn diese ihn darum bitten. Das erklärte Toussaint im Oktober 2025 gegenüber heise online.
Zudem kann der Roboter mittels SLAM-Technologie (Simultaneous Localization and Mapping) eigenständig Karten der Einrichtung erstellen. Damit könnte der Roboter perspektivisch eigenständig zwischen Räumen navigieren, ohne getragen oder manuell positioniert werden zu müssen. Außerdem soll es Toussaint zufolge möglich sein, Navel „weitere Informationen zur Zielgruppe und seiner Aufgabe mitzugeben sowie das Sprachtempo und Antwortverzögerung für die Zielgruppe anzupassen“.
Das Unternehmen gibt an, einen Fokus auf Datenschutz und europäische Datensouveränität zu legen. Daten würden grundsätzlich lokal auf dem Gerät gespeichert, Teile der KI-Verarbeitung erfolgten direkt auf dem Roboter, ergänzend auf europäischen Servern. Die Entwicklung orientiere sich am Prinzip „Privacy by Design“ sowie an der DSGVO und der KI-Verordnung.
Zwar sei das Interesse an sozialen Robotern in der Pflegebranche laut Hersteller groß, „dennoch verhindert das Sozialgesetzbuch XI aktuell eine schnellere Verbreitung der Lösungen, weil heutige Regelungen die Abrechnung solch moderner Unterstützungssysteme nicht vorsehen,“ so Navel.
Weiterlesen nach der Anzeige
(mack)
Künstliche Intelligenz
Erneuter Rückruf: BMW warnt vor Brandgefahr bei Hunderttausenden Autos
BMW ruft erneut weltweit Hunderttausende Fahrzeuge wegen möglicher Brandgefahr zurück. Das geht aus einem in der Datenbank des Kraftfahrt-Bundesamts (KBA) veröffentlichten Rückruf hervor, den der Autobauer aus München bestätigt. Betroffen seien die Modelle i5, 7er, M5, 5er und i7 aus dem Produktionszeitraum vom 9. Juni 2022 bis 5. Dezember 2025.
Weiterlesen nach der Anzeige
Weltweit sind 337.374 Fahrzeuge potenziell betroffen, deutschlandweit sind es 29.441 Fahrzeuge, wie das KBA mitteilte. Demnach könne die mangelhafte Verlegung des Cockpit-Kabelbaumes „beim Ersatz des Mikrofilters zu Beschädigungen an Kabeln und damit zu einem Kurzschluss mit Rauchentwicklung und Brandfolge führen“. Als Maßnahme werde die Verlegung des Cockpit-Kabelbaumes geprüft und gegebenenfalls nachgebessert.
Was Kundinnen und Kunden nun wissen sollten
„Im Zusammenhang mit diesem Fehlerbild ist kein Unfall bekannt“, teilte ein BMW-Sprecher mit. Sollte das Fahrzeug bereits einen Ölservice und somit einen Mikrofilterwechsel erhalten haben, sei eine umgehende Prüfung und eine eventuelle Nacharbeit der Kabel notwendig. Sollte noch kein Ölservice und somit kein Mikrofilterwechsel durchgeführt worden sein, bestehe kein unmittelbarer Handlungsbedarf, eine Nacharbeit beim ersten Ölservice sei ausreichend, sagte der Sprecher.
Dritter Rückruf in fünf Monaten
Schon im vergangenen Herbst hatte BMW Hunderttausende Autos aus den Jahren 2015 bis 2021 zurückgerufen, weil es auch hier durch ein Starterproblem im schlimmsten Fall zu Bränden kommen konnte. Im Februar kamen dann weitere Modellreihen mit gefährdeten Startern dazu.
Der neueste BMW-Rückruf, diesmal wegen eines Kabelbaums, ist durch Eingabe des Modelltyps auch in der öffentlichen Datenbank des KBA sichtbar. Über die Fahrzeug-Identifizierungsnummer (FIN) ist dies auch auf der Rückrufseite von BMW direkt möglich.
Weiterlesen nach der Anzeige
Lesen Sie auch
(nie)
Künstliche Intelligenz
c’t-Story: Goldener Oktober | heise online
Die Frau, die mir an meinem Schreibtisch gegenübersaß, trug ein streng geschnittenes, silbrig glänzendes Seidenkostüm und hatte grünen Lippenstift aufgelegt. „Mein Name ist Ursula Guinle, Beiratsvorsitzende des Goldenen Oktobers.“ Sie reichte mir die Hand und musterte mich. „Der Goldene Oktober ist Ihnen ein Begriff?“
Das klang für mich nach uralter Weinwerbung, aber offensichtlich meinte sie irgendeine Art von Unternehmen. Da Privatermittler immer den Anschein erwecken sollten, alles und jeden zu kennen, entschloss ich mich zu einer meiner Standardrepliken. „Wer kennt ihn nicht!“
Die Antwort schien sie nicht zu befriedigen. „Ich rede von der Seniorenresidenz. Wir haben die innovativste Einrichtung, um ältere Menschen auf ihrem letzten Lebensabschnitt zu begleiten. Unser Motto lautet: Optimierte Lebensqualität durch Einsatz der neuesten Generation von Pflegebots. Menschliches Versagen, sonst eine der traurigsten Gefahrenquellen in der Seniorenpflege, ist bei uns ausgeschlossen. Wir …”, ergänzte sie mit einem stolzen Werbespot-Blick, „erhalten überwältigend positives Feedback.“
Das war die Leseprobe unseres heise-Plus-Artikels „c’t-Story: Goldener Oktober“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
-
Künstliche Intelligenzvor 2 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 2 Wochen
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
Datenschutz & Sicherheitvor 3 MonatenSyncthing‑Fork unter fremder Kontrolle? Community schluckt das nicht
-
Entwicklung & Codevor 3 MonatenKommentar: Anthropic verschenkt MCP – mit fragwürdigen Hintertüren
-
Künstliche Intelligenzvor 3 MonatenGame Over: JetBrains beendet Fleet und startet mit KI‑Plattform neu
-
Social Mediavor 2 MonatenDie meistgehörten Gastfolgen 2025 im Feed & Fudder Podcast – Social Media, Recruiting und Karriere-Insights
-
Künstliche Intelligenzvor 3 MonatenDigital Health: „Den meisten ist nicht klar, wie existenziell IT‑Sicherheit ist“
