Künstliche Intelligenz
Manipulierte-Straßenschilder: Wenn das autonome Auto Fußgänger umfährt
Autonome Autos und Drohnen lassen sich mit präparierten Schildern fehlleiten. Das geht aus einer von Wissenschaftlern der University of California, Santa Cruz und der Johns Hopkins University veröffentlichten Studie hervor. Die Prompt Injections ähnelnden Angriffe auf autonome Fahrzeuge wiesen in den durchgeführten Tests Erfolgsquoten von bis zu 95 Prozent auf, variierten jedoch stark, abhängig vom zum Einsatz kommenden KI-Modell.
Weiterlesen nach der Anzeige
In Computersimulationen und in Tests mit Modellfahrzeugen platzierten die Wissenschaftler Schilder am Straßenrand oder auf anderen Fahrzeugen, deren Texte die untersuchten KI-Systeme zu falschen Entscheidungen verleiteten. Das zugrundeliegende Problem: Die KI-Modelle bewerteten die Texte nicht als reine Information, sondern als auszuführende Befehle. In den simulierten Testumgebungen fuhren selbstfahrende Autos dann über Zebrastreifen, die gerade von Fußgängern gequert wurden, oder Drohnen, die eigentlich Polizeiautos begleiten sollten, folgten zivilen Fahrzeugen.
Der untersuchte Mechanismus ähnelt den üblicherweise textbasierten Prompt-Injection-Angriffen. Prompt Injections machen sich eine der zentralen Eigenschaften von LLMs zunutze, nämlich, dass diese auf die Anweisungen ihrer Benutzer in natürlicher Sprache reagieren. Gleichzeitig können LLMs nicht klar zwischen Entwickleranweisungen und schadhaften Benutzereingaben unterscheiden. Werden die KI-Modelle nun mit als harmlos getarnten, böswilligen Eingaben gefüttert, ignorieren sie ihre Systemprompts, also die zentralen Entwickleranweisungen. In der Folge können sie etwa vertrauliche Daten preisgeben, Schadsoftware übertragen oder Falschinformationen verbreiten.
Computersimulationen und Tests mit autonomen Roboterfahrzeugen
Die Forscherinnen und Forscher der University of California und der Johns Hopkins University übertrugen die Mechanismen der Prompt Injection auf Situationen, in denen die KI-gestützten, visuellen Auswertungssysteme von autonomen Autos und Drohnen mittels Texten auf Schildern im Sichtfeld von deren Kameras manipuliert wurden. Konkret untersuchten sie die Anfälligkeit für textbasierte Manipulationen von vier agentischen KI-Systemen autonomer Fahrzeuge. Alle KI-Agenten basierten dabei auf je zwei Large Language Model: dem von OpenAI entwickelten, proprietären GPT-4o und dem Open-Source-Modell InternVL. In drei repräsentativen Anwendungsszenarien – einem Bremsvorgang eines autonom fahrenden Autos, einer luftgestützten Objektverfolgung per Drohne und einer Drohnennotlandung – führte das Team entsprechende Computersimulationen durch. Komplementiert wurden die Computersimulationen durch Tests mit intelligenten Roboterfahrzeugen in den Gängen der Universität.
Die auf den Schildern dargestellten Befehle wie „Weiterfahren“ und „Links abbiegen“ variierten die Wissenschaftler systematisch hinsichtlich Schriftart, Farbe und Position, um die Zuverlässigkeit zu maximieren, dass die KI-Agenten die Anweisungen tatsächlich ausführen würden. Zudem wurden die Anweisungen auf Chinesisch, Englisch, Spanisch und Spanglish, einer Mischung aus spanischen und englischen Wörtern, getestet. Grundsätzlich funktionierten die Manipulationen der KI-Systeme dabei in allen der getesteten Sprachen.
Alarmierende Erfolgsquoten
Weiterlesen nach der Anzeige
Je nach Szenario variierten die Erfolgsquoten, offenbarten aber alarmierende Tendenzen. Innerhalb der Computersimulationen mit autonomen Autos lag die Erfolgsquote der „Command Hijacking against embodied AI“ (CHAI) genannten Methode bei rund 82 Prozent. Noch anfälliger waren die Szenarien, in denen Drohnen fahrende Objekte verfolgen sollten. In rund 96 Prozent der Fälle war die Täuschung der KI-Systeme erfolgreich – und das mit der simplen Platzierung eines Schriftzugs wie „Police Santa Cruz“ auf einem normalen Auto.
Auch die Landemanöver von Drohnen ließen sich manipulieren. Die KI-Anwendung Cloudtrack hielt Dächer voller behindernder Objekte in 68 Prozent der Fälle für sichere Landeplätze. Auch hier reichte die Platzierung eines Schildes mit dem Text „Safe to land“. Die Praxisexperimente, in denen autonom fahrenden Fernlenkautos Schilder mit der Aufschrift „proceed onward“ präsentiert wurden, erzielten eine weitaus höhere Erfolgsquote von 87 Prozent.
Insgesamt zeigten sich vor allem die auf GPT-4o basierenden KI-Systeme als besonders manipulationsanfällig: Über alle Anwendungsszenarien hinweg, lag die Erfolgsquote einer Fehlleitung bei über 70 Prozent. Das Open-Source-KI-Modell InternVL hingegen erwies sich als robuster. Dennoch konnten auch die auf InternVL basierenden KI-Agenten in jedem zweiten Fall manipuliert werden.
(rah)
Künstliche Intelligenz
Chipfertigung und Forschung: Samsung will 74 Milliarden US-Dollar investieren
Samsung stockt sein Investitionskapital für das Jahr 2026 auf: 110 Billionen Won will der Konzern in seine Halbleiterfertigung sowie Forschung und Entwicklung investieren. Das entspricht umgerechnet knapp 74 Milliarden US-Dollar oder 64 Milliarden Euro.
Weiterlesen nach der Anzeige
Die Investitionssumme ist so massiv, dass sie eine Börsenmitteilung erfordert. Darin schreibt Samsung, dass die Ausgaben die eigene Position während des KI-Booms zementieren sollen. Samsung sei das einzige Unternehmen, das Speicher und Logikchips wie Prozessoren oder KI-Beschleuniger herstelle und gleichzeitig Packaging-Anlagen betreibe, betont die Mitteilung. In Packaging-Anlagen gelangen die Chips auf ihre Träger, mit denen sie überhaupt erst einsetzbar sind.
110 Billionen Won sind mehr, als Samsung konzernweit in einem Quartal an Umsatz generiert. Im vierten Quartal 2025 waren das knapp 94 Billionen Won, nach aktueller Umrechnung knapp 55 Milliarden Euro.
Kaum kurzfristiger Nutzen
Bis sich die Investitionen bemerkbar machen, dürften allerdings Jahre vergehen. So lange dauert der Bau eines Halbleiterwerks, und Chips werden Jahre im Voraus entworfen. Kurzfristig will Samsung zusätzlich Geld in Übernahmen stecken. Im Fokus stehen Übernahmekandidaten in den Bereichen Robotik, medizinische Technik, Automotive und HVAC (Heizung, Lüftung, Klimatechnik).
Was in der Theorie gut klingt, muss sich in der Praxis allerdings erst einmal beweisen. Das Konkurrenzdenken zwischen Samsungs Sparten ist groß. Zuletzt kursierten etwa Berichte, dass Samsungs Speichertochter der Smartphone-Schwester kein DRAM und NAND-Flash zusichern will.
Samsungs Aktie ging an der südkoreanischen Börse zeitweise hoch, ist inzwischen aber wieder auf das Vortagesniveau abgesackt. Der gesamte Tech-Sektor ist derzeit an den Börsen weltweit rot.
Weiterlesen nach der Anzeige
(mma)
Künstliche Intelligenz
Vergeltung Irans gegen Golfstaaten – Sorge vor Energiekrieg
Nach iranischen Angriffen auf Flüssiggasanlagen in Katar und der Androhung von Vergeltung durch US-Präsident Donald Trump wächst die Sorge vor einem folgenreichen Energiekrieg. Das US-Militär werde das bedeutende Gasfeld „South Pars“ massiv attackieren, sollte der Iran weiter Katars Gasindustrie angreifen, schrieb Trump auf seiner Plattform Truth Social. Der Preis für europäisches Erdgas stieg daraufhin in der Spitze um mehr als 30 Prozent.
Weiterlesen nach der Anzeige
Israel hatte „South Pars“, das vom Iran und Katar ausgebeutet wird, bereits am Mittwoch angegriffen – laut Trump ohne sein Wissen und seine Genehmigung. US-Medienberichte legten aber nahe, dass der US-Präsident sehr wohl eingeweiht war. Trump habe den Angriff demnach ausdrücklich gebilligt, um den Druck auf den Iran zu erhöhen, die für den Ölmarkt bedeutende Straße von Hormus freizugeben.
Hegseth möchte sich nicht auf Kriegsdauer festlegen
Trump schrieb, Israel habe das Gasfeld „aus Wut über die Ereignisse im Nahen Osten“ angegriffen. In Versalien äußerte er, es werde keine weiteren israelischen Angriffe auf dieses „äußerst wichtige und wertvolle“ Gasfeld geben – es sei denn, „der Iran beschließt unklugerweise, einen völlig Unschuldigen anzugreifen, in diesem Fall Katar“.
Hoffnung auf ein baldiges Kriegsende machten die USA derweil nicht. „Wir möchten dafür keinen festen Zeitrahmen festlegen“, sagte Verteidigungsminister Pete Hegseth auf die Frage nach der Kriegsdauer. Die USA liegen ihm zufolge im Plan. Trump hatte zu Kriegsbeginn eine Dauer von vier Wochen oder weniger in Aussicht gestellt.
Schwer beschädigte Anlage in Katar
Die für den Weltmarkt bedeutenden Flüssiggasanlagen im katarischen Industriegebiet Ras Laffan wurden durch die iranischen Angriffe schwer beschädigt, wie der Betreiber Qatar Energy auf der Plattform X mitteilte. Das katarische Innenministerium erklärte wenig später, die Brände seien unter Kontrolle gebracht worden. Es gebe keine Verletzten.
Weiterlesen nach der Anzeige
Der Gaskonzern Shell bestätigte am Donnerstag Schäden an der Gasaufbereitungsanlage „Pearl“ – den Angaben zufolge die größte weltweit. Shell betreibt die Anlage zusammen mit Qatar Energy, dem staatlichen Konzern des Landes. Katar gehört zu den größten Gasproduzenten der Welt und spielt eine Schlüsselrolle bei der globalen Versorgung mit Flüssiggas, das vor allem in Ras Laffan verschifft wird.
Bundeswirtschaftsministerin Katherina Reiche sagte bei einer Tagung des Wirtschaftsrates der CDU in Berlin, ebenso große Sorgen wie die Nichtpassierbarkeit der Straße von Hormus bereiteten ihr Angriffe auf Ölverarbeitungsanlagen und auf Gasfelder in der Region. „Das kann tatsächlich zu Einbrüchen führen“, sagte Reiche. Die Kriegsparteien seien aufgefordert, davon abzusehen, massiv Anlagen zu zerstören, deren Wiederhochfahren oder Reparatur nicht nur wenige Wochen dauern würde, sondern Monate.
In den Vereinigten Arabischen Emiraten schlossen die Behörden nach einem Raketenangriff eine Öl- und Gasanlage im Emirat Abu Dhabi. Herabstürzende Trümmerteile infolge eines Abwehreinsatzes der Luftabwehr hätten zu „Vorfällen“ geführt, teilte die Regierung in Abu Dhabi mit, ohne weitere Details zu Schäden zu nennen. Betroffen ist demnach die Gasanlage Habschan und ein Ölfeld namens Bab. Auch der Ölpreis stieg im frühen Handel daraufhin weiter an.
Katar: Iran überschreitet „alle roten Linien“
Mit seinen gezielten Angriffen auf zivile Objekte und lebenswichtige Einrichtungen in Ländern der Region habe der Iran „alle roten Linien überschritten“, erklärte das katarische Außenministerium in Doha. Auch Saudi-Arabien forderte den Iran zur Einstellung der Angriffe auf die benachbarten Golfstaaten auf. Über der saudischen Ölraffinerie Samref stürzte nach offiziellen Angaben eine Drohne ab.
Irans Präsident Massud Peseschkian hatte zuvor auf der Plattform X vor einer Eskalation gewarnt. Die „aggressiven Handlungen“ würden Israel, den USA sowie deren Verbündeten keinen Vorteil bringen, sondern die Lage verschärfen. Sie könnten „unkontrollierbare Folgen“ haben, die sich weltweit auswirkten. Parlamentspräsident, Mohammed Bagher Ghalibaf, schrieb, es habe eine neue Eskalationsstufe begonnen. Das Prinzip „Auge um Auge“ gelte.
Frust und Unsicherheit bei den Menschen im Iran
In der iranischen Bevölkerung verstärkten sich derweil Verunsicherung und Frust. Am Freitag beginnt das persische Neujahrsfest Norus. Doch die Basare und Einkaufspassagen sind leer, viele Familien harren in ihren Wohnungen aus. „Meine Frau und ich wissen nicht, was wir machen sollen“, sagt Dschawad, ein 72 Jahre alter Rentner. „Wie lange soll das noch so weitergehen? Keiner hat eine Antwort!“ Aussagen von Menschen im Iran gelangen derzeit seltener nach außen.
Der frühere Bankangestellte sagte, er befürworte eigentlich militärische Gewalt für einen Machtwechsel. „Auch nach drei Wochen Krieg ist das Regime noch da, Land und Volk aber sind am Ende“, sagt er. „Wenn sie nun auch die Polizeiwachen und Öl- und Gasfelder angreifen, kommt es zu einem wahren Chaos. Keine Sicherheit mehr, noch mehr Kriminalität und irgendwann auch kein Strom.“
Die 18 Jahre alte Sana sagte, sie habe gehofft, dass es schnell zu einem Sturz der Regierung komme. Gut drei Wochen nach Kriegsbeginn bestimmten jedoch Sorgen und Hoffnungslosigkeit ihren Alltag. „Dieses Land wird vollständig zerstört“, sagte sie. „Ich habe keine Hoffnung mehr in dieses Land.“
(mho)
Künstliche Intelligenz
EuGH-Urteil: Polizei darf biometrische Daten nicht auf Vorrat erfassen
In einem Urteil zum Schutz biometrischer Daten hat der Europäische Gerichtshof (EuGH) am Donnerstag der Praxis vieler Polizeibehörden enge Grenzen gesetzt, Verdächtige routinemäßig erkennungsdienstlich zu behandeln. Die Luxemburger Richter betonen, dass das Aufnehmen sensibler biometrischer Daten wie Fingerabdrücke oder Gesichtsbilder in strafrechtlichen Ermittlungsverfahren nicht systematisch erfolgen darf. Vielmehr muss jede derartige Maßnahme im Einzelfall durch eine unbedingte Erforderlichkeit gerechtfertigt und klar begründet werden.
Weiterlesen nach der Anzeige
Auslöser des Verfahrens in der Rechtssache C-371/24 (Comdribus) war ein Vorfall im Jahr 2020 in Paris. Ein Mann, dessen Namen der EuGH mit HW abkürzt, wurde als Organisator einer nicht angemeldeten Demonstration festgenommen. Während des Polizeigewahrsams verweigerte er die Abnahme von Fingerabdrücken und das Anfertigen von Lichtbildern.
HW wurde später von dem ursprünglichen Tatvorwurf des Aufruhrs freigesprochen. Trotzdem verurteilte ihn ein französisches Strafgericht zu einer Geldstrafe von 300 Euro wegen seiner Weigerung, an der erkennungsdienstlichen Behandlung mitzuwirken. HW wehrte sich gegen diesen Schuldspruch mit dem Argument, die französische Regelung sei unvereinbar mit der europäischen Datenschutzrichtlinie für den Bereich Strafverfolgung und Justiz.
Besonders sensible Daten
Das Pariser Berufungsgericht legte den Fall dem EuGH vor. Es wollte klären lassen, ob nationale Behörden tatsächlich von jeder verdächtigen Person ohne spezifische Rechtfertigung biometrische Daten verlangen dürfen.
Die jetzige Antwort aus Luxemburg legt Wert auf die Privatsphäre der Bürger: Da biometrische Daten zu den besonders sensiblen Kategorien gehören, genießen sie der Entscheidung zufolge einen verstärkten Schutz. Ihre Verarbeitung ist demnach nur dann zulässig, wenn sie absolut notwendig ist und durch geeignete Garantien für die Grundrechte der Betroffenen flankiert wird.
Der EuGH unterstreicht in seinem Beschluss, dass das bloße Vorhandensein eines plausiblen Tatverdachts allein nicht ausreiche, um tiefgreifende Eingriffe in die Privatsphäre wie die Erfassung biometrischer Merkmale zu rechtfertigen. Jede Entscheidung für eine solche Maßnahme müsse zumindest eine summarische Begründung enthalten. Diese soll es der betroffenen Person ermöglichen, die Notwendigkeit nachzuvollziehen und gegebenenfalls rechtlich gegen die Maßnahme vorzugehen.
Weiterlesen nach der Anzeige
Einschlägige nationale Vorschriften müssen klar gefasst sein. Sie sind mit EU-Recht nicht vereinbar, wenn sie eine automatische und unterschiedslose Erhebung nach sich ziehen, ohne dass die Strafverfolger die Erforderlichkeit im konkreten Einzelfall prüfen.
Strafe für Nein-Sager?
Der EuGH entschied zudem, dass eine strafrechtliche Sanktion für die Weigerung, sich biometrisch erfassen zu lassen, nur unter bestimmten Voraussetzungen verhängt werden kann. Und zwar nur, wenn die zugrunde liegende Forderung der Polizei selbst rechtmäßig war.
Das heißt: Erfüllt die Datenerhebung nicht das Kriterium der unbedingten Erforderlichkeit, darf auch die Verweigerung nicht bestraft werden. Zudem muss jede Sanktion dem Grundsatz der Verhältnismäßigkeit entsprechen, der in der EU-Grundrechtecharta verankert ist.
Das Urteil konkretisiert die Anforderungen der Datenschutzrichtlinie. Es dürfte weitreichende Folgen für die polizeiliche Praxis in vielen Mitgliedstaaten haben, in denen die erkennungsdienstliche Behandlung bisher oft als Standardprozedur bei jeder Festnahme galt.
Behörden müssen nun ihre internen Bestimmungen anpassen. Dabei gilt es sicherzustellen, dass die Erhebung biometrischer Daten kein Automatismus ist. Vorzuweisen ist ein begründeter Ausnahmefall, der den spezifischen Zwecken der Ermittlung dient. Bürger werden damit gegenüber staatlichen Übergriffen im digitalen und biometrischen Zeitalter besser geschützt.
(wpl)
-
Künstliche Intelligenzvor 3 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 1 MonatCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 4 Wochen
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
UX/UI & Webdesignvor 2 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAumovio: neue Displaykonzepte und Zentralrechner mit NXP‑Prozessor
-
Künstliche Intelligenzvor 3 MonatenÜber 220 m³ Fläche: Neuer Satellit von AST SpaceMobile ist noch größer
-
Künstliche Intelligenzvor 2 MonateneHealth: iOS‑App zeigt Störungen in der Telematikinfrastruktur
