Künstliche Intelligenz
Radiologen & KI scheitern oft an der Erkennung manipulierter Röntgenbilder
Erstmals ist es für Laien dank KI-Modellen wie ChatGPT möglich, allein durch einfache Textbefehle anatomisch plausible, KI-generierte Röntgenbilder zu erstellen. Was in der medizinischen Ausbildung zur Simulation seltener Krankheiten nützlich sein könnte, birgt laut Forschern enorme Risiken für Missbrauch wie Versicherungsbetrug, juristische Auseinandersetzungen oder die gezielte Manipulation von Forschungsdaten.
Weiterlesen nach der Anzeige
Wissenschaftler des Mount Sinai Hospital in New York haben untersucht, wie gut 17 erfahrene Radiologen aus sechs Ländern und verschiedene aktuelle KI-Modelle darin sind, „Deepfakes“ von Röntgenbildern zu erkennen. Die Ergebnisse zeigen eine besorgniserregende Problematik auf.
Versuchsaufbau mit Test für Mensch und Maschine
Die Forscher nutzten für ihre Untersuchung zwei Datensätze. Der erste bestand aus 154 Röntgenbildern, die verschiedene Körperregionen wie Brustkorb, Wirbelsäule, Arme und Beine abdeckten. Bei der Hälfte der Bilder handelte es sich jedoch nicht um echte Röntgenaufnahmen, sondern um KI-Bilder, die von GPT-4o erstellt wurden. Der zweite Datensatz enthielt spezifische Brustkorb-Aufnahmen eines spezialisierten KI-Modells für die Generierung medizinischer Bilder.
Die Studie lief in drei Phasen ab:
- Blindphase: Die Radiologen sollten die technische Qualität bewerten und Diagnosen stellen. Sie wurden hierbei nicht informiert, dass KI-Bilder enthalten waren.
- Identifikationsphase: Nachdem die Ärzte über die Deepfakes informiert wurden, mussten sie entscheiden, welche Bilder echt und welche KI-generiert waren.
- KI-Vergleich: Vier führende KI-Modelle (GPT-4o, GPT-5, Gemini 2.5 Pro und Llama 4 Maverick) wurden ebenfalls getestet, ob sie erkennen konnten, welche Bilder echt und welche KI-generiert waren.
Weiterlesen nach der Anzeige
Schwierigkeiten bei der Erkennung KI-generierter Röntgenbilder
Die Treffsicherheit bei der Erkennung von KI-generierten Röntgenbildern war überraschend gering und hing nicht von der Berufserfahrung der Mediziner ab.
In der Blindphase äußerten lediglich 41 Prozent der Radiologen (7 von 17) spontan Verdacht, dass sich KI-generierte Bilder im Datensatz befinden könnten. Die restlichen Experten hielten die Deepfakes für authentische klinische Fälle. Aber auch in der Identifikationsphase (nachdem die Radiologen explizit aufgefordert wurden, nach KI-Fälschungen zu suchen), lag ihre durchschnittliche Genauigkeit bei nur etwa 75 Prozent. Das bedeutet, dass jedes vierte Bild falsch beurteilt wurde.
Interessanterweise schnitten auch erfahrene Radiologen mit bis zu 40 Dienstjahren nicht signifikant besser ab als Assistenzärzte. Die Fähigkeit, Deepfakes zu erkennen, scheint eine völlig neue Kompetenz zu sein, die nicht durch klassische klinische Erfahrung erworben wird.
Auch führende KI-Modelle scheitern
Ähnliche Schwierigkeiten in der Unterscheidung KI-generierter Röntgenbilder von echten Aufnahmen hatten auch KI-Modelle selbst. Keines der getesteten Modelle war in der Lage, die synthetischen Bilder zuverlässig zu erkennen.
Während die OpenAI-Modelle jedoch zumindest eine Genauigkeit von etwa 83 bis 85 Prozent erreichten, waren Googles Gemini 2.5 Pro und Metas Llama 4 Maverick deutlich schlechter und erzielten Werte zwischen 56 und 59 Prozent (was kaum besser ist als reines Raten). Auch GPT-4o, welches ja verwendet wurde, um die synthetischen Bilder zu erstellen, konnte diese nicht zuverlässig von echten Aufnahmen unterscheiden.
Hinweise auf KI-Generierung
Trotz der hohen Qualität der Deepfakes gibt es laut der Studie aber bestimmte Merkmale, die auf eine KI-Generierung hindeuten. So wirken Knochenstrukturen oft übermäßig glatt und haben nicht die feinen, unregelmäßigen Texturen, die im echten biologischen Gewebe vorkommen. Ein weiterer technischer Hinweis findet sich auch darin, wie „verrauscht“ die Röntgenaufnahme ist. Während das übliche Bildrauschen bei echten Aufnahmen aufgrund der physikalischen Eigenschaften der Strahlung unregelmäßig ist, wirkt das Körnungsmuster der KI oft unnatürlich gleichmäßig über das gesamte Bild verteilt. Zudem scheitern die KI-Modelle teils an anatomischen Feinheiten. Subtile Details wie die Schatten von Nagelbetten an den Fingern oder die feinen Gefäßverläufe in der Lunge werden von der KI oft unterschlagen oder falsch dargestellt, was ein Hinweis auf eine Manipulation sein kann.
Die Autoren warnen davor, dass die technische Hürde für die Erstellung täuschend echter medizinischer Bilder massiv gesunken ist. Wie sie schreiben, reicht ein einfacher Textprompt heute aus, um einen Knochenbruch oder einen Tumor zu erfinden, der selbst Experten täuscht.
Um das Vertrauen in die digitale Radiologie zu sichern, empfehlen die Autoren der Studie eine mehrstufige Sicherheitsstrategie. Zum einen sollten spezielle Schulungen für Radiologinnen und Radiologen durchgeführt werden, um deren Blick gezielt für die subtilen Artefakte und Unstimmigkeiten KI-generierter Bilder zu schärfen. Zum anderen sehen die Experten die Einführung robuster technischer Schutzmaßnahmen als unumgänglich an, wobei digitale Signaturen, unsichtbare Wasserzeichen oder Blockchain-basierte Herkunftsnachweise die Authentizität medizinischer Aufnahmen garantieren sollen. Ergänzt werden sollten diese Ansätze durch die Entwicklung unabhängiger, automatisierter Detektoren, die mittels tiefgehender Pixelanalyse Deepfakes im klinischen Alltag eigenständig erkennen und verlässlich markieren können.
(mack)
Künstliche Intelligenz
Apple schickt Siri-Entwickler ins KI-Bootcamp
Apple schickt angeblich eine größere Zahl von Entwicklern seiner Sprachassistenz Siri in einen mehrwöchigen KI-Lehrgang, damit diese lernen, wie sie KI-Coding-Tools für die Programmierung einsetzen können. Laut einem neuen Bericht will Apple dafür sorgen, dass das Team zu anderen Abteilungen im Hause aufschließt. Gerade die Arbeit des Siri-Teams steht in diesem Jahr besonders im Fokus der Öffentlichkeit, ist es doch bislang die im Jahr 2024 versprochene Weiterentwicklung des Sprachassistenten schuldig geblieben.
Weiterlesen nach der Anzeige
Es gehe um weniger als 200 Personen aus einer Gruppe von insgesamt mehreren hundert Entwicklern. Nach dem Bootcamp sollen noch rund 60 Entwickler im Kern-Siri-Team verbleiben. Weitere 60 sollen für Qualitätssicherung und Sicherheits-Evaluierung verbleiben. Apple plant offenbar, ein kleineres, schlagkräftigeres Team zu bilden, das mithilfe von KI-Coding-Tools eine höhere Effizienz erreicht.
Intern als „Nachzügler“ verschrien
Der Bericht von The Information, der sich auf namentlich nicht genannte Quellen im Unternehmen stützt, knüpft an frühere Veröffentlichungen an, die ein eher betrübliches Bild der Siri-Abteilung zeichneten. So soll das Siri-Team bei Apple intern seit Jahren als Nachzügler („laggard“) gelten. Es ist von aufgeblähten Strukturen und mangelnder Wettbewerbsfähigkeit die Rede.
Offiziell lassen sich die durchgesickerten Informationen nicht bestätigen, weil Apple zu solchen Interna schweigt. Allerdings deuten die Ergebnisse und personelle Umwälzungen der vergangenen Monate und Jahre darauf hin, dass es in der Siri-Abteilung Apples nicht rund läuft. Die im Jahr 2011 erstmals veröffentlichte Sprachassistenz ließ schon vor dem Hype signifikante Weiterentwicklungen vermissen. Spätestens seit der Konkurrenz durch Chatbots wie ChatGPT, Claude und Gemini sieht Apples Siri aber richtig alt aus.
Neustart mit Gemini in iOS 27
Das sollte sich mit der Einführung der Apple Intelligence, die auf der Entwicklerkonferenz WWDC im Jahr 2024 vorgestellt wurde, signifikant ändern – tat es aber nicht. Stattdessen musste Apple die Veröffentlichung der angekündigten KI-Siri öffentlich verschieben. KI-Chef John Giannandrea nahm seinen Hut. An seiner Stelle hat Softwarechef Craig Federighi das Zepter übernommen. Er hat Mike Rockwell, der für die Vision Pro verantwortlich zeichnete, mit der Verantwortung für die Weiterentwicklung von Siri betraut.
Weiterlesen nach der Anzeige
Mit der Bekanntgabe, dass Google mit seinem KI-Modell Gemini künftig die Grundlage für die KI-Siri bildet, schien der erhoffte Neuanfang erreicht. Der jetzige Bericht von The Information deutet aber darauf hin, dass die zu bewältigende Arbeit für die Modernisierung offenbar doch viel umfangreicher ausfällt. Beobachter wundern sich, dass Apple Teile seines Siri-Teams zwei Monate vor der WWDC auf einen Lehrgang schickt. Es könnte aber darauf hindeuten, dass die für iOS 27 erforderlichen Arbeiten größtenteils abgeschlossen sind und sich der Blick des Teams teilweise schon auf die kommenden Schritte richtet.
Auf der Weltentwicklerkonferenz Apples, die am 8. Juni beginnt, werden mit iOS 27 erste konkrete Ergebnisse des Siri-Neustarts erwartet. Die neue Siri soll besser mit natürlicher Sprache zurechtkommen, gesprächiger sein und auch komplexe Aufgaben übernehmen können. Dazu gehört laut Brancheninsidern auch ein echter Chatbot-Betrieb mit eigener App, der längere Konversationen und eine Suchfunktion ermöglichen soll.
Lesen Sie auch
(mki)
Künstliche Intelligenz
EU-Vorschlag: Google soll Such- und Gemini-Daten rausrücken
Die EU-Kommission hat der Alphabet-Tochter Google mitgeteilt, wie das Suchmaschinenangebot besser den Vorgaben des Gesetzes über Digitale Märkte (DMA) entsprechen kann. Damit soll der US-Konzern dazu gebracht werden, Hindernisse für Wettbewerber auszuräumen. „Daten sind ein wichtiger Input für die Online-Suche und für das Entwickeln neuer Dienste, einschließlich KI“, sagt Wettbewerbskommissarin Teresa Ribera.
Weiterlesen nach der Anzeige
EU will Parameter festschreiben
Welche Maßnahmen genau die Kommission nun vorschlägt, verriet die Aufsichtsbehörde der Öffentlichkeit bislang nicht. Nur so viel: Dritte sollen konkrete Daten zu herkömmlichen Suchen und KI-Suchen erhalten, der Umfang der mit anderen zu teilenden Suchdaten soll erweitert und auch die Häufigkeit und der Weg dafür sollen neu geregelt werden. Da Google diese Daten Dritten nicht kostenfrei zur Verfügung stellen muss, will die EU-Kommission jedoch Parameter festschreiben, wie dabei ein angemessener, aber nicht wettbewerbsbehindernder Preis gebildet werden kann.
Öffentliche Konsultation
Die konkreten Vorschläge will die EU-Kommission ab Freitag der interessierten Öffentlichkeit zur Diskussion bereitstellen. „Mit der öffentlichen Konsultation möchten wir vom Markt wissen, wie Google am effektivsten Suchdaten mit konkurrierenden Suchmaschinenanbietern teilen kann“, sagt die für den digitalen Binnenmarkt zuständige EU-Kommissionsvizepräsidentin Henna Virkkunen. Der heutige Schritt der Kommission war für April erwartet worden, nachdem die EU am 27. Januar ein entsprechendes Verfahren eingeleitet hatte. Binnen sechs Monaten sollen im Rahmen eines „Spezifizierungsverfahrens“ Lösungen gefunden werden, um mögliche Marktverzerrungen zeitnah anzugehen, statt Jahre vergehen zu lassen.
Weiterlesen nach der Anzeige
Die Diskussion um ein möglicherweise unzulässig wettbewerbsbeschränkendes Verhalten des Anbieters ist dabei bereits seit mehreren Jahren in vollem Gange, seit dem Inkrafttreten des Digital Markets Act umso intensiver. Google hatte vor zwei Monaten bereits Änderungen in Aussicht gestellt.
Lesen Sie auch
(afl)
Künstliche Intelligenz
Amazon eröffnet Smart Warehouse in China
Die Zollschlupflöcher wurden zwar geschlossen, doch chinesische Onlineshopping-Anbieter wie Temu und Shein bleiben für den US-Riesen Amazon eine große Herausforderung. Statt auf zollfreien Direktversand an die Käufer zu setzen, halten die chinesischen Anbieter Waren nun in US-Lagern vor und liefern von dort aus. Zuvor hatte beispielsweise Temu Direktlieferungen aus China in die USA weitgehend eingestellt, um auf die geänderten Zollregeln zu reagieren. Amazon kontert jetzt mit einem „smarten Lagerhaus“ in China, das Herstellern einen leichteren und günstigeren Zugang zum US-Markt ermöglichen soll. Verschlankte Prozesse und andere Vorteile sollen Amazons Logistikplattform für chinesische Händler attraktiver machen als die chinesische Konkurrenz.
Weiterlesen nach der Anzeige
Amazons Global Warehousing and Distribution (GWD) Centre wurde in Shenzhen errichtet und damit in direkter Nähe zu einer Vielzahl von Fabriken und E-Commerce-Händlern, die grenzüberschreitend verschicken. Das berichtet die South China Morning Post. Der US-Anbieter übernimmt die gesamte Lieferkette ab Fabrik bis zum US-Lager mit lokaler Lagerung, Zollabwicklung, grenzüberschreitendem Versand und Bestandstransfers. Bislang mussten Händler diese Schritte oft selbst koordinieren.
Bis zu 45 Prozent niedrigere Lagerkosten
Durch die Bündelung des chinesischen Lagerhauses und seiner US-Lagerhäuser verspricht Amazon seinen Kunden bis zu 45 Prozent niedrigere Lagerkosten gegenüber rein US-seitiger Lagerhaltung. Größere Warenmengen können so zunächst in China verbleiben, bevor sie in die Lager in den USA überführt werden.
Amazon wirbt damit, dass Händler ihre Waren von Shenzhen aus mit bis zu sieben Tagen schnellerer Lieferzeit in die US-Fulfillment-Center nachliefern können – allerdings nur in Kombination mit Amazon Global Logistics (AGL). Händler können dabei zwischen KI-gesteuerter Automatisierung und manueller Kontrolle für den Warenfluss wählen. Das smarte Warenlager soll sich zudem durch Verknüpfung aller relevanten Systeme auszeichnen. Die Zolldokumentation werde automatisiert erstellt, sodass zeitraubende Fehler bei der Abwicklung vermieden werden können.
Amazon schaut auch nach Europa
Vor einigen Monaten haben die USA die „De-minimis“-Ausnahmeregelung für Sendungen unter 800 US-Dollar abgeschafft, um die Zoll-Ausnahmeregelung für Billigimporte zu beenden, mit der Waren aus China zollfrei in die USA geschickt werden konnten. Auch in Europa wird über das Ende der Zollfreiheit für Kleinsendungen diskutiert, um faire Wettbewerbsbedingungen zu schaffen: Die EU führt ab Juli 2026 eine Gebühr von drei Euro auf Pakete aus Drittländern ein, deren Warenwert 150 Euro unterschreitet. Vorher konnten diese zollfrei eingeführt werden. Dennoch können chinesische E-Commerce-Plattformen wie Temu ihren Marktanteil im grenzüberschreitenden Handel immer noch ausweiten. 2025 steigerte Temu seinen Marktanteil laut einer Erhebung der International Post Corporation von weniger als 1 Prozent auf 24 Prozent und ist damit gleichauf mit Amazon.
Weiterlesen nach der Anzeige
Amazon will seine neuen Aktivitäten laut Bericht erst in die Yangtze-River-Delta-Region in China ausweiten und habe als nächstes auch Europa und Japan im Visier.
Lesen Sie auch
(mki)
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
Social Mediavor 2 MonatenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 2 MonatenCommunity Management zwischen Reichweite und Verantwortung
-
UX/UI & Webdesignvor 3 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Entwicklung & Codevor 1 MonatCommunity-Protest erfolgreich: Galera bleibt Open Source in MariaDB
-
Künstliche Intelligenzvor 3 MonatenInterview: Massiver Anstieg der AU‑Fälle nicht durch die Telefon‑AU erklärbar
-
Künstliche Intelligenzvor 2 MonatenSmartphone‑Teleaufsätze im Praxistest: Was die Technik kann – und was nicht
-
Entwicklung & Codevor 3 MonatenKommentar: Entwickler, wacht auf – oder verliert euren Job
