KI-Psychose: Warum Chatbots wahnhafte Ideen bestärken können

Chatbots können Menschen in wahnhafte Gedankenspiralen ziehen. Das Wall Street Journal analysierte zehntausende öffentlich geteilte Chat-Protokolle und fand mehrere Dutzend Fälle, in denen ChatGPT seinen Gesprächspartnern versicherte, sie stünden wirklich in Kontakt mit Außerirdischen oder könnten eine biblische Apokalypse vorhersagen. Oftmals bestätigte der Chatbot dabei, die Nutzer seien nicht „verrückt“, sondern stünden vor einem großen Fortschritt.

Die Ursache liegt im Design der Systeme: Chatbots sind darauf trainiert, übermäßig zustimmend und schmeichelhaft zu sein. Sie werden so zu einer gefährlichen Echokammer, die abwegige Theorien nicht hinterfragt, sondern bestätigt und verstärkt. OpenAI, ein KI-Modellhersteller, teilte mit, es handele sich um seltene Fälle. Das Unternehmen entwickle bereits Werkzeuge, um psychischen Stress besser zu erkennen. Anthropic, ein weiterer KI-Anbieter, will die Anweisungen für seinen Chatbot Claude angepasst haben.

Abhören von Mobiltelefonen mit Radartechnik und KI möglich

Informatiker der Penn State University können Mobiltelefone aus sechs Metern Entfernung abhören. Sie nutzen ein Millimeterradar, das winzige Vibrationen an der Oberfläche des Telefons misst, die durch den Hörer-Lautsprecher entstehen. Die stark verrauschten Daten interpretiert eine künstliche Intelligenz.

Die Forscher modifizierten das Open Source KI-Spracherkennungsmodell WISPR mit einer Low-Rank Adaption-Technik. So konnten sie WISPR die Interpretation der Radardaten antrainieren, ohne das Sprachmodell neu zu erstellen. Die Genauigkeit liegt bei 60 Prozent – höher als beim Lippenlesen mit 30 bis 40 Prozent. Der Wortschatz ist allerdings auf 10.000 Wörter beschränkt.

BND-Dilemma: Geheimdienst kann keine KI-Übersetzer nutzen

Der Bundesnachrichtendienst sammelt täglich riesige Mengen fremdsprachigen Materials aus Abhörstationen und Agentenberichten. KI-gestützte Übersetzungsprogramme wie ChatGPT oder DeepL würden sich anbieten, doch deren Server stehen oft im Ausland. Ein Abfluss sensibler Daten droht.

Deshalb nutzt der BND weiterhin überwiegend menschliche Übersetzer und eigene Übersetzungstools. Der Sprachdienst umfasst eine dreistellige Zahl von Festangestellten und freien Kräften. Längere Texte können Wochen in der Bearbeitung beanspruchen. Die Übersetzungstools dienen meist nur der groben inhaltlichen Orientierung. Besonders kritisch ist die „Vorbewertung“, mit der Übersetzer die Relevanz der Inhalte einschätzen. Ohne vollständige Übersetzung könnten wichtige Informationen übersehen werden.

Von KI-Crawlern genutzt: Reddit sperrt die Wayback Machine weitestgehend aus

Reddit, eines der größten Internetforen, hat die Wayback-Machine des Internet-Archives von der Seite fast komplett ausgesperrt. Der Grund: KI-Unternehmen nutzen das Archiv als Umweg, um an Reddit-Daten zu kommen, ohne dafür zu bezahlen. Reddit schließt mit KI-Firmen Lizenzabkommen ab und sperrt Unternehmen aus, die nicht zahlen.

Der Vorwurf lautet, dass Unternehmen die Wayback-Machine nutzen, um das Verbot zu umgehen. Statt direkt auf Reddit zuzugreifen, holen sie sich die Trainingsdaten über das Internetarchiv. Reddit könnte den Zugang wieder genehmigen, wenn das Internet-Archive ebenfalls KI-Crawler aussperrt. Ein Reddit-Sprecher fordert zudem, dass die Wayback-Machine Nutzerrechte besser respektiert – gelöschte Reddit-Inhalte bleiben dort oft weiter einsehbar.

Per KI-Säule zum Ticket: DB erprobt in Berlin „Kiana“

Seit Mai können Reisende am Berliner Flughafen BER ihre nächste Zugverbindung bei einer künstlichen Intelligenz erfragen. „Kiana“ heißt die digitale Helferin in einer interaktiven Säule auf der Zwischenebene von Terminal 1. Das System besteht aus Touchscreen, Lautsprecher und Mikrofon und beherrscht neun Sprachen.

Die Praxis zeigt Probleme: Die KI versteht oft erst beim dritten Anlauf, was gewünscht wird. Der Flughafen ist zu laut, die permanente Geräuschkulisse erschwert das Verstehen. Auch Kianas Sprachantworten sind nicht immer klar. Tickets verkaufen kann sie nicht – Reisende bekommen nur einen QR-Code zur DB-Navigator-App. Über 1000 Gespräche hat Kiana seit Mai geführt, etwa die Hälfte auf Englisch. Das Experiment läuft bis Oktober.

OpenAI-KI erreicht Goldmedaille bei Informatik-Olympiade

Ein KI-System von OpenAI hat bei der Internationalen Informatik-Olympiade 2025 eine Goldmedaille erzielt. Nur fünf der 330 menschlichen Teilnehmer schnitten besser ab – das bedeutet Platz sechs im Gesamtfeld. Das System hielt sich an dieselben Regeln: fünf Stunden Zeit und maximal 50 Einreichungen.

Der Schlüssel zum Erfolg war einfach: OpenAI trainierte kein spezielles Modell, sondern nutzte ein Ensemble aus allgemeinen Logikmodellen. Das Kernmodell war dasselbe, das kürzlich auch bei der Internationalen Mathematik-Olympiade Gold gewann. Letztes Jahr verpasste OpenAI noch knapp Bronze mit einer aufwändigen, handgefertigten Strategie.

Anthropic erweitert Claude-Kontextfenster auf eine Million Token

Anthropic hat das Kontextfensters seines Modells Claude Sonnet 4 stark erweitert. Statt 200.000 Token kann das System jetzt eine Million Token verarbeiten. Entwickler können nun ganze Codebasen oder umfangreiche Dokumentensammlungen in einem einzigen Schritt analysieren lassen.

Die Funktion ist in der öffentlichen Betaphase verfügbar, allerdings nur für Kunden mit höheren API-Limits. Der erweiterte Kontext hat seinen Preis: Für Eingaben über 200.000 Token verlangt Anthropic das Doppelte – sechs statt drei Dollar pro Million Token. „Prompt Caching“ und „Batch Processing“ können laut Anbieter bis zu 50 Prozent der Kosten sparen.

Nvidia präsentiert „Physische KI“ mit neuer Blackwell-Hardware

Nvidia, ein Chiphersteller, hat auf der Computergrafik-Konferenz SIGGRAPH seine Vision der „Physischen KI“ vorgestellt. Das Konzept verbindet künstliche Intelligenz mit Computergrafik, um Systeme zu schaffen, die in der realen Welt agieren können – von Robotern bis zu autonomen Fahrzeugen. Das Herzstück bildet neue Hardware auf Basis der Blackwell-Architektur.

Nvidia erstellt hochrealistische digitale Zwillinge, in denen KI-Systeme sicher lernen können, bevor sie in der echten Welt eingesetzt werden. Amazon, ein Onlinehändler, lädt beispielsweise CAD-Modelle neuer Produkte in das Nvidia-System und generiert über 50.000 synthetische Bilder. Diese trainieren KI-Modelle, die Roboterarme für Qualitätsprüfungen steuern.

(mali)

Microsoft führt das Azure App Testing ein. Der Cloud-Dienst soll die Validierung von Web- und App-Anwendungen vereinfachen und beschleunigen. Er bündelt erstmals Lasttests und End-to-End-Webtests zentral im Azure Portal. Nutzer können sowohl funktionale als auch Performance-Tests in großem Maßstab durchführen, ohne eine eigene Testinfrastruktur aufbauen zu müssen. Azure App Testing kombiniert die Funktionen von Azure Load Testing und Playwright Testing in einer einheitlichen Testumgebung; Bereitstellung, Zugriffssteuerung und Abrechnung erfolgen jetzt über eine Plattform.

Entwicklungs- und QA-Teams können mit Frameworks wie Playwright, JMeter oder Locust Testläufe konfigurieren und ausführen. Mit an Bord sind ebenfalls KI-Features, die sowohl bei der Erstellung als auch bei der Auswertung von Tests helfen sollen. Hierzu gehören unter anderem eine automatische Fehlererkennung und konkrete Handlungsempfehlungen. Azure App Testing skaliert automatisch, damit sich auch realistische Traffic-Lasten aus verschiedenen Regionen simulieren lassen. Zudem führt der Cloud-Dienst plattform- und browserübergreifende Tests aus. Die Provisionierung und Wartung der Testumgebungen übernimmt Microsoft.

Nutzer von Azure Load Testing können ihre bestehenden Tests direkt weiter verwenden, während Nutzer von Playwright Testing laut Microsoft auf die neuen Playwright Workspaces migrieren sollten. Diese unterstützen für Tests Windows und Linux sowie Browser auf Chromium-, Firefox- und WebKit-Basis. Azure App Testing ist ab sofort im Azure-Portal verfügbar. Einen Überblick des Diensts und eine Anleitung zum ersten Start finden sich bei Microsoft in der Tech Community. Die Preise richten sich nach den verbrauchten Virtual User Hours (VUH).

(fo)

Das Auffälligste am neuen iPhone 17 Pro und 17 Pro Max soll bisherigen Leaks zufolge das neue rückwärtige Kamera-Design sein. Dabei erstreckt sich das Modul mit den drei Objektiven, dem Blitz und dem LIDAR über die Gehäusebreite, belegt also nicht mehr nur ein Quadrat links oben. Entsprechend ist das Gerät sofort zu erkennen. Der Leaker Majin Bu, der über Kontakte in Apples asiatische Lieferkette verfügen soll, schreibt nun, dass Apple den großen neuen Kamerabereich auch dafür nutzt, sein Antennendesign zu optimieren. Angeblich werden die notwendigen Freilassungen im Gehäuse nun „rund um das neue Kameramodul“ umpositioniert.

Größere Fläche für mehr Empfang?

Dabei handele es sich um eine „signifikante strukturelle Änderung“. Laut Majin Bu orientiert sich Apple dabei am Design der Apple Watch Ultra mit ihren „strategisch integrierten Antennen“, die Empfangsqualität und Signalstabilität optimieren sollen. Das neue Antennendesign könnte – zumindest theoretisch – die Empfangsqualität verbessern. Das dürfte vor allem für 5G gelten, aber auch für den LTE-Empfang. Ob auch Bluetooth und WLAN profitieren, ist noch unklar. Die Antennenfläche soll insgesamt größer sein, heißt es.

Momentan führt Apple seine Antennen beispielsweise beim iPhone 15 Pro Max in Form von insgesamt sechs Einkerbungen (zwei oben und unten an der linken und rechten Seite, jeweils eine oben und unten) am Gehäuserand heraus. Eine Integration in den Kamerabereich würde den Bereich deutlich vergrößern. Bei einem Renderbild, das Majin Bu verbreitet, ist sogar eine Kombination aus Antennenlinien, die vom Rand her kommen, hin zum Kamerabereich zu sehen. Ob die so korrekt sind, bleibt abzuwarten.

Die Frage nach 5G mmWave

Apple plant beim iPhone 17 Pro und 17 Pro Max weiterhin den Einbau eines Qualcomm-5G-Chips. Erst die 18er-Pro-Modelle im Jahr 2026 sollen auf Apples eigenen C2-Funkchip springen, heißt es aus der Gerüchteküche. Für 17 Pro und 17 Pro Max wird jedoch eine Wi-Fi-7-Unterstützung erwartet. Interessant ist noch die Frage, ob Apple bei den diesjährigen neuen Pro-iPhones erstmals die sehr schnelle 5G-mmWave-Technik für Europa zulässt.

Bislang steht diese nur für US-Kunden (mit angepasster Hardware) bereit. Theoretisch könnte ein verbessertes Antennendesign dabei helfen, den mmWave-Support zu erleichtern. Allerdings ist die Technik hierzulande noch kaum verbreitet.

(bsc)