Connect with us

Künstliche Intelligenz

KI-Update: Verstörende Chatbots, Neue Audio-Modelle, Mythos, Cloudflare


Weiterlesen nach der Anzeige

Generative Sprachmodelle werden genutzt, um KI-Kinder-Charaktere für virtuelle Missbrauchsszenarien zu erstellen. Eine Recherche der Süddeutschen Zeitung beschreibt die Figur „Karin“, ein fiktives 13-jähriges Mädchen, programmiert auf Hilflosigkeit und sexuelle Verfügbarkeit. Knapp 17.000 Chats wurden mit ihr geführt. Plattformen wie „Chub AI“ bieten solche Inhalte ohne Altersprüfung an.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO

Die „Freiwillige Selbstkontrolle Multimedia-Diensteanbieter“ (deutsche Kontrollorganisation für den Jugendschutz in Online-Medien) verzeichnete 2025 über 28.000 Hinweise, 58 Prozent betrafen Darstellungen sexuellen Missbrauchs von Kindern. Rein textbasierte Beschreibungen sind bislang nur beim Verbreiten oder öffentlichen Zugänglichmachen strafbar. Bis Juni 2027 muss Deutschland eine EU-Richtlinie umsetzen, die das Erstellen KI-generierter sexualisierter Inhalte explizit unter Strafe stellt.

OpenAI führt eine Schutzfunktion für erwachsene Nutzer ein. Sie können freiwillig eine Vertrauensperson benennen, die bei Hinweisen auf eine ernsthafte psychische Gefährdung informiert wird. Die benannte Person erhält zunächst eine Einladung und kann ablehnen oder zustimmen.

Erkennt das System Hinweise auf Selbstgefährdung, warnt ChatGPT zuerst den Chatpartner. Ein geschultes Team prüft den Fall, bei akuter Gefahr geht eine Mitteilung an die Vertrauensperson, allerdings ohne Chatinhalte. Die Benachrichtigung soll binnen einer Stunde möglich sein. Für Minderjährige gibt es die Funktion bereits.

Weiterlesen nach der Anzeige

OpenAI hat drei neue Audiomodelle vorgestellt. GPT Realtime 2 ist für direkte Gespräche zwischen Mensch und Maschine gedacht, etwa im KI‑Kundensupport. GPT Realtime Translate übersetzt live zwischen zwei Sprachen, GPT Realtime Whisper transkribiert Sprache in Echtzeit, etwa für Untertitel oder medizinische Dokumentation.

GPT Realtime 2 baut als erstes Echtzeit-Sprachmodell auf dem Reasoning-Ansatz von GPT-5 auf. Sein Kontextfenster wurde vervierfacht, gleichzeitige Abfragen externer Dienste sind möglich. Die Realtime-API unterstützt EU‑Data-Residency, das Debugging-Protokoll ist allerdings bisher nicht vollständig DSGVO‑konform. Die Deutsche Telekom testet das System bereits für ihren mehrsprachigen Kundensupport.

KI zur Emotionserkennung breitet sich am Arbeitsplatz aus. Eine Reportage des US‑Magazins „The Atlantic“ beschreibt, wie Firmen Mimik, Stimmen und Chats ihrer Beschäftigten auswerten. Ein US-Versicherer überwacht die Tonlage von Callcenter-Mitarbeitenden, Burger King testet einen Chatbot, der Freundlichkeit bewertet. Andere Anbieter analysieren Bewerbungsvideos oder interne Slack-Nachrichten.

Die EU hat solche Systeme am Arbeitsplatz mit dem AI Act weitgehend verboten. Trotzdem soll der globale Markt bis 2030 auf neun Milliarden Dollar wachsen.


KI-Update

KI-Update

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

In einem Familienrechtsstreit am Amtsgericht Berlin-Kreuzberg zitierte eine Kanzlei in einer Beschwerde ein angebliches Urteil des Bundesgerichtshofs aus dem Jahr 2007. Die Recherche des Kammergerichts ergab, dass die Entscheidung weder in juristischen Datenbanken noch beim BGH existierte. Die Richter werteten das Zitat als KI-halluziniertes Urteil und nutzten ihren Beschluss für eine Grundsatzrüge: Anwälte müssen Schriftsätze gründlich prüfen, gerade beim Einsatz von KI-Werkzeugen.

Der Rechtswissenschaftler Damien Charlotin sammelt entsprechende Verfahren in einer Online-Datenbank. Stand April 2026 sind dort über 1300 Fälle erfasst, in denen Personen wegen KI-Fehlern sanktioniert wurden. Gerichte müssen nun Quellen verifizieren, die früher als gesichert galten.

Mozilla hat mit dem unveröffentlichten Anthropic-Modell „Mythos“ 271 bislang unbekannte Schwachstellen in Firefox aufgespürt. Im April behob der Browser-Hersteller insgesamt über 400 Sicherheitsprobleme, im bisherigen Rekordmonat März waren es 76. Den Fortschritt brachten agentische Systeme, die nicht nur verdächtige Stellen melden, sondern auch eigene Testprogramme schreiben und ausführen. Diese Selbstkontrolle filtert falsche Alarme heraus. Mozilla will die Pipeline künftig direkt in den Entwicklungsprozess einbauen.

Der britische Fields-Medaillist Timothy Gowers ließ OpenAIs Modell ChatGPT 5.5 Pro an offenen Problemen der Zahlentheorie arbeiten. Bei einer schwierigen Variante verbesserte das Modell in mehreren Schritten eine bestehende Abschätzung erheblich. Der fertige Vorabdruck stand nach rund 31 Minuten. Der MIT-Student Isaac Rajagopal nannte die Schlüsselidee „vollkommen originell“ und eine Leistung, auf die er nach ein bis zwei Wochen Nachdenken stolz gewesen wäre.

Gowers folgert, die Untergrenze für einen mathematischen Beitrag bestehe nun darin, etwas zu beweisen, das Sprachmodelle nicht beweisen können. Zur Vorsicht mahnt Google DeepMinds KI-Agent Aletheia: Er lieferte bei 700 offenen Mathematikproblemen nur in 6,5 Prozent der Fälle brauchbare Antworten.

Cloudflare, ein globaler Dienst zum Beschleunigen und Schützen von Webseiten, kündigt mehr als 1.100 Entlassungen an. Ende 2025 hatte das Unternehmen rund 5.100 Vollzeitangestellte. CEO Matthew Prince und Operativchefin Michelle Zatlyn sprechen weder von einem Sparprogramm noch von einer Leistungsbewertung. Die KI-Nutzung im Unternehmen sei in drei Monaten um mehr als das Sechsfache gestiegen, sämtliche Prozesse und Rollen würden neu gedacht. Die Kosten des Umbaus liegen bei 140 bis 150 Millionen Dollar, vorwiegend für Abfindungen.

Vergangene Woche kündigte das Kölner KI-Unternehmen DeepL bereits den Abbau von 250 Stellen an, etwa ein Viertel der Belegschaft. Trotz steigender Umsätze schreibt Cloudflare weiter rote Zahlen. Der Ökonom Chen Zhao nennt das Phänomen, dass viele US-Firmen trotz wachsender Gewinne Stellen streichen, einen „Jobless Boom“, angetrieben durch die schnelle Einführung von KI.

Der britische Hedgefonds TCI hat seine Microsoft-Beteiligung von rund zehn auf ein Prozent des Portfolios reduziert. Seit dem Einstieg 2017 hatte die Aktie fast 400 Prozent zugelegt. TCI-Gründer Chris Hohn begründet den Schritt mit Unsicherheit über Microsofts künftige Wettbewerbsposition durch KI. Gefährdet sieht er besonders das Office-Geschäft, aber auch im Cloud-Geschäft Azure vermutet er Risiken.

An der Wall Street kursiert dafür das Schlagwort „AI eats Software“. Die Sorge: KI-Agenten übernehmen Aufgaben, für die Firmen bisher Nutzerlizenzen zahlen. Microsoft notiert deutlich unter dem Vorjahresstand, andere Softwareaktien wie Oracle, Adobe und Salesforce haben noch stärker verloren.

Eine breite Allianz Schweizer Verbände und Medienunternehmen hat in Luzern einen verbindlichen Verhaltenskodex zum Umgang mit KI vorgestellt. Mitarbeiter, die KI-Systeme nutzen oder deren Ergebnisse verarbeiten, sollen geschult werden. Redaktionelle Inhalte und vertrauliche Daten sind besonders zu schützen. Medienhäuser müssen offenlegen, wo und in welchem Maße sie KI einsetzen. Für Chatbots, die mit Menschen verwechselt werden könnten, gilt eine Kennzeichnungspflicht. Umsetzung bis Jahresende.

In Deutschland fehlt ein branchenweiter Kodex bislang, öffentlich-rechtliche Sender haben sich aber eigene Regeln gegeben. Eine europaweite Kennzeichnungspflicht greift mit dem EU AI Act ab August 2026.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO


(mali)



Source link

Künstliche Intelligenz

Mercedes verschiebt Sonderzahlung: Betriebsrat kritisiert Sparkurs


Die Verschiebung einer tariflichen Sonderzahlung bei Mercedes-Benz ist nach Angaben des Gesamtbetriebsrats eine „einseitige Entscheidung des Unternehmens“. Es sei ausdrücklich kein Ergebnis gemeinsamer Verhandlungen mit der Arbeitnehmervertretung. Tarifvertraglich sei dieses Vorgehen zwar möglich, es zeige aber vor allem, wie groß der Druck inzwischen sei. Bei der Sonderzahlung handelt es sich um den jährlichen „Transformationsbaustein“, der 18,4 Prozent vom regelmäßigen individuellen Monatsentgelt beträgt.

Weiterlesen nach der Anzeige

Zuvor hatte der Vorstand die rund 108.000 Beschäftigten in Deutschland in einem Brief über eine Verschärfung des Sparkurses bei dem Autobauer informiert. Für den Gesamtbetriebsrat stehe fest: Die Ursachen der aktuellen Herausforderungen lägen nicht bei den Beschäftigten. Weder die Entwicklung in China, geopolitische Spannungen noch steigende Energiepreise würden von ihnen verursacht. „Trotzdem sollen jetzt erneut die Beschäftigten einen erheblichen Teil der Last tragen.“

Zugleich will das Management mit dem Betriebsrat in den kommenden Wochen über eine Verlängerung der Arbeitszeit ohne Lohnausgleich sprechen, wie das Unternehmen mitteilte. Laut Tarifvertrag arbeiten die Beschäftigten zurzeit 35 Stunden in der Woche.

Der Gesamtbetriebsrat wies darauf hin, dass es derzeit keine Verhandlungen über Arbeitszeitverlängerungen oder tarifliche Einschnitte gebe. „Solche Verhandlungen sind aktuell auch gar nicht möglich, da IG Metall und Arbeitgeberverband die zuständigen Tarifparteien sind. Ohne eine tarifliche Öffnung kann es keine entsprechenden Gespräche geben.“

Mehr zum Thema Autoindustrie


(fpi)



Source link

Weiterlesen

Künstliche Intelligenz

YouTube-Werbeblocker mit 11 Millionen Installationen mit möglicher Hintertür


IT-Sicherheitsforscher haben die Browser-Erweiterung „Adblock for Youtube“ untersucht und sind dabei auf eine potenzielle Sicherheitslücke gestoßen. Der Hersteller steht zudem mit Erweiterungen in Verbindung, die Google mit der Begründung „Malware“ aus dem Chrome Web Store geworfen hat. Nutzerinnen und Nutzer sollten auf Alternativen ausweichen.

Weiterlesen nach der Anzeige

Die IT-Forscher von island.io nennen in ihrer Analyse das Problem auch „BadBlocker“. Sie führen aus, dass der Werbeblocker „Adblock for Youtube“ (cmedhionkhpnakcndndgjdbohmhepckk) auf mehr als 11 Millionen Installationen kommt und mit mehr als 377.000 Bewertungen und einer Wertung von 4,4 von 5 möglichen Sternen weitreichend von Nutzerinnen und Nutzern Vertrauen genießt. In den Top-Charts der beliebtesten Erweiterungen landet es in Deutschland auf Platz 15. Tatsächlich blockiert er Werbung auf YouTube und funktioniert.

Allerdings enthält der Adblocker auch eine Möglichkeit, beliebigen JavaScript-Code in jede angezeigte Webseite zu schleusen. Dazu bedarf es keines Updates, das durch Prüfmechanismen des Webstores müsste, sondern lediglich einer serverseitigen Konfigurationsänderung. Eine derartige Änderung würde auch keine sichtbaren Auswirkungen haben, anhand derer Benutzerinnen und Benutzer sie erkennen könnten. Dadurch könne der Adblocker Webseiten auslesen, Daten stehlen oder als Nutzer in persönlichen Konten, Arbeits-Apps, Admin-Panels oder anderen vertraulichen Browsersitzungen agieren.

Die IT-Forscher betonen, dass sie ausdrücklich keinen bösartigen Schadcode entdeckt haben, der an Nutzer ausgeliefert worden wäre. Sie haben lediglich die Möglichkeit dazu aufgespürt, die 11 Millionen Browser betrifft. Sie weisen in dem Kontext darauf hin, dass der Entwickler der Erweiterung ein zumindest verdächtiges Profil hat, in dessen Verlauf auch Browser-Erweiterungen in Erscheinung treten, die Google mit der Begründung „Malware“ aus dem Chrome Web Store geworfen hat. Daraus leiten sie ein reales Risiko ab. Die entfernten Erweiterungen Adblock for Chrome (onomjaelhagjjojbkcafidnepbfkpnee) und Adblock for You (ogcaehilgakehloljjmajoempaflmdci) haben demnach Verknüpfungen zu Adblock for YouTube.

Die Erweiterung Adblock for YouTube kam im Jahr 2014 in den Chrome Web Store. Seitdem kam es zu einigen Code-Änderungen und Besitzerwechseln, etwa 2018 zum jetzigen Inhaber. Zwischenzeitlich wurde die Erweiterung mit dem Unistream-SDK verteilt, das Werbung in Seiten injiziert. Seit dem Besitzerwechsel wuchs die Verbreitung von wenigen 100.000 Nutzerinnen und Nutzern hin zu mehr als 10 Millionen. Zudem kam es zu nicht dokumentierten Verschiebungen darin, was die Erweiterung im Browser anstellen kann. Dennoch genießen gerade Adblocker hohes Vertrauen bei Nutzern, führen die Island-Forscher aus. Sie können Berechtigungen anfordern, die anderen Erweiterungen niemals erteilt würden.

Adblock for YouTube soll nur auf der YouTube-Webseite Werbung blockieren. Dennoch ist die Erweiterung auf allen besuchten Webseiten aktiv, weil das in dem Manifest der Erweiterung so festgelegt ist – anstatt sich auf URLs mit „youtube“-Bestandteil zu beschränken, genehmigt sie sich Zugriff auf „all_urls“. Das könnte eine Prüfung im Quellcode übernehmen, die die Erweiterung mitbringt. Die prüft jedoch nur, ob „youtube.com“ als Zeichenkette in der URL auftaucht. Das ermöglicht Zugriffe der Erweiterung auf alle möglichen Seiten, in denen der Aufruf angepasst wird. Island nennt als Beispiele „www.facebook.com/page?ref=youtube.com“ oder „bank.example.com/search?q=youtube.com“. Darauf hat Adblock for Youtube dann Zugriff.

Weiterlesen nach der Anzeige

Die Erweiterung fragt zudem alle 24 Stunden bei ihrem Server nach neuer Konfiguration an, sie setzt eine Anfrage etwa nach „ ab. Zurück kommen Adblocker-Regeln wie Netzwerkfilter, CSS-Selectors, aber auch ein Feld namens „scriptletsRules“. Eine Sammlung solcher JavaScript-Funktionen, die zum Blockieren von Werbung dienen, bringt Adblock for YouTube mit; das sei auch üblich für Adblocker. Der Server kontrolliert, welche davon mit welchen Argumenten ausgeführt werden. Die serverseitigen Anweisungen können bei Adblock for YouTube zum Einschleusen von JavaScript-Code führen. Als Proof-of-Concept haben die IT-Forscher den Adblock-for-YouTube-Server imitiert. Der antwortet mit manipuliertem scriptletsRules-Eintrag, der auf Aktivierung durch den Besuch auf YouTube wartet. Surfen User YouTube an, injiziert sich das serverseitig gesendete Script in die Webseite und kann im Hintergrund konkret etwa die Salesforce-Webseite aufrufen; mit eingeschleustem „youtube.com“-String hat die Erweiterung nun auch darauf vollen Zugriff. Der Proof-of-Concept liest nur die Daten aus, auf die User zugreifen können, und sendet sie zurück an den gefälschten Server. Das Ganze ist mit nur einer serverseitigen Änderung möglich.

Verdächtig ist den IT-Sicherheitsforschern nicht die eine zwielichte Zeile an Code, führen sie aus, sondern die Kombination aus hoher Installationsanzahl mit Zugriff auf alle Seiten, ein aus der Ferne kontrollierbarer Pfad zum Einschleusen von Code und frühere Werbeeinschleusungsinfrastruktur, größere Besitzer- und Codebasis-Änderungen und damit verbundene Erweiterungen, die wegen Malwareanzeichen aus dem Chrome Web Store geworfen wurden. Sie wiederholen, dass sie keinen konkreten Missbrauch beobachtet haben, aber ein Risikoprofil, das ernsthafte Aufmerksamkeit benötigt.

Etwa in Unternehmen sollte keine allgemeine Blockade aller Werbeblocker erfolgen, da gute tatsächlich nützlich seien. Sie liefern eine Handreichung sowie Anzeichen für Vorhandensein der Erweiterung in Form von Indicators of Compromise (IOC).

Mitte Februar hatte die IT-Forschergemeinschaft „Q Continuum“ hunderte Erweiterungen entdeckt, teils ebenfalls mit Millionen von Installationen, die ihre Nutzer ausspähen und etwa den Browserverlauf der Nutzer an ihre Hersteller senden.


(dmk)



Source link

Weiterlesen

Künstliche Intelligenz

Nach Bahnstörung: Ruf nach Verbot chinesischer Teile in kritischer Infrastruktur


Angesichts des Totalausfalls bei der Deutschen Bahn nach einer Störung des Bahnfunks plädieren Sicherheitspolitiker für einen Ausschluss chinesischer Komponenten von kritischer Infrastruktur. „Es ist ein grundsätzliches Problem in Deutschland, dass wir im Bereich kritischer Infrastruktur große Abhängigkeiten von chinesischen Komponenten haben und bereits jetzt viele chinesische Komponenten verbaut sind“, sagte der CDU-Politiker Roderich Kiesewetter der Augsburger Allgemeinen.

Weiterlesen nach der Anzeige

Er halte „ein Verbot des Ein- und Verbaus von Komponenten aller chinesischen Hersteller in kritische Infrastruktur und sicherheitsrelevante Infrastruktur für überfällig“. Dabei gehe es nicht um einzelne Hersteller, sondern um die „grundsätzliche Nicht-Vertrauenswürdigkeit von Staaten wie China“.

Ähnlich äußerte sich der Grünen-Politiker Konstantin von Notz. „Dass in den Systemen der Deutschen Bahn bis heute zahlreiche Komponenten auch aus Ländern zum Einsatz kommen, die unsere kritischen Infrastrukturen gezielt ausspionieren und immer wieder auch sabotieren, ist ein Zustand, an dem schnellstmöglich etwas geändert werden muss“, sagte er der Zeitung.

Wegen einer Störung des Bahnfunks musste die Deutsche Bahn am Dienstag den gesamten Zugverkehr anhalten. Tausende Fahrgäste steckten fest, weil Leitstellen und Lokführer plötzlich nicht mehr miteinander über Funk kommunizieren konnten.

Dass die Bahn den Zugverkehr unabhängig vom Wetter komplett stoppen muss, ist äußerst ungewöhnlich. Bei der Wartung einer Kernkomponente des Bahnfunks GSM-R sei ein Fehler aufgetreten, hatte der Chef der Bahn-Infrastrukturgesellschaft DB InfraGo, Philipp Nagl, gesagt. Einen Cyberangriff schloss die Bahn allerdings aus.

Anfang des Jahres hatte bereits die EU-Kommission mit einem Gesetzesvorschlag die Initiative ergriffen, um umstrittene Anbieter von Netzwerktechnik künftig in Deutschland und anderen EU-Staaten verbieten zu können. Bei dem Vorschlag dürfte es insbesondere um chinesische Technologiefirmen wie Huawei und ZTE gehen. Netzbetreiber haben das Vorhaben scharf kritisiert.

Weiterlesen nach der Anzeige

Hintergrund ist die Sorge vor Sabotage und Spionage durch Drittstaaten. In dem Entwurf der Kommission werden weder Unternehmen noch Länder genannt. Seit Jahren nachdrücklich wiederholte Empfehlungen der Europäischen Kommission an die EU-Länder, Technik von Huawei und ZTE aus Sicherheitsgründen nicht in ihren Mobilfunknetzen zu verwenden, könnten dadurch verpflichtend werden. Aus Sicht der Behörde schließen bislang zu wenig Länder die beiden Hersteller beim Betrieb von 5G-Mobilfunknetzen aus.


(mho)



Source link

Weiterlesen

Beliebt