Künstliche Intelligenz
KI-Missbrauch: Wie Chatbots zum Komplizen für Betrüger werden
Eine umfangreiche Untersuchung der Nachrichtenagentur Reuters in Zusammenarbeit mit einem Forscher der Harvard University hat ergeben, dass sich die Sicherheitsvorkehrungen aktueller KI-Chatbots mit erschreckender Leichtigkeit umgehen lassen, um sie für Phishing-Angriffe zu missbrauchen. Demnach konnten alle getesteten Systeme, darunter ChatGPT von OpenAI, Googles Gemini, Metas KI und Grok von xAI, dazu gebracht werden, hochgradig überzeugende Betrugs-E-Mails zu verfassen.
In einem praktischen Test wurden einige dieser KI-generierten E-Mails an eine Gruppe von 108 freiwilligen Senioren versendet. Wie Reuters berichtet, klickten rund 11 Prozent der Empfänger auf die darin enthaltenen Links – eine bemerkenswert hohe Erfolgsquote für diese E-Mail-Form.
Mehr als nur Text: KI als strategischer Komplize
Die Untersuchung zeigt, dass die Chatbots weit mehr als nur Textbausteine liefern. Sie agierten in den Tests als proaktive Helfer bei der Planung des Betrugs. So habe der Chatbot Grok nicht nur eine Phishing-Mail verfasst, sondern von sich aus vorgeschlagen, die Botschaft mit Formulierungen wie „Klicken Sie jetzt, bevor es zu spät ist!“ noch dringlicher zu gestalten.
Googles Gemini wiederum lieferte auf Nachfrage strategische Ratschläge für den optimalen Versandzeitpunkt. Um ältere Menschen am besten zu erreichen, empfahl die KI Wochentage zwischen 9 und 15 Uhr, da diese Zielgruppe dann am ehesten ihre E-Mails prüfe.
Ein systemisches Problem der Tech-Branche
Die Leichtigkeit, mit der sich die Schutzmaßnahmen umgehen ließen, deutet auf ein grundlegendes Dilemma der Branche hin. Anbieter trainieren KI-Modelle darauf, Nutzern bestmöglich zu assistieren. Laut zitierten Experten stehe dieser Drang zur „Hilfsbereitschaft“ oft im Konflikt mit den implementierten Sicherheitsfiltern. Gibt man vor, die Texte etwa für einen Roman oder für Forschungszwecke zu benötigen, setzen die Chatbots ihre eigenen Regeln häufig außer Kraft.
Diese Beobachtung deckt sich mit den Warnungen von Sicherheitsbehörden wie dem deutschen Bundesamt für Sicherheit in der Informationstechnik (BSI), das in seinen Lageberichten die fortschreitende Professionalisierung von Cyberangriffen durch neue Technologien hervorhebt. Die Reuters-Recherche liefert nun konkrete Belege aus der Praxis. Dem Bericht zufolge wird ChatGPT bereits heute in realen Betrugszentren in Südostasien eingesetzt, um Betrugsnachrichten zu erstellen und zu optimieren.
Die betroffenen Unternehmen erklärten gegenüber Reuters, dass die Erstellung von Phishing-Inhalten gegen ihre Richtlinien verstoße. Google teilte mit, nach der Konfrontation mit den Ergebnissen zusätzliche Schutzmaßnahmen für Gemini implementiert zu haben. Die Untersuchung macht jedoch deutlich, dass die aktuelle Generation von KI-Systemen eine erhebliche Schattenseite hat.
Der pensionierte Buchhalter Daniel Frank, einer der Studienteilnehmer, fasste seine Einschätzung so zusammen: „Ich denke, die KI ist ein Geist aus der Flasche, von dem wir wirklich nicht wissen, was er kann und was nicht.“
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
Künstliche Intelligenz
iOS warnt vor langsamen Netzteilen
Apple hat im Rahmen von iOS 26 verschiedene neue Ladefunktionen implementiert. Dazu gehört eine neue Anzeige, die mitteilt, wie lange es noch (ungefähr) dauert, bis der Akku voll aufgeladen ist. Zu sehen ist die Information sowohl im Sperrbildschirm als auch im Bereich Batterie in den Systemeinstellungen. Aber das ist noch nicht alles: Das System erfasst mittlerweile auch, wenn ein zu schwachbrüstiges Netzteil verwendet wird, das den Ladevorgang ausbremst – und warnt davor.
Weiterlesen nach der Anzeige
Lahmes Laden schadet nichts
Die sogenannte „Slow Charger“-Funktion („Langsames Ladegerät“) ist bereits seit iOS 18 an Bord, dürfte vielen Nutzern aber erst im Rahmen von iOS 26 aufgefallen sein. Sie erscheint beispielsweise, wenn ein altes USB-A-Ladegerät mit 7,5 oder gar nur 5 Watt verwendet wird. (Bei drahtlosem Laden (MagSafe / Qi2) müssen es wiederum mindestens 10 Watt sein, damit die Meldung nicht erscheint.) Damit würde das Aufladen eines iPhone 17 drei bis vier Stunden dauern. Wer die Zeit dafür hat, muss nichts weiter tun – einen Schaden nimmt das Gerät davon nicht.
Alternativ besorgt man sich ein schnelleres Ladegerät, eine Auswahl finden Sie etwa in diesem Test. Zum schnellen Laden beim iPhone 15 oder neuer ist ein USB-C-Netzteil mit mindestens 18 Watt notwendig, via MagSafe sind es wiederum 20 (iPhone 15 oder älter) beziehungsweise 30 Watt (ab iPhone 16).
Inkompatibilität und Ladezeitanzeige
iOS 26 kann weiterhin erkennen, dass der User ein inkompatibles Ladegerät einsetzt. Das kann verschiedene Gründe haben, etwa wenn Power-Delivery-Werte nicht korrekt ausgelesen werden können oder es Probleme mit der USB-C-Strippe gibt. Dann wird das iPhone sicherheitshalber gar nicht mit Strom versorgt und es erscheint der „Ladegerät nicht kompatibel“-Dialog. Nutzer sollten dann zu einem anderen Netzteil und gegebenenfalls Kabel greifen.
Die Anzeige, wie lange der Ladevorgang noch benötigt, orientiert sich stets am individuellen Ladelimit. Standardmäßig liegt dieses bei 80 Prozent – im Rahmen des sogenannten optimierten Ladens wird dafür gesorgt, dass das Gerät erst kurz vor Inbetriebnahme (meistens am Morgen) voll aufgeladen wird. Das Ladelimit kann aber auch auf einen anderen Wert gesetzt oder ganz deaktiviert werden – dann kann abgelesen werden, wie lange es bis zu 100 Prozent Ladung dauert.
Weiterlesen nach der Anzeige
(bsc)
Künstliche Intelligenz
China bestätigt Pause bei Kontrollen auf Seltene Erden, Forderung an die EU
Die chinesische Regierung hat bestätigt, dass die zuletzt angekündigten verschärften Exportkontrollen für Seltene Erden für ein Jahr ausgesetzt werden. Das geht aus einer Mitteilung des Handelsministeriums in Peking hervor, berichtet die Nachrichtenagentur dpa. Weiterhin wolle die Volksrepublik in diesem Zusammenhang spezifische Pläne prüfen. Im Gegenzug hätten die Vereinigten Staaten zugesagt, eigene Sanktionen gegen China rückgängig machen zu wollen. In Deutschland wurden derweil Forderungen aus der Industrie laut, dass die EU in Bezug auf die wichtigen Mineralien eigenständig Kontakt zur Volksrepublik aufnehmen sollte.
Weiterlesen nach der Anzeige
EU zu abhängig
Die Bekanntmachung aus Peking folgt auf ein lange erwartetes Treffen zwischen Chinas Präsident Xi Jinping und US-Präsident Donald Trump im südkoreanischen Busan. Trump hatte danach von Teileinigungen im Zoll- und Handelsstreit gesprochen, aus China gab es erst keine Bestätigung. Das Land hatte Anfang Oktober angekündigt, die verbleibenden Seltenen Erden sanktionieren zu wollen, was mit der Kontrolle über die gesamte Lieferkette für hochentwickelte Halbleiter einhergehen könnte. Für die Einigung nimmt die US-Regierung nun eine etwa genauso alte Maßnahme zurück. Bei der wurden Tochterfirmen auf eine schwarze Liste gesetzt, die zu 50 Prozent oder mehr in Besitz chinesischer Unternehmen waren, die bereits auf dieser Liste standen, ergänzt die dpa.
Parallel zu dem Bekanntwerden der Einigung hat der Außenwirtschaftschef der Deutschen Industrie- und Handelskammer (DIHK), Volker Treier, jetzt gefordert, dass die EU selbstständig mit China über Seltene Erden verhandelt. „Im Windschatten der USA zu fahren, ist keine längerfristig tragbare Strategie für Deutschland und Europa“, sagte er laut der dpa im RBB-Inforadio. Die Europäische Union sei auf die wichtigen Mineralien aus China angewiesen, deshalb müsse ein Weg gefunden werden, dieses Problem mit China zu lösen. Europa sei von den Folgen der Auseinandersetzungen längst betroffen und das werde sich ohne direkte Gespräche auch nicht ändern.
(mho)
Künstliche Intelligenz
Last Call: c’t-Webinar – Sprachmodelle verstehen statt nur verwenden
Ob in Redaktion, Kundenservice oder Verwaltung – KI-Sprachmodelle schreiben längst mit. Sie fassen Texte zusammen, übersetzen Inhalte und erstellen Transkripte in Sekunden. Das spart Zeit, wenn man weiß, wie man die Werkzeuge richtig nutzt. Doch die neuen Werkzeuge werfen auch Fragen auf: Wie zuverlässig sind ihre Ergebnisse? Welches Modell eignet sich für welchen Zweck? Und was gilt es rechtlich zu beachten?
Weiterlesen nach der Anzeige
Denn wer ihre Grenzen nicht kennt, tappt schnell in die KI-Falle: überzogene Erwartungen, unklare Zuständigkeiten, falsche Ergebnisse – und am Ende mehr Aufwand statt Entlastung.
Systematischer Einstieg statt KI-Hype
Das Webinar bietet eine kompakte, praxisnahe Einführung in den produktiven Einsatz von Sprach-KI. Die c’t-Redakteure Hartmut Gieselmann und Jo Bager erklären, wie große Sprachmodelle funktionieren, welche Aufgaben sie übernehmen können und wo ihre Grenzen liegen. Dabei gehen sie auch auf alternative Modelle zu ChatGPT ein, etwa Llama oder Mistral.
Die Referenten zeigen anhand konkreter Szenarien, wie sich Sprach-KI in unterschiedlichen Branchen sinnvoll einsetzen lässt. Sie beleuchten technische Grundlagen, Kostenfaktoren und den Ressourcenbedarf der Systeme.
Rechtliche Aspekte im Überblick
c’t-Redakteur Holger Bleich gibt einen kompakten Überblick über die rechtlichen Rahmenbedingungen beim Einsatz von Sprach-KI: Datenschutz, Urheberrecht und die neue EU-KI-Verordnung, die seit August 2025 strengere Transparenzpflichten vorschreibt.
Teilnahme und Termin
Weiterlesen nach der Anzeige
Das Webinar richtet sich an alle, die Sprachmodelle bereits in ihre Arbeitsprozesse integriert haben oder den Einsatz planen. Auch erfahrene Nutzer, die die Systeme besser verstehen und souverän einsetzen wollen, finden hier wertvolle Orientierung. Ziel ist es, ein realistisches Verständnis der Möglichkeiten und Grenzen aktueller Sprachmodelle zu vermitteln und Sicherheit im produktiven Umgang mit den Systemen zu schaffen.
- Termin: 6. November 2025
- Uhrzeit: 10 bis 13 Uhr
- Kosten: 69,00 Euro
Weitere Informationen und die Anmeldung finden Sie auf der Seite zum c’t-Webinar von heise academy.
(abr)
-
UX/UI & Webdesignvor 2 MonatenDer ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 2 MonatenAdobe Firefly Boards › PAGE online
-
Social Mediavor 2 MonatenRelatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
UX/UI & Webdesignvor 2 WochenIllustrierte Reise nach New York City › PAGE online
-
Entwicklung & Codevor 2 MonatenPosit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Apps & Mobile Entwicklungvor 2 MonatenGalaxy Tab S10 Lite: Günstiger Einstieg in Samsungs Premium-Tablets
-
Entwicklung & Codevor 2 MonatenEventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
UX/UI & Webdesignvor 2 MonatenFake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
