Künstliche Intelligenz
KI-Missbrauch: Wie Chatbots zum Komplizen für Betrüger werden
Eine umfangreiche Untersuchung der Nachrichtenagentur Reuters in Zusammenarbeit mit einem Forscher der Harvard University hat ergeben, dass sich die Sicherheitsvorkehrungen aktueller KI-Chatbots mit erschreckender Leichtigkeit umgehen lassen, um sie für Phishing-Angriffe zu missbrauchen. Demnach konnten alle getesteten Systeme, darunter ChatGPT von OpenAI, Googles Gemini, Metas KI und Grok von xAI, dazu gebracht werden, hochgradig überzeugende Betrugs-E-Mails zu verfassen.
In einem praktischen Test wurden einige dieser KI-generierten E-Mails an eine Gruppe von 108 freiwilligen Senioren versendet. Wie Reuters berichtet, klickten rund 11 Prozent der Empfänger auf die darin enthaltenen Links – eine bemerkenswert hohe Erfolgsquote für diese E-Mail-Form.
Mehr als nur Text: KI als strategischer Komplize
Die Untersuchung zeigt, dass die Chatbots weit mehr als nur Textbausteine liefern. Sie agierten in den Tests als proaktive Helfer bei der Planung des Betrugs. So habe der Chatbot Grok nicht nur eine Phishing-Mail verfasst, sondern von sich aus vorgeschlagen, die Botschaft mit Formulierungen wie „Klicken Sie jetzt, bevor es zu spät ist!“ noch dringlicher zu gestalten.
Googles Gemini wiederum lieferte auf Nachfrage strategische Ratschläge für den optimalen Versandzeitpunkt. Um ältere Menschen am besten zu erreichen, empfahl die KI Wochentage zwischen 9 und 15 Uhr, da diese Zielgruppe dann am ehesten ihre E-Mails prüfe.
Ein systemisches Problem der Tech-Branche
Die Leichtigkeit, mit der sich die Schutzmaßnahmen umgehen ließen, deutet auf ein grundlegendes Dilemma der Branche hin. Anbieter trainieren KI-Modelle darauf, Nutzern bestmöglich zu assistieren. Laut zitierten Experten stehe dieser Drang zur „Hilfsbereitschaft“ oft im Konflikt mit den implementierten Sicherheitsfiltern. Gibt man vor, die Texte etwa für einen Roman oder für Forschungszwecke zu benötigen, setzen die Chatbots ihre eigenen Regeln häufig außer Kraft.
Diese Beobachtung deckt sich mit den Warnungen von Sicherheitsbehörden wie dem deutschen Bundesamt für Sicherheit in der Informationstechnik (BSI), das in seinen Lageberichten die fortschreitende Professionalisierung von Cyberangriffen durch neue Technologien hervorhebt. Die Reuters-Recherche liefert nun konkrete Belege aus der Praxis. Dem Bericht zufolge wird ChatGPT bereits heute in realen Betrugszentren in Südostasien eingesetzt, um Betrugsnachrichten zu erstellen und zu optimieren.
Die betroffenen Unternehmen erklärten gegenüber Reuters, dass die Erstellung von Phishing-Inhalten gegen ihre Richtlinien verstoße. Google teilte mit, nach der Konfrontation mit den Ergebnissen zusätzliche Schutzmaßnahmen für Gemini implementiert zu haben. Die Untersuchung macht jedoch deutlich, dass die aktuelle Generation von KI-Systemen eine erhebliche Schattenseite hat.
Der pensionierte Buchhalter Daniel Frank, einer der Studienteilnehmer, fasste seine Einschätzung so zusammen: „Ich denke, die KI ist ein Geist aus der Flasche, von dem wir wirklich nicht wissen, was er kann und was nicht.“
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
Künstliche Intelligenz
Nach Epic-Urteil: Google öffnet den Play Store in den USA
Google hat die Änderungen in seinem Android-Ökosystem, die auf ein Gerichtsurteil von Ende 2023 zurückgehen, umgesetzt. Damit sind App-Anbieter und Entwickler unter anderem nicht mehr dazu verpflichtet, Googles Abrechnungssystem zu verwenden, sie können auch auf Apps außerhalb des Play Stores verlinken. Allgemein erhalten sie mehr Flexibilität bei der Werbung für Angebote und der Abwicklung von In-App-Zahlungen.
Weiterlesen nach der Anzeige
Google öffnet seinen Play Store widerwillig
Wie Google in einem Support-Dokument schreibt, wird Google Entwicklern nicht mehr verbieten, mit Nutzern über die Verfügbarkeit oder gegebenenfalls günstigere Preise ihrer Apps außerhalb des Play Stores zu kommunizieren. Zudem wird die Firma Entwicklern nicht untersagen, einen Link zum Herunterladen der App oder einen Link zur Bezahlung außerhalb des Stores bereitzustellen.
Zudem verlange der Konzern nicht mehr die Verwendung von Googles Play Billing in Apps, die im Play Store angeboten werden, ebenso verbietet Google auch nicht mehr die Verwendung anderer In-App-Zahlungsmethoden. Ferner untersagt der Konzern App-Anbietern nicht mehr, mit Nutzern über die Verfügbarkeit anderer Zahlungsmethoden als Googles eigene zu kommunizieren. Verwenden Entwickler ihre eigenen Bezahlmethoden, müssten sie in diesem Fall keine Provisionen mehr an Google abtreten.
Lesen Sie auch
Die Änderungen treten ab dem 29. Oktober 2025 im US-Play Store in Kraft. Allerdings sind sie zunächst nur temporär und gelten nur so lange, wie die Anordnung des US-Bezirksgerichts in Kraft ist, also bis zum 1. November 2027.
Weitere Anpassungen folgen
Weiterlesen nach der Anzeige
Google erklärt im Dokument weiter, dass „das Vertrauen und die Sicherheit der Nutzer weiterhin im Mittelpunkt unseres Handelns stehen“ und dass das Unternehmen auch bei der Umsetzung der Anordnungen der einstweiligen Verfügung weiterhin seine Sicherheitsgrundsätze befolgen werde.
In „naher Zukunft“ will Google weitere Programmanforderungen und Änderungen am eigenen Geschäftsmodell bekannt geben, „um das Vertrauen und die Sicherheit der Nutzer im Ökosystem zu wahren, basierend auf dem Feedback der Entwickler- und Nutzergemeinschaft“, erklärte der Konzern.
Mit den weiteren Änderungen dürfte Google komplexere Anpassungen meinen, die der Hersteller noch erfüllen muss. Denn gemäß dem Urteil muss Google seinen Play Store für alternative Stores öffnen; Android-Apps können auch in alternativen Stores verfügbar sein, solange die Entwickler das nicht aktiv ausschlagen. Der Umweg über die Installation via APK-Dateien wäre damit nicht mehr erforderlich.
Der Konzern stellt sich derweil auf den drohenden Kontrollverlust über sein Ökosystem ein: Denn ab Herbst 2026 können nur noch Apps auf zertifizierten Android-Geräten installiert werden, deren Herausgeber sich zuvor bei Google registriert und dann die jeweilige Anwendung signiert haben. Für Installationen über den Google Play Store gilt das schon seit 2023; künftig soll die Anonymität auch für Sideloading, also für direkt am Gerät, ohne Nutzung des Play Stores installierte Programme und alternative App-Stores abgeschafft werden. Der Betreiber des alternativen App-Stores F-Droid kritisiert das scharf.
(afl)
Künstliche Intelligenz
Nach dem iPad Pro: Apple bereitet OLED-Screens für weitere Macs und iPads vor
Schon seit Jahren gibt es immer wieder ernst zu nehmende Gerüchte, dass Apple von der traditionellen LCD-Technik auf OLED-Screens auch für Geräte mit großem Bildschirm wechseln wird. Im iPhone wird der stromsparende Displaytyp mit guter Farbausbeute bereits seit dem iPhone X von 2017 verbaut, doch erst mit dem iPad Pro M4 im vergangenen Jahr nutzt der Hersteller OLEDs mit 11 und 13 Zoll. Nun soll sich der Trend in den kommenden Monaten bis Jahren mit weiteren Modellen fortsetzen – sowohl bei Tablets als auch portablen Macs, darunter auch günstigere Varianten.
Weiterlesen nach der Anzeige
OLED überall – für mehr Geld
Bislang galt nur als ausgemacht, dass ein Redesign des MacBook Pro mit OLEDs fest eingeplant ist, aktuell wird damit frühestens im Herbst 2026 gerechnet. Bloomberg-Reporter Mark Gurman, üblicherweise gut informiert, schrieb jetzt aber in dieser Woche, dass es feste Pläne auch für MacBook Air, iPad Air und sogar iPad mini gibt. Das wäre eine neue Entwicklung. Aus Nutzersicht hätte das zwar einige Vorteile, wie man an den positiven Kritiken für das iPad Pro M4 und nun das iPad Pro M5 feststellen kann. Doch gleichzeitig könnte sich der Preis erhöhen – allein bei einem iPad mini angeblich um 100 US-Dollar.
Bessere Farbdarstellung und höhere Kontraste soll angeblich als erstes besagtes Kompakt-Tablet (Display-Größe aktuell 8,3 Zoll) erhalten. Es könnte bereits Anfang nächsten Jahres erscheinen – angeblich auch erstmals wasserresistent und mit neuer Lautsprechertechnik (Vibration-based Speakers). Aber dabei bleibt es nicht. Das iPad Air soll in der übernächsten Generation ebenfalls auf OLED umsteigen, heißt es – wobei die für das Frühjahr geplante Neuauflage zunächst bei LCD bleibt und vor allem schnellere Chips bringt.
iPhones ganz ohne LCD
Das MacBook Pro bleibt wiederum erster OLED-Mac. Doch ein MacBook Air soll folgen. Um ausreichend Abstand zwischen den Baureihen zu haben, sieht Gurman diese Veränderung aber nicht vor 2028. Im Frühjahr 2026 ist demnach nur ein Prozessor-Upgrade (dann auf den M5) vorgesehen.
Beim iPhone hat Apple den OLED-Umstieg längst hinter sich. Mit Einführung des iPhone 16e, das das SE 3 abgelöst hat, ist kein LCD-Modell mehr auf dem Markt. Andere Formen der OLED-Technik wie Micro-OLEDs nutzt Apple bislang nur in Spezialanwendungen wie der teuren Vision Pro. Die Quantenpunkt-Technologie setzt Apple indes als Hintergrundbeleuchtung seit dem MacBook Pro M4 ein, behauptet ein Displayexperte.
Weiterlesen nach der Anzeige
(bsc)
Künstliche Intelligenz
Nextcloud, Proton & Co: Neue Allianz für digitale Souveränität
Weiterlesen nach der Anzeige
Führende europäische Technologieunternehmen haben die EuroStack Initiative Foundation gegründet, um die digitale Souveränität Europas durch koordinierte Industrieaktionen voranzutreiben. Zu den Gründungsmitgliedern gehören unter anderem Frank Karlitschek von Nextcloud, Andy Yen von Proton, Achim Weiss von IONOS sowie Vertreter von Ecosia und weiteren Unternehmen. Die Stiftung wird von der Wirtschaftswissenschaftlerin Cristina Caffarra geleitet.
Die Foundation reagiert auf die wachsende Abhängigkeit Europas von außereuropäischen Technologieanbietern. Wie die Initiative in der Ankündigung ihrer Gründung angibt, unterstützen mittlerweile über 300 CEOs den Anfang des Jahres gestarteten EuroStack. Die Gründer betonen, dass Regulierung allein nicht ausreiche – Europa müsse eigene technologische Infrastruktur aufbauen und koordinieren.
Drei Säulen: Einkauf, Verkauf und Finanzierung
Die Stiftung konzentriert sich auf drei Kernbereiche: „Buy European“ soll die öffentliche Beschaffung digitaler Technologien stärker auf europäische Anbieter ausrichten und gegen „Sovereignty-Washing“ vorgehen. „Sell European“ zielt auf die technische Integration bestehender europäischer Lösungen zu einem interoperablen Stack ab. Der dritte Pfeiler „Fund European“ soll private und öffentliche Investitionen in digital souveräne Technologien katalysieren.
Ein offizielles Side-Event zum französisch-deutschen Gipfel zur digitalen Souveränität findet am 17. November in Berlin statt. Die Foundation will in den kommenden Wochen ihr Governance-Modell entwickeln und Arbeitsgruppen für technische Integration und Beschaffung einrichten. Die Initiative versteht sich als langfristiges Projekt, um europäische digitale Souveränität von der Theorie in die Praxis zu überführen.
Die Ankündigung der Gründung der EuroStack Initiative Foundation liegt iX vor. Wir aktualisieren die Meldung, sobald sie öffentlich zur Verfügung steht.
Weiterlesen nach der Anzeige

Wie können Unternehmen und Behörden ihre IT aus den Abhängigkeiten von US-Hyperscalern, amerikanischen oder chinesischen KI-Anbietern und Softwareherstellern lösen? Das diskutieren Fachleute aus Politik, Wirtschaft und Wissenschaft am 11. und 12. November auf dem IT Summit by heise in München. Vorträge und Speaker finden Sie im Programm des IT Summit. Am ersten Konferenztag findet zudem ein kostenloser Workshop statt, der zeigt, wie Open-Source-Lösungen zur digitalen Souveränität und Cybersicherheit beitragen können. Buchen Sie jetzt Ihr Ticket.
Gleichzeitig hat die EU ein neues Bewertungssystem, das sogenannte Cloud Sovereignty Framework, vorgestellt, mit dem Cloud-Dienste künftig nach einheitlichen Souveränitätskriterien bewertet werden sollen. Das Framework umfasst acht konkrete Ziele, die Aspekte wie Datenkontrolle, Schutz vor fremdem Rechtszugriff, Lieferkettentransparenz und technologische Unabhängigkeit abdecken. Cloud-Anbieter müssen mit dem SEAL-Bewertungssystem nachweisen, dass ihre Dienste diesen Kriterien entsprechen, wobei sowohl technische als auch organisatorische Nachweise erforderlich sind. Sofort gab es am Cloud Sovereignty Framework allerdings scharfe Kritik: Es würde Verwirrung stiften und gar US-Anbieter bevorzugen.
(fo)
-
UX/UI & Webdesignvor 2 MonatenDer ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 2 MonatenAdobe Firefly Boards › PAGE online
-
Social Mediavor 2 MonatenRelatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
UX/UI & Webdesignvor 2 WochenIllustrierte Reise nach New York City › PAGE online
-
Entwicklung & Codevor 2 MonatenPosit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 2 MonatenEventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
Apps & Mobile Entwicklungvor 2 MonatenGalaxy Tab S10 Lite: Günstiger Einstieg in Samsungs Premium-Tablets
-
UX/UI & Webdesignvor 2 MonatenFake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
