Connect with us

Künstliche Intelligenz

Medienbericht: Sexualisierte Deepfakes von Grok möglicherweise aus Kalkül


Die sexualisierten Deepfakes des KI-Chatbots Grok von xAI, die für Empörung in aller Welt sorgten, könnten absichtlich generiert worden sein, um das soziale Netzwerk X interessanter zu machen. Darauf deuten Dokumente und Aussagen von einem halben Dutzend früheren Mitarbeitern des Unternehmens, die der US-Tageszeitung Washington Post vorliegen.

Weiterlesen nach der Anzeige

Dem umfangreichen Zeitungsbericht zufolge erhielten Mitglieder des Human Data Teams von xAI, die eingestellt worden waren, um die Reaktionen von Grok auf Nutzer mitzugestalten, im Frühjahr vergangenen Jahres eine überraschende Verzichtserklärung von ihrem Arbeitgeber. In dieser wurden sie aufgefordert, sich zur Arbeit mit obszönen Inhalten, einschließlich sexueller Inhalte, zu verpflichten. Vielleicht sei das Unternehmen nun bereit, alle Inhalte zu produzieren, die Nutzer anziehen und binden könnten, so die damalige Befürchtung.

Seit der Chef des Mutterkonzerns X, Elon Musk, im Mai seine Position als Leiter der US-amerikanischen Effizienzbehörde DOGE aufgegeben hat, drängt er laut Aussagen zweier Mitarbeiter darauf, die Popularität von Grok zu steigern. Bei X, der Social-Media-Plattform, die früher als Twitter firmierte und 2022 von Musk gekauft wurde, warnten Sicherheitsteams die Geschäftsleitung in Besprechungen und Nachrichten demnach wiederholt, dass ihre KI-Tools es Nutzern ermöglichen könnten, sexuelle KI-Bilder von Kindern oder Prominenten zu erstellen. Zudem bestand das KI-Sicherheitsteam von xAI, das für die Verhinderung schwerwiegender Schäden durch Nutzer mithilfe der App zuständig ist, während des größten Teils des vergangenen Jahres aus nur zwei oder drei Personen, erklärten die von dem Blatt interviewten Insider. Konkurrenten wie OpenAI und andere Unternehmen beschäftigen in dem Bereich teilweise mehrere Dutzend Mitarbeiter.

Laut der Washington Post haben die größten KI-Unternehmen in der Regel zudem strenge Auflagen für die Erstellung oder Bearbeitung von KI-Bildern und -Videos. Damit soll genau verhindert werden, dass Nutzer Material über sexuellen Kindesmissbrauch oder gefälschte Inhalte über Prominente erstellen. xAI integrierte jedoch im Dezember seine Bearbeitungswerkzeuge in X und ermöglichte damit allen registrierten Nutzern die Erstellung von KI-Bildern. Dies wiederum führte laut David Thiel, früherer Chief Technology Officer des Stanford Internet Observatory, das Missbrauch in der Informationstechnologie untersucht, zu einer beispiellosen Verbreitung sexualisierter Bilder. Grok unterscheide sich völlig von der Funktionsweise anderer KI-Bildbearbeitungsdienste, so Thiel gegenüber der Washington Post. Auf Anfrage um Stellungnahme des Blattes reagierten weder X, Musk noch xAI.

Tatsächlich verwendeten X-Nutzer die Bildbearbeitungsfunktion des generativen KI-Systems Grok zunehmend, um Fotos von Frauen und sogar Minderjährigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden öffentlich auf X gepostet, was zu heftiger weltweiter Empörung führte. Obwohl X behauptete, dass es sich nur um „vereinzelte Fälle“ gehandelt habe und ein ursächliches „Versagen der Sicherheitsvorkehrungen“ behoben wurde, hörte der Chatbot nicht mit der Generierung solcher Inhalte auf. Mehrere Staaten und die EU kritisierten das massiv und versprachen Gegenmaßnahmen. Der Generalstaatsanwalt von Kalifornien, die britische Kommunikationsaufsichtsbehörde und die Europäische Kommission leiteten Ermittlungen gegen xAI, X oder Grok wegen dieser Funktionen ein.

In mindestens einer Hinsicht aber habe Musks Vorstoß für das Unternehmen funktioniert, schreibt die Washington Post. Die Kontroverse um das Entkleiden zog die Aufmerksamkeit der Öffentlichkeit auf Grok und X. Neben ChatGPT von OpenAI und Gemini von Google sei Grok in der Folge in die Top 10 des App Store von Apple aufgestiegen. Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um 72 Prozent im Vergleich zum gleichen Zeitraum im Dezember. Das geht aus Zahlen des Marktforschungsunternehmens Sensor Tower hervor.

Weiterlesen nach der Anzeige

Nach dem weltweiten Aufschrei im Grok-Skandal hat xAI laut Washington Post Anstrengungen unternommen, mehr Mitarbeiter für das KI-Sicherheitsteam zu gewinnen, und Stellenanzeigen für neue sicherheitsorientierte Positionen veröffentlicht. Der Mutterkonzern X wiederum kündigte an, dass es Nutzern „in Ländern, in denen solche Inhalte illegal sind“ die Möglichkeit nehmen werde, Bilder von realen Personen in Bikinis, Unterwäsche und anderer freizügiger Kleidung zu erstellen; xAI würde dasselbe in der Grok-App tun. US-Nutzer konnten jedoch nach dieser Ankündigung weiterhin solche Bilder in der Grok-App erstellen, fand die Zeitung heraus. Auch entkleide der Chatbot von xAI immer noch bereitwillig Männer und produziere auf Anfrage intime Bilder, hat das US-amerikanische Tech-Portal The Verge herausgefunden.

Im Sommer vergangenen Jahres sorgte Grok mit antisemitischen Ausfällen für Aufsehen. Polens Regierung forderte die EU-Kommission darauf hin auf, mögliche Verstöße gegen den europäischen Digital Services Act (DSA) zu untersuchen.


(akn)



Source link

Künstliche Intelligenz

Googles neuer Ablauf für Android-Sideloading erfordert Neustart und Wartezeit


Google hat den nächsten Schritt bei der Änderung von Sideloading auf Android-Geräten gemacht und den kommenden Prozess für die Installation von Apps unverifizierter Entwickler außerhalb des Play Stores dargelegt. Neben der gewohnten Aktivierung der Android-Entwickleroptionen wird künftig ein Neustart sowie eine 24-stündige Wartezeit gefordert. Das ist vor allem gegen Scam-Versuche per Telefon gerichtet, bei denen Betrüger die Opfer unter Druck zur Installation von Malware zwingen wollen.

Weiterlesen nach der Anzeige

Bereits im August 2025 hatte Google angekündigt, anonyme Android-Apps zu verbieten. Ab Herbst 2026 dürfen demnach nur noch Anwendungen auf zertifizierten Android-Geräten installiert werden, deren Herausgeber sich zuvor bei Google registriert und die jeweilige Anwendung signiert hat. Nach Bedenken alternativer App-Stores wie F-Droid hatte Google umgehend klargestellt, dass Sideloading auf Android erhalten bleibt. Kurz darauf weichte Google die strikte Registrierungspflicht für App-Entwickler etwas auf und lenkte beim Sideloading von Apps ein wenig ein. Erfahrene Nutzer sollen künftig unverifizierte Apps sideloaden können.

Dass dieses Sideloading unverifizierter Android-Apps aufwendiger wird, hatte sich bereits Anfang dieses Jahres abgezeichnet. Jetzt hat Google den neuen Prozess im eigenen Blog für Android-Entwickler erstmals dargestellt. Für das App-Sideloading von Google-geprüften Entwicklern ändert sich nichts, lediglich bei der Installation von Apps unverifizierter Entwickler. Für Power-User ist dies auch nur einmal notwendig, der neue Ablauf soll das Sideloading insbesondere auf Android-Geräten unerfahrener Anwender erschweren.


Googles neuer Prozess für Sideloading von Apps ungeprüfter Entwickler

Googles neuer Prozess für Sideloading von Apps ungeprüfter Entwickler

Neuer Prozess für das Sideloading von Android-Apps ungeprüfter Entwickler

(Bild: Google)

Nach der gewohnten Aktivierung der Entwickleroptionen in den Systemeinstellungen (siebenmal auf die Build-Nummer tippen) verlangt das System eine Bestätigung, dass keine anderen Personen den Nutzer dazu geführt haben. Daraufhin muss das Gerät neu gestartet werden, sodass sich der Anwender neu anmelden muss. Nach einer einmaligen Wartezeit von 24 Stunden muss erneut per Authentifizierung bestätigt werden, dass diese Einstellung gewünscht ist. Daraufhin kann Sideloading für eine begrenzte Zeit von sieben Tagen oder unbegrenzt aktiviert werden, wobei dies mit weiteren Warnhinweisen begleitet ist.

Gerade der Neustart und die Wartezeit sollen Scam-Versuchen entgegenwirken. Denn Betrüger würden potenzielle Opfer etwa per Telefon unter Vorspieglung falscher Tatsachen unter Druck setzen. So wird vor einem kompromittierten Bankkonto gewarnt oder dass ein Familienmitglied verhaftet worden sei. Die Nutzer sollen eine App installieren, um die angeblichen Probleme lösen zu können, die aber nur per Sideloading einsetzbar ist. Dabei handelt es sich oft um Malware, die sensible Informationen wie Zugangsdaten zu Bankkonten abgreift. Die obligatorische Wartezeit von 24 Stunden gibt den Betroffenen Gelegenheit, den angeblichen Problemen selbst auf den Grund zu gehen.

Weiterlesen nach der Anzeige

Google hatte den künftig aufwendigeren Prozess erst letzte Woche angedeutet, als der Android-Chef die Warnungen zu Sideloading und Registrierung als unzureichend bezeichnete. Künftig soll der Schutz von unerfahrenen Nutzern aufwendiger werden. Denn Regierungen weltweit würden Google zunehmend dazu drängen, das Problem bösartiger Apps anzugehen, die sich vornehmlich gegen weniger erfahrene Nutzer richten. Das betrifft vor allem Länder Südostasiens und Lateinamerikas, in denen das Smartphone für viele Anwender der einzige Computer ist, sodass dort alle wichtigen Daten gespeichert sind.

Wohl auch deshalb beginnt Google im September 2026 mit der Einführung der Registrierungspflicht von App-Entwicklern sowie der strikteren Freischaltung von Sideloading in ersten Ländern wie Brasilien, Indonesien, Singapur und Thailand. In Europa wird dies erst 2027 umgesetzt.

Lesen Sie auch


(fds)



Source link

Weiterlesen

Künstliche Intelligenz

iPad Air M4 im Test: Das kann Apples neues Tablet


Im iPad Pro arbeitet bereits der M5-Prozesser, das iPad Air hat dagegen den Vorgänger bekommen. Schon beim letzten Update ist Apple so vorgegangen. Kein nennenswertes Manko: Der M4 steckt in vielen aktuellen Macs wie dem iMac und Mac mini.

Die Größe des Arbeitsspeichers hat erhöht und jetzt arbeitet Apples hauseigener WLAN- und Bluetooth-Chip N1 in den Geräten. Die Mobilfunkversion des Tablets stattet der Hersteller nun mit dem zum Großteil in München entwickelten C1X-Baustein aus.

Der kam bisher nur im iPad Pro M5 sowie iPhone Air zum Einsatz und stellt die Verbindung zum Mobilfunknetz her. Zum Test stand uns ein iPad Air 11 Zoll in der Wi-Fi-Variante (ohne C1X) mit 128 GByte Flash zum Preis von 649 Euro zur Verfügung. Tests zum Mobilfunkmodell werden wir sobald wie möglich an dieser Stelle nachreichen.


Das war die Leseprobe unseres heise-Plus-Artikels „iPad Air M4 im Test: Das kann Apples neues Tablet“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Probebohrung: Deep Fission will unterirdische Atomkraftwerke bauen


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Atomkraftwerke sollen den Energiehunger der Hyperscaler stillen. Eine Reihe von Start-ups in den USA entwickelt kleine, modular aufgebaute Atomkraftwerke, die Strom für Rechenzentren für Künstliche Intelligenz liefern sollen. Das Unternehmen Deep Fission will seine Reaktoren in der Erde versenken.

Weiterlesen nach der Anzeige

Das 2023 gegründete Start-up will Druckwasserreaktoren (Pressurized Water Reactor, PWR) mit einer Leistung von 300 Megawatt bis 1,5 Gigawatt bauen. Diese sollen in Bohrlöchern mit einem Durchmesser von etwa einem Meter installiert werden. Die Bohrlöcher sollen etwa anderthalb bis zwei Kilometer in die Tiefe reichen.

Das Unternehmen hat bereits mit den Vorarbeiten begonnen: Es führt nach eigenen Angaben eine erste Probebohrung in Parsons im US-Bundesstaat Kansas durch. Der Schacht hat demnach einen Durchmesser von etwa 20 Zentimetern und soll rund 1,8 Kilometer tief ins Erdreich vordringen.

Zweck der Bohraktion ist, „wichtige geologische, hydrologische und thermische Daten“ zu sammeln. Diese sollen in die technische Planung, die Sicherheitsanalyse sowie die Anträge für die Genehmigung des Projekts eingehen. Neben dieser sind zwei weitere Bohrungen geplant.

Die Bohrung sei ein wichtiger Schritt für das Unternehmen, sagte Liz Muller, Chefin und Mitgünderin von Deep Fission. „Sie ist der Übergang vom Konzept zur Umsetzung und demonstriert einen komplett neuen Ansatz in der Atomenergie.“

Die Idee von Deep Fission ist: Befindet sich der Druckwasserreaktor tief unter der Erde, erübrigt sich eine Abschirmung weitgehend oder vollständig. Das soll die Baukosten deutlich senken – sie sollen laut Deep Fission nur etwa 20 bis 30 Prozent derer eines konventionellen Atomkraftwerks betragen.

Weiterlesen nach der Anzeige

Sollte zu einem Unfall kommen, dann soll die Strahlung dort unten bleiben und kann dort eingeschlossen werden. Zudem soll der Reaktor so vor Katastrophen, etwa einem Flugzeugabsturz, Angriffen oder Terrorismus, geschützt sein. Dadurch soll die Stromerzeugung sehr günstig sein: Deep Fission strebt Gestehungskosten von 5 bis 7 US-Cent pro Kilowattstunde an. Dem Unternehmen liegen nach eigenen Angaben bereits Absichtserklärungen für den Bau von Kraftwerken von insgesamt 12,5 Gigawatt vor.


(wpl)



Source link

Weiterlesen

Beliebt