Connect with us

Künstliche Intelligenz

X greift nicht ein: Sexuelle Fake-Bilder echter Frauen kursieren weiter


Nach einem massiven Aufschrei über die Möglichkeit, mit dem Bildgenerator der Grok-KI öffentlich und direkt auf X sexuelle Deepfakes echter Menschen zu generieren, versprachen die Verantwortlichen, sich um das Problem zu kümmern – doch auch am Tag danach ist es weiterhin möglich (Stand: Samstag, 3. Januar 12 Uhr), entsprechende Bilder zu generieren. Ein entsprechender Fall wurde der Redaktion von heise online am Sonntag zugespielt.

Weiterlesen nach der Anzeige

In dem Fall hatte ein X-Account Grok in einem Post aufgefordert, ein Foto einer Frau in ein Bikini-Bild umzuwandeln (da der Inhalt die Rechte der betroffenen Frau verletzt, wird die Quelle in diesem Fall nicht verlinkt). Auf X ist das möglich, indem man den offiziellen X-Account von Grok in einem Post mit dem entsprechenden Prompt und dem Originalbild markiert – ohne Einverständnis stellt das jedoch eine massive Verletzung der Persönlichkeitsrechte der Betroffenen dar, wird von diesen sehr wahrscheinlich als entwürdigend empfunden und ist zudem illegal.

Den Kommentaren zu dem besagten X-Post ist zu entnehmen, dass Nutzer den Fall bereits vor über 24 Stunden als Verstoß gegen EU-Recht gemeldet haben. Ob es wirklich geschehen ist, lässt sich jedoch nicht unabhängig überprüfen (dieser Artikel wird ggf. aktualisiert). Angesichts des Ausmaßes, das die sexuellen Deepfakes auf X angenommen haben, ist das Team für Content Moderation bei X vermutlich massiv überlastet.

Bereits am 2. Januar wurde über den Grok-Account auf X gepostet, dass es zu einem „Versagen der Sicherheitsvorkehrungen“ komme, was gegenwärtig behoben werde. Vorübergehende Maßnahmen, um das Problem einzudämmen – etwa die Deaktivierung des Bildgenerators auf X oder sogar komplett – ergriffen xAI, Elon Musks Betreiberfirma von Grok, und auch X aber offensichtlich nicht.

Auch die Verfasser der Grok-Stellungnahmen zu dem Skandal bleiben unklar. Seitens der Verantwortlichen von xAI gibt es dazu keinerlei Erklärung, gegenüber der Nachrichtenagentur Reuters tat das Unternehmen das Problem sogar als „Lüge der traditionellen Medien“ ab.

Auch Grok selbst leugnet in seinen Antworten, dass sich Bilder entsprechender Art mit der KI generieren lassen. Im vorliegenden Fall hatte Grok gegenüber der betroffenen Frau abgestritten, dass sich Bilder von realen Personen ohne deren Einverständnis erstellen lassen. Erst, nachdem Grok in einem späteren Prompt mit dem betreffenden Bild als Beispiel konfrontiert wurde, räumte der Chatbot sein Fehlverhalten ein – das Bild ist derweil weiterhin auf X verfügbar. Grok selbst verweist in seinen Antworten an das Team für Content Moderation, welches für die Löschung solcher Inhalte zuständig sei und ebenso für die Sperrung von Accounts, die Grok zur Erstellung solcher Bilder auffordern.

Weiterlesen nach der Anzeige

Und selbst, wenn die Inhalte im Original von der Plattform verschwinden, kursieren die Screenshots oft weiter. Die Staatsanwaltschaft in Paris bestätigte gegenüber Politico, dass die Vorfälle in eine laufende Untersuchung gegen X einfließen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok. Ein Nachspiel auf EU-Ebene steht noch aus. Bereits im Dezember verhängte die EU gegen X für Verstöße gegen den europäischen Digital Services Act (DSA) eine Strafe von 120 Millionen Euro.


(nen)



Source link

Künstliche Intelligenz

Neue Macs im Anflug: Apple lädt zur „Apple Experience“ nach Los Angeles


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Die Hinweise darauf, dass Apple noch in diesem Monat frische Macs vorstellen wird, verdichten sich. Nach ersten Spekulationen, dass der Konzern die Rechner zusammen mit dem neuen Creator-Studio-Abopaket präsentieren könnte, sowie schlechter Verfügbarkeiten der alten Modelle im Apple Online Store kommt nun eine dritte Information hinzu. Denn Apple hat zu einem speziellen Event geladen: YouTuber, TikToker und andere „Creators“ aus dem Influencer-Segment sollen vom 27. bis 29. Januar nach Los Angeles kommen. Worum es bei der Veranstaltung geht, die der Konzern schlicht als „Apple Experience“ tituliert, ist unklar. Auch deutsche Vlogger sind wohl unter den Eingeladenen. Ob klassische Medien dabei sein werden, blieb zunächst unklar.

Weiterlesen nach der Anzeige

Interessant an der Veranstaltung ist die Länge: An den drei Tagen könnte Apple nicht nur sein Creator Studio und neue Hardware vorstellen, sondern auch Seminare und Kurse zum direkten Ausprobieren der Produkte abhalten. Neu ist dieser Ansatz, bei dem „Creators“ als Erstes gebrieft werden, nicht: Der Konzern agierte bereits im vorvergangenen Jahr bei seinen M4-Maschinen ähnlich. Damals gab es zusätzlich aber auch Keynote-Videos, die die Rechner vorstellten. Ob das dieses Mal so sein wird, bleibt unklar.

Mit dem Creator Studio vermarktet Apple seine macOS-Programme Final Cut Pro, Logic Pro, Pixelmator Pro sowie Tools wie Motion oder MainStage erstmals in einem Abo-Paket (12,90 Euro im Monat oder 129 Euro im Jahr), das um zusätzliche „Premium-Inhalte“ für iWork-Programme ergänzt wird. Es wäre ungewöhnlich, einem solchen Produkt ein dreitägiges Kreativen-Event zu gönnen – entsprechend wahrscheinlich ist neue Hardware.

Aktuell geht die Gerüchteküche von mindestens zwei neuen MacBook-Pro-Baureihen aus, die vorgestellt werden könnten. Nachdem nur das Midrange-Modell MacBook Pro M5 mit 14 Zoll im Herbst präsentiert wurde, stehen noch MacBook Pro M5 Pro und MacBook Pro M5 Max aus – jeweils mit 14 und 16 Zoll. Weitere Rechner mit M5-Chip könnten ebenfalls kommen, wobei diese – etwa MacBook Air M5 und Mac Mini M5 und M5 Pro – aktuell eher Richtung Jahresmitte erwartet werden. Schließlich steht Beobachtern zufolge auch noch ein neues Kompakt-MacBook mit iPhone-Chip aus, doch davon hat man seit längerem nichts mehr gehört.

Die neuen Macs sollen etwa lokale Sprachmodelle (noch) schneller ausführen können. Momentan gibt es nur die einfachen M5-Chips. Diese stecken neben dem erwähnten MacBook Pro M5 auch im iPad Pro M5 sowie der Vision Pro M5.

Weiterlesen nach der Anzeige


(bsc)





Source link

Weiterlesen

Künstliche Intelligenz

iPhone-Daten an Apple trotz Opt-Out: Richter verwirft Teile von Sammelklage


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Schon seit fast vier Jahren läuft der Versuch, Apple per Sammelklage dazu zu bewegen, weniger iPhone-Daten zu sammeln – oder zumindest eine Entschädigung an die Nutzer zu zahlen, falls dies nachweislich getan wurde. Doch nun hat der zuständige US-Richter zumindest Teile des Klage abgewiesen. Apple hatte stets mitgeteilt, dass die Annahme der Kläger „völlig falsch“ sei. Dem schloss sich der US District Court for the Northern District of California laut einem Bericht des Justizfachdienstes Bloomberg Law nun teilweise an.

Weiterlesen nach der Anzeige

Bei der Klage geht es unter anderem um die Frage, ob Apple sich an Opt-In/Opt-Out-Regeln hält. Die deutsch-kanadischen Sicherheitsforscher der Gruppe Mysk hatten im Herbst 2022 herausgefunden, dass Apple Analysedaten aus seinem App Store auch dann zu erfassen scheint, wenn Nutzer diesem widersprochen hatten. Dazu gibt es in iOS (und Apples anderen Betriebssystemen) einen zentralen Schalter, der Analytics durch den Konzern aktivieren oder unterbinden soll.

Dass die App-Store-Anwendung auf Apples Server zugreifen muss, liegt schon in der Natur der Sache – diese liefern schließlich deren Inhalte. Allerdings gingen die Requests laut der Mysk-Analyse, die den Datenverkehr entschlüsselt hatte, in beide Richtungen. Es gab demnach Session-IDs, die mit einem Profil verknüpft seien. Es würden Geräteinformationen übertragen, darunter Spracheinstellungen der Tastatur und vorhandener Speicherplatz. Apple speichere zudem, welche App wann und wie lange betrachtet wurde. Ungewöhnliche Analytics-Daten sind das keineswegs, doch sie wurden offenbar eben auch dann erfasst, wenn das Tracking eigentlich abgedreht sein sollte.

Richter Edward J. Davila entschied laut Bloomberg Law nun am Dienstag, Teile der Sammelklage wegen einer möglichen Verletzung der Privatsphäre abzuweisen. Die Kläger hatten unter anderem Verstöße gegen das kalifornische Gesetz zum Schutz der Privatsphäre, die kalifornische Verfassung und das Gesetz des US-Bundesstaates gegen unlauteren Wettbewerb gestützt. Auch gegen ein Gesetz des US-Bundesstaates Pennsylvania, das elektronische Überwachungsmaßnahmen einschränkt, sollte Apple verstoßen haben.

„Es gibt ernsthafte Zweifel daran, ob die Kläger ihre abgewiesenen Ansprüche angesichts der in diesem Beschluss angesprochenen Mängel ausreichend geltend machen können“, so Davila. Gänzlich gegessen ist das Verfahren für Apple aber dennoch nicht. Er handele lieber übervorsichtig, so der Richter, und erlaube den Sammelklägern, ihre Klage „ein letztes Mal“ abzuändern und neu einzureichen. Die Sammelkläger repräsentieren allesamt Nutzer, die die Analytics-Funktion auf iPhone und iPad abgeschaltet hatten. Die Klage wirft Apple unter anderem vor, Nutzer in die Irre geführt zu haben, indem es ihnen vorgaukelte, dass durch die Deaktivierung verhindert wird, dass Apple Daten aus den eigenen Apps sammelt. Erwähnt werden neben dem App Store auch Apple Music, Apple TV, die Bücher-App und die Aktien-App.

Weiterlesen nach der Anzeige


(bsc)



Source link

Weiterlesen

Künstliche Intelligenz

Eiskaltes Händchen: Roboterhand läuft selbstständig los und sammelt Gegenstände


Das Video erinnert ein wenig an das „Eiskalte Händchen“ aus der Serie „The Addams Family“: Die Hand eines Roboterarms löst sich von dem Arm, krabbelt los und sammelt farbige Klötzchen ein. Dann läuft sie zurück zum Arm, koppelt sich wieder an, und der Arm hebt die Hand, die die Klötzchen weiter festhält.

Weiterlesen nach der Anzeige

Es gehört zu einer Forschungsarbeit, die jetzt in der Fachzeitschrift „Nature Communications“ vorgestellt wurde. Sie beschreibt eine autonome Roboterhand, die sich selbstständig von einem Roboterarm lösen, auf den Fingern laufen und mehrere Gegenstände greifen und transportieren kann. Sobald die Hand ihren Auftrag erfüllt hat, kehrt sie zum Arm zurück und dockt wieder an.

Das Design ermöglicht Aufgaben wie das Erreichen von Gegenständen außerhalb der normalen Reichweite und die Handhabung mehrerer Objekte gleichzeitig und bietet damit „potenzielle Anwendungsmöglichkeiten in der Industrie-, Dienstleistungs- und Erkundungsrobotik“ schreiben die Autoren. Das Team um Xiao Gao arbeitet schon seit einigen Jahren an dem Projekt und hatte zuletzt 2024 einen Prototypen vorgestellt, der aber noch von einem Menschen ferngesteuert werden musste.

Aktuell stellen Gao und seine Kollegen nun zwei neue Versionen der Roboterhand vor: ein Design mit fünf Fingern und eines mit sechs Fingern. Roboterhände sind oft so konstruiert, dass sie die menschliche Hand nachahmen, die als äußerst geschickt gilt. Ihre asymmetrische Struktur – die nur das Greifen von einer Seite ermöglicht – und ihre begrenzte Reichweite können jedoch die Fähigkeiten bei bestimmten Aufgaben einschränken, etwa dann, wenn es darum geht, mehrere Objekte gleichzeitig zu greifen.

Tatsächlich erweist sich die Hand mit den sechs Fingern als leistungsfähiger. Sie ermöglicht das Greifen von Gegenständen von beiden Seiten. Sie kann bis zu drei Objekte nacheinander greifen, transportieren und dann wieder am Arm andocken, während sie die Objekte sicher festhält. In Experimenten schaffte sie das mit einer Pappröhre, einem Gummiball, einem Whiteboard-Marker und einer Blechdose. „Studien der Hand-Anatomie haben dazu geführt, dass wir sehr viel besser verstehen, warum unsere Hände so sind, wie sie sind“, schreiben die Autoren. „Sie haben allerdings sehr viel weniger geholfen zu verstehen, warum sie nicht ganz anders aussieht.“

Tatsächlich können Gao und sein Team sich durchaus vorstellen, die abnehmbare Roboterhand künftig auch in Prothesen oder als zusätzliches Körperteil einzusetzen. Weltweit arbeiten Forschungsteams schon jetzt an künstlichen Körperteilen, deren Design vom biologischen Vorbild abweicht.

Weiterlesen nach der Anzeige

Technisch gibt es aber noch einiges zu tun. So muss die autonome Roboterhand extern – per Kabel – mit Energie versorgt werden. Die Kreisbewegung ist noch immer sehr langsam – das Video ist mit dreifacher Geschwindigkeit abgespielt. Und auch bei der Sensorik gibt es noch Luft nach oben: Man erkennt im Video deutlich die Marker, die dem Roboter zur räumlichen Orientierung dienen. Bei echten Anwendungen würden diese natürlich fehlen.

Dennoch gibt es viele Details an der Arbeit, die technisch sehr beeindruckend sind. Das automatische An- und Abkoppeln der Hand haben die Forschenden beispielsweise mit motorgetriebenen Schrauben gelöst. Und die Hand verfügt gleich über mehrere Gangarten – je nachdem, welche und wie viele Gegenstände sie gerade transportiert.

Dieser Beitrag ist zuerst auf t3n.de erschienen.


(jle)



Source link

Weiterlesen

Beliebt