Connect with us

Künstliche Intelligenz

„Abscheulich“: Großbritannien will gegen Groks sexualisierte Deepfakes vorgehen


Angesichts des anhaltenden Skandals um sexualisierte Deepfakes des KI-Chatbots Grok hat die britische Regierung angekündigt, in dieser Woche mit der Durchsetzung eines Gesetzes dagegen beginnen und zudem Anwendungen verbieten zu wollen, mit denen Menschen digital entkleidet werden können. Das hat Technologieministerin Elizabeth Kendall am Montag im britischen Unterhaus gesagt und das Vorgehen von X dabei scharf kritisiert. Vorher hat die britische Medienaufsicht die bereits vorab publik gewordenen Ermittlungen gegen den Kurznachrichtendienst vorgestellt und darauf hingewiesen, dass diese heftige Strafen zur Folge haben können.

Weiterlesen nach der Anzeige

Hohe Strafen bereits möglich

Kendall hat die mithilfe des KI-Chatbots generierten Inhalte als „abscheulich“ und einen „Affront gegen die anständige Gesellschaft“ bezeichnet. Zudem seien sie illegal. Dass X die Möglichkeit zur Bildgenerierung am Freitag auf kostenpflichtige Accounts beschränkt hat, sei „nicht annähernd genug“. Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiterhin abrufbar, man müsse nur dafür bezahlen. Ein Gesetz aus dem vergangenen Jahr stelle Generierung oder die Bitte um die Generierung von intimen Bildern ohne Einverständnis der Betroffenen unter Strafe. In dieser Woche werde man mit der Durchsetzung beginnen. Zudem soll mit einem derzeit vorbereiteten Gesetz Apps explizit unter Strafe gestellt werden, die KI-generierte Nacktfotos bereitstellen.

Vorher hat die Medienaufsicht Ofcom Details zu den Ermittlungen gegen X publik gemacht, in denen es ebenfalls um die sexualisierten Deepfakes geht, die Grok in großen Mengen öffentlich generiert hat. Untersucht wird, ob der Kurznachrichtendienst angemessene Schritte unternimmt, damit User auf X keine Darstellungen von Kindesmissbrauch zu sehen bekommen und wie der Dienst Risiken minimiert. Zudem werde geprüft, wie der Dienst dafür sorgt, dass illegale Inhalte möglichst rasch von der Plattform entfernt werden. Den Ermittlungen liegt demnach eine Antwort von X auf eine diesbezügliche Anfrage zugrunde. Sollten Verstöße festgestellt werden, könne eine Strafe in Höhe von 18 Millionen Pfund (über 20 Millionen Euro) oder 10 Prozent des weltweiten Umsatzes verhängt werden.

Die sexualisierten Deepfakes von Grok sorgen seit Tagen für Empörung in aller Welt. Anfangs konnten User einfach unter beliebigen Fotos auf der Plattform darum bitten, die gezeigte Person etwa in einem Bikini darzustellen. Dem oder ähnlichen Anfragen ist der KI-Chatbot dann nachgekommen, teilweise sogar bei Minderjährigen. Am Freitag wurde die Bildgenerierung dann aber soweit beschränkt, dass sie direkt auf X nur noch von Accounts beantragt werden konnte, für die bezahlt wird. In Direktnachrichten oder auf der eigenen Website kommt Grok solchen Aufträgen aber weiterhin auch bei nicht zahlenden Usern nach. Als erste Staaten haben Indonesien und Malaysia den Chatbot deshalb am Wochenende komplett sperren lassen.


(mho)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Software Testing: Von der Schuldfrage zur Fehlerkultur


Richard Seidl und Katja Radom diskutieren in dieser Podcast-Episode über Fehlerkultur als Grundlage für Softwarequalität und Lernen. Sie fragen, wann ein Fehler beginnt, wie Teams ihn sichtbar machen und wie schnell sie reagieren. Es geht um Rituale wie Retrospektiven, Pairing und Quality Gates, verknüpft mit CI/CD und aussagekräftigen Metriken.

Weiterlesen nach der Anzeige

Führung schafft psychologische Sicherheit, stellt Zeit fürs Üben bereit und macht Qualität zur Teamaufgabe. Persönlich wird es, wenn das Duo über Feedback, das Eingestehen von Irrtümern und internationale Teamdynamik spricht. Am Ende steht die Frage, wie viel Raum Projekte für Experimente lassen und welche Signale ein Team nutzt, um rechtzeitig zu lernen.

Katja Radom ist Director in der Technology-Consulting-Einheit bei EY Deutschland am Standort Hamburg. Als Expertin für Software-Testmanagement verantwortet sie EY Deutschlands Services rund um das Testen von Software, und sie ist in EYs globalem Expertennetzwerk Quality Engineering aktiv vernetzt. Bereits vor ihrem Eintritt bei EY im Jahr 2001 hat sie umfangreiche Erfahrungen in der Einführung von Software im ERP- und IT-Service-Management-Umfeld, in der Beratung und in der Industrie gesammelt. In ihren Projekten hat sie eng mit allen Beteiligten – von den Testern bis hin zum Management der Kunden – zusammengearbeitet, um eine gute Qualität der eingesetzten Systeme zu erreichen.

Sie hat in rein lokal besetzten als auch in internationalen großen Teams gearbeitet, die sich aus Beratern, Kunden und externen Softwareanbietern zusammengesetzt haben. Ihr besonderes Interesse liegt im „Faktor Mensch“ in Softwareeinführungsprojekten, da sie hier einen wichtigen Schlüssel für den Projekterfolg sieht.

Bei diesem Podcast dreht sich alles um Softwarequalität: Ob Testautomatisierung, Qualität in agilen Projekten, Testdaten oder Testteams – Richard Seidl und seine Gäste schauen sich Dinge an, die mehr Qualität in die Softwareentwicklung bringen.

Die aktuelle Ausgabe ist auch auf Richard Seidls Blog verfügbar: „Von der Schuldfrage zur Fehlerkultur – Katja Radom“ und steht auf YouTube bereit.

Weiterlesen nach der Anzeige


(mdo)



Source link

Weiterlesen

Künstliche Intelligenz

Schadsoftware eliminieren: Mit freien Werkzeugen auf Malwarepirsch


Wer bei einem Verdacht auf einem einzelnen Rechner schnell prüfen will, ob sich dort Schadsoftware eingenistet hat, kann dafür verschiedene kostenlose und Open-Source-Tools nutzen. Werkzeuge wie THOR Lite, YARA und ClamAV spüren verdächtige Dateien auf und PersistenceSniper und trawler decken Persistenzmechanismen auf. Ergänzt durch bewährte Tools wie Autoruns, Sigcheck und DensityScout entsteht eine schlagkräftige Sammlung für den Incident-Check. Der Artikel stellt die Werkzeuge im Detail vor, erklärt ihre Ausgaben und zeigt, wie man Malwarefunde bewertet. Um die Werkzeuge greifbar zu machen, greift er auf Beispiele mit der Schadsoftware brbbot.exe zurück, die der zweite Teil der iX-Reihe zum Reverse Engineering analysiert hat.

  • Für die Suche nach Malware auf einzelnen Systemen stehen zahlreiche kostenlose und Open-Source-Tools zur Verfügung.
  • Mit THOR Lite, YARA, ClamAV, Sigcheck und DensityScout lassen sich verdächtige Dateien erkennen, während PersistenceSniper, trawler und Autoruns den Fokus auf Persistenzmechanismen legen.
  • Die Kombination aller Tools ermöglicht ein vollständigeres Bild des Systems und erleichtert die zuverlässige Erkennung von Schadsoftware.

Mit THOR Lite verdächtige Dateien und Prozesse erkennen

Der Scanner THOR Lite eignet sich für einen schnellen Rundumcheck verdächtiger Dateien und Spuren. Es handelt sich um einen Indicators-of-Compromise-Scanner (IOC), der Schadsoftware, Angreifertools und auffällige Aktivitäten auf kompromittierten Systemen erkennt. THOR Lite ist die kostenlose Variante des kommerziellen Produkts von Nextron Systems und erfordert lediglich eine kostenfreie Lizenz, die nach der Eingabe von Kontaktdaten über die Webseite erhältlich ist. Das Tool läuft auf Windows, Linux und macOS, benötigt keine Installation und bringt ein Open-Source-Datenset von rund 4.000 YARA-Regeln mit, darunter solche, die Webshells, Hacktools, bösartige Skripte und Dateien erkennen. Zusätzlich analysiert THOR Lite laufende Prozesse und Netzwerkverbindungen.

Scans lassen sich in unterschiedlichen Modi starten: default, quick, soft oder intense. Für einen besonders gründlichen Scan auf einem Windows-System nutzt man den folgenden Befehl:


Das war die Leseprobe unseres heise-Plus-Artikels „Schadsoftware eliminieren: Mit freien Werkzeugen auf Malwarepirsch“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Senioren-Kommunikator im Eigenbau | heise online


Viele ältere Menschen tun sich mit Smartphones schwer: zu klein die Symbole, zu komplex die Menüs, zu häufig neue Updates. Für Angehörige wird es dann zur Herausforderung, mehr als nur regelmäßig per Telefon in Kontakt zu bleiben.

Aktuelle Fotos der Enkel, von dem Urlaub oder kurze Nachrichten lassen sich nicht mal eben so digital verschicken. Genau dieses Problem war der Auslöser für mein Projekt, denn meine Schwiegereltern wünschten sich, Bilder und kurze Texte erhalten zu können.

  • Vereinfachte Telegram-Schnittstelle für Senioren
  • Nutzt das mobile Datennetz statt WLAN
  • Bedienkonzept für Menschen ohne Technikerfahrung

Daraus entstand eine einfach bedienbare, autarke Kommunikationsbox, die ohne WLAN, Touchscreen und technisches Vorwissen funktioniert – der Senioren-Kommunikator.


Das war die Leseprobe unseres heise-Plus-Artikels „Senioren-Kommunikator im Eigenbau“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt