Connect with us

Künstliche Intelligenz

Diese Werkzeuge sollen Kunstwerke vor KI schützen – doch die lassen sich umgehen


Forschende haben demonstriert, dass es möglich ist, bestehende Schutzmaßnahmen gegen unerwünschtes KI-Training auszuhebeln. Das Verfahren, das die Wissenschaftler Lightshed getauft haben, ist jetzt das jüngste Beispiel für ein Katz-und-Maus-Spiel zwischen Kreativen und Anbietern generativer KI, das zunehmend auch vor Gericht ausgetragen wird. Generative KI-Modelle, die Bilder erstellen können, müssen vorab anhand einer Masse von Bildmaterial angelernt werden. Die für dieses Training verwendeten Datensätze enthalten Kritikern zufolge oft urheberrechtlich geschütztes Material, das ohne jede Genehmigung genutzt wird. Dies beunruhigt Kreative, die befürchten, dass die Modelle ihren Stil lernen, ihre Werke imitieren und sie damit letztlich arbeitslos machen.

Ab 2023 wurden jedoch einige potenzielle Verteidigungsmittel entwickelt, als Teams Programme wie Glaze und Nightshade herausbrachten, die Bildmaterial im Netz schützen, indem sie es für KI-Trainingszwecke „vergifteten“. (Der Beteiligte Shawn Shan wurde im vergangenen Jahr sogar für seine Arbeit daran zum Innovator des Jahres der US-Ausgabe von MIT Technology Review gekürt.). Die Macher hinter dem Lightshed-Projekt behaupten jedoch, diese und ähnliche Tools unterlaufen zu können, sodass die Bildwerke wieder problemlos zu Trainingszwecken verwendet werden können.

Um es klar zu sagen: Die Forscher hinter Lightshed versuchen nicht etwa, Werke von Künstlern zu stehlen. Sie wollen nur nicht, dass die Kreativen sich in falscher Sicherheit wiegen. „Man kann eben nicht sicher sein, dass Unternehmen keine Methoden haben, um dieses KI-Gift zu entfernen. Das wird den Kreativen aber niemand sagen“, meint Hanna Foerster, Doktorandin an der Universität Cambridge und Hauptautorin der Studie. Deshalb sei es wichtig, diese Methoden jetzt zu erkennen.

KI-Modelle funktionieren zum Teil dadurch, dass sie implizit Grenzen zwischen verschiedenen Kategorien von Bildern ziehen. Glaze und Nightshade verändern deshalb eine ausreichende Anzahl von Bildpunkten, um ein Werk über diese Grenze hinweg zu verschieben, ohne die für den Nutzer sichtbare Bildqualität zu beeinträchtigen. KI-Modelle ordnen die eingelesenen Bilder dann falsch ein, was das Training verunmöglicht. Oder zusammengefasst: Die für Menschen fast unmerklichen Veränderungen werden als Störungen bezeichnet und beeinträchtigen die Fähigkeit des KI-Modells, ein Bildwerk zu verstehen.

Glaze führt praktisch dazu, dass KI-Modelle einen Bildstil falsch interpretieren (zum Beispiel ein fotorealistisches Gemälde als Cartoon). Nightshade hingegen führt dazu, dass das Modell das Motiv grundsätzlich falsch erkennt (etwa eine Katze in einer Zeichnung als Hund). Glaze wird verwendet, um den individuellen Stil eines Künstlers zu schützen, während Nightshade dazu dient, das Training von KI-Modellen generell zu unterbinden, die das Internet nach Kunstwerken durchsuchen. Foerster wollte zeigen, dass das nicht unbedingt erfolgreich ist. Sie arbeitete mit einem Team von Forschern der TU Darmstadt und der University of Texas in San Antonio zusammen, um Lightshed zu entwickeln. Sein Trick: Das Werkzeug lernt, wo genau Tools wie Glaze und Nightshade diese Art von digitalem Gift digital auf Bildwerke aufbringen, damit es diese effektiv entfernen kann. Die Gruppe wird ihre gesamten Ergebnisse im August auf dem Usenix Security Symposium, einer weltweit führenden Konferenz zum Thema Cybersicherheit, vorstellen.

Die Forscher lernten Lightshed an, indem sie ihm Bildwerke vor und nach dem Durchlauf von Nightshade, Glaze und anderen Sicherheitstools fütterten. Foerster beschreibt den Prozess als ein Training, „nur das Gift auf vergifteten Bildern“ zu rekonstruieren. Die Identifizierung jener Grenze, ab der die Zusatzmerkmale eine KI tatsächlich verwirren, mache es einfacher, nur diese „abzuwaschen“.

LightShed ist dabei laut der Forscher extrem effektiv. Während andere Forscher einzelne einfache Wege gefunden haben, die Methodik der Sicherheitstools zu unterlaufen, ist LightShed anpassungsfähiger. Es kann sogar das, was es von einem Anti-KI-Tool – beispielsweise Nightshade – gelernt hat, auf andere Schutzwerkzeuge wie Mist oder MetaCloak anwenden, ohne diese zuvor kennengelernt zu haben.

Zwar hat es einige Schwierigkeiten mit geringen Dosen des digitalen Gifts, das man auch Poisoning nennt. Doch diese beeinträchtigen die Fähigkeit der KI-Modelle, die zugrunde liegenden Bildwerke zu verstehen, in der Regel nicht, sodass es zu einer Win-Win-Situation für die KI wird – oder einer Lose-Lose-Situation für die Künstler, die diese Schutztools verwenden.

Rund 7,5 Millionen Menschen, darunter viele Kreative mit kleiner und mittlerer Fangemeinde und geringen Ressourcen, haben Glaze bereits heruntergeladen, um ihre Kunst zu schützen. Diejenigen, die Tools wie Glaze verwenden, sehen darin eine wichtige technische Verteidigungslinie, insbesondere solange die Regulierung im Bereich KI-Training und Urheberrecht noch ungeklärt ist. Die Autoren von Lightshed betrachten ihre Arbeit als Warnung, dass Tools wie Glaze keine dauerhaften Lösungen sind. „Es könnten noch einige Versuche nötig sein, um bessere Ideen für diesen Schutz zu entwickeln“, sagt Foerster.

Die Entwickler von Glaze und Nightshade scheinen dieser Ansicht zuzustimmen: Auf der Website von Nightshade wurde bereits vor Beginn der Arbeit an Lightshed darauf hingewiesen, dass das Tool nicht grundsätzlich zukunftssicher sei. Shan, der die Forschung zu beiden Tools geleitet hat, ist dennoch nach wie vor davon überzeugt, dass Abwehrmaßnahmen wie die seinen sinnvoll sind, auch wenn es Möglichkeiten gibt, sie zu umgehen.

„Es ist eine Abschreckung.“ Also eine Möglichkeit, KI-Unternehmen zu warnen, die Bedenken der Kreativen ernstzunehmen. Das Ziel sei es, so viele Hindernisse wie möglich aufzubauen, damit die Firmen dazu genötigt sind, direkt mit ihnen zu arbeiten. Shan glaubt, dass „die meisten Kreativen verstehen, dass dies nur eine vorübergehende Lösung ist“. Es sei dennoch sinnvoll, erste Hürden gegen die unerwünschte Nutzung ihrer Werke zu errichten.

Foerster hofft nun, dass die Erkenntnisse aus der Lightshed-Entwicklung dabei helfen, neue Abwehrmaßnahmen für Kreative zu entwickeln. Dazu gehören clevere Wasserzeichen, die auch nach der Bearbeitung durch ein KI-Modell im Output erhalten bleiben. Die Forscherin glaubt zwar nicht, dass dies ein Werk für immer vor KI schützen wird. Es gehe aber darum, das Gleichgewicht wieder in Richtung der Kreativen zu verschieben.

Dieser Beitrag ist zuerst bei t3n.de erschienen.


(jle)



Source link

Weiterlesen
Kommentar schreiben

Leave a Reply

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Künstliche Intelligenz

Fair produziertes und reparierbares Fairphone 6 im Test


Das Fairphone 6 bleibt seinen Wurzeln treu: fair produzierte Rohstoffe, wo immer es geht, ein modularer Aufbau, damit Kunden defekte Bauteile in wenigen Minuten selbst tauschen können, und dazu lange Support- und Garantiezeiten. Damit trifft das niederländische Unternehmen bei vielen potenziellen Kunden ins Schwarze.

Wer diese Werte wünscht und teilt, musste bislang an anderen Stellen Abstriche in Kauf nehmen, denn vorherige Fairphone-Modelle waren weder besonders flott und schick, noch glänzten sie mit brillanten Fotos. Diesen wichtigen Baustellen haben die Niederländer sich nun gewidmet und wollen beim Fairphone 6 einige Makel behoben haben. Wir haben das neue Modell auf den Prüfstand gestellt.

Wie schon bei den Vorgängermodellen legt der Hersteller auch beim Fairphone 6 großen Wert darauf, das Gerät umwelt- und arbeitnehmerfreundlich herzustellen. Es besteht zu über 50 Prozent – bezogen auf das Gesamtgewicht – aus fair geförderten oder recycelten Materialien und stellt eine Verbesserung gegenüber den 42 Prozent beim Fairphone 5 dar.


Das war die Leseprobe unseres heise-Plus-Artikels „Fair produziertes und reparierbares Fairphone 6 im Test“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Mobilfunknetz mit teils deutlichen regionalen Lücken


Im deutschen Mobilfunknetz ist die Abdeckung insgesamt hoch, es zeigen sich aber weiterhin regionale Lücken. Das ist das Ergebnis der ersten bundesweiten Mobilfunkmesswoche. Demnach lagen rund 98 Prozent der Messpunkte in den beiden modernsten Netztechnologien 4G und 5G. Funklöcher hätten in weniger als einem Prozent der erfassten Messpunkte vorgelegen, teilte die Bundesnetzagentur auf Anfrage mit. In einigen Gebieten zeigten sich aber noch größere Versorgungslücken.

Bei der Mobilfunkmesswoche sei es darum gegangen, den Daten der Netzbetreiber die Nutzerperspektive gegenüberzustellen, sagte René Henn von der Bundesnetzagentur im Rahmen einer Tagung der Mobilfunkinfrastrukturgesellschaft (MIG) in Naumburg. Mehr als 150.000 Menschen beteiligten sich nach Angaben der Bundesnetzagentur an der Messwoche im Mai. Per Funkloch-App auf den Handys der Nutzer wurden Daten anonymisiert gespeichert und an die Bundesnetzagentur weitergegeben. Die Daten würden jetzt genutzt, um die von den Netzbetreibern gemeldete Versorgung zu überprüfen und sie mit strukturellen oder auffallenden lokalen Diskrepanzen zu konfrontieren, so ein Sprecher der Bundesnetzagentur.

Vor allem in einigen Teilbereichen des Harz, von Stendal und Wittenberg zeigten sich den Daten zufolge noch größere Versorgungslücken. So wurde etwa bei 2,4 Prozent der Messpunkte im Harz kein Netz festgestellt. Und bei 3,4 Prozent der Messfläche lag nur eine 2G-Technologie vor, die aufgrund der Übertragungsraten nur für Telefonie und SMS-Versand geeignet ist. In einigen Landkreisen, wie dem Altmarkkreis Salzwedel, dem Harz und dem Salzlandkreis, sei 2G weiterhin spürbar im Einsatz, so das Fazit der Mobilfunkwoche. Zwar dominierten moderne Netze, regionale Unterschiede seien aber deutlich sichtbar.

Die größten Lücken zeigten sich laut Auswertung in Baden-Württemberg und Rheinland-Pfalz. Hier wurde jeweils bei 1,12 Prozent der Messpunkte kein verfügbares Netz festgestellt. Deutschlandweit war dies bei 0,76 Prozent der Messpunkte der Fall. In 1,27 Prozent der Messungen war nur ein 2G-Netz verfügbar. Hier zeigten sich in Mecklenburg-Vorpommern mit 2,25 Prozent die größten Gebiete.

Das Bundesministerium für Digitales bewertet die Ergebnisse der Messwoche als Erfolg. Es seien rund 145 Millionen valide Messpunkte erfasst worden, sodass das Konzept der Messwoche ausgeweitet werden solle, teilte ein Sprecher des Ministeriums mit. Durch die gemeldeten Daten seien rund 16 Prozent der Bundesfläche erfasst worden. Zwar könnten auf dieser Basis keine generellen Aussagen zur Versorgungslage in Deutschland getroffen werden, aber die Messungen böten Aufschluss, in welchen Gebieten die Herausforderungen des Netzausbaus besonders groß seien.


(nen)



Source link

Weiterlesen

Künstliche Intelligenz

EU-Parlament: China setzt Ausfuhrschranken für seltene Erden als Waffe ein


Das Europäische Parlament hat die EU-Kommission aufgefordert, möglichst rasch auf die von China verhängten Ausfuhrbeschränkungen für seltene Erden zu reagieren. Sie folgten im April als Reaktion auf erhöhte US-Zölle auf chinesische Produkte. In einer Resolution verurteilen die EU-Abgeordneten diese Entscheidung Pekings am Donnerstag „aufs Schärfste“. Sie wurde der großen Mehrheit von 523 zu 75 Stimmen angenommen. Durch die Exporthürden für sieben kritische Rohstoffe und Magnete würden Lieferketten erheblich gestört, „die für die Automobilindustrie, Hersteller von Rüstungsgütern, Halbleiterunternehmen, grüne Technologien, Anwendungen im Gesundheitswesen und viele weitere Wirtschaftszweige in der EU sowie weltweit unerlässlich sind“.

In der Entschließung moniert das Parlament, dass das Vorgehen Chinas ungerechtfertigt sei und das Reich der Mitte seine Versorgungsketten für seltene Erden „als Waffe“ einsetze. Die Volksvertreter zeigen sich „zutiefst besorgt“ über die von den chinesischen Staatsorganen auferlegten Anforderungen, nach denen Antragsteller sensible Daten offenlegen müssen, wenn sie Ausfuhrgenehmigungen beantragen. Damit verbunden sei ein erhebliches Risiko des Abflusses sicherheitsrelevanter Geschäfts- und Staatsgeheimnisse im Technologiesektor.

An die Kommission und die Mitgliedsstaaten appelliert das Parlament, die Umsetzung der EU-Verordnung zu kritischen Rohstoffen zu beschleunigen. Mit ihr soll sichergestellt werden, dass die EU einen sicheren, diversifizierten und nachhaltigen Zugang zu Rohstoffen hat. Die EU müsse Bereiche ermitteln, in denen sie entscheidende Vorteile gegenüber China bei wesentlichen Gütern und Technologien hat, sowie diese nutzen und ausbauen. Berichten zufolge stehen einige europäische Hersteller wegen eines Mangels an seltenen Erden vor einem Produktionsstopp. Zudem haben sich die entsprechenden Metalle stark verteuert.

Die Abgeordneten unterstreichen, dass die EU im eigenen Hoheitsgebiet Abbau kritischer Rohstoffe betreiben und einschlägige Verarbeitungskapazitäten wiederherstellen müsse. Ebenso verlangen sie den Abschluss bilateraler strategischer Partnerschaften für seltene Erden, die auf echten, für beide Seiten vorteilhaften Partnerschaften beruhen und hohen Nachhaltigkeits- und Menschenrechtsstandards gerecht werden. Die Kommission und die EU-Länder müssten zudem das Mindestniveau für Bestände an strategischen Rohstoffen und die entsprechenden Endanwendungen bewerten. Der gesamte Komplex soll dem Parlament zufolge auf dem bevorstehenden Gipfeltreffen zwischen der EU und China, das für den 24. und 25. Juli geplant ist, zur Sprache kommen.

Lesen Sie auch


(nen)



Source link

Weiterlesen

Beliebt