Connect with us

Künstliche Intelligenz

US-Behörde untersucht Chatbots auf Kindersicherheit


Wie messen, testen und überwachen US-Datenkonzerne ihre öffentlichen KI-Chatbots auf deren negative Auswirkungen auf Kinder und Jugendliche? Dieser Frage geht die US-Bundesbehörde FTC (Federal Trade Commission). Dazu hat sie interne Unterlagen von Alphabet, Character Technologies, Meta Platforms (inklusive Instagram), OpenAI, Snap und X.Ai angefordert.

Besondere Sorge hat die FTC in Bezug auf Fälle, bei denen ein Chatbot nicht für ein einzelnes Anliegen kurz benutzt wird, sondern wenn er länger, als Bezugsperson (Companion), fungiert. Die behördliche Untersuchung soll laut Mitteilung ergründen, welche Schritte die Firmen gesetzt haben, um die Sicherheit ihrer Chatbots bei Einsatz als Bezugsperson zu evaluieren, die Nutzung durch Kinder und Jugendliche einzuschränken und potenzielle negative Effekte auf sie hintanzuhalten, und wie sie die Anwender und deren Eltern auf die von ihren Bots ausgehenden Gefahren hinweisen. Zudem will sie die Einhaltung des US-Kinderdatenschutzrechts (beruhend auf dem Gesetz COPPA) überprüfen und sich über die Geschäftsmodelle informieren.

Aktueller Anlass sind die Mitte August durchgesickerten internen Richtlinien Meta Platforms für Training wie Betrieb generativer KI (GenAI: Content Risk Standards). Sie erlauben Rassismus, falsche medizinische Behauptungen und anzügliche Chats mit Minderjährigen. Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchführen, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat.

Nach einer Anfrage Reuters hat Meta den Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt, entfernt. Das muss man Meta glauben: Die neuen Richtlinien hält der Datenkonzern unter Verschluss. Da ist es kein Wunder, dass Behörden genauer hinschauen. Ein US-Senator hat bereits eine Untersuchung Metas angeregt, ein anderer möchte amerikanische KI-Unternehmen hingegen ein Jahrzehnt lang ohne rechtliche Einschränkungen frei experimentieren lassen.

In den USA sind bereits mehrere Klagen hinterbliebener Eltern gegen Betreiber generativer KI-Chatbots anhängig, weil sie Kinder in den Suizid getrieben, dabei mit Anleitungen und Ermunterungen unterstützt und/oder keine Hilfe organisiert haben sollen. Im August haben die Justizminister aus 44 US-Staaten der KI-Branche die Rute ins Fenster gestellt. „Ihr werdet dafür verantwortlich gemacht, wenn Ihr wissentlich Kindern schadet“, heißt es in einem offenen Brief, den die National Association of Attorneys General an mehrere Datenkonzerne geschickt hat. Es gäbe bereits Hinweise auf strukturelle und systematische Gefahren, die von KI-Assistenten für Heranwachsende ausgehen.


(ds)



Source link

Künstliche Intelligenz

iOS-26-Leak: Angeklagter will nur ein Fanboy sein


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

In dem Rechtsstreit zwischen Apple und dem bekannten YouTuber und Leaker Jon Prosser liegen nun die ersten Reaktionen der Angeklagten vor. Der mutmaßliche Komplize Prossers und Mitangeklagte Michael Ramacciotti ließ dem Gericht über seinen Anwalt mitteilen, dass er sein Leben lang ein Apple-Fanboy gewesen sei und bei der Aktion, bei der das neue Design von iOS 26 enthüllt wurde, Geld keine Rolle gespielt habe. Bei Prosser gibt es hingegen widersprüchliche Angaben: Während Apple vor Gericht ein Versäumnisurteil gegen ihn erwirken will, weil er sich nicht gemeldet habe, beteuerte Prosser in Medienberichten, er stünde mit Apple in Kontakt.

Weiterlesen nach der Anzeige

In dem kuriosen Fall wirft Apple Prosser und Ramacciotti vor, dass sie sich illegal Zugang zum Firmen-iPhone eines Apple-Beschäftigten verschafft hätten. Auf diesem Gerät sei eine frühe Testversion von iOS 26 installiert gewesen, die den beiden Einblick in das geplante Redesign Liquid Glass gewährte. Der betroffene Mitarbeiter sei ein Freund Ramacciottis gewesen. Prosser und Ramacciotti hätten einen Plan geschmiedet, um an den Passcode des Mitarbeiters zu gelangen und dessen iPhone in dessen Abwesenheit zu öffnen. Dabei habe Ramacciotti einen FaceTime-Anruf zu Prosser gestartet, den dieser aufnahm. Aus den gewonnenen Erkenntnissen habe Prosser wiederum auf YouTube und in Veröffentlichung von Bildern berichtet.

Apple wirft den beiden die Verletzung von Geschäftsgeheimnissen und Diebstahl vor. Prosser hatte unter anderem im April das veränderte Aussehen der Kamera-App und anderer Designelemente in iOS 26 vorab publik gemacht. Apples offizielle Vorstellung fand im Juni statt.

Dass sich Ramacciotti nun darauf zurückzieht, kein professioneller Leaker zu sein, könnte der Versuch sein, dass das Gericht die Aktion nicht als gewerbsmäßige Straftat bewertet. Ramacciotti soll sich außerdem auch in Gespräch mit Apple befinden, um einen außergerichtlichen Vergleich zu schließen. Der iPhone-Hersteller zeigte sich zuletzt besorgt, dass Ramacciotti wichtige Beweise löschen könnte. Dazu zählt das Unternehmen Tausende Textnachrichten, die unter anderem zwischen ihm und Prosser verschickt wurden.

Weiterlesen nach der Anzeige

Welchen Stand das Verfahren hingegen bei Prosser hat, der immer wieder mit skandalträchtigen Aktionen und Videos auf sich aufmerksam macht, ist unklar. Auf offiziellen Kanälen erwirkte Apple ein Versäumnisurteil des Gerichts, da es Prosser unterließ, fristgemäß auf die Klage Apples zu reagieren. Gegenüber dem US-Tech-Portal „The Verge“ behauptete Prosser hingegen, er befinde sich in Gesprächen mit Apple, könne jedoch nichts über deren Inhalt preisgeben.


(mki)



Source link

Weiterlesen

Künstliche Intelligenz

OpenAIs nächster Musik-Generator vielleicht für Sora


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Bei Chatbots und Video-Generatoren gilt OpenAI als Technologieführer, nicht aber bei vollständig per KI generierter Musik – das soll sich bald ändern. Jedenfalls, wenn man einem Bericht von „The Information“ glauben will, der auf mehreren namentlich nicht genannten Quellen basiert. OpenAI soll demnach an einem neuen Musik-Generator arbeiten, nachdem das Unternehmen bereits die Modelle Musenet und Jukebox entwickelt hat. Beide sind jedoch nicht öffentlich zugänglich.

Weiterlesen nach der Anzeige

Das neue, und noch nicht mit einem Namen bekannte Tool soll ähnlich wie der Videogenerator Sora 2 arbeiten. Dem Bericht zufolge kann man sowohl mit Text- wie Audio-Prompts Musik erstellen lassen. Auch Sora 2 kann mit Eingaben per Text, Bild oder Video umgehen. Als Beispiel für den Musik-Generator wird eine existierende Gesangsaufnahme genannt, zu der die KI eine Gitarrenbegleitung erfinden kann.

Aber auch vollständige Stücke, samt Gesang aus der Retorte, soll das System erstellen können. Das ist eine Fähigkeit, die ChatGPT bisher nicht bietet. Andere KI-Anbieter wie Suno oder Udio können aber genau das. Bei diesen Diensten ist es auch möglich, Musik im Stil von bekannten Genres errechnen zu lassen. Die Ergebnisse wirken je nach Promptaufwand mehr oder weniger authentisch.

Wie OpenAI seine neue Musik-KI anbieten will, geht aus dem Bericht noch nicht hervor. Sora 2 erschien als eigenständige App. Und bei Sora könnte auch der größte Nutzen liegen. Die aktuelle Version des Video-Generators kann zwar Dialoge, Soundeffekte und einfache Versatzstücke von Musik erfinden, nicht aber einen kompletten Soundtrack. Im menschengemachten Filmgeschäft komponieren Musiker oft anhand des fertig geschnittenen Werks genau für die einzelnen Szenen, was Editoren oder Regisseure dann aber nicht immer übernehmen.

Was Sora 2 anhand des Kontexts einer Szene kann, ist auch, die Inhalte dazu zu erfinden, wie wir bereits selbst ausprobiert haben. Sollte es OpenAI gelingen, zum Inhalt und der Stimmung eines Videos auch wirklich passende Musik zu erstellen, wäre das eine neue Dimension. „The Information“ vermutet, dass OpenAI es mit der Kombination aus Musik und Video zuerst auf den Markt für Werbeclips abgesehen hat. Ähnliches hatte Adobe mit seinem Bild-Generator und dem Slogan „Skip the Photoshoot“ bereits vor anderthalb Jahren versucht, und starken Gegenwind aus der Werbebranche kassiert.

Weiterlesen nach der Anzeige


(nie)



Source link

Weiterlesen

Künstliche Intelligenz

Fotolocations auf Teneriffa: ein Paradies für Landschaftsfotografen


Insbesondere zu den Tagesrandzeiten, wenn die großen Hotelbusse noch – oder schon wieder – auf den Parkplätzen stehen, ist Teneriffa ein wahres Paradies für Landschaftsfotografen. Seit 1999 bereise ich die Insel und habe zahllose Orte besucht und fotografiert. Die Insel hat 458 Einwohnern pro Quadratkilometer, was knapp den Niederlanden entspricht. Doch die meisten Insulaner leben in den größeren Ballungszentren entlang der Küsten, die sich von Icod entlang der Nordküste über Puerto de la Cruz bis La Laguna und Santa Cruz in der Senke zwischen den beiden Gebirgszügen der Insel erstrecken. Wirklich unberührte Natur gibt es allerdings wenig, in fast jedem Bild sieht man Zeichen der Zivilisation, sei es eine Straße, ein Pfad oder ein Haus.

Ich habe Ihnen für diesen Artikel einen Querschnitt meiner Lieblingsfotolocations herausgesucht. Dabei habe ich auf solche verzichtet, die in Naturschutzgebieten liegen und eine Genehmigung benötigen, sowie solche, die das Wandern längerer Strecken umfassen, da dies den Umfang des Guides sprengen würde.

Einen letzten, vielleicht etwas bitteren Hinweis muss ich noch vorwegnehmen: Diebstahl ist ein ernstes Problem auf Teneriffa. Ich kenne drei Fotografenkollegen persönlich, deren Equipment aus dem Auto gestohlen wurde. Lassen Sie daher niemals Wertsachen im Pkw. Wie ich von der örtlichen Polizei erfahren habe, sind die Banden auf diese Art des Diebstahls spezialisiert und hervorragend organisiert.


Das war die Leseprobe unseres heise-Plus-Artikels „Fotolocations auf Teneriffa: ein Paradies für Landschaftsfotografen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt