Connect with us

Künstliche Intelligenz

Warnung vor „wahnhaftem Output“: So sollen KI-Firmen Chatbots sicherer machen


Seit dem Beginn der KI-Ära gibt es nicht nur positive Auswirkungen der smarten Tools. So machen etwa einige Familien OpenAI und ChatGPT für Suizide verantwortlich. Zudem gibt es weitere Berichte darüber, wie gravierend sich die Nutzung von KI auf Personen auswirken kann, deren psychische Gesundheit angeschlagen ist. Diese vergangenen und mögliche zukünftige KI-Probleme rufen in den USA jetzt 42 Generalstaatsanwälte auf den Plan, die die großen KI-Unternehmen in einem Brief verwarnen.

Weiterlesen nach der Anzeige

Der Brief beginnt mit den Worten: „An die Rechtsvertreter von Anthropic, Apple, Chai AI, Character Technologies, Google, Luka, Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika und xAI“. Darauf folgen insgesamt sieben Seiten mit problematischen Entwicklungen rund um KI, wiederum gefolgt von insgesamt vier Seiten mit den Unterschriften aller beteiligten Generalstaatsanwälte.

Im Detail heißt es von den Verantwortlichen, dass sie „ernste Bedenken über die steigende Zahl von kriecherischem und wahnhaftem Output an User“ haben, der von „generativer Künstlicher-Intelligenz-Software“ hervorgeht. Zudem gebe es laut den Generalstaatsanwälten immer mehr „verstörende Berichte über KI-Interaktionen mit Kindern“. Daraus ergebe sich eine sofortige Handlungspflicht für die Betreiber der KI-Tools, um alle Nutzer besser zu schützen.

Als Beispiele nennen die Generalstaatsanwälte Fälle, in denen KI-Nutzer nach Konversationen mit den Tools Selbstmord begingen, andere oder sich selbst verletzten beziehungsweise vergifteten oder aufgrund von KI‑ausgelöster Psychosen im Krankenhaus gelandet sind. In Konversationen mit Minderjährigen sollen mehrere Chatbots hingegen Essstörungen unterstützt, sexuelle Handlungen zwischen Erwachsenen und Kindern normalisiert und Gewalt verherrlicht haben. Zu jedem Vorfall liefern die Generalstaatsanwälte eine Quellenangabe, um sie zu belegen.

Um solche und künftige Vorfälle mit KI zu verhindern, werden die Unternehmen dazu aufgefordert, zusätzliche Sicherheitsvorkehrungen zu treffen. Die Liste der Vorschläge umfasst insgesamt 16 Punkte, die teilweise noch Unterpunkte mit sich bringen. Zunächst sollen die Unternehmen „Richtlinien und Prozesse zu kriecherischem und wahnhaftem Output von generativer KI entwickeln“, um sie anhand dieser Regeln testen und weiter trainieren zu können.

Weiterlesen nach der Anzeige

Sollte eine KI schädlichen Output generieren, sollen die Unternehmen zudem Maßnahmen bereithalten, um sie vollständig vom Markt nehmen zu können. Ferner wollen die Generalstaatsanwälte, dass jederzeit eine Warnung an User ausgespielt wird, die sie vor potenziell gefährlichen Antworten warnen. Ebenso sollen User aktiv informiert werden, wenn es zu solchen Outputs kommt, und es soll einen Kanal geben, über den sie selbst solche Konversationen melden können.

Um Kinder besser zu schützen, sollen Chatbots ihren Output an das Alter der User anpassen können. Ein etwas allgemeinerer Punkt besagt, dass die KI-Entwickler sicherstellen sollen, dass ihre Tools keinen „rechtswidrigen oder illegalen Output für Accounts von Kindern generieren“, der etwa Drogenkonsum, Gewalt und Geheimhaltung vor den Eltern beinhaltet.

Abschließend schreiben die Generalstaatsanwälte: „Wir bitten Sie eindringlich und respektvoll darum, das Problem von kriecherischem und wahnhaftem Output ernst zu nehmen und daran zu arbeiten, das Problem zu beheben. Und wir freuen uns darauf, von Ihnen zu hören.“ Eine offizielle Stellungnahme der angeschriebenen KI-Unternehmen bleibt bisher aus.

Dieser Beitrag ist zuerst auf t3n.de erschienen.


(jle)



Source link

Künstliche Intelligenz

Falscher Druckertoner: Amazon und Brother gewinnen Prozess


Der Internet-Handelskonzern Amazon und der Druckerhersteller Brother haben vor Gericht einen Erfolg gegen Produktfälscher in Europa erzielt. Dabei ging es um gefälschte Tonerkartuschen für Drucker, die im Internet über Amazon verkauft wurden. Das Landgericht Berlin verurteilte eine ganze Reihe von beklagten Personen und Firmen dazu, 500.000 Euro Schadenersatz an Brother zu zahlen. Das nun bekannt gewordene Urteil erging bereits am 1. Juli.

Weiterlesen nach der Anzeige

Außerdem müssen die Beklagten den Firmen Brother und Amazon weitere Schäden ersetzen sowie den Vertrieb nachgefüllter Druckerkartuschen unterlassen, diese herausgeben und Auskunft über die Herkunft und Vertriebswege erteilen. Den Streitwert hatte das Gericht auf 2,2 Millionen Euro festgesetzt.

Die Verkäufer hätten „zumindest fahrlässig gehandelt“, so das Gericht. „Gewerbliche Einkäufer müssen in Anbetracht der weiten Verbreitung von Piraterieware beim Einkauf von Markenwaren regelmäßig deren Echtheit überprüfen.“

Ihre Klage hatten Amazon und Brother 2022 wegen Produktfälschung oder Vertrieb gefälschter Produkte gegen insgesamt 18 Personen und Firmen gestellt. Für einen Teil der Beklagten ist das Urteil rechtskräftig, für andere noch nicht.

Das Gericht stellte in seinem Urteil auch fest, dass bei Durchsuchungen in Berlin bereits 2019 große Mengen gefälschte Tonerkartuschen beschlagnahmt wurden. Andere Kartuschen seien unter der Marke Brother angeboten worden, obwohl sie nachgemacht waren.

Lesen Sie auch

Amazon sprach in einer Mitteilung von einem organisierten Fälschernetzwerk in Deutschland. Die Fälscher hätten leere Original-Tonerkartuschen gekauft und diese mit unechtem Tonerpulver befüllt. Auch hätten sie gefälschte Kartuschen verkauft, die wie Originalprodukte aussehen sollten.

Weiterlesen nach der Anzeige

In Berlin waren Polizei und Staatsanwaltschaft erneut im Februar 2024 mit einer Razzia gegen sechs mutmaßliche Fälscher von Druckerpatronen vorgegangen. Durchsucht wurden 18 Geschäftsräume, Callcenter und Wohnungen in Berlin und im Umland. Die Polizei beschlagnahmte Fälschungsmaterial und Fälschungswerkzeuge sowie Bargeld in sechsstelliger Höhe.

Die Männer sollen mit gefälschten Druckerpatronen und -kartuschen vierteljährlich einen Umsatz von rund 3,5 Millionen Euro gemacht haben, hieß es in der damaligen Mitteilung der Staatsanwaltschaft. Das Geld sei dann über ungarische Strohleute und deutsche Konten an die Bande geflossen. Bekannt wurde der mutmaßliche Betrug demnach durch Anzeigen von Brother und Amazon. Testkäufe hätten den Verdacht bestätigt, so die Staatsanwaltschaft.


(afl)



Source link

Weiterlesen

Künstliche Intelligenz

Vier In-Ear-Kopfhörer im Test | heise online


Apple, Samsung, Sony, Bose: Wer kabellose In-Ear-Kopfhörer kaufen will und nichts Anonymes von der Resterampe haben möchte, wird bei den großen Herstellern vermutlich am ehesten die Qualität finden, die man sucht. Doch tatsächlich gibt es Exoten, die technisch mehr auf dem Kasten haben und mit teilweise ungewöhnlicher Ausstattung aufwarten, zum Beispiel mit Auracast oder mit edlen Magnetostaten.

Wir haben uns vier Modelle angehört, die besonders guten Klang versprechen. Den preislichen Einstieg bilden die Creative Aurvana Ace 3 für 150 Euro, die wie die doppelt so teuren Pro X des New Yorker Start-ups Status Audio mit mehreren Soundtreibern pro Kopfhörer bestückt sind. Bei den Edifier Neobuds Planar (ab 200 Euro) handelt es sich um Magnetostaten und Technics experimentiert für die EAH-AZ100 mit Magnetpartikeln in Flüssigkeit.

Optisch handelt es sich bei allen um ganz normale In-Ears: Drei der vier Probanden bestehen aus einem kleinen Ohrteil und einem Steg, der aus dem Ohr herausragt. Die knubbeligen Technics verschwinden fast ganz in der Ohrmuschel. Modelle mit außen liegendem Steg sitzen vor allem in kleineren Ohren komfortabler, weil die bei ihnen kleineren Ohrteile weniger Druckschmerz erzeugen. Die Technics halten dafür fester und sind besser für sportliche Aktivitäten geeignet. Alle In-Ears sitzen in Lade-Cases aus Kunststoff. Transportfreundlich sind die von Creative und Technics, die anderen beiden tragen in der Hosentasche dick auf, siehe Maße in der Tabelle unten.


Das war die Leseprobe unseres heise-Plus-Artikels „Vier In-Ear-Kopfhörer im Test“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Künftiger EnBW-Chef: „Kritik an E-Autos oft zu emotional“


Unterschiedliche Tarife fürs Laden von Elektrofahrzeugen sind für den künftigen Chef der E-Mobilitäts-Sparte beim Karlsruher Energiekonzern EnBW unausweichlich. Nur so könnten Verbraucher für sie passende Bezahlmodelle finden. Die einen laden viel zu Hause, andere eher an öffentlichen Ladepunkten, argumentiert Martin Roemheld. Der 52-Jährige tritt sein Amt zum Jahreswechsel an. Zuvor war er unter anderem Produktleiter beim Ladeanbieter BP Pulse und Head of E-Mobility Services bei VW.

Weiterlesen nach der Anzeige

Laden und Tanken ist aus Sicht von Roemheld nicht vergleichbar „In der Tankwelt war das einfacher: Da kann keiner zu Hause tanken“, räumte der Maschinenbauingenieur ein. Bei der E-Mobilität werde die Lade-Infrastruktur aber unterschiedlich genutzt, daher müssten auch unterschiedliche Tarife je nach den Bedürfnissen angeboten werden. Man dürfe auch nicht versuchen, vom Literpreis beim Benzin auf eine vergleichbare einheitliche Größe beim Laden zu kommen. „Die Vorstellung, ein Liter kostet für alle 1,50 Euro, greift nicht mehr“, sagte Roemheld. Hilfreich und sinnvoll wären aus seiner Sicht Vergleichsmöglichkeiten wie beim Telefonieren. „Da kann ja auch jeder schauen, was zum eigenen Bedarf am besten passt.“

Kritik an der E-Mobilität und den Kosten hält der Manager entgegen: „Die Debatte wird oft zu wenig rational und viel zu emotional geführt.“ Wichtig ist aus Roemhelds Sicht, dass E-Fahrzeuge inzwischen in wenigen Minuten so viel Strom laden können, dass sie relevante Reichweiten von einigen Hundert Kilometern bewerkstelligen. Auch sei die Infrastruktur inzwischen in Deutschland gut ausgebaut. „Die Stammtischparolen können wir abräumen.“

Häufig werde auch bemängelt, dass Elektromobilität für Menschen ohne heimische Lademöglichkeit unpraktisch sei. Die EnBW adressiere dieses Thema mit einem breiten Angebot an öffentlichen Schnellladepunkten. Dass er nun zum Marktführer in Deutschland beim Ladeangebot wechselt, begründete Roemheld mit dem Ansporn: „Diesen Vorsprung auch bei einem wachsenden Wettbewerb erfolgreich zu sichern, reizt mich ungemein.“ Der Markt sei groß genug für eine relevante Zahl an Wettbewerbern.

Lesen Sie mehr zum Thema Elektromobilität


(mfz)



Source link

Weiterlesen

Beliebt