Seit dem Beginn der KI-Ära gibt es nicht nur positive Auswirkungen der smarten Tools. So machen etwa einige Familien OpenAI und ChatGPT für Suizide verantwortlich. Zudem gibt es weitere Berichte darüber, wie gravierend sich die Nutzung von KI auf Personen auswirken kann, deren psychische Gesundheit angeschlagen ist. Diese vergangenen und mögliche zukünftige KI-Probleme rufen in den USA jetzt 42 Generalstaatsanwälte auf den Plan, die die großen KI-Unternehmen in einem Brief verwarnen.

Warum die Generalstaatsanwälte eine Gefahr in KI sehen

Der Brief beginnt mit den Worten: „An die Rechtsvertreter von Anthropic, Apple, Chai AI, Character Technologies, Google, Luka, Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika und xAI“. Darauf folgen insgesamt sieben Seiten mit problematischen Entwicklungen rund um KI, wiederum gefolgt von insgesamt vier Seiten mit den Unterschriften aller beteiligten Generalstaatsanwälte.

Im Detail heißt es von den Verantwortlichen, dass sie „ernste Bedenken über die steigende Zahl von kriecherischem und wahnhaftem Output an User“ haben, der von „generativer Künstlicher-Intelligenz-Software“ hervorgeht. Zudem gebe es laut den Generalstaatsanwälten immer mehr „verstörende Berichte über KI-Interaktionen mit Kindern“. Daraus ergebe sich eine sofortige Handlungspflicht für die Betreiber der KI-Tools, um alle Nutzer besser zu schützen.

Als Beispiele nennen die Generalstaatsanwälte Fälle, in denen KI-Nutzer nach Konversationen mit den Tools Selbstmord begingen, andere oder sich selbst verletzten beziehungsweise vergifteten oder aufgrund von KI‑ausgelöster Psychosen im Krankenhaus gelandet sind. In Konversationen mit Minderjährigen sollen mehrere Chatbots hingegen Essstörungen unterstützt, sexuelle Handlungen zwischen Erwachsenen und Kindern normalisiert und Gewalt verherrlicht haben. Zu jedem Vorfall liefern die Generalstaatsanwälte eine Quellenangabe, um sie zu belegen.

Diese Maßnahmen sollen die Unternehmen jetzt ergreifen

Um solche und künftige Vorfälle mit KI zu verhindern, werden die Unternehmen dazu aufgefordert, zusätzliche Sicherheitsvorkehrungen zu treffen. Die Liste der Vorschläge umfasst insgesamt 16 Punkte, die teilweise noch Unterpunkte mit sich bringen. Zunächst sollen die Unternehmen „Richtlinien und Prozesse zu kriecherischem und wahnhaftem Output von generativer KI entwickeln“, um sie anhand dieser Regeln testen und weiter trainieren zu können.

Sollte eine KI schädlichen Output generieren, sollen die Unternehmen zudem Maßnahmen bereithalten, um sie vollständig vom Markt nehmen zu können. Ferner wollen die Generalstaatsanwälte, dass jederzeit eine Warnung an User ausgespielt wird, die sie vor potenziell gefährlichen Antworten warnen. Ebenso sollen User aktiv informiert werden, wenn es zu solchen Outputs kommt, und es soll einen Kanal geben, über den sie selbst solche Konversationen melden können.

Um Kinder besser zu schützen, sollen Chatbots ihren Output an das Alter der User anpassen können. Ein etwas allgemeinerer Punkt besagt, dass die KI-Entwickler sicherstellen sollen, dass ihre Tools keinen „rechtswidrigen oder illegalen Output für Accounts von Kindern generieren“, der etwa Drogenkonsum, Gewalt und Geheimhaltung vor den Eltern beinhaltet.

Abschließend schreiben die Generalstaatsanwälte: „Wir bitten Sie eindringlich und respektvoll darum, das Problem von kriecherischem und wahnhaftem Output ernst zu nehmen und daran zu arbeiten, das Problem zu beheben. Und wir freuen uns darauf, von Ihnen zu hören.“ Eine offizielle Stellungnahme der angeschriebenen KI-Unternehmen bleibt bisher aus.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)

Apple, Samsung, Sony, Bose: Wer kabellose In-Ear-Kopfhörer kaufen will und nichts Anonymes von der Resterampe haben möchte, wird bei den großen Herstellern vermutlich am ehesten die Qualität finden, die man sucht. Doch tatsächlich gibt es Exoten, die technisch mehr auf dem Kasten haben und mit teilweise ungewöhnlicher Ausstattung aufwarten, zum Beispiel mit Auracast oder mit edlen Magnetostaten.

Wir haben uns vier Modelle angehört, die besonders guten Klang versprechen. Den preislichen Einstieg bilden die Creative Aurvana Ace 3 für 150 Euro, die wie die doppelt so teuren Pro X des New Yorker Start-ups Status Audio mit mehreren Soundtreibern pro Kopfhörer bestückt sind. Bei den Edifier Neobuds Planar (ab 200 Euro) handelt es sich um Magnetostaten und Technics experimentiert für die EAH-AZ100 mit Magnetpartikeln in Flüssigkeit.

Optisch handelt es sich bei allen um ganz normale In-Ears: Drei der vier Probanden bestehen aus einem kleinen Ohrteil und einem Steg, der aus dem Ohr herausragt. Die knubbeligen Technics verschwinden fast ganz in der Ohrmuschel. Modelle mit außen liegendem Steg sitzen vor allem in kleineren Ohren komfortabler, weil die bei ihnen kleineren Ohrteile weniger Druckschmerz erzeugen. Die Technics halten dafür fester und sind besser für sportliche Aktivitäten geeignet. Alle In-Ears sitzen in Lade-Cases aus Kunststoff. Transportfreundlich sind die von Creative und Technics, die anderen beiden tragen in der Hosentasche dick auf, siehe Maße in der Tabelle unten.

Das war die Leseprobe unseres heise-Plus-Artikels „Vier In-Ear-Kopfhörer im Test“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Unterschiedliche Tarife fürs Laden von Elektrofahrzeugen sind für den künftigen Chef der E-Mobilitäts-Sparte beim Karlsruher Energiekonzern EnBW unausweichlich. Nur so könnten Verbraucher für sie passende Bezahlmodelle finden. Die einen laden viel zu Hause, andere eher an öffentlichen Ladepunkten, argumentiert Martin Roemheld. Der 52-Jährige tritt sein Amt zum Jahreswechsel an. Zuvor war er unter anderem Produktleiter beim Ladeanbieter BP Pulse und Head of E-Mobility Services bei VW.

„Laden nicht vergleichbar mit tanken“

Laden und Tanken ist aus Sicht von Roemheld nicht vergleichbar „In der Tankwelt war das einfacher: Da kann keiner zu Hause tanken“, räumte der Maschinenbauingenieur ein. Bei der E-Mobilität werde die Lade-Infrastruktur aber unterschiedlich genutzt, daher müssten auch unterschiedliche Tarife je nach den Bedürfnissen angeboten werden. Man dürfe auch nicht versuchen, vom Literpreis beim Benzin auf eine vergleichbare einheitliche Größe beim Laden zu kommen. „Die Vorstellung, ein Liter kostet für alle 1,50 Euro, greift nicht mehr“, sagte Roemheld. Hilfreich und sinnvoll wären aus seiner Sicht Vergleichsmöglichkeiten wie beim Telefonieren. „Da kann ja auch jeder schauen, was zum eigenen Bedarf am besten passt.“

In wenigen Minuten so viel Strom

Kritik an der E-Mobilität und den Kosten hält der Manager entgegen: „Die Debatte wird oft zu wenig rational und viel zu emotional geführt.“ Wichtig ist aus Roemhelds Sicht, dass E-Fahrzeuge inzwischen in wenigen Minuten so viel Strom laden können, dass sie relevante Reichweiten von einigen Hundert Kilometern bewerkstelligen. Auch sei die Infrastruktur inzwischen in Deutschland gut ausgebaut. „Die Stammtischparolen können wir abräumen.“

Häufig werde auch bemängelt, dass Elektromobilität für Menschen ohne heimische Lademöglichkeit unpraktisch sei. Die EnBW adressiere dieses Thema mit einem breiten Angebot an öffentlichen Schnellladepunkten. Dass er nun zum Marktführer in Deutschland beim Ladeangebot wechselt, begründete Roemheld mit dem Ansporn: „Diesen Vorsprung auch bei einem wachsenden Wettbewerb erfolgreich zu sichern, reizt mich ungemein.“ Der Markt sei groß genug für eine relevante Zahl an Wettbewerbern.

(mfz)