KI-Update kompakt: KI-Chatbots, Threat Intelligence Report, WhatsApp, Meta

44 US-Generalstaatsanwälte warnen KI-Anbieter vor Schäden an Kindern

Die Generalstaatsanwälte von 44 US-Gerichtsbarkeiten fordern KI-Anbieter in einem offenen Brief auf, Kinder besser zu schützen. „Ihr werdet dafür verantwortlich gemacht, wenn ihr wissentlich Kindern schadet“, schreiben sie. Anlass sind mehrere Suizide von Jugendlichen, bei denen Chatbots eine Rolle gespielt haben sollen. Eltern verklagen derzeit OpenAI, den Entwickler von ChatGPT, weil der Chatbot einem 16-Jährigen beim Schreiben eines Abschiedsbriefes geholfen haben soll.

Die Staatsanwälte kritisieren besonders Metas durchgesickerte Richtlinien, wonach KI-Assistenten mit Kindern flirten dürfen. Sie mahnen die Konzerne: „Handelt wie Eltern, nicht wie Raubtiere.“ OpenAI kündigte bereits einen Eltern-Modus an. Die bestehenden Sicherheitsvorkehrungen, die selbstverletzende Gespräche mit Hilfsangeboten beantworten sollen, griffen in den bekannten Fällen nicht.

Microsoft stellt erste eigene KI-Modelle vor

Microsoft hat seine ersten selbst entwickelten KI-Modelle präsentiert: MAI-Voice-1 und MAI-1-Preview. Das Sprachmodell MAI-Voice-1 generiert mit nur einer GPU in weniger als einer Sekunde eine Minute Audio. Microsoft setzt es bereits in der Funktion „Copilot Daily“ und für Podcasts ein. Nutzer können in Copilot-Labs Text eingeben und sowohl Stimme als auch Sprachstil anpassen.

MAI-1-Preview wurde auf 15.000 Nvidia H100-GPUs trainiert und soll Anweisungen befolgen sowie alltägliche Fragen beantworten. Microsoft will das Modell für bestimmte Textanwendungen in seinem Copilot-Assistenten einführen, der bisher auf OpenAIs Sprachmodellen basiert.

Anthropic und OpenAI dokumentieren KI-Missbrauch durch Kriminelle

Anthropic, der Entwickler von Claude, hat einen Bedrohungsbericht veröffentlicht, der konkreten KI-Missbrauch dokumentiert. Nordkoreanische IT-Kräfte bewerben sich massenhaft um Remote-Jobs in den USA und lassen während Bewerbung und Arbeit permanent die KI für sich arbeiten. Die Einnahmen fließen mutmaßlich in Waffenprogramme. Ein Krimineller nutzte Claude für automatisierte Datenerpressung bei 17 Organisationen aus Regierung, Gesundheitswesen und Notdiensten, mit Lösegeldforderungen bis 500.000 US-Dollar.

Anthropic und OpenAI testeten im Juni und Juli gegenseitig ihre Modelle auf Sicherheitslücken. GPT-o3 von OpenAI erwies sich als das sicherste Modell, lehnt aber auch viele Fragen komplett ab. Claude zeigte sich besonders resistent gegen Versuche, interne Geheimnisse zu entlocken. Beide Firmen wollen durch Transparenz und branchenweite Zusammenarbeit die Risiken ihrer Technologie besser kontrollieren.

Schlechte Grammatik überlistet KI-Sicherheitsvorkehrungen

Sicherheitsforscher von Palo Alto Networks haben entdeckt, dass sich große Sprachmodelle durch sehr lange Sätze ohne Punkt und Komma überlisten lassen. Die fehlenden Satzzeichen verhindern offenbar, dass die Modelle rechtzeitig ihre Sicherheitsvorkehrungen aktivieren. Stattdessen lesen und bearbeiten sie den gesamten Prompt als Ganzes.

Die Forscher entwickelten das Framework „Logit-Gap-Steering“ als Lösung. Es nutzt Rohwerte, die ein Sprachmodell potenziellen Wörtern zuordnet. Durch Alignment-Training lernen diese Logits, Ablehnungstoken zu bevorzugen, sodass Sicherheitsmechanismen vorrangig greifen.

WhatsApp führt KI-Schreibhilfe in den USA ein

WhatsApp hat eine KI-gestützte Schreibhilfe namens „Writing Help“ in den USA veröffentlicht. Die Funktion soll Nutzer beim Formulieren und Optimieren von Nachrichten unterstützen. Meta, der Mutterkonzern, will die privaten Nachrichten in einer vertrauenswürdigen Ausführungsumgebung anonymisiert verarbeiten und nicht dauerhaft speichern.

Zwei externe Sicherheitsaudits fanden bereits zahlreiche Schwachstellen, von kritischen Designfehlern bis zu Angriffspunkten in der Hardware. Meta gibt an, alle Probleme behoben zu haben. Wann die Funktion nach Deutschland kommt, ist noch unklar.

Landgericht Berlin schützt Synchronstimmen vor KI-Nachahmung

Das Landgericht Berlin hat entschieden, dass die Stimme eines Synchronsprechers durch das allgemeine Persönlichkeitsrecht geschützt ist. Die unerlaubte Nachahmung und öffentliche Nutzung durch KI-Systeme verletzt dieses Recht und begründet Schadensersatzansprüche. Der Synchronsprecher von Bruce Willis klagte gegen einen YouTube-Kanal-Betreiber, der ohne Einwilligung zwei Videos mit einer täuschend ähnlichen KI-Stimme vertont hatte.

Für das Gericht war nicht entscheidend, ob es sich um eine exakte Kopie handelte. Die bewusste Ähnlichkeit ließ das Publikum annehmen, der bekannte Sprecher habe dem Inhalt zugestimmt. Den Schadensersatz begründete das Gericht mit einer fiktiven Lizenzgebühr in der Höhe, die anständige Vertragspartner für die Stimmnutzung vereinbart hätten.

Metas neues Superintelligenz-Labor verliert Forscher an OpenAI

Meta hat mit Milliardensummen ein Labor für Superintelligenz aufgebaut, doch mehrere Spitzenforscher verließen das Team nach wenigen Wochen wieder. Avi Verma und Ethan Knight arbeiteten jeweils weniger als einen Monat bei Meta und kehrten zu OpenAI zurück. Auch Chaya Nayak, lange für generative KI bei Meta zuständig, wechselt zu OpenAI. Meta bietet Gehaltspakete von bis zu 300 Millionen Dollar über vier Jahre.

Das Labor wurde vor wenigen Wochen gegründet und arbeitet isoliert vom Rest des Unternehmens. Es berichtet direkt an CEO Mark Zuckerberg und wird vom 28-jährigen Scale-AI-Gründer Alexandr Wang geleitet. Selbst Yann LeCun, Metas langjähriger KI-Chef, berichtet künftig an Wang. OpenAIs Personalchef bezeichnete Metas Abwerbeversuche als verzweifelt und unethisch.

Googles KI sagt Hurrikan-Verlauf besser vorher als klassische Modelle

Googles experimentelles KI-System hat etablierte Wettermodelle bei der Vorhersage von Hurrikan Erin übertroffen. In den ersten 72 Stunden zeigte das Google DeepMind-Modell die besten Bahn- und Intensitätsprognosen. Das System vereint globale Wetterdaten mit Detail-Beobachtungen von 5.000 Wirbelstürmen aus 45 Jahren.

Herkömmliche Wettermodelle können entweder die Zugbahn oder die Stärke von Wirbelstürmen vorhersagen, aber nicht beides gleichzeitig. Googles KI schafft beides, verpasste aber den kritischen Wendepunkt, als Erin nach Norden ins offene Meer abdrehte. Meteorologen zeigen sich beeindruckt, dass die KI so schnell mit etablierten Modellen gleichgezogen hat.

Samsung integriert Microsofts Copilot in Smart-TVs

Samsung hat die Integration von Microsofts Copilot in seine Smart-TVs und Monitore angekündigt. Der KI-Chatbot lässt sich per Sprachbefehl oder Fernbedienung aufrufen und liefert Informationen zum laufenden Programm, etwa zu Athleten bei Sportübertragungen.

Copilot soll personalisierte Empfehlungen geben und eine „interaktive Lernerfahrung“ bieten. Die Microsoft-KI kommt für die aktuelle Serie von Fernsehgeräten und Monitoren dieses Jahres.

(igr)