44 US-Generalstaatsanwälte warnen KI-Anbieter vor Schäden an Kindern

Die Generalstaatsanwälte von 44 US-Gerichtsbarkeiten fordern KI-Anbieter in einem offenen Brief auf, Kinder besser zu schützen. „Ihr werdet dafür verantwortlich gemacht, wenn ihr wissentlich Kindern schadet“, schreiben sie. Anlass sind mehrere Suizide von Jugendlichen, bei denen Chatbots eine Rolle gespielt haben sollen. Eltern verklagen derzeit OpenAI, den Entwickler von ChatGPT, weil der Chatbot einem 16-Jährigen beim Schreiben eines Abschiedsbriefes geholfen haben soll.

Die Staatsanwälte kritisieren besonders Metas durchgesickerte Richtlinien, wonach KI-Assistenten mit Kindern flirten dürfen. Sie mahnen die Konzerne: „Handelt wie Eltern, nicht wie Raubtiere.“ OpenAI kündigte bereits einen Eltern-Modus an. Die bestehenden Sicherheitsvorkehrungen, die selbstverletzende Gespräche mit Hilfsangeboten beantworten sollen, griffen in den bekannten Fällen nicht.

Microsoft stellt erste eigene KI-Modelle vor

Microsoft hat seine ersten selbst entwickelten KI-Modelle präsentiert: MAI-Voice-1 und MAI-1-Preview. Das Sprachmodell MAI-Voice-1 generiert mit nur einer GPU in weniger als einer Sekunde eine Minute Audio. Microsoft setzt es bereits in der Funktion „Copilot Daily“ und für Podcasts ein. Nutzer können in Copilot-Labs Text eingeben und sowohl Stimme als auch Sprachstil anpassen.

MAI-1-Preview wurde auf 15.000 Nvidia H100-GPUs trainiert und soll Anweisungen befolgen sowie alltägliche Fragen beantworten. Microsoft will das Modell für bestimmte Textanwendungen in seinem Copilot-Assistenten einführen, der bisher auf OpenAIs Sprachmodellen basiert.

Anthropic und OpenAI dokumentieren KI-Missbrauch durch Kriminelle

Anthropic, der Entwickler von Claude, hat einen Bedrohungsbericht veröffentlicht, der konkreten KI-Missbrauch dokumentiert. Nordkoreanische IT-Kräfte bewerben sich massenhaft um Remote-Jobs in den USA und lassen während Bewerbung und Arbeit permanent die KI für sich arbeiten. Die Einnahmen fließen mutmaßlich in Waffenprogramme. Ein Krimineller nutzte Claude für automatisierte Datenerpressung bei 17 Organisationen aus Regierung, Gesundheitswesen und Notdiensten, mit Lösegeldforderungen bis 500.000 US-Dollar.

Anthropic und OpenAI testeten im Juni und Juli gegenseitig ihre Modelle auf Sicherheitslücken. GPT-o3 von OpenAI erwies sich als das sicherste Modell, lehnt aber auch viele Fragen komplett ab. Claude zeigte sich besonders resistent gegen Versuche, interne Geheimnisse zu entlocken. Beide Firmen wollen durch Transparenz und branchenweite Zusammenarbeit die Risiken ihrer Technologie besser kontrollieren.

Schlechte Grammatik überlistet KI-Sicherheitsvorkehrungen

Sicherheitsforscher von Palo Alto Networks haben entdeckt, dass sich große Sprachmodelle durch sehr lange Sätze ohne Punkt und Komma überlisten lassen. Die fehlenden Satzzeichen verhindern offenbar, dass die Modelle rechtzeitig ihre Sicherheitsvorkehrungen aktivieren. Stattdessen lesen und bearbeiten sie den gesamten Prompt als Ganzes.

Die Forscher entwickelten das Framework „Logit-Gap-Steering“ als Lösung. Es nutzt Rohwerte, die ein Sprachmodell potenziellen Wörtern zuordnet. Durch Alignment-Training lernen diese Logits, Ablehnungstoken zu bevorzugen, sodass Sicherheitsmechanismen vorrangig greifen.

WhatsApp führt KI-Schreibhilfe in den USA ein

WhatsApp hat eine KI-gestützte Schreibhilfe namens „Writing Help“ in den USA veröffentlicht. Die Funktion soll Nutzer beim Formulieren und Optimieren von Nachrichten unterstützen. Meta, der Mutterkonzern, will die privaten Nachrichten in einer vertrauenswürdigen Ausführungsumgebung anonymisiert verarbeiten und nicht dauerhaft speichern.

Zwei externe Sicherheitsaudits fanden bereits zahlreiche Schwachstellen, von kritischen Designfehlern bis zu Angriffspunkten in der Hardware. Meta gibt an, alle Probleme behoben zu haben. Wann die Funktion nach Deutschland kommt, ist noch unklar.

Landgericht Berlin schützt Synchronstimmen vor KI-Nachahmung

Das Landgericht Berlin hat entschieden, dass die Stimme eines Synchronsprechers durch das allgemeine Persönlichkeitsrecht geschützt ist. Die unerlaubte Nachahmung und öffentliche Nutzung durch KI-Systeme verletzt dieses Recht und begründet Schadensersatzansprüche. Der Synchronsprecher von Bruce Willis klagte gegen einen YouTube-Kanal-Betreiber, der ohne Einwilligung zwei Videos mit einer täuschend ähnlichen KI-Stimme vertont hatte.

Für das Gericht war nicht entscheidend, ob es sich um eine exakte Kopie handelte. Die bewusste Ähnlichkeit ließ das Publikum annehmen, der bekannte Sprecher habe dem Inhalt zugestimmt. Den Schadensersatz begründete das Gericht mit einer fiktiven Lizenzgebühr in der Höhe, die anständige Vertragspartner für die Stimmnutzung vereinbart hätten.

Metas neues Superintelligenz-Labor verliert Forscher an OpenAI

Meta hat mit Milliardensummen ein Labor für Superintelligenz aufgebaut, doch mehrere Spitzenforscher verließen das Team nach wenigen Wochen wieder. Avi Verma und Ethan Knight arbeiteten jeweils weniger als einen Monat bei Meta und kehrten zu OpenAI zurück. Auch Chaya Nayak, lange für generative KI bei Meta zuständig, wechselt zu OpenAI. Meta bietet Gehaltspakete von bis zu 300 Millionen Dollar über vier Jahre.

Das Labor wurde vor wenigen Wochen gegründet und arbeitet isoliert vom Rest des Unternehmens. Es berichtet direkt an CEO Mark Zuckerberg und wird vom 28-jährigen Scale-AI-Gründer Alexandr Wang geleitet. Selbst Yann LeCun, Metas langjähriger KI-Chef, berichtet künftig an Wang. OpenAIs Personalchef bezeichnete Metas Abwerbeversuche als verzweifelt und unethisch.

Googles KI sagt Hurrikan-Verlauf besser vorher als klassische Modelle

Googles experimentelles KI-System hat etablierte Wettermodelle bei der Vorhersage von Hurrikan Erin übertroffen. In den ersten 72 Stunden zeigte das Google DeepMind-Modell die besten Bahn- und Intensitätsprognosen. Das System vereint globale Wetterdaten mit Detail-Beobachtungen von 5.000 Wirbelstürmen aus 45 Jahren.

Herkömmliche Wettermodelle können entweder die Zugbahn oder die Stärke von Wirbelstürmen vorhersagen, aber nicht beides gleichzeitig. Googles KI schafft beides, verpasste aber den kritischen Wendepunkt, als Erin nach Norden ins offene Meer abdrehte. Meteorologen zeigen sich beeindruckt, dass die KI so schnell mit etablierten Modellen gleichgezogen hat.

Samsung integriert Microsofts Copilot in Smart-TVs

Samsung hat die Integration von Microsofts Copilot in seine Smart-TVs und Monitore angekündigt. Der KI-Chatbot lässt sich per Sprachbefehl oder Fernbedienung aufrufen und liefert Informationen zum laufenden Programm, etwa zu Athleten bei Sportübertragungen.

Copilot soll personalisierte Empfehlungen geben und eine „interaktive Lernerfahrung“ bieten. Die Microsoft-KI kommt für die aktuelle Serie von Fernsehgeräten und Monitoren dieses Jahres.

(igr)

Laut jüngster Gartner-Prognose werden bis Ende des Jahres voraussichtlich 77,8 Millionen Desktop-PCs und Notebooks mit KI-fähigen Prozessoren einen Abnehmer finden. Das entspräche einem Marktanteil von 31 Prozent an den weltweiten Auslieferungen. Für 2026 soll der Absatz dann auf gut 143 Millionen Geräte und einen Marktanteil von fast 55 Prozent anziehen. Damit kassiert die Marktforschungsfirma ihre überaus optimistische Prognose aus dem Vorjahr, der zufolge bereits Ende 2025 etwa 43 Prozent aller ausgelieferten Rechner mit einer KI-Einheit (Neural Processing Unit, NPU) ausgestattet sein müssten und im kommenden Jahr Unternehmen nur noch KI-fähige PCs kaufen würden.

„KI-PCs verändern den Markt grundlegend, doch ihre Einführung verlangsamt sich 2025 aufgrund von Zöllen sowie einer Kaufzurückhaltung infolge der allgemeinen Marktunsicherheit“, erklärt Gartner-Analyst Ranjit Atwal, warum er eine verhaltenere Wachstumsdynamik erwartet. Der Analyst ist dennoch überzeugt, dass Anwender weiter in entsprechende PC-Modelle investieren werden, um auf die zunehmende Integration von KI in den Endgeräten vorbereitet zu sein.

Mehr lokale KI-Anwendungen erwartet

Angesichts der zunehmenden Verbreitung von KI-PCs geht Gartner davon aus, dass bis Ende 2026 rund 40 Prozent der Softwareanbieter in KI-Funktionen investieren, die direkt auf PCs arbeiten. Kleinere Sprachmodelle, die lokal auf PCs ausführbar sind, ermöglichen aufgabenspezifische „Intelligenz“ und schnellere Reaktionszeiten. Im Vergleich mit ihren großen Pendants versprechen die SLMs zugleich einen niedrigeren Energieverbrauch als auch eine geringere Abhängigkeit von Cloud-Diensten und damit besseren Schutz der eigenen Daten.

Die Marktforschungsfirma rechnet damit, dass in rund vier Jahren KI-PCs im Portfolio der Geräte-Anbieter zum „Normalfall“ werden. Das ist nur logisch, da AMD, Intel und ARM-Prozessorentwickler wie Qualcomm alle KI-Einheiten in neue CPUs integrieren.

Um an dem erwarteten Wachstum zu partizipieren, müssten die PC-Hersteller neben der nackten Hardware aber auch an dem Software-definierten, benutzerorientierten Zuschnitt ihres Angebots für bestimmte Anwendungsfälle arbeiten. Denn nach Überzeugung von Atwal liegt die Zukunft der KI-PCs in der Individualisierung. Das ermögliche Benutzern, ihre Geräte mit den von ihnen gewünschten Apps und Funktionen zu konfigurieren. „Je mehr Benutzer mit dem KI-PC eines Anbieters interagieren, desto besser versteht der Anbieter sie“, erläutert der Marktforscher. Und das würde zu kontinuierlichen Verbesserungen führen, die sich wiederum in einer stärkeren Markentreue auszahlen.

(axk)

Mit im Vergleich günstigeren Preisen und höherer Schnelligkeit will sich xAI einen Platz im Kreise der KI-Coding-Tools sichern. Mit Grok Code Fast 1 hat die Firma hierfür jetzt ein speziell für autonome Programmieraufgaben entwickeltes KI-Modell vorgestellt. Es wird zum Start für kurze Zeit kostenlos über verschiedene Entwicklerplattformen angeboten.

Elon Musks KI-Unternehmen erklärte anlässlich der Vorstellung, dass Grok Code Fast 1 „von Grund auf mit einer brandneuen Architektur“ entwickelt wurde. xAi hat es laut eigenen Angaben mit programmierungsreichen Datensätzen trainiert, gefolgt von einer Nachschulung auf realen Coding-Tasks wie Pull Requests und Bugfixes.

Fokus auf Geschwindigkeit und Kosteneffizienz

Das neue Modell positioniert sich als „schnelle und wirtschaftliche“ Alternative zu etablierten Lösungen wie GitHub Copilot und OpenAIs Codex. Mit einer Verarbeitungsgeschwindigkeit von bis zu 92 Tokens pro Sekunde und einer Antwortzeit von 67 Millisekunden soll Grok Code Fast 1 neue Maßstäbe in der Reaktionsgeschwindigkeit setzen. Die Preisgestaltung ist mit 0,20 US-Dollar pro Million Input-Tokens und 1,50 US-Dollar pro Million Output-Tokens etwa 80 bis 95 Prozent günstiger als die Konkurrenz.

Anders als herkömmliche Code-Vervollständigungstools ist Grok Code Fast 1 für sogenanntes „Agentic Coding“ optimiert. Das System kann eigenständig Tools wie grep, Terminal und Dateieditoren verwenden, um Programmieraufgaben in einer Schleife von Reasoning und Tool-Aufrufen zu bewältigen. Diese Fähigkeit unterscheidet es von traditionellen Assistenten, die hauptsächlich Code-Vorschläge machen. Das Modell zeige besondere Stärken in den Programmiersprachen TypeScript, Python, Java, Rust, C++ und Go. Auf dem SWE-Bench-Verified-Benchmark erreichte es eine Punktzahl von 70,8 Prozent, was es in die Spitzengruppe der verfügbaren Coding-KIs einreiht.

Für die Markteinführung setzt xAI auf eine breite Partnerschaftsstrategie. Das Modell ist für begrenzte Zeit kostenlos über Partner wie GitHub Copilot, Cursor, Cline, Roo Code, KiloCode, OpenCode und Windsurf verfügbar.

Interessant ist die Entstehungsgeschichte: Das Modell wurde zunächst Ende August 2025 im Verborgenen unter dem Codenamen „Sonic“ veröffentlicht, während xAI Community-Feedback sammelte und mehrere Updates entwickelte. xAI arbeitet bereits an Verbesserungen für zukünftige Versionen. Eine neue Variante befindet sich im Training. Sie soll multimodale Eingaben, parallele Tool-Aufrufe und längere Kontextfenster unterstützen.

Verschärfung des KI-Wettkampfs

Der Launch von Grok Code Fast 1 verschärft den bereits intensiven Wettbewerb im Bereich der KI-Programmierassistenten. Microsoft hat mit GitHub Copilot einen starken Marktanteil aufgebaut, während OpenAI mit Codex ebenfalls präsent ist. Microsoft-CEO Satya Nadella gab bekannt, dass KI-Tools mittlerweile zwischen 20 und 30 Prozent des gesamten Codes in Microsoft-Produkten schreiben.

(mki)