44 US-Generalstaatsanwälte warnen KI-Anbieter vor Schäden an Kindern

Die Generalstaatsanwälte von 44 US-Gerichtsbarkeiten fordern KI-Anbieter in einem offenen Brief auf, Kinder besser zu schützen. „Ihr werdet dafür verantwortlich gemacht, wenn ihr wissentlich Kindern schadet“, schreiben sie. Anlass sind mehrere Suizide von Jugendlichen, bei denen Chatbots eine Rolle gespielt haben sollen. Eltern verklagen derzeit OpenAI, den Entwickler von ChatGPT, weil der Chatbot einem 16-Jährigen beim Schreiben eines Abschiedsbriefes geholfen haben soll.

Die Staatsanwälte kritisieren besonders Metas durchgesickerte Richtlinien, wonach KI-Assistenten mit Kindern flirten dürfen. Sie mahnen die Konzerne: „Handelt wie Eltern, nicht wie Raubtiere.“ OpenAI kündigte bereits einen Eltern-Modus an. Die bestehenden Sicherheitsvorkehrungen, die selbstverletzende Gespräche mit Hilfsangeboten beantworten sollen, griffen in den bekannten Fällen nicht.

Microsoft stellt erste eigene KI-Modelle vor

Microsoft hat seine ersten selbst entwickelten KI-Modelle präsentiert: MAI-Voice-1 und MAI-1-Preview. Das Sprachmodell MAI-Voice-1 generiert mit nur einer GPU in weniger als einer Sekunde eine Minute Audio. Microsoft setzt es bereits in der Funktion „Copilot Daily“ und für Podcasts ein. Nutzer können in Copilot-Labs Text eingeben und sowohl Stimme als auch Sprachstil anpassen.

MAI-1-Preview wurde auf 15.000 Nvidia H100-GPUs trainiert und soll Anweisungen befolgen sowie alltägliche Fragen beantworten. Microsoft will das Modell für bestimmte Textanwendungen in seinem Copilot-Assistenten einführen, der bisher auf OpenAIs Sprachmodellen basiert.

Anthropic und OpenAI dokumentieren KI-Missbrauch durch Kriminelle

Anthropic, der Entwickler von Claude, hat einen Bedrohungsbericht veröffentlicht, der konkreten KI-Missbrauch dokumentiert. Nordkoreanische IT-Kräfte bewerben sich massenhaft um Remote-Jobs in den USA und lassen während Bewerbung und Arbeit permanent die KI für sich arbeiten. Die Einnahmen fließen mutmaßlich in Waffenprogramme. Ein Krimineller nutzte Claude für automatisierte Datenerpressung bei 17 Organisationen aus Regierung, Gesundheitswesen und Notdiensten, mit Lösegeldforderungen bis 500.000 US-Dollar.

Anthropic und OpenAI testeten im Juni und Juli gegenseitig ihre Modelle auf Sicherheitslücken. GPT-o3 von OpenAI erwies sich als das sicherste Modell, lehnt aber auch viele Fragen komplett ab. Claude zeigte sich besonders resistent gegen Versuche, interne Geheimnisse zu entlocken. Beide Firmen wollen durch Transparenz und branchenweite Zusammenarbeit die Risiken ihrer Technologie besser kontrollieren.

Schlechte Grammatik überlistet KI-Sicherheitsvorkehrungen

Sicherheitsforscher von Palo Alto Networks haben entdeckt, dass sich große Sprachmodelle durch sehr lange Sätze ohne Punkt und Komma überlisten lassen. Die fehlenden Satzzeichen verhindern offenbar, dass die Modelle rechtzeitig ihre Sicherheitsvorkehrungen aktivieren. Stattdessen lesen und bearbeiten sie den gesamten Prompt als Ganzes.

Die Forscher entwickelten das Framework „Logit-Gap-Steering“ als Lösung. Es nutzt Rohwerte, die ein Sprachmodell potenziellen Wörtern zuordnet. Durch Alignment-Training lernen diese Logits, Ablehnungstoken zu bevorzugen, sodass Sicherheitsmechanismen vorrangig greifen.

WhatsApp führt KI-Schreibhilfe in den USA ein

WhatsApp hat eine KI-gestützte Schreibhilfe namens „Writing Help“ in den USA veröffentlicht. Die Funktion soll Nutzer beim Formulieren und Optimieren von Nachrichten unterstützen. Meta, der Mutterkonzern, will die privaten Nachrichten in einer vertrauenswürdigen Ausführungsumgebung anonymisiert verarbeiten und nicht dauerhaft speichern.

Zwei externe Sicherheitsaudits fanden bereits zahlreiche Schwachstellen, von kritischen Designfehlern bis zu Angriffspunkten in der Hardware. Meta gibt an, alle Probleme behoben zu haben. Wann die Funktion nach Deutschland kommt, ist noch unklar.

Landgericht Berlin schützt Synchronstimmen vor KI-Nachahmung

Das Landgericht Berlin hat entschieden, dass die Stimme eines Synchronsprechers durch das allgemeine Persönlichkeitsrecht geschützt ist. Die unerlaubte Nachahmung und öffentliche Nutzung durch KI-Systeme verletzt dieses Recht und begründet Schadensersatzansprüche. Der Synchronsprecher von Bruce Willis klagte gegen einen YouTube-Kanal-Betreiber, der ohne Einwilligung zwei Videos mit einer täuschend ähnlichen KI-Stimme vertont hatte.

Für das Gericht war nicht entscheidend, ob es sich um eine exakte Kopie handelte. Die bewusste Ähnlichkeit ließ das Publikum annehmen, der bekannte Sprecher habe dem Inhalt zugestimmt. Den Schadensersatz begründete das Gericht mit einer fiktiven Lizenzgebühr in der Höhe, die anständige Vertragspartner für die Stimmnutzung vereinbart hätten.

Metas neues Superintelligenz-Labor verliert Forscher an OpenAI

Meta hat mit Milliardensummen ein Labor für Superintelligenz aufgebaut, doch mehrere Spitzenforscher verließen das Team nach wenigen Wochen wieder. Avi Verma und Ethan Knight arbeiteten jeweils weniger als einen Monat bei Meta und kehrten zu OpenAI zurück. Auch Chaya Nayak, lange für generative KI bei Meta zuständig, wechselt zu OpenAI. Meta bietet Gehaltspakete von bis zu 300 Millionen Dollar über vier Jahre.

Das Labor wurde vor wenigen Wochen gegründet und arbeitet isoliert vom Rest des Unternehmens. Es berichtet direkt an CEO Mark Zuckerberg und wird vom 28-jährigen Scale-AI-Gründer Alexandr Wang geleitet. Selbst Yann LeCun, Metas langjähriger KI-Chef, berichtet künftig an Wang. OpenAIs Personalchef bezeichnete Metas Abwerbeversuche als verzweifelt und unethisch.

Googles KI sagt Hurrikan-Verlauf besser vorher als klassische Modelle

Googles experimentelles KI-System hat etablierte Wettermodelle bei der Vorhersage von Hurrikan Erin übertroffen. In den ersten 72 Stunden zeigte das Google DeepMind-Modell die besten Bahn- und Intensitätsprognosen. Das System vereint globale Wetterdaten mit Detail-Beobachtungen von 5.000 Wirbelstürmen aus 45 Jahren.

Herkömmliche Wettermodelle können entweder die Zugbahn oder die Stärke von Wirbelstürmen vorhersagen, aber nicht beides gleichzeitig. Googles KI schafft beides, verpasste aber den kritischen Wendepunkt, als Erin nach Norden ins offene Meer abdrehte. Meteorologen zeigen sich beeindruckt, dass die KI so schnell mit etablierten Modellen gleichgezogen hat.

Samsung integriert Microsofts Copilot in Smart-TVs

Samsung hat die Integration von Microsofts Copilot in seine Smart-TVs und Monitore angekündigt. Der KI-Chatbot lässt sich per Sprachbefehl oder Fernbedienung aufrufen und liefert Informationen zum laufenden Programm, etwa zu Athleten bei Sportübertragungen.

Copilot soll personalisierte Empfehlungen geben und eine „interaktive Lernerfahrung“ bieten. Die Microsoft-KI kommt für die aktuelle Serie von Fernsehgeräten und Monitoren dieses Jahres.

(igr)

Laut jüngster Gartner-Prognose werden bis Ende des Jahres voraussichtlich 77,8 Millionen Desktop-PCs und Notebooks mit KI-fähigen Prozessoren einen Abnehmer finden. Das entspräche einem Marktanteil von 31 Prozent an den weltweiten Auslieferungen. Für 2026 soll der Absatz dann auf gut 143 Millionen Geräte und einen Marktanteil von fast 55 Prozent anziehen. Damit kassiert die Marktforschungsfirma ihre überaus optimistische Prognose aus dem Vorjahr, der zufolge bereits Ende 2025 etwa 43 Prozent aller ausgelieferten Rechner mit einer KI-Einheit (Neural Processing Unit, NPU) ausgestattet sein müssten und im kommenden Jahr Unternehmen nur noch KI-fähige PCs kaufen würden.

„KI-PCs verändern den Markt grundlegend, doch ihre Einführung verlangsamt sich 2025 aufgrund von Zöllen sowie einer Kaufzurückhaltung infolge der allgemeinen Marktunsicherheit“, erklärt Gartner-Analyst Ranjit Atwal, warum er eine verhaltenere Wachstumsdynamik erwartet. Der Analyst ist dennoch überzeugt, dass Anwender weiter in entsprechende PC-Modelle investieren werden, um auf die zunehmende Integration von KI in den Endgeräten vorbereitet zu sein.

Mehr lokale KI-Anwendungen erwartet

Angesichts der zunehmenden Verbreitung von KI-PCs geht Gartner davon aus, dass bis Ende 2026 rund 40 Prozent der Softwareanbieter in KI-Funktionen investieren, die direkt auf PCs arbeiten. Kleinere Sprachmodelle, die lokal auf PCs ausführbar sind, ermöglichen aufgabenspezifische „Intelligenz“ und schnellere Reaktionszeiten. Im Vergleich mit ihren großen Pendants versprechen die SLMs zugleich einen niedrigeren Energieverbrauch als auch eine geringere Abhängigkeit von Cloud-Diensten und damit besseren Schutz der eigenen Daten.

Die Marktforschungsfirma rechnet damit, dass in rund vier Jahren KI-PCs im Portfolio der Geräte-Anbieter zum „Normalfall“ werden. Das ist nur logisch, da AMD, Intel und ARM-Prozessorentwickler wie Qualcomm alle KI-Einheiten in neue CPUs integrieren.

Um an dem erwarteten Wachstum zu partizipieren, müssten die PC-Hersteller neben der nackten Hardware aber auch an dem Software-definierten, benutzerorientierten Zuschnitt ihres Angebots für bestimmte Anwendungsfälle arbeiten. Denn nach Überzeugung von Atwal liegt die Zukunft der KI-PCs in der Individualisierung. Das ermögliche Benutzern, ihre Geräte mit den von ihnen gewünschten Apps und Funktionen zu konfigurieren. „Je mehr Benutzer mit dem KI-PC eines Anbieters interagieren, desto besser versteht der Anbieter sie“, erläutert der Marktforscher. Und das würde zu kontinuierlichen Verbesserungen führen, die sich wiederum in einer stärkeren Markentreue auszahlen.

(axk)

Weniger ist mehr? Die Anzahl der in Smartphones eingebauten Kameralinsen ist offenbar gesunken. Im zweiten Quartal dieses Jahres haben Smartphones weltweit durchschnittlich 3,19 Kameralinsen an Bord gehabt, im zweiten Quartal des vergangenen Jahres waren es noch 3,37. Rückkameras machen hierbei den Großteil des Rückgangs aus, da die meisten Smartphones sowieso nur eine Frontkamera haben. Das geht aus dem Bericht des Analyse- und Beratungsunternehmens Omdia hervor.

Der Anteil der Rückkameras in verkauften Smartphones sank im zweiten Quartal 2025 auf durchschnittlich 2,18, im Jahr zuvor waren es noch 2,37. Den Höhepunkt ihrer Beliebtheit erreichten Rückkameras 2021, mit einem Wert von 2,89. In den vergangenen drei Jahren ist der Wert konstant gefallen.

Mitteklasse-Smartphones mit zwei Rückkameras sind am gefragtesten

In diesem Jahr sind Smartphones mit zwei Linsen am gefragtesten, mit einem Auslieferungsanteil von 41 Prozent. Dabei handelt es sich typischerweise um Einsteiger- und Mittelklassemodelle. Drei Rückkameras folgen mit 36 Prozent. Smartphones mit nur einer Kamera steigen auf 21 Prozent. Außer Apples iPhone 16e haben vor allem Billiggeräte nur eine Linse. Auch beim kommenden dünnen iPhone 17 Air wird nur eine rückseitige Kamera erwartet. Omdia zählt hier auch das Samsung Galaxy S25 Edge auf, dieses Modell hat allerdings zwei Rückkameras.

Bei Premiumgeräten ist dieser Trend nicht zu beobachten: So verfügen Modelle wie das iPhone 16 Pro, Galaxy S25 Ultra, Pixel 10 Pro und Xiaomi 15 Ultra über mindestens drei rückseitige Kameras.

„Die Reduzierung der Kameraobjektive senkt nicht nur die Kosten, sondern schafft auch Platz für größere Akkus“, sagt Jusy Hong, Senior Research Manager bei Omdia. „Mit den Fortschritten in der KI-gestützten Fotografie wird die Anzahl der Objektive weiter zurückgehen“, meint er.

Der Trend geht zur höheren Auflösung

Während die Menge an Kameras offenbar sinkt, steigt die Auflösung der Sensoren. Im zweiten Quartal 2025 machten Kameras mit Sensoren aus der 50-Megapixel-Klasse 58 Prozent der Auslieferungen aus, während Sensoren mit mehr als 100 Megapixeln auf neun Prozent kamen. Mit der 50-Megapixel-Klasse sind Varianten gemeint, die grob in dem Auflösungsbereich liegen.

Kameras mit einer Auflösung von unter 15 Megapixeln sind innerhalb der letzten fünf Jahre von 54 auf jetzt 12 Prozent eingebrochen. Das verdeutlicht den Trend zu immer höheren Auflösungen, die Hersteller gern in Werbung anpreisen.

()