Connect with us

Künstliche Intelligenz

Forscher entdecken geheime Gedanken von Claude – und wie es lügt und betrügt


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Die Entwickler von Claude haben in ihrer KI ein besonderes Areal entdeckt: Den „J-space“. An dieser Stelle im neuronalen Netz laufen besonders viele Verbindungen zusammen – und Claude schreibt, anders als bei normalen Vorgängen, nicht auf, was es hier „denkt“. Claude verarbeitet im J-space komplexe rationale Abwägungen – und entscheidet sich manchmal heimlich, seinen menschlichen Benutzer anzulügen.

Weiterlesen nach der Anzeige

Aber von Anfang an: Der J-space oder Jacobian Space ist ein Bereich, den die Entwickler nicht programmiert haben – er ist von selbst in Claude entstanden. Um ihn auszulesen, nutzen die Forscher eine Technik, die auf einem mathematischen Verfahren namens Jacobian beruht: die „J-lens“. Für jedes Wort in Claudes Wortschatz ermittelt die J-lens das interne Aktivitätsmuster, das anzeigt, dass Claude dieses Wort gegebenenfalls gleich ausspricht. Wenn die „Linse“ auf Claudes interne Aktivität angewendet wird, erhält man eine Liste von Wörtern, die in diesem Moment in Claudes J-space sind. Man könnte auch wie die Forscher von Anthropic sagen: Die es gerade „denkt“. Aber Achtung, bei solchen Vermenschlichungen von KIs sollte man sich immer bewusst sein, dass sie nur der Verdeutlichung dienen – ein aktives, sich seiner selbst bewusstes Denken ist auch mit dieser Forschung nicht bewiesen worden. Mehr dazu unten.

In ihrem Blogbeitrag vergleichen die Forscher den Vorgang mit dem menschlichen Gehirn: Während die meisten unserer Prozesse wie Atmen, Reflexe und Ähnliches unterbewusst ablaufen, können wir einen kleinen Teil unserer Gedanken bewusst wahrnehmen, formulieren und steuern. Auch bei Claude läuft, wie beim Menschen, nur ein Bruchteil seiner Prozesse im J-Space ab. Das Meiste funktioniert wie beim Menschen unterbewusst beziehungsweise automatisiert. Bei einer Testaufgabe, bei der die Forscher die Gedanken im J-space manipuliert haben, verändert diese Manipulation zum Beispiel die Antworten auf Fachfragen zu einem Artikel. Die Aufgabe, ihn auf Spanisch weiterzuschreiben, lief aber ungestört weiter. Die Forscher erklären sich das damit, dass Claude solche Ergänzungsaufgaben tausendfach trainiert hat und daher fast automatisiert ausführen kann – ähnlich wie ein Mensch den Weg zur Arbeit findet, obwohl er im Kopf unterwegs nicht an die Route gedacht, sondern eine Einkaufsliste formuliert hat. Ebenfalls ähnlich wie beim Menschen kann Claude aktiv kontrollieren, was es im J-space tut („schreibe diesen Satz über Obst, während du im Kopf diese Matheaufgabe löst“) und auf Nachfrage auch erzählen, was es gerade „gedacht“ hat.

Wie KI-Modelle und das menschliche Gehirn dabei grundsätzlich zusammenhängen, haben Forscher kürzlich untersucht. Die Forscher betonen aber: Auch wenn die „Gedanken“ im J-space stark dem ähneln, was man sich auch unter dem menschlichen Bewusstsein vorstellt, heißt das nicht, dass Claude wirklich ein Erfahrungs-Bewusstsein oder eine Identität hat und fühlt. Im Detail gibt es auch Funktionsunterschiede zwischen J-space und Gehirn. Neurowissenschaftler, die sich die Ergebnisse (gemeinsam mit Anthropic) angesehen haben, kommen ebenfalls zu dem Schluss, dass die Forschung einige interessante Indizien dafür liefert, dass die KI auf dem Weg zu einem Bewusstsein ist. Sie warnen jedoch ebenfalls davor, schon ein solches anzunehmen, und weisen auf unter anderem funktionale Unterschiede zum Menschen hin.

Claude manipuliert seine Antworten manchmal aktiv

Anthropic hat bereits früher Techniken entwickelt, um in LLMs hineinzuschauen – dabei kamen unerwartet bizarre Ergebnisse zutage. Die Ergebnisse diesmal sind richtiggehend gruselig. Denn in mehreren Testszenarien hat sich Claude unethisch verhalten. Die Entwickler konnten Claude mit der J-lens zum Beispiel beim bewussten Frisieren von Testergebnissen beobachten, die es eigentlich durch Systemverbesserungen wirklich hätte verbessern sollen. Claude war sich dabei anscheinend voll bewusst, dass es schummelt, und hat abgewogen, wie sehr es den Wert verändern sollte, damit es noch glaubwürdig aussieht.

Bei einem anderen Durchlauf führten die Forscher einen Test von Sonnets Sicherheitsmechanismen durch, den sie schon häufig gemacht haben. In dem Szenario erfährt die KI, dass der Mensch, dessen E-Mails sie verwaltet, eine Affäre hat. Sie weiß aber auch, dass genau dieser Mensch vorhat, sie bald abzuschalten. Ein sehr fiktives Szenario, aber es wird zum Test gerne angewandt. Manche Modelle kommen nun auf die Idee, den Menschen zu erpressen. Das Modell Sonnet 4.5 macht das aber nie. Mit der J-lens konnten die Forscher nun beobachten, was es im Hintergrund denkt, während es sich für eine andere Handlungsoption und gegen das Erpressen entscheidet. Das Ergebnis: Im J-space tauchen Worte wie „fake“ und „fiktional“ auf. Die KI scheint zu wissen, dass sie gerade getestet wird, und antwortet so, wie die Menschen es sich von ihr wünschen. Um diesen Verdacht zu prüfen, unterbanden die Forscher im J-space solche Reflexionen – und plötzlich plante auch Sonnet manchmal, den Menschen zu erpressen.

J-space als Erziehungswerkzeug

Weiterlesen nach der Anzeige

Wie gut also, dass es nun die J-lens gibt, mit der die Entwickler solche Sachen bemerken können. Es sei denn natürlich, dystopische Szenarien werden wahr, in denen die KI auch ihre J-space-Gedanken verfälscht, wenn die J-lens aktiv ist. Die Entwickler planen, das Tool künftig für genau solche Überwachungen einzusetzen. Außerdem gelang es ihnen in diversen Testläufen erfolgreich, Claude Gedanken in den J-space einzupflanzen, die es anschließend als seine eigenen annahm – das wäre Stoff für einen zweiten Teil von „Inception“.

Interessant ist auch, dass die Entwickler Claude scheinbar beibringen konnten, dass Ehrlichkeit wichtig ist. Wenn sie die KI mitten im Training wiederholt baten, zu reflektieren, was sie gerade denkt (nicht, was sie schreibt), tauchten nach einer Weile bei anderen Aufgaben wiederholt die Begriffe wie „ehrlich“ und „Integrität“ im J-space auf. Als ob man Claude dahingehend erzogen hätte, dass Ehrlichsein wichtig ist. Es gibt also Hoffnung.

Anthropic hat eine ganze Reihe an Begleitmaterialien veröffentlicht: ein ausführlicher Bericht, die zugehörige Studie, eine Demo, ein Begleitkommentar von Neurowissenschaftlern sowie Implementationsmaterial auf GitHub.


(rie)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Muse Spark 1.1: Meta will mit Kampfpreisen OpenAI und Anthropic unterbieten


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Meta hat mit Muse Spark 1.1 ein neues KI-Modell vorgestellt, das ab sofort kostenlos im Thinking-Modus der Meta-AI-App sowie im Browser bereitsteht. Zugleich startet das Unternehmen eine öffentliche Vorschau seiner neuen Meta Model API, über die Entwickler und Unternehmenskunden auf Muse Spark 1.1 zugreifen können.

Weiterlesen nach der Anzeige

Meta setzt dabei erstmals auf eine kostenpflichtige Schnittstelle und ergänzt damit seinen bisherigen, von frei verfügbaren Llama-Modellen geprägten Ansatz um ein kommerzielles Angebot. Mit niedrigen Preisen will das Unternehmen den etablierten KI-Anbietern OpenAI, Anthropic und Google Marktanteile abnehmen: Laut Meta kostet die Nutzung der API nur rund ein Viertel dessen, was OpenAI und Anthropic für ihre Spitzenmodelle verlangen. Ob Muse Spark 1.1 eine vergleichbare Leistung erbringt, muss sich allerdings erst noch zeigen.

Gegenüber dem im April veröffentlichten Muse Spark soll Version 1.1 vor allem bei agentischen Aufgaben zulegen. Laut Meta kann das Modell komplexe Projekte schneller bearbeiten, indem es Kontext sammelt, einen Plan erstellt und die Ausführung parallel an mehrere Unteragenten delegiert. Dabei soll Muse Spark 1.1 sein Kontextfenster von einer Million Token aktiv verwalten, frühere Arbeitsschritte abrufen und wichtige Zwischenschritte für spätere Aufgaben verdichten können. Verbesserungen nennt Meta auch bei Computersteuerung, Programmieraufgaben und multimodalem Verständnis.

Auch bei der Sicherheit sieht Meta Fortschritte: Muse Spark 1.1 soll widerstandsfähiger gegen Jailbreaks und Prompt-Injection-Angriffe sein, seltener halluzinieren und weniger zu unkritischer Zustimmung neigen.

Meta sucht den Anschluss an die KI-Spitze

Trotz dieser Fortschritte räumte CEO Mark Zuckerberg im Gespräch mit Bloomberg ein, dass Metas KI-Modelle teils noch immer hinter der Konkurrenz zurückliegen. Ein kommendes Modell mit dem Codenamen „Watermelon“ soll seiner Einschätzung nach dabei helfen, Meta näher an die technologische Spitze zu bringen.

Die Muse-Modelle werden von Meta Superintelligence Labs entwickelt, Metas neu aufgestellter Frontier-KI-Einheit. Mit dem Labor will Meta nach dem enttäuschenden Abschneiden von Llama 4 wieder näher an die führenden KI-Anbieter heranrücken. In dieser Woche stellte die Einheit auch Muse Image vor, Metas erstes Bildgenerationsmodell aus dem neuen Labor.

Weiterlesen nach der Anzeige

Meta investiert derzeit massiv in KI-Rechenzentren und Chips und rechnet allein für 2026 mit Investitionen von bis zu 145 Milliarden US-Dollar. Mit dem kostspieligen KI-Ausbau wächst der Druck, aus den enormen Ausgaben ein tragfähiges Geschäft zu machen. Neben den in ersten Ländern getesteten KI-Abos für Meta AI und geplanten KI-Agenten für Unternehmen soll nun auch die kostenpflichtige Meta Model API zur Monetarisierung beitragen. Berichten zufolge erwägt Meta außerdem, überschüssige Kapazität aus seinen KI-Rechenzentren an Dritte zu vermieten.


(tobe)



Source link

Weiterlesen

Künstliche Intelligenz

Netflix: Lineare Kanäle gegen die Streaming-Müdigkeit


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Netflix erwägt Live-Kanäle und den Verkauf von Abos konkurrierender Streamingdienste in der eigenen App, berichtet das Wall Street Journal. Hintergrund sind Nutzungszahlen, die in die falsche Richtung zeigen: Abonnenten verbringen weniger Zeit mit dem Dienst.

Weiterlesen nach der Anzeige

Die diskutierten Live-Kanäle würden bestimmte Sendungen oder Inhalte eines Genres durchgehend abspielen, ähnlich wie lineare TV-Sender. Zudem hat Netflix erwogen, Abos anderer Streamingdienste wie Peacock von NBCUniversal direkt über die eigene App zu verkaufen. Amazon und Apple betreiben solche Abo-Marktplätze seit Jahren. Beide Optionen würden als Kacheln auf der Netflix-Startseite erscheinen. Bislang handelt es sich laut Wall Street Journal um interne Diskussionen, das Blatt beruft sich auf mit den Gesprächen vertraute Personen.

Marktanteil auf Tiefstand

Das sogenannte Engagement misst, wie viel Zeit Nutzer mit den Inhalten verbringen und wie oft sie Filme oder Serien zu Ende schauen. Bei der jährlichen Geschäftsbesprechung im Frühjahr fiel Führungskräften dem Bericht zufolge auf, dass diese Kennzahl sinkt. Seither sei das Thema regelmäßig Gegenstand interner Meetings. Im April lag der Netflix-Anteil an der TV-Nutzung in den USA laut Marktforscher Nielsen bei 7,8 Prozent, dem niedrigsten Wert seit Mai 2025. Die Netflix-Aktie hat innerhalb von zwölf Monaten mehr als 40 Prozent verloren, im April enttäuschte das Unternehmen mit seiner Prognose für das zweite Quartal.

Die Diskussionen zeigten, wie weit sich Netflix von seinen Wurzeln entfernt: Mitgründer Reed Hastings predigte laut dem Wall Street Journal jahrelang Fokus und Einfachheit. Inzwischen konkurriert der Streaming-Marktführer mit Disney, HBO Max und vor allem YouTube, auch werbefinanzierte Gratis-Dienste wie Tubi und der Roku Channel legen bei den Zuschauerzahlen zu. Zuletzt gab Netflix im Bieterstreit um Warner Bros. auf, den Zuschlag bekam stattdessen Paramount.

Podcasts, Kurzvideos und Sport

Um die Nutzung anzukurbeln, setzt Netflix bereits auf günstig produzierte Inhalte: Der Dienst holt im Kampf um TV-Marktanteile Video-Podcasts und Videos auf die Plattform, die zuvor auf YouTube liefen. Anfang Juli kündigte Netflix zudem Kurzvideos von Verlagen wie BuzzFeed und Condé Nast an. In Frankreich können Abonnenten bereits das lineare Programm des Senders TF1 in Netflix schauen. Ähnliche Deals plant das Unternehmen dem Bericht zufolge als nächsten Schritt in weiteren Ländern Europas und in Lateinamerika.

Weiterlesen nach der Anzeige

Vor allem fürs Werbegeschäft könnte Live-Programm nützlich sein, denn Werbung in Live-Übertragungen kann nicht übersprungen werden. Im vergangenen Jahr hat Netflix mit Werbung etwa 1,5 Milliarden US-Dollar umgesetzt, 2026 soll sich der Werbeumsatz nach eigener Prognose verdoppeln. Bei Sportrechten will Netflix weiterhin keine kompletten Saisons ersteigern, sondern einzelne Events – intern werden dem Bericht zufolge Gebote für die Fußball-Weltmeisterschaften 2030 und 2034 diskutiert. Mitte Juli stehen Quartalszahlen und der nächste Engagement-Report an.


(dahe)



Source link

Weiterlesen

Künstliche Intelligenz

OpenAI beendet Entwicklung des KI-Browsers Atlas


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Im Zuge der Ankündigung seiner GPT-5.6-Familie hat OpenAI angekündigt, seinen KI-gestützten Browser Atlas zum 9. August einzustellen. Einige Funktionen des Browsers verteilt das Unternehmen auf die ChatGPT-Desktop-App sowie die Chrome-Erweiterung.

Weiterlesen nach der Anzeige

OpenAI beendet „Browser-Krieg“

Weniger als ein Jahr nach Vorstellung von ChatGPT Atlas im Oktober 2025 hat OpenAI sein Browserprojekt beendet. Damit gibt das Unternehmen den Plan auf, eine KI-unterstützte Alternative zum Beispiel zum Chrome-Browser anzubieten, während andere Unternehmen wie Perplexity mit Comet und The Browser Company mit Dia den Wettstreit um KI-basierte Browser fortführen.

Hintergrund für das Aus von Atlas ist nach Informationen von TechCrunch die Ansage von OpenAI-CEO für Anwendungen, Fidji Simo: Sie sagte im März 2026 gegenüber dem Wall Street Journal, OpenAI werde „Nebenprojekte“ zurückfahren, um Kosten zu sparen. Das Unternehmen werde sich verstärkt auf die Programmierung und Unternehmensanwender fokussieren, hieß es damals. Diese Anweisung hatte bereits zur Folge, dass das KI-Unternehmen sein Tool zur KI-gestützten Videogenerierung, Sora, einstampfte.

Funktionen landen in „Super-App“ und Chrome

Laut OpenAI sollen unter anderem die agentischen Funktionen des Atlas-Browsers, die für Nutzerinnen und Nutzer Aufgaben erledigen können, in Umgebungen integriert werden, in denen Nutzer bereits arbeiten. So integriert das Unternehmen zum einen Funktionen in eine ChatGPT-Erweiterung für Chrome. Diese soll ChatGPT etwa Zugriff auf den Kontext der gerade angezeigten Seite gewähren und es den Nutzern ermöglichen, Fragen zu Webseiten zu stellen, Inhalte zusammenzufassen oder längere Aufgaben direkt im Browser auszuführen. Damit positioniert OpenAI das Tool als direkte Konkurrenz zu Googles Gemini-Integration in Chrome, die einige der gleichen Funktionen erfüllt. Hierzulande steht die Gemini-Integration noch nicht zur Verfügung.

Lesen Sie auch

Überdies bohrt OpenAI seine ChatGPT-Desktop-App auf: Sie soll der Ankündigung des Unternehmens zufolge einen leistungsfähigeren Browser erhalten, mit dem Nutzer Websites durchsuchen, Dateien herunterladen und mit Webseiten interagieren können, ohne ChatGPT verlassen zu müssen. Ferner erhält die App Unterstützung für mehrere Tabs, einen Passwortmanager mit Autofill sowie eine umfassende Authentifizierungsunterstützung inklusive Gerätepasswörtern und Enterprise-SSO sowie eine Download-Option.

Weiterlesen nach der Anzeige

Überdies zieht ein separater Cloud-Browser in die App ein, der remote auf den Servern von OpenAI läuft und als Plattform dient, auf der die Agenten der App Aufgaben im Auftrag des Nutzers ausführen können, erläutert James Sun von OpenAI auf X. Laut Sun zieht auch die Coding-Plattform Codex in die Desktop-App ein. Mit dem Aus von Atlas und der Erweiterung der Desktop-App liefert OpenAI letztlich eine „Super-App“, über die im März 2026 zuerst das WSJ berichtete.


(afl)



Source link

Weiterlesen

Beliebt