Connect with us

Apps & Mobile Entwicklung

Datenleck bei Anthropic: Teile des Quellcodes von Claude Code veröffentlicht


Datenleck bei Anthropic: Teile des Quellcodes von Claude Code veröffentlicht

Bild: Anthropic

Anthropic hat versehentlich Teile des Quellcodes des populären Coding-Assistenten Claude Code veröffentlicht. Mehr als 512.000 Zeilen Code sowie rund 2.000 Dateien umfasst das Datenleck, das Einblicke in die interne Funktionsweise von Claude Code liefert.

Anthropic hat den Vorfall in einer Stellungnahme gegenüber Medien wie CNBC bestätigt, wonach weder Kunden- noch Zugangsdaten betroffen seien. Ursache war dem Unternehmen zufolge ein „packaging issue“, das sich auf menschliches Versagen zurückführen lasse. Um einen Sicherheitsvorfall handele es sich demnach nicht. Man prüfe nun Maßnahmen, um solche Probleme in Zukunft zu verhindern.

Zu dem Datenleck kam es, weil bei einer Eintragung in das öffentlich zugängliche NPM-Register auch eine Source-Map-Datei enthalten war, die den Quellcode beinhaltete. Entdeckt wurde diese Datei von dem IT-Sicherheitsexperten Chaofan Shou, sein Link zu dem Code-Paket ist mittlerweile nicht mehr abrufbar. Nachdem er seine Entdeckung am Dienstag auf X teilte, kursiert der Code schnell auf Plattformen wie GitHub und wird schon für Projekte wie Claw Code verwendet.

Code der KI-Modelle soll von dem Datenleck nicht betroffen sein.

Quellcode zeigt, wie Claude Code funktioniert

Diverse Entwickler haben den Quellcode des Coding-Assistenten bereits ausgewertet. Wie The Verge berichtet, fanden diese unter anderem interessante Details zur internen Struktur, dem Speicher-Management, Teile des System-Prompts sowie Hinweise auf neue Funktionen. Dazu zählen etwa Agenten, die dauerhaft im Hintergrund laufen.

Futter für Anthropics Konkurrenten und Angreifer

Laut einem Bericht von Ars Technica sind zwei Aspekte am Datenleck besonders problematisch für Anthropic. Claude Code gilt derzeit als führender KI-Agent. Dementsprechend profitiert nun die Konkurrenz, die zwar Funktionen nicht 1-zu-1 übernehmen kann, aber nun eher versteht, wie Anthropics Coding-Assistent arbeitet.

Angreifer profitieren ebenfalls, weil diese nun besser nachvollziehen können, wie Anthropics Sicherheitsmechanismen funktionieren. Das Datenleck liefert also Hinweise auf neue Angriffspunkte.



Source link

Apps & Mobile Entwicklung

Neues Standardmodell für Claude: Sonnet 5 erreicht Niveau des Top-Modells Opus 4.8


Neues Standardmodell für Claude: Sonnet 5 erreicht Niveau des Top-Modells Opus 4.8

Claude Sonnet 5 ist Anthropics neues Standardmodell, das bei der Leistungsfähigkeit zu Opus 4.8 aufschließt. Fortschritte gibt es insbesondere bei den agentischen Fähigkeiten, also etwa dem autonomen Bearbeiten von Aufgaben sowie der Computernutzung.

Mit Sonnet 5 soll das auf einem Niveau passieren, für das laut Anthropic vor einigen Monaten noch größere und damit teurere Modelle nötig gewesen wären. Für dieselben Aufgaben müssen also weniger Token verbrannt werden.

In Zeiten knapper Nutzungslimits ist das ein relevanter Faktor. Der Unterschied von Sonnet 4.6 zu dem regulären Top-Modell Opus 4.8 beim Verbrauch ist auffällig. Und Fable 5 als – bald zurückkehrendes – Spitzenmodell benötigt nochmals mehr Token.

Wie Sonnet 5 sich im Vergleich zu Sonnet 4.6 und Opus 4.8 schlägt, zeigen Anthropics interne Benchmarks. Das neue Standard-Modell liegt in der Regel näher an den Werten von Opus 4.8 als dem Sonnet-Vorgänger.

Wie Sonnet 5 bei Cybersicherheitstests abschneidet
Wie Sonnet 5 bei Cybersicherheitstests abschneidet (Bild: Anthropic)

Vor allem bei agentischen Aufgaben verspricht Anthropic auch mehr Sicherheit. So zeigt es etwa seltener unerwünschte Verhaltensweisen. Für den Bereich der Cybersicherheit wurde es nicht speziell trainiert. Einige Aufgaben, die wenig riskant sind, erledigt es. Im Vergleich zu Opus 4.8 und insbesondere zu den Mythos-Modellen ist es aber nicht in der Lage, systematisch Sicherheitslücken zu finden und für diese Exploits zu erstellen. Das ergeben Tests mit Firefox 147.

Sonnet 5 ab heute für alle verfügbar

Sonnet 5 ist ab heute für alle Claude-Nutzer verfügbar. In der freien Version des KI-Chatbots sowie dem Pro-Abo ist es das neue Standard-Modell. Wie leistungsfähig die Modelle sind, hängt auch vom „Aufwand“-Niveau ab. Je höher die Stufe ist, desto mehr Kapazitäten werden verbraucht. Insbesondere in der freien Version sind die Nutzungslimits dabei beschränkt.

Verfügbar ist Sonnet 5 auch über die API. Die Preise liegen beim Input bei 2 US-Dollar für 1 Million Token und beim Output sind es 10 US-Dollar für 1 Million Token. Diese Preise gelten bis zum 31. August. Dann werden es wieder 3 US-Dollar beim Input und 15 US-Dollar beim Output für je 1 Million Token. Anthropic verweist aber schon auf einen angepassten Tokenizer, wodurch der Tokenverbrauch je nach Aufgabe auf einen Faktor von bis zu 1,35 steigen kann.

Angesichts der Einstiegspreise sollte der Übergang zu Sonnet 5 zunächst kostenneutral sein. Bei Opus 4.7 wurde der Tokenizer ebenfalls angepasst, was damals in Foren und sozialen Medien für Kritik und Diskussionen sorgte.



Source link

Weiterlesen

Apps & Mobile Entwicklung

Trump-Regierung hebt Sperre auf: Anthropics Top-Modell Fable 5 kehrt heute zurück


Anthropics Top-Modell Fable 5 kehrt ab heute zurück, Mythos 5 soll bald wieder für weitere Organisationen freigegeben werden. Die Exportkontrollanordnung, mit der die Trump-Administration den Zugang zu den Modellen sperrte, hat das amerikanische Handelsministerium bereits aufgehoben.

Die Freigabe erfolgt heute im Laufe des Tages. Fable 5 ist dann weltweit über Claude Platform, Claude.ai, Claude Code und Claude Cowork verfügbar. Nutzer der Abo-Pläne Pro, Max, Team und ausgewählte Business-Pläne erhalten eine Woche lang ein um 50 Prozent erhöhtes Nutzungslimit für Fable 5. Danach greift das bekannte Credit-System, Nutzer müssen also Nutzungskapazitäten hinzubuchen.

Fable 5 ist die öffentliche Variante des Mythos-Modells, das Restriktionen in Bereichen wie Cybersicherheit und Biologie hat. Mythos 5 – also das Modell ohne Beschränkungen – ist seit letzter Woche bereits für eine Reihe von US-Organisationen freigeschaltet. Diese können es für das Absichern digitaler Infrastrukturen nutzen. Anthropic und die US-Regierung koordinieren sich nun, um weiteren amerikanischen und internationalen Organisationen einen Zugang zu geben.

Hintergründe zu Fable 5 und Mythos 5

Details zum Abkommen nennt die Trump-Administration nicht. „In den letzten zwei Wochen haben wir eng mit Anthropic zusammengearbeitet, um Fable 5 zu prüfen und freizugeben“, erklärt Handelsminister Howard Lutnick. Das erfolge im Rahmen einer abgestimmten Linie innerhalb der US-Regierung.

Neue Schutzmechanismen für Jailbreak – aber keine hundertprozentige Sicherheit

Hintergründe nennt Anthropic in einem Blog-Beitrag. Demnach war der Hinweis von Amazon für einen Fable-5-Jailbreak das Thema, das in den letzten Wochen von den Beteiligten diskutiert wurde. Anthropic hält diesen Jailbreak – ebenso wie Sicherheitsexperten – für nicht allzu gravierend. Damit lassen sich zwar Schutzmechanismen von Fable 5 aushebeln, das Modell findet aber keine Software-Fehler, die nicht auch frei verfügbare Modelle wie Claude Opus 4.8 oder GPT-5.5 entdecken würden.

  • Hinweis von Amazon: Wie es zur Sperre von Mythos 5 und Fable 5 kam

In Absprache mit Amazon und der Trump-Administration hat Anthropic nun Sicherheitsmechanismen entwickelt, die verhindern, dass sich die Restriktionen von Fable 5 mit so einem Jailbreak umgehen lassen. Ein neuer Sicherheitsklassifikator erkennt das Verhalten in 99 Prozent der Fälle und blockiert es. Die Konsequenz ist jedoch, dass das Modell nun häufiger harmlose Coding- und Debugging-Aufgaben als problematisch markiert und einen Wechsel auf schwächere Modelle erzwingt.

Wie scharf diese Klassifikatoren geschaltet sind, ist also sowohl für die Schutzmechanismen als auch die Fähigkeiten der Modelle entscheidend. Wie IT-Sicherheitsexperten anmerken, erklärt nun auch Anthropic: Es ist unmöglich, ein Modell zu 100 Prozent gegen Jailbreaks abzusichern.

Industrie-Leitfaden für das Bewerten von KI-Jailbreaks

Die zentrale Frage ist nun, wie KI-Unternehmen mit entsprechenden Hinweisen umgehen. Gemeinsam mit Amazon, Microsoft, Google und anderen Partnern aus dem Projekt Glasswing hat Anthropic nun einen Industrie-Leitfaden entwickelt. Bei der Bewertung von Jailbreaks basiert dieser auf vier Punkten:

  • Fähigkeitengewinn: Wie viel besser werden KI-Tools nach dem Jailbreak? Sind sie damit in der Lage, bisher frei verfügbare Tools zu übertreffen?
  • Reichweite der neuen Fähigkeiten: Für wie viele Aufgaben und Bereiche lässt sich der Jailbreak nutzen?
  • Waffentauglichkeit: Wie viel Aufwand müssen Menschen investieren, damit sich aus dem Jailbreak eine Waffe entwickeln lässt?
  • Auffindbarkeit: Wie schwer ist es, den Jailbreak zu entdecken?

Anhand dieser Kategorien sollen Jailbreaks eine Punktebewertung erhalten. Das Verfahren und der Umgang mit den Schutzmechanismen sind laut Anthropic jedoch ein Prozess, der weitere Arbeit erfordere.

Mehr Austausch mit der US-Administration

Verstärken will Anthropic zudem die Zusammenarbeit mit der US-Regierung. Neue leistungsfähige Modelle soll diese frühzeitig erhalten, um selbst die Fähigkeiten prüfen zu können. Details über Schutzmechanismen und Schwachstellen zu teilen, steht ebenfalls auf der Agenda.

Generell sei laut Anthropic das Ziel, beim Veröffentlichen von Modellen einen gemeinsamen Standard für KI-Entwickler zu etablieren.



Source link

Weiterlesen

Apps & Mobile Entwicklung

Intel Foundry: Neue Anlage für EUV-Masken und mehr in Santa Clara


Intel Foundry: Neue Anlage für EUV-Masken und mehr in Santa Clara

Bild: Intel

Rund eine Meile vom Intel-Hauptquartier in Santa Clara errichtet der Konzern ein neues Central Utility Building (CUB). Dieses wird mit verschiedenen Werkzeugen und der Herstellung zusätzlicher Masken für die Fertigung eben genau diese in Zukunft unterstützen. Die Pläne für das Gebäude sind dabei schon drei Jahre alt.

Auch diese Planung geht letztlich deshalb auf Pat Gelsingers Idee zurück, der den Ausbau der Fertigung bei Intel massiv forciert hatte, bevor Intel die finanziellen Mittel knapp wurden und die meisten Dinge nicht umgesetzt werden konnten. Die Pläne für das neue Intel-CUB am Bowers Campus gehen so letztlich bereits auf den August 2023 zurück, seitdem liegen sie bei der Stadt Santa Clara aus.

Die Pläne wurden ohne Bedenken genehmigt, nun startet der Bau endlich. Im Beisein der Führungsetage mit CEO Lip-Bu Tan, Foundry-Chef Naga Chandrasekaran und Frank Abboud, Vice President on Technology Development und General Manager der Intel Mask Operation, erfolgte der erste Spatenstich.

Intel Mask Operation (IMO) ist seit 40 Jahren in Santa Clara und ist außerdem in Hillsboro am Forschungscampus vertreten. Hier werden die in der Fertigung benötigten Fotomasken selbst hergestellt, die dann in den DUV- und EUV-Systemen zum Einsatz kommen. Erst durch sie kann ein Chip in seiner Komplexität überhaupt entstehen. Mit einer größeren Produktvielfalt und künftig möglicherweise auch externen Kunden in modernsten Fertigungsprozessen wird mehr Platz benötigt. Denn für einen einzigen Chip werden schnell viele Dutzend Masken benötigt – bei 14 nm brauchte es für einen einzelnen Die rund 70 Masken. Wie viele das bei einem modernen Multi-Chip-Package sind, ist nicht bekannt, dürfte jedoch zusammengefasst deutlich darüber rangieren.

Ein kurzes Video von Intel – zwar schon aus dem Jahr 2019 – zeigt die Grundlagen und den Einsatz der Masken, die sich jedoch nicht geändert haben. Schon damals hat Intel Tausende der 6 × 6 Zoll großen Masken im Jahr hier gefertigt.





Source link

Weiterlesen

Beliebt