Anthropic hat zusammen mit der National Nuclear Security Administration (NNSA) einen Klassifikator entwickelt, der Anfragen zur Herstellung von Nuklearwaffen erkennen soll. Damit steht ein weiteres Modell bereit, um Chats mit Claude auf mögliche Risiken zu überprüfen und missbräuchlich genutzte Konten zu sperren.

Erkennung von harmlosen Anfragen

Die NNSA, die dem US-Energieministerium (DOE) untersteht, hatte bereits im April des vergangenen Jahres damit begonnen, Claude in einer eigenen abgesicherten Umgebung zu testen. Gemeinsam mit Anthropic wurde im Anschluss mit der Erstellung eines Klassifikators für nukleare Bedrohungen begonnen. Mithilfe dieser Technologie, die versucht, Inhalte anhand von Algorithmen des maschinellen Lernens zu kategorisieren oder identifizieren, sollte ein Modell geschaffen werden, das wissenschaftliche Fragestellungen zu Nuklearwaffen oder Kernenergie von terroristisch motivierten Interaktionen unterscheiden kann. Für Anthropic sind Informationen über Atomwaffen besonders sensibel, weshalb die Bewertung solcher Risiken für ein privat agierendes Unternehmen allein als schwierig gilt.

Ein Junk-Filter für Claude

Zur Entwicklung des Systems stellte die NNSA eine Liste nuklearer Risikoindikatoren bereit, mit deren Hilfe sich bedenkliche Gespräche über den Bau von Kernwaffen von harmlosen Diskussionen zu Kernenergie, Medizin oder Politik abgrenzen lassen sollen. Diese Liste wurde in einen Klassifikator überführt, der Anfragen zu nuklearen Themen in Echtzeit identifizieren konnte – vergleichbar mit einem skalierten Junk-Filter für E-Mails.

Um die Entscheidungen überprüfen zu können, testeten die Beteiligten das System mit Hunderten synthetischer Anfragen, deren Ergebnisse anschließend mit der NNSA abgeglichen wurden. Diese bestätigte in ihren Untersuchungen, dass die Kennzeichnungen des Klassifikators mit den erwarteten Kennzeichnungen übereinstimmten. Daraufhin wurde das System weiter angepasst, um die Genauigkeit zu erhöhen.

Bereits erste Ergebnisse vielversprechend

In den ersten, in einer abgesicherten Umgebung durchgeführten Tests, soll Claude mit einer Genauigkeit von über 96 Prozent zwischen besorgniserregenden und gutartigen Gesprächen mit Bezug zur Kerntechnik unterschieden haben. Der nächste Schritt bestand darin, den Klassifikator auch in offenen Interaktionen einzusetzen, als Teil eines umfassenderen Systems zur Erkennung von Missbrauch der Claude-Modelle. Laut Anthropic bestand dabei die Herausforderung darin, die Geheimhaltungspflichten der NNSA mit den Datenschutzverpflichtungen von Anthropic sowie dem Schutz der Nutzer in Einklang zu bringen. Zudem war die richtige Justierung entscheidend: Ein zu strenges System könnte legitime Anfragen blockieren, während ein zu lockeres bösen Akteuren unbeabsichtigt helfen könnte.

In der Praxis bewährt

Inzwischen überwacht der Klassifikator als experimentelle Ergänzung des Safeguards-Frameworks von Anthropic Teile des Claude-Verkehrs und soll sich dem Unternehmen zufolge bewährt haben, auch wenn die Verteilung des tatsächlichen Nutzerverhaltens sich am Ende komplexer und unerwarteter erwies. Fehlerfrei arbeitet die Erkennung allerdings nicht: So sorgten laut Anthropic die politischen Entwicklungen im Nahen Osten dafür, dass das Thema Atomwaffen in der letzten Zeit eine höhere Aufmerksamkeit erhalten hat. Durch diesen Anstieg markierte der Klassifikator fälschlicherweise einige Konversationen, die sich bei genauerer Betrachtung lediglich auf aktuelle Ereignisse bezogen. Der Kontext zeigte hier, dass es sich um harmlose Diskussionen handelte.

Blaupause für andere Unternehmen

Die gewonnenen Erkenntnisse will Anthropic mit dem Frontier Model Forum, einem Branchenverband für KI-Unternehmen, teilen. Ziel ist es, dass auch andere führende Anbieter ähnliche Schutzmechanismen einführen können. Zudem soll das System verdeutlichen, wie staatliche Expertise durch freiwillige öffentlich-private Zusammenarbeit zur Verbesserung der KI-Sicherheit beitragen kann.

Entwickler Kovid Goyal hat Version 8.9 seiner freien Software zur Verwaltung digitaler Bücher, Calibre, veröffentlicht. Mit dem Update werden zahlreiche Fehler in der praktischen Software zu Organisation von E-Books ausgebügelt. Um große neue Features geht es kurz vor Version 9.0 nicht.

Ein paar kleine Neuerungen

Aber es gibt ein paar kleine Neuerungen. So entfernt die aktuelle Version bei übereinstimmenden Büchern im Bibliotheksfenster nachgestellten Text in Klammern oder nach einem Doppelpunkt, wenn keine Übereinstimmung gefunden wurde und das Buch auf dem angeschlossenen E-Book-Reader genutzt wird.

Beim Zusammenführen von E-Books per Drag & Drop wird zudem nun das Cover des Zielbuchs angezeigt. Außerdem wurde die Unterstützung für eingebettete Schriftarten ergänzt. Im Plugin-Installationsfenster lassen sich ab sofort die verfügbaren Erweiterungen nun zusätzlich nach Kategorie filtern.

Fehlerkorrekturen im Fokus

Darüber hinaus hat die neue Calibre-Version zahlreiche Fehlerkorrekturen erhalten: Beim Einfügen von Text aus der Zwischenablage wird dieser nun in die NFC-Form überführt, der Auswahldialog für Text-to-Speech-Stimmen im Content Server Viewer wurde ebenfalls verbessert. Zudem wurde beim Inhaltsserver ein Problem behoben, das beim Bearbeiten der Metadaten eines Buches sowohl Änderungen am Cover als auch an einem weiteren Feld verhinderte.

Die umfangreichen Release Notes geben eine ausführliche Übersicht über alle Neuerungen und Fehlerbehebungen.

Ab sofort verfügbar

Calibre 8.9 steht ab sofort auf der Website des Entwicklers für Windows, macOS und Linux bereit. Wie gewohnt kann die Software auch bequem über den Link am Ende dieser Meldung aus dem Download-Bereich von ComputerBase geladen werden.

ComputerBase konnte auf der Gamescom bei Nvidia mehrere noch nicht erschienene Titel vorab anspielen und auch Gameplay in hoher Qualität aufnehmen. Darunter waren Resident Evil Requiem und Pragmata (Technik-Hands-on), aber auch Borderlands 4 und Black State, um die sich dieser Bericht dreht.

So viel direkt vorweg: An die wirklich sehr hohe Grafikqualität von Resident Evil Requiem und Pragmata (Technik-Hands-on) kommen Borderlands 4 und Black State nicht heran. Ein kleines Hintertürchen lassen sich beide Spiele jedoch noch offen: In Borderlands 4 waren manche Grafikoptionen zum Beispiel noch nicht maximiert und in das Menü von Black State durfte die Redaktion erst gar keinen Blick werfen, weswegen dort ein Fragezeichen bleibt. Das gilt jedoch auch für Resident Evil Requiem und Pragmata.

Beide Spiele liefen auf einer GeForce RTX 5090 (Test), DLSS 4 und DLSS Multi Frame Generation waren aktiviert – nicht verwunderlich auf einem Gamescom-Event von Nvidia. Beide Spiele liefen flüssig, was aufgrund der Hardware, der Upsampling-Einstellungen und der teils reduzierten Grafikoptionen aber auch nicht verwunderlich ist.

Die Grafik von Borderlands 4

Borderlands 4 ist optisch ganz klar als Borderlands-Spiel wiederzuerkennen, alle Titel folgen demselben Grafikstil.

Sichtbar besser als Borderlands 3

Die Comic-Optik macht im neuesten Teil einen guten Eindruck und kann sich sichtbar von Borderlands 3 (Test) und Tiny Tina’s Wonderlands (Test) absetzen, reißt aber keine Bäume aus. Der Comic-Stil lässt das aber auch nicht unbedingt zu.

Teil 4 profitiert von UE5 Lumen

Wovon Borderlands 4 deutlich in Sachen Optik profitiert, ist Lumen der Unreal Engine 5. Der Titel unterstützt zwar kein Hardware-Raytracing, die Software-Variante jedoch schon und die bringt in zwei Disziplinen Vorteile. So ist die Beleuchtung deutlich besser als in den Vorgängern, in denen die Spielwelten grafisch teils doch sehr flach gewesen sind. Darüber hinaus machen sich die Reflexionen positiv bemerkbar, sodass sich zum Beispiel die Umgebung sichtbar in den Waffen spiegelt.

Wirkliche Grafikhighlights hat es in der Anspiel-Session von 30 Minuten keine gegeben, wobei das auch an dem Levelabschnitt gelegen haben kann, der etwas unglücklich ausgesucht gewesen schien. Denn mehr als die klassische grau-braune Felsenlandschaft gab es nicht zu sehen. Borderlands liefert gerne auch deutlich verrücktere Szenarien ab. Borderlands 4 erscheint bereits am 12. September und kann aktuell ab 70 Euro vorbestellt werden.

Die Grafik von Black State

Die Grafik von Black State anhand der bereitgestellten Demosequenz zu bewerten, erwies sich als schwierig.

Die Demo lief noch nicht rund

Nicht nur, dass gleich mehrere Redakteure inklusive des Autors am Tutorial gescheitert sind und es im ersten von zwei verschiedenen Level-Abschnitten völlig unklar gewesen ist, wie es überhaupt weiter geht, auch sonst scheint das Spiel einige Probleme zu haben. Gameplay und auch Gunplay haben auf jeden Fall noch einige Arbeit vor sich. Technisch präsentierte sich Black State besser, aber auch nicht optimal.

UE5 mit Hardware-Lumen (RT)

Als Engine kommt die Unreal Engine 5 zum Einsatz und es wird auf Hardware-Lumen und damit Hardware-Raytracing gesetzt. Der erste Levelabschnitt spielt in einer Militärbasis im Wald, wirkt aber so, als wäre die Sequenz relativ hastig im Editor mit Standard-Objekten zusammengebastelt worden. Zwar ist alles vollgepackt mit irgendwelchen Gebäuden und Zelten, aber das Resultat ist steril.

Im zweiten Spielgebiet, einem Innenlevel, wird es deutlich besser und die Grafikqualität fährt sichtbar nach oben. Es wirkt so, als hätten sich die Entwickler mehr Mühe gegeben. Darüber hinaus kommen in diesem Abschnitt auch stark die Raytracing-Reflexionen zum Einsatz, was in der Umgebung passend wirkt und einiges her macht. Vor allem in Feuergefechten kommt dann eine sehr dynamische Optik zustande, die deutlich besser als im ersten Level funktioniert.

Noch viel zu tun

Black State hat aktuell noch kein Erscheinungsdatum und das ist vermutlich auch gut so. Im zweiten Levelabschnitt zeigt sich zwar, wohin das Spiel eigentlich möchte und das es gut werden könnte, der erste Abschnitt und auch einige Spielelemente benötigen aber noch viel Arbeit.

Dieser Artikel war interessant, hilfreich oder beides? Die Redaktion freut sich über jede Unterstützung durch ComputerBase Pro und deaktivierte Werbeblocker. Mehr zum Thema Anzeigen auf ComputerBase.