Führende KI-Unternehmen, Wissenschaftler und Biosecurity-Experten fordern in einem offenen Brief neue gesetzliche Vorgaben für die Kontrolle synthetischer DNA und RNA. Anlass sind wachsende Sorgen, dass immer leistungsfähigere KI-Systeme die Hürden für die Entwicklung biologischer Waffen senken könnten.

Künstliche Intelligenz als Gefahrenquelle ausgemacht

Darüber berichtet das IT-Portal Wired. Zu den Unterzeichnern des an den US-Kongress gerichteten offenen Briefes zählen unter anderem Führungskräfte von Google DeepMind, OpenAI, Anthropic und Microsoft AI, darunter Demis Hassabis, Sam Altman, Dario Amodei und Mustafa Suleyman. Alle sprechen sich für gesetzliche Vorgaben aus, die Anbieter synthetischer DNA- und RNA-Sequenzen verpflichten sollen, sowohl Kunden als auch Bestellungen systematisch zu überprüfen.

Drastisch gesunkene Kosten als Problem

Initiiert wurde der Brief vom Institute for Progress (IFP) und der Foundation for American Innovation (FAI), zwei Non-Profit-Think-Tanks mit Sitz in Washington D.C. In dem veröffentlichten Schreiben warnen sie davor, dass die rasante Entwicklung künstlicher Intelligenz bestehende Wissensbarrieren für den Zugang zu biologischen Waffen deutlich senken könnte. Als besonders relevant heben die Initiatoren die Herstellung synthetischer DNA hervor. Seit den ersten Erfolgen in den 1950er-Jahren habe sich dieser Bereich grundlegend verändert, da heute zahlreiche Unternehmen weltweit genetische Sequenzen automatisiert produzieren und vertreiben. Zugleich sei die Technologie längst zu einem festen Bestandteil von Forschung, Medikamentenentwicklung und Diagnostik geworden und werde dort vielfältig konstruktiv eingesetzt. Einheitliche gesetzliche Vorgaben für Unternehmen existieren bislang jedoch nicht.

Zu den Unterzeichnern zählen außerdem Vertreter der Gensynthese-Unternehmen Twist Bioscience und Ansa Biotechnologies. Beide Unternehmen unterstützen bereits freiwillige Kontrollmaßnahmen im Rahmen des International Gene Synthesis Consortium. Darüber hinaus überprüfen zahlreiche Anbieter Bestellungen automatisiert auf sogenannte „Sequences of Concern“, also genetische Sequenzen mit potenziell gefährlichen Eigenschaften.

Nach Ansicht der Unterzeichner könnte künstliche Intelligenz sowohl die Kostenhürden als auch vor allem die Entwicklungszeiten drastisch reduzieren. Die Kombination aus günstiger werdender Gensynthese und leistungsfähigen KI-Systemen erhöhe das Risiko, dass gefährliche Toxine oder Krankheitserreger entwickelt werden könnten. Zwar werde darauf hingewiesen, dass für die praktische Umsetzung weiterhin biologische Fachkenntnisse erforderlich seien, dennoch könne KI die Recherche, Planung und Entwicklung erheblich erleichtern.

Alte Erreger könnten reaktiviert werden

Als Warnsignal verweisen die Verfasser des Briefes auf ein Experiment aus dem Jahr 2017, bei dem kanadische Forscher mithilfe bestellter DNA im Wert von lediglich 100.000 US-Dollar das ausgestorbene Horsepox-Virus rekonstruieren konnten. Vergleichbare Methoden könnten theoretisch auch bei gefährlicheren Erregern wie den Pocken eingesetzt werden. Gleichzeitig seien die Kosten für die DNA-Synthese in den vergangenen Jahren kontinuierlich gesunken.

Hinzu komme, dass KI-Systeme laut dem Stanford-Mikrobiologen David Relman dabei helfen könnten, Anbieter mit unzureichenden Kontrollen zu identifizieren oder Bestellungen so anzupassen, dass bestehende Screening-Systeme umgangen werden. Zudem würden vorhandene Kontrollmechanismen immer wieder Schwachstellen aufweisen. So kam zuletzt eine Studie von Microsoft zu dem Ergebnis, dass KI-gestützte Protein-Design-Systeme potenziell gefährliche genetische Sequenzen erzeugen konnten, die von Screening-Programmen nicht erkannt werden.

Druck auf den US-Senat

Der Brief betont daher, dass nicht nur Gensynthese-Unternehmen, sondern auch Anbieter von KI-Systemen Verantwortung übernehmen müssten und zusätzliche Sicherheitsmechanismen erforderlich seien. Bereits unter der Biden-Regierung wurden Richtlinien eingeführt, nach denen staatlich geförderte Forschungseinrichtungen ausschließlich bei Anbietern bestellen dürfen, die entsprechende Prüfverfahren durchführen. Ein Anfang des Jahres im US-Senat eingebrachter parteiübergreifender Gesetzentwurf sieht vor, die Überprüfung von Kunden und Bestellungen für sämtliche in den USA tätigen Gensynthese-Anbieter verpflichtend zu machen.

OpenAI führt mit „Dreaming“ eine neue und weiterentwickelte Speicherarchitektur für ChatGPT ein, die gespeicherte Erinnerungen auch über längere Zeiträume hinweg einbeziehen kann. Dadurch soll die Arbeit mit dem Chatbot präziser werden und zugleich besser skalieren. Davon sollen künftig auch Nutzer ohne Abonnement profitieren.

Speicherfunktion nun wesentlich leistungsfähiger

OpenAI bezeichnet die im April 2024 eingeführte und seither kontinuierlich ausgebaute Memory-Funktion als zentrale Grundlage für die Personalisierung von ChatGPT. Sie ermöglicht es dem System, Informationen über Nutzer wie Vorlieben, Projekte oder Anforderungen über mehrere Gespräche hinweg zu berücksichtigen, sodass neue Unterhaltungen nicht jedes Mal wieder bei Null beginnen müssen. Anfangs beschränkte sich die Funktion darauf, dass Anwender ChatGPT gezielt anweisen konnten, bestimmte Informationen dauerhaft zu speichern. Rund ein Jahr später wurde die Speicherlösung um die Analyse früherer Gespräche im Hintergrund erweitert. Dabei erstellt das System automatisch relevante Erinnerungen, ohne dass Nutzer jede Information ausdrücklich speichern müssen. Auf diese Weise konnte ChatGPT bereits deutlich stärker personalisierte Antworten liefern.

Nun hat OpenAI die zugrunde liegende Speicherarchitektur erneut überarbeitet und basiert künftig vollständig auf der weiterentwickelten Dreaming-Technologie. Laut OpenAI arbeitet diese nicht nur effizienter, sondern auch präziser, leistungsfähiger und besser skalierbar als bisherige Ansätze. Gleichzeitig sollen Erinnerungen dynamisch aktualisiert werden, damit veraltete Informationen nicht dauerhaft erhalten bleiben.

Erinnerungen lassen sich nun Aktualisieren

Ein zentrales Element der neuen Architektur ist das sogenannte Memory Summary, über das Anwender nachvollziehen können, welche Informationen ChatGPT über sie gespeichert hat. Gleichzeitig lassen sich Erinnerungen ergänzen, korrigieren oder gezielt steuern. Nutzer können beispielsweise festlegen, welche Themen ChatGPT künftig berücksichtigen oder ansprechen soll.

OpenAI nennt dabei drei Kernziele für ein leistungsfähiges Speichersystem: relevante Informationen und Zusammenhänge langfristig bewahren, persönliche Präferenzen und Einschränkungen zuverlässig berücksichtigen sowie Erinnerungen an zeitliche Veränderungen anpassen und aktuell halten. Als Beispiel nennt das Unternehmen Reiseplanungen: Während frühere Systeme möglicherweise dauerhaft gespeichert hätten, dass ein Nutzer an einen bestimmten Ort reist, soll Dreaming künftig erkennen, wenn die Reise abgeschlossen ist und die entsprechende Erinnerung aktualisieren.

Darüber hinaus soll die neue Architektur den Umgang mit bestehenden Kontexten verbessern. Nutzer könnten dadurch etwa bei Produktempfehlungen auf bereits bekannte Informationen verweisen, anstatt ihre gesamte Ausgangssituation erneut schildern zu müssen.

Speicherfunktion nun für alle Anwender

Gleichzeitig hebt OpenAI die technischen Fortschritte hinter dem System hervor. Demnach konnte der erforderliche Rechenaufwand auf ein Fünftel reduziert werden, wodurch sich die neue Funktion erstmals auch für Nutzer ohne Abonnement bereitstellen lässt. Parallel dazu erhöht OpenAI die verfügbare Speicherkapazität für Plus- und Pro-Abonnenten.

Die Einführung der neuen Dreaming-Funktion startet zunächst in den USA und soll in den kommenden Wochen auf weitere Länder und Nutzergruppen ausgeweitet werden.

Zwölf Jahre alt wird Alien: Isolation diesen Herbst. Bald soll es jetzt einen zweiten Teil des Horror-Abenteuers im Weltall geben. Auf dem Summer Game Fest haben Sega und Creative Assembly erstmals einen vollständigen Trailer gezeigt.

Der Xenomorph ist zurück

Knapp anderthalb Jahre nach der offiziellen Bestätigung der Entwicklung hat Creative Assembly erstmals einen ausführlicheren Blick auf Alien: Isolation 2 gewährt. Konkrete Details zur Handlung verrät das gezeigte Material aber noch nicht. Präsentiert werden in erster Linie eine düstere Atmosphäre und natürlich der ikonische Xenomorph.

Der Trailer deutet zugleich Veränderungen beim Schauplatz an. Statt ausschließlich durch die engen Korridore einer Raumstation zu schleichen, verschlägt es Spieler augenscheinlich auf einen abgelegenen Kolonie-Planeten. Zu sehen sind stürmische Außenbereiche, Industrieanlagen und weitläufigere Umgebungen. Inwiefern die Fortsetzung auch ohne das permanent klaustrophobischen Kammerspiel des Originals funktionieren kann, bleibt spannend: Der Reiz von Alien: Isolation wurde wesentlich von der bedrückenden Stimmung auf der räumlich diskreten Sevastopol-Raumstation gespeist, einem unaufhaltsamen Jäger beinahe chancenlos ausgeliefert zu sein. Laut Creative Director Al Hope soll Alien: Isolation 2 aber genau hier anknüpfen.

It’s been 12 years since we released the first Alien Isolation, and we’re continuing what we started, creating an authentic new chapter which builds on that core Isolation experience of escaping the terrifying, unkillable, relentless Alien.

Al Hope, Creative Director

Die Entwicklung eines Nachfolgers wurde erstmals im Oktober 2024 anlässlich des zehnten Geburtstags des Originals bestätigt. Seitdem hatten sich Creative Assembly und Sega weitgehend bedeckt gehalten. Erst vor einigen Wochen erschien ein kurzer Teaser, der erstmals konkrete Lebenszeichen des Projekts lieferte.

Release weiterhin offen

Einen Veröffentlichungs­termin nannten Sega und Creative Assembly noch nicht. Nach der nun erfolgten Enthüllung ist in den kommenden Monaten aber wahrscheinlich mit weiteren Details zu Handlung, Gameplay und Erscheinungsdatum zu rechnen. Fest steht bereits, dass Alien: Isolation 2 für den PC, die PlayStation 5, Xbox Series X|S und auch die Nintendo Switch 2 erscheinen soll.