Die Fähigkeit, mithilfe künstlicher Intelligenz neue Proteine zu entwerfen, gilt als eine der faszinierendsten und zugleich riskantesten Entwicklungen in den modernen Biowissenschaften. Die Technologie eröffnet völlig neue Möglichkeiten für Medizin, Materialforschung und nachhaltige Produktion – doch sie wirft auch Fragen zur Biosicherheit auf. Abhilfe soll verbesserte Erkennungssoftware schaffen.

Eine in der Fachzeitschrift Science veröffentlichte Studie von Wittmann et al. zeigt, dass KI-Systeme zur Proteindesign-Generierung tatsächlich in der Lage sind, Varianten gefährlicher Proteine zu produzieren, die kommerzielle Biosicherheits-Screening-Systeme teilweise nicht erkennen.

Diese Firmen sind eine kritische Kontrollinstanz, um den Missbrauch der Technologie, etwa zur Herstellung von Biowaffen, zu verhindern. Die Studie soll als Stresstest für die aktuellen Sicherheitsmechanismen dienen und deren Grenzen hinsichtlich generativer KI aufzeigen.

KI-generierte Proteine gegen kommerzielle Scanner

Für die Untersuchung nutzten die Forschenden eine Open-Source-KI, um über 75.000 Varianten von bekannten gefährlichen Proteinen zu erstellen. Diese legten sie vier verschiedenen kommerziellen Biosicherheits-Screening-Systemen (BSS) zur Prüfung vor. Das Ergebnis war eindeutig: Während die Systeme die Original-Sequenzen der Proteine zuverlässig erkannten, war die Erkennungsrate bei den KI-generierten Varianten, die eine ähnliche Funktion bei abweichender Sequenz aufwiesen, unzuverlässig.

In Zusammenarbeit mit den BSS-Anbietern entwickelten die Autoren daraufhin Software-Updates, welche die Erkennung signifikant verbesserten. Eine hundertprozentige Detektion aller potenziell gefährlichen Varianten konnte jedoch auch damit nicht erreicht werden.

Die Reaktion anderer Wissenschaftler fällt differenziert aus. „Das Risiko ist mit der neuen KI-basierten Technologie sehr stark gestiegen“, kommentiert Prof. Dr. Gunnar Schröder vom Forschungszentrum Jülich. Die Technologie sei nun einer weitaus größeren Gruppe von Wissenschaftlern zugänglich als noch vor wenigen Jahren. Prof. Dr. Jens Meiler von der Vanderbilt University kritisiert die Darstellung der Studie: „Die Studie ist in der Hinsicht problematisch, weil sie suggeriert, dass sich die Wissenschaft noch nicht mit der Thematik beschäftigt hätte – das machen wir aber seit zwei bis drei Jahren.“

Er verweist auf bestehende Initiativen wie die Leitlinie zum verantwortungsvollen Umgang mit KI im Biodesign. Diese Einschätzung teilt Jun.-Prof. Clara Schoeder von der Universität Leipzig, die zudem methodische Schwächen der Studie anführt. So sei die Gefährlichkeit der Proteine lediglich computerbasiert („in silico“) vorhergesagt und nicht im Labor validiert worden. Zudem sei für die gezielte Erzeugung gefährlicher Proteine weiterhin hohe Expertise und böswillige Absicht notwendig.

Technisches Wettrüsten und ethische Leitplanken

Die Debatte dreht sich vor allem um die adäquaten Gegenmaßnahmen. Die Studie selbst zeigt mit den entwickelten Software-Patches einen technischen Lösungsansatz, der jedoch an das von Prof. Dr. Birte Platow (TU Dresden) beschriebene „Hase-und-Igel-Rennen“ erinnert: Ein ständiger Wettlauf zwischen offensiven und defensiven Technologien.

Darüber hinaus werden regulatorische und ethische Ansätze gefordert. Prof. Dr. Dirk Lanzerath vom Deutschen Referenzzentrum für Ethik in den Biowissenschaften betont die Notwendigkeit verbindlicher Policies und des „Ethics by Design“-Prinzips, bei dem ethische Reflexionen bereits in die Entwicklung integriert werden. Angesichts der globalen Risiken sei ein internationaler Austausch über Standards unverzichtbar.

Gleichzeitig warnt Clara Schoeder vor den negativen Folgen einer zu strikten Regulierung. Diese könnte die legitime Forschung, etwa zur Entwicklung von Impfstoffen auf Basis viraler Sequenzen, durch langwierige Genehmigungsprozesse behindern. Die wissenschaftliche Community setzt daher auch auf Selbstverpflichtung und soziale Kontrolle, wie Birte Platow hervorhebt.

(mack)

Wenn Windows-Computer von Schadcode durchsiebt sind, der PC einmal gar nicht mehr startet und Sie dringend auf Dokumente auf der Festplatte zugreifen müssen, hilft Desinfec’t 2025/26. Das langjährig erprobte Sicherheitstool aus der c’t-Redaktion liegt einem aktuellen Sonderheft bei.

PCs sicher untersuchen

Der Clou von Desinfec’t ist, dass es sein eigenes Live-Betriebssystem mitbringt und so direkt von einem USB-Stick startet. So bleibt Windows inaktiv und ein Schädling kann nicht noch mehr Schaden anrichten. Aus dieser sicheren Position inspizieren Sie das System mit Virenscannern von ClamAV, ESET, IKARUS und WithSecure. Desinfec’t hilft auch bei der Einschätzung von möglichen Fehlalarmen. Man kann damit Trojaner aber auch lahmlegen.

Bild 1 von 8

Der Zubehörhersteller Logitech verschickt derzeit E-Mails an Besitzerinnen und Besitzer POP-Tasten mit der Information, dass die Schalter sowie der dazugehörige Hub am 15. Oktober 2025 ihre gesamte Funktionalität verlieren. Das 130 Euro teure System wird damit schon in Kürze zu Elektroschrott.

„Wir möchten Sie darüber informieren, dass wir den Service für den Logitech POP-Button einstellen werden. Fast ein Jahrzehnt lang haben wir das POP-Ökosystem gepflegt, aber aufgrund der technologischen Weiterentwicklung haben wir beschlossen, die Unterstützung für dieses Gerät einzustellen,“ heißt es in der Mail, die unter anderem im Harmony-Remote-Forum geteilt wird.

Weiter heißt es, dass Besitzer des Logitech POP zum Ausgleich ein Preisnachlass von 15 Prozent in den Stores der Logitech-Marken – also auch Logitech G und Ultimate Ears – eingeräumt werde. Der Gutscheincode sei bis zum 31. März 2026 gültig. Wie betroffene Nutzer auf Reddit schreiben, scheint der Code jedoch nur im US-Store einlösbar zu sein, während er beispielsweise im UK-Store offenbar nicht akzeptiert werde.

POP nicht das erste Opfer

Logitechs POP-Schalter wurde 2018 eingeführt und dient quasi als physischer Ersatz zur Smartphone-App zum Bedienen diverser Smart-Home-Geräte. Das System unterstützt 14 Systeme, darunter Philips Hue, Sonos, Fritzbox, Lifx, Lightify, WeMo und kann in IFTTT als auch Apples HomeKit eingebunden werden.

Logitech hatte schon in der Vergangenheit wiederholte Funktionen und Produkte abgeschaltet. Ende des 2017 deaktivierte Logitech etwa den Cloud-Dienst, der für den Betrieb der Universalfernbedienung Harmony Link erforderlich war. Das Gerät wurde damit unbrauchbar. Nach lauter Nutzer-Kritik bot das Unternehmen einen kostenlosen Umtausch gegen ein neueres Gerät an. Im September 2018 entfernte Logitech dann per Update mehrere Funktionen, darunter den Sprachassistenten Alexa, aus einigen Ultimate-Ears-Lautsprechern.

(afl)