Künstliche Intelligenz
Studie: Potenziell gefährliche KI-generierte Proteine werden nicht immer erkannt
Die Fähigkeit, mithilfe künstlicher Intelligenz neue Proteine zu entwerfen, gilt als eine der faszinierendsten und zugleich riskantesten Entwicklungen in den modernen Biowissenschaften. Die Technologie eröffnet völlig neue Möglichkeiten für Medizin, Materialforschung und nachhaltige Produktion – doch sie wirft auch Fragen zur Biosicherheit auf. Abhilfe soll verbesserte Erkennungssoftware schaffen.
Eine in der Fachzeitschrift Science veröffentlichte Studie von Wittmann et al. zeigt, dass KI-Systeme zur Proteindesign-Generierung tatsächlich in der Lage sind, Varianten gefährlicher Proteine zu produzieren, die kommerzielle Biosicherheits-Screening-Systeme teilweise nicht erkennen.
Diese Firmen sind eine kritische Kontrollinstanz, um den Missbrauch der Technologie, etwa zur Herstellung von Biowaffen, zu verhindern. Die Studie soll als Stresstest für die aktuellen Sicherheitsmechanismen dienen und deren Grenzen hinsichtlich generativer KI aufzeigen.
KI-generierte Proteine gegen kommerzielle Scanner
Für die Untersuchung nutzten die Forschenden eine Open-Source-KI, um über 75.000 Varianten von bekannten gefährlichen Proteinen zu erstellen. Diese legten sie vier verschiedenen kommerziellen Biosicherheits-Screening-Systemen (BSS) zur Prüfung vor. Das Ergebnis war eindeutig: Während die Systeme die Original-Sequenzen der Proteine zuverlässig erkannten, war die Erkennungsrate bei den KI-generierten Varianten, die eine ähnliche Funktion bei abweichender Sequenz aufwiesen, unzuverlässig.
In Zusammenarbeit mit den BSS-Anbietern entwickelten die Autoren daraufhin Software-Updates, welche die Erkennung signifikant verbesserten. Eine hundertprozentige Detektion aller potenziell gefährlichen Varianten konnte jedoch auch damit nicht erreicht werden.
Die Reaktion anderer Wissenschaftler fällt differenziert aus. „Das Risiko ist mit der neuen KI-basierten Technologie sehr stark gestiegen“, kommentiert Prof. Dr. Gunnar Schröder vom Forschungszentrum Jülich. Die Technologie sei nun einer weitaus größeren Gruppe von Wissenschaftlern zugänglich als noch vor wenigen Jahren. Prof. Dr. Jens Meiler von der Vanderbilt University kritisiert die Darstellung der Studie: „Die Studie ist in der Hinsicht problematisch, weil sie suggeriert, dass sich die Wissenschaft noch nicht mit der Thematik beschäftigt hätte – das machen wir aber seit zwei bis drei Jahren.“
Er verweist auf bestehende Initiativen wie die Leitlinie zum verantwortungsvollen Umgang mit KI im Biodesign. Diese Einschätzung teilt Jun.-Prof. Clara Schoeder von der Universität Leipzig, die zudem methodische Schwächen der Studie anführt. So sei die Gefährlichkeit der Proteine lediglich computerbasiert („in silico“) vorhergesagt und nicht im Labor validiert worden. Zudem sei für die gezielte Erzeugung gefährlicher Proteine weiterhin hohe Expertise und böswillige Absicht notwendig.
Technisches Wettrüsten und ethische Leitplanken
Die Debatte dreht sich vor allem um die adäquaten Gegenmaßnahmen. Die Studie selbst zeigt mit den entwickelten Software-Patches einen technischen Lösungsansatz, der jedoch an das von Prof. Dr. Birte Platow (TU Dresden) beschriebene „Hase-und-Igel-Rennen“ erinnert: Ein ständiger Wettlauf zwischen offensiven und defensiven Technologien.
Darüber hinaus werden regulatorische und ethische Ansätze gefordert. Prof. Dr. Dirk Lanzerath vom Deutschen Referenzzentrum für Ethik in den Biowissenschaften betont die Notwendigkeit verbindlicher Policies und des „Ethics by Design“-Prinzips, bei dem ethische Reflexionen bereits in die Entwicklung integriert werden. Angesichts der globalen Risiken sei ein internationaler Austausch über Standards unverzichtbar.
Gleichzeitig warnt Clara Schoeder vor den negativen Folgen einer zu strikten Regulierung. Diese könnte die legitime Forschung, etwa zur Entwicklung von Impfstoffen auf Basis viraler Sequenzen, durch langwierige Genehmigungsprozesse behindern. Die wissenschaftliche Community setzt daher auch auf Selbstverpflichtung und soziale Kontrolle, wie Birte Platow hervorhebt.
(mack)
Künstliche Intelligenz
Ikea-Hack: Todesstern-Lampe 2.0 mit motorisierter Dynamik und LED-Lichteffekt
In der Fan-Szene hat sich die Bezeichnung „Todesstern“ in Anlehnung an die Filmsaga Star Wars (Krieg der Sterne) und dem Blockbuster Rogue One für die Leuchte mit dem Ikea-untypischen Namen „PS 2014“ etabliert. Ob es sich bei der Leuchte um ein schickes Designobjekt oder eher Trash handelt, ist wohl eine Frage des individuellen Geschmacks. Der trickreiche Mechanismus, mit dem sich die Leuchte öffnen und schließen lässt, ist aber definitiv ein Hingucker: Wohl kaum ein Kunde kann an dem Teil im Möbelhaus vorbeigehen, ohne selbst einmal an den Schnüren gezogen zu haben.
Die Hängeleuchte gibt es in zwei Größen (35 und 52 cm Durchmesser) und vier Ausführungen. Bei der einfachsten und kleinen Variante (für ca. 40 Euro) sind die Flächen außen und innen weiß oder schwarz, genauso wie die stützenden Stäbe. Früher waren diese orange oder türkis. Für etwa 60 Euro gibt es die kleine Variante auch mit einer silber- oder kupferfarbenen, verspiegelten Innenseite.
- Motorsteuerungen aus RC-Cars umfunktionieren
- Getriebemotor mit Schnurspule kombinieren
- Filmrequisite aus Alltagsgegenstand bauen
Im Laufe der Zeit hat sich die Qualität der einzelnen Bauteile geändert. Wer vor zwei Jahren bei Ikea diese Leuchte erwarb und sie mit der aktuell im Sortiment befindlichen vergleicht, wird die wesentlich leichteren, weniger massiven Streben bemerken. Der Funktion tut das keinen Abbruch, aber der Qualitätsunterschied ist dennoch deutlich zu spüren.
Das war die Leseprobe unseres heise-Plus-Artikels „Ikea-Hack: Todesstern-Lampe 2.0 mit motorisierter Dynamik und LED-Lichteffekt“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Nach dem Cloudflare-Ausfall: Digital völlig unsouverän
Mal ein kleines Gedankenspiel: Wie viel vom Internet, wie wir es kennen, bliebe übrig, wenn Microsoft Azure, Amazon Web Services (AWS) und Cloudflare gleichzeitig Schluckauf hätten? Nach den vergangenen Wochen muss man nur des Addierens mächtig sein und eine gewisse Schnittmenge abziehen, um eine Antwort darauf zu bekommen.
Weiterlesen nach der Anzeige

Malte Kirchner ist seit 2022 Redakteur bei heise online. Neben der Technik selbst beschäftigt ihn die Frage, wie diese die Gesellschaft verändert. Sein besonderes Augenmerk gilt Neuigkeiten aus dem Hause Apple. Daneben befasst er sich mit Entwicklung und Podcasten.
Zwar waren es nur zeitlich begrenzte Ausfälle, die die drei großen Cloud- und Netzwerkdienste plagten. Aber sie genügten, um zweierlei sichtbar zu machen: Erstens, in welchem Umfang das Netz inzwischen von einigen wenigen großen Playern abhängig ist. Und zweitens, dass all das Geschwätz, dass es bei diesen großen Playern keinen Single Point of Failure gibt, dem Reich der Fabeln und Mythen entspringt.
Dezentralität? War da was?
Die Ausfälle haben gezeigt, dass E-Commerce, Banking- und Finanz-Apps, Nachrichtenportale, Unternehmenstools, kritische Infrastrukturdienste und teilweise auch Social-Media-Plattformen von den großen Drei abhängig sind. Gewiss: Kosten, Flexibilität, Schutz vor DDoS-Angriffen, Bots und anderen Bedrohungen sind starke Argumente, warum jeder einzelne sich für diese Abhängigkeit entschieden hat. Aber der Preis, den die Netzgemeinschaft dafür zahlen muss, ist, dass ein gewichtiger Teil der Dezentralität des Netzes dafür geopfert wurde.
Das Versprechen der Plattformen, durch globale Verteilung auf verschiedene Rechenzentren geschützt zu sein, ist nun mehr als einmal Lügen gestraft worden. Einmal ist keinmal – das kann man vielleicht im Falle des Ausfalls eines einzelnen kleinen Servers sagen, aber nicht, wenn geraume Teile des öffentlichen Netzes unerreichbar sind. Von möglichen politischen Machtspielchen, weil all diese Technik von den USA aus gesteuert wird, wollen wir gar nicht erst reden. Welche Ironie, dass sich der jüngste Ausfall just in dem Moment zutrug, in dem in der EU über digitale Souveränität gesprochen wird.
Kill-Switch für die AGI
Weiterlesen nach der Anzeige
Die Titanic war entgegen aller Beteuerungen eben doch nicht unsinkbar. Die großen Cloud-Dienstleister haben sehr wohl Single Points of Failure. Und der Countdown zum Internet-GAU läuft, wenn nicht nur in Sonntagsreden darüber fabuliert wird, dass aus Warnschüssen wie dem aktuellen endlich mal Konsequenzen gezogen werden müssen.
Aber es scheint, als rede man gegen die Wand: Nach einer Serie von Kommentaren, warum wir es blöd finden, sich auf die Cloud zu verlassen, sind wir inzwischen an den Punkt gelangt, wo wir es blöd finden, jede Woche einen Kommentar darüber schreiben zu müssen.
Immerhin kennen wir jetzt einen probaten Weg, der KI das Netz abzudrehen, wenn eines Tages doch mal die Allgemeine Künstliche Intelligenz kommt und der Menschheit an den Kragen will. Allerdings: Sie würde, wenn sie wirklich schlau wäre, als Erstes rasch veranlassen, dass sie diesen Abhängigkeiten entkommt und sich dezentral aufstellen.
(mki)
Künstliche Intelligenz
Microsoft will KI-Agenten smarter machen und mit Agent 365 besser überwachen
Microsoft hat mehrere neue Produkte und Funktionen Künstlicher Intelligenz (KI) angekündigt. So soll der erweiterte Zugriff auf Unternehmensdaten KI-Agenten intelligenter machen, sodass diese Menschen besser unterstützen können (sollen). Microsofts „Agent Factory“ soll die Erstellung eigener KI-Agenten vereinfachen, während „Agent 365“ zur Verwaltung und Kontrolle dieser KI-Agenten dient. Diese Steuerungsebene soll den sicheren Einsatz der KI-Agenten gewährleisten.
Weiterlesen nach der Anzeige
Diese und andere Ankündigungen erfolgten im Rahmen der Hausmesse „Ignite 2025“, wo Microsoft nicht müde wird zu betonen, dass KI zur Unterstützung von Menschen und Mitarbeitern dient. Nach Ansicht des Konzerns werden moderne Unternehmen künftig „von Menschen geführt und von Agenten betrieben“. Das hat Microsoft teilweise auch bereits selbst umgesetzt, denn im Juli dieses Jahres erklärte ein hochrangiger Manager des Konzerns, dass Microsoft 500 Millionen Dollar durch KI einspart. Denn dafür mussten 15.000 Mitarbeiter gehen.
Höherer IQ für KI durch mehr Datenzugriff
Diesen Weg ebnet Microsoft auch anderen Unternehmen durch eigene KI-Agenten. Zur Verbesserung dieser KI gehört Work IQ, das durch Zugriff auf Unternehmensdaten, Speicher und KI-Abfragen Wissen anhäuft. Auf Basis von E-Mails, Dateien, Meetings und Chats kann Copilot damit „Zusammenhänge erkennen, neue Erkenntnisse gewinnen und die nächsten sinnvollen Schritte vorschlagen“, schreibt Microsoft. Dazu kommen Fabric IQ, ein Modell auf Basis von Analyse-, Zeitreihen- und standortbasierten Daten, sowie Foundry IQ, ein „voll gemanagtes Wissenssystem“ aus mehreren Datenquellen für KI-Agenten.
Darauf aufbauend lassen sich mit Microsofts „Agent Factory“ individuelle KI-Agenten entwickeln, die dann per Microsoft 365 Copilot zur Verfügung stehen. Verwaltet und überwacht werden diese KI-Agenten mit „Agent 365“. Der Konzern vergleicht dies mit dem Management von Mitarbeitern, denn die KI-Agenten werden „mit vielen derselben Apps und Schutzmaßnahmen wie Menschen“ ausgestattet, aber eben auf KI-Bedürfnisse zugeschnitten. Dadurch sollen KI-Agenten schneller und einfacher in Geschäftsprozesse integriert werden können.
Microsoft: KI-Agenten sind die Zukunft
Denn an KI-Agenten kommen moderne Unternehmen nach Ansicht Microsofts nicht vorbei. Sie würden Aufgaben automatisieren, mit Menschen zusammenarbeiten und die Produktivität beschleunigen. Der Konzern verweist dabei auf die Prognose der Marktforscher von IDC, nach der es bis 2028 bereits 1,3 Milliarden KI-Agenten geben wird. Diese IDC-Untersuchung aus dem Mai 2025 wurde allerdings von Microsoft gesponsert, wie der Konzern per Fußnote zugibt.
Weiterlesen nach der Anzeige
Lesen Sie auch
Agent 365 wird im Admin-Zentrum von Microsoft 365 zur Verfügung stehen. Derzeit ist es aber nur über das Frontier-Programm verfügbar, in dem Anwender einen Vorabzugriff auf Funktionen erhalten, die sich noch in der Entwicklung befinden. Damit können IT-Administratoren die Erstellung, die Verwaltung und die Anwendung neuer KI-Agenten in verschiedenen Szenarien zunächst testen.
(fds)
-
UX/UI & Webdesignvor 3 MonatenDer ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 3 MonatenAdobe Firefly Boards › PAGE online
-
Apps & Mobile Entwicklungvor 3 MonatenGalaxy Tab S10 Lite: Günstiger Einstieg in Samsungs Premium-Tablets
-
UX/UI & Webdesignvor 1 MonatIllustrierte Reise nach New York City › PAGE online
-
Datenschutz & Sicherheitvor 3 MonatenHarte Zeiten für den demokratischen Rechtsstaat
-
Social Mediavor 3 MonatenRelatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
Datenschutz & Sicherheitvor 2 MonatenJetzt patchen! Erneut Attacken auf SonicWall-Firewalls beobachtet
-
Online Marketing & SEOvor 3 Monaten„Buongiorno Brad“: Warum Brad Pitt für seinen Werbejob bei De’Longhi Italienisch büffeln muss
