Connect with us

Künstliche Intelligenz

EU-Ausschuss unterstützt Verbot von Deepfake-fähigen KI-Systemen – mit Ausnahmen


Die EU-Ausschüsse für Binnenmarkt und Bürgerrechte haben am Mittwoch den geplanten Änderungen des sogenannten Omnibus-Pakets zugestimmt. Damit sollen Hochrisiko-KI-Systeme reguliert, aber auch bestimmte Deepfakes verboten werden. Dazu gehört die KI-Generierung von Inhalten, die Kindesmissbrauch und intime Situationen zeigen, sowie sexuelle Handlungen, die nicht einvernehmlich sind. Gemeint ist nicht nur die fehlende Erlaubnis des Aktes, sondern die fehlende Erlaubnis, solche Bilder künstlich zu erzeugen.

Weiterlesen nach der Anzeige

Der sogenannte Omnibus AI Act ist Teil der Simplifizierung-Agenda, bei der die EU aktuell mehrere bestehende Gesetze auf ihre Aktualität und Umsetzbarkeit betrachtet. In diesem Fall geht es vor allem um bisher fehlende Standards und Werkzeuge für Hochrisiko-KI, die noch ausgearbeitet werden müssen. Anfang dieser Woche hatte der Europäische Rat den Änderungen des Omnibus AI Acts mit einer Fristverlängerung für Hochrisiko-KI-Systeme und dem Deepfake-Verbot bereits zugestimmt.

Jetzt haben die EU-Ausschüsse für Binnenmarkt und Bürgerrechte die vorgeschlagenen Änderungen mit großer Mehrheit ebenfalls durchgewinkt. 101 EU-Abgeordnete stimmten laut EU-Mitteilung dafür und nur 9 dagegen, bei 8 Enthaltungen. Zu den Regelungen gehört auch, dass KI-generierte Inhalte früher als zunächst vorgesehen mit Wasserzeichen versehen sein müssen. Ursprünglich wurde den KI-Anbietern dafür eine Frist bis zum 2. Februar 2027 eingeräumt, jetzt sollen sie dies bis zum 2. November 2026 umsetzen.

Gar nicht mehr sehen wollen die EU-Parlamentarier sogenannte Nacktbildgeneratoren. Auslöser dieser Initiative waren massenhaft erstellte Bilder mit sehr fragwürdigen Inhalten, die Menschen mit dem Bildgenerator von Grok gemacht hatten. Die Bilder posteten viele bei X. Grok ist der Bildgenerator von Elon Musks xAI, dem auch X gehört. Nutzer hatten der KI aufgetragen, bekannte Persönlichkeiten in aufreizenden Posen oder bei sexuellen Handlungen darzustellen, was Grok zunächst befolgte.

Andere KI-Systeme verweigern solche Anweisungen, deshalb sollen diese von dem geplanten Verbot ausgenommen werden. Wenn diese KI-Angebote effektive Sicherheitsmaßnahmen gegen eine solche Bild- oder Videogenerierung haben, würde das Verbot nicht dafür gelten. Offen ist jedoch, ob und wie die KI-Anbieter dies der EU nachweisen sollen. Unklar bleibt auch, wie KI-Systeme verifizieren können, ob die abzubildenden Personen der Darstellung zugestimmt haben oder nicht.

Weiterlesen nach der Anzeige

Kim van Sparrentak, niederländische Umweltwissenschaftlerin und EU-Parlamentsmitglied der Grünen-Fraktion, begrüßt das Gesetz trotzdem. „Dies ist ein großer Erfolg, insbesondere für Frauen und Kinder in Europa“, sagte sie laut France 24. „Schon zu viele Menschen sind eines Tages verzweifelt aufgewacht, nachdem sie Nacktfotos von sich selbst gefunden hatten und sich verletzt, eingeschüchtert und gejagt fühlten.“ Der an den KI-Gesetzen mitarbeitende irische EU-Parlamentarier Michael McNamara fügte hinzu, das Verbot zielt darauf ab, „Nacktdarstellungs-Apps ohne Einwilligung, die einigen wenigen viel Leid und Profit gebracht haben“, auszumerzen.

Nachdem die beiden EU-Ausschüsse den Änderungen der Omnibus-KI-Gesetze zugestimmt haben, wird das EU-Parlament voraussichtlich am 26. März darüber abstimmen. Sollte sich auch dieses Plenum anschließen, beginnen die Verhandlungen mit dem EU-Rat.

Lesen Sie auch


(fds)



Source link

Künstliche Intelligenz

KI und Security: Jetzt noch Tickets für die Online-Konferenz sichern


Künstliche Intelligenz dringt in alle Bereiche der Softwareentwicklung vor. Die Security muss mit den Neuerungen Schritt halten, denn mit den erweiterten Möglichkeiten sind auch neue Gefahren verbunden.

Weiterlesen nach der Anzeige

Am 11. Mai 2026 widmet sich der Online-Deep-Dive „KI und Security“ der heise devSec dem Spannungsfeld zwischen Security und künstlicher Intelligenz in der Softwareentwicklung. Die Vorträge behandeln zum einen die Angriffsflächen und Sicherheitsmaßnahmen für KI-Anwendungen und zeigen zum anderen, wie KI bei sicherer Softwareentwicklung hilft. Schließlich gibt es einen Blick auf die neuen Möglichkeiten, die Angreifer durch KI-Werkzeuge haben – und wie man ihnen begegnet.

Das Programm der Online-Konferenz bietet Vorträge zu folgenden Themen:

  • Software-Security in Zeiten von KI
  • Sicherheitsnetze für den sicheren Einsatz von Coding-Agenten
  • KI als Sparringspartner im Entwicklungsprozess für bessere Security
  • Vibe Hacking & Security-Agenten: Angreifer rüsten auf, Verteidiger ziehen nach
  • LLM-Security: Die OWASP-Liste der Angriffsvektoren
  • Live-Hacking von LLMs, Agenten und MCP

Tickets für die Online-Konferenz kosten 299 Euro (zzgl. MwSt.). Teams ab drei Personen erhalten im Ticketshop automatisch einen Gruppenrabatt.

Am 22. und 23. September 2026 findet die zehnte Auflage der Vor-Ort-Konferenz heise devSec statt. Bis zur Veröffentlichung des Programms Mitte Mai sind Tickets zum Blind-Bird-Tarif von 1049 Euro erhältlich.

Weiterlesen nach der Anzeige

Wer über die heise devSec inklusive der zugehörigen Online-Konferenzen auf dem Laufenden bleiben möchte, kann sich für den Newsletter eintragen.


(rme)



Source link

Weiterlesen

Künstliche Intelligenz

OpenAI Prism im Test: KI-Tool für wissenschaftliches Schreiben


Die Natur erforschen, Erkenntnisse gewinnen: Dafür brennen Wissenschaftler. Doch ihre Arbeit endet nicht mit dem ersehnten „Heureka“, sondern mit der Publikation in einem Fachmagazin. Dafür müssen sie oft tage- oder wochenlang am Schreibtisch sitzen, um ihre Erkenntnisse perfekt formuliert und formatiert zu präsentieren.

OpenAI hat nun ein Werkzeug namens Prism vorgestellt, das Wissenschaftlern diese Arbeit massiv erleichtern soll. Dazu hat der Hersteller einerseits eine Arbeitsumgebung gestaltet, die alle notwendigen Tools bündelt: Statt zwischen Texteditor, PDF-Betrachter, LaTeX-Compiler, Literaturverwaltungsprogrammen und KI-Chat hin- und herzuwechseln, bleiben Nutzer in einem einzigen Workspace. Andererseits unterstützt Prism aktiv beim Schreiben, Formatieren und Verbessern von Manuskripten. Über ein Fenster im Workspace kann man mit GPT-5.2 Thinking chatten, einem Reasoning-Modell, das OpenAI auf mathematisches und wissenschaftliches Schlussfolgern optimiert hat.

  • Prism ist ein KI-gestützter Workspace von OpenAI für wissenschaftliches Schreiben.
  • Das Tool vereint LaTeX-Editor, Compiler, PDF-Betrachter und Chatfenster mit GPT-5.2-Anbindung in einem Browsertab.
  • Prism unterstützt beim Schreiben von LaTeX-Code und wissenschaftlichen Texten und bietet fachliches Feedback an. Datenschutz bleibt dabei auf der Strecke.

Was der Workspace tatsächlich leistet, haben wir im Praxistest untersucht. Wir haben die Fähigkeiten von Prism beim Textsatz, zur sprachlichen und fachlichen Korrektur und bei der Erstellung von Vektorgrafiken getestet. Dazu haben wir ein realistisches Beispielmanuskript aus der theoretischen Physik verwendet. Außerdem beleuchten wir, welche Risiken Wissenschaftler eingehen, wenn sie sensible Forschungsdaten in das KI-Modell geben.


Das war die Leseprobe unseres heise-Plus-Artikels „OpenAI Prism im Test: KI-Tool für wissenschaftliches Schreiben“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Neuer Antrieb für Marsmission: NASA erreicht Rekordleistung


Am 24. Februar 2026 zündete ein Team am Jet Propulsion Laboratory der NASA in Pasadena, Kalifornien, erstmals einen sogenannten magnetoplasmadynamischen Thruster (MPD-Truster), der mit Lithium-Metalldampf betrieben wird – bei Leistungsstufen, die nach Angaben der Behörde alle bisherigen US-Tests dieser Technologie übertreffen sollen. Die Anlage habe dabei Leistungen von bis zu 120 Kilowatt erreicht, mehr als das 25-Fache der Antriebsleistung der aktuell stärksten elektrischen Triebwerke, die die NASA im Weltraum betreibt. Die Weltraumbehörde und das JPL haben ihre Ergebnisse erst in der vergangenen Woche veröffentlicht.

Weiterlesen nach der Anzeige

Durchgeführt wurde der Test in JPLs sogenannter CoMeT-Kammer (Condensable Metal Propellant Vacuum Facility) – einer 8 Meter langen, wassergekühlten Vakuumkammer, die für den Betrieb von Triebwerken mit metallischen Dampftreibstoffen ausgelegt ist. Die NASA bezeichnet sie als einzigartiges nationales Testinstrument, das für Leistungen bis in den Megawatt-Bereich konzipiert sei.

Bei insgesamt fünf Zündungen soll die Wolframelektrode im Zentrum des Triebwerks Temperaturen von über 2.800 Grad Celsius erreicht haben. JPL-Forscher James Polk sagte, dass sein Team nicht nur bewiesen habe, dass das Triebwerk funktioniere, sondern auch die angestrebten Leistungsstufen erreiche. Polk forscht seit Jahren an Lithium-MPD-Triebwerken und war zuvor an der NASA-Sonde Dawn sowie an Deep Space 1 beteiligt – der ersten interplanetaren Raumsonde mit Ionentriebwerk als Primärantrieb.

Die Reise zum Mars stellt die Raumfahrt vor ein grundlegendes Antriebsproblem. Konventionelle chemische Raketen verbrauchen enorme Mengen Treibstoff: Nach NASA-Berechnungen benötigt ein Raumschiff für jedes Kilogramm zu beförderndes Material rund 261 Kilogramm Treibstoff – für eine Hin- und Rückreise zum Mars kämen so zwischen 1.000 und 4.000 Tonnen zusammen. Zudem würde ein chemisch angetriebenes Raumschiff acht bis neun Monate bis zum Mars benötigen – eine schwere körperliche und psychische Belastung für jede Besatzung.

Elektrische Antriebe verbrauchen nach NASA-Angaben bis zu 90 Prozent weniger Treibstoff als chemische Raketen. Forscher arbeiten daneben auch an treibstofffreien Konzepten: Ein Team der Texas A&M University hat einen Lichtantrieb mit 3D-Steuerung ganz ohne Treibstoff entwickelt, der langfristig sogar interstellare Reisen ermöglichen soll. Klassische Ionentriebwerke – wie sie etwa die NASA-Sonde Psyche nutzt – beschleunigen ein Treibgas mithilfe von Solarstrom elektrostatisch. Für bemannte Missionen taugen sie jedoch kaum: Heute von der NASA eingesetzte Ionenantriebe wie NEXT-C erzeugen eine Schubkraft von bis zu 236 Millinewton – vergleichbar mit der Schwerkraft, die auf eine zur Erde fallende Postkarte wirkt. Das reicht nicht, um ein vollgepacktes Raumschiff samt Besatzung ans Ziel zu bringen.

Der MPD-Thruster soll dieses Dilemma auflösen: Er nutzt hohe elektrische Ströme, die mit einem Magnetfeld interagieren, um das Lithiumplasma elektromagnetisch zu beschleunigen. Die Technologie wird seit den 1960er-Jahren erforscht, war aber bislang nie operativ im Einsatz. Lithium bietet dabei laut NASA gewisse Vorteile: Es lasse sich effizient ionisieren, habe eine geringe Atommasse und ermögliche einen hohen spezifischen Impuls – also eine effiziente Nutzung des Treibstoffs.

Weiterlesen nach der Anzeige

Der MPD-Thruster ist kein nuklearer Antrieb – er ist ein elektrischer Antrieb. Doch er benötigt eine leistungsstarke Energiequelle, und genau hier kommt Nukleartechnik ins Spiel.

Für eine bemannte Marsmission geht die NASA von einem Bedarf von 2 bis 4 Megawatt Gesamtleistung aus. Diese Größenordnung ist mit Solarenergie kaum erreichbar: Je weiter sich ein Raumschiff von der Sonne entfernt, desto schwächer wird die Solarstrahlung – in Marsnähe liefern Solarpanele nur 40 bis 50 Prozent der Leistung wie in Erdnähe. Für Megawatt-Leistungen wären zudem Panels von unpraktisch großen Ausmaßen nötig.

Das angestrebte Gesamtkonzept trägt die Bezeichnung nuklear-elektrischer Antrieb (Nuclear Electric Propulsion, NEP): Ein kompakter Kernreaktor an Bord soll elektrischen Strom erzeugen, der die MPD-Thruster speist. Der Reaktor wäre der Generator, der Thruster der eigentliche Motor. Nuklearelektrische Antriebe können ihre Schubkraft voraussichtlich bis zu drei Stunden aufrechterhalten – ein Vorteil gegenüber nuklearthermischen Antrieben, die nach einigen Minuten überhitzen und pausieren müssen. Beide Komponenten – Reaktor und Thruster – müssen parallel entwickelt werden. Das ist erklärtes Ziel von NASAs „Space Nuclear Propulsion“-Programm, das seit 2020 an einem megawattfähigen nuklear-elektrischen Antriebssystem für bemannte Marsflüge arbeitet.

Davon zu unterscheiden ist der ebenfalls diskutierte nuklearthermische Antrieb (Nuclear Thermal Propulsion, NTP), bei dem Kernenergie direkt genutzt wird, um Treibstoff zu erhitzen und auszustoßen. Genau diesen Ansatz verfolgte das gemeinsame DRACO-Programm von NASA und DARPA, das im NASA-Haushalt 2026 keine Finanzierung mehr erhält und deshalb abgesagt wurde.

Der thermonukleare Ansatz verspricht eine deutlich höhere Schubkraft: Nach NASA-Berechnungen liegt das Verhältnis von Schub zu Gewicht bei nuklearthermischen Antrieben etwa 10.000-mal so hoch wie bei elektrischen – nuklearelektrische eingeschlossen. Dafür ist NEP mit MPD-Thrustern im Treibstoffverbrauch effizienter. Die NASA verfolgt nach eigenen Angaben beide Ansätze parallel.

Die beim Test erreichten 120 Kilowatt sind ein erster Schritt – die eigentliche Zielmarke liegt jedoch weit höher. Das Team plant, in den kommenden Jahren Leistungen zwischen 500 Kilowatt und 1 Megawatt pro Triebwerk zu erreichen. Für eine bemannte Marsmission müssten mehrere dieser Triebwerke parallel betrieben werden – und das über mehr als 23.000 Betriebsstunden. Ob und wann das gelingt, ist offen.

Die beim Test erreichten Temperaturen von über 2.800 Grad Celsius an der Wolframelektrode verdeutlichen die enormen thermischen Belastungen, denen das System im Dauerbetrieb standhalten müsste. Der Nachweis der Langzeittauglichkeit der Materialien gilt als eine der zentralen offenen Fragen der weiteren Entwicklung.

Hinzu kommen grundsätzliche Sicherheitsfragen rund um den nuklearen Antrieb: Sollten mehrere Brennstäbe nötig sein, müssen diese selbst bei Erschütterungen beim Raketenstart sicher voneinander getrennt bleiben, um eine Kernschmelze zu vermeiden. NASA und DARPA planen, das Risiko eines nuklearen Unfalls dadurch einzudämmen, dass der Reaktor erst im Orbit aktiviert wird.

Das MPD-Triebwerksprojekt wird von JPL geleitet, läuft seit rund zweieinhalb Jahren und wird in Zusammenarbeit mit der Princeton University sowie dem NASA Glenn Research Center in Cleveland durchgeführt. Koordiniert wird das übergeordnete Nuklearantriebsprogramm vom Marshall Space Flight Center in Huntsville, Alabama, als Teil des Space Technology Mission Directorate der NASA.

NASA-Administrator Isaacman nutzte den Testbericht für eine politisch gefärbte Aussage: Der Test zeige, dass die USA auf dem Weg seien, einen amerikanischen Astronauten auf dem Mars landen zu lassen. Isaacman sorgte zuletzt auch anderweitig für Aufmerksamkeit: In einer Haushaltsanhörung des US-Senats am 28. April 2026 sprach er sich dafür aus, den Pluto wieder zum Planeten zu erklären. Solche Ankündigungen sind in der NASA-Kommunikation nicht ungewöhnlich – wie weit der Weg von einem erfolgreichen Labortest bis zu einer bemannten Marsmission tatsächlich ist, lässt die Behörde dabei weitgehend offen.

Lesen Sie auch


(vza)



Source link

Weiterlesen

Beliebt