Auf den ersten Blick mag es als sinnvolle Idee erscheinen, KI-Chatbots mit der Erstellung von sicheren Passwörtern zu beauftragen. Doch das dürfte sich schnell als gefährlicher Irrtum herausstellen, wie Sicherheitsforscher warnen.

KI mit eingebauter Schwachstelle

Entsprechenden Tests der Firma Irregular zufolge lassen sich die per KI erstellten Passwörter nämlich leicht knacken – und das, obwohl sie für Laien durchaus sicher aussehen. Das Problem: Große Sprachmodelle (LLM), auf denen ChatGPT, Gemini oder Claude basieren, haben in diesem Zusammenhang eine eingebaute Schwachstelle.

Denn diese KI-Systeme sind darauf optimiert, vorhersehbare und plausible Ergebnisse zu generieren. Das sei mit einer sicheren Passworterzeugung nicht kompatibel, warnen die Experten. Oder einfacher gesagt: LLMs können keinen echten Zufall, da sie Zeichenfolgen anhand von Wahrscheinlichkeiten und den integrierten Trainingsdaten ausgeben.

Zeichenfolgen an vorhersehbaren Stellen

Dabei erzeugen die KI-Chatbots zwar Passwörter, die aussehen wie sichere Zeichenfolgen mit Sonderzeichen und Zahlen. Allerdings würden diese oft an identischen und damit vorhersehbaren Stellen platziert, so die Experten. Ein kryptografisch sicheres Passwort habe eine Entropie von rund 98 Bit. Die KI-generierten Passwörter haben in den Tests dagegen nur rund 27 Bit erreicht. Das bedeute, dass Hacker die KI-Passwörter per Brute-Force-Attacke selbst mit normalen Computern innerhalb von Stunden statt Jahrzehnten knacken könnten.

Getestet haben die Sicherheitsforscher Anthropics Claude Opus 4.6, OpenAIs GPT-5.2 und Googles Gemini 3 Flash. Bei allen drei KI-Systemen hätten sich feste Strukturen gezeigt, etwa identische Anfänge und nur geringe Variationen bei der Zeichenauswahl.

Muster in Open-Source-Code

Den Forschern zufolge ist das Problem längst nicht mehr theoretisch, sondern habe längst seinen Niederschlag in der Softwareentwicklung gefunden. So seien die identifizierten Muster in Open-Source-Code auf GitHub gefunden worden. Das sogenannte Vibe-Coding könne dadurch zum gefährlichen Einfallstor für Cyberangriffe werden.

Experten raten daher zur Nutzung von Passwort-Managern, die auf kryptografisch sichere Pseudozufallszahlengeneratoren setzen. Einige KI-Anbieter haben derweil schon auf die potenzielle Gefahr reagiert. Gemini etwa zeigt Warnhinweise an, dass die von der KI erstellten Passwörter nicht für echte Konten genutzt werden sollten.

Aber: Forscher der ETH Zürich und der Università della Svizzera italiana haben herausgefunden, dass einige beliebte Passwort-Manager mit Sicherheitsproblemen zu kämpfen haben. Die betroffenen Hersteller arbeiten eigenen Angaben zufolge nach schon an der Behebung der identifizierten Schwachstellen.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)

Nach dem Amoklauf in der kanadischen Gemeinde Tumbler Ridge hat das Unternehmen OpenAI eingeräumt, bereits Monate vor der Tat auffälliges Verhalten der psychisch kranken Täterin in Chats mit ChatGPT festgestellt zu haben. Die Transfrau habe im Juni 2025 während mehrerer Tage über Waffengewalt geschrieben und diese Chats seien von automatischen Systemen bei OpenAI markiert worden, berichtet das Wall Street Journal (WSJ) unter Berufung auf mit dem Vorgang vertraute Personen.

Mitarbeiter hätten daraufhin diskutiert, den Vorgang den Behörden zu melden, heißt es weiter. Letztlich habe sich das Management aber dagegen entschieden. OpenAI habe den Account zwar gelöscht, aber keinen Anlass für die Hinzuziehung der Behörden gesehen, sagte ein Sprecherin dem WSJ. Aus den Chatverläufen habe sich keine „glaubhafte und unmittelbare Gefahr für die körperliche Unversehrtheit anderer“ ergeben.

Bluttat erschüttert kleine Gemeinde

Die Transfrau hat am 10. Februar in Tumbler Ridge in der westkanadischen Provinz British Columbia insgesamt acht Menschen getötet, die meisten davon Schulkinder im Alter von 11 bis 13 Jahren. Danach hat sich die 18-Jährige selbst getötet. Mehr als 20 Menschen wurden zudem bei dem Amoklauf verletzt. Die Tat gehört damit zu den blutigsten in der kanadischen Geschichte. Die betroffene Gemeinde Tumbler Ridge hat gerade einmal rund 2400 Einwohner und liegt am Osthang der Rocky Mountains, mehr als 1000 Kilometer nördlich von Vancouver.

Laut dem Bericht des Wall Street Journals hat OpenAI erst nach dem Bekanntwerden des Amoklaufs den Kontakt zur kanadischen Polizei gesucht. Das Unternehmen unterstütze die Ermittlungen, sagte die Sprecherin. Die KI-Modelle würden so trainiert, dass sie Nutzer und Nutzerinnen davon abhalten, in der realen Welt Schaden anzurichten. Im konkreten Fall seien die Chatverläufe von einem Prüfsystem automatisch gefunden und intern gemeldet worden. Beim Umgang mit solchen Hinweisen wäge man immer das Risiko von Gewalt gegen Datenschutzbedenken ab, zitiert die Zeitung noch. OpenAI hat demnach noch darauf hingewiesen, wie potenziell belastend „eine unnötige Einschaltung der Polizei“ für Einzelpersonen und Familien sei.

(mho)

Fünf Jahre nach der Landung hat die US-Raumfahrtbehörde National Aeronautics and Space Administration (NASA) ein Navigationssystem auf dem Rover Perseverance installiert. Damit kann dieser selbstständig seine Position auf dem Mars bestimmen. Vorher bekam der Marsroboter diese Angaben von der Erde.

Mars Global Localization nennt die NASA das System, das den Standort auf optischer Basis ermittelt. Das System sei erstmals am 2. Februar eingesetzt worden, teilte die NASA mit, danach noch einmal am 16. Februar.

Die Basis sind die Panoramen, die die Navigationskamera von der Umgebung des Rovers aufnimmt. Der Algorithmus vergleicht diese Bilder mit einer Geländekarte. Diese ist aus den Bildern der Sonde Mars Reconnaissance Orbiter (MRO), die um den Mars kreist, erstellt worden und auf Perservances Bordcomputer gespeichert.

Positionsbestimmung bis auf 25 Zentimeter

So kann die Position des Rovers auf etwa 25 Zentimeter genau bestimmt werden. Das dauert etwa zwei Minuten. Der Algorithmus läuft auf dem leistungsstarken Prozessor, den der Rover früher nutzte, um mit dem Mars-Hubschrauber Ingenuity zu kommunizieren.

Bisher nutzt Perseverance – wie auch seine Vorgänger – visuelle Odometrie (VO) zur Positionsbestimmung. Dabei wird alle paar Meter ein Bild der Umgebung aufgenommen. Anhand geologischer Merkmale auf den Bildern wird errechnet, welche Entfernung der Rover zurückgelegt hat.

Doch auch wenn dabei Faktoren wie durchdrehende Räder berücksichtigt werden, wird die Positionsbestimmung laut NASA auf größeren Etappen immer ungenauer. Bei langen Fahrten könne die Abweichung bis zu 35 Meter betragen. In schwierigem Gelände kann der Rover dadurch in Gefahr geraten.

Hilfe bei autonomer Fahrt

Das Mars-Global-Localization-System sei vor allem hilfreich, wenn der Rover autonom und ohne Anleitung von der Erde agiere. „Jetzt kann er selbst seinen Standort auf dem Mars bestimmen“, sagte Vandi Verma, der für die autonomen Operationen des Rovers zuständig ist. „Das bedeutet, der Rover kann viel längere Strecken autonom zurücklegen, sodass wir mehr von dem Planeten erkunden und mehr wissenschaftliche Erkenntnisse gewinnen können. Es könnte von beinahe jedem anderen Rover genutzt werden, um schnell und weit zu fahren.“

Perseverance, der weitgehend baugleich mit dem Rover Curiosity ist, ist seit fünf Jahren, seit dem 18. Februar 2021, auf dem Mars unterwegs. Seither hat er rund 40 Kilometer zurückgelegt und wird in absehbarer Zeit den Rekord des Rovers Opportunity einstellen, der in seiner knapp 15 Jahre dauernden Mission etwa 45 Kilometer schaffte.

Zu der Mission gehörte der autonome Hubschrauber, der zwischen April 2021 und Januar 2024 insgesamt 72 Mal geflogen ist – ursprünglich geplant waren lediglich fünf Flüge.

(wpl)