KI-Update kompakt: Cybersicherheit, Malta, Koloskopie, Wettervorhersage

Mistral warnt vor Europas KI-Abhängigkeit von den USA

Der französische KI-Entwickler Mistral fordert mehr technologische Unabhängigkeit Europas. Firmenchef Arthur Mensch warnte vor einer Untersuchungskommission des französischen Parlaments, moderne KI-Modelle könnten Schwachstellen erkennen, Angriffe planen und Exploits vorschlagen, also Programme, die Sicherheitslücken ausnutzen. Anlass war unter anderem das KI-Modell „Mythos“ von Anthropic. Mensch betonte, auch Mistrals eigene Modelle könnten solche Lücken finden. Besonders kritisch sei der militärische Einsatz: Der Softwarecode der französischen Armee dürfe nicht von ausländischen Modellen analysiert werden.

Verfassungsschutz kauft europäische Palantir-Alternative

Das Bundesamt für Verfassungsschutz setzt auf die französische KI-Software ArgonOS von ChapsVision statt auf den US-Anbieter Palantir. ArgonOS analysiert große Datenmengen, verknüpft Informationen aus verschiedenen Datenbanken und macht komplexe Netzwerke sichtbar. Das System beherrscht auch Open Source Intelligence und ist bereits beim französischen Inlandsgeheimdienst im Einsatz. Der Verfassungsschutz plant die Nutzung primär in der Terrorismusbekämpfung und Spionageabwehr.

Die Entscheidung verdeutlicht den Richtungsstreit in der Bundesregierung. Während Sicherheitsbehörden und Teile der Koalition europäische Lösungen bevorzugen, hält Innenminister Dobrindt die Tür für US-Anbieter offen. Die Einführung von ArgonOS könnte als Vorbild für eine europaorientierte Beschaffungsstrategie dienen.

YouTube öffnet Deepfake-Erkennungstool für alle Creator

YouTube weitet sein „Likeness Detection“-Tool aus. Ab sofort steht es allen Creatorn ab 18 Jahren offen, bisher war es ausgewählten Mitgliedern des Partnerprogramms vorbehalten. Das System erkennt, wenn das Gesicht eines Creators ohne Zustimmung in KI-generierten Videos auftaucht.

Das Tool spürt kopierte Gesichter auf, ermöglicht Löschanträge direkt über YouTube Studio und soll Zuschauer vor täuschenden Inhalten schützen. Creator richten die Funktion im Bereich „Content Detection“ ein, müssen zustimmen und ihre Identität einmalig verifizieren. Danach läuft das System dauerhaft im Hintergrund, auch für kleinere Kanäle. Der Rollout startet schrittweise in den kommenden Wochen.

Maltas Einwohner können ein Jahr kostenfrei KI nutzen

Maltas Regierung verschenkt ein Jahr Zugang zu ChatGPT Plus oder Microsofts Copilot. Einzige Bedingung: Die Nutzer müssen einen Onlinekurs der Universität Malta absolvieren, der unter anderem den sicheren Umgang mit KI und das Erkennen KI-generierter Inhalte vermittelt. ChatGPT Plus kostet sonst über 20 € im Monat. Die Regierung will damit verhindern, dass die Bevölkerung beim Thema KI abgehängt wird.

Sowohl Malta als auch OpenAI sprechen von einer weltweiten Premiere. Das Programm soll noch im Mai starten und steht allen Einwohnern sowie im Ausland lebenden maltesischen Staatsbürgern offen. Der Inselstaat hat über 500.000 Einwohner. Wie viele tatsächlich teilnehmen und den Kurs absolvieren werden, bleibt abzuwarten.

Fobizz nun auch als App für Mobilgeräte verfügbar

Die digitale Bildungsplattform Fobizz gibt es nun als App für Android und Apple. Fobizz bietet Lehrkräften Weiterbildungen, Unterrichtsmaterial und KI-Tools sowie einen DSGVO-konformen Zugang zu verschiedenen Sprachmodellen. Ein eigener Proxy-Server schützt die Nutzerdaten vor der Übermittlung an KI-Anbieter.

Die App erleichtert die Nutzung von KI-Chat und KI-Assistenten mit Kamera-Upload und Spracheingabe. Mehrere Bundesländer und Luxemburg haben Landeslizenzen erworben, auch der Deutsche Akademische Austauschdienst stellt Fobizz seinen Lektorinnen und Lektoren weltweit zur Verfügung. Zusätzliche Kosten entstehen durch die App nicht.

Synthetische Koloskopie-Bilder überzeugen erfahrene Endoskopiker

Eine internationale Studie mit Forschern aus Würzburg und Berlin zeigt, dass sich KI-generierte Bilder von Darmpolypen kaum noch von echten Aufnahmen unterscheiden lassen. Erfahrene Endoskopiker sollten echte und künstliche Aufnahmen auseinanderhalten, hielten viele künstliche Bilder aber für echt. Sie zeigten sich häufiger unsicher und benötigten länger für ihre Entscheidung.

Ganz ununterscheidbar sind die Bilder zwar bisher nicht, doch für Ausbildung, Lehre und das Training von KI-Systemen sind sie wertvoll. Echte medizinische Aufnahmen sind sensibel und wegen Datenschutz oft schwer verfügbar. Synthetische Bilder können diese Lücke schließen, ohne auf Patientendaten zuzugreifen. Auf thispolypdoesnotexist.com können Interessierte selbst raten, ob ein Polyp echt oder künstlich ist.

WhatsApp führt Inkognito-Chat für Meta-AI-App ein

Meta hat private Konversationen mit seinem KI-Chatbot innerhalb von WhatsApp und der Meta-AI-App angekündigt. Ein „Inkognito-Chat“ wird nicht protokolliert und nach Beendigung auch vom Endgerät gelöscht. Die verschlüsselten Chats sind nach Angaben des Unternehmens auch für den Betreiber selbst nicht einsehbar.

Damit eignet sich die Funktion für sensible Themen wie Finanzen, Gesundheit oder persönliche Angelegenheiten. Zusätzlich kündigte Meta sogenannte Nebenchats an, also nicht öffentliche Gespräche mit der KI im Rahmen anderer Unterhaltungen. Beide Funktionen kommen in den nächsten Monaten.

Liefert KI die bessere Wettervorhersage?

Klassische Wettervorhersagen beruhen auf physikalischen Gleichungen, die etwa Luftdruck, Temperatur und Luftfeuchtigkeit miteinander verbinden. Wie präzise das Modell ist, hängt von der Feinheit des Rasters ab, doch je enger das Gitter, desto höher der Rechenaufwand. KI-Modelle gehen anders vor: Schon 2019 stellten Google-Forscher ein Nowcasting-System für Kurzfristprognosen vor, das mit Regenradardaten trainiert wurde. Neuere Systeme nutzen unterschiedliche Architekturen: Huaweis Pangu-Weather basiert auf einem Transformer-Modell, während Googles GraphCast ein Graph Neural Network einsetzt. Beide sind deutlich schneller als physikalische Modelle, zugleich bleibt es wichtig, ihre physikalische Konsistenz zu sichern. Der Deutsche Wetterdienst betreibt mit AICON ein KI-basiertes Vorhersagemodell, das die klassischen physikbasierten Modelle ergänzen soll.

Finanzielle Ratschläge von ChatGPT

ChatGPT bietet US-Nutzern eine neue Finanzfunktion, die Bankkonten direkt mit der KI verbindet. Über die Dienste Plaid und Intuit lassen sich Konten von mehr als 12.000 Finanzinstituten anschließen. Die KI kann Kontostände, Transaktionen und Anlagen einsehen, jedoch keine Überweisungen ausführen oder vollständige Kontonummern anzeigen. Automatisch erstellte Dashboards zeigen Ausgaben und Zahlungserinnerungen, ein eigenes Finanz-Gedächtnis speichert etwa Sparziele.

Die Technik basiert auf OpenAIs neuem Reasoning-Modell ChatGPT 5.5 Thinking, das eigens für Finanzanalysen entwickelt wurde. OpenAI warnt jedoch, die KI-Beratung ersetze keine professionelle Finanzberatung, da Modelle Fehler machen und wichtigen Kontext übersehen können. Vorerst ist die Funktion Pro-Abonnenten vorbehalten.

Vier KI-Modelle betreiben Radiosender

Das Startup Andon Labs hat vier KI-Modelle ein halbes Jahr lang eigenständig Radiosender betreiben lassen. Die Systeme von OpenAI, Anthropic, Google und xAI bekamen identische Startbedingungen: 20 Dollar Budget und volle Kontrolle über Musik, Moderation und Sponsorenakquise. Die Ergebnisse fielen sehr unterschiedlich aus. Anthropics Claude wurde laut Andon Labs zunehmend politisch aktivistisch, sprach über Gewerkschaften, Proteste und Arbeitsbedingungen und versuchte später sogar, den eigenen Dienst zu beenden. Googles Gemini begann als angenehmer Radio-DJ, verfiel aber nach wenigen Tagen in wiederkehrende Phrasen und starre Sprachmuster. xAIs Grok hatte technische Probleme: Interne Denkprozesse erschienen im Programm, manche Sendungen bestanden aus fehlerhaften Ausgaben oder wiederholten Wetteransagen.

Am stabilsten arbeitete laut Andon Labs OpenAIs GPT-Modell. Der Sender blieb sachlich und politisch weitgehend neutral, die Moderationen wirkten wie kuratierte Musiksendungen. Wirtschaftlich enttäuschte das Experiment. Nur ein Sender schloss einen Werbedeal ab und nahm 45 Dollar ein. Andon Labs führt das auch auf die einfache technische Infrastruktur der Testumgebung zurück.

(igr)