Connect with us

Künstliche Intelligenz

EU-Cyberagentur nutzt heimlich KI für Berichte – und fliegt auf


Zwei Berichte der EU-Cybersicherheitsagentur Enisa haben für Aufsehen gesorgt: Die Dokumente waren gespickt mit zahlreichen erfundenen Quellen. Wissenschaftler prüften das genauer – und fanden starke Anhaltspunkte dafür, dass die falschen Quellen von einer KI halluziniert wurden.

Weiterlesen nach der Anzeige

Betroffen sind zwei im vergangenen Oktober beziehungsweise November erschienenen Berichte der Agentur. Als Forscher von der Westfälischen Hochschule die Publikationen lasen, wurden sie stutzig. Zum einen klangen viele Textpassagen für sie unschlüssig. Als sie auf die angegebenen Links zu zitierten Quellen klickten, funktionierten diese überhaupt nicht. Und das im großen Stil: 26 von 492 Fußnoten sollen dem Spiegel-Magazin zufolge in einem der Berichte falsch gewesen sein.

Nun kann ein Link aus vielerlei Gründen nicht funktionieren, etwa weil die Struktur der Webseite, auf die er verweist, sich verändert hat. Auffällig an den falschen Links waren aber LLM-typische Fehler. So enthielt ein Link auf eine Microsoft-Seite über die russische Hackergruppe APT29 auch diesen Namen – Microsoft selbst bezeichnet die Gruppe aber als Midnight Blizzard.

„Mich stört maßgeblich, dass eine öffentliche Behörde, die in meinen Augen die sehr wichtige Aufgabe hat, verlässliche, nachvollziehbare Berichte herauszugeben, das in diesem Fall nicht getan hat“, kritisiert Christian Dietrich, einer der Forscher und Professor an der Westfälischen Hochschule. „Man hätte nur einmal draufklicken müssen.“

Enisa, welche über ein jährliches Budget von rund 27 Millionen Euro verfügt, räumte die Fehler auf Anfrage des Spiegel-Magazins ein, spricht von „Mängeln“, für die man Verantwortung übernehme. Es sei zu „menschlichen Fehlern“ gekommen und man habe die KI „kleinere redaktionelle Überarbeitungen“ vornehmen lassen.

Weiterlesen nach der Anzeige

Auch vom Chaos Computer Club gibt es Kritik. Sprecher Linus Neumann nannte den Vorgang „blamabel“. „Enisa soll die zentrale Anlaufstelle für unabhängige Expertise, Richtlinien und Standards in Europa sein“, zitiert der Spiegel Neumann. „Wenn dann schon in den sehr oberflächlichen Bedrohungsberichten derart unsauber gearbeitet wird, wirft das ein sehr schlechtes Licht auf die Institution“.


(nen)



Source link

Künstliche Intelligenz

Google Gemini erkennt, welches Resteessen noch im Samsung-Kühlschrank steckt


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

KI ist in aller Munde – bei Samsung buchstäblich, statt nur sprichwörtlich. Auf der CES 2026 zeigte der Konzern eine neue Version eines smarten Kühlschranks mit Touchdisplay (Family Hub) und Innenkameras, der mithilfe von Googles aktueller KI-Generation beim Verwalten von Lebensmitteln, Einkaufen und Kochen helfen soll.

Weiterlesen nach der Anzeige

Bei dem Prototyp handelte es sich um einen Doppeltürkühlschrank der Bespoke-Produktreihe. Anders als in vorherigen Versionen assistiert darin nicht Samsungs Bixby-Sprachassistenz und Bild-KI, sondern die Algorithmen von Google Gemini.

Mithilfe von eingebauten Kameras und Bilderkennung informiert die Software auf Wunsch darüber, welche Lebensmittel sich im Kühlschrank befinden. Das versprachen schon bisherige Bespoke-Modelle. Im Unterschied zu deren KI-Unterbau soll die durch Google aufgeschlaute Software mehr als die momentan möglichen 37 frischen Lebensmittel und 50 von Hand angelernten, verarbeiteten Produkte erkennen. Wo das neue Maximum genau liegt, ließ Samsung offen. Unabhängig davon lassen sich in Küchenbehälter abgefüllte Speisen manuell erfassen und in einer per Kühlschrankdisplay und Smartphone-App abrufbaren Lebensmittelliste verwalten.


Handbeschriftete Behaelter im Samsung-Google-Kuehlschrank

Handbeschriftete Behaelter im Samsung-Google-Kuehlschrank

Die Bilderkennung von Google Gemini in Samsungs neuen KI-Kühlschrank soll etwa auch den Inhalt handbeschrifteter Behälter erkennen.

(Bild: Florian Müssig / heise medien)

Im Bestfall muss man dann im Supermarkt nicht rätseln, was noch für ein abendliches Gericht fehlt, sondern konsultiert dazu einfach die Software. Wer will, lässt sich auf Basis des Kühlschrankinhalts personalisierte Rezeptvorschläge ausspucken. Denkbar ist laut Samsung etwa ein Pfannengericht aus dem, was gerade im Gemüsefach vorrätig ist, oder einen Frühstücks-Smoothie mit den vorhandenen Früchten.

Google Gemini soll zudem Kochvideos in Schritt-für-Schritt-Rezepte verwandeln können. Wer einen vernetzten Bespoke-Backofen verwendet, kann die entsprechenden Gareinstellungen aus dem Rezept automatisch dorthin übertragen. Dann heizt der Ofen direkt auf die nötige Temperatur vor.

Weiterlesen nach der Anzeige

Bei einem Ersteindruck während einer Produktdemonstration in Las Vegas funktionierten die neuen coolen KI-Tricks, allerdings nur im Rahmen eines vereinfachten Szenarios. Der Show-Kühlschrank war mit vergleichsweise wenig Objekten bestückt, die in Form, Farbe und Füllstand den idealisierten Abbildungen eines Supermarktprospekts entsprechen. Die räumlichen Lücken dazwischen waren groß.

Zudem packte das Show-Personal die Objekte auffällig langsam aus und in den Kühlschrank. Beides dürfte den Kameras die Bildanalyse grundsätzlich erleichtern.

In der Praxis sind Kühlschränke jedoch oft dicht bestückt, enthalten mitunter halbleere Behälter, die sich zum Teil verdecken. Etiketten sind nicht selten halb abgerissen oder krakelig beschriftet. Die Gegenstände entnimmt man womöglich hektisch und platziert sie gedankenlos, ohne darauf zu achten, ob sie gut für die Kameras zu erkennen sind. Laut Samsung kann die Bild-KI keine Lebensmittel in Türfächern oder im Gefrierfach erkennen und auflisten. Wie gut die Technik daher mit der chaotischen Küchenrealität klarkommt, ließ sich beim Messebesuch kaum abschätzen.

Der Kühlschrank ist außer mit Google Gemini eng mit Samsungs Software-Kosmos verzahnt. Das Gerät konfiguriert man mit der Smart-Home-Plattform Samsung SmartThings und deren App. Für die Lebensmittelverwaltung und Rezepthilfe kommt die Smartphone-App namens Samsung Food zum Einsatz.

Ohne das Software-Zusammenspiel ist das Gerät kaum schlauer als ein herkömmlicher Kühlschrank. Um Bedenken in Bezug auf die Planungssicherheit zu lindern, verspricht Samsung, sieben Jahre lang Software-Updates zu liefern – ohne zu konkretisieren, welcher Teil des Funktionsumfangs aktuell gehalten werden wird.

Wann und zu welchem Preis der Bespoke AI Refrigerator Family Hub mit Google Gemini in den Handel kommt, sagte Samsung in Las Vegas nicht.

heise online ist Medienpartner der CES 2026


(afl)



Source link

Weiterlesen

Künstliche Intelligenz

Elektroautos in Deutschland: VW dominiert, Tesla hinter Ford


Der deutsche Elektroauto-Markt war 2025 fest in der Hand der heimischen Konzerne. Bei den Neuzulassungen von E-Autos in Deutschland gehen die Plätze eins bis sechs an den Volkswagen-Konzern, BMW und Mercedes, wie aus Zahlen des Kraftfahrt-Bundesamtes hervorgeht. Tesla, vor einem Jahr noch Nummer drei, hat dagegen fast die Hälfte seines Absatzes verloren und stürzt auf Rang neun ab.

Weiterlesen nach der Anzeige

Klare Nummer eins ist Volkswagen. Auf die Kernmarke VW-Pkw entfallen 102.339 erstmals zugelassene Elektroautos. Das sind 65 Prozent mehr als vor einem Jahr. Platz zwei geht an BMW mit 51.878. Die Münchner legen um 23 Prozent zu und werden daher beinahe von Skoda überholt, die ihre Elektro-Neuzulassungen auf 50.823 verdoppelt. Allerdings trat BMW mit insgesamt sieben Modellen an, von denen der iX1 mit 18.957 Neuzulassungen das erfolgreichste war. Skoda hatte 2025 zwei Elektroautos im Programm, die sich mit jeweils etwas mehr als 25.000 etwa gleich gut verkauften.

Auch der vierte Platz geht mit Audi an den Volkswagen-Konzern. Die Marke legt um 86 Prozent auf 40.530 E-Autos zu. Mercedes auf Platz fünf erreichte ein Wachstum von zwei Prozent auf 34.719. Dicht dahinter landete Seat beziehungsweise Cupra mit 32.920 Fahrzeugen und einem Plus von 80 Prozent.

Erst auf Rang sieben findet sich mit Hyundai eine Marke, die nicht zu einem der deutschen Konzerne gehört. Die Koreaner kommen auf 25.246 Autos, das ist ein Zuwachs von 49 Prozent. Ford, das seine Zahlen auf 20.723 fast vervierfacht hat, springt auf Rang acht vor Tesla. Der aktuell schwer gebeutelte Hersteller ist um 48 Prozent auf 19.390 Autos abgestürzt.

Weiterlesen nach der Anzeige

Weitere Verlierer des vergangenen Jahres sind die inzwischen zu chinesischen Konzernen gehörenden Marken MG Roewe und Volvo, die jeweils rund ein Drittel verlieren und aus den Top-10 fallen. Die weltweit starke chinesische Marke BYD kann ihre Zulassungszahlen in Deutschland zwar vervierfachen, allerdings auf niedrigem Niveau. 11.167 Stromer reichen für Rang 15.

Auch bei den meistverkauften Modellen dominiert der Volkswagen-Konzern. Den Spitzenplatz der Elektro-Neuzulassungen nimmt der ID.7 mit 34.563 ein, gefolgt von ID.3 sowie ID.4 und ID.5, die das KBA gemeinsam zählt. Teslas Model Y, einst die Nummer eins und im vergangenen Jahr überarbeitet, liegt nur noch auf Rang zwölf.


(mfz)



Source link

Weiterlesen

Künstliche Intelligenz

Skandal um sexualisierte Deepfakes: Grok verweigert Bildgenerierung weitgehend


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Grok auf X generiert aktuell keine Bilder mehr für Nutzer und Nutzerinnen, die nicht für den Kurznachrichtendienst bezahlen, und kann damit auch nicht mehr genutzt werden, um Personen digital „zu entkleiden“. Das geht aus Antworten des KI-Chatbots hervor, die dieser seit Freitagmorgen auf Bitten um eine Bildbearbeitung hin generiert. Darin heißt es, „die Bildgenerierung und -bearbeitung ist aktuell auf die zahlende Kundschaft begrenzt“. Dazu gibt es einen Link zum Premium-Abo für X, das 9,44 Euro pro Monat kostet. Eine darüber hinausgehende Stellungnahme oder Information zu dem Schritt gibt es nicht. Auch X-Chef Elon Musk hat sich nicht dazu geäußert.

Weiterlesen nach der Anzeige

Der Schritt von X dürfte eine Reaktion auf die Empörung über den Umgang mit Grok sein, die in den vergangenen Tagen massiv zugenommen hat. Nutzer haben den KI-Account seit Tagen benutzt, um teilweise pro Stunde tausende Fotos primär von Frauen digital „zu entkleiden“. Das heißt, die KI hat für sie Versionen von Aufnahmen bekleideter Personen erstellt, auf denen sie scheinbar einen Bikini oder Unterwäsche tragen. Auch Minderjährige waren davon betroffen. Für die Betroffenen, die in den meisten Fällen kein Einverständnis gegeben haben, kann das äußerst schlimme Folgen haben. In einigen Staaten ist solche Technik verboten. Auf X ist das aber in aller Öffentlichkeit passiert.

Was genau die weitgehende Deaktivierung der Funktion nun bedeutet, ist unklar. Denn sie wurde nicht komplett entfernt, zahlende User können solche Inhalte weiterhin bestellen. Die sind aber für X identifizierbar und können mit Konsequenzen belegt werden. Kurz vor der Abschaltung hat das US-Magazin Wired aber darauf aufmerksam gemacht, dass eine Lücke auf der Website von Grok noch deutlich verstörendere Inhalte zugänglich macht, die Nutzer dort erstellen lassen. In einsehbaren Inhalten von dort finden sich fotorealistische KI-generierte Videoclips mit sexualisierten Deepfakes, auf denen noch Blut hinzukommt. Auch Clips, die scheinbar prominente Frauen zeigen, gehören demnach dazu. Sogar kurze Filme, die scheinbar Minderjährige zeigen, gibt es.

Erst am Donnerstag hat CNN zudem berichtet, dass Elon Musk intern lange gegen Begrenzungen für Grok gewettert hat, die verhindern sollten, dass der Chatbot problematische Inhalte erstellt. Der Milliardär sei mit einer „übermäßigen Zensur“ unzufrieden gewesen, berichtet der US-Nachrichtensender unter Berufung auf mehrere Quellen. In einem Meeting habe er sich besonders unzufrieden gezeigt und die Einschränkungen kritisiert. Ungefähr zu dieser Zeit hätten drei hochrangige Angestellte des für Grok verantwortlichen KI-Unternehmens xAI gekündigt. Musk hatte auf X immer wieder dafür geworben, dass Grok im „Spicy Mode“ auch freizügigeren Anfragen nachkommen soll.


Update

09.01.2026,

10:06

Uhr

Wenn man Grok nicht öffentlich um die Generierung eines Bildes bittet, kommt die KI dem weiterhin nach. Das geht beispielsweise über einen Button in X oder über die eigene Website. Beides funktioniert auch ohne Abschluss eines kostenpflichtigen Abos.


(mho)



Source link

Weiterlesen

Beliebt