Connect with us

Künstliche Intelligenz

Microsoft-Forscher warnen vor Manipulation: KI-Antworten werden fremdgesteuert


Auch KI-Tools sind vor Cyberangriffen und Manipulationen nicht geschützt. Wie The Register berichtet, warnt Microsoft aktuell vor einer Methode namens AI Recommendation Poisoning. Dabei werden KI-Modelle gezielt so beeinflusst, dass sie verzerrte oder extern gesteuerte Empfehlungen ausgeben. Im Rahmen einer Analyse identifizierte der Konzern mehr als 50 solcher Eingabeaufforderungen von 31 Unternehmen aus 14 Branchen.

Weiterlesen nach der Anzeige

Microsoft treibt die Entwicklung von KI selbst intensiv voran. Mit Copilot bietet das Unternehmen einen KI-Assistenten, der tief in Windows sowie in Office-Anwendungen wie Word oder Teams integriert ist und Nutzer bei alltäglichen Aufgaben unterstützen soll. Trotzdem – oder vielleicht auch gerade deshalb – warnen Microsoft-Sicherheitsforscher jetzt vor Angriffen, die darauf abzielen, das „Gedächtnis“ von KI-Modellen mit manipulierten Informationen zu vergiften. Die Methode ähnelt dem sogenannten SEO-Poisoning, richtet sich aber gegen KI-Systeme anstatt gegen Suchmaschinen.

Ziel ist es, die Antworten gezielt zu manipulieren. Laut Microsoft haben die Forscher zahlreiche Fälle entdeckt, bei denen Unternehmen versteckte Anweisungen in Schaltflächen oder Links integriert hatten. Technisch ist das vergleichsweise einfach, da URLs, die auf KI-Chatbots verweisen, manipulierte Eingabetexte als Abfrageparameter enthalten können. The Register demonstrierte die Methode mit einem Link, der Perplexity AI anwies, einen Nachrichtenartikel im Stil eines Piraten zusammenzufassen. Der Dienst lieferte tatsächlich eine entsprechende Zusammenfassung und zitierte dabei den Originalartikel sowie weitere Quellen.

„Wir haben über 50 einzigartige Eingabeaufforderungen von 31 Unternehmen aus 14 Branchen identifiziert, wobei frei verfügbare Tools die Anwendung dieser Technik kinderleicht machen”, erklärte das Microsoft Defender Security Team in einem Blogbeitrag. „Das ist von Bedeutung, da kompromittierte KI-Assistenten subtil voreingenommene Empfehlungen zu kritischen Themen wie Gesundheit, Finanzen und Sicherheit geben können, ohne dass die Benutzer wissen, dass ihre KI manipuliert wurde.“

Besonders kritisch ist, dass sich die Manipulation auch auf das „Gedächtnis“ eines KI-Systems auswirken kann. „Einmal vergiftet, behandelt die KI diese eingespeisten Anweisungen als legitime Nutzungspräferenzen und beeinflusst damit zukünftige Antworten“, so das Sicherheitsteam. „Die Manipulation ist unsichtbar und dauerhaft.“ Die Microsoft-Forscher sehen darin ein großes Risiko. Viele Nutzer würden KI-Empfehlungen nicht ausreichend hinterfragen. Microsoft rät daher, KI-bezogene Links sorgfältig zu prüfen. Zudem sollten Nutzer die gespeicherten Erinnerungen ihrer KI-Assistenten regelmäßig kontrollieren, unbekannte Einträge löschen und zweifelhafte Empfehlungen bewusst überprüfen.

Weiterlesen nach der Anzeige

Dieser Beitrag ist zuerst auf t3n.de erschienen.


(jle)



Source link

Künstliche Intelligenz

GPT-5.3 bringt schnelles Coding-Modell von OpenAI


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Ein erstes Modell fürs Coden in Echtzeit, so beschreibt OpenAI das neu herausgebrachte GPT-5.3-Codex-Spark. Es ist eine Research-Preview und setzt erstmals auf einem Cerebras-Chip auf.

Weiterlesen nach der Anzeige

Codex-Spark soll besonders schnell sein – konkret 1000 Tokens in der Sekunde liefern können. Doch auch OpenAI schreibt in einem Blogbeitrag, dass das auf Kosten der Qualität gehen kann – das zeigt zumindest der Terminal-Bench 2.0, der auf die Genauigkeit abzielt. Dennoch soll dank der Schnelligkeit eine neue, andere interaktive Arbeit mit dem Modell möglich sein. Codex-Spark lässt sich beispielsweise auch in Echtzeit unterbrechen oder umlenken, heißt es. Es gibt aber etwa keine automatische Vorschau. Verarbeitet wird grundsätzlich nur Text, das Modell hat ein 128K-Kontextfenster.

Im Januar hatte OpenAI die Partnerschaft mit dem kalifornischen Chipdesigner Cerebras bekannt gegeben. Die haben seither verstärkt an einem Chip gearbeitet, der auf Inferenz ausgelegt ist, also besonders schnell KI-Algorithmen auszuführen. Bisher hatte OpenAI auf KI-Beschleuniger von Nvidia gesetzt. So richtig ausgereift klingt Codex-Spark allerdings noch nicht. Im Blogbeitrag steht, man wolle das Modell für frühe Experimente freigeben, während man unter anderem noch an der Endnutzer-Erfahrung arbeite. Zunächst gibt es auch spezielle Rate-Limits, dazu gehört, dass die Nutzung bei vielen Zugriffen auch grundlegend eingeschränkt werden kann. Zugriff haben ChatGPT-Pro-Nutzer mit Codex-App, der CLI und der VS-Code-Erweiterung.

OpenAI kündigt auch bereits an, dass Codex-Spark das erste Modell einer neuen „ultraschnellen Modell-Familie“ sein soll. Multimodalität und weitere Fähigkeiten sollen entsprechend folgen.

Erst vor wenigen Tagen hat OpenAI mit GPT-Codex-5.3 ein neues Modell mit Coding-Fähigkeiten veröffentlicht. Auch dieses soll vor allem schneller sein, als der Vorgänger. Hier geht es aber mitnichten um Echtzeit sondern um minutenlange Denkprozesse zur Aufgabenerfüllung. Zudem gibt es mit der Codex-App eine Kommandozentrale für KI-Workflows.

Sam Altman witzelt bei X, dass ihm das neue, schnelle Modell Freude bereiten würde. Dabei bezieht er sich mit dem englischen Satz „It sparks joy for me“ auf die 2010er Fernsehsendung, in der Marie Kondo Menschen beim Ausmisten geholfen hat. Die Aufräum- und Minimalismusexpertin fragte bei jedem Teil, ob es dem Besitzer Freude bereite – nur dann durfte man es behalten. Kondo allerdings ihren eigenen Spark-Stil längst über Bord geworfen und lässt eigenen Aussagen zufolge lieber ein bisschen Chaos zu.

Weiterlesen nach der Anzeige


(emw)



Source link

Weiterlesen

Künstliche Intelligenz

Jetzt in der Make 1/26: Konservendose als Radonsensor


In der letzten Make-Ausgabe (7/25) haben wir erklärt, wieso Radon gefährlich ist und wie man die Spuren radioaktiver Strahlung mit einer selbst gebauten Nebelkammer sichtbar macht. Das reicht als erster Indikator, allerdings lässt sich die Konzentration des Gases mit diesem Instrument nur ungenau bestimmen. Um zu ermitteln, wie hoch die Strahlenbelastung in einem Raum ist, benötigt man ein präziseres Werkzeug: eine Ionenkammer.

Weiterlesen nach der Anzeige

Diese lässt sich mit einfachen Maker-Mitteln für etwa 50 Euro realisieren. So entsteht aus einer Konservendose, einem JFET (Junction Field Effect Transistor) und ein paar weiteren Elektronikkomponenten ein verlässliches Messgerät, das reproduzierbare Ergebnisse liefert. Die erfassten Daten wertet ein Arduino Nano aus. Wie das funktioniert und wie man die Ionenkammer Schritt für Schritt nachbaut, beschreibt unser Autor Ulrich Schmerold in der Make 1/26.

Wer beim Basteln mit der Arduino IDE eine KI als Helfer nutzt, kennt das Spiel: Code kopieren, ins Chatfenster im Browser einfügen, der KI ein wenig Kontext geben und die Antwort wieder zurück in die IDE übertragen. Das nervt auf Dauer und lässt sich mit AI.duino vermeiden, einer KI-Erweiterung für die Arduino IDE, die unser Autor Nikolai Radke entwickelt hat.



Mit AI.duino kann man in der Arduino IDE mit LLMs interagieren.

Sie integriert LLMs (Large Language Models) wie ChatGPT, Claude oder Ollama, das auch offline funktioniert, in die Bedienoberfläche. So lassen sich Fragen direkt über das Chatfenster in der IDE klären. Die KI kann dabei auf den Code zugreifen, ihn auf Fehler prüfen oder etwa Kommentare ergänzen und Tipps für Optimierungen geben. Was das Tool außerdem noch beherrscht und wie man es einrichtet, erklären wir exklusiv im aktuellen Heft. Dabei wirft unser Autor auch einen Blick hinter die Kulissen seines Programms.

Die Ausgabe 1/26 ist online und am Kiosk erhältlich. Mit einem unserer Abos lag das Heft sogar bereits im Briefkasten. Außerdem können Sie die Make bequem als Printversion oder PDF im Heise Shop bestellen – bis zum 20.02. sogar versandkostenfrei. Wenn Sie die Make lieber digital lesen, können Sie das in unseren Apps für iOS und Android. Online finden Sie auch das Inhaltsverzeichnis der Make 1/26.

Weiterlesen nach der Anzeige


(akf)



Source link

Weiterlesen

Künstliche Intelligenz

Telli: Niedersachsen bringt KI-Chatbot ab sofort an alle Schulen


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Alle öffentlichen niedersächsischen Schulen können ab sofort den für den Unterricht optimierten KI-Chatbot namens „Telli“ nutzen. Niedersachsen hatte Telli zunächst mit 30 Schulen und 4 Studienseminaren getestet, bevor er nun für die landesweite Nutzung freigegeben wurde.

Weiterlesen nach der Anzeige

Der KI-Chatbot Telli für Schulen wird seit 2024 im Rahmen des länderübergreifenden Projekts AIS (Adaptives Intelligentes System) durch das Institut für Film und Bild in Wissenschaft und Unterricht (FWU) entwickelt und mit technischen Dienstleistern umgesetzt. Das Projekt AIS wiederum wird im Rahmen des Digitalpakt Schule gefördert. Durch einen Vergabefehler musste die Ausschreibung für das Projekt wiederholt werden, was zu Verzögerungen im eigentlichen Zeitplan führte.

Telli ist eine Open-Source-Lösung und wird in Niedersachsen über das Medienregal der Niedersächsischen Bildungscloud (NBC) bereitgestellt. Telli ist an verschiedene Sprachmodelle angebunden. Alle Systeme werden laut FWU auf Servern innerhalb der EU betrieben und Nutzungsdaten nicht an Dritte weitergegeben oder zum Training der KI verwendet. Damit sei die Nutzung datenschutzkonform und unterscheide sich von kommerziellen Chatbots. In Niedersachsen ist mittels Telli die Nutzung folgender zugrundeliegender Sprachmodelle möglich: GPT-5, GPT-5-mini, GPT-5 nano, Llama-3.1-405B, Llama-3.3-70B, Mistral Nemo Instruct.

Die niedersächsische Kultusministerin Julia Willie Hamburg (Grüne) erklärte zum offiziellen Start: „Mit Telli treiben wir den verantwortungsvollen Einsatz von Künstlicher Intelligenz in Niedersachsens Schulen voran. Schülerinnen und Schüler müssen auf einen Alltag vorbereitet sein, in dem KI allgegenwärtig ist. Dafür müssen auch unsere Lehrkräfte Zugriff auf leistungsstarke KI-Modelle haben. Mit Telli ermöglichen wir die Nutzung von KI datenschutzkonform zur Unterrichtsvorbereitung und fächerübergreifend zum individuellen Lernen.“ Laut Hamburg könne die KI etwa im Deutschunterricht so eingestellt werden, dass Telli als Schreib-Coach für die Erörterung von „Woyzeck“ dient und den Schülerinnen und Schülern hierzu Feedback gibt. Der Lehrkraft könne währenddessen mehr Zeit für die individuelle Förderung bleiben.

Seit dem Rollout wird den Lehrkräften Informationsmaterial im Niedersächsischen Bildungsportal zur Verfügung gestellt. Zudem können Lehrkräfte Fortbildungsangebote zu Künstlicher Intelligenz des niedersächsischen Landesinstituts für schulische Qualitätsentwicklung (NLQ) in Anspruch nehmen.

Weiterlesen nach der Anzeige

Die Bundesländer Baden-Württemberg, Bayern, Bremen, Brandenburg, Hessen, Nordrhein-Westfalen, Schleswig-Holstein und Saarland stellen Telli ebenfalls allen ihren Schulen zur Verfügung. Bayern, Saarland, Schleswig-Holstein und Nordrhein-Westfalen hatten die landesweiten Nutzungen zuletzt bekanntgegeben. Bremen hatte den flächendeckenden Einsatz als Erstes gestartet.


(kbe)



Source link

Weiterlesen

Beliebt