Künstliche Intelligenz
Prompt-Injection-Angriffe auf Apple Intelligence | heise online
Zwei Paper, die bei der kürzlich beendeten RSAC-Sicherheitskonferenz vorgestellt wurden, beschreiben neuartige Angriffsformen auf Apple Intelligence. Die entsprechenden Lücken aus dem Bereich der sogenannten Prompt Injections, bei denen KI-Prompts manipuliert werden, sollen vom Hersteller bereits behoben worden sein. Sie nutzen unter anderem aus, dass Apple schwächere lokale Modelle verwendet, bevor Cloud-gestützte komplexere Large Language Models zum Einsatz kommen.
Weiterlesen nach der Anzeige
Umgehen von Grenzen in 76 Prozent der Fälle
Prompt Injections sollen KI-Systeme unter anderem dazu bringen, Outputs zu liefern, die die Entwickler eigentlich verbieten – etwa Schimpfwörter oder Informationen über kriminelle Aktivitäten. Dazu dienen sogenannte Guardrails, die derartige Outputs blockieren sollen. Bei 100 zufälligen Prompts mit der Methode gelang das Durchbrechen der Regeln in immerhin 76 Prozent der Fälle. Die Untersuchung (Studie, technische Details) stammt von drei Sicherheitsexperten, die selbst für das Research-Team der RSAC-Sicherheitskonferenz tätig sind. Apple wurde im Oktober informiert, soll interne Veränderungen in seinen Betriebssystemen sowie in der Private-Cloud-Compute-Serverinfrastruktur (PCC) vorgenommen haben.
Innerhalb von Apple Intelligence werden lokale und PCC-Modelle nahtlos verwendet. Das System detektiert, sobald es sinnvoll ist, mit einer Anfrage an die Server zu gehen. Die Modelle können zudem kostenlos von App-Anbietern verwendet werden. Unter iOS, macOS und iPadOS lassen sich mit kompatiblen Rechnern dann Funktionen wie die sogenannten Writing Tools nutzen, die zur Textoptimierung dienen, darüber hinaus gibt es mit Image Playground und Genmoji auch noch Bildgeneratoren, die direkte Bestandteile der Systeme sind. Prompts lassen sich unter anderem eingeben, um Änderungen an Texten vorzunehmen – diesen Output konnten die Forscher manipulieren. Einen Chatbot-Betrieb sieht Apple derzeit noch nicht vor.
Neural Execs und Unicode-Tricks
Von den RSAC verwendete Angriffsmethoden waren unter anderem sogenannte Neural Execs, bei denen Prompts in eine Sprache übersetzt werden, die für Menschen sinnfrei erscheint, der vom LLM gelieferte Output entspricht dann aber etwas, was so eigentlich nicht gehen dürfte. Ein weiterer Hack war die Verwendung von Unicode-Sprachen, die von Rechts nach Links geschrieben werden.
Böswillige Anweisungen gingen hier durch. Insgesamt gelang es den RSAC-Forschern, sowohl die internen Guardrails der Modelle als auch von Apple nachgelagerte Filter zu umgehen. Die Hauptprobleme scheinen dabei in den schwächeren lokalen Modellen zu liegen. Grundsätzlich ist das nicht verwunderlich – diese neigen auch stärker zu Halluzinationen. Schwächere Modelle gelten zudem allgemein als leichter angreifbar. So gilt etwa bei OpenClaw die Empfehlung, keine schwachen Modelle zu verwenden, damit es nicht zu Sicherheitsproblemen kommt.
Weiterlesen nach der Anzeige
(bsc)
Künstliche Intelligenz
Vorfall bei Vision-Pro-Filmproduktion: Tödlicher Crash in Jordanien
Apples sogenannte Immersive-Videos sind bekannt für spektakuläre Aufnahmen: Da geht es dann beispielsweise aufs Hochseil, in den Dschungel zu wilden Tieren, über die Dächer von Paris oder zu Events des Funsport- und Brausekonzerns Red Bull. Beim Versuch, eines dieser mit Spezialkameras gefilmten Videos aufzuzeichnen, kam es nun allerdings zu einem tragischen Unglück: In der jordanischen Wüste stürzte die Pilotin in einem Kleinflugzeug ab.
Weiterlesen nach der Anzeige
Bericht: Millionen für kurze Videos
Der Vorfall mit dem Microlight, an dem eine 3D-Kamera montiert war, ereignete sich bereits im Sommer 2024, also zu einem Zeitpunkt, als die Vision Pro nur wenige Monate auf dem Markt war. Die Wirtschaftsnachrichtenagentur Bloomberg konnte jetzt im Rahmen einer Untersuchung durch britische Regierungsstellen erste Informationen zu dem Unglück veröffentlichen.
Opfer war Claire Lomas, eine britische Frau mit Querschnittslähmung, die mit Hilfe eines Exoskeletts den Londoner Marathon absolviert hatte. Sie war auch professionell ausgebildete Pilotin. Das Video war Teil einer Apple-Immersive-Video-Serie namens „Adventure“. Die Idee war dabei, mit dem Kleinflugzeug über die Wüste Jordaniens zu fliegen und dabei 3D-Naturaufnahmen zu filmen. Lomas hatte ihre Fluglizenz seit zwei Jahren und war schon vorher mit den Microlights unterwegs gewesen. Die 44-jährige war bei dem Absturz zwar nicht sofort tot, starb aber mehrere Wochen später an den Verletzungen, so die britischen Behörden. Laut Bloomberg hatte Apple für „Adventure“ die britische Produktionsfirma Atlantic Studios engagiert. Angeblich war Apple bereit, pro Folge Millionen US-Dollar auszugeben, obwohl die Immersive-Videos nicht abendfüllend sind, oft sind sie 10 bis 20 Minuten lang.
Apple schickte Sicherheitsbeauftragten
Weder Apple noch Atlantic Studios wollten sich zu Lomas‘ Unfall äußern. Apple kommentierte gegenüber Bloomberg gar nicht, Atlantic Studios teilte mit, aufgrund des aktuell laufenden Verfahrens könne man nicht antworten. Auch die Familienanwälte von Lomas gaben keine Informationen heraus. In den kommenden Wochen soll es aber ein Hearing des UK Coroner’s Office (Amt für Gerichtsmedizin) geben. Warum dies so lange dauerte, ist unklar. Laut Bloomberg gab es Kritik an der Durchführung der „Adventure“-Serie.
Mitarbeiter klagten über lange Arbeitszeiten, die sie als unsicher empfanden. Apple soll nach Beschwerden Beauftragte für Gesundheit und Sicherheit geschickt haben. Bis auf das Unglück mit Lomas soll es keine weiteren bekanntgewordenen Vorfälle gegeben haben. Das Video aus Jordanien sollte verschiedene bekannte Orte in dem Land zeigen. Bislang erschienen fünf Folgen der „Adventure“-Serie.
Weiterlesen nach der Anzeige
(bsc)
Künstliche Intelligenz
Bitwig Studio 6 im Test: Wenn Kurven elektronische Musik steuern
Automationsdaten steuern im Verlauf eines Stücks verschiedene Parameter: Sie können die Lautstärke bestimmter Klänge verändern, die Grenzfrequenz eines Filters öffnen oder Instrumente im Stereopanorama verschieben. Dazu zeichnet man sie gewöhnlich als Kurven zu den einzelnen Audio- und MIDI-Spuren einer Musikproduktion ein. In vielen Digital Audio Workstations (DAW) sind diese Automationskurven aber nur ein Anhängsel: Sie lassen sich nur mühsam editieren und bremsen oft den kreativen Fluss. Die Software Bitwig Studio 6 macht aus ihnen ein Gestaltungsmittel und behandelt Automationskurven erstmals als eigenständige musikalische Bausteine, die sich frei mit Audio- und MIDI-Spuren kombinieren lassen.
- Bitwig Studio 6 stellt das klassische DAW-Prinzip infrage und behandelt Automation als eigenständiges musikalisches Material.
- Der Test untersucht, wie sich Automation-Clips, Modulation und Workflow-Änderungen im Studio- und Live-Einsatz bewähren.
- Wir klären, ob der Fokus auf Verbesserungen am Workflow und der Bedienstruktur ohne weitere Instrumente und Effekte den großen Versionssprung rechtfertigt.
Mit seinen Automation-Clips bearbeitet Bitwig Steuerdaten wie Audio- oder MIDI-Clips. Anwender organisieren sie unabhängig von ihrer ursprünglichen Spur, loopen, kombinieren und setzen sie sogar als Modulatoren ein. Das eröffnet neue Möglichkeiten für Variationen und Live-Performances, bei denen schnelle Eingriffe und flexible Strukturen entscheidend sind. Im Test klären wir, ob das den Workflow der DAW tatsächlich beschleunigt oder nur die Komplexität erhöht.
Bitwig Studio 6 verzichtet auf neue Instrumente oder Effekte und konzentriert sich stattdessen auf den Workflow. Entscheidend ist, wie weit Automation-Clips im Alltag tragen – im Arrangement, im Live-Set und im Zusammenspiel mit Hardware. Da Bitwig Studio noch nicht jedem geläufig ist, gehen wir zunächst auf die Eigenheiten dieser DAW ein, bevor wir die Neuerungen der Version 6 genauer beleuchten.
Das war die Leseprobe unseres heise-Plus-Artikels „Bitwig Studio 6 im Test: Wenn Kurven elektronische Musik steuern“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Amazon: Ring-Kameras jetzt mit optionaler Gesichtserkennung
„Familiar Faces“ wird in Deutschland zu „Bekannte Gesichter“: Ein bislang in den USA verfügbares Gesichtserkennungs-Feature für Amazons Ring-Kameras ist jetzt auch in Deutschland verfügbar. Ring-Kameras können so Personen erkennen und den Kamerabesitzer darüber informieren, wer vor der Tür steht.
Weiterlesen nach der Anzeige
Ziel des Features ist es laut Amazon, Nutzern personalisierte Benachrichtigungen zu schicken. Anstatt die Meldung „Person an der Haustür“ auf ein Handy zu schicken, kann Ring künftig etwa von „Oma an der Haustür“ berichten. Nutzer können die Benachrichtigung für jede einzelne Person individuell an- und ausschalten, schreibt Amazon in einer Mitteilung.
„Bekannte Gesichter“ legt für jeden Besucher einen Eintrag an, wenn sich eine Person in Sichtweite der Kamera bewegt und ihr Gesicht erkennbar ist. Nutzer haben dann die Gelegenheit, diese Person zu benennen. Insgesamt können bis zu 50 Profile für Personen angelegt werden. Besucher, die vom Nutzer nicht als bekannte Person abgespeichert werden, werden nach 30 Tagen automatisch wieder entfernt.
Standardmäßig deaktiviert
Die Funktion „Bekannte Gesichter“ ist standardmäßig deaktiviert. Wer das Feature nutzen will, muss es also aktiv einschalten. Amazon weist darauf hin, dass Nutzer vor der Aktivierung eine ausdrückliche Einwilligung von Besuchern einholen müssen. Zudem unterliege die Einwilligung von Kindern besonderen gesetzlichen Auflagen. Wenn eine Person ihre Einwilligung widerruft, müsse sie unverzüglich aus der Datenbank der bekannten Gesichter entfernt werden. Ob die Entfernung aus der Datenbank tatsächlich erfolgt, können Betroffene nicht einfach kontrollieren.
Um das Feature überhaupt nutzen zu können, sind ein Premium-Abonnement bei Ring sowie kompatible Hardware notwendig. „Bekannte Gesichter“ funktioniert auf Kameras und Türklingeln von Ring mit 2K- oder 4K-Auflösung. Auch einige ausgewählte Geräte mit HD-Auflösung werden unterstützt. Einen Überblick gibt Amazon in einem Support-Eintrag. „Bekannte Gesichter“ ist nicht mit der Ende-zu-Ende-Videoverschlüsselung von Ring kompatibel, schreibt Amazon.
„Bekannte Gesichter“ ist eine von mehreren strittigen KI-Funktionen von Ring, die Amazon in den vergangenen Monaten in den USA eingeführt hat. Besonders eine andere Funktion wurde stark kritisiert: „Search Party“ wird von Amazon als KI-gestützte Hilfe bei der Suche nach verloren gegangenen Hunden vermarktet. Dafür können Hundebesitzer und -besitzerinnen ihre Haustiere melden und eine KI-gestützte Suche über alle Ring-Kameras in der Nachbarschaft veranlassen. Läuft das gesuchte Tier durch das Sichtfeld eines dieser Geräte, soll man automatisch darauf hingewiesen werden. Kritiker befürchten, dass dieser Zusammenschluss verschiedener Ring-Kameras dazu genutzt werden könnte, auch Menschen zu verfolgen.
Weiterlesen nach der Anzeige
(dahe)
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
Social Mediavor 2 MonatenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 2 MonatenCommunity Management zwischen Reichweite und Verantwortung
-
UX/UI & Webdesignvor 3 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Entwicklung & Codevor 1 MonatCommunity-Protest erfolgreich: Galera bleibt Open Source in MariaDB
-
Künstliche Intelligenzvor 3 MonatenInterview: Massiver Anstieg der AU‑Fälle nicht durch die Telefon‑AU erklärbar
-
Künstliche Intelligenzvor 2 MonatenSmartphone‑Teleaufsätze im Praxistest: Was die Technik kann – und was nicht
-
Entwicklung & Codevor 3 MonatenKommentar: Entwickler, wacht auf – oder verliert euren Job
