Connect with us

Künstliche Intelligenz

Prompt-Injection-Angriffe auf Apple Intelligence | heise online


Zwei Paper, die bei der kürzlich beendeten RSAC-Sicherheitskonferenz vorgestellt wurden, beschreiben neuartige Angriffsformen auf Apple Intelligence. Die entsprechenden Lücken aus dem Bereich der sogenannten Prompt Injections, bei denen KI-Prompts manipuliert werden, sollen vom Hersteller bereits behoben worden sein. Sie nutzen unter anderem aus, dass Apple schwächere lokale Modelle verwendet, bevor Cloud-gestützte komplexere Large Language Models zum Einsatz kommen.

Weiterlesen nach der Anzeige

Prompt Injections sollen KI-Systeme unter anderem dazu bringen, Outputs zu liefern, die die Entwickler eigentlich verbieten – etwa Schimpfwörter oder Informationen über kriminelle Aktivitäten. Dazu dienen sogenannte Guardrails, die derartige Outputs blockieren sollen. Bei 100 zufälligen Prompts mit der Methode gelang das Durchbrechen der Regeln in immerhin 76 Prozent der Fälle. Die Untersuchung (Studie, technische Details) stammt von drei Sicherheitsexperten, die selbst für das Research-Team der RSAC-Sicherheitskonferenz tätig sind. Apple wurde im Oktober informiert, soll interne Veränderungen in seinen Betriebssystemen sowie in der Private-Cloud-Compute-Serverinfrastruktur (PCC) vorgenommen haben.

Innerhalb von Apple Intelligence werden lokale und PCC-Modelle nahtlos verwendet. Das System detektiert, sobald es sinnvoll ist, mit einer Anfrage an die Server zu gehen. Die Modelle können zudem kostenlos von App-Anbietern verwendet werden. Unter iOS, macOS und iPadOS lassen sich mit kompatiblen Rechnern dann Funktionen wie die sogenannten Writing Tools nutzen, die zur Textoptimierung dienen, darüber hinaus gibt es mit Image Playground und Genmoji auch noch Bildgeneratoren, die direkte Bestandteile der Systeme sind. Prompts lassen sich unter anderem eingeben, um Änderungen an Texten vorzunehmen – diesen Output konnten die Forscher manipulieren. Einen Chatbot-Betrieb sieht Apple derzeit noch nicht vor.

Von den RSAC verwendete Angriffsmethoden waren unter anderem sogenannte Neural Execs, bei denen Prompts in eine Sprache übersetzt werden, die für Menschen sinnfrei erscheint, der vom LLM gelieferte Output entspricht dann aber etwas, was so eigentlich nicht gehen dürfte. Ein weiterer Hack war die Verwendung von Unicode-Sprachen, die von Rechts nach Links geschrieben werden.

Böswillige Anweisungen gingen hier durch. Insgesamt gelang es den RSAC-Forschern, sowohl die internen Guardrails der Modelle als auch von Apple nachgelagerte Filter zu umgehen. Die Hauptprobleme scheinen dabei in den schwächeren lokalen Modellen zu liegen. Grundsätzlich ist das nicht verwunderlich – diese neigen auch stärker zu Halluzinationen. Schwächere Modelle gelten zudem allgemein als leichter angreifbar. So gilt etwa bei OpenClaw die Empfehlung, keine schwachen Modelle zu verwenden, damit es nicht zu Sicherheitsproblemen kommt.

Weiterlesen nach der Anzeige


(bsc)



Source link

Künstliche Intelligenz

Beta: Googles Telefon-App für Pixel erhält in Deutschland einen Anrufbeantworter


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Google hat die Funktion „Nachricht aufzeichnen“ für Geräte ab Android 11 beziehungsweise ab dem Pixel 6 und neuer offenbar in Deutschland freigeschaltet. Damit lassen sich verpasste und abgelehnte Anrufe verwalten. Die Funktion läuft laut Google vollständig auf dem Gerät und dient in gewisser Weise als Anrufbeantworter mitsamt Transkription.

Weiterlesen nach der Anzeige

Die Funktion (via Smartdroid) wird uns auf einem Pixel 10 Pro mit Beta-Version der Telefon-App (Version 223.0.922203806) angeboten, sie versteckt sich in den Einstellungen der App unter „Nachricht aufzeichnen“. Laut Google lassen sich mit der Funktion, die zuerst im Oktober 2025 für das Pixel 10 angekündigt worden ist, Transkripte und eine Audioaufnahme der Nachricht des Anrufers anzeigen. Ferner soll „Nachricht aufzeichnen“ auch Spam unter den Nachrichten erkennen, „die von Nummern hinterlassen werden, die nicht in den Kontakten gespeichert sind“, heißt es.


Screenshots: Anruf aufzeichnen in Telefon App Beta

Screenshots: Anruf aufzeichnen in Telefon App Beta

„Anruf aufzeichnen“ in der Telefon-App Beta auf einem Pixel-Gerät.

(Bild: Andreas Floemer / heise medien)

Laut Google nutzt „Nachricht aufzeichnen“ dasselbe Spam-Erkennungsmodell wie „Call Screen“, außerdem wird das Feature direkt auf dem Pixel-Smartphone ausgeführt, sodass die Daten nicht in der Google Cloud landen. Hierfür komme ein Gemini-Modell zum Einsatz.

In den Einstellungen der Telefon-App können Nutzerinnen und Nutzer die Funktion sowohl deaktivieren – auf unserem Gerät war die Funktion standardmäßig aktiviert –, als auch einen eigenen Begrüßungstext einsprechen.

Weiterlesen nach der Anzeige

Da die Funktion direkt auf dem Telefon ausgeführt wird, muss es selbstredend eingeschaltet sein. Ist das Pixel-Handy aus oder hat es keinen Empfang, springt stattdessen die Mailbox des Mobilfunkanbieters ein.

Kurios ist, dass Google in einem Support-Dokument noch nicht Deutschland erwähnt. Offiziell bietet der Konzern sie in den USA, dem Vereinigten Königreich, Australien, Kanada und Irland an. Angesichts dessen, dass sie schon in der Beta-Version der Telefon-App nutzbar ist, dürfte es bis zur Erweiterung für weitere Länder nicht mehr allzu lange dauern. Die „Nachricht aufzeichnen“-Funktion könnte im Zuge des Android-17-Updates oder eines davon gelösten Pixel Drops, Googles quartalsweise erscheinendem Update für Pixel-Geräte, für weitere Regionen und Sprachen offiziell angekündigt werden.

Erst Anfang dieses Jahres hatte Google seiner Telefon-App in Deutschland unter anderem die Funktion, Anrufe aufzuzeichnen, integriert.


(afl)



Source link

Weiterlesen

Künstliche Intelligenz

Spielergrafikkarte: Radeon RX 9070 GRE gegen Nvidias (zu teure) RTX 5060 Ti 16GB


AMD bringt die in Asien schon länger verkaufte Grafikkarte Radeon RX 9070 GRE jetzt auch in Deutschland an den Start. Sie soll die große Lücke zwischen der langsameren Radeon RX 9060 XT und der schnelleren Radeon RX 9070 schließen. Zwischen den beiden bekannten liegen rund 50 Prozent Performance, aber nicht einmal 40 Prozent Preisunterschied bei gleichem Speicherausbau von 16 GByte.

Die Radeon RX 9070 GRE bekommt von AMD den größeren Grafikchip Navi48 der 9070 und auch deren Thermal Design Power, sie darf also ebenfalls 220 Watt verbraten. Gegenüber der Radeon RX 9060 XT führt sie eine breitere Speicheranbindung ins Feld. Allerdings konfiguriert AMD den Chip nur mit 12 GByte Grafikspeicher – die nächstgrößere Ausbaustufe wären 24 GByte, was die beiden teureren 9070-Varianten in den Schatten stellen würde.

Wir haben die GRE-Variante des Herstellers XFX vorab im Testlabor untersuchen können und zeigen Ihnen, wo deren Stärken und wo die Schwächen liegen. Eines der gravierendsten Probleme können AMD und XFX glücklicherweise auch nach dem Marktstart noch entschärfen.


Das war die Leseprobe unseres heise-Plus-Artikels „Spielergrafikkarte: Radeon RX 9070 GRE gegen Nvidias (zu teure) RTX 5060 Ti 16GB“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

UN will Elektro-Umbau von Verbrennern bis 2027 international standardisieren


Die UNECE, die Wirtschaftskommission der Vereinten Nationen für Europa, arbeitet an einem weltweit gültigen Regelwerk für den Umbau von Verbrennern auf Elektroantrieb. Eine Arbeitsgruppe unter dem Weltforum für Fahrzeugvorschriften soll bis 2027 harmonisierte Vorschriften entwickeln, die Mindestanforderungen für Umrüstkits festlegen, Leistungsanforderungen für umgebaute Fahrzeuge definieren und den Einsatz standardisierter Kits ermöglichen, die in allen teilnehmenden Ländern anerkannt werden.

Weiterlesen nach der Anzeige

Ob auch Tüftler und Selbstumrüster von einem künftigen Regelwerk profitieren werden, ist noch offen. Der aktuelle Entwurf sieht vor, dass nur autorisierte Installateure Umbauten durchführen dürfen. Wer in der eigenen Garage schraubt, bliebe damit vorerst weiterhin auf die nationale Einzelabnahme angewiesen. Das nächste Treffen der Gruppe findet am 11. Juni statt.

Bisher steht, wer seinen Verbrenner auf Elektroantrieb umrüsten will, in Deutschland vor einer teuren Einzelabnahme — und in den meisten anderen Ländern fehlt jeglicher regulatorischer Rahmen. Einzig Frankreich hat 2020 ein eigenes, standardisiertes Zulassungsverfahren für Umrüstkits eingeführt, doch in der Praxis blieb der Durchbruch bisher aus.

Auch in Deutschland sind Unternehmen, die den serienmäßigen Umbau versucht haben, gescheitert. Es gibt aber eine lebendige Tüftlerszene und eine Handvoll kleinerer Werkstätten, die Verbrenner auf Elektroantrieb umrüsten. Make beleuchtet die Hürden und Herausforderungen, vor denen Bastler stehen, die ihren Verbrenner in Eigenregie auf Elektroantrieb umrüsten und durch den TÜV bringen wollen.



Beim E-Umbau wird in der Regel das originale Getriebe beibehalten und über eine Adapterplatte mit einem Elektromotor verbunden.

Die UNECE ist im Hinblick auf Fahrzeugvorschriften kein Papiertiger: Ihre Regelungen werden von 64 Vertragsstaaten anerkannt, darunter die gesamte EU, Großbritannien, Japan und Südkorea. Die Typgenehmigungen und Prüfnormen, nach denen Fahrzeuge und ihre Bauteile in Europa zugelassen werden, stammen größtenteils von dort. Wenn die Arbeitsgruppe eine UN-Regulation für Retrofit verabschiedet, könnten EU-Mitgliedstaaten sie direkt in nationales Recht übernehmen und die bisherige teure Einzelabnahme durch eine standardisierte Zulassung ersetzen. Die Arbeitsgruppe deckt alle Fahrzeugkategorien ab, vom Zweirad bis zum Lkw. Geleitet wird sie von Frankreich und Spanien, unterstützt von Schweden, Deutschland, Großbritannien, Japan und der Europäischen Kommission.

Weiterlesen nach der Anzeige

Der Bedarf ist groß. Weltweit sind rund 1,4 Milliarden Pkw unterwegs, die allermeisten davon mit Verbrennungsmotor. Selbst wenn ab morgen nur noch Elektroautos verkauft würden, bliebe der bestehende Fuhrpark über Jahrzehnte auf der Straße. Retrofit könnte helfen, diesen Bestand schneller zu dekarbonisieren — und zwar mit besserer Klimabilanz als ein Neuwagenkauf. Die französische Umweltbehörde ADEME hat 2021 errechnet, dass ein umgerüsteter Kleinwagen über seine Restlebensdauer 66 Prozent weniger CO₂ verursacht als ein weiter betriebener Diesel und sogar 47 Prozent weniger als ein fabrikneuer Stromer, weil die Produktion einer neuen Karosserie entfällt.

Eine Kosten-Nutzen-Analyse des Fraunhofer-Instituts für System- und Innovationsforschung im Auftrag des SWR zeigt zudem, dass sich ein Umbau auch wirtschaftlich lohnen kann: Bei Kosten von 12.000 bis 15.000 Euro und einer Jahresfahrleistung von 14.000 km amortisiert sich die Investition nach etwa sieben Jahren.


(mch)



Source link

Weiterlesen

Beliebt