Connect with us

Künstliche Intelligenz

Künstliche Intelligenz: Agentic AI aus Securitysicht – Angriffe und Verteidigung


Beim Thema Agentic AI und Sicherheit denken viele zuerst und oft sogar ausschließlich an Prompt Injections. Die sind aber nur eine von vielen Sicherheitsherausforderungen bei Agentic AI – und oft nicht einmal die dringendste. Agentic-AI-Systeme sind komplex und bestehen aus vielen einzelnen Bestandteilen. Aus Securitysicht erben diese Systeme damit die Sicherheitsanforderungen aller beteiligten Komponenten. Die folgende Abbildung zeigt die Schichten, die dieser Artikel näher betrachtet.

Die Systemschicht umfasst alle allgemeinen Supportkomponenten wie Bibliotheken, Compute- und Netzwerkressourcen. Die Datenschicht beinhaltet den Lang- und Kurzzeitspeicher, sowohl für die Nutzung durch Agenten als auch für die Protokollierung. Die Modelle selbst und ihre Trainingsdaten sind ebenfalls in dieser Schicht beheimatet. In der Agentenschicht interagieren die KI-Agenten untereinander und mit den verfügbaren Werkzeugen.

  • Agentic-AI-Systeme bestehen aus komplexen Schichten, die jeweils eigene, teils bekannte und teils neue Sicherheitsrisiken mit sich bringen, darunter Infrastruktur-, Datenbank- und DevOps-Schwachstellen.
  • Angriffe wie Data Poisoning, Prompt Injection, Tool Subversion und Infrastrukturlecks betreffen sowohl die Modelle selbst als auch deren Betriebsumgebung – oft auch über öffentliche Repositorys und APIs.
  • Effektiver Schutz erfordert die Härtung und Isolierung aller Komponenten, sichere Schnittstellen, strenge Sitzungsverwaltung sowie präventive Design-Patterns gegen Prompt Injection und andere Agentic-spezifische Angriffe.
  • Neben technischen Maßnahmen sind Governance, Verantwortlichkeiten und ein umfassendes Verständnis der Systeme im Einsatzkontext essenziell, um Risiken bei autonomen Agentensystemen effektiv zu steuern.

Die Orchestrationsschicht verwaltet Aktionen im Zusammenhang mit der Verarbeitung, wie die Aktivierung ausgewählter Agenten zur Erarbeitung von (Teil-)Ergebnissen. Alle für Benutzer, Administratoren und APIs von außen sichtbaren Schnittstellen ins Agentic-AI-System befinden sich auf der Interaktionsschicht. Zu den externen Einheiten gehören Bibliotheken von Drittanbietern, öffentliche Trainingsdatensätze, externe Tools und vieles mehr. Aus Sicht der Lieferkettensicherheit sind dies die ersten externen Einstiegspunkte.


Das war die Leseprobe unseres heise-Plus-Artikels „Künstliche Intelligenz: Agentic AI aus Securitysicht – Angriffe und Verteidigung“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Künstliche Intelligenz

KI-Update: US-Jobless-Boom, Meta will bauen, DSGVO in Gefahr, Siri mit Gemini


Weiterlesen nach der Anzeige

Die US-Wirtschaft streicht dieses Jahr fast eine Million Jobs, während die Unternehmensgewinne sprunghaft steigen und die Aktienmärkte neue Höchststände erreichen. Experten nennen dies den „Jobless Boom“. Chen Zhao von Alpine Macro, einem Investment-Forschungshaus, macht den zunehmenden Einsatz von KI dafür verantwortlich. Die Technik steigere die Produktivität, drücke aber die Nachfrage nach Arbeitskräften. Amazon etwa entließ 14.000 Mitarbeiter trotz hoher Gewinne. Der Trend, der zunächst die Tech-Branche traf, breitet sich nun aus.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO

Trotz der Entlassungen bleibt die Arbeitslosenquote mit 4,3 Prozent niedrig. Zhao erklärt dies mit einer schrumpfenden Zahl verfügbarer Arbeitskräfte: Baby-Boomer scheiden aus dem Berufsleben aus, und die restriktive Einwanderungspolitik der Trump-Regierung verringert die Zuwanderung. Andere Experten sehen nicht die KI als Hauptursache, sondern eine Korrektur nach übermäßigen Einstellungen während der Pandemie.

Meta, ein Social-Media-Konzern, will 600 Milliarden Dollar investieren, um neue Rechenzentren in den USA zu bauen. Chef Mark Zuckerberg spricht von einer „persönlichen Superintelligenz für jeden“, bleibt aber vage, was das bedeuten soll. Woher die riesige Summe kommen soll, verrät Meta nicht. Im dritten Quartal 2025 erzielte der Konzern 51 Milliarden Dollar Umsatz, 26 Prozent mehr als im Vorjahr.

Vieles deutet darauf hin, dass Meta auf externe Geldgeber setzt. Im Oktober einigte sich der Konzern mit Blue Owl, einem Investmentunternehmen, auf ein 27 Milliarden Dollar teures Rechenzentrum in Louisiana, das bisher größte seiner Art. Im selben Monat kündigte Meta eine 1,5-Milliarden-Dollar-Investition in ein Rechenzentrum in Texas an.

Weiterlesen nach der Anzeige

Anthropic, ein KI-Unternehmen, das das Modell Claude entwickelt, will seinen Umsatz von 4,7 Milliarden Dollar im Jahr 2025 auf 70 Milliarden Dollar im Jahr 2028 steigern. Das wäre eine Verfünfzehnfachung in drei Jahren. Die größte Hürde: Derzeit arbeitet Anthropic mit einer Bruttomarge von minus 94 Prozent. Für jeden Dollar Umsatz entstehen fast zwei Dollar Serverkosten. Bis 2025 soll die Marge auf 50 Prozent steigen, bis 2028 auf 77 Prozent. Den Großteil seiner Einnahmen erzielt Anthropic über API-Zugänge für Unternehmen, die bis 2028 mehr als 80 Prozent des Umsatzes ausmachen sollen.

Zum Vergleich: OpenAI, ein KI-Modellhersteller, rechnet für Ende 2025 mit einem Umsatz von 20 Milliarden Dollar, fast dem Vierfachen von Anthropics Prognose für das Gesamtjahr. OpenAI will bis 2028 einen Jahresumsatz von 100 Milliarden Dollar erreichen, bei einem Verlust von 50 Milliarden Dollar. Beide Firmen müssen massiv wachsen und gleichzeitig ihre Kosten senken. Ob die Nachfrage nach KI-Diensten tatsächlich so stark steigt, bleibt offen.

Die EU-Kommission plant umfangreiche Änderungen an der Datenschutz-Grundverordnung durch den Digital-Omnibus. Das Ziel: digitale Vorschriften vereinfachen, Verwaltungsaufwand und Kosten für Unternehmen senken und so die Wettbewerbsfähigkeit Europas stärken. Kritiker befürchten, dass dies auf Kosten bestehender Datenschutzstandards geschieht. Im Fokus steht die Ausweitung des „berechtigten Interesses“ als Rechtsgrundlage für Datenverarbeitung. Mit dem neuen Entwurf könnte das Speichern und Auslesen von Tracking-Cookies bereits aufgrund unternehmerischer Ziele erfolgen. Nutzer hätten nur noch die Möglichkeit eines nachträglichen Widerspruchs, eines Opt-outs.

Die Kommission plant zudem, das Training von KI-Systemen mit personenbezogenen Daten auf Basis des berechtigten Interesses zu ermöglichen. Dies würde die oft nötige Einholung von Einwilligungen erübrigen. Die Aufsicht über KI soll in einem „AI Office“ gebündelt werden, eine zentralisierte Kontrollstruktur, von der vor allem große Online-Plattformen profitieren würden. Paul Nemitz, früherer EU-Kommissionsdirektor, warnt, dass mit dem neuen Entwurf vom Datenschutz nichts mehr übrig bleibe.


KI-Update

KI-Update

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

ChatGPT verhält sich nicht einheitlich bei Nachrichtenempfehlungen. Eine Studie der Universität Hamburg und des Leibniz-Instituts für Medienforschung fand systematische Unterschiede zwischen dem Web-Interface und der API-Schnittstelle. Die Forschenden analysierten über fünf Wochen mehr als 24.000 Antworten auf nachrichtenbezogene Anfragen im deutschen Sprachraum. Im Web-Interface dominieren Medien des Axel-Springer-Verlags, mit dem OpenAI einen Lizenzvertrag hat. Die Webseiten welt.de und bild.de machten dort etwa 13 Prozent aller Quellenverweise aus. Über die API waren es nur rund 2 Prozent. Die API bevorzugt stattdessen Wikipedia und kleinere lokale Medien.

Besonders problematisch wird es, wenn Nutzer explizit nach Quellenvielfalt fragen. ChatGPT listete dann zwar mehr unterschiedliche Quellen auf, darunter aber auch stark politisch gefärbte Seiten, propagandistische Medien und sogar nicht existierende Domains. OpenAI gibt keine Informationen zu den Unterschieden zwischen Web-Interface und API preis. Nutzer müssen daher kritisch bleiben und Quellen selbst prüfen.

Apple hat laut Bloomberg einen Partner für KI gefunden: Googles Gemini. Das KI-Modell soll künftig das Herz einer kommenden LLM-Serie sein, die Fragen so gut beantworten kann wie ChatGPT, Claude oder Gemini. Mit einer Implementierung wird im kommenden Jahr gerechnet. Apple hat seit Jahren Probleme, mit seiner KI-Technik zu OpenAI, Anthropic oder Google aufzuschließen. Gemini soll angeblich auf Apples eigenen Servern laufen, eine offizielle Ankündigung ist nicht geplant.

Ein Preis für den Deal wurde ebenfalls genannt: eine Milliarde Dollar im Jahr. Apple verdient von Google bereits jetzt deutlich mehr. Rund 20 Milliarden Dollar sollen nur dafür fließen, dass Google seine Suchmaschine als Standard auf iPhone, Mac und iPad platzieren darf. Weder Google noch Apple haben sich zu dem Bericht geäußert. Vor Frühjahr 2026 ist mit offiziellen Informationen nichts zu rechnen.

Inception, ein KI-Start-up, hat 50 Millionen Dollar Kapital eingesammelt, angeführt von Menlo Ventures, einem Risikokapitalgeber. Beteiligt sind auch Microsoft, Nvidia, Databricks und Snowflake. Inception setzt auf Diffusionsmodelle für Text und Code. Diese Technik, bekannt aus der Bildgenerierung, erstellt komplette Inhalte wie Code-Blöcke oder Essays auf einmal und verfeinert sie dann stufenweise, statt sie Wort für Wort zu generieren.

Das Ergebnis: deutlich höhere Geschwindigkeit. Das hauseigene Modell Mercury schafft mehr als 1.000 Token pro Sekunde. Herkömmliche Modelle wie GPT-4 erreichen nur 40 bis 60 Token. An die Qualität dieser Modelle reicht Mercury aber nicht heran.

Fendt, ein Landmaschinenhersteller, hat auf der Agritechnica in Hannover den vollautonomen Feldroboter Xaver GT vorgestellt. Das System arbeitet komplett ohne menschliche Bedienperson und soll Landwirten helfen, den Pestizideinsatz zu reduzieren. Die mechanische Unkrautbekämpfung erlebt laut Fendt eine Renaissance. Resistenzen von Beikräutern gegen Herbizide und der gesellschaftliche Druck zur Pestizidreduktion treiben diese Entwicklung voran.

Der autonome Xaver GT nutzt Sensortechnik sowie KI-gestützte Bildverarbeitung für die Navigation. Für die exakte Reihenführung wird eine kamerabasierte Pflanzenreihenerkennung eingesetzt. Die KI des „RowPilot“ soll zwischen Kulturpflanzen und Beikräutern unterscheiden und die Hackgeräte entsprechend steuern. Das könnte vor allem für ökologisch wirtschaftende Betriebe interessant sein, da mechanische Unkrautbekämpfung dort die einzige Option darstellt. Aber auch konventionelle Betriebe nutzen zunehmend mechanische Verfahren.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO


(mali)



Source link

Weiterlesen

Künstliche Intelligenz

Effiziente Teams-Arbeit: So holen Sie mehr aus dem Microsoft-Werkzeug raus


Viele Büroarbeiter werden tagtäglich mit Microsoft Teams konfrontiert, das einst als Slack-Konkurrent startete und mittlerweile fast schon ein Monopol in vielen Firmen hat.

Doch oft fehlen die kleinen Tricks für die täglichen Aufgaben. Genau hier setzt unser Workshop an.

Wir zeigen Ihnen die verschiedenen Funktionen, mit denen Sie den Teams-Client an Ihre Bedürfnisse anpassen, die Zusammenarbeit verbessern und Besprechungen effizient gestalten.


Das war die Leseprobe unseres heise-Plus-Artikels „Effiziente Teams-Arbeit: So holen Sie mehr aus dem Microsoft-Werkzeug raus „.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Fitness+-Dienst bei Apple: Zu viele Kündigungen, zu wenig Kunden?


Apples Sportdienst Fitness+ scheint intern bei Apple unter Beobachtung zu stehen. Das Angebot sei eines der schwächsten digitalen Dienste, schreibt die Finanznachrichtenagentur Bloomberg unter Berufung auf informierte Kreise. Der 10 Euro teure Dienst (Jahrespreis: 79 Euro) bietet ein großes Angebot an Sportvideos. Diese sind mit Apples Geräten wie dem iPhone, dem Apple TV oder der Apple Watch verknüpft – man kann sich also beispielsweise während eines Kurses live einblenden lassen, wie Herzfrequenz oder Kalorienverbrauch sind.

Weiterlesen nach der Anzeige

Dem Bericht zufolge leidet Fitness+ unter einer hohen Rate an Nutzerfluktuation („high churn“) und beim Umsatz komme auch nicht viel herum. Die Zukunft des Dienstes sei daher „under review“, so Bloomberg. Allerdings lasse sich das Angebot kostengünstig betreiben und Apple wolle einen „Backlash“ vermeiden, wenn es einfach eingestellt würde. „Es gibt genügend Loyalität von einer kleinen Fanbasis [für den Dienst].“

Aktuell stehen Managementveränderungen an. Apples Gesundheitschefin Sumbul Desai soll die Gesamtleitung des Dienstes in ihr Portfolio übernehmen – zusammen mit anderen gesundheitsrelevanten Bereichen. Desai berichtet direkt an Dienstechef Eddy Cue. Es könne daher „frischen Druck“ geben, dass Fitness+ seine Ergebnisse verbessert.

Im Sommer hatte es einen Bericht der New York Times gegeben, laut dem es interne Spannungen bei Fitness+ gegeben haben soll. Dem Chef der Abteilung wurde „Bullying“ vorgeworfen und eine ehemalige Mitarbeiterin verklage Apple deshalb. Der iPhone-Hersteller ließ die Angaben zurückweisen. Eine interne Untersuchung habe „keine Beweise für Fehlverhalten“ erbracht. Der New-York-Times-Bericht enthalte „viele unrichtige Behauptungen und Falschdarstellungen“, so Apple.

Fitness+ hatte zuletzt nur wenige Fortschritte gemacht. Der Dienst erhält zwar regelmäßig neue Inhalte, Hardwareideen wurden aber bislang nicht umgesetzt. So können Konkurrenten wie Peloton direkt auf eigene Produkte wie Standräder oder Laufbänder zugreifen, die Apple nicht im Portfolio hat – stattdessen muss das Unternehmen auf Anbindungsmöglichkeiten zur Apple Watch hoffen, die diverse Hersteller immer noch nicht umgesetzt haben. Das führt dann etwa dazu, dass man Workouts im Gym nicht korrekt in Apple Health ablegen kann.

Weiterlesen nach der Anzeige


(bsc)



Source link

Weiterlesen

Beliebt