Künstliche Intelligenz
AI Safety Report 2026: Bestehende KI-Sicherheitspraktiken reichen nicht aus
Die Fähigkeiten von General-Purpose-KI, also Modellen und Systemen allgemeiner künstlicher Intelligenz, haben sich im vergangenen Jahr rasant weiterentwickelt. Daraus resultierende Risiken nehmen zu, zumal bestehende Sicherheitspraktiken nicht mithalten können. Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report.
Weiterlesen nach der Anzeige
Der Bericht ist unter Mitarbeit von über 100 unabhängigen Experten und Expertinnen aus mehr als 30 Ländern und unter Federführung des Turing-Preisträgers Yoshua Bengio entstanden. Er untersucht die Leistungsfähigkeit und Risiken von KI-Modellen und -Systemen wie ChatGPT, Gemini, Claude, Mistral etc., die ein breites Aufgabenspektrum abdecken können. Ziel des Berichts ist Bengio zufolge, eine evidenzbasierte Grundlage für wichtige Entscheidungen im Bereich von „general-purpose artificial intelligence“ zu liefern.
Starke regionale Unterschiede
Mittlerweile nutzen 700 Millionen Menschen wöchentlich führende KI-Systeme. Ihre Einführung verlief dem AI Safety Report zufolge somit schneller als die Initiierung früherer Technologien wie PCs. Gleichzeitig attestieren die Wissenschaftler große strukturelle Unterschiede im globalen Vergleich. So nutzen in einigen Ländern bereits über 50 Prozent der Bevölkerung KI-Systeme, in weiten Teilen Afrikas, Asiens und Lateinamerikas liegt die Nutzungsrate jedoch bei unter 10 Prozent.
Allgemeine künstliche Intelligenz hat sich seit dem Bericht aus dem vergangenen Jahr kontinuierlich und rasant verbessert. Vor allem die Bereiche Mathematik, Programmierung, Naturwissenschaften und autonomer Betrieb verzeichnen den Wissenschaftlern zufolge die größten Fortschritte. Verbesserungen der KI-Fähigkeiten konzentrieren sich dabei zunehmend auf „Post-Training“-Optimierung, also Verfeinerungen der Modelle für spezifische Aufgaben nach deren eigentlichem Training mit Datensets.
Gleichzeitig bleibt die Leistungsfähigkeit von Systemen künstlicher allgemeiner Intelligenz insgesamt ungleichmäßig und unzuverlässig: So können universelle KI-Modelle in komplexen Kontexten glänzen, versagen aber bei einfachen Aufgaben wie dem Zählen von Objekten oder dem logischen Denken in physikalischen Räumen. Insgesamt sind Nutzbarkeit und Risiko von general-purpose KI-Systemen nach Auffassung der Wissenschaftler eng miteinander verflochten: Starke Leistungszuwächse verstärken die potenziellen Risiken.
Cyberangriffe, Desinformation und Abhängigkeit von KI
Die Risiken allgemeiner künstlicher Intelligenz unterteilt der International AI Safety Report 2026 in die drei Kategorien Missbrauch, Fehlfunktion und systemische Risiken.
Weiterlesen nach der Anzeige
Im Bereich Missbrauch von KI-Systemen heben die Forschenden insbesondere Erpressungen, Cyberangriffe oder die nicht konsensuelle Generierung intimer Inhalte hervor. Als besonders alarmierend betrachten sie die Fähigkeiten der KI, Sicherheitslücken in Software zu erkennen. Auch die Verbreitung von Desinformationen mittels KI-generierter Inhalte bereitet den Wissenschaftlern Sorge. So könne ein KI-generierter Inhalt in experimentellen Umgebungen bereits genauso wirksam sein wie ein von Menschen verfasster.
Trotz Fortschritten produzieren KI-Systeme weiterhin fehlerhaften Code, geben Falschinformationen oder irreführende Ratschläge aus. Besonders autonom agierende Systeme sind nach Einschätzung der Wissenschaftler risikoreich, da sie schadensbegrenzende Eingriffe durch Menschen erschweren. Nichtsdestotrotz hätten sich KI-Systeme im autonomen Betrieb verbessert, wenngleich das Risiko von Kontrollverlusten weiterhin bestehe.
Als systemische Risiken definiert der Bericht vor allem die Auswirkungen von KI auf den Arbeitsmarkt sowie Gefahren für die menschliche Autonomie. Von der Automatisierung einer Vielzahl kognitiver Aufgaben werden vornehmlich Wissensberufe betroffen sein. Über das Ausmaß derartiger zukünftiger Entwicklungen ist sich die Forschung dem Report zufolge uneinig. Erste Anzeichen deuten allerdings darauf hin, dass die Gesamtbeschäftigung zwar nicht sinkt, die Nachfrage nach Berufseinsteigern in kreativen Berufen aber abnimmt.
Besorgniserregend ist laut dem AI Safety Report außerdem, dass der Einsatz von KI Menschen zunehmend beeinträchtigt, informierte Entscheidungen zu treffen. Erste Erkenntnisse deuten darauf hin, dass die Abhängigkeit von KI-Tools kritisches Denken schwächt und den Effekt des „Automation Bias“ befördert – die Tendenz, den Ergebnissen von KI-Systemen ohne ausreichende Prüfung und trotz Widersprüchen zu vertrauen.
Stärkung der gesellschaftlichen Resilienz zentral
Ein effektives Risikomanagement bleibt laut International AI Safety Report 2026 schwierig: Neue Fähigkeiten von KI sind unvorhersehbar, die Funktionsweise von Modellen unzureichend erforscht und wirtschaftliche Anreize aufseiten der KI-Unternehmen hemmen die Transparenz. Wenngleich sich technische Schutzmaßnahmen von KI-Modellen verbessern, ist es weiterhin möglich, ihre Mechanismen auszuhebeln, etwa via Prompt Injections. Besonders anfällig dafür sind nach Ansicht der Wissenschaftler Open-Weight-Modelle. Diese bieten für die Forschung und Wirtschaft zwar erhebliche Vorteile, ihre Sicherheitsparameter sind aber einfacher zu entfernen.
Positiv ist dem Bericht zufolge, dass sich die Verpflichtungen der Industrie im Bereich der Sicherheits-Governance ausgeweitet hätten. Trotz dieser Selbstverpflichtungen sei jedoch eine Stärkung der gesellschaftlichen Resilienz zentral. So fordert der AI Safety Report eine Festigung kritischer Infrastrukturen, die Entwicklung von Instrumenten zur Erkennung KI-generierter Inhalte und einen Aufbau institutioneller Kapazitäten zur Reaktion auf neuartige Bedrohungen.
(rah)
Künstliche Intelligenz
US-Geschworene: Musk schädigte Twitter-Aktionäre bewusst
Tech-Milliardär Elon Musk hat in einem Prozess um sein Vorgehen bei der Übernahme von Twitter eine Niederlage erlitten. Geschworene eines Bezirksgerichts in San Francisco kamen zu dem Schluss, dass Musk im Jahr 2022 mit zwei irreführenden Äußerungen ein Wertpapiergesetz verletzt hatte. Da das den Aktienkurs drückte, könnte er verpflichtet werden, damaligen Anteilseignern eine hohe Wiedergutmachung zu zahlen. Musk äußerte sich zunächst nicht zu dem Urteil – er könnte dagegen in höherer Instanz in Berufung gehen.
Weiterlesen nach der Anzeige
Der Tech-Milliardär hatte im April 2025 mit Twitter die Übernahme des Kurznachrichtendienstes für einen Kaufpreis von rund 44 Milliarden Dollar vereinbart. Doch wenig später behauptete er, dass Twitter viel mehr automatisierte Bot-Accounts habe als offiziell angegeben – und drohte mit einem Rückzieher. Der Twitter-Verwaltungsrat beharrte jedoch auf der Einhaltung der Vereinbarung und am Ende schloss Musk den Kauf Ende Oktober 2022 doch zum abgesprochenen Preis ab.
Musk könnte Entschädigung leicht stemmen
Aktionäre von Twitter zogen bereits Anfang Oktober 2022 vor Gericht und warfen Musk vor, mit seinen Äußerungen den Kurs absichtlich manipuliert zu haben. Die Geschworenen berechneten nun auch den jeweiligen Betrag (PDF), um den Musks Worte den Twitter-Aktienkurs an einzelnen Tagen zwischen dem 13. Mai und dem 3. Oktober 2022 aus ihrer Sicht künstlich gedrückt hatten.
Zu einem späteren Zeitpunkt soll festgelegt werden, wie viel Wiedergutmachung Musk damaligen Aktionären zahlen soll. Es könnten hunderte Millionen oder auch einige Milliarden US-Dollar werden. Sein Vermögen, das größtenteils aus Aktien des Elektroauto-Herstellers Tesla und der Weltraumfirma SpaceX besteht, wird vom Finanzdienst Bloomberg aktuell auf gut 640 Milliarden Dollar geschätzt. Eine Zahlung an die Twitter-Aktionäre dürfte für den reichsten Menschen der Welt damit finanziell leicht zu verkraften sein.
Lesen Sie auch
(nie)
Künstliche Intelligenz
Canon zögert und APS-C will nach oben – die Fotonews der Woche 12/26
Manchmal muss man sich die Augen reiben: Der Kompaktkamera-Markt boomt, die Verkaufszahlen haben sich in Japan 2025 mehr als verdoppelt, und ausgerechnet Canon – ein Unternehmen, das einst mit der PowerShot-Reihe Millionen begeisterte – schaut dem Treiben bislang weitgehend von der Seitenlinie zu. Statt einer echten neuen Kompakten gab es zuletzt eine kaum veränderte PowerShot und zum 30. Geburtstag der PowerShot-Marke eine limitierte Jubiläumsedition der G7 X Mark III – also die hübschere Version einer Kamera von 2019. Das ist ungefähr so, als würde eine Bäckerei zum Firmenjubiläum denselben Kuchen nochmal backen, nur mit andersfarbigem Zuckerguss.
Weiterlesen nach der Anzeige
(Bild: heise )
Wir sehen den Boom – aber bitte langsam
Immerhin: Auf der CP+ hat Canon durchblicken lassen, dass man die wachsende Nachfrage sehr wohl registriert habe. Manabu Kato, Executive Officer bei Canons Imaging-Sparte, formuliert es diplomatisch: Der Markt für Festbrennweiten-Kameras sei „deutlich belebter“, vor allem dank des Video-Booms und junger Käufer, die den Wert einer echten Kamera gegenüber dem Smartphone zu schätzen wüssten. Canon unterscheide dabei zwischen jungen Nutzern, die Freude am Besitzen einer Kamera haben, und solchen, denen es primär ums Benutzen geht – eine Erkenntnis, die in die Produktentwicklung einfließen soll.
Die PowerShot V1, Canons vlogging-orientierte Kompakte aus 2025, zeigt zwar, wohin die Reise gehen könnte, ist aber klar auf Video-Creator zugeschnitten. Eine echte foto-orientierte Nachfolgerin der G7 X Mark III? „Wir überlegen derzeit, welche Nachfolgemodelle kommen“, sagt Kato. Konkreter wird er nicht. Dabei zeigen Konkurrenten wie Sigma mit der BF oder Fujifilm mit der „X half“, dass der Markt gerade diejenigen belohnt, die mutig sind. Canon hat die Ingenieurskunst und die Markenstrahlkraft – jetzt fehlt nur noch der Mut, diese auch einzusetzen.
Spaß als Geschäftsmodell
Apropos Mut: Fujifilm scheint davon gerade einen unerschöpflichen Vorrat zu haben. Ob die X half – eine Premium-„Spielzeugkamera“, die kaum ein anderer Hersteller so auf den Markt gebracht hätte –, die Instax Mini Evo Cinema, die tatsächlich Videos auf Sofortbildformat bannt, oder die GFX100RF als Mittelformat-Kompakte: Fujifilm liefert derzeit ein Produkt-Feuerwerk ab, das in der Branche seinesgleichen sucht.
Yuji Igarashi, General Manager der Professional Imaging Group bei Fujifilm, betonte auf der CP+ 2026, dass hinter dem scheinbaren Experimentiergeist knallharte Marktforschung stecke. „Wir haben nicht den Luxus, einfach herumzuexperimentieren“, sagt Igarashi. Aber – und das ist der entscheidende Unterschied zu manch anderem Hersteller – Fujifilm traut sich, auf die eigenen Daten zu hören, selbst wenn die Ergebnisse unkonventionelle Produkte nahelegen.
Weiterlesen nach der Anzeige
Das Wort, das in dem Gespräch immer wieder fiel: „Fun“, also der Spaß. Für Fujifilm ist das keine Marketing-Floskel, sondern erklärte Unternehmensmission. „Was wir als Unternehmen erreichen wollen, ist sicherzustellen, dass die Fotokultur auf absehbare Zeit erhalten bleibt“, so Igarashi. „Wenn wir nicht weiterhin etwas Aufregendes, etwas Spaßiges anbieten, werden sich die Menschen nicht mehr für Fotografie interessieren. Das wäre ein Albtraum für uns.“
Man stelle sich vor, ein Canon- oder Sony-Manager würde in einem Interview mehrfach das Wort „Spaß“ verwenden. Bei Fujifilm klingt das nicht nach PR-Strategie, sondern nach ehrlicher Überzeugung. Und die Verkaufszahlen geben dem Unternehmen recht: Einige Fujifilm-Kameras sind seit Monaten chronisch ausverkauft.
c’t Fotografie Zoom In abonnieren
Ihr Newsletter mit exklusiven Foto-Tipps, spannenden News, Profi-Einblicken und Inspirationen – jeden Samstag neu.
E-Mail-Adresse
Ausführliche Informationen zum Versandverfahren und zu Ihren Widerrufsmöglichkeiten erhalten Sie in unserer Datenschutzerklärung.
Braucht noch jemand Vollformat?
Gleich zwei Beiträge haben diese Woche unabhängig voneinander die Frage gestellt, ob Vollformat-Kameras für die meisten Fotografen überhaupt noch nötig sind – und kommen zu einem erstaunlich eindeutigen Ergebnis: eher nicht.
Mark Wiemels rechnet bei Fstoppers detailliert vor, was viele schon ahnten: Eine Sony a6700 (APS-C) spart gegenüber der a7C II rund 210 Euro, gegenüber der a7R V sogar 1.760 Euro. Und die Ersparnis multipliziert sich bei den Objektiven: Ein Sigma 18-50mm f/2.8 für APS-C kostet rund 510 Euro, das Vollformat-Pendant knapp 1.350 Euro. Auf ein festes Budget gerechnet bedeutet das oft den Unterschied zwischen einem Kit-Objektiv allein und einem Kit-Objektiv plus einer guten Festbrennweite.
Aber es geht nicht nur ums Geld. APS-C-Systeme sind rund 40 Prozent leichter, und – so Wiemels‘ pragmatisches Argument – die leichtere Kamera ist die, die man tatsächlich mitnimmt. Physikalisch profitieren kleinere Sensoren zudem von besserer Bildstabilisierung, weniger Rolling Shutter und kühleren Betriebstemperaturen bei langen Videoaufnahmen. Und der einstige Trumpf des Vollformats, die bessere Rauschperformance bei hohen ISO-Werten? Den haben KI-basierte Entrauschungstools größtenteils neutralisiert. Wer dann noch ein f/1.2-Objektiv wie das Viltrox 27mm f/1.2 oder 75mm f/1.2 auf den APS-C-Body schraubt, dürfte in der Praxis kaum noch einen Unterschied zum Vollformat sehen.
Bei Amateur Photographer argumentiert Gavin Stoker ähnlich, verweist aber zusätzlich auf Fujifilms 40,2-Megapixel-X-Trans-CMOS-5-HR-Sensor, der in Kameras wie der X-H2 und X-T5 steckt und eine Bildqualität liefert, die auch professionellen Ansprüchen genügt. Und wer tatsächlich mehr Sensorfläche braucht, findet bei Fujifilms GFX-Reihe Mittelformat zu Preisen, die früher für High-End-Vollformat fällig waren.
Natürlich hat die Sache einen Haken, den ein Kommentator bei Fstoppers treffend auf den Punkt bringt: „Eine Kamera ist nur so nützlich wie die Objektive, die es dafür gibt.“ Die APS-C-Objektivauswahl hinkt dem Vollformat-Angebot noch hinterher, selbst bei dedizierten Systemen wie Fujifilms X. Wer Vollformat-Glas auf APS-C montiert, hebelt die Kosten- und Größenvorteile schnell wieder aus. Aber der Trend ist klar: Die Lücke schließt sich, und zwar schneller, als viele erwartet hätten.
Was das alles bedeutet
Die Nachrichten dieser Woche erzählen im Grunde eine zusammenhängende Geschichte: Die Fotobranche sortiert sich gerade neu. Canon, einst Platzhirsch bei Kompaktkameras, sucht im neuen Markt noch seinen Platz. Fujifilm hat ihn gefunden – mit einer Mischung aus Datenanalyse und dem Mut, Kameras zu bauen, die vor allem eines sollen: Freude machen. Und die Debatte um Sensorgrößen verschiebt sich: Nicht mehr „Vollformat oder nichts“ lautet die Frage, sondern „Was brauche ich wirklich?“
Für Fotografen ist das eine gute Nachricht. Denn egal, ob man zur Fraktion „Spaß am Besitzen“ oder „Spaß am Benutzen“ gehört – die Auswahl war selten besser. Man muss sich nur trauen, nicht immer zum Größten und Teuersten zu greifen. Manchmal ist die beste Kamera die, die man tatsächlich in die Tasche steckt und mitnimmt. Und manchmal ist sie sogar die, die am meisten Spaß macht.
Lesen Sie auch
(tho)
Künstliche Intelligenz
KI-Streaming-Betrug: Einem US-Amerikaner drohen nach Geständnis fünf Jahre Haft
In den USA muss sich ein Mann wegen des Vorwurfs des KI-gestützten Streaming-Betrugs verantworten. Ihn erwarten nach einem Geständnis mehrere Jahre Haft und eine Millionenstrafe. Er soll hunderttausende von KI-generierten Songs auf bekannte Streamingplattformen hochgeladen haben, um diese anschließend selbst mit einer ganzen Bot-Armee ständig abzurufen. Die Taten sollen zwischen den Jahren 2017 und 2024 verübt worden sein. Auf diese Weise kassierte er Millionenerlöse von den Streaminganbietern.
Weiterlesen nach der Anzeige
Die Anklage hatte gegen den Mann aus dem US-Bundesstaat North Carolina bis zu 60 Jahre Haft gefordert. Durch das Schuldeingeständnis des Mannes reduziert sich das Strafmaß aber auf maximal fünf Jahre Haft und die Einziehung von über acht Millionen US-Dollar. Am 29. Juli soll das Urteil verkündet werden, kündigte der zuständige Richter in New York an.
Bis zu 661.440 Streams pro Tag gefälscht
Die Geldsumme entspricht den hochgerechneten Einnahmen, die der Mann mit Vergütungen für das Abspielen seiner KI-generierten Songs erzielt haben soll. Die Staatsanwaltschaft spricht in ihrer Anklage sogar von 10 Millionen US-Dollar. Zu Spitzenzeiten soll er mithilfe tausender Bot-Accounts 661.440 Streams pro Tag gefälscht haben. Betroffen waren die Plattformen Amazon Music, Apple Music, Spotify und YouTube Music. Durch die Verteilung der Streams auf Tausende Songs habe er die Betrugserkennung der Plattformbetreiber umgangen, berichtet Music Business Worldwide.
Der Angeklagte hatte den Einsatz von KI zunächst bestritten, nachdem er im September 2024 festgenommen wurde. Aufgeflogen war er, weil dem Mechanical Licensing Collective (MLC), das in den USA Streaming-Lizenzgebühren verteilt, die enorme Anzahl seiner Songs verdächtig auffiel. Laut Anklage gab es in den Jahren etliche Male Verdachtsmomente, die der Angeklagte aber jeweils zurückwies.
Massive Vorleistung
Laut Anklageschrift hatte der Tatverdächtige tausende Fake-E-Mail-Accounts eingekauft, um damit Zugänge bei den Streamingplattformen zu erstellen. Für diese Arbeit engagierte er Klickarbeiter außerhalb und innerhalb der USA. Durch das Anlegen von bezahlten Familien-Accounts konnte er die Zahl der Abrufe noch weiter in die Höhe treiben. Als Zahlungsmittel kaufte er unter Angabe falscher Namen in großem Stil Firmen-Debitkarten eines Dienstleisters ein. Als Bots nutzte er virtuelle Cloud-Computer, die per Makro immer wieder Abrufe von Songs auslösten. Folglich musste er finanziell massiv in Vorleistung gehen, um den Bot-Betrug zu begehen.
Weiterlesen nach der Anzeige
Gegen das Hochladen von KI-generierten Songs spricht grundsätzlich nichts, wenngleich die Plattformbetreiber solche Stücke künftig deutlich besser erkennbar machen. Das künstliche Abrufen gilt hingegen strafrechtlich als „Verschwörung zum Betrug durch Leitungsnetze“. Laut der US-Behörde ist der Fall des Mannes der erste derartige Strafverfolgungsfall in den USA. International ist bereits ein Mann aus Dänemark wegen ähnlicher Vorwürfe zu 18 Monaten Haft verurteilt worden. Ein Berufungsgericht erhöhte die Haftstrafe sogar auf zwei Jahre.
Lesen Sie auch
(mki)
-
Künstliche Intelligenzvor 3 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 1 MonatCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 1 Monat
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
UX/UI & Webdesignvor 2 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAumovio: neue Displaykonzepte und Zentralrechner mit NXP‑Prozessor
-
Künstliche Intelligenzvor 3 MonatenÜber 220 m³ Fläche: Neuer Satellit von AST SpaceMobile ist noch größer
-
Künstliche Intelligenzvor 2 MonateneHealth: iOS‑App zeigt Störungen in der Telematikinfrastruktur
