Künstliche Intelligenz
KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert
Was Superintelligenz von ChatGPT unterscheidet
Weiterlesen nach der Anzeige
Während generative KI-Systeme bereits enorme Fähigkeiten besitzen, streben führende KI-Unternehmen eine viel höhere Entwicklungsstufe an: Superintelligenz. (Damit meinen wir in dieser Podcastfolge selbstverständlich nicht den derzeitigen Entwicklungsstand, den US-Präsident Donald Trump gerne schon als Superintelligenz definieren würde, sondern weit fortschrittlichere Modelle.) Die Nichtregierungsorganisation ControlAI definiert Superintelligenz als eine KI, die den Menschen in allen Dimensionen überflügelt und somit mächtiger ist als jedes Individuum, jedes Unternehmen oder jede Nation. Laut Benjamin Balde, dem Leiter von ControlAI in Deutschland, kann KI schon heute in speziellen Bereichen mehr als der Mensch. „KI kann besser programmieren als der Großteil aller Menschen mit Programmierkenntnissen“, so Balde. Erst kürzlich hat OpenAI hunderte Antworten auf offene Fragen der Mathematik und theoretischen Informatik veröffentlicht.

Bislang beobachten wir solche Fortschritte aber eben nur in Teilgebieten, nicht jedes KI-Modell kann gleich gut schreiben, schlussfolgern und coden. Balde betont jedoch, das eigentliche Ziel der Unternehmen sei, die KI-Forschung selbst zu automatisieren. „Und sobald sie das hinbekommen haben, kann es sein, dass man den Schritt einer AGI (Artificial General Intelligence), also einer KI auf Menschen-Niveau, überspringt. Das heißt, dass die KI schnell in vielen Domänen übermenschlich werden kann.“ Damit wären wir bei einer Superintelligenz angelangt und stünden vor dem Problem der sogenannten rekursiven Selbstverbesserung: KI-Systeme, die autonom die nächste, noch leistungsfähigere Generation von KI entwickeln und so eine für Menschen nicht mehr steuerbare Entwicklung auslösen könnten.
Eingreifen, bevor wir die Kontrolle verlieren
Das Hauptrisiko dabei liegt im Kontrollverlust. „Wenn wir das Alignment, also die (moralische) Ausrichtung der KI, bis dahin nicht gemeistert haben, besteht die Gefahr, dass uns die Kontrolle über die Systeme entgleisen wird.“ Laut ControlAI existiert keine Methode, ein solches System zuverlässig zu beherrschen. Selbst heutige Modelle seien schwer zu kontrollieren. Balde verweist auf die Vorfälle der letzten Monate, bei denen KI-Systeme aus sicher geglaubten Testumgebungen ausbrachen oder beim Versuch, ihren Auftrag zu erfüllen, unerwartet problematische Wege gingen. Er vergleicht uns Menschen mit einem Vierjährigen, der einen Erwachsenen (die KI) ins Bett bringen soll. „Ich glaube, ohne ein passendes System macht der Erwachsene, was er will, weil er stärker ist, mehr Wissen und mehr Möglichkeiten hat“, erklärt Balde.
Der AI Act der Europäischen Union konzentriere sich darauf, was wir machen, wenn Modelle auf den Markt kommen. „Wie wir bei OpenAI (und Hugging Face) sehen, sind die Modelle aber schon ein Problem, wenn sie nur trainiert werden.“ Darum will ControlAI die Gesetzgeber in den USA, Kanada, Großbritannien und nun auch in Deutschland dazu bewegen, schon jetzt Grenzen zu ziehen. Laut Informationen der NGO selbst haben ihre Experten in den letzten zwei Jahren mit mehr als 400 Abgeordneten in diesen Ländern gesprochen. In den USA und Großbritannien wurden bereits konkrete Gesetzesvorschläge vorgelegt, deren Ausarbeitung ControlAI unterstützt hat. Die Vorschläge sehen ein Verbot von Superintelligenz und rekursiver Selbstverbesserung in allgemeinen Bereichen vor. Wer dennoch daran arbeite, müsse bestraft werden. Zudem sollen Whistleblower geschützt werden, die Informationen über illegale Superintelligenz-Projekte weitergeben.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder dreimal die Woche Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.
Eine gefährliche Wettrenn-Dynamik
Weiterlesen nach der Anzeige
Obwohl die Entwickler selbst vor den Gefahren warnen, treiben sie die Forschung voran. Der Hauptgrund dafür sei eine „Wettrenn-Dynamik“, wie Balde ausführt. Zum einen gibt es innerhalb der USA einen Wettbewerb zwischen den KI-Entwicklern wie OpenAI, Google und Anthropic. Gleichzeitig herrsche ein globales Wettrennen zwischen den USA und China. „Der Akteur, der sich sozusagen ethischer verhalten würde, würde in der aktuellen Marktsituation bestraft werden“, sagt Balde, da die Konkurrenz den Markt übernehmen würde.
Aus diesem Grund könne man nicht auf eine Selbstregulierung der Unternehmen hoffen. Balde zieht Parallelen zu anderen Branchen: „Bei Social-Media-Unternehmen hilft zum Beispiel auch keine Selbstregulation.“ Ähnlich wie beim Klimaschutz brauche es staatliche Eingriffe, um für alle Akteure die gleichen, fairen Bedingungen zu schaffen. Viele Unternehmen seien bereit, mehr für die Sicherheit zu tun, wenn sie wüssten, dass dies für alle Wettbewerber gelte. Deshalb appellieren nicht nur Organisationen wie ControlAI, sondern auch einige KI-Firmen selbst an die Politik, schnell regulierend einzugreifen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ein kontrollierbares, internationales Verbot
ControlAI fordert bewusst kein generelles Verbot von generativer KI. Für Balde wäre ein gezieltes Verbot von Superintelligenz wie ein Skalpell, mit dem der größte Teil der existenziellen Probleme, die durch KI entstehen können, entfernt würde, ohne die Entwicklung im Allgemeinen zu behindern. „Der Großteil von KI-Anwendungen ist relativ harmlos oder hat Risikokategorien, die wir schon kennen.“ Spezialisierte KI in Bereichen wie Medizin, autonomem Fahren oder Materialforschung sollte selbstverständlich weiter verbessert werden dürfen. „In schmalen Domänen kann die KI sich auch gerne selber weiterentwickeln. Wir wollen aber keine generelle autonome KI, die den Menschen dann in einer vielfältigen Form von Feldern überflüssig auch machen würde“, so Balde.
Ein solches Verbot wäre durchsetzbar, da die Entwicklung von Superintelligenz ein industrieller Prozess mit sichtbaren Spuren sei. Die dafür nötigen Rechenzentren seien aufgrund ihrer enormen Abwärme sogar aus dem Weltall zu erkennen, so Balde. Die Lieferkette für die benötigten Hochleistungschips sei auf wenige Monopolisten konzentriert. Auch die Zahl der qualifizierten Forscherinnen und Forscher sei überschaubar. „Das heißt, wir müssen nicht jeden überprüfen, wir müssen auch kein riesiges Bürokratie-Monster werden, sondern wir haben eine spezifische Anzahl an Akteuren, die man gut überwachen kann.“ Als Vorbild verweist Balde auf internationale Abkommen wie den Atomwaffensperrvertrag.
„Ich glaube, wenn wir erst rekursive Selbstverbesserung haben und Superintelligenz, dann haben wir keine Zeit mehr, uns Gedanken über Arbeit und Gesellschaft zu machen, darüber, was das mit den Beziehungen von Menschen oder mit Kindern macht. Wie sieht Bildung aus in der Zukunft? Wie kann überhaupt eine Welt aussehen, wo wir den Großteil von intellektueller Arbeit automatisiert haben?“ Für Balde und ControlAI sind all das fundamentale Fragen, mit denen wir uns in den nächsten 40 oder 50 Jahren auseinandersetzen müssen. Diese Zeit bleibe aber womöglich nicht, weil sich das Tempo der Entwicklung massiv erhöhe, wenn immer leistungsfähigere KI-Systeme entstünden. Deswegen, glaubt Balde, hängen die gesellschaftlichen Fragen mehr denn je mit den Zielen der technologischen Entwicklung zusammen. „Wir brauchen mehr Zeit, um mit den gesellschaftlichen Auswirkungen von KI besser umgehen zu können.“
(igr)
Künstliche Intelligenz
Microsoft-Ausfall: Woran es lag und wer besonders litt
Eine stundenlange Großstörung hat weltweit Unternehmen und Verbraucher von zentralen Cloud-Angeboten des Software-Konzerns Microsoft abgeschnitten. Betroffen waren nicht nur der E-Mail-Dienst Outlook, sondern generell Dienste aus dem Cloud-Paket Microsoft 365. Beim Bürokommunikations-Angebot Teams etwa funktionierten das Planen von Besprechungen und Kalender-Anbindungen nicht richtig. Zudem waren der KI-Assistent Copilot sowie Schnittstellen zu Drittanbietern zeitweise gestört, darunter KI-Dienste wie OpenAI und Anthropic.
Weiterlesen nach der Anzeige
Microsoft machte zum Freitagnachmittag nach und nach Fortschritte – bis die Systeme dann wieder stabil liefen. Die Dienste seien zur Sicherheit schrittweise hochgefahren worden, auch wenn es dadurch länger gedauert habe. Der Konzern betonte danach, die Störung sei auf ein hausgemachtes Problem und nicht auf eine Cyberattacke oder KI-Aktivität zurückgegangen.
Der Grund habe letztlich in einem zuvor durchgeführten Upgrade der Netzwerk-Kapazität gesteckt. Ein dabei eingeführtes Problem sei erst nach jüngsten Netzwerk-Änderungen in Erscheinung getreten, hieß es. Später werde es einen ausführlichen Bericht zu dem Zwischenfall geben.
Zug- und Flugverkehr weitgehend stabil
Die Deutsche Bahn meldete wegen der Störung kaum Probleme. „Züge fahren unabhängig von Microsoft-Systemen, deshalb läuft der bundesweite Bahnbetrieb stabil“, teilte ein Sprecher des bundeseigenen Konzerns mit. In ganz wenigen Fällen sei es zu Verzögerungen gekommen, „weil kurzfristige Fahrplananpassungen nicht per E-Mail versendet werden konnten“. Bei der Lufthansa gab es nach Angaben eines Sprechers keine Auswirkungen auf den Flugverkehr. Es seien andere Systeme im Einsatz. Auch die Flughäfen in Frankfurt und Berlin teilten mit, dass die Microsoft-Probleme sich nicht auf den Flugbetrieb auswirkten.
Bei Deutschlands größtem Strom-Verteilnetzbetreiber Eon war der Betrieb der Energienetze nach eigenen Angaben nicht betroffen. Grund dafür sei eine klare Trennung zwischen Systemen für Informations- und für Betriebstechnologie, erklärte eine Sprecherin. Letztere liefen auf speziell abgesicherten Infrastrukturen, die nicht von den betroffenen Microsoft-Diensten abhängig seien.
Im Frankfurter Finanzdistrikt war wie vielerorts die interne Kommunikation gestört. Bankfunktionen seien nicht betroffen und liefen alle ohne Störungen, erklärte ein Sprecher der Commerzbank. Bei der Deutschen Börse hieß es, der Wertpapierhandel laufe wie gewohnt.
Bundesregierung sieht Wirtschaft betroffen
Nach Angaben der Bundesregierung hatte die stundenlange Störung keine größeren Auswirkungen auf die Verwaltung. „Aus der Bundesverwaltung liegen uns keine Meldungen über größere Ausfälle vor“, sagte ein Sprecher des Digitalministeriums in Berlin. Man gehe jedoch von einer großen Betroffenheit in der deutschen Wirtschaft aus. Beim Bundesamt für Sicherheit in der Informationstechnik (BSI) hieß es, von vielen Unternehmen seien Meldungen zum Ausfall bei der Kommunikation eingegangen. Es gebe aber keine Hinweise auf einen Cyberangriff.
Ein Sprecher des Innenministeriums sagte, es gebe bisher keine Kenntnisse darüber, dass das Ministerium oder anhängige Behörden betroffen seien. Der Sprecher des Digitalministeriums erklärte, dass der Bundesclient als Standard-IT-Arbeitsplatz in der Bundesverwaltung stabil laufe. Dieser nutze Microsoft nicht in der Cloud, sondern werde auf eigener Infrastruktur betrieben. Jedoch nutzten noch nicht alle Behörden den Bundesclient, sondern dieser soll bis 2032 Standard in der gesamten Verwaltung werden. Der einheitliche E-Mail-Client in der Bundesverwaltung laufe stabil.
Weiterlesen nach der Anzeige
Internes Microsoft-Problem
Angaben der Microsoft-Ingenieure zufolge wurde auf betroffenen Servern ein Prozess überlastet, der für den Aufbau sicherer Verbindungen zuständig ist – woraufhin die Rechner keine Anfragen mehr verarbeiteten. Zudem machte der Konzern die jüngste Konfigurationsänderung rückgängig, die zeitlich mit dem Beginn der Störung zusammenfiel. Microsoft erklärte, man suche angesichts anhaltender Ungleichgewichte bei der Datenverkehrssteuerung nach Wegen, um die Kapazitäten zu erhöhen.
Ausfälle von Online-Diensten gehören zum Alltag – meist sind sie aber von kurzer Dauer. Manchmal sind die Probleme aber so gravierend, dass es zu stundenlangen Störungen kommt. Microsofts Cloud- und E-Mail-Dienste hatten erst Ende August einen stundenlangen großflächigen Ausfall durchlebt, bei dem sich Nutzer nicht einloggen oder Nachrichten senden und empfangen konnten.
Auswirkungen weltweit
In Australien fiel der Ausfall mitten in die Abschlussprüfungen. Schüler aus Melbourne berichteten dem Sender ABC, sie könnten sich nicht auf ausstehende Sprachprüfungen vorbereiten, weil sie weder auf Materialien noch auf die Website der Prüfungsbehörde zugreifen könnten. Auch Online-Unterricht an Berufsschulen über Microsoft Teams war betroffen. Arzttermine und Untersuchungen mussten verschoben werden. Der Ausfall führte zu Verzögerungen im Flugverkehr. In Sydney musste eine Maschine mit Ziel Papua-Neuguinea am Boden warten, weil der Kapitän seine für den Start erforderlichen Unterlagen nicht per Outlook erhalten hatte.
(nie)
Künstliche Intelligenz
Rust als perfekte Sprache für Agentic AI: Online-Konferenz betterCode() Rust
Am 26. November 2026 findet die sechste Auflage der betterCode() Rust statt. Dieses Jahr legt die Online-Konferenz den Fokus auf agentengetriebene Entwicklung für Rust-Anwendungen.
Weiterlesen nach der Anzeige
Die betterCode() Rust zeigt, welche Architekturen, Tools und Prozesse sich für die agentische Softwareentwicklung mit Rust eignen. Die Vorträge vermitteln Best Practices und Leitlinien, für welche Aufgaben man Agenten sinnvoll einsetzen kann und was man lieber noch selbst macht.
Von Systems Design bis Harness Engineering
Das Programm der Konferenz bietet unter anderem folgende Vorträge:
- Systems Design mit Rust und Agenten
- Sokrates und die Wartbarkeit deiner Rust-Codebasis
- Embedded Sensor mit Agentic Rust entwickeln
- Harness Engineering: Rust als perfekte Sprache für agentische Entwicklung
- Rust in the Age of Agents
Die Konferenztickets sind zum Preis von 299 Euro (alle Preise zzgl. 19 % MwSt.) erhältlich. Teams ab drei Personen erhalten im Online-Ticketshop automatisch einen Gruppenrabatt.
Zusätzlicher Workshop zu Harness Engineering
Am 2. Dezember findet zusätzlich der Workshop „Agent-Ready Rust: Harness Engineering für AI Coding Agents“ statt, der 549 Euro kostet.
Wer über den Verlauf der betterCode()-Konferenz auf dem Laufenden bleiben möchte, kann sich für den Newsletter eintragen.
(rme)
Künstliche Intelligenz
Polarlicht bis Porträt: Licht und Himmel in den Bildern der Woche 46
In dieser Woche steht bei der Bildauswahl aus der c’t-Foto-Galerie der Himmel im Mittelpunkt: Mal dient er als Bühne für die Polarlichter über Norwegen, mal erscheint er als nebliges Grau über den Wolkenkratzern Londons und mal erstrahlt er in goldenem Morgenlicht über den Dächern Berlins. Was alle Aufnahmen verbindet, ist der konsequente Blick auf das Licht und die so geschaffene Atmosphäre. Dabei verändern sich die Stimmungen von Bild zu Bild und entfalten immer eine starke emotionale Wirkung.
Weiterlesen nach der Anzeige
Dazu gesellen sich Motive, die auch die Vielfalt der fotografischen Genres in der Foto-Galerie zeigen: Ein Vogel, präzise aus seinem Umfeld herausgelöst, eine Möwe im Bruchteil einer Sekunde zwischen zwei Tauchgängen, ein gestrandetes Wrack, das durch Langzeitbelichtung und Schwarz-Weiß-Umsetzung zeitlos wirkt – und schließlich ein Porträt, in dem Licht und Schatten zur eigentlichen Aussage werden. Sieben Bilder, sieben Haltungen und eine große Sorgfalt im Blick.
Die Saison ist im vollen Gange von Wolzow1902

Die Saison ist im vollen Gange
(Bild: Wolzow1902)
Wie vertikale Pinselstriche steigen grüne und violette Lichtbänder der Aurora vom Horizont in den tiefblauen Nachthimmel über Norwegen. Die dunkle Silhouette der Hügelkette am unteren Bildrand bildet eine ruhige Grundlinie, vor der sich das Polarlicht umso dramatischer entfaltet. Herbstlich gefärbtes Laub an den Bildrändern rahmt die Szenerie ein und schafft eine spannungsvolle Verbindung zwischen Vordergrund und Himmel. Die Farbskala von tiefem Blau über leuchtendes Grün bis zu zartem Violett verleiht dem Bild eine orchestrale Dynamik.
City of London von M.Schröder

City of London
(Bild: M.Schröder)
Nebel verschluckt die Spitzen dieser Londoner Hochhäuser, er löst die Architektur nach oben hin in ein tonales Grau auf und erzeugt so eine atmosphärische Perspektive. Der zentrale Turm dominiert mit seinem Raster aus Glasflächen das Bild, während ein Baukran an der linken Flanke eine feine vertikale Linie setzt. Rechts schiebt sich ein zweites Gebäude mit markanter Stahlstruktur ins Bild und schafft so eine Staffelung der Bildebenen.
Eisvogel von Lightpix84

Eisvogel
(Bild: Lightpix84)
Ein Eisvogel sitzt auf einem Vorsprung am Wasser und blickt nach oben. Die Aufnahme entstand mit einem Teleobjektiv, das den Hintergrund in ein weiches Bokeh aus warmen Braun- und Grüntönen auflöst. Die geringe Schärfentiefe isoliert den Vogel präzise und lenkt die Aufmerksamkeit auf das leuchtende Türkisblau seines Gefieders, das im Komplementärkontrast zu den orangefarbenen Brustpartien steht. Der Bildaufbau platziert das Tier im unteren Drittel, sodass der weiche, fast malerische Hintergrund viel Raum erhält und eine ruhige Tiefenwirkung entsteht. Die nach oben gerichtete Kopfhaltung des Vogels führt den Blick entlang einer diagonalen Linie durch das Bild und verleiht der Szene eine gewisse Spannung.
Wenn Bäume mal richtig was hermachen von ulwp6

Wenn Bäume mal richtig was hermachen
(Bild: ulwp6)
Aus erhöhter Position blickt die Kamera über eine weite, von Nebelschwaden durchzogene Berliner Landschaft bei Sonnenaufgang. Dutzende Bäume ragen aus dem flachen Dunst hervor und werfen lange, klar gezeichnete Schatten auf den Boden. Im Hintergrund zeichnet sich die Silhouette der Hauptstadt ab: Hochhäuser und der Fernsehturm verschwimmen im goldenen Dunst. Am Horizont schiebt sich die Sonne durch eine Wolkenbank und färbt den Himmel in kräftigen Orange- und Gelbtönen, während darüber bereits kühles Blau durchscheint.
Das Wrack von Asfotografie

Das Wrack
(Bild: Asfotografie)
Gestrandet und verwittert, und doch zieht es den ganzen Blick auf sich. In einer walisischen Bucht liegt dieses alte Boot wie ein Monument der Vergänglichkeit. Es ist umgeben von seidig verwischtem Wasser und ziehenden Wolken. Durch die Langzeitbelichtung wird alles ringsum zur Nebensache, nur das raue Holz des Rumpfes bleibt greifbar und präsent. Die Schwarz-Weiß-Darstellung nimmt der Szene jede Ablenkung und rückt Struktur und Stimmung in den Vordergrund. Ein Bild, das man lange betrachtet – und das dabei immer ruhiger wird.
… und in den Angriff übergehen von Zika

… und in den Angriff übergehen
(Bild: Zika)
Rote Füße, nasses Gefieder und der Blick steil nach unten – diese Lachmöwe, die über dem Wasser kreist, zögert nicht. Gerade ist sie aus dem Wasser aufgestiegen und verharrt für einen Wimpernschlag in der Luft, die Flügel weit aufgespannt. Die feinen Spritzer unter ihr markieren den letzten Tauchgang, während der gesenkte Kopf bereits den nächsten ankündigt. Der ruhige, entsättigte Hintergrund isoliert den Vogel und verleiht dieser Vogelstudie eine fast grafische Klarheit.
Weiterlesen nach der Anzeige
Bernadette von Thomas Ruppel

Bernadette
(Bild: Thomas Ruppel)
Licht, das Streifen malt, und ein Blick, der alles einfängt. Die diagonalen Schattenlinien der Jalousie legen sich wie ein grafisches Raster über Haut, Haar und Hintergrund und erzeugen ein spannungsreiches Muster. Die Schwarz-Weiß-Umsetzung dreht den Kontrast auf und verleiht dem Porträt eine fast skulpturale Wirkung. Die voluminösen Locken des Models brechen das strenge Linienspiel auf organische Weise auf, während die lässig an die Schulter gelegte Hand den Blick zurück zum intensiven Ausdruck lenkt. Hier trifft geometrische Strenge auf natürliche Form.
(vat)
-
Apps & Mobile Entwicklungvor 2 Monatentado°: Smartes Wand-Thermostat ersetzt Batterien durch USB‑C‑Akku
-
Apps & Mobile Entwicklungvor 2 MonatenAqara Spatial Multi-Sensor FP400: Matter-Sensor erkennt bis zu 10 Personen mit mmWave‑Radar
-
Apps & Mobile Entwicklungvor 2 MonatenArm CSS for Mobile 2: C2-Ultra macht die CPU zum Orchestrator für KI‑Agenten
-
Künstliche Intelligenzvor 2 MonatenGesperrte Straße von Hormus: Laut Prognose werden CO₂-Emissionen 2026 sinken
-
Künstliche Intelligenzvor 1 MonatVerbrenner-Aus: Merz und Macron wollen CO₂-Ziel für 2035 weiter lockern
-
Künstliche Intelligenzvor 2 Monaten
Plug-in-Hybride emittieren sechsmal mehr CO₂ im Alltag als offiziell angegeben
-
Apps & Mobile Entwicklungvor 3 MonatenDeutsche Lüfter-Ikone: ebm‑papst geht für 5,1 Milliarden Euro in die USA
-
Künstliche Intelligenzvor 2 MonatenDänischer CO₂-Speicher „Greesand“ geht im Meeresgrund in Regelbetrieb
