Connect with us

Künstliche Intelligenz

KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert


Weiterlesen nach der Anzeige

Während generative KI-Systeme bereits enorme Fähigkeiten besitzen, streben führende KI-Unternehmen eine viel höhere Entwicklungsstufe an: Superintelligenz. (Damit meinen wir in dieser Podcastfolge selbstverständlich nicht den derzeitigen Entwicklungsstand, den US-Präsident Donald Trump gerne schon als Superintelligenz definieren würde, sondern weit fortschrittlichere Modelle.) Die Nichtregierungsorganisation ControlAI definiert Superintelligenz als eine KI, die den Menschen in allen Dimensionen überflügelt und somit mächtiger ist als jedes Individuum, jedes Unternehmen oder jede Nation. Laut Benjamin Balde, dem Leiter von ControlAI in Deutschland, kann KI schon heute in speziellen Bereichen mehr als der Mensch. „KI kann besser programmieren als der Großteil aller Menschen mit Programmierkenntnissen“, so Balde. Erst kürzlich hat OpenAI hunderte Antworten auf offene Fragen der Mathematik und theoretischen Informatik veröffentlicht.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO

Bislang beobachten wir solche Fortschritte aber eben nur in Teilgebieten, nicht jedes KI-Modell kann gleich gut schreiben, schlussfolgern und coden. Balde betont jedoch, das eigentliche Ziel der Unternehmen sei, die KI-Forschung selbst zu automatisieren. „Und sobald sie das hinbekommen haben, kann es sein, dass man den Schritt einer AGI (Artificial General Intelligence), also einer KI auf Menschen-Niveau, überspringt. Das heißt, dass die KI schnell in vielen Domänen übermenschlich werden kann.“ Damit wären wir bei einer Superintelligenz angelangt und stünden vor dem Problem der sogenannten rekursiven Selbstverbesserung: KI-Systeme, die autonom die nächste, noch leistungsfähigere Generation von KI entwickeln und so eine für Menschen nicht mehr steuerbare Entwicklung auslösen könnten.

Das Hauptrisiko dabei liegt im Kontrollverlust. „Wenn wir das Alignment, also die (moralische) Ausrichtung der KI, bis dahin nicht gemeistert haben, besteht die Gefahr, dass uns die Kontrolle über die Systeme entgleisen wird.“ Laut ControlAI existiert keine Methode, ein solches System zuverlässig zu beherrschen. Selbst heutige Modelle seien schwer zu kontrollieren. Balde verweist auf die Vorfälle der letzten Monate, bei denen KI-Systeme aus sicher geglaubten Testumgebungen ausbrachen oder beim Versuch, ihren Auftrag zu erfüllen, unerwartet problematische Wege gingen. Er vergleicht uns Menschen mit einem Vierjährigen, der einen Erwachsenen (die KI) ins Bett bringen soll. „Ich glaube, ohne ein passendes System macht der Erwachsene, was er will, weil er stärker ist, mehr Wissen und mehr Möglichkeiten hat“, erklärt Balde.

Der AI Act der Europäischen Union konzentriere sich darauf, was wir machen, wenn Modelle auf den Markt kommen. „Wie wir bei OpenAI (und Hugging Face) sehen, sind die Modelle aber schon ein Problem, wenn sie nur trainiert werden.“ Darum will ControlAI die Gesetzgeber in den USA, Kanada, Großbritannien und nun auch in Deutschland dazu bewegen, schon jetzt Grenzen zu ziehen. Laut Informationen der NGO selbst haben ihre Experten in den letzten zwei Jahren mit mehr als 400 Abgeordneten in diesen Ländern gesprochen. In den USA und Großbritannien wurden bereits konkrete Gesetzesvorschläge vorgelegt, deren Ausarbeitung ControlAI unterstützt hat. Die Vorschläge sehen ein Verbot von Superintelligenz und rekursiver Selbstverbesserung in allgemeinen Bereichen vor. Wer dennoch daran arbeite, müsse bestraft werden. Zudem sollen Whistleblower geschützt werden, die Informationen über illegale Superintelligenz-Projekte weitergeben.


KI-Update

KI-Update

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder dreimal die Woche Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

Weiterlesen nach der Anzeige

Obwohl die Entwickler selbst vor den Gefahren warnen, treiben sie die Forschung voran. Der Hauptgrund dafür sei eine „Wettrenn-Dynamik“, wie Balde ausführt. Zum einen gibt es innerhalb der USA einen Wettbewerb zwischen den KI-Entwicklern wie OpenAI, Google und Anthropic. Gleichzeitig herrsche ein globales Wettrennen zwischen den USA und China. „Der Akteur, der sich sozusagen ethischer verhalten würde, würde in der aktuellen Marktsituation bestraft werden“, sagt Balde, da die Konkurrenz den Markt übernehmen würde.

Aus diesem Grund könne man nicht auf eine Selbstregulierung der Unternehmen hoffen. Balde zieht Parallelen zu anderen Branchen: „Bei Social-Media-Unternehmen hilft zum Beispiel auch keine Selbstregulation.“ Ähnlich wie beim Klimaschutz brauche es staatliche Eingriffe, um für alle Akteure die gleichen, fairen Bedingungen zu schaffen. Viele Unternehmen seien bereit, mehr für die Sicherheit zu tun, wenn sie wüssten, dass dies für alle Wettbewerber gelte. Deshalb appellieren nicht nur Organisationen wie ControlAI, sondern auch einige KI-Firmen selbst an die Politik, schnell regulierend einzugreifen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

ControlAI fordert bewusst kein generelles Verbot von generativer KI. Für Balde wäre ein gezieltes Verbot von Superintelligenz wie ein Skalpell, mit dem der größte Teil der existenziellen Probleme, die durch KI entstehen können, entfernt würde, ohne die Entwicklung im Allgemeinen zu behindern. „Der Großteil von KI-Anwendungen ist relativ harmlos oder hat Risikokategorien, die wir schon kennen.“ Spezialisierte KI in Bereichen wie Medizin, autonomem Fahren oder Materialforschung sollte selbstverständlich weiter verbessert werden dürfen. „In schmalen Domänen kann die KI sich auch gerne selber weiterentwickeln. Wir wollen aber keine generelle autonome KI, die den Menschen dann in einer vielfältigen Form von Feldern überflüssig auch machen würde“, so Balde.

Ein solches Verbot wäre durchsetzbar, da die Entwicklung von Superintelligenz ein industrieller Prozess mit sichtbaren Spuren sei. Die dafür nötigen Rechenzentren seien aufgrund ihrer enormen Abwärme sogar aus dem Weltall zu erkennen, so Balde. Die Lieferkette für die benötigten Hochleistungschips sei auf wenige Monopolisten konzentriert. Auch die Zahl der qualifizierten Forscherinnen und Forscher sei überschaubar. „Das heißt, wir müssen nicht jeden überprüfen, wir müssen auch kein riesiges Bürokratie-Monster werden, sondern wir haben eine spezifische Anzahl an Akteuren, die man gut überwachen kann.“ Als Vorbild verweist Balde auf internationale Abkommen wie den Atomwaffensperrvertrag.

„Ich glaube, wenn wir erst rekursive Selbstverbesserung haben und Superintelligenz, dann haben wir keine Zeit mehr, uns Gedanken über Arbeit und Gesellschaft zu machen, darüber, was das mit den Beziehungen von Menschen oder mit Kindern macht. Wie sieht Bildung aus in der Zukunft? Wie kann überhaupt eine Welt aussehen, wo wir den Großteil von intellektueller Arbeit automatisiert haben?“ Für Balde und ControlAI sind all das fundamentale Fragen, mit denen wir uns in den nächsten 40 oder 50 Jahren auseinandersetzen müssen. Diese Zeit bleibe aber womöglich nicht, weil sich das Tempo der Entwicklung massiv erhöhe, wenn immer leistungsfähigere KI-Systeme entstünden. Deswegen, glaubt Balde, hängen die gesellschaftlichen Fragen mehr denn je mit den Zielen der technologischen Entwicklung zusammen. „Wir brauchen mehr Zeit, um mit den gesellschaftlichen Auswirkungen von KI besser umgehen zu können.“


(igr)



Source link

Künstliche Intelligenz

Microsoft-Ausfall: Woran es lag und wer besonders litt


Eine stundenlange Großstörung hat weltweit Unternehmen und Verbraucher von zentralen Cloud-Angeboten des Software-Konzerns Microsoft abgeschnitten. Betroffen waren nicht nur der E-Mail-Dienst Outlook, sondern generell Dienste aus dem Cloud-Paket Microsoft 365. Beim Bürokommunikations-Angebot Teams etwa funktionierten das Planen von Besprechungen und Kalender-Anbindungen nicht richtig. Zudem waren der KI-Assistent Copilot sowie Schnittstellen zu Drittanbietern zeitweise gestört, darunter KI-Dienste wie OpenAI und Anthropic.

Weiterlesen nach der Anzeige

Microsoft machte zum Freitagnachmittag nach und nach Fortschritte – bis die Systeme dann wieder stabil liefen. Die Dienste seien zur Sicherheit schrittweise hochgefahren worden, auch wenn es dadurch länger gedauert habe. Der Konzern betonte danach, die Störung sei auf ein hausgemachtes Problem und nicht auf eine Cyberattacke oder KI-Aktivität zurückgegangen.

Der Grund habe letztlich in einem zuvor durchgeführten Upgrade der Netzwerk-Kapazität gesteckt. Ein dabei eingeführtes Problem sei erst nach jüngsten Netzwerk-Änderungen in Erscheinung getreten, hieß es. Später werde es einen ausführlichen Bericht zu dem Zwischenfall geben.

Die Deutsche Bahn meldete wegen der Störung kaum Probleme. „Züge fahren unabhängig von Microsoft-Systemen, deshalb läuft der bundesweite Bahnbetrieb stabil“, teilte ein Sprecher des bundeseigenen Konzerns mit. In ganz wenigen Fällen sei es zu Verzögerungen gekommen, „weil kurzfristige Fahrplananpassungen nicht per E-Mail versendet werden konnten“. Bei der Lufthansa gab es nach Angaben eines Sprechers keine Auswirkungen auf den Flugverkehr. Es seien andere Systeme im Einsatz. Auch die Flughäfen in Frankfurt und Berlin teilten mit, dass die Microsoft-Probleme sich nicht auf den Flugbetrieb auswirkten.

Bei Deutschlands größtem Strom-Verteilnetzbetreiber Eon war der Betrieb der Energienetze nach eigenen Angaben nicht betroffen. Grund dafür sei eine klare Trennung zwischen Systemen für Informations- und für Betriebstechnologie, erklärte eine Sprecherin. Letztere liefen auf speziell abgesicherten Infrastrukturen, die nicht von den betroffenen Microsoft-Diensten abhängig seien.

Im Frankfurter Finanzdistrikt war wie vielerorts die interne Kommunikation gestört. Bankfunktionen seien nicht betroffen und liefen alle ohne Störungen, erklärte ein Sprecher der Commerzbank. Bei der Deutschen Börse hieß es, der Wertpapierhandel laufe wie gewohnt.

Nach Angaben der Bundesregierung hatte die stundenlange Störung keine größeren Auswirkungen auf die Verwaltung. „Aus der Bundesverwaltung liegen uns keine Meldungen über größere Ausfälle vor“, sagte ein Sprecher des Digitalministeriums in Berlin. Man gehe jedoch von einer großen Betroffenheit in der deutschen Wirtschaft aus. Beim Bundesamt für Sicherheit in der Informationstechnik (BSI) hieß es, von vielen Unternehmen seien Meldungen zum Ausfall bei der Kommunikation eingegangen. Es gebe aber keine Hinweise auf einen Cyberangriff.

Ein Sprecher des Innenministeriums sagte, es gebe bisher keine Kenntnisse darüber, dass das Ministerium oder anhängige Behörden betroffen seien. Der Sprecher des Digitalministeriums erklärte, dass der Bundesclient als Standard-IT-Arbeitsplatz in der Bundesverwaltung stabil laufe. Dieser nutze Microsoft nicht in der Cloud, sondern werde auf eigener Infrastruktur betrieben. Jedoch nutzten noch nicht alle Behörden den Bundesclient, sondern dieser soll bis 2032 Standard in der gesamten Verwaltung werden. Der einheitliche E-Mail-Client in der Bundesverwaltung laufe stabil.

Weiterlesen nach der Anzeige

Angaben der Microsoft-Ingenieure zufolge wurde auf betroffenen Servern ein Prozess überlastet, der für den Aufbau sicherer Verbindungen zuständig ist – woraufhin die Rechner keine Anfragen mehr verarbeiteten. Zudem machte der Konzern die jüngste Konfigurationsänderung rückgängig, die zeitlich mit dem Beginn der Störung zusammenfiel. Microsoft erklärte, man suche angesichts anhaltender Ungleichgewichte bei der Datenverkehrssteuerung nach Wegen, um die Kapazitäten zu erhöhen.

Ausfälle von Online-Diensten gehören zum Alltag – meist sind sie aber von kurzer Dauer. Manchmal sind die Probleme aber so gravierend, dass es zu stundenlangen Störungen kommt. Microsofts Cloud- und E-Mail-Dienste hatten erst Ende August einen stundenlangen großflächigen Ausfall durchlebt, bei dem sich Nutzer nicht einloggen oder Nachrichten senden und empfangen konnten.

In Australien fiel der Ausfall mitten in die Abschlussprüfungen. Schüler aus Melbourne berichteten dem Sender ABC, sie könnten sich nicht auf ausstehende Sprachprüfungen vorbereiten, weil sie weder auf Materialien noch auf die Website der Prüfungsbehörde zugreifen könnten. Auch Online-Unterricht an Berufsschulen über Microsoft Teams war betroffen. Arzttermine und Untersuchungen mussten verschoben werden. Der Ausfall führte zu Verzögerungen im Flugverkehr. In Sydney musste eine Maschine mit Ziel Papua-Neuguinea am Boden warten, weil der Kapitän seine für den Start erforderlichen Unterlagen nicht per Outlook erhalten hatte.


(nie)



Source link

Weiterlesen

Künstliche Intelligenz

Rust als perfekte Sprache für Agentic AI: Online-Konferenz betterCode() Rust


Am 26. November 2026 findet die sechste Auflage der betterCode() Rust statt. Dieses Jahr legt die Online-Konferenz den Fokus auf agentengetriebene Entwicklung für Rust-Anwendungen.

Weiterlesen nach der Anzeige

Die betterCode() Rust zeigt, welche Architekturen, Tools und Prozesse sich für die agentische Softwareentwicklung mit Rust eignen. Die Vorträge vermitteln Best Practices und Leitlinien, für welche Aufgaben man Agenten sinnvoll einsetzen kann und was man lieber noch selbst macht.

Das Programm der Konferenz bietet unter anderem folgende Vorträge:

  • Systems Design mit Rust und Agenten
  • Sokrates und die Wartbarkeit deiner Rust-Codebasis
  • Embedded Sensor mit Agentic Rust entwickeln
  • Harness Engineering: Rust als perfekte Sprache für agentische Entwicklung
  • Rust in the Age of Agents

Die Konferenztickets sind zum Preis von 299 Euro (alle Preise zzgl. 19 % MwSt.) erhältlich. Teams ab drei Personen erhalten im Online-Ticketshop automatisch einen Gruppenrabatt.

Am 2. Dezember findet zusätzlich der Workshop „Agent-Ready Rust: Harness Engineering für AI Coding Agents“ statt, der 549 Euro kostet.

Wer über den Verlauf der betterCode()-Konferenz auf dem Laufenden bleiben möchte, kann sich für den Newsletter eintragen.


(rme)



Source link

Weiterlesen

Künstliche Intelligenz

Polarlicht bis Porträt: Licht und Himmel in den Bildern der Woche 46


In dieser Woche steht bei der Bildauswahl aus der c’t-Foto-Galerie der Himmel im Mittelpunkt: Mal dient er als Bühne für die Polarlichter über Norwegen, mal erscheint er als nebliges Grau über den Wolkenkratzern Londons und mal erstrahlt er in goldenem Morgenlicht über den Dächern Berlins. Was alle Aufnahmen verbindet, ist der konsequente Blick auf das Licht und die so geschaffene Atmosphäre. Dabei verändern sich die Stimmungen von Bild zu Bild und entfalten immer eine starke emotionale Wirkung.

Weiterlesen nach der Anzeige

Dazu gesellen sich Motive, die auch die Vielfalt der fotografischen Genres in der Foto-Galerie zeigen: Ein Vogel, präzise aus seinem Umfeld herausgelöst, eine Möwe im Bruchteil einer Sekunde zwischen zwei Tauchgängen, ein gestrandetes Wrack, das durch Langzeitbelichtung und Schwarz-Weiß-Umsetzung zeitlos wirkt – und schließlich ein Porträt, in dem Licht und Schatten zur eigentlichen Aussage werden. Sieben Bilder, sieben Haltungen und eine große Sorgfalt im Blick.




Die Saison ist im vollen Gange

(Bild: Wolzow1902)

Wie vertikale Pinselstriche steigen grüne und violette Lichtbänder der Aurora vom Horizont in den tiefblauen Nachthimmel über Norwegen. Die dunkle Silhouette der Hügelkette am unteren Bildrand bildet eine ruhige Grundlinie, vor der sich das Polarlicht umso dramatischer entfaltet. Herbstlich gefärbtes Laub an den Bildrändern rahmt die Szenerie ein und schafft eine spannungsvolle Verbindung zwischen Vordergrund und Himmel. Die Farbskala von tiefem Blau über leuchtendes Grün bis zu zartem Violett verleiht dem Bild eine orchestrale Dynamik.




City of London

(Bild: M.Schröder)

Nebel verschluckt die Spitzen dieser Londoner Hochhäuser, er löst die Architektur nach oben hin in ein tonales Grau auf und erzeugt so eine atmosphärische Perspektive. Der zentrale Turm dominiert mit seinem Raster aus Glasflächen das Bild, während ein Baukran an der linken Flanke eine feine vertikale Linie setzt. Rechts schiebt sich ein zweites Gebäude mit markanter Stahlstruktur ins Bild und schafft so eine Staffelung der Bildebenen.




Eisvogel

(Bild: Lightpix84)

Ein Eisvogel sitzt auf einem Vorsprung am Wasser und blickt nach oben. Die Aufnahme entstand mit einem Teleobjektiv, das den Hintergrund in ein weiches Bokeh aus warmen Braun- und Grüntönen auflöst. Die geringe Schärfentiefe isoliert den Vogel präzise und lenkt die Aufmerksamkeit auf das leuchtende Türkisblau seines Gefieders, das im Komplementärkontrast zu den orangefarbenen Brustpartien steht. Der Bildaufbau platziert das Tier im unteren Drittel, sodass der weiche, fast malerische Hintergrund viel Raum erhält und eine ruhige Tiefenwirkung entsteht. Die nach oben gerichtete Kopfhaltung des Vogels führt den Blick entlang einer diagonalen Linie durch das Bild und verleiht der Szene eine gewisse Spannung.




Wenn Bäume mal richtig was hermachen

(Bild: ulwp6)

Aus erhöhter Position blickt die Kamera über eine weite, von Nebelschwaden durchzogene Berliner Landschaft bei Sonnenaufgang. Dutzende Bäume ragen aus dem flachen Dunst hervor und werfen lange, klar gezeichnete Schatten auf den Boden. Im Hintergrund zeichnet sich die Silhouette der Hauptstadt ab: Hochhäuser und der Fernsehturm verschwimmen im goldenen Dunst. Am Horizont schiebt sich die Sonne durch eine Wolkenbank und färbt den Himmel in kräftigen Orange- und Gelbtönen, während darüber bereits kühles Blau durchscheint.




Das Wrack

(Bild: Asfotografie)

Gestrandet und verwittert, und doch zieht es den ganzen Blick auf sich. In einer walisischen Bucht liegt dieses alte Boot wie ein Monument der Vergänglichkeit. Es ist umgeben von seidig verwischtem Wasser und ziehenden Wolken. Durch die Langzeitbelichtung wird alles ringsum zur Nebensache, nur das raue Holz des Rumpfes bleibt greifbar und präsent. Die Schwarz-Weiß-Darstellung nimmt der Szene jede Ablenkung und rückt Struktur und Stimmung in den Vordergrund. Ein Bild, das man lange betrachtet – und das dabei immer ruhiger wird.




… und in den Angriff übergehen

(Bild: Zika)

Rote Füße, nasses Gefieder und der Blick steil nach unten – diese Lachmöwe, die über dem Wasser kreist, zögert nicht. Gerade ist sie aus dem Wasser aufgestiegen und verharrt für einen Wimpernschlag in der Luft, die Flügel weit aufgespannt. Die feinen Spritzer unter ihr markieren den letzten Tauchgang, während der gesenkte Kopf bereits den nächsten ankündigt. Der ruhige, entsättigte Hintergrund isoliert den Vogel und verleiht dieser Vogelstudie eine fast grafische Klarheit.

Weiterlesen nach der Anzeige




Bernadette

(Bild: Thomas Ruppel)

Licht, das Streifen malt, und ein Blick, der alles einfängt. Die diagonalen Schattenlinien der Jalousie legen sich wie ein grafisches Raster über Haut, Haar und Hintergrund und erzeugen ein spannungsreiches Muster. Die Schwarz-Weiß-Umsetzung dreht den Kontrast auf und verleiht dem Porträt eine fast skulpturale Wirkung. Die voluminösen Locken des Models brechen das strenge Linienspiel auf organische Weise auf, während die lässig an die Schulter gelegte Hand den Blick zurück zum intensiven Ausdruck lenkt. Hier trifft geometrische Strenge auf natürliche Form.


(vat)



Source link

Weiterlesen

Beliebt