Wir berichteten ja darüber, dass Mark Zuckerberg erklärte, Meta sei dem Erreichen von Superintelligenz ein schönes Stück näher gekommen. Meine ernstgemeinte Frage in die Runde: Habt Ihr Euch dazu wirklich Gedanken gemacht, was das bedeuten könnte? Ich ja, und ich hab da gleich mehrere Gedanken, die mir Bauchschmerzen bereiten.

Zunächst mal: Wir sind uns doch hoffentlich einig, dass Zuckerbergs persönliche Superintelligenz tatsächlich weniger Zukunftsvision ist und vielmehr PR-Selbstverteidigung, oder? Es passt zur Kommunikation im Tech-Business, dass man beim Verkünden von Quartalszahlen wildeste und optimistischste Bilder der Unternehmenszukunft malt. Elon Musk hat diese Strategie perfektioniert, fast jede Ankündigung des Tesla-Chefs versprüht diesen penetranten Duft von Vaporware (also ein Produkt, das man ankündigt, welches aber nie wirklich erscheint).

Was ist eigentlich Superintelligenz?

Klären wir kurz, worüber wir überhaupt reden. Viel wird in der KI-Welt von AGI gesprochen, von ASI und schließlich auch über Superintelligenz. AGI ist dabei die nächste Schwelle, die OpenAI, Google und die anderen KI-Größen erreichen wollen. AGI, also Artificial General Intelligence bedeutet, dass eine KI so schlau ist wie ein Mensch. Also nicht eine einzelne Disziplin, so wie beispielsweise ChatGPT jetzt schon menschliches Niveau beim Schreiben erreicht. AGI meint, dass die KI in jedem Bereich menschliche Intelligenz abbildet, egal ob es um soziale Interaktion, Mathe oder Kreativität geht. 

ASI (Artificial Superintelligence) wird in der Regel synonym mit Superintelligenz verwendet und meint, dass eine KI besser ist als der Mensch. Viel besser! Selbst, wenn sich die hellsten Köpfe der Welt versammelten, könnten sie gemeinsam nicht im Ansatz Probleme lösen, die für eine ASI eine Kleinigkeit sind. Genau von so einer Intelligenz spricht Mark Zuckerberg und diese will er jedem von uns – in naher Zukunft – zugänglich machen. 

Zwei wichtige Punkte noch zu diesen Begriffen:

1. Sie sind nicht fest definiert. OpenAI sieht AGI erreicht, wenn die KI in den meisten wirtschaftlich wertvollen Aufgaben besser ist als der Mensch. Google hingegen blickt auf Benchmark-Tests, aber auch auf praktische Anwendbarkeit. Bedeutet für uns: Die Grenzen dieser Begriffe sind schwammig und unterschiedlich auslegbar. Damit ist es perfekt für PR, weil sich quasi jedes Unternehmen seine Definition so drehen kann, wie sie gebraucht wird.
2. Experten streiten noch, wann wir AGI bzw. ASI erreichen: Für manche scheint zumindest AGI vor 2030 realistisch, andere wiederum zweifeln an, ob es jemals so weit kommt.

Was Zuckerberg sagt, was er meint – und wieso das furchtbar ist

Eins direkt zu Beginn dieses Abschnitts: Ich spreche konkret über Zuckerbergs Absichten. Aber seid Euch dessen gewiss, dass es so oder so ähnlich auch in den Köpfen anderer Tech-Giganten aussieht. Mit seiner jüngsten Aussage machte Mark Zuckerberg aber deutlich, dass er sich gar nicht mit AGI aufhält und direkt auf die Superintelligenz hinarbeitet. Was das für uns bedeuten kann, sagte er klipp und klar:

Die Vision von Meta ist es, jedem Menschen persönliche Superintelligenz zugänglich zu machen. Wir glauben daran, diese Kraft in die Hände der Menschen zu legen, damit sie sie für das einsetzen können, was ihnen in ihrem Leben wichtig ist.

Er malt seine Vision mit kräftigen Farben und spricht davon, dass die Superintelligenz uns helfen wird, unsere Ziele zu erreichen, uns jedes Abenteuer erleben zu lassen und uns zu dem werden lässt, der wir tatsächlich sind und einiges mehr. Klingt wundervoll, oder? Aber fallt besser nicht auf diesen Schlangenölverkäufer rein. Wir sprechen immerhin über den Mann, der mit Facebook die ganze Welt verbinden wollte: „Making the world more open and connected“ und so …

Und was ist daraus geworden? Eine Welt, bei der jeder dem anderen an die Gurgel will. Eine Welt, die vielleicht niemals verbundener, aber auch nie gespaltener war. Mark Zuckerberg hat mit seiner Plattform, seinem Like-Daumen und seinem Algorithmus mitgeholfen, dass diese Welt so werden konnte.

Das Absurde dabei: Ich nehme Zuckerberg das ab, dass er wirklich die Welt miteinander verbinden will. Aber er mag halt auch Macht und Geld. Spätestens sein Kotau vor Trump Anfang 2025 disqualifiziert ihn für den Job des Weltretters, so gerne er sich auch in dieser Rolle sieht. Mein größtes Problem, was ich damit habe, liefert er im selben Text mit, in dem er auch den Stand bei der Superintelligenz thematisiert. Er offenbart uns nämlich auch die Lösung, in Form von smarten Brillen, wie wir sie bereits kennen – Brillen wie die Ray-Ban Meta Skyler.

Zuckerberg spricht es auch sehr offensichtlich direkt in seinem Brief an uns an. Er lobt die Brillen dafür, dass sie sehen, was wir sehen und hören, was wir hören. Genau da wird es gruselig: Die vermutlich schlimmste Datenkrake der Welt gibt sich nicht mehr mit unseren Namen, unseren Fotos, unseren Gedanken usw. zufrieden. Morgen will Meta auch wissen, was Ihr den ganzen Tag über hört und seht!

Das bedeutet, dass wir Meta noch einen Berg Daten zusätzlich ins Unternehmen kippen würden. Ein kostbarer Rohstoff, um uns besser zu verstehen, KI-Modelle zu trainieren – und unverschämt viel Geld zu verdienen. Alles, ohne dass wir das Metaversum verlassen müssen, sprich: Metas Ökosystem. Für die seligmachende Superintelligenz müssten wir uns Meta also komplett an den Hals werfen: Schließ uns ein in Dein Ökosystem, Meta. Nimm unsere Daten, mach damit, was Du willst und zwing uns auch, Deine neueste Brille zu kaufen! 

Mehr Geld, mehr Macht – und weniger Transparenz

Gleichzeitig erklärt Meta, dass man – weil die Technologie halt eine so riskante ist – lieber nicht mehr alles öffentlich bereitstellen will. Open Source gilt also nur noch für die Bereiche, für die Meta entscheidet, dass sie öffentlich gemacht gehören. Das klingt so, als wolle man proaktiv verhindern, dass andere ebenfalls Superintelligenz erreichen.

Ich halte das Unternehmen auch für abgezockt genug, dass man mit seinen Plänen auch bei der EU vorstellig wird. Nach dem Motto: Echt? Ihr wollt uns regulieren? Aber was könnt Ihr denn bitte dagegen haben, dass wir die glücklich machende Superintelligenz allen Bürger:innen des Kontinents schenken wollen?

Unser generelles Problem mit Superintelligenz

Lasst uns nicht nur auf Mark Zuckerberg und Meta einhauen – die anderen Tech-Bros ticken nicht viel anders. Das eigentliche Problem sitzt tiefer: Unsere Gesellschaft ist noch längst nicht reif für eine so mächtige Technologie.

Das Risiko liegt nicht darin, dass Superintelligenz uns auslöscht. Das Risiko liegt darin, dass wir nicht verantwortungsvoll damit umgehen können. Momentan sehe ich drei gewaltige Hürden:

• Globale Uneinigkeit – Ob Kultur, Religion oder Wissensstand – wir sind zu verschieden, um uns auf verbindliche Regeln zu einigen. Ohne globale Standards riskieren wir ein Chaos aus nationalen Alleingängen.
• Ungleiche Machtverteilung – Geld und Einfluss liegen in den Händen weniger. Manche CEOs sind mächtiger als Regierungen – und diese Macht wächst mit jeder neuen Technologie.
• Exklusivität statt Offenheit – Wer Superintelligenz zuerst in den Händen hält, hat kaum ein Interesse, sie zu teilen. Im Gegenteil: Die Versuchung, sie zu monopolisieren, ist enorm.

Wir brauchen ein Level Up für die Gesellschaft

Ganz ehrlich? Wir haben als Gesellschaft in mehr als drei Jahrzehnten nicht mal das Internet richtig verstanden. Wie also sollen wir da in kürzester Zeit die Konsequenzen aus künstlicher Intelligenz überblicken? Wir brauchen eine bessere, eine smartere, eine gebildetere Gesellschaft. Wir brauchen ein Level Up! Erst, wenn wir uns Medienkompetenz angeeignet haben, Fakes erkennen können und uns auf Fakten verständigen, bekommen wir unser gesellschaftliches Problem geklärt. 

Aber wie und wie schnell soll das funktionieren? Schaut Euch im Netz um: Wohin man blickt, streiten Leute. Nicht nur der digitale Graben spaltet uns. Wir schmoren in unseren ideologischen Bubbles im eigenen Saft, und blicken zu selten über Tellerränder. Ich möchte jetzt nicht zu sehr ins Philosophische oder Esoterische abdriften. Aber ich befürchte, dass wir als Gesellschaft noch schwierige Jahre vor uns haben. Wir werden noch jahrelang durch Scheiße waten müssen, bis es besser wird. 

Unsere Gesellschaft muss so wachsen, dass uns solche Wahl-Desaster wie Donald Trump gar nicht mehr unterlaufen. Wir müssen Wege finden, wie wir egoistische Entscheider loswerden können, die eine überlegene KI aus Macht- oder Geldgeilheit möglichst für sich behalten wollen. Danach erst dürfen wir hoffen, dass eine übermächtige KI für und mit uns Probleme löst, die derzeit noch unlösbar scheinen – Welthunger, Krankheiten, Klimawandel – you name it. 

Mein persönliches Fazit

Ja, klar, eine wundervolle Utopie ist möglich. Aber sie ist nur eine von zwei Optionen. Wir können an der Weggabelung nämlich ebenso Richtung Dystopie abbiegen. Es ist eigentlich so einfach: Mit Zusammenhalt, Empathie und dem Willen zur Veränderung könnten wir heute schon so viel erreichen. Nur: Wie wollen wir uns global auf etwas so Komplexes einigen, wenn wir uns nicht einmal bei Tempolimits oder der Zeitumstellung einig werden?

Genau deswegen sind eben nicht nur Menschen in der Politik oder Tech-Milliardäre gefragt. Es geht um jeden von uns. Wir müssen anständiger, offener und vielleicht auch aufmüpfiger werden. Bevor Superintelligenz uns helfen kann, müssen wir uns selbst helfen.