Dieser Auszug stammt aus dem Buch Künstliche Intelligenz und der neue Faschismus von Rainer Mühlhoff, mit freundlicher Genehmigung vom Verlag Reclam und vom Autor. Rainer Mühlhoff wurde in Philosophie promoviert und arbeitet als Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück. Sein Sachbuch über digitalen Faschismus erscheint am 16. Juli 2025. An diesem Tag diskutiert der Autor sein Buch mit Lisa Steigertahl, Philipp Ehmann und Constanze Kurz in der Urania in Berlin.

Die Ideologien hinter dem KI-Hype

Populäre KI-Narrative beruhen auf drei Grundelementen, nämlich auf der Anthropomorphisierung von KI-Systemen, affektiv überzeichneten Zukunftserwartungen (utopisch wie apokalyptisch) und kurzfristigen technologischen Lösungsversprechen für gesellschaftliche Probleme (Solutionismus). Diese Vorstellungen weichen oft deutlich vom tatsächlichen Entwicklungsstand der KI-Technik ab.

Doch was steht hinter dieser Hype-Dynamik, die das Potential von KI-Technologie dermaßen übertreibt? Gehen Politik und Öffentlichkeit einfach nur den wirtschaftlichen Interessen der KI-Industrie auf den Leim?

Es wird sich im Folgenden zeigen, dass das so einfach nicht ist. Zwar hat der KI-Hype sehr viel mit wirtschaftlichen Interessen zu tun, doch greift die imaginäre Überhöhung von KI auf länger bestehende intellektuelle Strömungen zurück, die in wissenschaftlichen und industriellen Milieus tief verankert sind und die man unter dem Oberbegriff Tech-Ideologien zusammenfassen könnte. Dazu zählen der technologische Determinismus in seinen verschiedenen Spielarten, Transhumanismus und bestimmte futuristische Auslegungen der utilitaristischen Ethik – insbesondere der Longtermismus. Indem sie als Ideologien bezeichnet werden, soll herausgestellt werden, wie in diesen Weltanschauungen die gegenseitige Befruchtung industrieller Interessen und öffentlicher Vorstellungen von KI als quasi natürliche Wahrheit aufscheint.

Technologischer Determinismus und Techno-Optimismus

Alle Tech-Ideologien, die nachfolgend vorgestellt werden, stehen zunächst im Zusammenhang mit der aggressiven Innovationskultur, die besonders im Silicon Valley vorzufinden ist. Diese Kultur ist eng mit einem unternehmerischen Risikokapitalismus verknüpft, der privatwirtschaftlich vorangetriebene technologische „Disruption“ als Triebkraft gesellschaftlichen Fortschritts versteht. Zugleich wird sie von einer libertären Ideologie geprägt, die staatliche Regulierung als Hemmnis für Innovation ansieht und der wirtschaftlichen – wie auch der sozialen – Auslesefunktion des Marktes eine fast uneingeschränkte Steuerungsfunktion zuschreibt. Hinzu kommt die enge Verzahnung von akademischer Forschung mit privatwirtschaftlicher Technologieentwicklung, durch die wirtschaftliche Interessen und unternehmerische Denkweisen den wissenschaftlichen Diskurs erheblich prägen. In diesem Umfeld werden technophile Gesellschaftsutopien besonders gefördert und weitergetragen.

Die Auffassung, dass technologische Entwicklung eine autonome Kraft darstellt, die gesellschaftliche Strukturen, Wohlstand und Fortschritt maßgeblich und zwangsläufig bestimmen, wird häufig als technologischer Determinismus bezeichnet. Ein prominenter Vertreter dieser Sichtweise ist der OpenAI-CEO Sam Altman, der 2015 auf einer Tech-Konferenz ausführte, „I think that AI will probably, most likely, lead to the end of the world. But in the meantime, there will be great companies“. In einem Blog-Post von 2021 erklärte er, dass die KI-Revolution „unstoppable“ sei und „phenomenal wealth“ erzeugen werde. Der technologische Determinismus kombiniert häufig eine vermeintlich deskriptive Theorie vom unaufhaltsamen Fortschritt mit einem geradezu verzückten Optimismus und messianischen Heilsversprechungen.

Einige einflussreiche Akteure legen diese Grundstruktur des technologischen Determinismus nicht nur deskriptiv, sondern unmittelbar normativ aus und inszenieren sich selbst als Propheten dieser Botschaft, so etwa der Silicon-Valley-Investmenbanker Marc Andreessen mit seinem einflussreichen Techno-Optimist Manifesto aus dem Jahr 2023. Darin heißt es:

Our civilization was built on technology. Our civilization is built on technology. Technology is the glory of human ambition and achievement, the spearhead of progress, and the realization of our potential. For hundreds of years, we properly glorified this – until recently. I am here to bring the good news. We can advance to a far superior way of living, and of being.

Die Techno-Optimisten im Silicon Valley vertreten offensiv die Überzeugung, dass technologischer Fortschritt nicht nur unausweichlich, sondern von Natur aus wünschenswert und moralisch geboten sei – dass er jedoch aktuell durch liberale und nachhaltigkeitsorientierte Politik behindert werde. Sie lehnen regulatorische Eingriffe als innovationsfeindlich ab und propagieren eine Weltanschauung, in der technologische „Disruption“ die Quelle für Wohlstand, gesellschaftlichen Fortschritt und eine paradiesische Zukunft ist.

Eine notorische Leerstelle dieser Denkweisen bildet die Auseinandersetzung mit Fragen der gesellschaftlichen Verteilung von Macht und Ressourcen oder der schon jetzt sichtbaren sozialen und ökologischen Schäden, die durch KI-Technologie verursacht werden. Auch wird die Tatsache ausgeblendet, dass von den techno-deterministischen und -optimistischen Narrativen vor allem die KI-Industrie selbst profitiert. Zugleich sind diese Narrative so konstruiert, dass sich die Protagonisten der Frage nach der gerechten Teilhabe der Gesamtgesellschaft am durch sie akkumulierten Wohlstand entziehen können. Ein zentraler Aspekt der Ideologieförmigkeit dieses Weltbildes besteht darin, dass diese Punkte systematisch verdunkelt werden.

Transhumanismus und seine Unterströmungen

In einem einflussreichen kritischen Artikel aus dem Jahr 2024 führen die Informatikerin, KI-Ethikerin und ehemalige Google-Mitarbeiterin Timnit Gebru sowie die US-amerikanische Philosophin Émile Torres das Akronym TESCREAL ein, um damit ein „Bündel“ aus miteinander verwobenen und sich überlappenden Ideologien und Lehren zu bezeichnen, die in bestimmten technologischen und wissenschaftlichen Kreisen, insbesondere im Silicon Valley, verbreitet sind.

Die Abkürzung TESCREAL steht für „Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, and Longtermism“. Obwohl es sich um keine geschlossene Ideologie handelt, sondern um eine lose Verknüpfung von teils jahrzehntealten, teils sehr neuen Ideen, argumentieren Gebru und Torres, dass diese weltanschaulichen Lehren maßgeblich die Narrative großer Technologieunternehmen, einflussreicher Investor:innen und Vordenker:innen in der KI-Forschung prägen. Als Ideologien vermitteln sie eine ontologische und ethische Orientierung, die Zukunftstechnologien wie KI, Nanotechnologie und Gentechnologie nicht nur als unumgänglich, sondern als moralisch wünschenswert und notwendig für das langfristige Überleben der Menschheit positioniert. Zudem dienen sie als ideologische Rechtfertigung für die technologischen und geopolitischen Strategien zahlreicher Unternehmen und Akteure in diesem Feld. Es zeigt sich, dass einige dieser Weltanschauungen direkte Fortführungen von Eugenik und Rassentheorie des 20. Jahrhunderts darstellen.

Der Transhumanismus bildet eine der zentralen ideologischen Wurzeln der TESCREAL-Ideologien. Seine Ursprünge reichen bis in die Mitte des 20. Jahrhunderts zurück. Er basiert auf der Überzeugung, dass der Mensch durch den gezielten Einsatz von Technologie seine physischen, psychischen und intellektuellen Grenzen überwinden, in einer hybriden biologisch-technologischen Existenzform aufgehen und dabei ein gesteigertes Dasein erreichen könne, das insbesondere Krankheiten und die Sterblichkeit überwinden wird. Der Begriff Transhumanismus geht auf einen Essay aus dem Jahr 1957 des britischen Eugenikers und Evolutionsbiologen Julian Huxley, der außerdem der erste Direktor der UNESCO und Präsident der britischen Eugenik-Gesellschaft war, zurück. Dort beschreibt dieser die Idee des Transhumanismus als einen Prozess, durch den »die menschliche Spezies als Ganzes, als Menschheit« sich selbst überwindet. Dieses Hinauswachsen über sich selbst wird einerseits als eine evolutionäre Entwicklung begriffen, die im Sinne des technologischen Determinismus unaufhaltbar ist. Andererseits schreibt der Transhumanismus in seinen verschiedenen Unterströmungen den Menschen als Entwickler:innen von Technologie in unterschiedlichem Sinne aktive und mitgestaltende Rollen bei diesem Prozess zu (entsprechend leitet etwa der britische Futurist Max More in den 1990er Jahren als den moralischen Imperativ des Transhumanismus eine Verpflichtung der Menschheit zum Fortschritt ab). Ein solcher charakteristischer Umschlagspunkt von einer Beschreibung zu einem normativen und politischen Programm ließ sich bereits beim Techno-Optimistischen Manifest erkennen.

Als Unterströmungen des Transhumanismus haben sich seit Mitte des 20. Jahrhunderts einerseits unmittelbar nützliche Projekte ergeben, wie zum Beispiel die Entwicklung von Prothesen zur Funktionserweiterung oder Funktionserhaltung des menschlichen Körpers sowie Projekte der Nanotechnologie und des Bioengineerings, etwa in der regenerativen Medizin. Andererseits propagiert der Transhumanismus deutlich skurrile Tendenzen, die sich etwa der Entwicklung von Gehirn-Computer-Schnittstellen widmen, mit denen der menschliche Geist oder seine Bewusstseinsinhalte digital „ausgelesen“ und „in eine Cloud hochgeladen werden“ soll (diesem Ziel hat sich etwa das Unternehmen Neuralink von Elon Musk verschrieben).

Ein zentraler Akteur in der zeitgenössischen transhumanistischen Bewegung ist der schwedische Philosoph Nick Bostrom, der mit seinen Arbeiten zu künstlicher Superintelligenz, zu „existential risk“ und „human enhancement ethics“ weit über akademische Kreise hinaus wahrgenommen wird. Bostrom gründete 1998 zusammen mit David Pearce die transhumanistische Denkfabrik World Transhumanist Association (heute: Humanity+) und leitete bis zu seiner Auflösung im April 2024 das Future of Humanity Institute an der Universität Oxford, das durch finanzielle Unterstützung aus dem Silicon Valley und von Tech-Milliardären wie Elon Musk und Peter Thiel gefördert wurde. In seinem Buch Superintelligence: Paths, Dangers, Strategies (2014) vertritt Bostrom die These, dass die Entwicklung einer künstlichen Superintelligenz entweder den ultimativen Fortschritt zu einer neuen Stufe der Menschheit bedeuten oder zu ihrer vollständigen Auslöschung führen würde – eine oben bereits diskutierte utopisch-apokalyptische Überzeichnung, die für das zeitgenössische transhumanistische Denken typisch ist und von dort in den populären KI-Diskurs übertragen wurde.

Rainer Mühlhoff widmet sich auch den weiteren Ideologien hinter dem KI-Hype: dem Extropianismus und Singularitarianismus, der Eugenik 2.0, den Rationalisten und ihrer existenzial-futuristischen Ethik, dem Effektiven Altruismus, dem Longtermismus und der Säkularen Eschatologie. Nachzulesen in seinem Reclam-Buch: Künstliche Intelligenz und der neue Faschismus.