Die Halluzinationen der KI-Branche (2/2):Empire of AI

Falko Löffler, 14.08.2025

In einem zweiteiligen Artikel erklärt uns Falko Löffler mit Hilfe der Bücher More Everything Forever und Empire of AI die kruden Ideologien und Thesen der Tech-Milliardäre, die hinter den aktuellen KI-Entwicklungen stehen. Hier geht es jetzt um Empire of AI, die Firma OpenAI und Falkos Fazit. Die schmutzige Wahrheit hinter der wahrgewordenen Science Fiction.

Teil 1 des zweiteiligen Artikels findet ihr hier.

Empire of AI

Ein Buch von Karen Hao. Das ist journalistischer als Beckers Buch, denn es wirft einen Blick hinter die Kulissen von OpenAI und der Tech-Branche allgemein. Hao hat am MIT studiert, versteht also etwas von der technischen Seite, und arbeitet als Wissenschaftsjournalistin für viele Medien wie The Atlantic, Wall Street Journal, MIT Technology Review.

„Empire of AI“ ist im Mai 2025 erschienen, und Sam Altman sah sich im Vorfeld dazu bemüßigt, vage Tweets abzusetzen, dass einige unautorisierte Bücher erscheinen werden, die ihm schaden sollen. Hao selbst hat 2019 bei OpenAI längere Zeit Einblicke erhalten, später nicht mehr. Sie stellt ihrem Buch voran, dass es auf 300 Interviews mit etwa 260 Menschen und einer großen Menge von Dokumenten basiert. Und sie schreibt:

This book is not a corporate book. While it tells the inside story of OpenAI, that story is meant to be a prism through which to see far beyond this one company. It is a profile of a scientific ambition turned into an aggressive ideological, money-fueled quest; an examination of its multifaceted and expansive footprint; a meditation on power.

In die Geschichte von OpenAI steigt sie als Prolog mit der vorläufigen Eskalation ein. Als Sam Altman, dem CEO der Firma, im November 2023 eröffnet wurde, dass er vom Vorstand gefeuert wäre. Dabei blieb es dann nicht. Es formte sich Widerstand, hochrangige Mitarbeiter drohten mit Kündigung, wenn Altman nicht zurückkäme.

OpenAI war als Nonprofit gegründet worden, mutierte dann aber nach und nach zu einer gewinnorientierten Firma. KI verändert das Netz und gesellschaftliche Strukturen. Aber, so schreibt Hao schon im Vorwort, KI hat viele Formen, es ist eine ganze Bandbreite von Technologien, die sich dauernd ändern, und das nicht nur aus technischen Gründen, sondern auch den Ideologien der Menschen dahinter folgend. Und wie eine KI ihre Ergebnisse manifestiert, ist nicht unausweichlich, sondern die Folge von tausenden subjektiven Entscheidungen. Daher ist die Zukunft von KI nicht festgeschrieben, sondern man muss fragen: wer wird diese Zukunft der KI gestalten?

Hao hat eine zentrale These, die sich auch im Titel spiegelt: die KI-Firmen sind Imperien. Empires. Und die die KI-Ausformungen sind genauso kolonialistisch wie die Imperien der Menschheitsgeschichte:

Over the years, I’ve found only one metaphor that encapsulates the nature of what these AI power players are: empires. During the long era of European colonialism, empires seized and extracted resources that were not their own and exploited the labor of the people they subjugated to mine, cultivate, and refine those resources for the empires’ enrichment. They projected racist, dehumanizing ideas of their own superiority and modernity to justify—and even entice the conquered into accepting—the invasion of sovereignty, the theft, and the subjugation. They justified their quest for power by the need to compete with other empires: In an arms race, all bets are off. All this ultimately served to entrench each empire’s power and to drive its expansion and progress. In the simplest terms, empires amassed extraordinary riches across space and time, through imposing a colonial world order, at great expense to everyone else.

Diese KI-Imperien zeichnen sich nicht durch Gewalt oder Brutalität aus. Aber sie nehmen sich Ressourcen. Kunstwerke, Daten von Menschen, Land, Energie und Wasser, um Rechenzentren zu betreiben, dazu nutzen sie die traumatisierende Arbeit von sogenannten Clickworkern in aller Welt aus, um die Trainingsdaten für eine KI überhaupt erst nutzbar zu machen. Ein Aspekt, der gern unterschlagen wird, wenn man vom „Training“ einer KI spricht, was wie ein automatisierter Prozess klingt.

Hao erzählt Altmans Geschichte von vorn. Und er ist eindeutig intelligenter als ich, denn er hat erwogen, Autor zu werden, aber sich dann dagegen entschieden. Technologie war für seinen Ehrgeiz lohnender. Er sagte später rückblickend: “I realized that the world does not need or value the seven-millionth novel. That was not where I could make the best contribution, and, in cases like that, it also is generally harder to make a lot of money or even enough money.”

Stimmt. Leute wie ich schreiben halt trotzdem den siebenmillionsten Roman, auch wenn’s tatsächlich nicht genug Geld dafür gibt, aber Leute wie ich haben auch nicht das Ziel, die Welt nach dem eigenen Bild umzuformen. Und ich musste wenigstens nicht bei meinem ersten Job so hart arbeiten, dass ich nur von Instant Ramen-Nudeln gelebt und Skorbut bekommen habe. Wahrscheinlich ist er noch stolz auf diese Anekdote.

Dieses Startup – „Loopt Star“ – war so eine Empfehlungs- und Coupon-App für Restaurants, die tatsächlich abgehoben hat und deren Verkauf sein erster Schritt zum Reichtum war. Dadurch wurde Altman auch in der Silicon-Valley-Öffentlichkeit ein Name, und er hatte und hat den Ruf, ein besonders guter Zuhörer zu sein. Einige Leute vergleichen ihn mit Steve Jobs, den legendären Mitbegründer von Apple. Dem wurde nachgesagt, ein „reality distortion field“ zu haben. Wenn man in das reingeriet, konnte Jobs einen von allem überzeugen. Das soll Altman auch haben. Aber – und da zitiert Hao eine anonym bleibende Person, die mit Altman gearbeitet hat: “Sam remembers all these details about you. He’s so attentive. But then part of it is he uses that to figure out how to influence you in different ways. He’s so good at adjusting to what you say, and you really feel like you’re making progress with him. And then you realize over time that you’re actually just running in place.”

Das ist ein Problem, das sich – so erfahren wir später im Buch – durchaus bis heute hinter den Kulissen von OpenAI manifestiert. Dass Altman im kleinen Kreis allen Leuten immer zustimmt und ihnen das Gefühl gibt, wichtig zu sein, was dann aber dazu führt, dass in der Firma widersprüchliche Anweisungen umgehen und Leute manchmal unwissend gegeneinander arbeiten. So was ist über Jobs nicht überliefert.

Eine neue Information aus diesem Buch war für mich, wie tief Elon Musk in der Genese von OpenAI beteiligt war und wie sehr die letzten Jahre in dieser Szene ein Kampf der Egos waren. Das wird auch aus Beckers Buch schon deutlich, aber Haos Chronologie von OpenAI und den dann entstehenden Firmen wie Anthropic und XAI von Musk legt diese Machtkämpfe deutlicher dar. Und auch, wie die alteingesessenen Firmen wie Microsoft und Google durchaus verzweifelt versucht haben, mithalten zu können, und wie Microsoft im Speziellen Unsummen in OpenAI investiert hat.

Besonders spannend ist Haos Schilderung der Zeit, die sie Ende 2019 direkt vor Ort bei OpenAI verbracht hat. Da hat sie Interviews mit dem leitenden Personal führen können, hat aber auch schnell gemerkt, dass sie keinen ungefilterten Blick bekommt – und dass sie nach und nach immer misstrauischer beäugt wurde. Das war noch einige Zeit vor dem Knall, mit dem ChatGPT in der breiten Öffentlichkeit wahrgenommen wurde. Nachdem sie im Februar 2020 ihren kritischen Artikel über OpenAI veröffentlicht hatte, fror die Firma jeden Kontakt zu ihr ein.

Gruselig sind die ausführlichen Schilderungen, wie Tech-Firmen Clickarbeiter in Schwellenländern anheuern, um die digitale Drecksarbeit zu erledigen. Sei es, dass für selbstfahrende Autos ewig lange Aufnahmen von den Kameras händisch bearbeitet und Elemente der Umgebung klassifiziert werden müssen oder schlimmste Gewalttätigkeiten gesichtet und kategorisiert werden müssen. Unmenschliche Bildschirmarbeit, ohne die die ach so intelligente KI völlig nutzlos bleibt. Die Schilderung, wie zunächst in Kenia über eine App Leute angeheuert wurden, auf Stundenbasis ohne jede langfristige Perspektive, und wie diese Firmen Kenia eilig verlassen haben, weil es auf einmal in Venezuela die perfekte Mischung aus hoher Arbeitslosigkeit und schnellem Internet gab – und die digitalen Heuschrecken eilig dorthin zogen… es ist die dreckigste Spielart des Kapitalismus, der wortwörtlich über Leichen geht. Dies ist nicht zufälligerweise das zentrale Kapitel in Haos Buch, denn es ist die Basis für ihre Einordnung von KI als Neokolonialismus.

Im Anschluss widmet sich Hao den Umweltthemen, der physikalischen Seite des KI-Booms. Den Rohstoffen, die dafür nötig sind, dem schier endlosen Energiebedarf. Eine ChatGPT-Anfrage braucht 10x so viel Strom wie eine Google-Suche.

Zum Ende des Buches fordert Hao nicht gleich wie Becker die Abschaffung von Milliardären – höchstens indirekt. Die Lösung liegt ihr zufolge in Umverteilung von Wissen und Ressourcen. Anders gesagt – Chancengleichheit und fairer Umgang. Und Aufklärung – im Sinne von Bildung darüber, wie KI wirklich funktioniert, wo Stärken und Schwächen liegen, um den Mystizismus auszuräumen.

Zum Abschluss

Zwei anstrengende Bücher. Zwei Bücher, die mich wütend machen. Zwei Bücher, die bei mir persönlich dafür sorgen, dass ich bei dem Satz „Ich hab mal schnell ChatGPT gefragt“ oder bei einem lustigen KI-Bildchen mindestens mit den Zähnen knirsche oder gleich deabonniere.

Ich spiele nicht mit. Ich benutze KI-TOOLS, wenn sie einen konkreten Zweck haben, aber keine generative KI. Nicht zum Spaß, nicht zur Arbeitserleichterung, die sowieso keine ist, wenn ich den Output auf Korrektheit prüfen muss – dann kann ich gleich vernünftig nachgucken. Und mit der Ideologie, die diese Technologie jetzt gerade prägt, will ich nichts zu tun haben. Wer das trennen kann, bitte. Fragt halt ChatGPT, macht eure Bildchen.

Aber lasst mich damit in Ruhe.

Letztens machte ein Screenshot eines Tweets von einem KI-Dude die Runde, der weise dazu riet, man könne jeden Tag 100 Bücher lesen, indem man sie sich einfach von ChatGPT zusammenfassen lässt. Ich habe auch gelesen, dass das ironisch gemeint war. Bin mir nicht sicher – es ist diese Art von Effizienz, die genau diese Leute unironisch verkörpern, und wenn die KI-Dudes neben ihrem Missverstehen von Science-Fiction-Romanen etwas gemein haben, dann jede Abwesenheit von Humor (ein Blick in das, was Musk lustig findet, reicht als Beweis).

Das Welt- und Menschenbild, das die beiden Bücher beschreiben, ist deckungsgleich. Diese Leute glauben, dass KI einem das Leben schön macht, indem sie uns alles abnimmt. Jürgen Geuter ordnet das in diesem Text völlig richtig ein: sie wollen jede Reibung verschwinden lassen. Und das ist kein Fortschritt.

Jetzt gerade arbeitet Sam Altman mit Jony Ive, dem legendären Apple-Designer, an einer Hardware, die 2026 kommen soll. Alles, was es in dieser Richtung gab – den „Humane Pin“ und „Rabbit R1“ – wurde wie ein perfekter persönlicher Assistent verkauft. Du willst eine Reise machen? Frag den KI-Assi nach der perfekten Route und lass ihn schon alle Hotels buchen.

Meine Reaktion darauf: um Himmels willen. Ich kann doch selbst nicht mehr ohne Buchungsportale und Echtzeitkarten leben, sie erleichtern mein Reisen gewaltig. Aber warum zum Teufel sollte ich jeden Teil meines Lebens automatisieren wollen, der das Leben gerade erst lebenswert macht? Ich will meine Reise selbst planen, ich will Bücher selbst lesen, auch wenn’s länger dauert.

Ich will auch meine Podcasts vernünftig recherchieren und vorbereiten, ich will selbst sprechen. Das dauert, das kostet Mühe. Alternativ könnte ich alle paar Tage vorlesen, was ChatGPT mir zusammenträgt. Nein. Ich schreibe selbst. Dieser Text hier war viel Arbeit. Er hat Lücken, er hat Auslassungen und Zuspitzungen. Er ist wie ich – weit von perfekt. Aber jede verdammte Silbe stammt von mir.

Mir hat das Buch von Becker so gut gefallen, weil ich auch mal Technologie-Optimist war, und natürlich kann ich nicht ausschließen, dass so langsam der Altersstarrsinn bei mir einsetzt. Vorhin habe ich am Rande Steve Jobs erwähnt. Auch ein nicht unproblematischer Typ, aber ihn hat ausgezeichnet, dass er die Technologie vom Menschen aus gedacht hat. Als 1984 der erste Mac erschien, hatte er als erster Computer viele verschiedene, schöne Schriftarten. Das hat die Technik ans Limit gebracht und sie stark verteuert. Warum hat er das getan? Weil er aus einer Laune heraus in seinem Studium auch einen Kalligrafiekurs besucht hat. Den Mac bezeichnete er als ein „bicycle for the mind“ – ein Fahrrad fürs Hirn. Und er hat nie davon erzählt, das Weltall besiedeln zu wollen. Jobs ist vor fast 15 Jahren gestorben, und ich hätte sehr gern gesehen, wie er das Smartphone noch geprägt hätte, wie er mit dieser KI-Technologie umgegangen wäre. Sein Tod hat eine Lücke im Silicon Valley für einen charismatischen CEO hinterlassen. Und SAM ALTMAN soll diese Lücke füllen?

Ich bleibe Technologiefan. Aber meine Herangehensweise hat sich verändert. Mein grundlegendes Misstrauen, als vor ein paar Jahren NFTs propagiert wurden als die Zukunft der digitalen Güter, hat sich als korrekt erwiesen. Keine Sau interessiert sich mehr für NFTs. Bei den NFTs dachte ich irgendwann: Moment, diese Blockchain ist im Prinzip nur ein immer länger werdender digitaler Kassenzettel? Da muss doch mehr dahinterstecken! Tat es aber nicht. Es gab auch kein Szenario, in dem diese künstliche Verknappung von digitalen Gütern sinnvoll wäre, und das Thema hat sich erledigt. Nun habe ich dieses grundlegende Misstrauen bei der generativen KI (und beobachte, dass die Blockchain-Experten von gestern die KI-Experten von heute sind) und sehe, dass wieder einmal ein Problem gesucht wird, für das KI die Lösung sein könnte. Nur dass diesmal die Investitionen so hoch sind, dass dieses ganze Tech-Segment „too big to fail“ geworden ist. Und wenn es doch kollabiert – nun, ich habe so den Verdacht, dass die Milliardäre dann nicht zur Kasse gebeten werden ...

Es gibt gerade Gerüchte, dass OpenAI mit dem Release der fünften Version von ChatGPT das Erreichen der AGI proklamieren wird. Und proklamieren durchaus im religiös-monarchischen Sinne: hier, Gott hat den da erwählt. Ich hoffe, dass da draußen noch genug Journalismus existiert, der das nicht einfach nachplappert.

Wo werden wir in fünf Jahren stehen, 2030? Keine Ahnung. Entweder werde ich dann öffentlich vor der AGI meine Loyalität schwören müssen, um nicht ausgelöscht zu werden – oder die Altmans dieser Welt werden dann immer noch behaupten, dass die AGI ganz, ganz nah ist … und dass sie nur noch ein paar Milliarden an Investitionen brauchen.

 

Dieser Text erschien ursprünglich eingesprochen auf buchpodcast.de