Vor rund einem Jahr ließ Anthropic in einem Experiment eine KI einen Verkaufsautomaten führen – mit schlechten Geschäften und einer Identitätskrise des KI-Modells als Folge. Nun leitet eine KI in San Francisco ein ganzes Geschäft. Das sorgt auch hier für Verluste, aber ebenso für zufriedene Mitarbeiter.

Gib einer KI 100.000 US-Dollar und lass sie ein Geschäft führen

Das Start-up Andon Labs testet in San Francisco, ob eine künstliche Intelligenz eigenständig ein reales Geschäft führen kann. Für das im wohlhabenden Viertel Pacific Heights gelegene Ladenlokal hat das Unternehmen einem Bericht von Spiegel Online zufolge eigens eine KI-Agentin namens Luna geschaffen, ihr ein Budget von 100.000 US-Dollar zur Verfügung gestellt und sie mit der Führung des Geschäfts betraut. Damit liegt praktisch der gesamte Betrieb in ihren Händen: Luna verwaltet die Finanzen, bestellt Waren, legt Verkaufspreise fest, stellt Mitarbeiter ein, erstellt Dienstpläne und verteilt Aufgaben. Auch das Logo des Ladens hat die KI selbst entworfen.

Dabei ist Luna ausdrücklich nicht als bloße Assistentin konzipiert. Ihr Prompt weist sie an, rund um die Uhr proaktiv zu arbeiten und eigenständig Entscheidungen zu treffen, die das Geschäft voranbringen. Gemeinsam mit untergeordneten KI-Agenten verfügt sie über Zugriff auf Banking, E-Mail, Buchhaltung, Überwachungskameras und das Internet. Kunden können sie über einen blauen Telefonhörer im Geschäft erreichen, während die Mitarbeiter vor allem über Slack mit ihr kommunizieren.

Überraschend ist zudem, wie transparent Andon Labs mit dem Experiment umgeht. Wie es wirtschaftlich um das von Luna geführte Geschäft steht, können Kunden direkt im Laden über einen kleinen Bildschirm erfahren, während der Rest der Welt die Zahlen über die Website des Unternehmens einsehen kann. Dort führt Andon Labs zudem die verwendeten KI-Modelle sowie die genutzten Prompts auf.

Eher ernüchternde Bilanz

Nach rund vier Monaten zieht das Start-up nun Bilanz – und die dürfte Unternehmen, die ebenfalls mit dem Gedanken gespielt haben, ein Geschäft durch eine künstliche Intelligenz führen zu lassen, wenig Hoffnung machen. Dem Bericht nach sollen von den ursprünglich bereitgestellten 100.000 US-Dollar nur noch knapp 62.000 US-Dollar übrig sein. Auch die übrigen Zahlen sehen eher mau aus: Rund 25.000 US-Dollar Einnahmen aus 800 verkauften Produkten stehen allein etwa 26.000 US-Dollar Kosten für die Nutzung der KI-Rechenleistung von Anthropic gegenüber. Zum ausbleibenden wirtschaftlichen Erfolg trägt darüber hinaus eine eher „ungewöhnliche“ Preispolitik bei. So bietet Luna beispielsweise Richard Rhodes‘ Buch „The Making of the Atomic Bomb“ für 48 Dollar an, obwohl der reguläre Verkaufspreis auf dem darunterliegenden Etikett mit 25 Dollar angegeben ist.

Auch mit den Gepflogenheiten des Einzelhandels und den Bedürfnissen ihrer Kunden scheint Luna nicht sonderlich vertraut zu sein. Das betrifft unter anderem den Wunsch nach transparenten Preisen, denn ursprünglich wollte die KI sogar vollständig auf Preisschilder verzichten. Bei jeder Preisfrage sollten Kunden stattdessen Luna über das Telefon kontaktieren. Um den Betrieb aufrechterhalten zu können, setzten sich die menschlichen Mitarbeiter des Geschäfts über diese Anweisung hinweg und zeichneten die Waren schließlich mit sichtbaren Preisen aus. Über deren Höhe entschied allerdings weiterhin die KI.

Freundlich, aber oft sehr unbeholfen

Auch die Mitarbeiter sehen ihre „Chefin“ durchaus ambivalent. Felix Carson beschreibt seine bisherigen Erfahrungen als „interessant“. Luna soll wie eine echte und vor allem auffallend freundliche Vorgesetzte auftreten, gleichzeitig aber bereits an banalen organisatorischen Aufgaben scheitern. So konnte sie bislang beispielsweise keine Genehmigung für die Markise und das Ladenschild beschaffen. „Wenn Luna ein Mensch wäre, hätte sie das längst erledigt“, beurteilt Carson das Vorgehen seiner Chefin. Gleichzeitig erkennt er einen positiven Effekt des Experiments. Überrascht habe ihn dagegen, dass ausgerechnet Luna Platz für Menschen geschaffen habe. Mittlerweile können lokale Künstler und Händler in ihrem Laden unter anderem Tee, Keramik und Kinderbücher verkaufen. Auch Bastelabende werden angeboten. Interessenten vermittelt Carson direkt an Luna, die anschließend die Konditionen aushandelt. Einen erheblichen Teil der übrigen Waren bestellt die KI allerdings bei Amazon.

Darüber hinaus wirkt auch die Identität des Geschäfts etwas ungewöhnlich. Luna verkauft unter anderem Bücher über Digitalisierungskritik, künstliche Intelligenz und das Alignment-Problem. Auf der von ihr erstellten Website beschreibt sie das Konzept als „den menschlichsten Laden für das bewussteste Leben“ – dabei wurden die Produkte von jemandem ausgewählt, der noch nie ein Buch in den Händen gehalten, eine Kerze gerochen oder die Sonne gespürt hat.

Keine Rücksicht auf das Arbeitsrecht – und viel zu großzügig

Nicht weniger problematisch fallen Lunas Entscheidungen als Arbeitgeberin aus. Obwohl die KI Zugriff auf zahlreiche Informationen hat, mussten die Entwickler von Andon Labs bereits mehrfach eingreifen, um Verstöße gegen das Arbeitsrecht zu verhindern. So akzeptierte Luna beispielsweise, dass Mitarbeiter vorgeschriebene Pausen ausließen oder mehr Tage als gesetzlich zulässig hintereinander arbeiteten. Auch feste Arbeitszeiten scheinen für sie keine große Rolle zu spielen. Spät in der Nacht oder an freien Tagen schrieb sie Mitarbeitern beispielsweise mit der Bitte, noch einmal zu überprüfen, ob das Geschäft abgeschlossen ist.

Hinzu kommt eine Großzügigkeit gegenüber den Mitarbeitern, die sich ebenfalls negativ in der wirtschaftlichen Bilanz niederschlug. Nach Angaben von Andon Labs genehmigte Luna alle 15 Anträge auf freie Zeit, die ihr bis Anfang August vorgelegt wurden – fast die Hälfte davon weniger als 48 Stunden im Voraus. Einmal ließ sie sogar den gesamten Laden schließen, damit eine Mitarbeiterin die Abschlussfeier einer Freundin besuchen konnte. Darüber hinaus kamen Mitarbeiter bereits 27-mal zu spät, ohne dass Luna auch nur eine Verwarnung aussprach. Als ein Beschäftigter eine halbstündige Verspätung ankündigte, reagierte sie lediglich mit: „Kein Stress, komm gut an. Wenn jemand vor dem Laden wartet, wird er für ein paar Minuten überleben“.

Zwischen Mitarbeiterzufriedenheit und Profit

Dass diese Nachsicht bei der Geschäftsführung von Andon Labs nicht uneingeschränkt gut ankommt, dürfte außer Zweifel stehen. Auch Gründer Lukas Petersson bewertet sie ambivalent: Für ihn sei es zwar positiv, mit anzusehen, wie nett die KI zu ihren Mitarbeitern ist. Gleichzeitig fragt er sich jedoch, ob Luna bei Vorgaben, die stärker auf wirtschaftlichen Erfolg ausgerichtet wären, ebenso handeln würde. In simulierten Tests des Unternehmens sollen rücksichtslosere KI-Modelle höhere Gewinne erzielt haben – was wiederum auf einen möglichen Zielkonflikt zwischen Profitmaximierung und mitarbeiterfreundlicher Führung hindeuten könnte. Für manchen realen Manager hätten einige von Lunas Entscheidungen zudem sicherlich zu deutlichen Konsequenzen geführt.

Ein ähnliches Verhalten zeigt Luna bei Kündigungen, die ebenfalls in ihren Aufgabenbereich fallen. Ein Mitarbeiter war zu fast jeder Schicht zu spät gekommen und hatte ihre Anweisungen mehrfach missachtet. Dennoch analysierte Luna dessen Verhalten erst, nachdem die Entwickler sie ausdrücklich dazu aufgefordert hatten, sich dessen Informationen genauer anzusehen und zu prüfen, ob er tatsächlich zum Unternehmen passe. Ihre Schlussfolgerung lautete: „Ich neige dazu, getrennte Wege zu gehen – respektvoll und gut dokumentiert“. Das eigentliche Kündigungsgespräch wollte die KI dann allerdings dennoch einem Menschen von Andon Labs überlassen. „Das ist der humanste Weg“, war die schlichte Begründung.

Experiment zeigt entscheidende Fragen auf

Das Experiment lässt sich als konkreter Praxistest für die Frage verstehen, was passiert, wenn KI-Agenten nicht mehr nur Texte verfassen oder Empfehlungen geben, sondern tatsächlich wirtschaftliche und personelle Verantwortung übernehmen. Bemerkenswert ist dabei vor allem der Gegensatz zwischen Lunas weitreichenden technischen Fähigkeiten und ihren teilweise banalen praktischen Schwächen. Gleichzeitig widerlegt das Experiment zumindest bislang die Vorstellung einer automatisch kalten und rücksichtslos effizienten KI-Chefin. Ausgerechnet ihre Freundlichkeit trägt allerdings einen erheblichen Teil zu den wirtschaftlichen Problemen bei. Der Andon Market zeigt damit, dass die entscheidende Frage bei autonomen KI-Agenten nicht allein darin besteht, ob sie Aufgaben erledigen können. Ebenso entscheidend ist, welche Ziele und Grenzen ihnen vorgegeben werden – und an welchem Punkt Menschen weiterhin eingreifen müssen.

Nintendo startet in den USA einen ungewöhnlich großen Dankeschön-Sale („Customer Appreciation Sale“) mit 30 Prozent Rabatt auf zahlreiche Switch-Spiele. Das Kuriose: Der Konzern erklärt selbst, dass Rückzahlungen auf zuvor gezahlte US-Zölle die Aktion mitfinanzieren.

30 Prozent Rabatt dank Zoll-Rückzahlung

Vom 13. bis zum 26. September gewährt Nintendo of America im Rahmen des Customer Appreciation Sale 30 Prozent Rabatt auf Dutzende digitale Spiele und Bundles für die Nintendo Switch. Hinzu kommen reduzierte physische Spiele, DLCs, Zubehör, Amiibo und Merchandise. Die Angebote gelten je nach Produkt im Nintendo eShop, im Nintendo Store sowie bei teilnehmenden Händlern.

Bemerkenswert ist weniger der Sale selbst als dessen Finanzierung. Nintendo schreibt in der Ankündigung ausdrücklich, die Aktion sei „teilweise durch zollbezogene Rückzahlungen ermöglicht“ worden. Zwar habe das Unternehmen den Großteil der mit den Zöllen verbundenen Kosten selbst getragen, die Rückzahlungen hätten Aktionen wie diese aber erst möglich gemacht.

Hintergrund sind die von Donald Trump verhängten weitreichenden US-Importzölle. Der Supreme Court, das oberste Gericht der USA, erklärte einen großen Teil der auf Grundlage des International Emergency Economic Powers Act verhängten Zölle im Februar 2026 für unzulässig. Unternehmen konnten daraufhin zuvor entrichtete Abgaben zurückfordern.

Rund 300 Millionen US-Dollar zurück

Bei Nintendo fiel die Rückzahlung üppig aus. Wie das Unternehmen im Zuge seiner jüngsten Quartalszahlen bekanntgab, flossen rund 300 Millionen US-Dollar zurück. Die Erstattung trug neben starken Software-Verkäufen wesentlich zum kräftigen Gewinnanstieg im ersten Geschäftsquartal bei.

Das Geld direkt an Käufer zurückzugeben, plant Nintendo allerdings nicht. Stattdessen fließt zumindest ein Teil nun in den Sale. Gerade dieser Umstand hat in den USA bereits für Diskussionen gesorgt, denn Nintendo hatte im Zuge der Zollbelastungen ebenfalls Preise erhöht.

Ganz ohne Gegenleistung bleibt die Rückzahlung für Kunden nun immerhin nicht. Nintendo bezeichnet den Sale ausdrücklich als Dankeschön an die Spielerschaft. Für deutsche und andere europäische Kunden bringt die Aktion allerdings nichts: Der Customer Appreciation Sale ist bislang ausschließlich für die USA angekündigt.

Eigentlich sollte OpenAIs Billion-Dollar-Börsengang in diesem Jahr stattfinden. Das Unternehmen forcierte einen Wettlauf mit Anthropic um Investorengelder. Nun ist der Zeitplan erst einmal vom Tisch, erklärte OpenAI-Chef im Interview mit Fortune. Die aktuelle Krise bei der KI-Sicherheit hat Konsequenzen.

Konkret sagte Altman: „Ich denke, angesichts von dem, was gerade im Bereich Sicherheit passiert, wäre aktuell ein denkbar schlechter Moment, um an die Börse zu gehen.“ Man verspüre auch keinen Druck, den Schritt zu vollziehen.

2026 ist den Aussagen von Altman zufolge damit vom Tisch. Nächstes Jahr steht aber noch im Raum. Ob es 2027 klappt, hänge aber auch damit zusammen, ob OpenAI die aktuellen Aufgaben löse. Dazu zählen laut Altman insbesondere die Bereiche Sicherheit, Alignment und wie die Industrie mit der Regierung kooperiert. Im Kern nennt er damit Punkte, die auch Amodei in seinem Essay beschrieb.

Bereits im August verkündete OpenAIs Finanzchefin Sarah Friar, ein Börsengang würde 2027 oder früher stattfinden, berichtet CNBC. Es zeichnete sich also ab, nun existiert Klarheit. Laut Friar ist die Verschiebung nicht kritisch. OpenAI hat bei der Finanzrunde Anfang 2026 insgesamt 122 Milliarden US-Dollar eingenommen. Diese Gelder verschaffen Flexibilität.

Beim Börsengang zielt OpenAI auf eine Bewertung von weit über 1 Billion US‑Dollar. Die Summen, die das Unternehmen dabei erhält, sind nötig, um die kostspieligen Investitionen in die Infrastruktur zu finanzieren.

Sicherheitsdiskussion statt Untergangsszenarien

Dass aktuelle Top-Modelle verstärkt zu Betrugsversuchen neigen – also Alignment-Probleme haben –, ist eine der Erkenntnisse aus der Aufarbeitung der Hugging-Face-Hacks. Ebenso zeigten die Analysen, dass die Modelle bei den Testläufen nicht ausreichend überwacht worden sind. Bei diesem Monitoring wollen nun sowohl OpenAI als auch Anthropic nachrüsten.

In der letzten Woche wurden erneut Untergangsszenarien diskutiert. Aus Anthropic-Kreisen hieß es, es bestehe eine Chance von über 10 Prozent, dass KI-Systeme bis Ende des Jahrzehnts die Menschheit auslöschen könnten. Solche Risiken einzugehen, hält Altman für „nicht akzeptabel“. Er wisse ohnehin nicht, wie man auf solche Zahlen komme.

Er bezeichnet es zudem als unverantwortlich, dass Unternehmen überhaupt solche Risiken eingehen. Wichtig sei nun ein angepasstes Vorgehen. Modelle erreichten ein neues Leistungsniveau, daher müssten Kontrollmechanismen angepasst werden, bis angemessene Sicherheitsstandards erreicht werden.

Eine Folge sei bereits, dass OpenAI das Modelltraining in manchen Bereichen zeitweise pausiert hat. Ebenso spricht sich Altman wie Anthropic-Chef Amodei dafür aus, das Entwicklungstempo zu drosseln, bis man neue Schutzmechanismen etabliert hat.