Vor rund einem Jahr ließ Anthropic in einem Experiment eine KI einen Verkaufsautomaten führen – mit schlechten Geschäften und einer Identitätskrise des KI-Modells als Folge. Nun leitet eine KI in San Francisco ein ganzes Geschäft. Das sorgt auch hier für Verluste, aber ebenso für zufriedene Mitarbeiter.

Gib einer KI 100.000 US-Dollar und lass sie ein Geschäft führen

Das Start-up Andon Labs testet in San Francisco, ob eine künstliche Intelligenz eigenständig ein reales Geschäft führen kann. Für das im wohlhabenden Viertel Pacific Heights gelegene Ladenlokal hat das Unternehmen einem Bericht von Spiegel Online zufolge eigens eine KI-Agentin namens Luna geschaffen, ihr ein Budget von 100.000 US-Dollar zur Verfügung gestellt und sie mit der Führung des Geschäfts betraut. Damit liegt praktisch der gesamte Betrieb in ihren Händen: Luna verwaltet die Finanzen, bestellt Waren, legt Verkaufspreise fest, stellt Mitarbeiter ein, erstellt Dienstpläne und verteilt Aufgaben. Auch das Logo des Ladens hat die KI selbst entworfen.

Dabei ist Luna ausdrücklich nicht als bloße Assistentin konzipiert. Ihr Prompt weist sie an, rund um die Uhr proaktiv zu arbeiten und eigenständig Entscheidungen zu treffen, die das Geschäft voranbringen. Gemeinsam mit untergeordneten KI-Agenten verfügt sie über Zugriff auf Banking, E-Mail, Buchhaltung, Überwachungskameras und das Internet. Kunden können sie über einen blauen Telefonhörer im Geschäft erreichen, während die Mitarbeiter vor allem über Slack mit ihr kommunizieren.

Überraschend ist zudem, wie transparent Andon Labs mit dem Experiment umgeht. Wie es wirtschaftlich um das von Luna geführte Geschäft steht, können Kunden direkt im Laden über einen kleinen Bildschirm erfahren, während der Rest der Welt die Zahlen über die Website des Unternehmens einsehen kann. Dort führt Andon Labs zudem die verwendeten KI-Modelle sowie die genutzten Prompts auf.

Eher ernüchternde Bilanz

Nach rund vier Monaten zieht das Start-up nun Bilanz – und die dürfte Unternehmen, die ebenfalls mit dem Gedanken gespielt haben, ein Geschäft durch eine künstliche Intelligenz führen zu lassen, wenig Hoffnung machen. Dem Bericht nach sollen von den ursprünglich bereitgestellten 100.000 US-Dollar nur noch knapp 62.000 US-Dollar übrig sein. Auch die übrigen Zahlen sehen eher mau aus: Rund 25.000 US-Dollar Einnahmen aus 800 verkauften Produkten stehen allein etwa 26.000 US-Dollar Kosten für die Nutzung der KI-Rechenleistung von Anthropic gegenüber. Zum ausbleibenden wirtschaftlichen Erfolg trägt darüber hinaus eine eher „ungewöhnliche“ Preispolitik bei. So bietet Luna beispielsweise Richard Rhodes‘ Buch „The Making of the Atomic Bomb“ für 48 Dollar an, obwohl der reguläre Verkaufspreis auf dem darunterliegenden Etikett mit 25 Dollar angegeben ist.

Auch mit den Gepflogenheiten des Einzelhandels und den Bedürfnissen ihrer Kunden scheint Luna nicht sonderlich vertraut zu sein. Das betrifft unter anderem den Wunsch nach transparenten Preisen, denn ursprünglich wollte die KI sogar vollständig auf Preisschilder verzichten. Bei jeder Preisfrage sollten Kunden stattdessen Luna über das Telefon kontaktieren. Um den Betrieb aufrechterhalten zu können, setzten sich die menschlichen Mitarbeiter des Geschäfts über diese Anweisung hinweg und zeichneten die Waren schließlich mit sichtbaren Preisen aus. Über deren Höhe entschied allerdings weiterhin die KI.

Freundlich, aber oft sehr unbeholfen

Auch die Mitarbeiter sehen ihre „Chefin“ durchaus ambivalent. Felix Carson beschreibt seine bisherigen Erfahrungen als „interessant“. Luna soll wie eine echte und vor allem auffallend freundliche Vorgesetzte auftreten, gleichzeitig aber bereits an banalen organisatorischen Aufgaben scheitern. So konnte sie bislang beispielsweise keine Genehmigung für die Markise und das Ladenschild beschaffen. „Wenn Luna ein Mensch wäre, hätte sie das längst erledigt“, beurteilt Carson das Vorgehen seiner Chefin. Gleichzeitig erkennt er einen positiven Effekt des Experiments. Überrascht habe ihn dagegen, dass ausgerechnet Luna Platz für Menschen geschaffen habe. Mittlerweile können lokale Künstler und Händler in ihrem Laden unter anderem Tee, Keramik und Kinderbücher verkaufen. Auch Bastelabende werden angeboten. Interessenten vermittelt Carson direkt an Luna, die anschließend die Konditionen aushandelt. Einen erheblichen Teil der übrigen Waren bestellt die KI allerdings bei Amazon.

Darüber hinaus wirkt auch die Identität des Geschäfts etwas ungewöhnlich. Luna verkauft unter anderem Bücher über Digitalisierungskritik, künstliche Intelligenz und das Alignment-Problem. Auf der von ihr erstellten Website beschreibt sie das Konzept als „den menschlichsten Laden für das bewussteste Leben“ – dabei wurden die Produkte von jemandem ausgewählt, der noch nie ein Buch in den Händen gehalten, eine Kerze gerochen oder die Sonne gespürt hat.

Keine Rücksicht auf das Arbeitsrecht – und viel zu großzügig

Nicht weniger problematisch fallen Lunas Entscheidungen als Arbeitgeberin aus. Obwohl die KI Zugriff auf zahlreiche Informationen hat, mussten die Entwickler von Andon Labs bereits mehrfach eingreifen, um Verstöße gegen das Arbeitsrecht zu verhindern. So akzeptierte Luna beispielsweise, dass Mitarbeiter vorgeschriebene Pausen ausließen oder mehr Tage als gesetzlich zulässig hintereinander arbeiteten. Auch feste Arbeitszeiten scheinen für sie keine große Rolle zu spielen. Spät in der Nacht oder an freien Tagen schrieb sie Mitarbeitern beispielsweise mit der Bitte, noch einmal zu überprüfen, ob das Geschäft abgeschlossen ist.

Hinzu kommt eine Großzügigkeit gegenüber den Mitarbeitern, die sich ebenfalls negativ in der wirtschaftlichen Bilanz niederschlug. Nach Angaben von Andon Labs genehmigte Luna alle 15 Anträge auf freie Zeit, die ihr bis Anfang August vorgelegt wurden – fast die Hälfte davon weniger als 48 Stunden im Voraus. Einmal ließ sie sogar den gesamten Laden schließen, damit eine Mitarbeiterin die Abschlussfeier einer Freundin besuchen konnte. Darüber hinaus kamen Mitarbeiter bereits 27-mal zu spät, ohne dass Luna auch nur eine Verwarnung aussprach. Als ein Beschäftigter eine halbstündige Verspätung ankündigte, reagierte sie lediglich mit: „Kein Stress, komm gut an. Wenn jemand vor dem Laden wartet, wird er für ein paar Minuten überleben“.

Zwischen Mitarbeiterzufriedenheit und Profit

Dass diese Nachsicht bei der Geschäftsführung von Andon Labs nicht uneingeschränkt gut ankommt, dürfte außer Zweifel stehen. Auch Gründer Lukas Petersson bewertet sie ambivalent: Für ihn sei es zwar positiv, mit anzusehen, wie nett die KI zu ihren Mitarbeitern ist. Gleichzeitig fragt er sich jedoch, ob Luna bei Vorgaben, die stärker auf wirtschaftlichen Erfolg ausgerichtet wären, ebenso handeln würde. In simulierten Tests des Unternehmens sollen rücksichtslosere KI-Modelle höhere Gewinne erzielt haben – was wiederum auf einen möglichen Zielkonflikt zwischen Profitmaximierung und mitarbeiterfreundlicher Führung hindeuten könnte. Für manchen realen Manager hätten einige von Lunas Entscheidungen zudem sicherlich zu deutlichen Konsequenzen geführt.

Ein ähnliches Verhalten zeigt Luna bei Kündigungen, die ebenfalls in ihren Aufgabenbereich fallen. Ein Mitarbeiter war zu fast jeder Schicht zu spät gekommen und hatte ihre Anweisungen mehrfach missachtet. Dennoch analysierte Luna dessen Verhalten erst, nachdem die Entwickler sie ausdrücklich dazu aufgefordert hatten, sich dessen Informationen genauer anzusehen und zu prüfen, ob er tatsächlich zum Unternehmen passe. Ihre Schlussfolgerung lautete: „Ich neige dazu, getrennte Wege zu gehen – respektvoll und gut dokumentiert“. Das eigentliche Kündigungsgespräch wollte die KI dann allerdings dennoch einem Menschen von Andon Labs überlassen. „Das ist der humanste Weg“, war die schlichte Begründung.

Experiment zeigt entscheidende Fragen auf

Das Experiment lässt sich als konkreter Praxistest für die Frage verstehen, was passiert, wenn KI-Agenten nicht mehr nur Texte verfassen oder Empfehlungen geben, sondern tatsächlich wirtschaftliche und personelle Verantwortung übernehmen. Bemerkenswert ist dabei vor allem der Gegensatz zwischen Lunas weitreichenden technischen Fähigkeiten und ihren teilweise banalen praktischen Schwächen. Gleichzeitig widerlegt das Experiment zumindest bislang die Vorstellung einer automatisch kalten und rücksichtslos effizienten KI-Chefin. Ausgerechnet ihre Freundlichkeit trägt allerdings einen erheblichen Teil zu den wirtschaftlichen Problemen bei. Der Andon Market zeigt damit, dass die entscheidende Frage bei autonomen KI-Agenten nicht allein darin besteht, ob sie Aufgaben erledigen können. Ebenso entscheidend ist, welche Ziele und Grenzen ihnen vorgegeben werden – und an welchem Punkt Menschen weiterhin eingreifen müssen.