Wenn Künstliche Intelligenz die Wahl zwischen Texten eines Menschen und einer anderen KI hat, bevorzugt sie ihresgleichen. Dies ist das Ergebnis einer Studie der Karlsuniversität Prag. Forscher testeten hierzu bekannte Modelle wie GPT-3.5, GPT-4 sowie Open-Weight-Modelle von Meta, Mistral und Alibaba in drei verschiedenen Szenarien. Dabei sollten die KI-Systeme zwischen Produktbeschreibungen von E-Commerce-Seiten, wissenschaftlichen Texten und Filmzusammenfassungen wählen – ohne zu wissen, ob der Text von Menschen oder Maschinen stammte.

Das Ergebnis war laut der Veröffentlichung der Forscher eindeutig: In allen drei Kategorien bevorzugten die LLMs die KI-generierten Inhalte deutlich häufiger als menschliche Probanden in Vergleichsstudien. Besonders ausgeprägt war dieser „AI-für-AI-Bias“ bei Produktbeschreibungen, wo GPT-4 in 89 Prozent der Fälle die KI-verfassten Texte wählte, während Menschen nur zu 36 Prozent diese Präferenz zeigten.

LLMs offenbar mit eigenen Bewertungskriterien

Um auszuschließen, dass die KI-Texte schlicht besser waren, führten die Wissenschaftler parallel Experimente mit menschlichen Bewertern durch. Diese zeigten deutlich schwächere oder gar keine Präferenz für KI-generierte Inhalte. „Das deutet darauf hin, dass LLMs spezifische Bewertungskriterien verwenden, die nicht auf objektiven Qualitätssignalen basieren“, erklären die Studienautoren.

Zusätzlich kontrollierten die Forscher systematisch für den sogenannten „First Item Bias“ – die Tendenz, das zuerst präsentierte Element zu wählen. Dazu präsentierten sie jedes Textpaar zweimal in unterschiedlicher Reihenfolge.

Wo dies zum Problem werden könnte

Die Wissenschaftler sehen diese Entwicklung vor allem mit Blick auf den zunehmenden KI-Einsatz bei Entscheidungssystemen als problematisch an. Wenn etwa Bewerbungen für Arbeitsplätze zunehmend durch KI-Tools vorsortiert werden, hätten jene einen Vorteil, die ihre Bewerbung mit KI-Hilfe geschrieben haben. Da die KI-Tools ab einer bestimmten Schwelle kostenpflichtig sind, müssten Menschen sich diese KI-Hilfe leisten können. Es drohe eine Art digitale Klassengesellschaft.

Mit Blick auf agentische Systeme, die komplexe Aufgaben selbst erledigen, seien sogar noch weitergehende Diskriminierungen von Menschen denkbar. So könnten KI-Systeme bei wirtschaftlichen Entscheidungen zugunsten anderer KI-Systeme und gegen den Einsatz von Menschen raten.

Noch viele offene Fragen

Gesetzgebungen wie der AI Act der Europäischen Union machen zwar Vorgaben zum Einsatz von KI-Systemen in kritischen Bereichen. Die Studie legt jedoch nahe, dass auch scheinbar neutrale Anwendungen wie Produktempfehlungen oder Bewerbungsvorauswahl systematische Verzerrungen enthalten könnten.

Die Forscher betonen, dass weitere Untersuchungen nötig sind, um die genauen Ursachen des Phänomens zu verstehen. Möglicherweise reagieren LLMs auf stilistische Marker in den Texten. Konkrete Lösungsansätze stehen noch aus. Dazu bedürfe es erstmal eines genaueren Verständnisses, warum KI-Systeme diese Neigung zeigen. Per „Activation Steering“ einer Technik zur gezielten Beeinflussung des Modellverhaltens, könnte vielleicht Einfluss genommen werden.

Forscher raten zur Vorsicht

Bis dahin sollten Unternehmen und Institutionen beim Einsatz von LLM-basierten Entscheidungssystemen diese systematische Verzerrung berücksichtigen, raten die Forscher – besonders in Bereichen wie Personalauswahl, Forschungsförderung oder Marktplatz-Algorithmen sollte stets im Hinterkopf behalten werden, dass die KI dazu neigt, ihresgleichen den Vorzug zu geben.

(mki)

Thailand startet ein Pilotprojekt, das es ausländischen Urlaubern ermöglichen soll, Kryptowährungen in thailändische Baht umzutauschen. Damit sollen die Ausgaben der Touristen um schätzungsweise zehn Prozent erhöht werden, schreibt die in Bangkok erscheinende englischsprachige Tageszeitung The Nation. Das Blatt betont, dass es sich bei dem „TouristDigiPay“ genannten Projekt um eine Umtauschmöglichkeit und nicht um eine direkte Krypto-Zahlungsmethode handelt.

Das von Thailands stellvertretendem Premierminister und Finanzminister Pichai Chunhavajira offiziell vorgestellte Programm soll dem strauchelnden Tourismus neue Einnahmemöglichkeiten erschließen, indem es den Besuchern ermöglicht, ihre digitalen Guthaben problemlos in die Landeswährung umzutauschen. „Wir akzeptieren keine Kryptowährungen, sondern erleichtern lediglich den Umtausch in Baht“, erklärte Pichai. „Das macht unser Projekt einzigartig und wahrscheinlich das erste seiner Art in der Welt.“

Touristen sollen demnach ihre Kryptoguthaben über regulierte Betreiber in Baht umtauschen, die dann in eine elektronische Geldbörse geladen werden, die von der Bank of Thailand überwacht wird. Mit dem digitalen Wallet kann in Geschäften und Restaurants im ganzen Land bezahlt werden, in der Regel über einen QR-Code. Die Händler erhalten die Zahlung in Baht. Das Programm ist zunächst versuchsweise auf 18 Monate angelegt. Es soll im vierten Quartal dieses Jahres beginnen.

Initiative zur Belebung des Tourismus

Der Verstoß erfolgt zu einer Zeit, da Thailands Tourismussektor mit schrumpfenden Besucherzahlen zu kämpfen hat. Für das laufende Jahr rechnet Thailands Regierung mit 33 Millionen ausländischen Touristen. Im Jahr 2019 vor der Covid-19-Pandemie verzeichnete das südostasiatische Land noch fast 40 Millionen Touristen.

„Dieses Projekt wird den Tourismus unterstützen“, erklärte Minister Pichai und fügte hinzu, dass es in der Anfangsphase auch dazu beitragen könnte, die Ausgaben der Touristen zu erhöhen.

Laut der Nachrichtenagentur Reuters wird der Umtausch zunächst auf 550.000 Baht (rund 14.500 Euro) begrenzt, um das System zu testen und Geldwäsche zu verhindern. Das Limit könnte nach Ablauf der Testphase neu bewertet werden, erklärte ein Vertreter des thailändischen Finanzministeriums.

(akn)

Der taiwanesische Auftragsfertiger Foxconn wird zusammen mit dem japanischen Softbank-Konzern in einer ehemaligen Elektrofahrzeugfabrik im US-Bundesstaat Ohio Rechenzentrumsausrüstungen herstellen. Nach Angaben der US-Nachrichtenagentur Bloomberg wird die von Sotfbank erworbene US-Fabrik damit zum ersten Produktionsstandort des milliardenschweren Joint Ventures „Stargate Project“. In dessen Rahmen wollen ChatGPT-Entwickler OpenAI und Partner wie Oracle und Softbank in den kommenden Jahren 500 Milliarden US-Dollar in neue Rechenzentren für Künstliche Intelligenz (KI) stecken.

Bereits Anfang August hatte Bloomberg berichtet, dass Softbank das Autowerk in Lordstown, Ohio, von Foxconn gekauft hat. Wie Foxconn-Chef Young Liu nun mitteilte, wird sein Unternehmen das Werk weiterbetreiben – künftig als Produktionsstätte für KI-Server. Softbank wird für die Gemeinschaftsunternehmung die Fabrik mit Produktionsausrüstung beliefern.

Laut Liu haben Softbank und Foxconn vor mehr als einem halben Jahr mit den Vorbereitungen für das gemeinsame Projekt begonnen. „Wir sind uns bewusst, dass bei diesem Projekt Energie, Standort und Zeitplan oberste Priorität haben – es darf nicht zu lange aufgeschoben werden. Unter Berücksichtigung all dieser Faktoren glauben wir, dass Ohio ein sehr geeigneter Standort ist, und Softbank teilt diese Ansicht“, zitiert ihn die Nachrichtenagentur Reuters.

Stargate-Projekt mit Anlaufschwierigkeiten

Bei der Vorstellung des Stargate-Projekts im Januar kündigte US-Präsident Donald Trump Anfangsinvestitionen in Höhe von 100 Milliarden US-Dollar und die Schaffung von 100.000 neuen Jobs in den USA an. Tech-Milliardär Elon Musk schürte dagegen Zweifel an dem riesigen KI-Projekt. Das Projekt, in das Firmen 500 Milliarden US-Dollar für KI-Infrastruktur investieren wollen, sei unterfinanziert, behauptete er.

Tatsächlich läuft das Projekt nur langsam an. Über ein halbes Jahr lang gab es kaum nennenswerten Fortschritt. Gründe dürften wirtschaftliche Unwägbarkeiten aufgrund von Trumps Zollpolitik und das Aufkommen kostengünstigerer KI-Alternativen wie DeepSeek sein, die die Projektfinanzierung erschwert hätten, so Bloomberg. Zuletzt gab es zudem Meldungen, wonach Oracle und OpenAI riesige Supercomputer zum Training von KI-Algorithmen aufbauen – ohne Softbank.

(akn)