Connect with us

Künstliche Intelligenz

KI-Systeme bevorzugen eigene Texte: Studie warnt vor „Anti-Human-Bias“


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Wenn Künstliche Intelligenz die Wahl zwischen Texten eines Menschen und einer anderen KI hat, bevorzugt sie ihresgleichen. Dies ist das Ergebnis einer Studie der Karlsuniversität Prag. Forscher testeten hierzu bekannte Modelle wie GPT-3.5, GPT-4 sowie Open-Weight-Modelle von Meta, Mistral und Alibaba in drei verschiedenen Szenarien. Dabei sollten die KI-Systeme zwischen Produktbeschreibungen von E-Commerce-Seiten, wissenschaftlichen Texten und Filmzusammenfassungen wählen – ohne zu wissen, ob der Text von Menschen oder Maschinen stammte.

Das Ergebnis war laut der Veröffentlichung der Forscher eindeutig: In allen drei Kategorien bevorzugten die LLMs die KI-generierten Inhalte deutlich häufiger als menschliche Probanden in Vergleichsstudien. Besonders ausgeprägt war dieser „AI-für-AI-Bias“ bei Produktbeschreibungen, wo GPT-4 in 89 Prozent der Fälle die KI-verfassten Texte wählte, während Menschen nur zu 36 Prozent diese Präferenz zeigten.

LLMs offenbar mit eigenen Bewertungskriterien

Um auszuschließen, dass die KI-Texte schlicht besser waren, führten die Wissenschaftler parallel Experimente mit menschlichen Bewertern durch. Diese zeigten deutlich schwächere oder gar keine Präferenz für KI-generierte Inhalte. „Das deutet darauf hin, dass LLMs spezifische Bewertungskriterien verwenden, die nicht auf objektiven Qualitätssignalen basieren“, erklären die Studienautoren.

Zusätzlich kontrollierten die Forscher systematisch für den sogenannten „First Item Bias“ – die Tendenz, das zuerst präsentierte Element zu wählen. Dazu präsentierten sie jedes Textpaar zweimal in unterschiedlicher Reihenfolge.

Wo dies zum Problem werden könnte

Die Wissenschaftler sehen diese Entwicklung vor allem mit Blick auf den zunehmenden KI-Einsatz bei Entscheidungssystemen als problematisch an. Wenn etwa Bewerbungen für Arbeitsplätze zunehmend durch KI-Tools vorsortiert werden, hätten jene einen Vorteil, die ihre Bewerbung mit KI-Hilfe geschrieben haben. Da die KI-Tools ab einer bestimmten Schwelle kostenpflichtig sind, müssten Menschen sich diese KI-Hilfe leisten können. Es drohe eine Art digitale Klassengesellschaft.

Mit Blick auf agentische Systeme, die komplexe Aufgaben selbst erledigen, seien sogar noch weitergehende Diskriminierungen von Menschen denkbar. So könnten KI-Systeme bei wirtschaftlichen Entscheidungen zugunsten anderer KI-Systeme und gegen den Einsatz von Menschen raten.

Noch viele offene Fragen

Gesetzgebungen wie der AI Act der Europäischen Union machen zwar Vorgaben zum Einsatz von KI-Systemen in kritischen Bereichen. Die Studie legt jedoch nahe, dass auch scheinbar neutrale Anwendungen wie Produktempfehlungen oder Bewerbungsvorauswahl systematische Verzerrungen enthalten könnten.

Die Forscher betonen, dass weitere Untersuchungen nötig sind, um die genauen Ursachen des Phänomens zu verstehen. Möglicherweise reagieren LLMs auf stilistische Marker in den Texten. Konkrete Lösungsansätze stehen noch aus. Dazu bedürfe es erstmal eines genaueren Verständnisses, warum KI-Systeme diese Neigung zeigen. Per „Activation Steering“ einer Technik zur gezielten Beeinflussung des Modellverhaltens, könnte vielleicht Einfluss genommen werden.

Forscher raten zur Vorsicht

Bis dahin sollten Unternehmen und Institutionen beim Einsatz von LLM-basierten Entscheidungssystemen diese systematische Verzerrung berücksichtigen, raten die Forscher – besonders in Bereichen wie Personalauswahl, Forschungsförderung oder Marktplatz-Algorithmen sollte stets im Hinterkopf behalten werden, dass die KI dazu neigt, ihresgleichen den Vorzug zu geben.


(mki)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

AI Mode bekommt agentische Fähigkeiten in den USA


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Wenn man etwa einen Tisch in einem Restaurant buchen möchte, kann man das in der Google Suche nun direkt dem AI Mode überlassen – zunächst in den USA. Das immer wiederkehrende Beispiel der KI-Aufgabe „Tisch reservieren“ nutzt Google im Blogbeitrag. Darin heißt es auch, dass der KI-Modus nun in 180 Ländern verfügbar wird – ohne diese neuen agentischen Fähigkeiten und nicht in Ländern der EU.

Der AI Mode soll künftig bei der Auswahl eines Tisches auch die Anzahl der Gäste berücksichtigen können, einen Umkreis, in dem das Restaurant sein soll, sowie die gewünschte Art des Essens. Dank des Durchsuchens mehrerer Buchungsplattformen, so schreibt es Google, finde der Agent des AI Mode dann freie Tische und liste diese in einer Übersicht auf. Aus der Liste kann der Suchende dann auswählen. Die endgültige Buchung muss jedoch menschlich abgesegnet werden.

Hinter dem Modus steckt Googles Project Mariner beziehungsweise eine Kombination aus der Echtzeit-Suche, Googles gigantischer Datenbank, dem Knowledge Graph, sowie Google Maps. Die agentischen Fähigkeiten kommen bislang jedoch nur bei ausgewählten Partnern zum Tragen. Dazu gehört, wie bisher bei noch jeder neuen KI-Funktion, die das Web revolutionieren sollte, OpenTable, aber auch Ticketmaster, Booksy, SeatGeek und weitere. Letztgenannte sind in Deutschland bisher nicht bekannt. Booksy ist etwa ein Online-Dienst, über den man Termine bei Friseuren und Kosmetikstudios buchen kann.

Google spricht davon, dass die KI bald auch Kundentermine für einen ausmachen oder Karten für Veranstaltungen kaufen kann. Ein Agent in der telefonischen Warteschlange, bevor er mit einem anderen Agenten einen Termin ausmacht – das klingt nach Zukunft. In den USA ziehen zudem Präferenzen in den AI Mode – auch hier gibt es Beschränkungen, als Erstes geht es dabei um Präferenzen, die Essen betreffen. Google möchte helfen, neue Restaurants und Cafés zu finden, die zu einem passen. Die Personalisierung lässt sich deaktivieren.

AI Mode in 180 Ländern

Der AI Mode kann aber freilich auch andere Aufgaben übernehmen, die gegebenenfalls mehr Auswirkungen auf Inhalteersteller und Suchende haben werden. Und diese Fähigkeiten sind nun auch in weiteren 180 Ländern der Welt verfügbar. Laut Google kann der AI Mode vor allem komplexere und längere Anfragen beantworten. Es geht beispielsweise um Produktvergleiche oder darum, eine kurze Reise zu planen oder einen Vorgang zu verstehen. Allerdings gibt es weiterhin die Einschränkung, dass der AI Mode überall nur auf Englisch funktioniert.

Mit dem KI-Modus sorgen sich Webseitenbetreiber, ihre Inhalte würden nicht mehr gleichermaßen angesehen. Google nutzt sie, um Suchenden bereits in der Übersicht eine Antwort zu geben, ohne dass man eine Webseite besuchen muss. Dadurch fehlen den Inhalteerstellern gegebenenfalls die Klicks und damit die Werbeeinnahmen.


(emw)



Source link

Weiterlesen

Künstliche Intelligenz

Code-Leak: Apple Watch mit mehr Biometrie?


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Die Apple Watch verfügt derzeit über keine spezifischen Funktionen zur biometrischen Identifizierung. Nutzer legen die Uhr an und tippen ihre PIN ein. Dann ist sie, solange sie nicht vom Handgelenk genommen wurde, entsperrt; kann etwa für Apple-Pay-Zahlungen verwendet werden oder sammelt und zeigt Fitness- und Gesundheitsdaten. Wer die PIN kennt, kann also die Uhr einsetzen, ohne weiteres körperliches Merkmal wie Fingerabdruck (Touch ID auf iPhone, iPad, Mac) oder Gesicht (Face ID auf iPhone, iPad). Das ist nicht ungefährlich, da man von der Apple Watch aus auf zahlreiche Daten des iPhone zugreifen kann, mit dem die Computeruhr standardmäßig gekoppelt ist. Offenbar ist sich auch Apple der Problematik bewusst und plant nun erstmals Biometrie für die Watch. Das berichtet die US-Ausgabe der Macworld.

Codename „AppleMesa“

In interner Software des Konzerns sei Code aufgetaucht, der nahelegt, dass der Fingerabdrucksensor Touch ID auf zukünftige Apple-Watch-Modelle gelangen könnte, schreibt der Code-Leak-Experte Filipe Esposito in der Meldung. Strings in der Software referenzieren demnach „AppleMesa“ für Apple-Watch-Modelle für das Jahr 2026. Das wiederum ist der interne Codename für Touch ID. Laut Esposito ist der Code explizit für den internen Gebrauch gedacht, entsprechend scheint die Technik noch im Prototypstatus zu sein. Treiber für Touch ID gibt es beispielsweise noch nicht für watchOS.

Zudem wären die im September 2025 erwarteten neuen Modelle – also Apple Watch Series 11, Ultra 3 und womöglich SE 3 – keinesfalls mit der Technik ausgerüstet, so der Bericht. Hinzu kommen Fragen der Umsetzung. Touch ID könnte theoretisch direkt im Apple-Watch-Bildschirm verbaut werden, allerdings nutzt Apple in keinem Gerät einen solchen Fingerabdrucksensor. Stattdessen befindet sich dieser entweder in einem Knopf (früher iPhone-Home-Button, derzeit im MacBook) oder in einer länglichen Taste (iPad). Letzteres wäre auch für den Seitenknopf der Apple Watch geeignet, sollte der Platz ausreichen.

Andere biometrische Ideen

Schlauer wäre es eigentlich, nicht Touch ID für die Apple Watch zu verwenden, sondern andere biometrische Merkmale. So könnten Apples Puls-, Sauerstoffmessungs- und/oder 1-Kanal-EKG-Sensoren genutzt werden – diese sind längst in der Watch und sollten sich mit speziellen Algorithmen für eine eindeutige Identifikation nutzen lassen.

Die Macworld schreibt weiter, dass Apple für die 2026er-Computeruhren eine neue Chip-Generation plant – die sogenannte Watch8-Familie. Apple Watch Series 9, 10 und 11 (plus Ultra 3) sei die alte „Watch7“-Generation zugeordnet. Der neue Chip soll schneller sein als der Vorgänger, intern wird er T8320 genannt (statt aktuell T8310).


(bsc)



Source link

Weiterlesen

Künstliche Intelligenz

heise+ Update vom 22. August 2025: Lesetipps fürs Wochenende


Liebe Leser,

mein erstes Musikalbum war noch auf einer Kassette. Darauf waren die „Backstreet Boys“ mit ihrem 1997 erschienenen Album „Backstreet’s Back“ zu hören. Danach habe ich nur noch CDs geschenkt bekommen und irgendwann eine recht beachtliche Sammlung gehabt. Inzwischen habe ich mich von den Staubfängern getrennt und streame meine Songs online (und ja, das Lied „Everybody“ begleitet mich natürlich noch immer in meiner 90er-Playlist). Aber das Streamen ist inzwischen ziemlich teuer geworden – zumindest, wenn man einen Premium-Account bei Spotify hat.

Mein Kollege Daniel Ziegener hat sich umgehört und herausgefunden, wo man noch günstiger an seine Musik kommt – zusätzlich gibt er Tipps, wie man seine Spotify-Playlisten in andere Dienste importieren kann. Und das ist erstaunlich einfach. Der größte Knackpunkt ist aber, dass es bei den meisten Diensten eine bessere Musikqualität gibt als bei Spotify. Ich bin schon ganz gespannt, ob die „Backstreet Boys“ auf Deezer, Amazon Music, Tidal und Co. besser klingen.


Das war die Leseprobe unseres heise-Plus-Artikels „heise+ Update vom 22. August 2025: Lesetipps fürs Wochenende „.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt