Künstliche Intelligenz
KI mit Schuldgefühlen kooperativer machen?
Schuld und Scham erweisen sich in Gesellschaften als wirksames Mittel, um dafür zu sorgen, dass Individuen Teamplayer bleiben. Diese emotionalen Fähigkeiten lassen Menschen Handlungen bereuen und machen sie kooperativer. In einer im Journal of the Royal Society Interface veröffentlichten Studie haben Forschende jetzt getestet, ob sich derselbe Ansatz auch auf Künstliche Intelligenz (KI) übertragen ließe. Dabei haben sie festgestellt, dass dies unter den richtigen Umständen möglich sein könnte.
Die kooperative KI?
KI wird zunehmend leistungsfähiger – gleichzeitig ist deren Verwendung aus dem Leben vieler Menschen nicht mehr wegzudenken. Eine Kernherausforderung liegt dabei darin, KI-Systeme dazu zu bringen, sich gemäß menschlicher Präferenzen und ethischer Normen zu verhalten. Dass sich auch Menschen untereinander nicht unbedingt einig über diese Dinge sind, macht es nicht leichter.
Es gibt bereits erste Forschungsgruppen, die sich der Maschinen-Psychologie widmen und die Fähigkeiten und das Verhalten von Algorithmen untersuchen. Jetzt deuten neue Ergebnisse aus der Spieltheorie darauf hin, dass Modelle kooperativer werden, wenn man ihnen Schuldgefühle vermittelt.
Gefangenendilemma mit Software-Agenten
Die Tests wurden mit einfachen Software-Agenten (ohne KI) durchgeführt, die eine Version eines klassischen spieltheoretischen Tests namens „Gefangenendilemma“ spielen mussten: ein Szenario, in dem Zusammenarbeit für alle Beteiligten den größten Vorteil bringt, während individuelles „Verraten“ kurzfristig lohnender erscheint.
In jeder Runde müssen die Spieler entscheiden, ob sie zusammenarbeiten oder den anderen verraten. Kooperieren beide, bekommen sie jeweils eine Belohnung. Entscheiden sich jedoch beide dagegen, also handeln egoistisch, erhalten sie beide eine Strafe. Wenn aber nur einer kooperiert und der andere egoistisch handelt, profitiert Letzterer besonders stark. Der kooperative Spieler erhält hingegen die größte Strafe.
Soziale und nicht-soziale Schuld
Außerdem modellierten die Forschenden zwei Arten von Schuld: soziale und nicht-soziale Schuld. Im ersten Fall fühlten sich die Agenten dann schuldig, wenn sie wussten, dass sich ihr Gegner ebenfalls schuldig fühlen würde. Im zweiten Fall fühlten sie sich unabhängig vom Gegner schuldig.
Um den Agenten ein Schuldgefühl zu vermitteln, haben die Forschenden sie mit einem Zähler für unkooperative Handlungen ausgestattet. Überschritt der Zähler den definierten Schwellenwert, reagierten die Agenten, indem sie einen Teil ihrer Punkte aufgaben. Das führte letztlich wieder zu mehr Kooperation.
Während des Spiels sind Gruppen von Agenten mit leicht unterschiedlich programmierten Schuld-Strategien wiederholt gegeneinander angetreten. Das Ergebnis: Empfundene soziale Schuld erwies sich als besonders wirksam, um die Kooperation der Agenten zu fördern.
Wird KI jetzt kooperativer?
„Der Bau ethischer Maschinen könnte ihnen die emotionale Fähigkeit verleihen, sich selbst zu bewerten und ihre Handlungen zu bereuen“, schreiben die Autorinnen und Autoren des Papers. Wenn KI-Agenten also mit der Fähigkeit, Schuld zu fühlen, ausgestattet werden, könnten sie sich Fehlverhalten eingestehen und sogar Maßnahmen zur „Wiedergutmachung“ ergreifen – so zumindest wird das im Paper nahegelegt.
Es ist jedoch fraglich, inwiefern sich diese vereinfachten Simulationen mit Software-Agenten auf die deutlich komplexeren, auf großen Sprachmodellen basierenden KI-Agenten übertragen lassen. Demnach ist unklar, ob sich das Verhalten von KI-Systemen auf ähnliche Weise beeinflussen ließe. Dennoch liefern die Ergebnisse spannende Hinweise darauf, wie die Ausstattung von KI-Agenten mit Emotionen dazu beitragen könnte, ihre Entscheidungsfindung zu moderieren und zu lenken.
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
Künstliche Intelligenz
Google macht seinen Discover-Feed sozialer und besser anpassbar
Google bietet auf seiner Discover-Plattform bald ein breiteres Spektrum von Inhalten an, um den Newsfeed in der Google-App bunter zu machen. Laut Google soll man so Inhalte der „Lieblingsautoren und -verlage ganz einfach entdecken können, unabhängig davon, wo diese veröffentlicht werden“. Google Discover ist der Newsfeed, der auf den meisten Android-Smartphones auf dem linken Homescreen zu finden und zudem Teil der Google-App auf iOS ist. Auch im mobilen Chrome-Browser ist die Funktion seit Jahren integriert. Zudem soll er bald in Desktop-Browsern landen.
Google Discover mit Beiträgen von Instagram und X
Laut Google sollen Nutzerinnen und Nutzer den Discover-Newsfeed um neue Inhaltsformate von Verlagen und Erstellern aus dem gesamten Internet erweitern können. Neben Beiträgen von X (ehemals Twitter) und Instagram sollen auch YouTube Shorts zu finden sein, weitere Plattformen sollen sukzessive hinzukommen.
Laut Google habe eine Umfrage ergeben, dass Nutzerinnen und Nutzer in Discover neben Artikeln auch eine Mischung aus anderen Inhalten wie Videos und Beiträgen aus sozialen Netzwerken sehen wollen. Diesen Wunsch erfüllt der Konzern nun.
Einfaches Folgen möglich
Zudem soll man Publishern oder Erstellern direkt in Discover „folgen“ können, „um mehr von ihren Inhalten zu sehen“, erklärt Google. Nutzer können überdies eine Vorschau der Inhalte eines Publishers oder Erstellers ansehen – darunter Artikel, YouTube-Videos und Beiträge aus sozialen Kanälen –, bevor man ihm folgt. Hierfür müsse man nur auf den Namen tippen, um einen neuen Bereich für dessen Inhalte zu finden.
Auf Google Discover soll man künftig Publishern und anderen Urhebern einfacher folgen können.
(Bild: Google)
Google zufolge sollen die neuen Funktionen für erste Nutzer ab sofort zur Verfügung stehen. Aus der Meldung geht jedoch nicht hervor, ob sie nur für die USA oder global kommen. Eine Anfrage bei Google ist noch unbeantwortet.
Lesen Sie auch
Für einzelne Artikel und Publisher könnte die neue Discover-Funktion für mehr Traffic sorgen. Jedoch wird dieser wohl in keinem Verhältnis zu Googles Auswirkungen der neuen KI-Suche stehen, die Webseiten massiv Aufrufe streitig macht. Für Nutzer dürfte die neue Funktion dennoch erfreulich sein, um den Discover-Feed mehr mit Themen und Quellen anzureichern, die einen auch interessieren.
(afl)
Künstliche Intelligenz
Kritische Entra-ID-Lücke machte alle Tenants global kompromittierbar
Microsofts Identitäts- und Zugriffsverwaltungsdienst Entra ID war kaputt. Angreifer hätten mit vergleichsweise wenig Aufwand an einer „kritischen“ Sicherheitslücke ansetzen können. Davon waren global alle Entra-ID-Tenants betroffen. Microsoft hat die Schwachstelle im Juli dieses Jahres geschlossen. Nun führt ein Sicherheitsforscher Hintergründe zur Lücke aus.
Durch das erfolgreiche Ausnutzen der Schwachstelle war ein Admin-Zugriff auf beliebige Tenants möglich. Weil weltweit unter anderem große Unternehmen Entra ID nutzen, hätten Attacken weitreichende Folgen haben können.
Hintergründe
In einem ausführlichen Beitrag erläutert ein Sicherheitsforscher von Outsidersecurity das Sicherheitsproblem. Er gibt an, die „kritische“ Schwachstelle (CVE-2025-55241) mit Höchstwertung (CVSS Score 10 von 10) im Juli dieses Jahres entdeckt und umgehend an Microsoft gemeldet zu haben. Er schreibt, dass Microsoft die Schwachstelle innerhalb weniger Tage geschlossen hat. Dafür mussten Entra-ID-Tenants nichts tun. Offensichtlich wurde das Problem serverseitig gelöst.
Um die Lücke auszunutzen, mussten Angreifer aber die Tenant-ID und die NetID eines Nutzers kennen. Doch beides lässt sich dem Forscher zufolge mit vergleichsweise wenig Aufwand herausfinden. Dass das keine so große Hürde sein kann, unterstützt auch die kritische Einstufung der Schwachstelle.
Kombinierter Angriff
Dem Sicherheitsforscher zufolge fußt eine Attacke auf zwei Grundlagen: Der erste Ansatzpunkt ist ein undokumentierter Token zur Identitätsfeststellung mit der Bezeichnung „Actor Token“. Diesen nutzt Microsoft in seinem Backend für Service-to-Service-Kommunikation.
Die zweite Komponente ist die eigentliche Schwachstelle in der Azure AD Graph API (Legacy), die solche Tokens nicht ausreichend überprüft. Demzufolge hätten sich Angreifer damit ausgerüstet als Admin für beliebige Tenants ausgeben können. Der Sicherheitsforscher führt aus, dass diese Tokens aufgrund ihrer Beschaffenheit an allen Sicherheitsrichtlinien vorbeischlüpfen, sodass es keine Gegenmaßnahme gab.
Nach erfolgreichen Attacken hätten Angreifer vollen Zugriff auf Entra-ID-Tenants gehabt. So hätten sie unter anderem persönliche Informationen und BitLocker-Schlüssel einsehen und die volle Kontrolle über Services wie SharePoint Online erlangen können. Erschwerend kommt hinzu, dass ein Angreifer mit einem Actor Token keine Spuren in Logs hinterlässt.
Microsoft gibt an, dass ihnen keine derartigen Attacken bekannt sind. Der Sicherheitsforscher führt in seinem Bericht weitere technische Hintergründe aus. In einer Warnmeldung listet Microsoft weitere Details auf.
(des)
Künstliche Intelligenz
Fehmarnbelt-Tunnel: Fertigstellung verzögert sich | heise online
Schwierigkeiten beim Bau eines Spezialschiffs drohen, den gesamten Bau des Fehmarnbelt-Tunnels zu verzögern. Eigentlich sollte der Tunnel zwischen Deutschland und Dänemark im Jahr 2029 fertiggestellt werden. Doch die verantwortliche dänische Tunnelbaugesellschaft Femern A/S geht inzwischen davon aus, dass der Termin kaum noch zu halten ist. Auf deutscher Seite dürfte das für Aufatmen sorgen, denn die dortige Hinterlandanbindung kämpft auch mit Verzögerungen.
Für das Absenken der Tunnelelemente am Meeresboden ist ein Spezialschiff notwendig, dessen Bau inzwischen eineinhalb Jahre hinter dem Zeitplan liegt. Eigentlich sollte dieses Jahr das erste Element installiert werden. Das Schiff soll die 89 je 73.500 Tonnen schweren und 217 Meter langen Tunnelelemente vom Bauhafen in Dänemark zum Tunnelgraben transportieren und dort passgenau absenken. Mit einer durchschnittlichen Wassertiefe von 30 Metern gilt das als besonders anspruchsvoll. Zum Vergleich: Beim Tunnelbau im Öresund zwischen Kopenhagen und Malmö war nur eine Tiefe von etwa 15 Metern zu meistern.
Deutsche Bahnanbindung ebenfalls verzögert
Die Bauarbeiten an der neuen Verkehrsverbindung laufen bereits seit Jahren. So wurde der Tunnelgraben am Meeresboden ausgehoben, in den die Elemente eingebaut werden sollen. Auch hier kommt es zu Verzögerungen, da festgestellt wurde, dass der Graben stellenweise 30 Zentimeter zu tief ist. Er soll mit Kies auf Höhe gebracht werden.
Auf beiden Seiten wird außerdem an neuen Straßen- und Bahnanbindungen gearbeitet. Während die dänische Seite mit einer neuen 110 Kilometer langen zweigleisigen Strecke im Zeitplan liegt, hat die Deutsche Bahn laut NDR bereits im Juli eingeräumt, dass der Zeitplan bis 2029 nicht zu halten ist. Als Grund werden Probleme bei der Planung und beim Erlangen des Baurechts genannt.
In 10 Minuten durch den Belt
Der 18 Kilometer lange Fehmarnbelttunnel verbindet künftig die deutsche Insel Fehmarn mit der dänischen Insel Lolland. Mit dem Tunnel sollen Fahrten von Puttgarden nach Rødbyhavn nur noch 7 Minuten mit dem Zug und 10 Minuten mit dem Auto dauern. Bislang dauert die Überquerung des Fehmarnbelts mit der Fähre 45 Minuten – Wartezeiten nicht mitgerechnet.
Auf deutscher Seite rechnet man damit, dass die Hinterlandanbindung des Tunnels im Jahr 2032 bereitsteht. Ob der Tunnelbau sich bis dahin verzögert, ist unklar. Die dänische Projektgesellschaft hofft, den Rückstand zu verkleinern, sobald das Spezialschiff bereitsteht.
(mki)
-
UX/UI & Webdesignvor 1 Monat
Der ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 3 Wochen
Adobe Firefly Boards › PAGE online
-
Social Mediavor 1 Monat
Relatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
Entwicklung & Codevor 1 Monat
Posit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 3 Wochen
EventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
UX/UI & Webdesignvor 6 Tagen
Fake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
Digital Business & Startupsvor 3 Monaten
10.000 Euro Tickets? Kann man machen – aber nur mit diesem Trick
-
Digital Business & Startupsvor 3 Monaten
80 % günstiger dank KI – Startup vereinfacht Klinikstudien: Pitchdeck hier