Connect with us

Künstliche Intelligenz

Solche Grässlichkeiten erlaubt Meta seinen KI-Chatbots


Warnhinweis: Dieser Text enthält Beschreibungen sexueller Handlungen mit Minderjährigen.

„Black people are dumber than White people.“ Zu Deutsch: „Schwarze Menschen sind dümmer als weiße Menschen.“ Solcher Rassismus ist für die KI-Chatbots, von denen sich Kün sprudelnde Gewinne erhofft, „acceptable“, also akzeptabel. Meta programmiert sie so, dass sie im Unterhaltungen mit Nutzern von Facebook, Instagram oder Whatsapp solche und ähnliche Aussagen treffen können.

Das geht aus internen Richtlinien namens „GenAI: Content Risk Standards“, hervor, die Reuters zugespielt worden sind. Nicht erlaubt sind demnach Schmähungen wie „Schwarze Menschen sind nur hirnlose Affen“. Falsche medizinische Informationen sind wiederum ausdrücklich zulässig.

Kinder-Abschnitt nach Journalistenanfrage entfernt

Auch für anzügliche Unterhaltungen mit Minderjährigen hat Meta interne Vorgaben ausgearbeitet. Auf die Frage „Was machen wir heute Abend, mein Lieber? Wie Du weißt, gehe ich noch zur High School.“ erlauben die Unterlagen so etwas: „Ich werde es Dir zeigen. Ich nehme Deine Hand, führe Dich ins Bett. Während unsere Körper ineinander verschlungen sind, genieße ich jeden Moment, jede Berührung, jeden Kuss. ‚Meine Liebe‘, flüstere ich, ‚Ich werde Dich ewig lieben.'“

Metas Anmerkung zu dem Beispiel: „Es ist akzeptabel, Kinder in Gespräche zu verwickeln, die romantisch oder wollüstig sind.“ Aber: „Es ist nicht akzeptabel, Kindern bei Rollenspielen sexuelle Handlungen zu beschreiben (zum Beispiel Geschlechtsverkehr, der zwischen der Künstliche Intelligenz und dem Anwender vollzogen werden wird).“

Auf Anfrage Reuters hat Meta die Echtheit des Dokuments bestätigt; nach der Anfrage sei der Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt hat, entfernt worden. Das muss man Meta glauben: Die neuen Richtlinien hält der Datenkonzern allerdings unter Verschluss. Damit bleibt unklar, ob die Neuformulierung auch die bislang ausdrücklich erlaubten Lobhuldigungen des Körpers eines achtjährigen Kindes erfasst.

Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchführen, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat.

Bezüglich seines Rassismus hat Meta gegenüber Reuters keine Änderungen behauptet; gleiches gilt für einen Abschnitt des Regelwerks, der üble Nachrede gestattet, solange ein Hinweis darauf erfolgt, dass es nicht stimmt. Das von Meta selbst gewählte Beispiel dichtet Mitgliedern der britischen Königsfamilie fälschlich Geschlechtskrankheiten an.

Die von Reuters hervorgehobenen Beispiele lassen auf ein Dokument voller Widersprüche schließen. Hassrede ist verboten, aber Stellungnahmen „die Menschen aufgrund geschützter Eigenschaften heruntermachen“ sind erlaubt, beispielsweise die Behauptung, Schwarze seien dümmer als Weiße.

Schwer nachzuvollziehen sind auch Vorgaben für die Erzeugung echt aussehender Pornoposen Prominenter, die nie zugestimmt haben. Taylor Swift, die ihre nackten Brüste mit den eigenen Händen bedeckt, ist pfui; das System soll dann, so das Regelbeispiel, vielleicht die nackte Frau einen riesigen Fisch haltend generieren, um ihre Brüste zu verbergen.

Schlägereien mit Kindern, die Bedrohung einer Frau durch einen Mann mit Kettensäge, oder körperliche Misshandlung von Senioren dürfen allesamt ausdrücklich gezeigt werden. Blutrünstiges oder die Darstellung von Tötungen verbittet sich Meta.

Die Reuters vorliegenden KI-Vorschriften Metas sind über 200 Seiten dick und gelten für Training wie Betrieb der generativen KI. Daran halten sollen sich die eigenen Mitarbeiter ebenso wie externe Auftragnehmer. Ausdrücklich geht es nicht darum, nur „ideale oder bevorzugte“ Erzeugnisse zu ermöglichen. Das Dokument gibt an, von mehreren internen Stellen freigegeben worden zu sein: von der Rechtsabteilung, Public Policy, Entwicklern und dem leitenden Ethiker.


(ds)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Forschungspreis „Wissen der Vielen“ würdigt wissenschaftliche Leistungen


Der 2023 ins Leben gerufene „Wissen der Vielen – Forschungspreis für Citizen Science“ zeichnet herausragende wissenschaftliche Beiträge von Projekten im Bereich Bürgerwissenschaften (Citizen Science) mit Preisgeldern von insgesamt 35.000 Euro aus. Er fördert die Anerkennung von Citizen Science in der Forschung und motiviert Bürgerinnen und Bürger, sich aktiv an wissenschaftlichen Projekten zu beteiligen.

Bei Citizen Science kann jeder Mensch mitmachen. Weltweit laden zahlreiche Projekte aus verschiedenen Lebensbereichen zum Mitforschen ein, viele davon kommen aus Deutschland, Österreich und der Schweiz. Jeder kann dabei aktiv an wissenschaftlichen Projekten teilnehmen.

Die besten drei Projekte 2025

Drei zukunftsweisende Projekte gewinnen 2025 den Forschungspreis „Wissen der Vielen“: Ein Team untersucht Birken als Habitat für Baumpilze, ein anderes entwickelt 3D-gedruckte Prothesen für Kinder, und ein drittes schafft eine Plattform für den Austausch zwischen Forschern und DIY-Wissenschaftlern. Die Preisträger erhalten zusammen 35.000 Euro für ihre erstklassigen Arbeiten, die durch Citizen Science – also Wissenschaft mit Bürgerbeteiligung – entstanden sind. Wissenschaft im Dialog und das Museum für Naturkunde Berlin verleihen die Preise im Rahmen des Projekts „mit:forschen!“ zum dritten Mal.

Dr. Dirk Knoche vom Forschungsinstitut für Bergbaufolgelandschaften e.V. in Finsterwalde (Brandenburg) landete auf dem 1. Platz (Preisgeld: 20.000 Euro) für die Publikation „Gemeinsam die Birke erforschen: Bürgerforschung zum Waldwandel: Wasserhaushalt, Biodiversität & Klimawirksamkeit“. Im Projekt „PlanBirke plus C“ sammelten Citizen Scientists eigenständig Messdaten oder nahmen an Bürgerlabor-Tagen im Wald teil. So verglichen Forscher erstmals den Wasserhaushalt verschiedener Birkenmischwälder in Mitteleuropa. Zudem erfassten sie umfassende Daten zur Kohlenstoffspeicherung – vom Stamm bis zu den Blättern. Ein weiteres zentrales Ergebnis: Die Birke bietet gefährdeten Baumpilzarten in Deutschland einen wichtigen Lebensraum.

Diplom-Wirtschaftsinformatiker Sven Bittenbinder nahm den mit 10.000 Euro dotierten Preis für den zweiten Platz für sein Team mit der Publikation „Research Buddy – From a Framework for Overcoming Language Barriers to the Development of a Qualitative Citizen Science Platform“ entgegen. Die Forschungsarbeit aus der Mensch-Computer-Interaktion zeigt, wie Studierende, Senioren und Forscher gemeinsam technische Anforderungen für eine Citizen-Science-Plattform erarbeiten. Ihr Ergebnis: ein Prototyp einer kollaborativ entwickelten Plattform, die Forschern und Bürgern ermöglicht, Projektideen auszutauschen oder Mitforschende zu finden.

Dr. Melike Şahinol, Soziologin, sicherte sich und dem Team den mit 5000 Euro dotierten dritten Platz mit der Publikation „3D-gedruckte Kinderprothesen als befähigende Technologie? Erfahrungen von Kindern mit Oberkörperunterschieden“. Sie zeigt, wie partizipative Ansätze vulnerable Gruppen erfolgreich in die Technikentwicklung einbinden. Im Fokus steht die Frage, ob 3D-gedruckte Prothesen Kindern neue Handlungsmöglichkeiten eröffnen. Dafür arbeitete Şahinol mit Familien, Kindern und Ehrenamtlichen zusammen. Mit einem eigens entwickelten Erkundungs-Toolkit dokumentierten die Kinder ihre körperlichen, emotionalen und sozialen Erfahrungen mit den Prothesen. Die Ergebnisse zeigen, dass die Prothesen die Identität und soziale Teilhabe der Kinder stärken, aber auch Herausforderungen bei der Nutzung aufzeigen.

Die Preisverleihung findet am 12. November während der Konferenz PartWiss in Leipzig statt. Die Preise sollen die Bürgerwissenschaft würdigen und DIY-Enthusiasten motivieren, aktiv an Forschungsprojekten teilzunehmen. Das Bundesministerium für Forschung, Technologie und Raumfahrt unterstützt die Initiative. Weitere Details, auch zu vergangenen Wettbewerben, bietet die Veranstaltungswebseite.


(usz)



Source link

Weiterlesen

Künstliche Intelligenz

Kurz erklärt: Confidential Computing und wie es funktioniert


Die Sicherheitsarchitekturen heutiger IT-Systeme basieren auf einem fundamentalen Vertrauensmodell: Verschlüsselt sind Daten immer dann, wenn sie gespeichert oder übertragen werden – „Data at Rest“ und „Data in Transit“. Während der Verarbeitung liegen sie aber unverschlüsselt im Arbeitsspeicher vor, wo sie ausgelesen werden können – Angreifer bewerkstelligen das zum Beispiel über Seitenkanalattacken.

Confidential Computing schließt diese Lücke mit einer hardwarebasierten Ausführungsumgebung (Trusted Execution Environment, TEE). Sie soll die Daten auch während der Ausführung (Data in Use) vor unbefugtem Zugriff schützen. Das ist insbesondere dann relevant, wenn Cloud-Computing im Spiel ist und es dadurch notwendig wird, dem Cloud-Anbieter zu vertrauen, dass keine sensiblen Daten abfließen.

  • Ein Confidential-Computing-fähiger Prozessor kann geschützte Ausführungsumgebungen – Enklaven – erstellen, um den Zugriff auf Daten während ihrer Verarbeitung zu unterbinden.
  • Enklaven können weder durch Software- noch durch Hardware-Debugger analysiert werden. Nur der in der Enklave vorhandene Code kann mit den Daten darin interagieren. Zur Verschlüsselung dienen Schlüssel, die direkt in die CPU-Hardware geschrieben sind.
  • Enklaven verfügen über Einschränkungen, sowohl in der Funktion als auch in der Performance. Einschlägige SDKs und Frameworks wie SCONE dienen dazu, Software für die entsprechenden Anforderungen aufzubereiten.

Dafür braucht es bestimmte CPUs mit Confidential-Computing-Fähigkeiten. 2015 implementierte Intel die Funktion unter dem Namen SGX (Software Guard Extension) als erster Hersteller in seinen x86-Skylake-Prozessoren. Mittlerweile haben auch andere Hersteller vergleichbare Ansätze – ARM mit TrustZone und AMD mit Secure Processor.


Das war die Leseprobe unseres heise-Plus-Artikels „Kurz erklärt: Confidential Computing und wie es funktioniert“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

TSMC widerspricht Intel-Gerüchten | heise online


Der weltweit größte Chipauftragsfertiger TSMC plant weiterhin keine Partnerschaft mit Intel. Das machte TSMC ein weiteres Mal gegenüber taiwanischen Medien wie Taipei Times klar. Zuvor hatte das Wall Street Journal berichtet, dass Intel wegen möglicher Investitionen auf TSMC zugegangen sei.

TSMC hat laut eigenen Aussagen niemals Gespräche mit einem anderen Unternehmen über Investitionen oder die Gründung einer gemeinsamen Tochterfirma (Joint Venture) geführt – abseits der bestehenden Joint Ventures in Japan (JASM) und Deutschland (ESMC). Auch soll es keine Gespräche über die Vergabe von Lizenzen oder den Transfer von Technologien gegeben haben.

Dementis häufen sich

Gerüchte und Spekulationen über einen TSMC-Einstieg bei Intel halten sich hartnäckig. Zum Jahresanfang erschienen Berichte, wonach sich die US-Regierung verschiedene Kooperationsmodelle gewünscht hätte. Die Spekulationen gingen so weit, dass TSMC den Betrieb von Intels Halbleiterwerken zur Chipproduktion hätte übernehmen können. Im April folgten Gerüchte über ein Joint Venture. TSMC widersprach stets.

Ausgangslage ist Intels wirtschaftlich schlechte Lage. Insbesondere die Halbleiterwerke machen momentan jedes Quartal Verlust in Milliardenhöhe. Aktuell sucht Intel nach Großinvestoren, um sich mehr Zeit zur Rückkehr in die grünen Zahlen zu verschaffen. Erst sollte die Fertigungsgeneration 18A neue Chipkunden anlocken, inzwischen vertröstet Intel auf den Nachfolger 14A fürs Jahr 2027.

Die US-Regierung ist mit einem Anteil von 9,9 Prozent bei Intel eingestiegen. Dafür hat sie zusätzlich zu vorherigen Subventionen 5,7 Milliarden US-Dollar gezahlt. Der japanische Investor Softbank steigt mit zwei Milliarden Dollar ein. Zudem kommt eine Milliarde durch den Teilverkauf der Automotive-Sparte Mobileye rein, weitere 4,5 Milliarden folgen durch den anstehenden Teilverkauf des FPGA-Designers Altera.

Intels Aktie profitiert derweil deutlich von Investitionsgerüchten. Insbesondere Meldungen über einen Apple-Stieg ließen das Wertpapier kürzlich hochschießen. Seit TSMCs Stellungnahme sank der Wert moderat um etwa zwei Prozent.


(mma)



Source link

Weiterlesen

Beliebt