Connect with us

Künstliche Intelligenz

Strengere Social-Media-Algrorithmen für Kinder: Grünes Licht in Kalifornien


In Kalifornien rücken strengere Jugendschutzregeln für Social-Media-Algorithmen ein Stück näher. Der Versuch, entsprechende Teile eines Gesetzes zu stoppen, blieb erfolglos. Der „Protecting Youth from Social Media Addiction Act (SB 976)“ sieht unter anderem vor, dass minderjährigen Nutzern von Instagram, Facebook & Co. ohne elterliche Zustimmung nur noch chronologisch sortierte Feeds angezeigt werden dürfen.

Die Sortierung von Social-Media-Feed-Inhalten orientiert sich häufig am Nutzerverhalten: Anhand daran abgeleiteter Interessen werden passende Inhalte angezeigt. Die Macher des Gesetzes hatten argumentiert, dass Betreiber der Plattformen süchtig machende Inhalte nutzen würden, um Kinder zu exzessiver Nutzung zu verleiten. Um das zu unterbinden, soll die Nutzung solcher personalisierter Feeds durch Minderjährige in Zukunft nur noch mit elterlicher Zustimmung möglich sein.

Plattformen pochen auf freie Meinungsäußerung

NetChoice, ein Interessenverband von Plattformbetreibern, darunter Google, Meta, Snap und X, wollte die Durchsetzung des Gesetzes stoppen. Die Begründung: Es verstoße gegen das verfassungsmäßige Recht auf freie Meinungsäußerung nach dem ersten Zusatzartikel der US-Verfassung. Zur wesentlichen Funktion der betroffenen Plattformen gehöre die Wahrnehmung dieses Rechts, auch mithilfe der Empfehlungsalgorithmen, welche Inhalte vorschlügen, die zur eigenen Meinung passen.

Doch genau das verhinderten die neuen Regeln für Minderjährige, monieren die NetChoice-Anwälte in ihrer Klageschrift (Aktenzeichen 5:24-cv-07885). Der Fall landete schließlich vor dem neunten US-Berufungsgericht, das in diesem Punkt aber gegen NetChoice entschied. Ob die jeweils genutzten Algorithmen wirklich unter die freie Meinungsäußerung gemäß der US-Verfassung fielen, sei eine „faktenintensive Frage“, betonte ein Berufungsrichter. „Personalisierte Algorithmen können die eigene Botschaft einer Plattform gegenüber der Welt zum Ausdruck bringen oder die von den Nutzern offenbarten Präferenzen widerspiegeln. Um zu wissen, wo der Algorithmus jedes NetChoice-Mitglieds in diesem Spektrum anzusiedeln ist, ist die Beteiligung einiger einzelner Plattformen erforderlich“, schrieb er in einer Stellungnahme zu der Entscheidung.

Auch die NetChoice-Einwände gegen eine verpflichtende Altersverifikation für alle Nutzer hielt das Gericht für ungerechtfertigt – weil diese Auflage nicht vor 2027 in Kraft treten soll. Eine andere Vorgabe des neuen Gesetzes kassierte das Gericht: das Verbot, Kindern anzuzeigen, wie viele Likes und andere Kommentare ihre Beiträge erhalten. Diese Vorschrift sei nicht die am wenigsten einschränkende Maßnahme zum Schutz der psychischen Gesundheit von Kindern, urteilten die Berufungsrichter.

Ein NetChoice-Vertreter sagte in einer Stellungnahme, er sei „schwer enttäuscht“ über die Entscheidung. „Wir werden alle verfügbaren Möglichkeiten prüfen, um den ersten Zusatzartikel der US-Verfassung zu verteidigen“, bekräftigte er. Das neue Gesetz reiße die Rolle der Eltern an sich und gebe der Regierung mehr Macht darüber, wie legale Äußerungen online geteilt werden dürfen.

Der kalifornische Generalstaatsanwalt Rob Bonta zeigte sich erfreut über die Entscheidung: „Unsere Kinder können nicht warten. Unternehmen haben uns unverhohlen gezeigt, dass sie bereit sind, süchtig machende Designmerkmale wie algorithmische Feeds und Benachrichtigungen zu jeder Tages- und Nachtzeit einzusetzen, um Kinder und Jugendliche anzusprechen, nur um ihre Gewinne zu steigern.“ Damit liegt der Fall nun wieder bei einem US-Bezirksgericht, welches vorher andere Teile des Gesetzes verboten hatte.


(nen)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Digitalminister Wildberger: „Grundrechte wollen wir nicht antasten“


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Für den seit Mai amtierenden Bundesdigitalminister Karsten Wildberger (CDU) sind die nächsten Jahre für Europa entscheidend. „Wir müssen die nächsten Jahre nutzen, digitale Souveränität aufzubauen. Wir haben die Talente und wir sind in vielen Geschäftsbereichen globaler Plattformmodelle einfach nicht präsent“, ruft er im Gespräch mit heise online zum Handeln auf.

Wildberger sieht Chancen für eine Aufholjagd gerade aufgrund des Aufkommens Künstlicher Intelligenz. „Die KI ist nicht eine neue Form der Digitalisierung. Die Karten werden neu gemischt“, sagt der Bundesdigitalminister.

Er will ein für den Herbst geplantes EU-Gesetz zur Vereinfachung von Vorschriften nutzen. „Es ist mir nicht verständlich, dass wir junge Unternehmen, bevor sie überhaupt das Produkt gebaut haben, mit so vielen Vorschriften überlasten“, sagt Wildberger.

Dass etwa deutsche Medizinforscher zum Algorithmentraining mit Daten aus Deutschland in die USA fliegen müssten, will er nicht akzeptieren. „Das kann doch wohl nicht wahr sein“, kommentiert er. Hier müsse eine Neukalibrierung stattfinden, weshalb er sich für eine Überarbeitung der Regeln einsetze.

„Schutz der Privatsphäre unantastbar“

Die Befürchtung, dass dabei das Schutzniveau für Bürger abgesenkt würde, teilt Wildberger nicht. „Persönlichkeitsrechte, der Schutz der Privatsphäre, sind für mich nicht antastbar“, betont er. Aus seiner Sicht sei die derzeitige Praxis aber nicht geeignet, den Schutz zu gewährleisten.

„In vielen Teilen ist es überkomplex und es liefert noch nicht einmal das Ergebnis. Das heißt: Das, was wir vorschlagen, tun wir mit dem Werteverständnis, dass wir Grundrechte nicht antasten wollen,“ führt er aus. Im Koalitionsvertrag ist vereinbart, die Datenschutzaufsicht zu zentralisieren.

Digitale Souveränität als Beschaffungskriterium

Um europäische und deutsche Alternativen zu stärken, setzt der Digitalminister auch auf den Staat als einen zentralen Akteur. Der Bund werde nicht nur sehr zeitnah die KI-Gigafactorys an den Start bringen, sondern etwa auch bei Rechenzentren und speziell Inference-Datenzentren, die für das weitere Training bereits laufender Modelle nötig sind, weiter nachlegen.

Wildberger will damit sowohl die Wirtschaft ankurbeln als auch die Abhängigkeit von Nicht-EU-Staaten reduzieren. „Es geht jetzt darum, in kurzer Zeit eine Dynamik, eine Bewegung in Gang zu setzen.“ Sein Ziel will er dabei aber nicht als Abgrenzung gegenüber anderen wie den USA verstanden wissen – sondern vor allem als ein Einstehen für europäische Werte.

Um die Dynamik zu befördern, müsse auch die Systematik, wie der Staat Aufträge vergebe, geändert werden, fordert der Minister. So sollten die Beschaffungskriterien um den Aspekt der Digitalen Souveränität ergänzt werden. Das sei für ganz konkrete, bald zu vergebende Aufträge durch den Staat wichtig.

Der Preis sei dann nur ein weiteres Kriterium. Und auch dieses müsse überdacht werden: „Wir müssen die Total Cost of Ownership berücksichtigen“, fordert Wildberger. „Unsere heutige Kalkulation, wie wir ‚Preis‘ definieren, ist volkswirtschaftlich völliger Unsinn.“

Das Gespräch haben wir am 11. September in Berlin geführt. Das ganze Interview (inkl. Transkript) als Sonderausgabe des c’t uplink zum Nachhören:


(vbr)



Source link

Weiterlesen

Künstliche Intelligenz

Ende von Cybergrooming: Knuddels nutzt KI-Filter, Abschreckung & ist bald ab 18


Knuddels gibt es seit mehr als 25 Jahren. Aus einem studentischen Hobbyprojekt wurde in den frühen 2000er-Jahren die größte soziale Plattform in Deutschland mit Millionen aktiven Nutzern. Später sorgten neue Wettbewerber und der Wechsel zu mobilen Angeboten für Stagnation und Rückgang. Heute zählt die Chat-Community eigenen Aussagen zufolge täglich rund 90.000 aktive Mitglieder.

Ein besonders sensibles Thema für Knuddels war vor allem das Thema Cybergrooming. Seit 2023 arbeitet die Plattform mit dem Bundeskriminalamt (BKA) zusammen. Seit Juni desselben Jahres hat Knuddels eigenen Angaben zufolge „die Anzahl identifizierter Verdachtsfälle um 93 Prozent“ senken können. Die Zusammenarbeit beschreibt das BKA gegenüber heise online als „konstruktiv“. Seit Beginn der Meldeverpflichtung des Digital Services Act „habe der Hostingdiensteanbieter Knuddels eine hohe dreistellige Anzahl an Art. 18 DSA Meldungen an das Bundeskriminalamt (BKA) übermittelt“, erklärt eine BKA-Sprecherin. Es könnten jedoch noch mehr sein. Übermittelte Vorgänge werden „bei positiver Prüfung der Strafbarkeit und nach Feststellung der örtlichen Zuständigkeit an das jeweils zuständige Bundesland übergeben, die Einleitung eines Ermittlungsverfahrens obliegt der zuständigen Staatsanwaltschaft und erfolgt nicht in jedem Falle“.


Im Zentrum von Knuddels steht inzwischen die Pflege einer langjährigen und loyalen Gemeinschaft – inklusive umfangreicher Schutzmechanismen und technischer Weiterentwicklungen. Über die Geschichte einer der ersten Chatplattformen in Deutschland sprachen wir mit Holger Kujath, dem Geschäftsführer von Knuddels“.


Holger Kujath

Holger Kujath

Holger Kujath ist Mitgründer und Geschäftsführer der Chatplattform Knuddels. Der Diplom-Informatiker (KIT) gründete die Plattform 1999 während seines Studiums.

(Bild: Chris Marxen / Headshots-Berlin)

Knuddels gibt es inzwischen seit 1999 – also über 25 Jahre. Wie hat sich die Plattform entwickelt?

Gestartet haben wir 1999 als reines Hobbyprojekt während des Studiums. Wir trafen damals offenbar einen Nerv, denn die Plattform ist in den ersten sieben Jahren exponentiell gewachsen. Es war eine Pionierzeit des Social Web, in der wir mit über fünf Millionen monatlich aktiven Mitgliedern zur größten sozialen Plattform in Deutschland wurden, noch bevor Facebook hier überhaupt eine Rolle spielte. Danach kam die Konkurrenz (StudiVZ, Facebook etc.) und der Shift zu mobile. Es folgte eine Stagnations- und eine Rückgangsphase. Das Entscheidende ist aber, wie sich Knuddels seither gewandelt hat: Die Plattform ist mit ihrer Community erwachsen geworden. Viele unserer Nutzer sind uns treu geblieben, einige davon seit über 20 Jahren. Der Fokus hat sich von schnellem Wachstum hin zur Pflege dieser einzigartigen Gemeinschaft verschoben. Heute geht es um authentische, echte Verbindungen zwischen Menschen.

Und wie haben sich die Nutzerzahlen entwickelt?

Zuerst gab es die Phase des Hyperwachstums in den frühen 2000ern. In den ersten sieben Jahren sind wir exponentiell gewachsen und erreichten auf dem Höhepunkt über fünf Millionen monatlich aktive Nutzer. Damit waren wir die größte soziale Plattform im Land. Seit einigen Jahren hat sich die Zahl der Mitglieder wieder stabilisiert. Unser Fokus liegt heute weniger auf den reinen Mitgliederrekorden, sondern auf der hohen Authentizität und Loyalität der Community. Aktuell sind täglich rund 90.000 Mitglieder auf Knuddels aktiv.

Bei Knuddels war Cybergrooming in der Vergangenheit oft ein Thema. Wie sind Sie heute aufgestellt?

Als wir gestartet sind, war das ein gesellschaftlich und technologisch völlig neues Feld. Das Bewusstsein für die spezifische Gefahr des Cybergrooming musste sich erst entwickeln – bei uns, aber auch in der gesamten Branche. 2006 haben wir als erste Plattform ein Meldesystem eingeführt, über das User Gespräche melden konnten und das die Grundlage für mögliche Strafverfolgung bildet. Seitdem haben wir jedes Jahr zusätzliche Sicherheitsmaßnahmen entwickelt. Der größte Schritt war aber die Einführung des KI-basierten Filtersystems. Zunächst gibt es eine lokale, automatisierte Echtzeit-Analyse, bei der Chats nach bestimmten Textmustern und Auffälligkeiten gescannt werden. Dann folgt eine Validierung über ein Large Language Modell, damit nicht zu viele Fehlalarme entstehen. Das Modell bewertet, ob es sich wirklich um einen riskanten Inhalt handelt. Wenn der Verdacht bestätigt wird, beendet das System das Gespräch sofort. Die User können es dann bei Bedarf melden – nur so dürfen Fälle rechtlich an Behörden weitergegeben werden. Durch das frühe Eingreifen der Filter konnten wir die Zahl der Verdachtsfälle, die wir an die Ermittlungsbehörden weiterleiten, um 93 Prozent reduzieren.

RTL hatte damals in der Sendung „Angriff auf unsere Kinder“ berichtet, dass auf Knuddels Cybergrooming ein großes Problem sei und Sicherheitsmaßnahmen versagt hätten. Können Sie bitte nochmal skizzieren, was da los war?

Tatsächlich enthielt die damalige Berichterstattung eine Reihe schwerwiegender Falschdarstellungen und nachweislich falscher Anschuldigungen über Knuddels. Wir sind dagegen erfolgreich juristisch vorgegangen. Das Landgericht und Oberlandesgericht Hamburg haben unsere Position bestätigt (u.a. Urteil vom 14.01.2022) und RTL untersagt, die zentralen, rufschädigenden Falschaussagen zu wiederholen. RTL hat die Berichte daraufhin aus der Mediathek entfernt und selbst journalistische Fehler eingeräumt.

Welche Technik steckt derzeit hinter der KI?

Aktuell nutzen wir Modelle großer Anbieter – DSGVO-konform und in der Cloud. Das System ist modular, wir können also verschiedene Modelle testen und je nach Stärken einsetzen. Das war notwendig, weil jedes Modell andere Qualitäten hatte. Auch Prompt-Engineering ist ein entscheidender Teil, um die Balance zwischen Sicherheit und False Positives zu halten.

Haben Sie auch Pläne, ein Modell selbst zu hosten?

Ja. Wir testen aktuell Open-Source-Modelle wie Metas „LLaMA“ und andere. Pilotversuche auf eigenen Servern laufen schon. Unsere Vision ist, mittelfristig ein Modell komplett auf eigener Hardware zu betreiben. Das bringt uns mehr Kontrolle, flexiblere Anpassung an die Knuddels-Community und weniger Abhängigkeit von großen Anbietern.

Welche Rolle spielt Verschlüsselung für Knuddels?

Schon 1999 hatten wir in unser proprietäres Protokoll Verschlüsselung integriert; heute nutzen wir natürlich den TLS-Standard zur Transportverschlüsselung der gesamten Kommunikation. Wir speichern verdächtige Chats verschlüsselt, damit Missbrauchsfälle vor Gericht belastbar nachgewiesen werden können. Eine absolute Ende-zu-Ende-Verschlüsselung würde bedeuten, dass wir bei schweren Straftaten keinerlei gerichtsverwertbare Beweise liefern könnten und auch keine proaktive Prävention möglich wäre. Unser System schützt die Kommunikation, aber es schützt keine Täter. Wir haben da eine Balance getroffen.

Sie haben gerade die Behörden erwähnt – wie sieht die Zusammenarbeit konkret aus?

Wir arbeiten seit Jahren mit hochrangigen Sicherheitsbehörden zusammen. Das war uns auch wichtig, weil es eine abschreckende Wirkung hat. Potenzielle Täter wissen: Es gibt hier keine Lücken.

Wie hat die Community auf die Ankündigung der Kooperation reagiert?

Die meisten haben es sehr positiv aufgenommen, sogar positiver, als wir erwartet haben. Eine hohe vierstellige Zahl an Mitgliedern, die offensichtlich unsere Haltung nicht teilten, hat die Plattform umgehend verlassen. Für uns war das überhaupt kein Problem, im Gegenteil: Wir haben offensichtlich die Richtigen abgeschreckt. Die verbleibende Community fühlte sich sicherer.

Offiziell ist Knuddels ab 16?

Ja, aktuell noch. Und in der Praxis sind mittlerweile über 96 Prozent unserer Mitglieder volljährig. Wir betreiben zusätzlich einen Alters-Filter, der mit KI überprüft, ob neue Nutzer jünger sein könnten. Erkennt das Modell ein Muster – etwa weil jemand im Chat sagt „ich bin 15“ – wird das Konto umgehend gesperrt und auch weitere Registrierungsversuche verhindert.

Die Kombination dieser Maßnahmen zeigt eine massive Wirkung. Seit Einführung der Systeme haben uns die Sicherheitsbehörden keinen Fall von erfolgtem Cybergrooming mit Beteiligung eines Kindes auf unserer Plattform mehr gemeldet.

Wie finanziert sich Knuddels heute?

Hauptsächlich über ein Freemium-Modell und Spiele innerhalb der Plattform. Daneben auch über Werbung. Unsere Community ist älter geworden – viele sind Fans, die uns seit Jahrzehnten kennen und gerne Geld für Features ausgeben.

Welche Rolle wird KI künftig noch spielen?

Unsere Haltung ist ganz klar: Wir wollen keine KI-Nutzer oder Bots. Im Gegenteil, Knuddels soll eine Plattform für echte Menschen bleiben. KI werden wir nur da einsetzen, wo sie schützt – also Fakes, Scammer und Missbrauch erkennt.

Unser Herzstück ist die Community. Viele unserer Nutzer sind aus der „Chatzeit der 2000er“ geblieben. Wir veranstalten regelmäßig Offline-Treffen, bei denen bis zu 200 Leute ein Wochenende zusammen verbringen. Genau das ist die Idee von Knuddels: authentische, echte Verbindungen zwischen Menschen – seit über 25 Jahren.


(mack)



Source link

Weiterlesen

Künstliche Intelligenz

PWM-Funktion für iPhone 17 Pro und 17 Pro Max – 120 Hertz für alle


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Apples neue iPhones bringen einige Veränderungen bei den verbauten Bildschirmen mit, die von Marktbeobachtern positiv aufgenommen wurden. Diese betreffen allerdings nicht alle Modelle – der Konzern macht wie üblich Unterscheidungen zwischen den Pro- und Standardgeräten. Ein Zwischending ist der neue Formfaktor iPhone Air: Hier verbaut Apple zwar den High-End-Chip A19 Pro (allerdings mit einem GPU-Kern weniger), der Bildschirm orientiert sich aber eher am Standardmodell iPhone 17, wobei er hier 0,2 Zoll größer ist (6,5 statt 6,3).

Schalter sorgt für weniger Flackern

Beim iPhone 17 Pro und 17 Pro Max gibt es nun einen eigenen Schalter in iOS 26, mit dem man die sogenannte Pulse Width Modulation, kurz PWM, abschalten kann. Zu finden ist dieser im Bereich Bildschirm und Textgröße bei den Einstellungen für die Bedienhilfen. Bei abgedrehtem PWM erfolgt das Dimming des OLED-Displays auf eine andere Art, was laut Apple eine „weichere Bildschirmausgabe“ bei geringeren Helligkeitsniveaus ermöglicht. Nutzer, denen das reguläre OLED-Bild aufgrund einer Sehbehinderung oder Seherkrankung zu harsch vorkommt, sollten die Einstellung einmal ausprobieren.

Allerdings, warnt der Hersteller, kann es so zu einer „geringeren Leistung bei geringer Helligkeit“ kommen, wenn auch nur unter „bestimmten Bedingungen“. PWM dient dazu, die Bildpunkte (Pixel) schnell ein- und auszuschalten, was auch dabei hilft, dass OLEDs ein sehr dunkles Schwarz darstellen. Es gibt jedoch Menschen, die dies als Flackern empfinden (samt Kopf- und Augenschmerzen) und die Funktion daher abdrehen möchten. Mit iPhone 17 Pro und 17 Pro Max ist das nun erstmals möglich. Warum es bei den beiden anderen Modellen (noch?) nicht klappt, bleibt unklar.

120 Hertz für alle neuen iPhones

Sehr lobenswert ist, dass Apple jetzt alle iPhone-17-Varianten samt iPhone Air mit „ProMotion“-Displays ausstattet. Dabei handelt es sich um Bildschirme, deren Bildwiederholrate von 1 bis 120 Hertz reguliert werden kann. Das sorgt für weicheres Scrolling und Spielen.

Außerdem lässt sich so ein Always-On-Bildschirm realisieren, der sich nur noch einmal pro Sekunde refreshen muss. Bislang blieb die Funktion nur den Pro-Modellen vorbehalten. Künftig ist sie ein neuer iPhone-Standard.


(bsc)



Source link

Weiterlesen

Beliebt