Connect with us

Künstliche Intelligenz

Pläne zur Altersverifikation: „Problem ist das Plattformdesign, nicht das Alter“


Die EU-Kommission will den Schutz von Kindern und Jugendlichen im Internet deutlich verschärfen. Eine Expertenkommission empfiehlt unter anderem ein europaweit harmonisiertes Mindestalter für soziale Netzwerke sowie verpflichtende Alterskontrollen. Parallel arbeitet die EU an einer digitalen Altersverifikation, eine Art Mini-Wallet, die auch unabhängig von der EUDI-Wallet genutzt werden kann.

Weiterlesen nach der Anzeige


Marielle Findorff

Marielle Findorff

Marielle Findorff ist Referentin für Daten- und IT-Sicherheit beim Verbracherzentrale Bundesverband.

(Bild: vzbv)

Über die Chancen und Risiken dieser Pläne sprach heise online mit Marielle Findorff, Referentin für Digitales und Medien beim Verbraucherzentrale Bundesverband (vzbv).

Die EU könnte beim Schutz von Minderjährigen künftig stärker auf Altersgrenzen und Altersverifikation setzen. Ist das aus Sicht des Verbraucherschutzes der richtige Ansatz?

Das eigentliche Problem ist das Plattformdesign und die oft unsicheren Grundeinstellungen. Altersgrenzen lösen dieses Grundproblem nicht. Minderjährige würden zwar ausgeschlossen, alle anderen Nutzerinnen und Nutzer wären den gleichen Risiken aber weiterhin ausgesetzt. Deshalb sollte der Schwerpunkt darauf liegen, Plattformen selbst sicherer zu gestalten, und zwar für alle.

Was müsste sich aus Ihrer Sicht stattdessen ändern?

Die Plattformen sollten nachweisen müssen, dass ihre Angebote tatsächlich sicher gestaltet sind. Das betrifft beispielsweise Voreinstellungen, Empfehlungsmechanismen oder andere Designentscheidungen, die Risiken für Nutzerinnen und Nutzer erhöhen können. Nur wenn die Ursachen auf den Plattformen selbst angegangen werden, lassen sich die Probleme nachhaltig lösen.

Es ist deshalb zu begrüßen, dass auch die Von-der-Leyen-Kommission in ihren Empfehlungen die Verantwortung und Beweislast bei den Anbietern sieht. Dabei darf es jedoch nicht bleiben. Digitale Dienste müssen standardmäßig für alle sicher gestaltet sein. Funktionen und Gestaltungsmuster, die exzessive Nutzung fördern, sollten wirksam begrenzt oder verboten werden.

Die EU-Empfehlungen der EU-Kommission sehen vor, dass Plattformen Zugangsbeschränkungen bis 13 Jahren durchführen sollen. Jugendliche zwischen 13 und 17 Jahren sollen digitale Dienste nutzen können, wenn die Anbieter ein altersgerechtes Design und entsprechende Schutzeinstellungen nachweisen. Plattformen könnten somit entweder ihre Dienste anpassen oder den Zugang für Minderjährige beschränken. Wie bewerten Sie das?

Weiterlesen nach der Anzeige

Grundsätzlich ist es positiv, wenn Plattformen nachweisen müssen, dass ihre Dienste für Kinder und Jugendliche sicher sind. Problematisch ist aber, dass Anbieter möglicherweise einfach den anderen Weg wählen: Sie behalten ihr bisheriges Design bei und schließen Minderjährige per Altersverifikation aus. Das wäre vermutlich in einigen Fällen günstiger, als grundlegende Änderungen am Produkt vorzunehmen. Ich glaube nicht, dass das das eigentliche Ziel der Empfehlungen ist, ausgeschlossen wird diese Möglichkeit aber nicht ausdrücklich.

Diskutiert wurde in der Vergangenheit auch eine Alterskontrolle direkt auf Betriebssystemebene. Wäre das sinnvoller?

Das wäre eine mögliche Alternative. Eltern könnten beispielsweise beim Einrichten eines Geräts das Alter ihres Kindes hinterlegen. Die Information könnte anschließend mit App-Stores oder Diensten kommuniziert werden. Allerdings stellt sich auch dort die Frage, wie diese Altersangabe überprüft wird oder ob sie auf einer Selbstauskunft, etwa von den Eltern, basiert. Die EU-Kommission setzt derzeit allerdings erkennbar auf die EUDI-Wallet beziehungsweise auf eine eigenständige Altersverifikationslösung, die in die EUDI-Wallet integriert werden könnte.

Dann würde aber erneut viel Verantwortung bei den Eltern liegen.

Genau. Das ist problematisch. Viele Eltern fühlen sich bereits heute mit der Vielzahl digitaler Angebote überfordert. Hinzu kommt, dass Plattformen ihre Einstellungen regelmäßig ändern. Selbst Erwachsene verlieren dabei schnell den Überblick. Wenn Eltern sämtliche Plattformen und Spiele ständig kontrollieren müssten, wäre das kaum leistbar. Besonders Familien mit weniger Zeit oder Ressourcen könnten dadurch benachteiligt werden.

Aktuell wird eine auf Open Source basierende Altersverifikationslösung entwickelt und getestet, die von der EUDI-Wallet losgelöst funktioniert. Wie schätzen Sie das ein?

Wenn tatsächlich ausschließlich ein datensparsamer Nachweis wie „über 18“ über einen Zero-Knowledge-Proof übertragen wird und keine weiteren personenbezogenen Daten fließen, wäre das aus Datenschutzsicht grundsätzlich positiv. Entscheidend ist aber, dass diese Beschränkung technisch verbindlich umgesetzt wird und Plattformen nicht zusätzliche Daten anfordern können.

Was halten Sie davon, das Alter über Nutzungsverhalten oder KI-Schätzungen zu bestimmen?

Das halte ich für problematisch. Zum einen sind solche Verfahren unzuverlässig, weil Interessen nichts Eindeutiges über das Alter aussagen. Zum anderen wäre eine Analyse des Surfverhaltens oder biometrischer Merkmale äußerst invasiv. Außerdem müssten Nutzer darauf vertrauen, dass Daten tatsächlich gelöscht werden und nicht doch weiterverarbeitet werden.

In Australien zeigt sich zum Beispiel, dass bisherige technische Umsetzungen leicht umgangen werden können. Es gibt inzwischen zahlreiche Möglichkeiten, Altersprüfungen mit KI-Werkzeugen, Browser-Erweiterungen oder über volljährige Personen zu umgehen. Deshalb bleibt der wirksamste Ansatz, Plattformen selbst sicherer zu gestalten, statt ausschließlich auf Zugangskontrollen zu setzen.

Welche langfristigen Risiken sehen Sie bei einer verpflichtenden digitalen Altersverifikation?

Selbst wenn ein System zunächst datensparsam aufgebaut wird, entsteht damit eine Infrastruktur, die später verändert werden kann. Datenschutzmechanismen lassen sich nachträglich abschwächen. Ist eine solche Infrastruktur einmal etabliert, wird es deutlich einfacher, weitergehende Identifizierungs- oder Überwachungsfunktionen einzuführen.

Wenn eine Altersverifikation kommt, wie sollte sie dann umgesetzt sein?

Altersverifikation kann nur dann einen Mehrwert bieten, wenn sie datensparsam, pseudonym und verpflichtend auf das notwendige Minimum beschränkt ist. Sie darf nicht dazu führen, dass neue Identifizierungs- oder Trackingmöglichkeiten entstehen. Entscheidend ist außerdem, dass sie nicht als Ersatz für notwendige Verbesserungen bei Sicherheit und Plattformdesign verstanden wird.

Welche Rolle spielt dabei die EUDI-Wallet?

In der Wallet werden besonders sensible Identitätsdaten gespeichert. Deshalb muss ausgeschlossen sein, dass Plattformen mehr Informationen erhalten als unbedingt erforderlich. Gerade wenn künftig auch Jugendliche die Wallet nutzen sollen, ist das besonders wichtig. Es darf nicht passieren, dass sich dadurch neue Geschäftsmodelle entwickeln, um noch mehr personenbezogene Daten zu sammeln.

Die Wallet soll freiwillig bleiben. Deshalb muss es ohnehin alternative Verfahren geben. Welche das konkret sein sollen und welche Datenschutzstandards dort gelten, ist bislang aber nicht ausreichend geklärt.

Welchen Nutzen sehen Sie insgesamt in der europäischen digitalen Brieftasche?

Genau das ist für mich derzeit eine zentrale, offene Frage. Welches Problem löst die Wallet eigentlich für Verbraucherinnen und Verbraucher? Ein möglicher Vorteil ist zwar, dass sie europaweit interoperabel sein und Identitätsnachweise grenzüberschreitend erleichtern soll. Einen überzeugenden Mehrwert für den Alltag der Nutzerinnen und Nutzer sehe ich bislang aber nicht. Aus Verbrauchersicht wären beispielsweise echte pseudonyme Nutzungen digitaler Dienste interessant. Diese Möglichkeiten sind in der aktuellen Ausgestaltung noch nicht vorgesehen.

Wer profitiert aus Ihrer Sicht am stärksten von der Wallet?

Wenn man die Frage umdreht und nicht aus Sicht der Nutzerinnen und Nutzer, sondern aus Sicht der Unternehmen stellt, wird die Antwort einfacher. Für Unternehmen eröffnen sich neue Möglichkeiten, Menschen eindeutig zu identifizieren. Deshalb dürften vor allem Diensteanbieter von der Infrastruktur profitieren. Für Verbraucherinnen und Verbraucher ist der Mehrwert bislang deutlich weniger klar erkennbar.

Die Debatte konzentriert sich derzeit stark auf Kinder und Jugendliche. Müsste der Blick nicht grundsätzlich weiter gefasst werden? Viele Menschen – unabhängig vom Alter – verfügen über unterschiedliche digitale Kompetenzen oder sind mit den Mechanismen moderner Plattformen wenig vertraut.

Ja. Bei Betrugsmaschen, Identitätsdiebstahl oder Scams gibt es Betroffene in allen Altersgruppen. Es handelt sich nicht um ein Problem ausschließlich von Kindern und Jugendlichen. Wer digitale Dienste sicher nutzen kann, hängt nicht allein vom Alter ab. Deshalb sollte der Schutz grundsätzlich allen Nutzerinnen und Nutzern zugutekommen, die besonderen Risiken ausgesetzt sind.


(mack)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Busy Bar: Erweiterbares Statusdisplay mit Pomodoro-Timer


Die Busy Bar stammt von Flipper Devices, den Erfindern des Security-Gadgets Flipper Zero. Dieses erweiterbare Multitalent rund um Funk- und Nahbereichsprotokolle besticht durch sein ungewöhnliches Design und Bedienkonzept. Der Anspruch setzt sich bei der Busy Bar fort, deren Farbgebung in Weiß und Orange der des Flippers gleicht.

Weiterlesen nach der Anzeige

Sie wird über physische Bedienelemente gesteuert: Ein Wahlhebel schaltet das Gerät an und zwischen Betriebsmodi um, mit einem Klickrad scrollt der Benutzer in Menüs und bestätigt seine Wahl per Tastendruck. Das wichtigste Element ist ein LC-Display mit knapp 17 cm Diagonale und 72×16 Pixel. Die LEDs passen ihre Helligkeit der Umgebung an, können aber auch von Hand eingestellt werden. Neben dem großen Frontdisplay befindet sich an der Rückseite eine mit knapp 4 cm Diagonale deutlich kleinere monochrome Anzeige, die mit 160×80 Pixel auflöst. Aus der Packung purzeln nach der Busy Bar ein 2 m langes Kabel mit zwei USB-C-Steckern und eine Kurzanleitung.


Busy Bar mit c't-Logo

Busy Bar mit c't-Logo

Mit dem eingebauten Malprogramm sind Bildchen wie dieses schnell gebastelt.

(Bild: Christopher Kunz / heise medien)

Das USB-Kabel dient zum Laden des 3250mAh-Akkus, der mit einer Ladung nach Herstellerangaben etwa siebeneinhalb Stunden durchhält. Im Stand-by-Betrieb braucht die Busy Bar nach etwa einer Woche eine Nachladung. Doch der USB-C-Port dient nicht nur der Stromversorgung, sondern auch als Netzwerkanschluss (Ethernet over USB). Zudem beherrscht die Busy Bar Bluetooth Low Energy und WLAN im 2,4-GHz-Band.

Die Busy Bar kann man auf dem Schreibtisch stellen oder mit zwei ausklappbaren Haken auch an der Oberkante des Monitors befestigen. Dieser darf dafür jedoch nicht dicker als zwei Zentimeter sein.

Pomodoro-Timer und Kollegen-Info

Erfinder Pavel Zhovner beschreibt seinen Anspruch an das Gerät folgendermaßen: „Wir haben die BUSY Bar entwickelt, um Konzentration greifbar zu machen“ – und das funktioniert mit etwas Disziplin recht gut.

Weiterlesen nach der Anzeige

In ihrem Kern ist die Busy Bar ein Pomodoro-Timer, der die Arbeitszeit in Fokus- und Pausenphasen einteilt. Die Pomodoro-Technik setzt auf konzentrierte Arbeitsphasen, die von vielen kurzen Pausen unterbrochen werden. Mit dem Scrollrad setzt man die gewünschte Fokuszeit, etwa auf zwanzig Minuten, betätigt den großen Startknopf und legt mit der konzentrierten Arbeit los. Endet die Fokuszeit, legt man eine fünfminütige Pause ein und beginnt dann von vorn. Ist das große Display dem Büronachbarn zugewandt, sieht dieser den Timer neben einer von gut einem Dutzend Botschaften von „Busy“ (beschäftigt) über „on air“ (auf Sendung) bis „low social battery“ (soziale Batterie niedrig), der Verwender kann die Restzeit auf der kleineren rückwärtigen Anzeige ablesen.

Ähnlich wie ihr Cousin, der Flipper Zero, läuft die Busy Bar erst dank ihres Ökosystems zu Hochform auf. Den Anfang machen Apps für iOS, Android und macOS, die sich mit der Busy Bar verbinden und Ablenkungen weiter reduzieren. So werden störende Apps wie Social Media, Nachrichten und sogar die Kamera während einer Fokusphase gesperrt – der Nutzer kann die Auswahl über Kategorien und Einzel-Apps nach Belieben einschränken. Ist die Busy Bar mit dem Mac gekoppelt und dort die App gestartet, wechselt die Anzeige automatisch auf „on call“, wenn der Anwender einer Videokonferenz beitritt. Das funktioniert mittels Überwachung der Mikrofonnutzung und klappte in unserem Test sowohl mit Microsoft Teams als auch mit browserbasierten Konferenzen.

Doch nicht nur per App können Bastler mit der Busy Bar eigene Ideen umsetzen. Ihre Unterstützung für den Smarthome-Standard dient als Ausgangspunkt für Automatisierungen im Homeoffice, und mit einer RESTful API lässt sich das Gerät übers WLAN oder die herstellereigene Cloud fernsteuern. Einen Cloud-Zwang gibt es nicht; alle Funktionen sind auch ohne App-Anbindung verfügbar.


Screenshot Busy Bar WebUI

Screenshot Busy Bar WebUI

Mit dem Web-UI kann man Einstellungen vornehmen, die Firmware aktualisieren oder Bildchen auf der Busy Bar anzeigen.

Künftig können Entwickler Apps in Javascript für die Busy Bar entwickeln und in einem durch Flipper Devices verwalteten Marktplatz bereitstellen, auch weitere Integrationen in Software wie Notion, Upwork und Slack sind geplant. Ob als Fitness-Timer, für Fahrplaninformationen oder ganz andere Anwendungen – der Fantasie sind kaum Grenzen gesetzt. Und künstlerischen Naturen bietet das Webinterface ein Malprogramm für kleine Botschaften auf dem Pixel-LCD.

Die Busy Bar ist eine interessante und hochwertig ausgeführte Designstudie. Sie macht sich gut auf dem Schreibtisch oder Monitor im Großraumbüro. Ihre Kernfunktion – der optische Hinweis auf Fokuszeit – bringt ohne App-Unterstützung dann am meisten, wenn Kollegen die Hauptquelle für Ablenkungen sind. Im Zusammenspiel mit der iOS- und Android-App hilft das Gadget, Ablenkungen auch im Einzelbüro zu reduzieren.

Das Gerät hat jedoch seinen Preis: Nach einer Einführungsphase verlangt Flipper Devices 219 Euro für die Busy Bar. Immerhin: Der Versand ist kostenlos und auch Zoll oder Einfuhrumsatzsteuer muss der Besteller nicht abführen. Wer bei diesem Preis nicht zurückschreckt, erhält ein schon jetzt durchdacht wirkendes Gadget mit viel Potenzial für künftige Erweiterungen. Wer jedoch nur ein Pixeldisplay sucht, findet günstigere Alternativen, wie zum Beispiel die Ulanzi TC001.

Die Busy Bar ist auf der Website des Herstellers unter busy.app erhältlich.

Hersteller, URL Flipper Devices,
Maße 17x5x4cm
Akkulaufzeit (Betrieb/Standby) 7,5h / ca. 1 Woche (Herstellerangabe)
Konnektivität Bluetooth LE, WLAN, USB-C  
Anbindung an Ökosysteme Matter, iOS, Android, API
Preis 219 €


(cku)



Source link

Weiterlesen

Künstliche Intelligenz

Jugendmedienschutz: Warum Politik und Eltern mehr für Minderjährige tun müssen


Wer einen Spielplatz baut, muss Normen einhalten. Die Höhe von Klettergerüsten ist ebenso geregelt wie die Beschaffenheit von Fallschutzflächen. Steckdosen erhalten Kindersicherungen, an Grundschulen gilt Tempo 30. Über Jahrzehnte haben Gesetzgeber, Hersteller und Pädagogen ein dichtes Netz aus Sicherheitsvorkehrungen zum Schutz von Kindern und Jugendlichen geschaffen.

Im digitalen Raum manövrieren Kinder durch Umgebungen, die ursprünglich für Erwachsene entwickelt wurden. Empfehlungsalgorithmen bestimmen, welche Videos, Bilder oder Beiträge Kinder überhaupt zu sehen bekommen. Messenger ermöglichen den Kontakt zu Fremden. Viele der Dienste erklären zwar in ihren Nutzungsbedingungen, sie richten sich nur an Personen ab 13 Jahren oder älter. Tatsächlich gehören Kinder und Jugendliche aber zu ihren wichtigsten Nutzergruppen.

Während der Schutz von Kindern in der analogen Welt über Jahrzehnte zu einem selbstverständlichen Leitprinzip wurde, entwickelte sich das Internet zunächst weitgehend ohne vergleichbare Schutzmechanismen. Erst in den vergangenen Jahren hat sich die Debatte um den Jugendschutz im Netz spürbar verschoben. Auch aufgrund neuer Studienergebnisse denken die Politik und Medienpädagogik zurzeit um. Die Architektur digitaler Dienste rückt in den Mittelpunkt. Der Artikel zeigt anhand aktueller Studien, wo konkrete Risiken liegen, wie Plattformdesign sie verstärkt und warum politische Antworten bislang nur begrenzt greifen.


Das war die Leseprobe unseres heise-Plus-Artikels „Jugendmedienschutz: Warum Politik und Eltern mehr für Minderjährige tun müssen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

CAPTCHAs reichen nicht mehr: Cloudflare stellt neue Bot-Erkennung vor


Cloudflare führt mit Precursor ein neues Verfahren zur Bot-Erkennung ein, welches das Verhalten von Besuchern über eine gesamte Websitzung hinweg auswertet. Statt nur einzelne Aktionen wie Login oder Checkout zu prüfen, sammelt das System fortlaufend Signale aus dem Browser. So soll es automatisierte Zugriffe zuverlässiger von menschlichen Nutzern unterscheiden. Die Funktion ergänzt Cloudflares Bot-Management und den CAPTCHA-Ersatz Turnstile zunächst als optionales Enterprise-Feature.

Weiterlesen nach der Anzeige

Verhaltensanalyse über die gesamte Sitzung

Nach Angaben von Cloudflare schließt Precursor eine Lücke der klassischen Bot-Abwehr: Moderne Bots können JavaScript ausführen, echte Browser verwenden und einzelne CAPTCHA-Prüfungen bestehen. Schwieriger sei es hingegen, menschliches Verhalten über einen längeren Zeitraum konsistent nachzubilden.

Dafür bindet Cloudflare beim Ausliefern von HTML-Seiten automatisch ein kompaktes JavaScript-Skript ein. Es erfasst während der Sitzung unter anderem Mausbewegungen, Tastaturaktivität, Fokuswechsel und Sichtbarkeitsänderungen der Seite. Die Daten werden fortlaufend an Cloudflares Auswertungsplattform übertragen und fließen in den Bot-Score sowie bestehende Schutzmechanismen ein.

Zum Beispiel kann das System erkennen, wenn Tastatureingaben auftreten, obwohl kein Eingabefeld aktiv ist, oder wenn Mausbewegungen nicht zu der Zeit passen, in der eine Seite tatsächlich sichtbar war. Solche Inkonsistenzen sind zusätzliche Indikatoren für automatisierte Zugriffe.

Menschliche Bewegungsmuster als Erkennungsmerkmal

Cloudflare begründet den Ansatz damit, dass menschliche Mausbewegungen durch biomechanische und kognitive Faktoren geprägt sind – etwa die Drehbewegung des Handgelenks, messbare Verzögerungen durch kognitive Verarbeitung und das physiologische Handzittern. Automatisierte Werkzeuge erzeugen dagegen häufig mathematisch ideale Bewegungsbahnen oder wiederkehrende Muster.

Entscheidend sei dabei nicht ein einzelnes Ereignis, sondern die Gesamtheit der Interaktionen innerhalb einer Sitzung. Da Precursor sitzungsbasiert arbeitet, soll ein Bot seine Bewertung auch nicht durch einfaches Neuladen einer Seite zurücksetzen können.

Weiterlesen nach der Anzeige

Parallel führt Cloudflare neue sitzungsbezogene Ansichten in Security Analytics ein. Administratoren sollen damit komplette Nutzerpfade analysieren können, statt lediglich einzelne HTTP-Anfragen zu betrachten.

Datenschutz soll berücksichtigt werden

Der Ansatz ist datenschutzrechtlich zumindest fragwürdig. Cloudflare betont in der Ankündigung jedoch, dass Precursor unter Datenschutzgesichtspunkten entwickelt worden sei. So würden bei der Tastaturerfassung beispielsweise nur zeitliche Muster und Eingaberhythmen ausgewertet, nicht jedoch die tatsächlich gedrückten Tasten. Die gesammelten Verhaltensdaten würden zudem aggregiert verarbeitet und weder Benutzerkonten noch dauerhaften Identitäten zugeordnet.

Precursor wird nach Angaben des Unternehmens derzeit eingeführt und lässt sich über das Cloudflare-Dashboard aktivieren. Bis zur allgemeinen Verfügbarkeit im Laufe des Jahres soll die Funktion kostenlos nutzbar sein, anschließend wird sie Teil von Cloudflares Enterprise Bot Management sein.

Lesen Sie auch


(fo)



Source link

Weiterlesen

Beliebt