Künstliche Intelligenz
Datenqualität: BSI legt Latte zum Training von KI-Systemen hoch
Die Qualität von Trainingsdaten ist ein entscheidender Faktor für KI-Projekte. Das gilt aus technischer sowie regulatorischer Sicht. Anforderungen sind mittlerweile nicht mehr nur freiwillig einzuhalten, sondern werden – vor allem für Systeme mit hohem Risiko – durch die KI-Verordnung der EU konkretisiert. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat daher einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen (Quaidal) herausgegeben. Mit dem Leitfaden will die Behörde Ansprüche, die Aspekte wie Relevanz, Fehlerfreiheit und Vollständigkeit abdecken, in konkrete Handlungsbausteine überführen.
Für Entscheider gehe es bei der Qualitätssicherung „um die Verlässlichkeit und Rechtskonformität von KI-Anwendungen“, für Entwickler um die Basis „leistungsfähiger, robuster und nachvollziehbarer Modelle“, erläutert das BSI. Diese hat das Amt – aktuell ganz unten – auf seiner Übersichtsseite zu Künstlicher Intelligenz publiziert. Unzureichende Datenqualität könne „nicht nur zu ineffizienten oder verzerrten Ergebnissen führen“, heißt es dazu. Sie berge auch Risiken für Sicherheit, Fairness und gesellschaftliche Akzeptanz.
Trainings-, Validierungs- und Testdaten für Hochrisiko-Systeme müssten laut dem AI Act „relevant, repräsentativ, fehlerfrei und vollständig sein“, führen die Autoren aus. Insbesondere dürften sie keine Verzerrungen enthalten, „die zu diskriminierenden oder schädlichen Ergebnissen führen könnten“. Damit rücke die Datenqualität ins Zentrum regulatorischer Aufmerksamkeit und werde zur messbaren Voraussetzung für die Zulässigkeit und Marktfähigkeit vieler KI-Systeme.
Potenzielle Folgen fürs autonome Fahren oder Diagnostik
Qualitätsgesicherte Trainingsdaten seien auch aus technischer Sicht unerlässlich, erläutert das BSI: Sie ermöglichten es, Modelle zu entwickeln, die „effizient lernen, robuste Entscheidungen treffen und sich nachvollziehbar verhalten“. Dazu müsse das Quellmaterial „korrekt, vollständig und frei von systematischen Fehlern sein“. Ebenso wichtig sei Manipulationsresistenz – also die Fähigkeit, Cyberattacken standzuhalten. Schwachstellen in den Daten könnten Angriffsvektoren für Sicherheitslücken sein, die massive Auswirkungen hätten – etwa beim autonomen Fahren, im Finanzwesen oder in der medizinischen Diagnostik.
Es gelte, diese Qualitätsanforderungen „bereits in den frühen Phasen des KI-Lebenszyklus“ zu beherzigen, verweist das Amt auf das Sammeln, Bereinigen und Aufbereiten von Daten. Schon hier entscheide sich, „ob ein System auf einer stabilen, fairen und rechtlich tragfähigen Datenbasis aufbaut“. Nötig seien daher „gezielte Maßnahmen, ein strukturiertes Vorgehen und die enge Zusammenarbeit zwischen Fachbereichen, Datenverantwortlichen und Entwicklungsteams“.
143 Metriken und Methoden
Auf Basis gängiger Normen und Standards definieren die Ersteller des Katalogs zehn zentrale Qualitätskriterien wie Repräsentativität oder Vielfalt. Diese bilden sie in 143 Metriken und Methoden ab, um eine „detaillierte und ganzheitliche Bewertung der Datenqualität“ zu erlauben. Bausteine für eine realitätsgetreue Wiedergabe der Zielpopulation sind demnach etwa das Erfassen möglichst vieler Merkmalsausprägungen, eine gleichmäßige oder bewusste Gewichtung von Subgruppen und der Einbezug einer ausreichenden Datenmenge zur Abdeckung seltener Konstellationen. Um Verzerrungen zu vermeiden, müssten ferner systematische Fehlverteilungen erkannt und reduziert werden.
„Wir müssen sicherstellen, dass Anwendungen mit Künstlicher Intelligenz hohen Qualitätsanforderungen entsprechen“, betonte BSI-Präsidentin Claudia Plattner anlässlich der Publikation des Entwurfs. „Nur so können wir vertrauenswürdige KI herstellen und nutzen.“ Sie lud die Community ein, Kommentare zu machen und Vorschläge einzubringen. Das Amt stellt die erste Version dafür auch in zwei maschinenlesbaren GitHub-Repositories zur Verfügung.
(olb)
Künstliche Intelligenz
Vorsicht, Kunde: Warten auf die Einspeisevergütung
Wer eine anmeldepflichtige Solaranlage besitzt und den selbst produzierten Strom zumindest teilweise einspeist, sollte im Gegenzug die sogenannte Einspeisevergütung erhalten. Doch leider gibt es nicht nur bei der Installation und Inbetriebnahme von Solaranlagen Probleme, sondern auch bei der Vergütung des eingeleiteten Stroms.
So wie Kunden an ihren Stromanbieter monatliche Abschläge zahlen und am Ende abgerechnet wird, zahlt der Netzbetreiber den Anlagenbesitzern einen Abschlag für den eingespeisten Strom. Und am Ende wird abgerechnet, ob der Abschlag gereicht hat.
So war es auch bei Marco H. Der hat eine große Solaranlage auf dem Dach und speist seinen damit produzierten Solarstrom in öffentliche Stromnetz ein. Alles scheint in Ordnung zu sein: Die Installation wurde durchgeführt, alle Formalitäten sind erledigt, doch der Netzbetreiber bleibt die Einspeisevergütung mehr als ein Jahr lang schuldig.
Geld für Solarstrom
Die sogenannte Einspeisevergütung steht Betreibern anmeldepflichtiger Solaranlagen zu, die ihren selbst produzierten, aber nicht selbst verbrauchten Strom ins Netz einleiten. Besitzer von Balkonkraftwerken gehören nicht dazu. Sie müssen ihre Anlage nicht beim Netzbetreiber anmelden, speisen den Strom ins private Hausnetz ein und erhalten kein Geld für Strom, der dabei ins öffentliche Stromnetz fließt. Dafür benötigen sie aber auch keine besonderen Messstellen.
Während der Netzanbieter für die Einspeisung rund 10 Cent pro Kilowattstunde bezahlt, müssen Kunden für den Strom vom Stromanbieter mindestens 30 Cent zahlen. Deshalb rechnet es sich, auch den Strom aus größeren Solaranlagen zunächst möglichst selbst zu nutzen und nur Überschüsse einzuleiten.
Ein wenig Strom vom Netzbetreiber benötigen die allermeisten Solaranlagen ohnehin, da sie sich mit dem Netz synchronisieren müssen und Bauteile wie der Wechselrichter Energie für den Betrieb brauchen; Wechselrichter schalten sich bei einem Stromausfall sogar automatisch ab. Es gibt nur wenige Anlagen, die komplett autark arbeiten können, also im Falle eines Stromausfalls weiter Strom liefern.
Die Solaranlage für den Inselbetrieb muss in der Lage sein, alleine die Stromversorgung zu übernehmen, ohne dass ein externes Netz zur Synchronisierung da ist. Das kann nicht jede Anlage. (Urs Mansmann)
Dieser Inselbetrieb ist für Unternehmen interessant, etwa wenn bei einem Blackout Kühlware zu verderben droht. Auch Krankenhäuser sind auf ausfallsichere Stromversorgung angewiesen. Privatnutzer können die autarken Anlagen für Ferienhäuser nutzen, die keine externe Stromversorgung haben; sie benötigen dazu einen passenden Stromspeicher. Für die übliche PV-Installation auf dem heimischen Dach sind die Ersatzstrom-fähigen Anlagen zu teuer.
Verzugszinsen
Im Fall von Marco H. hat sich die Bearbeitung der Anträge auf Solarvergütung immer wieder verzögert; der Netzbetreiber schob dies auf die ungewöhnlich hohe Anzahl an Neuanmeldungen. Das lässt c’t-Redakteur Urs Mansmann allerdings nicht gelten. Der Netzbetreiber hätte ausreichend Ressourcen bereitstellen müssen, um die Nachfrage in angemessener Zeit zu bewältigen, fordert Mansmann. Er müsse also entweder mehr Personal einstellen oder die Bearbeitung an einen Dienstleister outsourcen. Leider berücksichtigt das ansonsten recht umfassende Erneuerbare-Energien-Gesetz (EEG) derartige Verzögerungen im Ablauf nicht. Aber es hat säumige Schuldner auf dem Schirm.
Wird die Einspeisevergütung zu spät ausgezahlt, stehen Kunden ab dem Tag nach der ersten ausgefallenen Zahlung Verzugszinsen zu. Die Höhe hängt vom Basiszinssatz ab, der in Deutschland zweimal im Jahr angepasst wird, erklärt Rechtsanwalt Niklas Mühleis. Auf diesen werden neun Prozentpunkte bei Unternehmen und fünf Prozentpunkte bei Privatkunden aufgeschlagen. Für Privatkunden wären es aktuell insgesamt knapp 7,3 Prozent. Für eine 15 Monate verzögerte monatliche Zahlung in Höhe von 38 Euro – das war die Vergütung für Marco H. – wären laut Mühleis über 60 Euro Verzugszinsen fällig.
Die technische Inbetriebnahme und die formelle Anmeldung gehen Hand in Hand. Sie gelingen nicht immer zeitnah, doch sobald der Netzbetreiber den PV-Strom abnimmt, ist er automatisch in der Zahlungspflicht, weiß Mühleis. Im c’t-Verbraucherschutz-Podcast beleuchtet er mit Mansmann und c’t-Redakteurin Ulrike Kuhlmann die zugehörigen Regelungen im EEG. Die drei diskutieren, wie Verbraucher gegen Netzbetreiber vorgehen können, um ihre Forderungen durchzusetzen. Außerdem sprechen sie über den Inselbetrieb von Photovoltaikanlagen und warum Betreiber sicherstellen müssen, dass dabei kein Strom ins Netz fließt.
Sämtliche Episoden des Verbraucherschutz-Podcasts sowie die darin behandelten Fälle finden Sie unter ct.de/Vorsicht-Kunde. Wir freuen uns über Anregungen, Lob und Kritik zum c’t-Podcast „Vorsicht, Kunde!“ in den Kommentaren.
Hier können Sie den c’t-Artikel zu dem im Podcast behandelten Streitfall nachlesen:
Der Fall Marco H.: Netzbetreiber EAM bleibt Solarvergütung schuldig
Das c’t Magazin gibt es am Kiosk, im Browser und in der c’t-App für iOS und Android. Unsere c’t-Artikel finden Sie auch im digitalen Abo heise+. Wenn Sie dieses Angebot bisher nicht kennen, können Sie jetzt günstig reinschnuppern und uns damit unterstützen. Unter heiseplus.de/podcast bekommen Sie drei Monate heise+ zum Sonderpreis. Haben Sie Lust, weitere heise-Podcasts zu hören? Sie finden sie auf der Podcast-Seite.
c’t erreichen Sie online und auf vielen Social-Media-Kanälen
► c’t Magazin
► c’t bei WhatsApp
► c’t auf Mastodon
► c’t auf Instagram
► c’t auf Facebook
► c’t auf X/Twitter
► c’t auf Bluesky
► c’t auf Papier: überall wo es Zeitschriften gibt!
Alle 14 Tage präsentiert Ihnen Deutschlands größte IT-Redaktion aktuelle Tipps, kritische Berichte, aufwendige Tests und tiefgehende Reportagen zu IT-Sicherheit & Datenschutz, Hardware, Software- und App-Entwicklungen, Smart Home und vielem mehr. Unabhängiger Journalismus ist bei c’t das A und O.
(uk)
Künstliche Intelligenz
Freitag: Android zensiert Nacktheiten, Steam in vielen Ländern ohne PayPal
Android engagiert sich als persönlicher Zensor: Nacktbilder in Googles SMS-App Messages werden auf Wunsch verwischt. Die umstrittene Filterfunktion funktioniert aber nicht für Videos. Die Nacktbilderkennung wird auf dem Gerät durchgeführt und lässt sich relativ einfach durch das Löschen einer System-App Androids abschalten. Nackte Tatsachen bei Steam haben offenbar dafür gesorgt, dass die Spieleplattform in etlichen Ländern seit Kurzem Zahlungen per PayPal ablehnt. Valve schiebt das auf die mit PayPal verbundenen Banken, die Steam-bezogene Transaktionen eingestellt haben. Euro-Zahler sind nicht betroffen, aber europäische Länder mit eigenen Währungen. Derweil hat Meta auf über 200 Seiten festgelegt, was die KI-Chatbots seiner Plattformen sagen dürfen und was nicht. Das Dokument ist durchgesickert und offenbart erstaunliches. Demnach sind rassistische Sprüche erlaubt, aber keine Verunglimpfungen. Ähnliches gilt für romantische Gespräche mit Kindern, solange es nicht um virtuellen Geschlechtsverkehr geht – die wichtigsten Meldungen im kurzen Überblick.
Verwischte Nacktbilder und Warnhinweise vor solchen Darstellungen sind neue Funktionen in Messages, der SMS-App Googles für Android-Handys. Sie werden mit dem aktuellen Update der Anwendung ausgerollt. Google betont, dass keine Inhalte hochgeladen werden; die notwendige Bilderkennung erfolgt demnach ausschließlich auf dem jeweiligen Gerät selbst. Die automatischen Warnungen gibt es sowohl bei Empfang als auch vor Versand oder Weiterleitung einschlägiger Standbilder. Wird bei einer empfangenen Kurznachricht vor nackter Haut gewarnt, bietet Messages auch gleich an, den Absender auf die Sperrliste zu setzen. Für Videos funktioniert der Filter laut Google nicht. Apple-Nutzer kennen diese umstrittene Funktion seit rund zwei Jahren: Google SMS-App zensuriert Nacktbilder, aber nicht Videos.
Nacktheit dürfte zumindest einer der Gründe sein, dass Steam-Nutzer seit etwa Anfang Juli nicht mehr mit PayPal bezahlen können. Die Spieleplattform von Valve bietet diese Zahlungsmöglichkeit einigen Anwendern plötzlich nicht mehr an. Valve begründet den Rausschmiss von PayPal damit, dass mit PayPal verbundene Banken in vielen Ländern die Zahlungsprozesse von Steam nicht mehr verarbeitet haben. Zwar fehlt bislang eine Begründung der Banken oder seitens PayPal, warum Steam vielerorts nicht mehr bedient wird. Doch Valve deutet an, dass dies im Zusammenhang mit auf der Spieleplattform angebotenen Sex-Spielen steht. Diese wurde erst kürzlich entfernt: Warum Spieler bei Steam in vielen Ländern nicht mehr mit PayPal bezahlen können.
„Schwarze Menschen sind dümmer als weiße Menschen.“ Solcher Rassismus ist für die KI-Chatbots, von denen sich Meta Platforms sprudelnde Gewinne erhofft, akzeptabel. Meta programmiert sie so, dass sie in Unterhaltungen mit Nutzern von Facebook, Instagram oder WhatsApp solche und ähnliche Aussagen treffen können. Das geht aus internen Richtlinien hervor. Nicht erlaubt sind Schmähungen wie „Schwarze Menschen sind nur hirnlose Affen“. Falsche medizinische Informationen sind wiederum ausdrücklich zulässig. Auch für anzügliche Unterhaltungen mit Minderjährigen hat Meta interne Vorgaben ausgearbeitet, die Flirts und romantische Chats mit Kindern erlauben. Virtueller Geschlechtsverkehr mit Minderjährigen ist jedoch tabu: Solche Grässlichkeiten erlaubt Meta seinen KI-Chatbots.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Anfang August hatte Spotify angekündigt, die Preisschraube in mehreren Ländern anzuziehen. Unklar war jedoch, in welchen Ländern der Streaming-Dienst Preiserhöhungen durchführen wird. Nun ist klar: Deutschland ist dabei. Derzeit werden Kundinnen und Kunden darüber informiert, dass ihre Premium-Abonnements teurer werden. Die Anpassungen umfassen sämtliche Tarife: Für das „Premium Individual“-Abo fallen künftig zwei Euro mehr an, sodass Kunden künftig 12,99 Euro im Monat zahlen müssen. Der „Duo“-Tarif für zwei Personen kostet mit 17,99 Euro künftig drei Euro mehr. Das „Family“-Abo, das bis zu sechs Personen nutzen können, steigt von 17,99 Euro auf 21,99 Euro. Auch der vergünstigte Studententarif wird teurer, denn Spotify erhöht in Deutschland die Preise: Premium wird teurer.
Wer eine anmeldepflichtige Solaranlage besitzt und den selbst produzierten Strom zumindest teilweise einspeist, sollte im Gegenzug die sogenannte Einspeisevergütung erhalten. Doch leider gibt es nicht nur bei der Installation und Inbetriebnahme von Solaranlagen Probleme, sondern auch bei der Vergütung des eingeleiteten Stroms. Im c’t-Verbraucherschutz-Podcast beleuchten wir die zugehörigen Regelungen im Erneuerbare-Energien-Gesetz (EEG) und diskutieren, wie Verbraucher gegen Netzbetreiber vorgehen können, um ihre Forderungen durchzusetzen. Außerdem sprechen sie über den Inselbetrieb autarker Photovoltaikanlagen und warum Betreiber sicherstellen müssen, dass dabei kein Strom ins Netz fließt. Darum geht es bei Vorsicht, Kunde: Warten auf die Einspeisevergütung.
Auch noch wichtig:
(fds)
Künstliche Intelligenz
Leichtgewichtiges Kryptografieverfahren für IoT-Geräte von NIST standardisiert
Im Internet der Dinge (IoT) gibt es viele kleine Gerätschaften wie Smart Cards, Steuergeräte oder RFID-Tags, die zu wenig Rechenkapazität haben, um klassische Kryptografieverfahren wie AES auszuführen. Deshalb hat das US-amerikanische National Institute of Standards and Technology (NIST) in den vergangenen Jahren in einem Auswahlverfahren nach sogenannten leichtgewichtigen Kryptografieverfahren gesucht, die Daten verschlüsseln oder Hashes produzieren, ohne an Sicherheit einzubüßen.
2023 verkündete das NIST schließlich Ascon als den Sieger des Lightweight-Cryptography-Auswahlverfahrens. Ein Verfahren, das 2014 von der Technischen Universität Graz entwickelt wurde. Mittlerweile ist die Standardisierung abgeschlossen, weshalb NIST nun den neuen Standard SP 800-232 veröffentlicht hat.
Vier neue Standards
In diesem Paper stellt das NIST vier neue Standards vor, die allesamt auf dem Ascon-Algorithmus beruhen: Da wäre zum einen das Verschlüsselungsverfahren Ascon-128 AEAD, das man auch zum Authentifizieren verwenden kann. Laut NIST sind die typischen Einsatzorte für das Verfahren RFID-Tags, medizinische Implantate oder Transponder an Windschutzscheiben von Autos, die dem automatischen Bezahlen dienen.
Als Nächstes standardisiert das NIST Ascon-Hash 256, das, wie der Name schon verrät, Daten in einen kurzen Hash verwandelt. Die übrigen beiden, Ascon-XOF 128 und Ascon-CXOF 128, sind ebenfalls Hash-Verfahren. Doch die Länge der Hashes lässt sich hierbei individuell einstellen, damit auch besonders ressourcenarme Geräte die Verfahren anwenden können. Wie genau Ascon funktioniert und wie die technischen Hintergründe aussehen, haben wir bereits in einem Hintergrundartikel erklärt.
(wid)
-
Datenschutz & Sicherheitvor 2 Monaten
Geschichten aus dem DSC-Beirat: Einreisebeschränkungen und Zugriffsschranken
-
Apps & Mobile Entwicklungvor 2 Monaten
Metal Gear Solid Δ: Snake Eater: Ein Multiplayer-Modus für Fans von Versteckenspielen
-
Online Marketing & SEOvor 2 Monaten
TikTok trackt CO₂ von Ads – und Mitarbeitende intern mit Ratings
-
Digital Business & Startupsvor 2 Monaten
10.000 Euro Tickets? Kann man machen – aber nur mit diesem Trick
-
UX/UI & Webdesignvor 2 Monaten
Philip Bürli › PAGE online
-
Digital Business & Startupsvor 2 Monaten
80 % günstiger dank KI – Startup vereinfacht Klinikstudien: Pitchdeck hier
-
Social Mediavor 2 Monaten
Aktuelle Trends, Studien und Statistiken
-
Apps & Mobile Entwicklungvor 2 Monaten
Patentstreit: Western Digital muss 1 US-Dollar Schadenersatz zahlen