Die Qualität von Trainingsdaten ist ein entscheidender Faktor für KI-Projekte. Das gilt aus technischer sowie regulatorischer Sicht. Anforderungen sind mittlerweile nicht mehr nur freiwillig einzuhalten, sondern werden – vor allem für Systeme mit hohem Risiko – durch die KI-Verordnung der EU konkretisiert. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat daher einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen (Quaidal) herausgegeben. Mit dem Leitfaden will die Behörde Ansprüche, die Aspekte wie Relevanz, Fehlerfreiheit und Vollständigkeit abdecken, in konkrete Handlungsbausteine überführen.

Für Entscheider gehe es bei der Qualitätssicherung „um die Verlässlichkeit und Rechtskonformität von KI-Anwendungen“, für Entwickler um die Basis „leistungsfähiger, robuster und nachvollziehbarer Modelle“, erläutert das BSI. Diese hat das Amt – aktuell ganz unten – auf seiner Übersichtsseite zu Künstlicher Intelligenz publiziert. Unzureichende Datenqualität könne „nicht nur zu ineffizienten oder verzerrten Ergebnissen führen“, heißt es dazu. Sie berge auch Risiken für Sicherheit, Fairness und gesellschaftliche Akzeptanz.

Trainings-, Validierungs- und Testdaten für Hochrisiko-Systeme müssten laut dem AI Act „relevant, repräsentativ, fehlerfrei und vollständig sein“, führen die Autoren aus. Insbesondere dürften sie keine Verzerrungen enthalten, „die zu diskriminierenden oder schädlichen Ergebnissen führen könnten“. Damit rücke die Datenqualität ins Zentrum regulatorischer Aufmerksamkeit und werde zur messbaren Voraussetzung für die Zulässigkeit und Marktfähigkeit vieler KI-Systeme.

Potenzielle Folgen fürs autonome Fahren oder Diagnostik

Qualitätsgesicherte Trainingsdaten seien auch aus technischer Sicht unerlässlich, erläutert das BSI: Sie ermöglichten es, Modelle zu entwickeln, die „effizient lernen, robuste Entscheidungen treffen und sich nachvollziehbar verhalten“. Dazu müsse das Quellmaterial „korrekt, vollständig und frei von systematischen Fehlern sein“. Ebenso wichtig sei Manipulationsresistenz – also die Fähigkeit, Cyberattacken standzuhalten. Schwachstellen in den Daten könnten Angriffsvektoren für Sicherheitslücken sein, die massive Auswirkungen hätten – etwa beim autonomen Fahren, im Finanzwesen oder in der medizinischen Diagnostik.

Es gelte, diese Qualitätsanforderungen „bereits in den frühen Phasen des KI-Lebenszyklus“ zu beherzigen, verweist das Amt auf das Sammeln, Bereinigen und Aufbereiten von Daten. Schon hier entscheide sich, „ob ein System auf einer stabilen, fairen und rechtlich tragfähigen Datenbasis aufbaut“. Nötig seien daher „gezielte Maßnahmen, ein strukturiertes Vorgehen und die enge Zusammenarbeit zwischen Fachbereichen, Datenverantwortlichen und Entwicklungsteams“.

143 Metriken und Methoden

Auf Basis gängiger Normen und Standards definieren die Ersteller des Katalogs zehn zentrale Qualitätskriterien wie Repräsentativität oder Vielfalt. Diese bilden sie in 143 Metriken und Methoden ab, um eine „detaillierte und ganzheitliche Bewertung der Datenqualität“ zu erlauben. Bausteine für eine realitätsgetreue Wiedergabe der Zielpopulation sind demnach etwa das Erfassen möglichst vieler Merkmalsausprägungen, eine gleichmäßige oder bewusste Gewichtung von Subgruppen und der Einbezug einer ausreichenden Datenmenge zur Abdeckung seltener Konstellationen. Um Verzerrungen zu vermeiden, müssten ferner systematische Fehlverteilungen erkannt und reduziert werden.

„Wir müssen sicherstellen, dass Anwendungen mit Künstlicher Intelligenz hohen Qualitätsanforderungen entsprechen“, betonte BSI-Präsidentin Claudia Plattner anlässlich der Publikation des Entwurfs. „Nur so können wir vertrauenswürdige KI herstellen und nutzen.“ Sie lud die Community ein, Kommentare zu machen und Vorschläge einzubringen. Das Amt stellt die erste Version dafür auch in zwei maschinenlesbaren GitHub-Repositories zur Verfügung.

(olb)

Ein Wissenschaftsteam der University of Texas hat eine Methode entwickelt, mit der ein speziell entwickeltes Resin so ausgedruckt werden kann, dass es wahlweise feste oder weiche Materialeigenschaften annimmt. Ein mit diesem Resin gedrucktes Objekt kann also etwa eine weiche Außenhülle haben, aber trotzdem im Kern stabil sein.

Die Inspiration für das Druckverfahren habe die Natur gegeben, heißt es von Zak Page, Assistenzprofessor für Chemie und einer der Autoren der Studie „Hybrid epoxy–acrylate resins for wavelength-selective multimaterial 3D printing“, die in Nature Materials erschienen ist.

Die Natur kombiniert harte und weiche Materialien an ihrer Schnittstelle ohne Fehler, sagt Page. Genau das wollten die Forscher nachahmen. Dazu entwickelten sie ein spezielles flüssiges Resin für ein Druckverfahren, das ultraviolettes Licht (UV-Licht) zum Aushärten der einzelnen Schichten nutzt.

Lichtfarbe bestimmt die Materialeigenschaft

Statt allerdings UV-Licht wie herkömmlich nur in einer Lichtfarbe zu nutzen, setzen die Wissenschaftler zwei unterschiedliche Lichtfarben ein. Je nachdem, welche Wellenlänge das Licht aufweist, werden verschiedene chemische Prozesse in dem Druckharz ausgelöst. Unter hellem violetten Licht nimmt das Resin eine gummiartige Konsistenz an. Wird es jedoch energiereicherem ultraviolettem Licht ausgesetzt, dann härtet es beim 3D-Druck zu einem festen kunststoffartigen Material aus. Da das Ursprungsmaterial gleich ist, können die gedruckten Elemente trotz ihrer verschiedenen Eigenschaften problemlos miteinander kombiniert werden, ohne dass es an den Nahtstellen zu Haltbarkeitsproblemen kommt. Es entstehen dadurch also keine Schwachstellen.

„Wir haben ein Molekül mit beiden reaktiven Gruppen eingebaut, damit unsere beiden Verfestigungsreaktionen an der Schnittstelle ‚miteinander kommunizieren‘ können“, erklärt Page.

Zum Test des Verfahrens druckten die Forscher mit ihrem neuen 3D-Druckerfahren ein künstliches Kniegelenk aus, das aus weichen Bändern und harten Knochen besteht. Das Gelenk ließ sich bewegen, ohne dass es an den Schnittstellen zu Materialbrüchen oder späteren Ermüdungserscheinungen kam.

Die Wissenschaftler waren selbst davon überrascht, wie gut das Resin funktionierte. „Die weichen Teile dehnten sich wie ein Gummiband und sprangen zurück. Die harten Teile waren so stabil wie ein Kunststoff, wie sie in Konsumgütern verwendet werden“, sagt Page.

Die Wissenschaftler probierten das Verfahren zusätzlich an einem elektrischen Schalter aus. Ein Teil des Schalters ist weich und beweglich, sodass ein eingearbeiteter elektrischer Kontakt geschaltet werden konnte. Ein anderer Bereich ist dagegen hart ausgeführt, um den Schalter vor dem Zerbrechen zu bewahren.

Die Forscher der University of Texas waren selbst überrascht, dass das Resin auf Anhieb die gewünschten Eigenschaften aufwies. Das komme bei neu entwickelten 3D-Druckharzen „so gut wie nie vor“.

(olb)

Ein früherer Apple-Designingenieur soll in erheblichem Umfang Betriebsgeheimnisse rund um die Vision Pro entwendet haben. Apple geht derzeit gerichtlich gegen den früheren Mitarbeiter in gehobener Position vor, berichtet die lokale Nachrichtenseite Siliconvalley.com. Dem Bericht zufolge soll der Mann wenige Tage vor dem Wechsel zu einem Mitbewerber im Valley noch rasch Dateien in seinen privaten Cloud-Speicher geladen haben.

Der Mann soll sieben Jahre lang bei Apple gearbeitet haben und war laut Anklage zuletzt als Senior Product-Design Engineer an der Entwicklung der Vision Pro beteiligt. Den Aussagen der Apple-Anwälte zufolge habe er gekündigt und dabei vorgegeben, mehr Zeit mit seiner Familie verbringen zu wollen. Dabei habe er seinem Arbeitgeber aber verschwiegen, dass er bereits eine Anstellung bei Snap angenommen hatte. Da Snap mit den Spectacles ein Produkt herausgibt, das technisch in einem ähnlichen Genre wie die Vision Pro angesiedelt ist, wäre dies aus Sicht Apples meldepflichtig gewesen. Snap gilt allerdings nicht als Beklagter und soll den Erkenntnissen des Berichts zufolge bei dem Diebstahl auch keine Rolle gespielt haben.

Tausende Dokumente kopiert

Drei Tage vor seinem Ausscheiden habe der Designingenieur tausende Apple-Dokumente mit Betriebsgeheimnissen heruntergeladen und in seinen persönlichen Cloud-Speicher übertragen. Diese Dokumente enthielten Informationen zu Produktentwicklung, Qualitätskontrolle, Kosten und Lieferketten-Strategien. Anschließend habe er auf seinem Firmen-Notebook Dateien gelöscht, um Spuren zu verwischen, wirft Apple dem früheren Beschäftigten vor. Das Unternehmen verlangt die Rückgabe der gestohlenen Daten, Zugang zu den elektronischen Geräten des Beschuldigten und Schadensersatz in unbekannter Höhe.

Für Apple ist es nicht das erste Mal, dass sich der iPhone-Hersteller mit früheren Mitarbeitern auseinandersetzen muss, die mutmaßlich oder tatsächlich Kapital aus den Geheimnissen ihres vorherigen Arbeitgebers schlagen wollen. Im Jahr 2024 wurde ein früherer Ingenieur zu einer Haftstrafe von vier Monaten verurteilt, der Geschäftsgeheimnisse vor dem Wechsel zu einem chinesischen Start-up aus der Firma schmuggeln wollte. Ein Jahr zuvor wurde ein früherer Softwareentwickler angeklagt – er konnte sich aber nach China absetzen. Ein Haftbefehl kann nicht vollstreckt werden, da China kein entsprechendes Auslieferungsabkommen mit den USA hat.

Obwohl Apples interne Sicherheitsvorkehrungen strikt sind und in diesen und weiteren Fällen zu Verurteilungen führten, kommt es immer wieder zum Diebstahl von Firmengeheimnissen. Auch das Ausplaudern von Geheimnissen gegenüber Leakern und Reportern bleibt aus Sicht Apples ein fortwährendes Ärgernis.

(mki)