Wenn Machine-Learining-Systeme einen Bias haben, kann die daraus resultierende Ungleichbehandlung nicht nur Menschen und Unternehmen betreffen, sondern auch die Cybersicherheit gefährden. Darauf weist das Bundesamt für Sicherheit in der Informationstechnik (BSI) hin und veröffentlicht ein Whitepaper zum Thema „Bias in der künstlichen Intelligenz„. Die Sicherheitsexperten geben einen Überblick über die unterschiedlichen Arten von Bias, also an welchen Stellen des Trainings- und Entscheidungsprozesses solche unerwünschten Verzerrungen auftreten können und erklären, welche Datenanalyse- und statistischen Testmethoden geeignet sind, eventuell vorhandene Unwuchten zu erkennen beziehungsweise von vornherein zu vermeiden.

In einem kurzen abschließenden Kapitel erläutern die Autoren auch, wie ein solches, zu verzerrten Prognosen neigendes System von Angreifern ausgenutzt werden kann. Das Whitepaper ist Teil der Anfang Juli veröffentlichten Informationsplattform zur Qualitätssicherung von Trainingsdaten.

(atr)

Das Juli-Update für Windows 11 bringt die KI-Suche Recall nun offiziell auf den europäischen Markt. Die Funktion dokumentiert die Aktivitäten und Inhalte, mit denen sich der Nutzer beschäftigt, indem sie alle paar Sekunden Screenshots anfertigt. Diese Inhalte werden mithilfe von Machine-Learning-Algorithmen ausgewertet und durchsuchbar gemacht. Nach kontroversen Diskussionen rund um Sicherheit und Datenschutz zog Microsoft das bereits 2024 eingeführte KI-Feature kurz nach dem Start wieder zurück und veröffentlichte eine überarbeitete Fassung im April dieses Jahres – allerdings nicht in Europa. Hierzulande war Recall bisher nur im Rahmen des Windows-Insider-Programms verfügbar, nun lässt es sich über das optionale Update KB5062660 auf Copilot+-PCs installieren. Da es sich um ein graduelles Rollout handelt, steht Recall nicht sofort nach Installation des Updates bereit. Zudem handelt es sich um eine Opt-in-Funktion, Interessierte müssen es selbst aktivieren.

Microsoft musste einige Anpassungen vornehmen, um die KI-Suche an die europäischen Regularien anzupassen, konkret: die Vorgaben des Digital Markets Act zu erfüllen. Erforderlich ist beispielsweise, dass Nutzer ihre Daten in gewissem Rahmen mit den Programmen anderer Hersteller austauschen können, weshalb sich die Snapshots exportieren lassen. Diese Funktion gibt es nur in der EU-Version. Um Privatsphäre- und Sicherheitsbedenken auszuräumen, versicherte der Hersteller, dass die Snapshots lokal auf dem Rechner verbleiben, nicht in die Cloud geschickt und nicht mit Microsoft oder Dritten geteilt werden. Kennwörter, Kreditkartendaten und andere sensible Informationen würden zudem automatisch gefiltert.

Nicht jeder Anwendungsentwickler ist vollständig von den Schutzfunktionen überzeugt. Die Macher des Browser Brave etwa stellen klar, dass sie auf „Privatsphäre-maximierende Standardeinstellungen“ setzen und daher Recall für alle Tabs per Default deaktivieren. „Wir halten es für wichtig, dass Ihre Surf-Aktivitäten in Brave nicht versehentlich in einer persistenten Datenbank landen, die vor allem in hochsensiblen Bereichen Raum für Missbrauch bietet, etwa im Bereich der Partnerschaftsgewalt“. Um die Browsing-Aktivitäten zu schützen, bedient sich Brave eines von Microsoft eingerichteten Mechanismus, der Privat-Sitzungen im Browser vom Tracking ausnimmt. Da diese von Recall nicht erfasst werden, definiert Brave nun sämtliche Sitzungen als privat. Auch der Messenger-Dienst Signal blockiert die automatisierte Schnappschuss-Funktion.

(atr)

Die vergangene Woche war in vielen Büros durch die Ferienzeit geprägt. Die Kollegen genossen die Zeit am Meer oder in den Bergen, oder sie hatten ihre erste Woche nach dem Urlaub.

Als ob der Dienst trotzdem nicht langweilig werden sollte, hatte der Newsticker viele spannende Neuigkeiten mitzuteilen. Über die Woche liefen so einige wichtige Nachrichten über den Ticker. Vom Sommerloch keine Spur.

Eine Kultmaschine feierte seinen 40. Geburtstag, etwas Besonderes wurde in China entdeckt und ein Mensch gewann symbolträchtig in einer Disziplin gegen eine KI. Doch worum ging es? Das wollen wir von Ihnen wissen in unserem kleinen Newsticker-Quiz. Wenn Sie fleißig in den heise online-Newsticker der vergangenen Woche geschaut haben, dann dürften Sie das Quiz mit Bravour meistern.

Die heiseshow bietet in dieser Woche keine Hilfe – sie gönnt sich eine kleine Sommerpause von zwei Wochen. In der übernächsten Woche sind Anna Bicker, Dr. Volker Zota, Malte Kirchner und natürlich auch das Quiz wieder für Sie da.

Der Timer ist diesmal ausgeschaltet. Daher können Sie ganz in Ruhe die Fragen durchlesen. Mit 10 Fragen können Sie satte 100 Punkte erreichen. Die Punktzahl kann gerne im Forum mit anderen Mitspielern verglichen werden. Halten Sie sich dabei aber bitte mit Spoilern zurück, um anderen Teilnehmern nicht die Freude am Quiz zu verhageln. Lob und Kritik sind wie immer gerne genommen.

Bleiben Sie zudem auf dem Laufenden und erfahren Sie das Neueste aus der IT-Welt: Folgen Sie uns auf den Kurznachrichten-Netzwerken Bluesky und Mastodon und auf den Meta-Ebenen Facebook oder Instagram. Falls Sie eigene Ideen oder Fragen für ein neues Quiz haben, dann schreiben Sie einfach dem Quizmaster.

(mawi)