Microsoft 365 Copilot: Bug ließ KI-Assistent vertrauliche Mails zusammenfassen

Aufgrund eines Bugs in Microsoft 365 Copilot konnte der KI-Assistent zeitweise E-Mails zusammenfassen, obwohl der Inhalt als vertraulich klassifiziert war und der KI-Assistent daher keinen Zugriff haben sollte. Laut Microsoft verursachte der Fehler keine Datenlecks.

Von dem Bug berichtet BleepingComputer, Microsoft hat diesen bereits bestätigt. Erstmals entdeckt wurde der Fehler demnach am 21. Januar.

Copilot hat unberechtigten Zugang zu Mails

Der Bug betraf die „Work-Tab“-Funktion im Microsoft 365 Copilot. Damit nutzt der KI-Assistent den Microsoft Graph als Datenbasis und kann auf Informationen zugreifen, die eine Organisation in der Microsoft-365-Umgebung gespeichert hat. Das gilt etwa für Dokumente in OneDrive, aber auch E-Mails oder Kalender-Einträge. Integriert ist Copilot Chat in Office-Programme wie Word, Excel, PowerPoint, Outlook und OneNote.

Wenn der KI-Assistent auf bestimmte Informationen nicht zugreifen soll, lässt sich das mit der DLP-Richtlinie (Data Loss Prevention) kontrollieren. Eigentlich. Denn durch den Bug war es möglich, dass der Copilot-Assistent auch als vertraulich eingestufte Mails zusammengefasst hat, wenn diese im Senden- oder Entwürfe-Ordner lagen.

Den Zugriff der KI-Assistenten zu limitieren, ist insbesondere für Unternehmen relevant, um geheime oder als vertraulich eingestufte Informationen zu schützen. Landen solche Inhalte versehentlich in einem KI-System, auf das viele Mitarbeiter zugreifen können, lässt sich der Zugang kaum noch kontrollieren. Es geht also um Datensicherheit und damit einen der heikelsten Punkte bei der Einführung der KI-Tools.

Bug laut Microsoft ohne Konsequenzen

Laut Microsoft kam es durch den Bug nicht zu einem Datenleck. Niemand habe Zugang zu Informationen erhalten, für die er nicht ohnehin autorisiert war, erklärte der Konzern in einer Stellungnahme gegenüber BleepingComputer.

Bestätigt wurde auch, dass Unternehmen den KI-Assistenten nicht fehlerhaft konfiguriert haben, sondern es sich tatsächlich um einen Bug handelt. „Ein Code-Problem führt dazu, dass Inhalte im Ordner ‚Gesendete Elemente‘ und ‚Entwürfe‘ von Copilot abgerufen werden können, obwohl eine Vertraulichkeitskennzeichnung gesetzt ist“, so Microsoft.

Microsoft hat bereits einen Fix entwickelt. Der wird seit Anfang Februar verteilt. Derzeit beobachtet man noch, ob dieser wie erwartet das Problem unterbindet. Wie viele Nutzer und Organisationen betroffen sind, erklärt der Konzern nicht. Ebenso gibt es laut BleepingComputer keinen finalen Zeitplan, bis der Fix alle Kunden erreicht hat.