Microsofts jüngstes AI-Feature „Recall“ hat für Aufruhr gesorgt und einen regelrechten Shitstorm ausgelöst. Doch worum geht es bei diesem kontroversen Feature und warum stösst es auf so viel Widerstand? In diesem Blogbeitrag nehmen wir das neue Feature unter die Lupe, beleuchten die Gründe für die Kritik und klären, ob diese tatsächlich gerechtfertigt sind.
Wie sie vielleicht in den letzten Wochen mitbekommen haben, ist Microsoft mit der Beteiligung an ChatGPT beim AI-Boom ganz vorne dabei. Das Feature «Recall» ist dabei die neuste Ankündigung des Konzerns. Das Feature wäre per Default aktiviert worden und die User von Windows 11 wären nicht in Kenntnis gesetzt worden.
Was ist passiert?
Microsoft hat entschieden, ein neues Feature, genannt «Recall», zu entwickeln, welches alle 5 Sekunden einen Screenshot des Desktops eines Users erstellt und diesen speichert. Mithilfe von AI wäre dieser analysiert und aufbereitet worden und es wäre möglich gewesen, auf jeden beliebigen Zeitpunkt in der Vergangenheit zurückzugreifen, um anzuschauen, was man zu dem Zeitpunkt genau gemacht hat. Eine Zeitmaschine oder eben eine «Recall» Funktion.
Wie steht es um den Datenschutz?
Aus Datenschutzsicht entstehen dadurch jedoch mehrere grosse Probleme. Erstens wäre das Feature per Default aktiviert worden. Der User hätte also Opt-out machen müssen und die Funktion aktiv deaktivieren müssen, um dies zu unterbinden. Zweitens hätte Microsoft Recall alle fünf Sekunden einen Screenshot gemacht. Wo die Informationen verarbeitet werden sollten, ob lokal auf dem Gerät oder in der Cloud, ist unklar. Es scheint naheliegend, dass die Analyse, sprich die AI in der Cloud läuft und damit auch die Daten dort landen. Die Vermutung, dass die Daten von Microsoft ausgelesen und zur «Verbesserung» der Künstlichen Intelligenz verwendet werden, liegt auf der Hand. Auf dem Screenshot wären dann allenfalls Passwörter im Klartext, Kreditkarteninformationen, private Konversationen oder dann auch alle Websites, die man geöffnet hat, ersichtlich.
Da so beispielsweise auch sensible Kundendaten und andere persönliche Informationen abfotografiert und bei Microsoft verarbeitet und ausgewertet worden wären, sind die Auswirkungen besonders für Firmen weitreichend.
Der vielleicht entschiedenste Punkt betreffend der Datensicherheit ist, dass es für Hacker dank dieses Features noch einfacher wird auf kritische Unternehmensdaten zuzugreifen. Der Desktop ist in der Regel nicht ausreichend geschützt und kann durch einfache Software gehackt werden. Dank «Recall» könnten Hacker anschliessend mit einfachsten Suchmethoden auf alle Informationen eines Mitarbeiters zugreifen. Dazu gehören Passwörter, Zugangsdaten zu Konten und vertrauliche Daten aus Forschung und Entwicklung.
Welche Massnahmen empfehlen wir Ihnen?
In der Zwischenzeit ist Microsoft zwar zurückgerudert, was die automatische Aktivierung des «Recall» Features betrifft, aber das Feature ist nicht tot und wird voraussichtlich kommen.
Wir sehen es als unsere Pflicht, sie als unsere geschätzten Kunden auf dieses Thema aufmerksam zu machen und sie darauf hinzuweisen, dass wir Ihnen von der Nutzung dieses Features dringend abraten. Wir werden auf unseren Systemen alles unternehmen, damit Ihre Daten nicht ohne Ihre explizite Einwilligung an Microsoft übermittelt werden. Wir bitten Sie zudem, bei allfälligen Fragen zum Thema auf unser Team zuzukommen. Denn das Feature wird nicht nur auf ihrem Geschäfts-PC ein Thema werden, sondern auch auf ihrem privaten Endgerät.
Was es immer zu beachten gilt, ist, dass bei den wenigsten AI-Anwendungen die Daten lokal verarbeitet werden, sondern irgendwo in der Cloud bei einem Anbieter. Egal ob ChatGPT oder «Recall», die Informationen sind im Internet und damit potenziell für andere Menschen zu lesen. Seien Sie also vorsichtig, was Sie für Informationen in diese Dienste füttern.