Microsoft warnt Windows 11-Benutzer – Diese KI-Funktion kann Viren installieren

Im Vorfeld der Einführung neuer Funktionen für ausgewählte Windows Insider hat Microsoft eine Warnung herausgegeben: Benutzern wird empfohlen, die neuen experimentellen Funktionen nur zu aktivieren, "wenn Sie die Auswirkungen auf die Sicherheit verstehen". Der Grund dafür ist, dass die agentenbasierten Komponenten standardmäßig deaktiviert sind, da diese gefährlich sein könnten. 

Der Grund dafür ist ziemlich einfach, wenn auch alarmierend: KI-Anwendungen bergen aufgrund der Art und Weise, wie ihnen Zugriff auf Benutzerdateien gewährt wird, Risiken durch Cross-Prompt-Injection (XPIA). Agentenaccounts, die bei Aktivierung der Funktionen angeboten werden, erhalten eingeschränkten Zugriff auf Ihr Benutzerprofilverzeichnis unter "Lokales Laufwerk -> Benutzer -> [Name]”. Wenn ein Agent Zugriff auf Dateien benötigt, gewährt Windows ihm daher Lese- und Schreibzugriff auf alle Dateien in diesem Verzeichnis. 

Aus diesem Grund erklärt Microsoft, dass "in UI-Elementen oder Dokumenten eingebettete bösartige Inhalte die Anweisungen des Agenten überschreiben können", was zu ungewollten Auswirkungen führen könnte. Als Beispiele werden Datenabfluss oder die Installation von Malware über KI-Anwendungen genannt. Mit anderen Worten: Diese Schwachstellen könnten genutzt werden, um Malware zu installieren oder Zugriff auf sensible Benutzerdateien zu erhalten. Darüber hinaus hat die Agent-App bei Verwendung des Agent-Arbeitsbereichs "standardmäßig Zugriff auf die Apps, die allen Benutzern zur Verfügung stehen". Agentische KI-Anwendungen könnten ohne Ihr Wissen Software installieren oder ändern, was besonders alarmierend ist.

Welche agentenbasierten Funktionen kommen mit Windows 11?

Nach den Angaben von Microsoft im aktuellen Support-Bulletin heißt die experimentelle Funktion "Agent Workspace". Sie ist in einer privaten Entwickler-Preview für Windows Insiders verfügbar und wurde bereits für einige Nutzer ausgerollt. Zwar gibt es noch keine Apps, die die neue Funktion unterstützen, aber Copilot wird bald Zugriff auf agentenbasierte Arbeitsbereiche haben, und weitere Apps werden in Kürze folgen. Genauer gesagt werden die KI-Agenten als Ergänzung zu "Ask Copilot" eingeführt, der Funktion, mit der Sie einen KI-Assistenten in Windows 11 aufrufen können.

Copilot ist bereits jetzt problematisch für diejenigen, die Wert auf Datenschutz legen; die KI kann beispielsweise Ihren gesamten Bildschirm sehen. Zugegebenermaßen kann Copilot auch einige nützliche Aufgaben übernehmen. Das hängt jedoch davon ab, ob Sie bereit sind, die Risiken in Kauf zu nehmen, insbesondere zum jetzigen Zeitpunkt. Diese erste Version wird zunächst nur eingeschränkt verfügbar sein, um Entwicklern zu helfen, "Feedback zu sammeln und die grundlegende Sicherheit zu verbessern". Microsoft betont außerdem, dass Sicherheit keine "einmalige Funktion" ist, sondern eine "kontinuierliche Verpflichtung", die im Laufe der Zeit an die Anforderungen der Technologie angepasst wird.
 

Agent-Arbeitsbereiche sind separate, abgeschlossene Bereiche, in denen Sie den KI-Anwendungen oder Agenten im Hintergrund Zugriff auf Dateien gewähren, während Sie Ihr Gerät weiterhin nutzen. Das dedizierte Konto oder die Trennung "schafft klare Grenzen zwischen den Aktivitäten des Agenten und Ihren eigenen" und erreicht damit das, was das Unternehmen als "bereichsbezogene Autorisierung und Laufzeitisolierung" bezeichnet. So haben Sie die volle Kontrolle, während der Agent im Hintergrund arbeitet, einschließlich der Möglichkeit, "den Zugriff jederzeit zu verwalten". Theoretisch sollten Sie in der Lage sein, Agenten zu stoppen, aber es ist dennoch besorgniserregend. Je mehr Nutzer Zugang zu diesen experimentellen Funktionen erhalten, desto mehr Informationen werden darüber verfügbar sein, wie sie funktionieren und wie sicher sie sind. Allerdings ist niemand wirklich glücklich darüber, und die Nutzer äußern ihre Ablehnung online.