Microsoft leitet rechtliche Schritte gegen Gruppe ein, die KI-Schutzmaßnahmen umgeht

Microsoft geht rechtlich gegen eine Gruppe von Cyberkriminellen vor, die Tools entwickelt haben, um KI-Schutzmaßnahmen zu umgehen und gefährliche Inhalte zu erstellen.

Alle wichtigen KI-Modelle verfügen über verschiedene Schutzmaßnahmen, die verhindern sollen, dass die Modelle illegale oder potenziell gefährliche Inhalte erstellen. Je nach Unternehmen, das hinter dem KI-Modell steht, können diese Schutzmaßnahmen auch einen unterschiedlich starken Schutz vor Inhalten bieten, die als anstößig gelten könnten, wobei X's Grok in dieser Hinsicht zu den nachsichtigsten gehört.

Wie bei allen Dingen, die zur Erstellung von etwas verwendet werden können, gibt es einen wachsenden Markt für Tools, die diese Sicherheitsvorkehrungen umgehen und es den Benutzern ermöglichen, mithilfe von KI alles zu erstellen, was sie wollen, einschließlich Malware, illegaler Inhalte und mehr.

Microsoft will das nicht länger hinnehmen und verklagt mindestens eine dieser Gruppen von Cyberkriminellen im Eastern District of Virginia.

Die KI-Dienste von Microsoft setzen strenge Sicherheitsmaßnahmen ein, darunter integrierte Sicherheitsmaßnahmen auf KI-Modell-, Plattform- und Anwendungsebene. In den heute freigegebenen Gerichtsakten wird der Vorwurf erhoben, dass Microsoft eine im Ausland ansässige Gruppe von Bedrohungsakteuren dabei beobachtet hat, wie sie eine ausgeklügelte Software entwickelt hat, die ungeschützte Kundenanmeldedaten aus öffentlichen Webseiten ausliest. Dabei versuchten sie, Konten mit bestimmten generativen KI-Diensten zu identifizieren und sich unrechtmäßig Zugang zu diesen zu verschaffen, um die Funktionen dieser Dienste absichtlich zu verändern. Cyberkriminelle nutzten diese Dienste dann und verkauften den Zugang an andere kriminelle Akteure mit detaillierten Anweisungen, wie diese benutzerdefinierten Tools zur Generierung gefährlicher und illegaler Inhalte verwendet werden können. Nach der Entdeckung entzog Microsoft den Cyberkriminellen den Zugang, ergriff Gegenmaßnahmen und verbesserte seine Sicherheitsvorkehrungen, um solche böswilligen Aktivitäten in Zukunft weiter zu blockieren.

Diese Aktivitäten verstoßen direkt gegen das US-amerikanische Recht und die Nutzungsbedingungen und den Verhaltenskodex der Dienste von Microsoft. Die nun veröffentlichten Gerichtsakten sind Teil einer laufenden Untersuchung gegen die Urheber dieser illegalen Tools und Dienste. Der Gerichtsbeschluss hat insbesondere die Beschlagnahme einer Webseite ermöglicht, die für die kriminellen Machenschaften von entscheidender Bedeutung ist. Dadurch können wichtige Beweise über die Personen hinter diesen Machenschaften gesammelt, die Monetarisierung dieser Dienste entschlüsselt und weitere technische Infrastrukturen, sofern vorhanden, unterbrochen werden. Darüber hinaus wurden zusätzliche Sicherheitsmaßnahmen eingeführt, die auf die beobachteten Aktivitäten abzielen, und die Sicherheitsmaßnahmen werden auf der Grundlage der Untersuchungsergebnisse weiter verstärkt.

Microsoft ergreift über rechtliche Maßnahmen hinaus zusätzliche Maßnahmen, um seine KI-Schutzmaßnahmen zu verstärken.

Seit fast zwei Jahrzehnten arbeitet die DCU von Microsoft daran, Cyberkriminelle zu stoppen und abzuschrecken, die versuchen, die alltäglichen Werkzeuge, auf die sich Verbraucher und Unternehmen verlassen, als Werkzeug zu missbrauchen. Die DCU baut auf diesem Ansatz auf und wendet wichtige Erkenntnisse aus früheren Cybersicherheitsmaßnahmen an, um den Missbrauch generativer KI zu verhindern.

Die rechtlichen Schritte von Microsoft unterstreichen den zunehmenden Kampf, dem KI-Unternehmen bei ihren Bemühungen, die Sicherheit von KI zu gewährleisten und ihre Nutzung für böswillige Zwecke zu verhindern, gegenüberstehen werden.