Google sagt Deepfakes den Kampf an

Mit der Weiterentwicklung der Technologie der künstlichen Intelligenz (KI) steigt auch das Potenzial für deren Missbrauch. Ein Bereich, der Anlass zur Sorge gibt, ist die Verwendung von KI-generierten Bildern zur Erstellung von Deepfakes, d. h. manipulierten Videos oder Bildern, die den Anschein erwecken, dass jemand etwas sagt oder tut, was er in Wirklichkeit nicht getan hat.

Um den Missbrauch von KI-generierten Bildern zu bekämpfen, hat Google SynthID eingeführt, ein Tool, das ein unsichtbares Wasserzeichen in von KI erstellte Bilder einbettet.

Dieses Wasserzeichen kann dann verwendet werden, um die Authentizität eines Bildes zu identifizieren und zu überprüfen.

Was ist Google SynthID?

Google SynthID ist ein Tool, das ein unsichtbares Wasserzeichen in von KI erstellte Bilder einbettet. Dieses Wasserzeichen kann dann verwendet werden, um die Echtheit eines Bildes zu identifizieren und zu überprüfen.

SynthID arbeitet mit einer Technik namens GAN (generative adversarial networks). GAN sind eine Art maschineller Lernalgorithmus, mit dem sich aus Textbeschreibungen realistische Bilder erstellen lassen.

Um ein SynthID-Wasserzeichen zu erstellen, trainiert Google zunächst ein GAN auf einem großen Datensatz mit echten Bildern. Das GAN lernt, die einzigartigen Merkmale dieser Bilder zu erkennen, z. B. die Verteilung der Farben, die Textur der Objekte und die Lichtverhältnisse.

Sobald das GAN trainiert ist, kann es zur Erstellung eines Wasserzeichens verwendet werden, das für ein bestimmtes KI-Modell spezifisch ist. Das Wasserzeichen wird dann so in das Bild eingebettet, dass es für das menschliche Auge nicht wahrnehmbar ist.

Aber warum sollte jemand Google SynthID verwenden?

  • SynthID ist für das bloße Auge unsichtbar, so dass sie das Erscheinungsbild des Bildes nicht beeinträchtigt
  • SynthID ist sehr schwer zu entfernen oder zu verfälschen
  • SynthID kann verwendet werden, um die Echtheit eines Bildes zu identifizieren und zu überprüfen
  • SynthID kann verwendet werden, um den Ursprung und die Nutzung eines Bildes zu verfolgen.

Wenn Sie mehr über SynthID erfahren möchten, besuchen Sie den Blogbeitrag von Google DeepMind. Sie können sich auch für das SynthID-Betaprogramm anmelden, um frühzeitig Zugang zu dem Tool zu erhalten.