Googles KI-Assistent Gemini kann ab sofort prüfen, ob Videos mit den hauseigenen KI-Tools manipuliert wurden. Der neue Dienst ist eine Reaktion auf die wachsende Flut täuschend echter KI-Videos.

Die Funktion, die seit Donnerstag weltweit verfügbar ist, nutzt die unsichtbare Wasserzeichen-Technologie SynthID. Sie soll Nutzern helfen, authentische Aufnahmen von synthetischen „Deepfakes“ zu unterscheiden. Der Schritt kommt zu einem Zeitpunkt, an dem die Tech-Branche unter Druck steht, verlässliche Methoden gegen digitale Desinformation bereitzustellen.

So funktioniert die Video-Prüfung

Nutzer können in der Gemini-App oder auf der Webseite nun Videodateien hochladen – bis zu 100 Megabyte groß und 90 Sekunden lang. Anschließend können sie den Assistenten direkt fragen: „Wurde dieses Video mit Google-KI erstellt?“

Gemini durchsucht den Inhalt dann nach den SynthID-Wasserzeichen. Diese sind in den Pixeln von Bildern und den Einzelbildern von Videos eingebettet, die mit Googles Modellen wie Veo oder Imagen erzeugt wurden. Im Gegensatz zu herkömmlichen Metadaten, die sich leicht entfernen lassen, sollen diese Wasserzeichen auch nach Komprimierung oder Bearbeitung noch nachweisbar sein.

Die Analyse geht über ein einfaches Ja oder Nein hinaus. Stattdessen liefert Gemini kontextbezogene Antworten. Enthält ein Video etwa KI-generierten Ton zu authentischen Bildern, nennt die Software die genauen Zeitstempel der manipulierten Passagen.

Grenzen der neuen Technologie

Die Erkennung funktioniert jedoch nur bei Inhalten, die mit Googles eigenen KI-Systemen erstellt wurden. Videos von Konkurrenzplattformen wie OpenAIs Sora oder Runways Gen-3 kann das Tool derzeit nicht identifizieren – es sei denn, diese nutzen kompatible Wasserzeichen-Standards.

„Die Verifizierung ist auf Inhalte beschränkt, die von Googles KI-Tools generiert wurden“, heißt es in einer technischen Analyse. „Das Fehlen eines Wasserzeichens bedeutet nicht, dass ein Video echt ist. Es bedeutet nur, dass kein SynthID-Wasserzeichen gefunden wurde.“

Trotz dieser Einschränkung markiert das Tool einen wichtigen Schritt. Bislang waren derartige Detektions-Fähigkeiten vor allem Forschern und Unternehmen vorbehalten. Jetzt steht sie allen Verbrauchern kostenfrei zur Verfügung.

Kampf gegen KI-Desinformation wird zum Milliardenmarkt

Die Einführung fällt in eine Phase, in der die Branche nach einheitlichen Standards für die Herkunftsnachweise digitaler Inhalte sucht. Da generative KI immer realistischer wird, wächst die Gefahr des Missbrauchs für politische Desinformation, Finanzbetrug oder Belästigung.

Ein Bericht des Weltwirtschaftsforums aus dem Jahr 2024 stufte KI-gesteuerte Falschinformationen bereits als erhebliches globales Risiko ein. Indem Google Verifikations-Tools direkt in die Hände der Nutzer legt, versucht der Konzern, das Vertrauen in digitale Medien zu stärken.

Gleichzeitig positioniert sich Google strategisch gegen Wettbewerber. Die Integration in Gemini unterstreicht die Sicherheitsfeatures des eigenen Ökosystems – ein potenzieller Wettbewerbsvorteil für Geschäftskunden, die strenge Compliance-Vorgaben einhalten müssen.

Kooperation als Schlüssel für die Zukunft

Langfristig wird der Erfolg solcher Tools von branchenweiter Zusammenarbeit abhängen. Google ist Mitglied der Coalition for Content Provenance and Authenticity (C2PA), die einen offenen Standard für fälschungssichere Metadaten entwickelt.

Obwohl SynthID eine proprietäre Technologie ist, hat Google Interesse an Interoperabilität mit C2PA-Standards signalisiert. Das könnte es Gemini in Zukunft ermöglichen, auch KI-Inhalte anderer Quellen zu identifizieren – sofern diese die gemeinsamen Protokolle nutzen.

Der globale Markt für Deepfake-Erkennung wird exponentiell wachsen: Einige Schätzungen gehen von einem Volumen von 4,2 Milliarden Euro bis 2028 aus. Tools wie der Gemini-Video-Checker dürften in den kommenden Jahren zur Standardausstattung aller großen Digitalplattformen werden. Für Google ist die Einführung heute ein erster, kritischer Schritt in diese Richtung.