Das Wichtigste in Kürze:
- Deepfake-Bilder sind längst gesellschaftliche Realität und haben das Potenzial, das Vertrauen in Medien, Politik und Institutionen zu untergraben.
- Im SPRIN-D-geförderten Projekt "Deepfake Detection and Prevention" haben wir gemeinsam mit Merantix Momentum die KI-Lösung ClyraVision entwickelt.
- Possible hat dabei User Research und Marktentwicklung über mehrere Branchen hinweg verantwortet und rund 25 qualifizierte Leads über zehn Workshops in mehr als vier Branchen generiert.
Ende November 2023 veröffentlichte das Aktivist:innenkollektiv Zentrum für Politische Schönheit ein KI-generiertes Video, in dem Bundeskanzler Olaf Scholz scheinbar ankündigt, ein Verbotsverfahren gegen die AfD einzuleiten. Das Video nutzte eine echte Kanzleransprache als Vorlage, unterlegt mit einer KI-generierten Stimme und dem offiziellen Logo des Bundeskanzleramts. Regierungssprecher Steffen Hebestreit stellte noch am selben Tag öffentlich klar, dass es sich um eine Fälschung handelt. Damit war die Sache nicht erledigt. Auf dem Verfassungsblog kommentierten Jurist:innen später, ein beachtlicher Teil des Publikums habe die Fälschung zunächst wohl gar nicht als solche erkannt. Die Bundesregierung ging deshalb auch rechtlich vor, ließ das Video wegen einer Markenrechtsverletzung bei YouTube, X, Facebook und Instagram melden und entfernen und erwirkte im Februar 2024 vor dem Landgericht Berlin eine einstweilige Verfügung gegen die weitere Verbreitung.
Der Fall zeigt, wie stark ein einzelnes manipuliertes Bild oder Video wirken kann. Ein KI-generiertes Video reichte aus, damit die Bundesregierung rechtliche Schritte einleitete. Möglich ist das, weil Deepfakes mittlerweile so ausgereift sind, dass selbst geübte Augen an ihre Grenzen stoßen. Ein Bericht des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag, veröffentlicht im Januar 2026, ordnet genau solche Fälle ein. Politische Deepfakes können demnach gezielt Stimmung machen oder Konflikte befeuern. Selbst der bloße Verdacht, ein Video sei manipuliert, kann laut TAB-Bericht den gesellschaftlichen Zusammenhalt "destabilisieren". Auch für Betrug sind Deepfakes längst ein Werkzeug: Der Bericht nennt den Fall eines britischen Unternehmens, das 2019 rund 220.000 Euro überwies. Eine Führungskraft war zuvor am Telefon getäuscht worden, die Stimme des vermeintlichen Chefs war komplett KI-generiert. Ob in der Politik oder im Berufsalltag, solche Fälle häufen sich.
Warum ein gefälschtes Bild reicht, um Vertrauen zu zerstören
Immer mehr Menschen wissen inzwischen, dass es Deepfakes gibt. Laut einer Befragung der Universität Leipzig hatten 2025 bereits rund drei Viertel der Befragten schon bewusst Kontakt mit einem Deepfake, 2022 war es erst ein Viertel. Dass immer mehr Menschen Deepfakes im Alltag bemerken, bedeutet aber nicht, dass sie diese auch zuverlässig als gefälscht identifizieren. Der Cybersicherheitsmonitor 2026 des Bundesamts für Sicherheit in der Informationstechnik (BSI) zeigt die Problematik: Fast die Hälfte der Befragten hält sich selbst für fähig, KI-Inhalte zu durchschauen, ein Drittel hat aber noch nie konkret nachgeprüft, ob ein Bild oder Video wirklich echt ist. Zwischen wahrgenommener und tatsächlich umgesetzter Kompetenz klafft also eine erhebliche Lücke. Viele verlassen sich auf ihr Gefühl, statt aktiv zu prüfen, was sie konsumieren.
Für Einzelpersonen ist das im Alltag schon relevant. Für Institutionen wird daraus schnell eine Existenzfrage: Wer das Vertrauen der Bevölkerung oder seiner Kund:innen erhalten will, kann sich auf das Bauchgefühl allein nicht verlassen. Ein Gericht muss sich auf die Echtheit digitaler Beweismittel verlassen können, ein Krankenversicherer erkennen, ob ein eingereichtes Rezept manipuliert wurde, eine Redaktion vor der Veröffentlichung wissen, ob ein eingesandtes Bild echt ist. Klassische Erkennungstools stoßen dabei schnell an ihre Grenzen. Der TAB-Bericht nennt das Verhältnis von Fälschung und Erkennung ein "Katz-und-Maus-Spiel". Der Grund: Wer Deepfakes erzeugt, kann seine Modelle gezielt an neuen Erkennungsverfahren trainieren, bis sie genau diese wieder umgehen. Jedes Erkennungstool funktioniert deshalb nur für eine gewisse Zeit zuverlässig.
Deepfake-Erkennung: Wie ClyraVision Bildmanipulation aufspürt
Genau hier setzt das von der Bundesagentur für Sprunginnovationen (SPRIND) geförderte Projekt ClyraVision an. Anders als im Scholz-Beispiel geht es bei ClyraVision gezielt um Bilder, nicht um Videos, das Grundproblem ist aber dasselbe: Wie lässt sich echtes von künstlich erzeugtem visuellem Material unterscheiden?
ClyraVision schaut sich ein Bild nicht nur einmal an, sondern aus mehreren Blickwinkeln gleichzeitig. Ein Modul prüft technisch nach feinen Spuren, die bei KI-generierten Bildern typischerweise entstehen. Ein zweites Modul sucht nach inhaltlichen Widersprüchen, die auf den ersten Blick nicht auffallen, etwa wenn Licht, Schatten oder Kontext nicht zusammenpassen. Ein drittes Modul wertet die Metadaten des Bildes aus, also im Bild gespeicherte Informationen wie Aufnahmezeitpunkt oder verwendete Bearbeitungssoftware. Am Ende führt ein letztes Modell alle drei Einschätzungen zusammen und liefert ein Gesamturteil, ähnlich wie ein Ermittlerteam, das mehrere unabhängige Spuren zu einem Fall zusammenträgt.
Possibles Beitrag zur Entwicklung von ClyraVision
Entwickelt wurde ClyraVision von Merantix Momentum mit Unterstützung von Possible. Merantix Momentum verantwortete die technische Entwicklung. Wir haben uns im Rahmen des SPRIN-D-geförderten Projekts vor allem darum gekümmert herauszufinden, welche Branchen am dringendsten betroffen sind, welche Organisationen als Kunden in Frage kommen, welche Bedarfe sie haben und wie aus einem technischen Prototyp ein Produkt wird, das im Alltag tatsächlich eingesetzt werden kann.
Um zu verstehen, wo Bildmanipulation im Arbeitsalltag tatsächlich zum Problem wird, haben wir mit Organisationen aus ganz unterschiedlichen Branchen gesprochen, darunter Medienhäuser, Kommunikationsanbieter, Nachbarschaftsplattformen, Cybersicherheitsfirmen und Strafverfolgungsbehörden, aber auch humanitäre Hilfsorganisationen.
Aus dieser Arbeit sind konkrete Kontakte entstanden: rund 25 qualifizierte Leads, zehn gemeinsam durchgeführte Workshops in mehr als vier Branchen. Zu den Organisationen, mit denen wir zusammengearbeitet haben, zählen unter anderem die Süddeutsche Zeitung und die Nachbarschaftsplattform Nebenan.de.
Merantix Momentum entwickelt ClyraVision inzwischen als eigenständiges Produkt weiter. Wer sehen möchte, wo das Produkt heute steht, findet alle Details auf der Produktseite von Merantix Momentum.
Der Scholz-Fall von 2023 zeigt im Kleinen, was auf dem Spiel steht. Wenn niemand mehr sicher sein kann, ob visuelle Inhalte echt sind, verlieren Bilder und Videos an Wert. Ob Versicherung, Redaktion oder Gericht: Wer auf Basis solcher Inhalte Entscheidungen trifft, braucht verlässliche Mittel, um sie vorher zu prüfen.
Ihre Ansprechpersonen zum Thema
Sie haben Fragen zum Thema oder möchten ein Vorhaben besprechen?
Melden Sie sich direkt bei Denis Krechting.
