Die Gretchen AI-Gr\u00fcnder Daniel R\u00f6der, Arnab Das und Dr. Tim Polzehl bringen ihre langj\u00e4hrige Expertise als Forscher am DFKI Labor Berlin in das Unternehmen ein. Gretchen AI entstand inspiriert aus dem Forschungsumfeld von news-polygraph, Deutschlands gr\u00f6\u00dftem Projekt zur Verifikation digitaler Medieninhalte, in dessen Rahmen wir mit renommierten \u00f6ffentlich-rechtlichen Medienh\u00e4usern als Projektpartnern zusammenarbeiten.<\/p>\n\n\n\n
Angesichts der t\u00e4glichen Informationsflut, besonders in sozialen Medien, braucht es niederschwellige, schnelle und einfach bedienbare Tools f\u00fcr Verifikation und Gegenchecks. Davon profitieren professionelle Medienschaffende ebenso wie B\u00fcrgerinnen und B\u00fcrger, die sich etwa im Wahlkontext zuverl\u00e4ssig informieren wollen. Um auch k\u00fcnftig sicher zwischen Echt und Fake unterscheiden zu k\u00f6nnen, braucht es L\u00f6sungen wie Gretchen AI \u2013 KI, die nicht f\u00e4lscht, sondern F\u00e4lschungen erkennt und Medien verifizierbar macht.<\/p>\n\n\n\n
Unsere Vision ist, Journalisten und Faktenpr\u00fcfern und auch anderen Usern schnelle, verl\u00e4ssliche und erkl\u00e4rbare KI-Tools bereitzustellen, um manipulierte oder aus dem Kontext gerissene, also Desinformationsinhalte zu erkennen, den Kontext offenzulegen und Medien mit Sicherheit zu verifizieren.<\/p>\n\n\n\n
Die sogenannte \u201eGretchen-Frage\u201c steht sinnbildlich f\u00fcr das, was unsere Technologie tut: Sie fragt nach der Wahrheit hinter einem Bild oder Video. Wenn Nutzerinnen und Nutzer ein Medium hochladen, analysiert Gretchen AI dieses mit modernster k\u00fcnstlicher Intelligenz auf m\u00f6gliche Manipulationen, wie beispielsweise Deepfakes, Bildbearbeitungen oder dekontextualisierte Inhalte.
Wir kombinieren technische Erkennungsmethoden (z. B. unsere eigenen Deepfake-Detection-Modelle) mit einer web-weiten Kontextanalyse. Das bedeutet: Unser System pr\u00fcft nicht nur, ob ein Bild ver\u00e4ndert wurde, sondern auch, wo und wie es zuvor im Netz verwendet wurde, zum Beispiel in einem anderen Zusammenhang, einer anderen Zeit, oder mit einer falschen Beschreibung (falschem Kontext).<\/p>\n\n\n\n
Gretchen AI richtet sich in erster Linie an Journalistinnen, Faktenchecker und generell Redaktionen, die t\u00e4glich unter Zeitdruck arbeiten und dabei die Echtheit von Bildern und Videos pr\u00fcfen m\u00fcssen. Die Plattform unterst\u00fctzt sie, indem sie in Sekunden Hinweise auf Manipulationen liefert, Quellen verkn\u00fcpft und den urspr\u00fcnglichen Kontext eines Mediums sichtbar macht. Die gesammelten Informationen werden schnell, transparent und nachvollziehbar aufbereitet und kompakt pr\u00e4sentiert, so dass Nutzerinnen und Nutzer auf einer gut recherchierten Grundlage Entscheidungen treffen k\u00f6nnen.
Dar\u00fcber hinaus ist Gretchen AI auch f\u00fcr andere Bereiche hochrelevant: Beh\u00f6rden und Sicherheitseinrichtungen k\u00f6nnen damit Desinformationskampagnen oder gef\u00e4lschte Inhalte fr\u00fchzeitig erkennen, Unternehmen und Marken k\u00f6nnen ihre Reputation sch\u00fctzen, und politische Akteure oder VIPs profitieren von einer zuverl\u00e4ssigen und weltweiten Spitzenferformance in der Erkennung kompromittierender Falschbilder.<\/p>\n\n\n\n
Die hybride Technologie aus tiefer forensischer Analyse, webbasierter Suche und KI-basierter Deepfake-Erkennung macht Gretchen AI einzigartig: Sie hilft Journalistinnen, Faktencheckern und Institutionen, Falschinformationen schnell, transparent und nachvollziehbar aufzudecken.
Unsere Deepfake-Erkennung erreicht ein weltweit f\u00fchrendes Leistungsniveau und \u00fcbertrifft in Benchmark-Tests die aktuell verf\u00fcgbaren Open-Source-L\u00f6sungen wie auch kommerzielle Mitbewerber. Doch damit nicht genug! W\u00e4hrend sich viele bestehende Tools auf eine solche rein technische Spurenanalyse beschr\u00e4nken, geht Gretchen AI deutlich weiter \u2013 mit einem hybriden Ansatz aus forensischer Erkennung, Kontextrecherche und erkl\u00e4rbarer Ergebnisdarstellung.
Gretchen AI deckt den narrativen Kontext auf: Es wird sichtbar, wo und wie ein visuelles Material bereits verwendet wurde und ob dessen Einbettung mit aktuellen Behauptungen \u00fcbereinstimmt. Unsere Plattform liefert transparente, erkl\u00e4rbare Ergebnisse mit vertrauensw\u00fcrdigen Quellenangaben und stellt Glaubw\u00fcrdigkeit, Integrit\u00e4t und Compliance ins Zentrum der Medienverifikation.<\/p>\n\n\n\n
Vertrauen ist extrem wichtig, schlie\u00dflich geht es bei Deepfakes und Desinformation genau darum, Glaubw\u00fcrdigkeit wiederherzustellen. Gleichzeitig ist das eine der gr\u00f6\u00dften Herausforderungen, weil KI-Modelle oft als \u201eBlack Box\u201c wahrgenommen werden.
Bei Gretchen AI setzen wir daher konsequent auf Transparenz und Nachvollziehbarkeit: Unsere Ergebnisse sind immer erkl\u00e4rbar, mit klaren Quellenverweisen und Hinweisen darauf, warum ein Inhalt als manipuliert oder authentisch eingestuft wurde. Au\u00dferdem entwickeln wir unsere Technologien gemeinsam mit Journalist:innen, Fact-Checker:innen und Wissenschaftler:innen, um sicherzustellen, dass sie praxistauglich und vertrauensw\u00fcrdig bleiben.<\/p>\n\n\n\n
Transparenz ist ein wichtiger Teil der Gretchen AI DNA. Unsere Technologie liefert nicht einfach ein Ergebnis wie \u201eecht\u201c oder \u201efake\u201c, sondern zeigt nachvollziehbar, wann und in welchem Kontext ein Bild verwendet wurde, beispielsweise anhand eines Zeitstrahls. Nutzerinnen und Nutzer k\u00f6nnen jeden Analyseschritt einsehen, von der Erkennung von Manipulationen, \u00fcber Metadaten wie Ver\u00f6ffentlichungszeitpunkte oder erkannte Personen im Medium bis zu den gefundenen originalen Quellen im Netz. Dadurch bleibt die \u00dcberpr\u00fcfung nicht nur technisch pr\u00e4zise, sondern auch journalistisch belegbar.
Gerade in Zeiten, in denen KI oft als \u201eBlack Box\u201c wahrgenommen wird, ist diese Nachvollziehbarkeit entscheidend f\u00fcr Glaubw\u00fcrdigkeit und Vertrauen. Nur wenn Menschen verstehen, warum ein Bild als manipuliert gilt, k\u00f6nnen sie fundierte Entscheidungen treffen und diese transparent weitergeben.<\/p>\n\n\n\n
Das Unternehmen gewann schnell zahlreiche Unterst\u00fctzerinnen und Unterst\u00fctzer und wuchs kontinuierlich. Zu den wichtigsten Meilensteinen z\u00e4hlen die Auszeichnung durch die Bundesagentur f\u00fcr Sprunginnovation (SPRIND) im Rahmen der Deepfake Detection Challenge, die Nominierung f\u00fcr den Innovationspreis Berlin Brandenburg sowie mehrere erfolgreiche Aufnahmen in KI- und Medien-Acceleratorprogramme wie den MediaTech Hub Accelerator \u2013 erg\u00e4nzt durch viele kleinere Best\u00e4tigungen wie bspw. den Award zum \u201cBest Cybersecurity Startup\u201d des FGTL Vivatechnology 2025. Am wichtigsten ist jedoch, dass Gretchen AI durch starke Leistungswerte und konsequente Transparenz kontinuierlich Vertrauen aufbauen konnte \u2013 sowohl bei Kundinnen und Kunden als auch in die dahinterstehende Technologie.<\/p>\n\n\n\n
In den kommenden Monaten erweitern wir Gretchen AI um mehrere spannende Funktionen. Besonders im Fokus steht die Analyse und Suche von Videoinhalten, damit sich diese k\u00fcnftig noch leichter automatisch auf Manipulation und Kontext pr\u00fcfen lassen. Au\u00dferdem wird es eine Sprachanalyse-Funktion geben, mit der sich Deepfakes auch in Audioinhalten erkennen lassen.
Wir erweitern die Suchagenten, um nicht nur inhaltlich \u00e4hnliche (nicht nur exakt gleiche) Bilder und Videos zu finden, sondern auch Bilder des selben Events oder Vorgangs zu finden, selbst wenn matching einmal nicht so leicht sein sollte.
F\u00fcr unsere Nutzerinnen und Nutzer wird das Dashboard zudem noch einfacher zug\u00e4nglich: Erkl\u00e4rvideos und interaktive Hilfen sollen den Einstieg beschleunigen und den Workflow erleichtern.<\/p>\n\n\n\n
Technisch entwickeln sich Deepfakes und generative KI generell extrem schnell weiter: Modelle werden immer besser darin, nat\u00fcrliche Bewegungen, Stimmen und Lichtverh\u00e4ltnisse realistisch zu imitieren. Damit verschwinden viele klassische Hinweise auf F\u00e4lschungen (beispielsweise ungew\u00f6hnliche Schatten oder Extremit\u00e4ten). Mit der rasanten Weiterentwicklung von KI mitzuhalten und auch neueste Modellgenerationen zuverl\u00e4ssig zu erkennen, bleibt eine fortlaufende Herausforderung, der wir uns mit voller Energie und Entschlossenheit stellen.
Gesellschaftlich ist die gr\u00f6\u00dfte H\u00fcrde das Vertrauen: Menschen m\u00fcssen lernen, KI-Ergebnisse richtig einzuordnen und kritisch zu hinterfragen. Auch der Wunsch nach schnellen Schlagzeilen oder viralen Inhalten f\u00fchrt dazu, dass Fakes sich oft schneller verbreiten als ihre Korrektur.<\/p>\n\n\n\n
Startet nicht mit dem Modell, sondern mit einem echten Problem, das jemand wirklich l\u00f6sen m\u00f6chte. Dabei gibt es prinzipiell kein Tabu!
Baut fr\u00fch Prototypen und testet kontinuierlich mit Nutzerinnen und Nutzern \u2013 nicht im stillen K\u00e4mmerchen entwickeln.
Denkt von Anfang an \u00fcber Vertrauen, Datenethik und Transparenz nach, sonst verliert ihr schon, bevor ihr skalieren k\u00f6nnt.<\/p>\n\n\n\n
Bild Fotocredit KI generiert<\/p>\n\n\n\n
Wir bedanken uns bei Dr. Tim Polzehl<\/a> f\u00fcr das Interview<\/p>\n\n\n\n Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder<\/p>\n\n\n\n