Start-up bringt Deepfake-Erkennungs-Tool auf den Markt

Das Unternehmen Reality Defender hat ein Tool entwickelt, das Deepfakes in Videokonferenzen in Echtzeit erkennen soll. Damit sollen Unternehmen und Teams vor ausgeklügelten Social-Engineering-Angriffen geschützt werden, die von Cyberkriminellen immer häufiger eingesetzt werden.

Die Kunden von Reality Defender können ab sofort die Deepfake-Erkennungsmodelle der Plattform nutzen, um automatisch zu verifizieren, ob es sich bei den Teilnehmern eines Videoanrufs um reale Personen handelt oder ob sie mithilfe von KI-generierten Werkzeugen jemand anderen imitieren. Die Erkennung erfolgt laut Entwickler vollständig innerhalb der Konferenz-App, wobei die Erkennungsmodelle so lange scannen, bis ein Ergebnis vorliegt.

“Die Echtzeit-Erkennung von Deepfake-Videos kommt genau zum richtigen Zeitpunkt”, sagt Ben Colman, CEO und Mitbegründer von Reality Defender. “Da weltweit immer mehr aufsehenerregende Betrugsfälle im Zusammenhang mit Videokonferenzen auftreten, müssen Teams sicher sein können, dass sie tatsächlich mit realen Personen sprechen. Unsere Technologie ermöglicht genau das – mühelos und sofort.”

So funktioniert das Tool

Während des Gesprächs beginnen die Videoerkennungsmodelle von Reality Defender in Echtzeit die Gesichter auf dem Bildschirm zu analysieren, füllen das Seitenfenster mit Ergebnissen und liefern eine Bewertung, die die Wahrscheinlichkeit einer KI-Manipulation innerhalb des Anrufs aufzeigt. Wird Deepfake-Technologie verwendet, um das Aussehen eines Teilnehmers zu verändern, den KYC-Verifizierungsfluss zu spoofen oder um eine vertrauenswürdige Führungskraft, einen Kunden oder Mitarbeiter zu imitieren, wird der Benutzer sofort mit einem umsetzbaren Bericht benachrichtigt.

Die einzelnen Videostreams werden in der Originalauflösung und mit Rohdateninformationen für jeden Teilnehmer erfasst. Der Reality Defender-Plugin-Bot kann bequem an mehreren Meetings teilnehmen, und die Benutzeroberfläche bietet eine Reihe von Werkzeugen zur Verwaltung von Meetings und zum Trennen der Erkennungsbots nach Belieben. Die Oberfläche ermöglicht auch die Koordination mehrerer Videoströme und die Aggregation von Ergebnissen pro Meeting und Teilnehmer.