Deepfakes nehmen deutlich zu

Wie Sicherheitsanalysten des Identitätsanbieters Sumsub in ihrem Identitätsbetrugsbericht 2023 feststellten, gab es bei den Betrugstrends einen deutlichen Anstieg bei der Nutzung von Deepfakes.

Zwar gab es noch weitere nennenswerte Betrugsmuster wie Mules oder sehr fortschrittliche Fälschungen von z.B. IDs, doch beträgt die ungefähre Wachstumsrate für die Verwendung von Deepfakes weltweit um das 10-fache.

Erster Berührungspunkt ist vor allem Desinformation über soziale Medien, wie es zuletzt bei einer philippinischen TV-Moderatorin und ihren Kollegen vorgekommen ist. In einem LinkedIn-Post äußerte die philippinische CNN-Moderatorin Ruth Cabal ihre Besorgnis über die „Gefahren der KI“. Zu Beginn des Jahres war sie Ziel eines gefälschten Videos geworden. In einem Deepfake waren das Logo des Unternehmens und eine angebliche Berichterstattung über eine Investitionsplattform zu sehen.

Im September 2023 ist der deutsche Fernsehmoderator Christian Sievers Opfer eines ähnlichen Deepfake-Betrugs geworden.

Besonders besorgniserregend ist, dass mittlerweile hochentwickelte Deepfakes dazu genutzt wurden, um nicht nur Prominente, sondern auch Führungskräfte zu imitieren und finanzielle Transaktionen zu autorisieren. Durch künstliche Intelligenz werden Deepfakes von Tag zu Tag realistischer. In einem Selbsttest schaffte es ein Journalist sogar, mittels eines Voicefakes Zugriff auf sein eigenes Konto zu erlangen.

Nach Ansicht von Sumsub sind die Fortschritte in der KI-Technologie speziell in den USA dafür verantwortlich. Die Experten führen diesen Anstieg der Deepfake-Betrugsversuche speziell auf die Fortschritte im Bereich der künstlichen Intelligenz in den USA zurück. Angesichts dieser Fortschritte, der einfachen Verfügbarkeit hochwertiger Medieninhalte und der Beliebtheit von Social-Media lassen sich die gestiegenen Zahlen der Deepfake Angriffe erklären.

Aufgrund dieser bedenklichen Entwicklung in den USA und Kanada empfiehlt KnowBe4, dass Unternehmen ihre Mitarbeiter in speziellen Security Awareness Trainings schulen. Es gilt, Techniken zur Erkennung und Vermeidung von Deepfakes zu lernen. Dazu zählen Maßnahmen wie die sorgfältige Überprüfung der Identität der anrufenden Person oder der Echtheit der hinterlassenen Voice-Mail.

Organisationen sollten darauf achten, dass die Aufklärung im Bereich Deepfakes über die bloße Erkennung, die schwierig genug ist, hinaus geht. Vielmehr geht es darum, den Teilnehmern zu vermitteln, sich die Zeit zu nehmen, um nach Hinweisen zu suchen, die den Betrug entlarven. Darüber hinaus muss das Thema Desinformation mit anschaulichen Beispielen nahegebracht werden, um über die Beweggründe und den Ablauf einer Kampagne aufzuklären. Mit Hilfe von Übungen und Workshops lassen sich dann Wege aufzeigen, um Mitarbeiter von der reinen Awareness hin zu einer dauerhaften Verhaltensänderung hinzuleiten.