McAfee stellt Technologie zur Erkennung von Deepfake-Audio vor

McAfee, Anbieter von Online-Schutz, stellt auf der Consumer Electronics Show seine KI-gestützte Deepfake-Audio-Detection-Technologie vor – bekannt als Project Mockingbird.

Diese neue, firmeneigene Technologie wurde entwickelt, um Verbraucher vor der zunehmenden Bedrohung durch Cyberkriminelle zu schützen. Die Verbrecher verwenden gefälschte, KI-generierte Audiodateien, um Betrügereien durchzuführen, die Menschen um Geld und persönliche Informationen zu bringen, Cybermobbing zu ermöglichen und das öffentliche Bild prominenter Personen zu manipulieren.

Immer raffiniertere und leichter zugängliche Werkzeuge der generativen KI haben es Cyberkriminellen erleichtert, sehr überzeugende Betrugsversuche zu entwickeln. Eine dieser Maschen ist z. B. das Klonen von Stimmen, um sich als ein Familienmitglied in Not auszugeben. Bei anderen, oft als „billige Fälschungen“ bezeichneten Betrugsversuchen, werden authentische Videos, z. B. Nachrichtensendungen oder Interviews mit Prominenten manipuliert. Hier werden gefälschte Audiodateien eingefügt, um die Worte aus dem Mund einer Person zu verändern und somit Falschaussagen zu tätigen.

McAfee Labs, der Innovations- und Bedrohungsintelligenzzweig von McAfee, hat ein hochentwickeltes KI-Modell entwickelt. Es ist auf die Erkennung von KI-generierter Audio trainiert, um die wachsende Herausforderung für Verbraucher zu bewältigen, echte von digital manipulierten Inhalten zu unterscheiden. Die Technologie hinter dem Projekt Mockingbird verwendet eine Kombination aus KI-gestützten kontextuellen, verhaltensbezogenen und kategorialen Erkennungsmodellen, um zu identifizieren, ob der Ton in einem Video wahrscheinlich von KI erzeugt wurde. Mit einer Trefferquote von derzeit 90 Prozent erkennt McAfee KI-Inhalte, die für böswillige „Cheapfakes“ oder „Deepfakes“ erstellt wurden und schützt die Verbraucher somit.

„Mit den neuesten KI-Erkennungsfunktionen von McAfee stellen wir unseren Kunden ein Tool zur Verfügung, das mit einer Genauigkeit von über 90 Prozent arbeitet. Es hilft den Menschen, ihre digitale Welt zu verstehen und die Wahrscheinlichkeit einzuschätzen, dass Inhalte anders sind, als sie scheinen“, sagt Steve Grobman, Chief Technology Officer bei McAfee. „So wie eine Wettervorhersage, die eine 70-prozentige Regenwahrscheinlichkeit anzeigt, Ihnen hilft, Ihren Tag zu planen, gibt Ihnen unsere Technologie die Möglichkeit, fundierte Entscheidungen darüber zu treffen, ob Inhalte das sind, was sie zu sein scheinen.“

„Die Anwendungsfälle für diese KI-Erkennungstechnologie sind weitreichend und werden sich angesichts der Zunahme von KI-generierten Betrügereien und Desinformationen für die Verbraucher als unschätzbar erweisen. Dies hebt den Schutz im Zeitalter der KI auf eine neue Ebene. Unser Ziel ist es, den Nutzern Klarheit und Vertrauen zu geben, damit sie sich in unserer neuen KI-gesteuerten Welt zurechtfinden und ihre Online-Privatsphäre, ihre Identität und ihr Wohlbefinden schützen können“, führt Grobman weiter aus.

Die ersten öffentlichen Demos von Project Mockingbird werden auf der Consumer Electronics Show 2024 vor Ort verfügbar sein. Die Vorstellung dieser neuen KI-Technologie zeigt, dass McAfee sich auf die Entwicklung eines umfassenden Portfolios von KI-Modellen konzentriert, die plattformübergreifend sind und mehrere Anwendungsfälle bedienen, um das digitale Leben der Verbraucher zu schützen.

Große Besorgnis über Deepfake-Technologie

Die Verbraucher sind zunehmend besorgt über die ausgefeilte Natur dieser Betrügereien. Nutzer können sich nicht mehr auf ihre Sinne und Erfahrungen verlassen, um festzustellen, ob das, was sie sehen oder hören, echt oder gefälscht ist. Die Ergebnisse einer McAfee-Umfrage aus den USA zu Deepfakes vom Dezember 2023 zeigen Folgendes:

Deepfake-Erfahrungen und -Perspektiven

• Die große Mehrheit (84 Prozent) der Amerikaner ist besorgt darüber, wie Deepfakes im Jahr 2024 eingesetzt werden.
• 68 Prozent der Amerikaner sind heute besorgter über Deepfakes als noch vor einem Jahr.
  • Mehr als ein Drittel (33 Prozent) der Amerikaner gaben an, dass sie (16 Prozent) oder jemand, den sie kennen (17 Prozent), einen Deepfake-Betrug gesehen oder erlebt haben, wobei die 18- bis 34-Jährigen mit 40 Prozent am stärksten betroffen sind.

Die größten Bedenken hinsichtlich der Deepfake-Nutzung im Jahr 2024:

• Mehr als die Hälfte (52 Prozent) der Amerikaner sind besorgt, dass die Zunahme von Deepfakes Wahlen beeinflussen, das Vertrauen der Öffentlichkeit in die Medien untergraben (48 Prozent) und dazu benutzt werden könnte, sich als Personen des öffentlichen Lebens auszugeben (49 Prozent).
• Die Besorgnis über die Verbreitung von Betrügereien dank KI und Deepfakes ist mit 57 Prozent ebenfalls groß.
• Die Verwendung von Deepfakes für Cybermobbing ist für 44 Prozent der Amerikaner besorgniserregend, und mehr als ein Drittel (37 Prozent) der Befragten befürchtet, dass Deepfakes zur Erstellung sexuell eindeutiger Inhalte verwendet werden.

www.mcafee.com/de