Thought Leadership
Den Rasenmäher oder Schminktechniken auf Youtube erklären: Öffentlich zur Verfügung gestellte Audio- und Videodateien können mit der Weiterentwicklung von Künstlicher Intelligenz von Kriminellen mit schwerwiegenden Folgen missbraucht werden.
Davor warnt der Chef des rheinland-pfälzischen Landeskriminalamts (LKA), Mario Germano, im Gespräch mit der Deutschen Presse-Agentur in Mainz.
«Ich gebe Videodaten von mir preis, ich gebe Stimmdaten von mir preis und zwischenzeitlich braucht eine KI nicht mehr viel, um daraus perfekte Audio- und Videofiles kreieren zu können», sagt der LKA-Chef. «Dann kann einer über seine Tastatur eingeben, was der Mensch sagen soll und das in einer solchen Qualität, dass nicht zu erkennen ist, dass das gar nicht die reale Person ist.»
Kriminelle können mit KI Video- und Audiodateien missbrauchen
Um ein passendes Opfer zu finden, sei für potenzielle Täter noch «ein bisschen Detektivarbeit» notwendig. «Aber auch das wird mir in Zukunft die KI abnehmen, weil ich programmieren kann, was ich suche.»
«Mit der Generierung von Stimmen und Bildern ist viel denkbar, vom Identitätsdiebstahl bis zur missbräuchlichen Nutzung einer geklauten Identität», sagt Germano. Einen Firmenchef, der einen Mitarbeiter telefonisch anweist, Geld zu überweisen, nennt er als Beispiel. Beide ließen sich künftig mit KI finden.
Die Echtheit eines Anrufs oder Videocalls ist schwerer zu erkennen
«Wenn die Stimme passt und vielleicht bei einem Videotelefonat irgendwann auch noch das Bild, dann wird es für den angerufenen Menschen immer schwieriger zu erkennen, dass er es gar nicht mit der Person zu tun hat, mit der er denkt, es zu tun zu haben.»
Die rasante Entwicklung der Leistungsfähigkeit von Instrumenten wie ChatGPT sei einerseits faszinierend, aber andererseits auch besorgniserregend. «Da bietet sich für Kriminelle wahnsinniges Potenzial.» Persönliche zugeschnittene Phishing- und Fakemails nennt der LKA-Chef als ein anderes Beispiel. Wie etwa die Ankündigung einer Erbschaft aus dem Ausland von einer erfundenen Kanzlei, die aber eine Fake-Seite im Internet hat. «Durch KI wird es den Tätern in Zukunft möglich sein, auf allen Sprachen perfekt designte Homepages zu erstellen.»
KI erleichtert Straftätern die Arbeit erheblich
«Am Ende kann ich der KI sogar noch sagen, formuliere den Brief so, dass er größtmögliche Glaubwürdigkeit hat», sagt Germano. Die Täter brauchten sich selbst gar nicht mehr darum zu kümmern. Auch bei Chats, eventuell sogar Voice Chats kann auf der anderen Seite einfach eine KI sitzen, die perfekt mit dem Menschen über das Fakeschreiben kommuniziert. «Der eine Täter ist plötzlich in der Lage Straftaten zu verüben, für die er vorher ein Callcenter brauchte – mit 100 Leuten, die unterschiedliche Sprachen sprechen.»
«Vieles davon ist noch Zukunftsmusik», sagt Germano. «Aber wir stellen ja jetzt schon fest, was da geht. Und auch die Entwickler von ChatGPT selbst haben schon die ersten Fälle dokumentiert, in denen versucht wurde, über ihr Tool entsprechend Malware herstellen zu lassen.»
Die KI könne künftig aufgefordert werden, beispielsweise Phishing Software zu programmieren und biete Tätern damit «wahnsinnige Möglichkeiten für teilweise umsonst oder kleinen Invest».
Werden viele Menschen ihre digitale Präsenz einschränken?
Mit einer konkreten Audio- oder Videodatei oder Bildern könne KI dann auch trainiert werden. «Der Trend der letzten Jahre war ja, digitale Präsenzen aufzubauen», sagte Germano und nannte Pinnwände wie Linkedin als Beispiel, vielleicht noch verknüpft mit YouTube und Tiktok. «Die Möglichkeiten der digitalen Quellen für entsprechende Programmierung sind immer größer geworden.»
Germano rät: Codewörter in der Familie vereinbaren
«Vielleicht wird es in der Zukunft auch wieder einen Trend geben, dass die Menschen deshalb zu Digital Detox neigen oder sich sogar vielleicht ganz zurückziehen aus einer digitalen Präsenz.»
Germano rät etwa gegen Enkeltricks mit der Familie Codewörter zu vereinbaren, um Fakeanrufern nicht auf den Leim zu gehen. Und: «Immer zwei- oder dreimal prüfen, muss ich das Video auf meinem YouTube-Kanal einstellen, in dem ich erkläre, wie mein Rasenmäher funktioniert?»
dpa
