TÜV-Verband und BSI arbeiten bei Sicherheit von KI-Systemen zusammen

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der TÜV-Verband haben eine Expertengruppe zur Sicherheit von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) gegründet. 

• Risiken Künstlicher Intelligenz erkennen und bekämpfen
• Anwendungen aus dem Mobilitätssektor im Fokus
• Expertengruppe perspektivisch für weitere Teilnehmer offen

„Künstliche Intelligenz kommt immer häufiger in sicherheitskritischen Bereichen zum Einsatz, beispielsweise in hoch automatisierten Fahrzeugen oder in Robotern, die mit Menschen interagieren“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV), anlässlich der „TÜV Cybersecurity Conference“ in Berlin. „Die dabei entstehenden Risiken müssen frühzeitig erkannt und behoben werden.“ So müsse sichergestellt sein, dass die KI-Systeme auch in extremen Situationen sicher funktionieren und vor Cyberangriffen bestmöglich geschützt sind. Im Gegensatz zu klassischen IT-Systemen sind die heute eingesetzten KI-Systeme in der Regel kaum interpretierbar und damit schwer formal prüfbar. „Die traditionellen Prüfverfahren stoßen beim Einsatz Künstlicher Intelligenz an ihre Grenzen“, sagte Bühler. Ziel der Expertengruppe sei es, die Sicherheit von Künstlicher Intelligenz zu erhöhen und hierfür geeignete Prüfmethoden zu entwickeln.

Die Expertengruppe von TÜV-Verband und BSI wird anhand ausgewählter Anwendungsbereiche mögliche Schwachstellen von KI-Systemen identifizieren und potenzielle Angriffspunkte über den gesamten Lebenszyklus von KI-Systemen und –Produkten aufzeigen. Im Mittelpunkt stehen zunächst Anwendungen aus dem Mobilitätssektor. Perspektivisch will die Arbeitsgruppe auch weitere Expertinnen und Experten zur Mitarbeit und zu Diskussionen einladen.

www.vdtuev.de