Thought Leadership
Mit der neuen EU-Verordnung zum Einsatz von Künstlicher Intelligenz (KI) soll erstmals ein umfassendes Regelwerk geschaffen werden, das erhebliche Auswirkungen auf die zukünftige Entwicklung von KI-Anwendungen haben könnte. Das betrifft besonders das Gesundheitswesen, in dem intelligente Assistenzsysteme eine zunehmend große Rolle spielen und die Arbeit von medizinischen Fachkräften unterstützen.
Alireza Rezvani, CTO des Health-Tech Unternehmens Lindera, erklärt, wieso eine Überregulierung nicht der Weg für einen verantwortungsvollen Umgang mit KI sein kann. Er plädiert für einen Ethikkodex und spricht sich für das Konzept „Explainable AI” aus.
- Im EU-Parlament wird zurzeit die neue Verordnung zum Einsatz Künstlicher Intelligenz – kurz: AI Act – verhandelt
- Der AI Act könnte zukünftige Innovationen stark einschränken – besonders in Bereichen wie dem Gesundheitswesen, die bald auf Künstliche Intelligenz angewiesen sein könnten
- Alireza Rezvani, CTO und Entwickler der KI-basierten Mobilitätsanalyse von Lindera, plädiert für einen Ethikkodex statt für strenge Regulierungen
Ausgewogene statt übermäßige Regulierung, um die beste Versorgung sicherzustellen
„Die Auswirkungen, die strengere Regeln auf KI-Anwendungen im Gesundheitswesen haben könnten, müssen sorgfältig abgewogen werden. Eine übermäßige Regulierung könnte die Entwicklung und Nutzung von KI einschränken und die Patientenversorgung beeinträchtigen. Bei der Regulierung dürfen nicht nur die Risiken, sondern auch die Vorteile von KI berücksichtigt werden. Dabei muss durch die Verordnung sichergestellt werden, dass KI-Anwendungen verantwortungsvoll eingesetzt werden, um sowohl die Patientensicherheit als auch die medizinischen Fortschritte zu fördern.“
Lösungsvorschlag: Ein ethischer Kodex und enge Zusammenarbeit von Politik und KI-Expert:innen aus der Wirtschaft und Wissenschaft
„Wir sollten einen ethischen Kodex für alle Hersteller im Pflege- und Gesundheitswesen etablieren. Dieser Kodex kann Anbietern von digitalen Lösungen erlauben, sinnvolle Produkte für medizinische Fachkräfte zu entwickeln, die allein der Gesundheit und dem Wohlergehen der Menschen dienen.
Auch eine lückenlose und transparente Aufklärung zum Thema KI in der Medizin spielt eine essenzielle Rolle. Der Ansatz der „Explainable AI – erklärbare KI“ hilft dabei, die viel verbreitete Sorge und die Angst vor dem Einsatz von Künstlicher Intelligenz zu mindern. Dabei dürfen wir nie aus den Augen verlieren, dass auch die Gefahren und die Risiken in der KI-Technologie klar adressiert werden müssen. Über die Risiken zu sprechen und die bestmögliche Lösung gemeinsam auszuarbeiten, sollte das Ziel der Behörden sein.“
Fehlendem Verständnis nicht mit Ablehnung und Einschränkungen, sondern mit Wissen und Erfahrung begegnen
„In Zeiten des Fachkräftemangels dürfen wir nicht den Fehler begehen, auf neue Technologien mit strengen Auflagen zu reagieren, nur weil in vielen Bereichen bislang die Kompetenzen und das Verständnis dafür fehlen. Verbote und Regulierungen entstehen nur dann, wenn wir komplexen Fragestellungen und Problemen aus dem Weg gehen wollen. Dabei müssen wir uns eigentlich auf eine objektive Bewertung konzentrieren, bei der wir sowohl die Risiken als auch die Chancen von KI berücksichtigen. Hier muss die Politik mit Expertinnen und Experten aus diesem Gebiet eng zusammenarbeiten. Ebenso müssen KI-Anwendungen sorgfältig von Fachleuten mit gewissen Kompetenzen und Erfahrungen geprüft werden, bevor sie zum Einsatz kommen. Es ist jedoch nicht notwendig, Verbote oder übermäßige Regulierungen einzuführen, die potenziell innovative Technologien und Applikationen in der Medizin einschränken und die Patientenversorgung behindern oder sogar gefährden könnten. Wir haben an einigen Beispielen aus der Vergangenheit im Gesundheitswesen in Deutschland gesehen, dass großartige Ideen und Vorhaben schnell in eine Bürokratie- und Regulierungsfalle geraten und von der Bildfläche verschwunden sind.”
