Blackbox Algorithmen: Wie die EU das Netz regeln will

ChatGPT kennt mittlerweile fast jeder. Doch schon länger bestimmen teils undurchsichtige Algorithmen, wie wir auf Facebook oder Google die Welt wahrnehmen. Ein neues EU-Center soll für Transparenz sorgen – und dabei helfen, weltweit einmalige Regeln durchzusetzen.

Die Europäische Union will die Blackbox undurchsichtiger Software-Entscheidungen im Internet öffnen und so Online-Riesen wie Facebook oder Tiktok sicherer für ihre Nutzer machen. Um die Mechanismen hinter Hassreden, Desinformationskampagnen oder psychischen Gefahren für Kinder tatsächlich zu verstehen, müssen EU-Beamte in Zukunft das Herz und die Seele der Plattformen sezieren: Wie arbeiten die Empfehlungssysteme? Was für Algorithmen liegen ihnen zugrunde? Welche gesellschaftlichen Auswirkungen hat all das? Das Europäische Zentrum für Algorithmen-Transparenz (ECAT), das am Dienstag in Sevilla eröffnet wurde, soll dabei eine maßgebliche Rolle spielen.

Das Regelwerk, das Ordnung in den «Wilden Westen» des Internets bringen soll, ist das Gesetz über digitale Dienste (Digital Services Act, DSA). Bislang setzt die EU im Kampf gegen illegale Inhalte vor allem auf Selbstverpflichtungen der Dienste. Der DSA soll nun unter anderem sicherstellen, dass Plattformen etwa Hassrede und gefälschte Produkte von ihren Seiten schneller entfernen. Für die ganz großen Plattformen sollen besonders scharfe Vorgaben gelten. Die EU-Kommission wird auf Grundlage der Nutzerzahlen in den kommenden Tagen bestimmen, wer darunter fallen wird. Facebook, Instagram, Youtube oder Twitter dürften aber dazu gehören. Sie alle organisieren ihre Dienste maßgeblich über Künstliche Intelligenz (KI) – also Algorithmen. Und da kommt das ECAT ins Spiel.

KI ist seit langem maßgeblich dafür verantwortlich, wie Nutzer das Internet erleben: Welchen Song hören wir als nächstes? Welcher Post wird uns angezeigt? Welche Ergebnisse erscheinen bei unserer Suche? Welches Produkt sollen wir kaufen? Algorithmen bestimmen so wesentlich die Wahrnehmung der Welt und werden so immer ausgefeilter. Einigen bereitet das große Sorgen. Sie warnen davor, dass die selbstlernenden Programme unkontrollierbar werden könnten.

Neue Herausorderungen durch generative KI

Für globale Aufmerksamkeit sorgt derzeit vor allem der Text-Automat ChatGPT. Man gibt ihm einige Stichworte oder stellt ihm eine Frage – als Antwort bekommt man einen ausformulierten Text, der oft nicht als computergeneriert erkennbar ist. Mittlerweile gibt es auch Programme, die auf Basis weniger Wörter Bilder erzeugen können. Das Risiko, dass solche Technologien für Fake News genutzt werden könnten, ist offensichtlich. Mehrere EU-Abgeordnete forderten zuletzt einen globalen Gipfel zu den Gefahren von Künstlicher Intelligenz.

Doch zurück ins spanische Sevilla, wo ECAT-Wissenschaftler – wie in einer deutschen Amtsstube – daran arbeiten, dass sich die amerikanischen Online-Giganten an europäische Regeln halten. Ein Team aus 30 Mitarbeitern, darunter KI-Experten sowie Daten- und Sozialwissenschaftler, wird die EU-Kommission künftig bei der Durchsetzung des DSA beraten und sich mit weiteren Experten austauschen. Letztlich liegt die Hoheit über die Regeln nicht in Sevilla, sondern in Brüssel.

Einmal pro Jahr Risikobewertung

Bei der EU-Kommission müssen die Plattform-Riesen künftig einmal im Jahr eine Risikobewertung mit Blick auf schädliche Inhalte vorlegen – samt möglicher Gegenmaßnahmen. Der erste Bericht ist bis September fällig. Dabei könne es etwa um die Frage gehen, ob die psychische Gesundheit von Kindern gefährdet sei. Die Berichte werden von der EU-Kommission geprüft, in diese auch die Öffentlichkeit – Forscher oder Journalisten – einsehen können. Die EU-Kommission kann weitere Informationen anfordern. Sie kann Entwickler befragen, Details zum Testumfeld der Plattformen anfordern ebenso wie wie den Code der Algorithmen. Wer sich nicht an die Regeln hält, dem drohen Strafen bis zu sechs Prozent des weltweiten Jahresumsatzes.

Teil der Regeln sind auch, dass Unternehmen illegale Inhalte zügig entfernen müssen, wenn sie darüber informiert werden. Für die Nutzer wird es einfacher, solche Inhalte zu melden. Doch ist die EU mit diesem Gesetz tatsächlich auf der Höhe der Zeit? In der Kommission gibt man sich selbstbewusst. Renate Nikolay aus der zuständigen Generaldirektion spricht von «Hardcore-Pflichten». Es gebe die große Erwartung, dass die EU nicht nur gut darin sei, Regeln aufzustellen, sondern auch Änderungen bringe. «Die Welt schaut uns zu», sagte Nikolay am Dienstag. Die EU ist die erste Zusammenschluss weltweit, die versucht, Facebook und Co. umfassend in die Schranken zu weisen.

Doch was ist mit all dem, was derzeit und in Zukunft auf Grundlage von Algorithmen und Künstlicher Intelligenz entwickelt wird? Was ist mit ChatGTP und autonom fahrenden Autos? Was ist mit automatischen Programmen zur Personaleinstellung oder zur Bewertung der Kreditwürdigkeit? Entscheidungen Künstlicher Intelligenz können großen Schaden anrichten.

Auch hier will die Europäische Union Vorreiter sein und Standards setzen. Dazu schlug die EU-Kommission bereits vor zwei Jahren ein neues Regelwerk, den sogenannten Artificial Intelligence Act vor, über den in Brüssel derzeit verhandelt wird. Angesichts von ChatGPT und Co. mahnte Digitalminister Volker Wissing (FDP) gerade erst zur Eile. Das ECAT wird auch hier helfen, Algorithmen und ihre Auswirkungen auf die Gesellschaft besser zu verstehen.

dpa