Neue MIT-KI soll Menschen fairer behandeln

Die von Justiz, Banken und privaten Unternehmen verwendeten Algorithmen sind laut Forschern des Massachusetts Institute of Technology (MIT) manchmal voreingenommen.

Sie wirken sich unverhältnismäßig negativ auf Farbige und Menschen in niedrigeren Einkommensklassen aus, wenn sie Kredite beantragen, sich um Jobs bewerben oder sogar vor Gericht stehen, wenn beispielsweise eine Kaution festgesetzt werden soll.

Neue Programmiersprache für KI

Um die faire Gleichbehandlung wiederherzustellen, haben die Forscher eine neue Programmiersprache für Künstliche Intelligenz (KI) entwickelt, die die Fairness von Algorithmen genauer und schneller beurteilen kann als verfügbare Alternativen. Ihre „Sum Product Probabilistic Language“ (SPPL) ist ein probabilistisches Programmiersystem an der Schnittstelle von Programmiersprachen und KI. Es zielt darauf ab, KI-Systeme einfacher zu entwickeln. Mit SPPL gab es bereits Erfolge in den Bereichen Computer Vision, Datenbereinigung und automatisierte Datenmodellierung.

Laut Feras Saad, Doktorand im Bereich Elektrotechnik und Informatik, gibt es zwar ähnliche Systeme, „doch unseres ist auf eine bestimmte Klasse von Modellen spezialisiert und optimiert, sodass es Lösungen 1.000 Mal schneller liefern kann“. SPPL bietet dem Experten nach schnelle, genaue Lösungen für Fragen wie „Wie wahrscheinlich ist es, dass das Modell jemandem über 40 einen Kredit empfiehlt?“. Zu den Fairness-Fragen, die SPPL beantworten kann, gehören „Gibt es einen Unterschied zwischen der Wahrscheinlichkeit, einem Einwanderer und Nichteinwanderer mit dem gleichen sozioökonomischen Status einen Kredit zu empfehlen?“ oder „Wie hoch ist die Wahrscheinlichkeit einer Einstellung, wenn der Kandidat für den Job qualifiziert ist und aus einer unterrepräsentierten Gruppe stammt?“.

Folgenschwere Fehler vermeiden

Fehler durch probabilistische Inferenz sind in vielen KI-Anwendungen tolerierbar. Es ist jedoch unerwünscht, dass Inferenzfehler zu sozial folgenschweren Anwendungen führen. „SPPL zeigt, dass eine genaue probabilistische Inferenz für eine breite Klasse probabilistischer Programme praktisch und nicht nur theoretisch möglich ist“, sagt Vikash Mansinghka, der die Entwicklung geleitet hat.

www.pressetext.com