Thought Leadership
Die COVID-19-Pandemie, die immer lauter werdenden Forderungen nach sozialer Gerechtigkeit sowie die sich ausbreitende digitale Kluft haben die Diskussion um ethische Prinzipien verschärft.
Als Reaktion auf diesen Wandel haben Unternehmen eine Vielzahl positiver Schritte ergriffen, von der Unterstützung für soziale Anliegen bis hin zu einer stärkeren Förderung der Vielfalt innerhalb der Teams. Gleichzeitig hat die Krise das Interesse an der Nutzung von Technologie gesteigert. An der Schnittstelle zwischen diesen beiden Entwicklungen wird deutlich, dass Technologie, die entscheidend zum Unternehmenserfolg beiträgt, ethischen Ansprüchen gerecht werden muss. Die Wahrheit ist: Um ethisch einwandfreie Ergebnisse zu erzielen und Risiken zu minimieren, muss Technologie genauso aktiv gemanagt und überwacht werden wie jeder andere Aspekt des Geschäfts – vielleicht sogar noch mehr.
Peter Buhrmann, Geschäftsführer ThoughtWorks Deutschland, erklärt, welche Strategien und Rahmenbedingungen notwendig sind, damit Unternehmen ihre Technologie auf einer verantwortungsvollen Grundlage entwickeln und nutzen können:
Verantwortungsvolle Technologie als Schlüssel zum Erfolg
Da viele Unternehmen noch immer mit den unmittelbaren Folgen der Pandemie zu kämpfen haben, kann leicht gefolgert werden, dass die ethische Verwendung von Technologien keine Priorität haben muss oder mit anderen weichen Aspekten der sozialen Unternehmensverantwortung vermengt werden kann. Doch verantwortungsvoller Technologieeinsatz kann sich essenziell auf den Erfolg von Unternehmen auswirken.
Technologie dringt immer weiter in sensible Bereiche wie Gesundheitswesen, staatliche und öffentliche Dienstleistungen, Justizsystem oder das Finanzwesen vor. Hier wirken sich Verstöße gegen ethische Prinzipien fatal aus, weil es um besonders sensible Daten geht. Zudem stellen Verbraucher höhere Ansprüche an das ethische Verhalten von Unternehmen, zum Beispiel in puncto Nachhaltigkeit. Bei einer Studie von inRiver im Jahr 2019 gaben 71 Prozent der deutschen Befragten an, dass Details zur Nachhaltigkeit eines Produkts die Kaufentscheidung positiv beeinflussen. Die Studie fand außerdem heraus, dass 49 Prozent der Verbraucher bereit sind, für nachhaltige Produkte mehr zu zahlen.
Der verantwortungsvolle Umgang mit Technologie ist auch für die Attraktivität als Arbeitgeber wichtig. Die Art und Weise, wie ein Unternehmen Technologie einsetzt, hat einen direkten Einfluss auf seine Fähigkeit, zukünftige Talente anzuziehen und zu halten. Die Forschung zeigt, dass insbesondere Millennials und die Generation Z für ethische Unternehmen arbeiten möchten und die größten Bedenken gegen den unethischen Einsatz von KI haben.
Blinde Flecken: KI und Kundendaten
Jede Anwendung von Technologie kann ethische Auswirkungen haben, aber zwei Schlüsselbereiche verdienen besondere Aufmerksamkeit: künstliche Intelligenz und die Verwendung von Kundendaten. Treffen die Entwickler*innen von KI-Systemen fragwürdige Entscheidungen bei der Erarbeitung des zugrunde liegenden Algorithmus – aufgrund von schlechten Daten oder Annahmen, bewusst oder unbewusst – dann können diese Verzerrungen zu Benachteiligungen und zur Ungleichbehandlung von Personen führen. Die Allgegenwärtigkeit von Algorithmen und KI macht verantwortungsvolles Handeln bei ihrer Programmierung und Verwendung unabdingbar. Nicht ohne Grund hat die EU-Kommission im vergangenen Jahr ein Weißbuch veröffentlicht, auf dessen Grundlage diese Problematik besser angegangen werden soll. Doch Kritikern geht das Weißbuch nicht weit genug – Transparenz und Nachvollziehbarkeit von KI-Systemen kämen in dem EU-Vorschlag noch immer zu kurz.
Verantwortungsvolle Prinzipien sind auch bei der Verwendung von Kundendaten notwendig. Daten sind zum neuen Kapital der Unternehmen geworden. Veränderte Verbrauchererwartungen und Vorschriften wie die DSGVO haben das Bewusstsein der Unternehmen dafür geschärft, wie sie Informationen sammeln, nutzen und aufbewahren. Das ist eine gute Sache, da viele Kunden bereit sind, gegen Firmen vorzugehen, die die Datenpolitik nicht ernst zu nehmen scheinen.
Elemente verantwortungsvoller Technologie
Verantwortungsvolle Technologie muss ein Schwerpunkt in einem Unternehmen sein und nicht nur eine einmalige Initiative oder eine bloße Willenserklärung. Ein fünfteiliger Leitfaden kann Unternehmen dabei helfen, den ethischen Einsatz ihrer Technologien zu fördern.
- Heterogene Teams
Die ethischen Implikationen von Produkten können nur dann vollständig durchdacht werden, wenn sie aus verschiedenen Blickwinkeln betrachtet werden – und das erfordert die Beteiligung heterogener Teams. Nur so lässt sich sicherstellen, dass unterschiedliche Lebens- und Erfahrungswelten berücksichtigt werden.
- Die richtigen Fragen stellen
Verbunden mit der Diversität ist es wichtig, dass Teams die richtigen – manchmal unangenehmen – Fragen stellen, um Verstöße gegen ethische Prinzipien auszuschließen.
- Alle Stakeholder berücksichtigen
Bei jeder Innovation mit potenziell weitreichenden Folgen für die Gesellschaft oder die Umwelt sollte das Ziel sein, einen breiteren Konsens über das, was geschaffen wird, zu erreichen. Bei der Einführung einer Technologie sollten Unternehmen Einschränkungen oder Folgewirkungen in Betracht ziehen, die möglicherweise nur für bestimmte Gruppen wie Kinder, benachteiligte oder ältere Menschen gelten. Auch unternehmensinterne blinde Flecken sollten bedacht werden. So hat der pandemiebedingte Umstieg auf kollaborative Tools wie Zoom oder G Suite die digitale Kluft auch innerhalb der Unternehmen zum Vorschein gebracht. Selten wurde gefragt, ob alle Mitarbeiter den gleichen Zugang zu diesen Diensten und dem dafür erforderlichen schnellen Internet haben.
- Standards, Ziele und Richtlinien für Responsible Tech entwickeln
Nachdem Unternehmen ihren Zweck geklärt haben, können sie zur Definition von Werten, Zielen und Richtlinien für Responsible Tech übergehen, damit jeder die Parameter kennt, innerhalb derer sie arbeiten und Entscheidungen treffen. Definierte Standards und ein einheitliches Vorgehen helfen auch dabei, Technologieanbieter und Partner zu bewerten, mit denen das Unternehmen zusammenarbeitet, und sie an vergleichbare Standards zu binden.
- Ständige Weiterentwicklung
Schließlich muss der verantwortungsvolle Technologieansatz eines Unternehmens wie jede andere Fähigkeit verfeinert und ständig weiterentwickelt werden. Ohne effektive Kommunikation wird Verantwortung nicht Teil des allgemeinen Arbeitsethos werden. Unternehmen, die diese Fähigkeiten aufbauen wollen, können beispielsweise mit einer Kerngruppe starten, die an einem einzigen Produkt arbeitet, um die etablierten Mechanismen dann auszuweiten.
Das Bewusstsein für die ethische Verantwortung wächst
Technologie wird wahrscheinlich ein ethisches Spannungsfeld bleiben. Dennoch zeichnen sich einige ermutigende Trends ab. Technolog*innen selbst sind zunehmend entschlossen, die ethischen Konsequenzen ihres Handelns abzuwägen – und gegebenenfalls den Kurs zu korrigieren. Wie in anderen Bereichen des Ingenieurwesens findet eine Professionalisierung statt und Folgenabschätzungen werden Bestandteil des normalen Arbeitsablaufes. Ein weiterer Grund zur Hoffnung ist das wachsende Bewusstsein, dass ethische und geschäftliche Erfolge keine konkurrierenden Prioritäten sind, sondern eng miteinander verbunden sind. Unternehmen, die bedeutende Fortschritte bei der Übernahme von Verantwortung erzielen, können auch reaktionsfähiger sein. Indem sie Offenheit und Transparenz praktizieren und langfristigen Beziehungen Vorrang vor kurzfristigen Gewinnen einräumen, sind sie besser mit Kunden und anderen Interessengruppen verbunden und in der Lage, Markttrends und Regulierungen besser zu antizipieren. Mit anderen Worten, verantwortungsvoll zu sein bedeutet, der Zeit voraus zu sein.
www.thoughtworks.de
