Verbraucher sind beim KI-Einsatz zwiegespalten

Verbraucher haben Vertrauen in Künstliche Intelligenz (KI) als Werkzeug zur Verbesserung ihrer Customer Experience gefasst, sind jedoch zunehmend besorgt über die stärkere Nutzung in anderen Bereichen. Das geht aus einer neuen Studie von Pegasystems hervor, dem Anbieter einer Low-Code-Plattform, die die Agilität von Unternehmen steigert.​

Für die vom Marktforschungsunternehmen Savanta durchgeführte und auf der PegaWorld iNspire in Las Vegas vorgestellte Studie wurden 5.000 Verbraucher weltweit zu ihren Ansichten über KI, deren weitere Entwicklung und ihren Umgang mit der Technologie befragt. Demnach wird KI weitgehend akzeptiert in Bereichen, die die Customer Experience betreffen. Zwei Drittel der Befragten (67 %) stimmen zu, dass KI das Potenzial hat, den Kundenservice von Unternehmen, mit denen sie interagieren, zu verbesseren. Mehr als die Hälfte (54 %) teilt die Einschätzung, dass Unternehmen, die KI einsetzen, Kunden wahrscheinlich besser bedienen als Unternehmen, die auf den KI-Einsatz verzichten. Inzwischen fühlt sich fast die Hälfte der Befragten (47 %) wohl damit, gut getestete KI-Services von Unternehmen zu nutzen, und zwei Drittel (64 %) erwarten, dass die wichtigsten Abteilungen von Unternehmen innerhalb der nächsten zehn Jahre KI und Automatisierung einsetzen werden.

Dennoch belegt die Studie auch einen großen Mangel an Vertrauen in KI. Das zeigt sich in verschiedenen Bereichen:

• Lieber Mensch als KI: Obwohl sie KI beim Customer Engagement aufgeschlossen gegenüberstehen, bevorzugen 71 % der Befragten die Interaktion mit Menschen. Die Mehrheit (68 %) vertraut eher einem Bankangestellten als einer KI-Lösung, wenn es darum geht, eine objektive und unbefangene Entscheidung über die Gewährung eines Kredits zu fällen. Und noch mehr Befragte (74 %) geben zu, sie würden der medizinischen Diagnose eines Menschen eher vertrauen als der einer KI, die häufiger richtig liegt, aber ihre Entscheidungen nicht erklären kann. Zwar glauben inzwischen 51 %, ein autonomes Fahrzeug sei in der Lage, in Unfallsituationen eine ethischere Entscheidung als menschliche Fahrer zu treffen. Trotzdem sind 65 % der Meinung, die KI solle den menschlichen Fahrer in solchen Situationen nicht überstimmen dürfen.
• Aufstieg der Maschinen: Die große Mehrheit der Befragten (86 %) hat das Gefühl, KI sei in der Lage, unmoralisches Verhalten zu entwickeln, und mehr als ein Viertel (27 %) glaubt, dass das sogar schon passiert ist. Fast die Hälfte (48 %) hält es für wahrscheinlich, dass generative KI irgendwann empfindungsfähig wird oder ein eigenes Bewusstsein entwickelt. Knapp ein Drittel (30 %) sorgt sich, KI könnte die Menschheit versklaven – ein leichter Anstieg gegenüber den 27 % aus einer ähnlichen Studie im Jahr 2019. Lediglich 16 % haben keinerlei Bedenken bezüglich KI.
• Echt vs. Fake: Die Studie zeigt ein gestiegenes Bewusstsein für KI als alltägliches Tool. Mehr als die Hälfte der Befragten glaubt jedoch inzwischen, die Technologie sei verantwortlich für die Produktion von mehr als der Hälfte der Fotos (55 %) und Videos (55 %), die sie konsumieren. Damit wachsen die Bedenken, dass es schwierig wird, „echt“ von „fake“ zu unterscheiden – die Mehrheit gibt an, dass es ihr bereits mehr oder weniger schwerfällt zu erkennen, ob Inhalte von Menschen oder von KI generiert wurden. Fast zwei Drittel (63 %) erklären, sie könnten nicht sagen, ob ein langer Artikel von einem Menschen oder einer KI stamme. Ein ähnlich großer Antel hat dieses Problem bei Fotos (59 %) und Videos (58 %). Mehr als die Hälfte (56 %) findet es schwierig festzustellen, ob Fernsehberichte von KI generiert wurden.

„Anwendungen wie Midjourney und ChatGPT machen KI für die breite Masse zugänglich. Daher ist es nicht überraschend, dass wir gewisse Konflikte erleben. Man darf nicht vergessen, dass viele Menschen die Vorteile der Technologie bereits schätzen – immerhin sind Alexa oder Siri für die meisten Verbraucher nichts Neues. Es ist aber auch unvermeidlich, dass mit der wachsenden Aufmerksamkeit für KI die Angst und Unsicherheit bezüglich einiger von Science-Fiction beeinflusster Weltuntergangsszenarien zunimmt“, erklärt Dr. Rob Walker, General Manager, 1:1 Customer Engagement bei Pega. „In dem Maße, wie diese Bedenken wachsen, müssen Unternehmen transparenter machen, wie ihre KI-Systeme arbeiten. Zudem müssen sie sogenannte Ethical Bias Checks durchführen, um zu überprüfen, wie sich ihre KI verhält.“

„Wir stellen fest, dass die Menschen sich mit der KI-Nutzung wohler denn je fühlen, die Technologie bei großen, wichtigen Entscheidungen aber lieber auf Abstand halten“, führt Walker weiter aus. „Die Verbraucher haben nach wie vor den starken Wunsch nach menschlichen Interaktionen, wenn sie mit Unternehmen in Kontakt treten. Das zeigt, dass Menschen wichtig sind und immer beteiligt bleiben müssen. Der beste Weg, Technologien wie KI einzusetzen, besteht deshalb darin, sie zur Ergänzung und Erweiterung menschlicher Fähigkeiten zu nutzen. Unternehmen, denen das effektiv gelingt, werden davon profitieren, indem sie ihre Kunden glücklich machen und ihre Produktivität maximieren.“

Über die Studie

Im Auftrag von Pega wurden 5.000 Verbraucher weltweit zu ihren Ansichten über Künstliche Intelligenz befragt. Die Studienergebnisse umfassen Antworten aus den USA, Großbritannien, Frankreich, Australien und Japan.

www.pega.com/de