Künstliche Intelligenz und die Gefahr der Verdummung

Die Nutzung von Künstlicher Intelligenz (KI) birgt die Gefahr, dass Menschen weniger kritisch denken und dadurch langfristig an geistiger Schärfe verlieren.

Zu diesem Schluss kommt eine aktuelle Studie der Carnegie Mellon University, die in Zusammenarbeit mit Microsoft durchgeführt wurde. Die Forscher untersuchten, wie Nutzer die Auswirkungen generativer KI, beispielsweise ChatGPT, auf ihre eigenen kognitiven Fähigkeiten wahrnehmen. (via Pressetext)

„Im Allgemeinen hat kritisches Denken mit gutem Denken zu tun“, erklären Deborah Brown und Peter Ellerton von der University of Queensland in „The Conversation“. Die Wissenschaftler betonen, dass es essenziell sei, sich bewusst mit den eigenen Denkprozessen auseinanderzusetzen, um deren Qualität sicherzustellen.

Kriterien für gutes Denken

Um ein hohes Niveau kritischen Denkens aufrechtzuerhalten, empfehlen Experten, den eigenen Denkprozess anhand etablierter Kriterien zu bewerten. „Zu diesen Normen gehören Präzision, Klarheit, Genauigkeit, Breite, Tiefe, Relevanz, Bedeutung und Stichhaltigkeit von Argumenten“, heißt es weiter. Darüber hinaus können Faktoren wie bestehende Weltanschauungen, kognitive Verzerrungen und das Vertrauen in unvollständige oder ungenaue mentale Modelle die Denkleistung beeinflussen.

Die Forscher befragten 319 Fachkräfte aus verschiedenen Bereichen, darunter Medizin, Pädagogik und Ingenieurwesen, die Aufgaben mit KI-Unterstützung bearbeitet hatten. Dabei zeigte sich, dass viele Nutzer beim eigentlichen Problemlösen weniger kritisch dachten als bei der anschließenden Überprüfung der KI-Ergebnisse. „Die Nutzer waren mehrheitlich der Meinung, dass sie dabei weniger kritisches Denken einsetzten als bei der Überwachung in der Verifizierungs- und Bearbeitungsphase“, so die Studie. Besonders in Berufen mit hoher Verantwortung spielen Qualitätsansprüche und die Angst vor negativen Konsequenzen eine zentrale Rolle, wenn es darum geht, KI-generierte Inhalte kritisch zu hinterfragen.

Effizienz versus Reflexion

Dennoch sehen die meisten Teilnehmer der Studie in der Effizienzsteigerung durch KI einen großen Vorteil, der den Kontrollaufwand aufwiegt. Gleichzeitig zeigen die Ergebnisse, dass Menschen, die ein starkes Vertrauen in KI haben, in der Regel weniger kritisch denken als jene, die sich eher auf ihr eigenes Urteilsvermögen verlassen.

„Kritisches Denken ist in jeder Phase vor und während der Nutzung von KI erforderlich – bei der Formulierung von zu testenden Fragen und Hypothesen und bei der Überprüfung der Ergebnisse auf Voreingenommenheit und Genauigkeit“, warnen die Forscher. Andernfalls drohe eine zunehmende Abhängigkeit von KI, die langfristig zu einer Verflachung der geistigen Fähigkeiten führen könne. Der sorgfältige und bewusste Umgang mit Künstlicher Intelligenz bleibt daher eine der wichtigsten Herausforderungen der digitalen Zukunft.