Nvidia-CEO: KI-Halluzinationen bleiben „noch Jahre“ ein Problem

Der Nvidia-CEO Jensen Huang dämpft die Erwartungen an eine schnelle Lösung des Problems von KI-Halluzinationen. Auf einer Veranstaltung an der Hong Kong University of Science and Technology erklärte der Tech-Manager, dass die Branche noch „mehrere Jahre“ von einer zuverlässigen Lösung entfernt sei.

Unter KI-Halluzinationen versteht man das Phänomen, bei dem KI-Systeme falsche Informationen generieren, um Wissenslücken zu füllen. Im Gespräch wurde die enorme Steigerung des Bedarfs an Rechenleistung für KI-Anwendungen thematisiert. Laut den Veranstaltern vervierfacht sich dieser Bedarf jährlich, was über zehn Jahre zu einer millionenfachen Steigerung führt. Diese Entwicklung spiegelt sich auch im Börsenwert von Nvidia wider, der sich in diesem Zeitraum um das 300-fache erhöht hat.

Drei Phasen der KI-Entwicklung

Huang erläuterte die aktuelle KI-Entwicklung anhand von drei Kernbereichen:

1. Pre-Training: Diese Phase verglich er mit einem Universitätsstudium, bei dem die KI durch die Verarbeitung weltweiter Daten Wissen aufbaut. Dies sei zwar ein „wichtiger Meilenstein, aber nicht ausreichend“.
2. Post-Training: In dieser Phase erfolgt die Spezialisierung durch verschiedene Techniken wie Reinforcement Learning mit menschlichem und KI-Feedback sowie synthetische Datengenerierung.
3. Test Time Scaling: Diese komplexeste Phase bezeichnete Huang als „Denken“. Hier zerlegt die KI Probleme schrittweise und simuliert verschiedene Lösungswege.

Trotz dieser fortgeschrittenen Entwicklungsstufen betonte Huang, dass die Vertrauenswürdigkeit von KI-Antworten weiterhin ein kritisches Problem darstellt. „Aktuell müssen Nutzer noch selbst entscheiden, ob eine Antwort halluziniert wurde oder nicht“, so Huang. Die Lösung sieht er in der kontinuierlichen Steigerung der Rechenleistung.

Nvidias Beitrag zur KI-Revolution

Huang verwies auf Nvidias entscheidenden Beitrag zur KI-Entwicklung: „Wir haben die marginalen Rechenkosten um den Faktor eine Million gesenkt.“ Diese drastische Kostenreduzierung habe das Nutzungsverhalten fundamental verändert und den Durchbruch des maschinellen Lernens ermöglicht.

Auf Kritik an den hohen Preisen für Nvidias KI-GPUs entgegnete Huang mit einem augenzwinkernden Kommentar: „Ohne Nvidia wäre es eine Million Mal teurer. Wir haben in den letzten zehn Jahren einen millionenfachen Rabatt gewährt – es ist praktisch kostenlos!“