Vier Ratschläge für den erfolgreichen Einsatz von GenAI im Unternehmen

Nahezu jede Person, die in ihrem Unternehmen in irgendeiner Weise mit Technologie zu tun hat, wird wohl im Laufe des letzten Jahres ausführlich über generative KI (GenAI) diskutiert haben.

Selbst eine Großzahl der Mitarbeitenden, die nicht im technischen Bereich tätig sind, dürften mit hoher Wahrscheinlichkeit in irgendeiner Weise damit experimentiert oder unbewusst mit einem GenAI-Tool interagiert haben. Kein Wunder, denn das Thema ist allgegenwärtig: Beispielsweise in der Finanzdienstleistungsbranche ist der aktive Einsatz in den letzten 12 Monaten signifikant gestiegen, wie die Financial Services State of the Nation Survey zeigt: Mehr als ein Drittel der Finanzinstitute weltweit haben in diesem Zeitraum generative KI-Funktionen eingeführt oder verbessert – Tendenz steigend. 

Für sie ist der wichtigste Anwendungsfall die Personalisierung von Kundenangeboten, wie die Zahlungen in Echtzeit oder Chatbots (letztere verdienen ein besonderes Augenmerk). Was auch immer die spezifischen Use Cases für Ihr Unternehmen sind, es ist wichtig zu verstehen, wie und wann die Technologie wirklich einen Nutzen bringen kann, bevor man sich darauf einlässt. Hier daher einige praktische Tipps: 

1. Prozesse automatisieren und Produktivität steigern

Viele der aktuellen Anwendungsfälle für generative KI konzentrieren sich auf die Automatisierung von Arbeitsabläufen und die Steigerung der Effizienz von Mitarbeitenden durch die Verringerung und Beseitigung von lästigen Aufgaben und Nacharbeit. Funktionen zum Verfassen von Dokumenten oder E-Mails sind die Offensichtlichsten und vielleicht am ehesten Erkennbaren, aber ähnliche Funktionen für höherwertige Aufgaben führen zu einer erheblichen Optimierung.

So kann GenAI beispielsweise die Informationsbeschaffung zur Bearbeitung und Beantwortung von Kundenanfragen automatisieren. Durch die Aggregation von Verlaufs- und Omnichannel-Daten kann diese Technologie eine klare Zusammenfassung des Kontextes erstellen und direkt an Kundenberater weiterleiten, damit diese Anfragen effizienter bearbeiten können und zeitaufwändige manuelle Suchvorgänge vermieden werden. Dieselbe Technologie kann für die interne Informationsbeschaffung eingesetzt werden, z. B. für die Erstellung von Berichten und Inhalten, so dass die interne Suche nach fachspezifischen Experten entfällt.

Ein weiterer potenzieller Anwendungsfall ist die direkte Weiterleitung von Kundenanfragen durch einen Chatbot, wobei dieser allerdings direkt APIs abfragt, um relevante Informationen zu liefern. Dieser Prozess wird häufig durch Retrieval Augmented Generation (RAG)-Systeme unterstützt, die es Chatbots ermöglichen, auf Informationen außerhalb ihrer Trainingsdaten zuzugreifen, um relevante externe Quellen mit einzubinden.

2. Klein anfangen 

Bei der Entwicklung eines Produkts oder eines internen Anwendungsfalls unter Verwendung generativer KI stellen sich wie bei jedem maschinellen Lernmodell die üblichen Fragen zu Technik und Validierung. Generative KI-Tools stützen sich auf Large Language Models (LLMs), die anfällig für sogenannte Halluzinationen sein können, wenn nicht die richtigen Leitplanken vorhanden sind. Zu diesen zählen zum Beispiel, dass die Ergebnisse gesichert von einem Menschen validiert werden. RAG-Systeme können Halluzinationen zwar nicht vollständig ausschließen, aber sie verringern deren Wahrscheinlichkeit, indem sie relevante und aktuelle Daten extrahieren.

Eine weitere Herausforderung bei LLMs besteht darin, dass sie eine große Menge an Rechenleistung, z. B. für GPUs, erfordern. Wenn sie von einem Cloud-Anbieter wie Azure oder AWS gehostet werden, können sich die Kosten sehr schnell summieren, insbesondere wenn täglich Tausende von Abfragen verarbeitet werden. Zur Einordnung: Schätzungen zufolge kostet es OpenAI 700.000 Dollar pro Tag, ChatGPT am Laufen zu halten.

Klein anzufangen und das Projekt allmählich zu vergrößern ist der beste Weg, um diese Probleme zu vermeiden. Überprüfen Sie die Ergebnisse und bewerten Sie die Kosten, damit Sie wissen, wann es an der Zeit ist, den Umfang zu verringern. Es wird recht schnell sichtbar, wenn Sie zu weit gehen. Wenn ein Chatbot beispielsweise die falschen Informationen liefert, ist es wahrscheinlich, dass er nicht aus den richtigen Datenquellen schöpft, so dass eine Nachschulung erforderlich ist oder RAG-Systeme eingesetzt werden können, um sicherzustellen, dass die richtigen Informationen bereitgestellt werden.

3. Setzen Sie Chatbots den richtigen Rahmen

Chatbots sind ein in Unternehmen weit verbreiteter Anwendungsfall, aber ohne die richtigen Leitplanken können sie das Gegenteil ihrer primären Funktion bewirken, insbesondere in kundenbezogenen Kontexten.

Eine häufige Beschwerde von Verbrauchern ist, dass sie zur Klärung ihrer Anliegen keinen menschlichen Mitarbeitenden erreichen können. Dieses Problem kann gelöst werden, indem automatisch Kundendienstmitarbeitende hinzugezogen werden, sobald definierte Eskalationskriterien erfüllt sind. Darüber hinaus können Natural Language Processing (NLP) eingesetzt werden, um den Tonfall und die Sprache zu untersuchen und anzuzeigen, dass ein menschliches Eingreifen erforderlich ist. Solche Überlegungen sind vor allem in Branchen mit sensiblen Szenarien oder besonders gefährdeten Endbenutzern, wie z. B. im Gesundheitswesen und bei Finanzdienstleistungen, von besonderer Bedeutung, um den Bedürfnissen der Kunden gerecht zu werden.

Auch hier gilt, dass man es mit dem Einsatz von GenAI-Tools für Kunden nicht überziehen sollte, weshalb es am besten ist, zunächst mit internen Anwendungsfällen zu experimentieren. Ob nun interner oder externer Use Case: Der Einsatz von Filtern ist ein entscheidender Beitrag, um ein angemessener Einsatz der Gen AI-Tools zu gewährleisten. 

Hierzu zählen beispielsweise Filter, die die Nutzer auffordern, ihre Fragen umzuformulieren, oder sogar eine angemessenere Sprache vorschlagen. Sie sind wirksame Mittel, um den Use Case enger zu fassen. Die gleichen Filtermethoden können auch davor schützen, dass Nutzern schädlichen oder tendenziösen Antworten übermittelt werden.

4. Das richtige Modell zur richtigen Zeit

Die Auswahl des richtigen LLMs ist eine entscheidende Komponente bei der Erstellung einer GenAI- Lösung. Hierbei sollten die Lizenzen besonders berücksichtigt werden, da einige Modelle nicht alle Anwendungsfälle abdecken. Hierbei handelt es sich um eine Sorgfaltspflicht, der schon möglichst früh in der Exploration beachtet werden sollte. 

Mit der Weiterentwicklung der generativen KI werden sich auch ihre Anwendungsbereiche erweitern. Der nächste große Durchbruch in diesem Bereich werden multimodale Modelle sein, bei denen Text-, Sprach-, Audio- und Bilddaten zusammengeführt werden können, um neue Inhalte in verschiedenen Medien zu produzieren. Wie bei jedem Anwendungsbereich müssen Leitplanken gesetzt werden, um zu verhindern, dass reale Menschen und geistiges Eigentum nachgeahmt werden, aber diese Möglichkeiten werden in den nächsten fünf Jahren sicherlich realisiert werden. Text-zu-Bild-Modelle werden in der Kreativbranche bereits eingesetzt und rund um die die Trainingsdaten gibt es viele Diskussionen, den diese beinhalten natürlich künstlerisches geistiges Eigentum.

Mit dem Aufkommen neuer GenAI-Anwendungsfälle und -Fähigkeiten wird das Verständnis der rechtlichen und regulatorischen Rahmenbedingungen für zukunftssichere Lösungen entscheidend sein. Es ist deshalb ratsam, einen progressiven und sicheren Ansatz zu wählen, Use Cases von Anfang an eindeutig zu definieren und die technologischen und rechtlichen Entwicklungen im Auge zu behalten.