Seit der Einführung von ChatGPT im November 2022 hört man in vielen Unternehmen den Ruf: «Ich will ChatGPT in meinem Unternehmen nutzen!». Die Idee ist, den Mitarbeitenden interne Dokumente und Informationen mithilfe künstlicher Intelligenz (KI) besser zugänglich und nutzbar zu machen, und das möglichst unkompliziert. Doch wie setzt man ein solches Vorhaben in der Praxis um? Mit dem richtigen Know-how ist es möglich, eine effektive Knowledge Management Lösung auf bestehenden Dokumenten zu realisieren. Erfahren Sie am Beispiel der Ausgleichskasse Basel-Stadt (AKBS), wie ein Azure Open AI in einem Pilotprojekt im Unternehmen nutzbar gemacht wurde.
Die AKBS, ein modernes Dienstleistungsunternehmen im Bereich der schweizerischen Sozialversicherungen, betrachtet das Wissen ihrer Mitarbeitenden als das wichtigste Gut. Die Herausforderung besteht darin, dieses Wissen schnell, einfach und verständlich für alle zugänglich zu machen. Roger Ammon, Leiter IT und Finanzen bei der AKBS, hat im Rahmen seiner Masterarbeit zum Thema Data Driven Organisation untersucht, wie das bestehende Wissen innerhalb der AKBS den Mitarbeitenden besser zugänglich gemacht werden kann.
Die drei grossen Wissensquellen der AKBS, welche integriert werden sollten, waren: das bestehende Wiki, die bestehenden Dokumente im Intranet (u.a. Weisungen und Richtlinien) sowie die Online-Hilfe der Fachanwendung.
Die AKBS hat sich entschieden, innerhalb eines Proof of Concept die neuesten Technologien der künstlichen Intelligenz, bei sich einem Härtetest zu unterziehen und zu prüfen, ob damit ein echter Mehrwert geschaffen werden kann, resp. ob all die hochtrabenden Versprechen, welche im Internet kursieren, auch erfüllt werden können.
Bevor wir zum Vorgehen und die konkrete Umsetzung kommen, wollen wir kurz erklären, wie eine KI-Lösung auf lokalen Daten aufgebaut ist:
Der technische Ablauf umfasst die Verwendung einer kognitiven Suche, die Basisdokumente filtert und einem Large Language Model (Azure Open AI) zur Beantwortung übergibt.
Im Zentrum der Lösung steht eine kognitive Suche, welche anhand der Fragestellung die zu verwendenden Basisdokumente herausfiltert und diese einem Large Language Model (Azure Open AI) zur Beantwortung übergibt.
Der erste Prototyp, bei welchem die zur Verfügung gestellten Dokumente 1:1 in die Lösung integriert wurden, zeigte jedoch, dass die Antworten des Bots qualitativ eher schlecht waren. Auch stellte sich heraus, dass viel implizites Wissen bei den Mitarbeitern vorhanden war, was zu unpräzisen Fragen und falschen Dokumenten für die Befragung führte. Dieses Resultat war relativ ernüchternd. In Zusammenarbeit mit GARAIO wurden verschiedene Massnahmen ergriffen, um diese Herausforderungen zu überwinden.
Im Rahmen einer zweiten Iteration wurde die Lösung wie folgt optimiert:
In einem zweiten Workshop zeigte sich, dass diese Anpassungen die Qualität der Antworten massiv verbesserten. Von den ursprünglich 11 Fragen konnten 10 korrekt beantwortet werden.
Die hohen Erwartungen an eine KI-Lösung, die lokale Dokumente verwendet, wurden erfüllt. Das Wissen der Mitarbeitenden, das nicht dokumentiert ist, kann selbstverständlich nicht genutzt werden, was die Bedeutung vollständiger und umfassender Dokumentationen unterstreicht. Als Datenquellen kommen Dokumente aller Art, Datenbanken oder andere Textdateien infrage (Bsp. Wiki). Generell kann festgehalten werden, dass strukturierte Daten i.d.R. bessere Ergebnisse liefern. Im Zentrum einer Lösung steht immer eine Suche. Je besser die Resultate dieser Suche, desto besser die Beantwortung der Frage. Welche Art von Suche, ob textbasiert oder vektorbasiert, verwendet werden sollte, muss im Rahmen des PoC entschieden werden.
Die Einführung einer solchen Lösung erleichtert auch die Einarbeitung neuer Mitarbeitender und verbessert die Effizienz. Die Angst, dass Stellen abgebaut werden könnten, nur weil eine KI-basierende Lösung eingeführt wird, ist unbegründet.
Das Einführen einer generalisierten Out-of-the-Box-Lösung, welche alle möglichen Use Cases in einem Unternehmen beinhaltet, macht unserer Meinung nach keinen Sinn. Besser ist es, die wichtigsten Use Cases in einem ersten Schritt mithilfe eines Proof of Concept zu validieren. Entspricht das Resultat wirklich dem erwünschten Mehrwert für die Mitarbeitenden?
Wir sind von den Möglichkeiten von Azure OpenAI im Rahmen überzeugt. Gerne beraten und unterstützten wir Unternehmen bei der Evaluation der neuen Möglichkeiten und empfehlen die Umsetzung des KI Jumpstart Angebots von GARAIO.