Winweb, Aldenhoven, stellt seinen Kunden einen Chatbot zur Seite. „Der intelligente Assistent beantwortet alle Fragen rund um unser Unternehmen und unsere Software“, sagt Jan Schummers, Senior Software-Ingenieur bei Winweb, der den Einsatz von Künstlicher Intelligenz (KI) vorantreibt. „Und das in Sekundenschnelle.“
„Gen-AI, kurz für Generative Artificial Intelligence, markiert einen Wendepunkt, wie digitale Assistenz verstanden wird und eingesetzt werden kann“, sagt Schummers. Ein Paradebeispiel für den praktischen Einsatz ist ChatGPT, das viele Menschen bereits im täglichen Leben nutzen. Winweb hat nun seinen eigenen Chatbot entwickelt, der Kundenfragen rund um das Unternehmen und die ERP-Software winweb-food beantwortet.
Durch die Zusammenarbeit mit DataStax, die auf die Erstellung von KI spezialisiert sind, wurde der Chatbot auf Basis der RAG-Technologie (Retrieval-Augmented Generation) realisiert. Dadurch beantwortet die Winweb-KI selbst komplexe Fragen durch die gezielte Suche in vielen verschiedenen Quellen und erreicht eine deutlich höhere Relevanz und Präzision der Auskünfte. Dafür wurden in einem ersten Schritt die Inhalte aus verschiedenen Bibliotheken und Sammlungen wie beispielsweise aus dem Informationstool WinwebWiki, aus der winweb-food-Hilfe und dem Ticketsystem für den Kundensupport technisch neu berechnet. Dabei wird Text in dichte Vektoren umgewandelt, die dann in der spezialisierten Vektordatenbank von Datastax Astra gespeichert werden, die komplexe, kontextsensitive Suchanfragen in großen Datensätzen ermöglicht. Der Zugriff erfolgt über einen maßgeschneiderten Service, der mit Python, Flask und Docker entwickelt wurde und als Cloud-Service je nach Menge der Anfragen skalieren kann. Gleichzeitig dient der Service als Schnittstelle: Hier werden Anfragen entgegengenommen, die über die Winweb-Apps oder von winweb-food kommen, daraufhin die Vektordatenbank durchsucht und die relevantesten Dokumente in Echtzeit geliefert. Die KI hat anschließend Zugriff auf alle relevanten Dokumente zur Beantwortung der Benutzeranfrage. „Das Potenzial dieser Technik ist enorm und eröffnet neue Möglichkeiten, unseren Kunden bestmöglichen Service zu bieten“, sagt Schummers.