Effizientere Einarbeitung durch AI Service Bot

Ausgangslage und Ziel

Profidata bietet mit XENTIS das in europäischen Finanzzentren führende Front-to-Back-System zur Vermögensverwaltung an. Die Flexibilität und breite Anwendbarkeit von XENTIS führt zu einer Komplexität, die Anwender vor Herausforderungen stellen kann und Ressourcen für Support und interne Schulungen bindet. Profidata strebte deshalb die Entwicklung einer Lösung an, um diesen Aufwand zu reduzieren. Ziel war, einen rund um die Uhr verfügbaren Service-Bot zu entwickeln, der sofortige Antworten auf Fragen zur Handhabung von XENTIS liefert. Da keine ausreichenden internen Kapazitäten zur Verfügung standen, vertraute Profidata uns die Entwicklung eines Proof-of-Concept für den Service-Bot an.

Lösung

In enger Abstimmung mit den Experten von Profidata entwickelte unser AI-Team einen Prototyp eines Service-Bots auf Basis von LangChain und Microsoft Azure OpenAI, der die individuellen Bedürfnisse von Profidata erfüllen soll. Die Lösung erlaubt es, auf einem beliebigen Satz von Dokumenten, beispielsweise aus einem bestimmten Kontext, zu trainieren. Das Training dauert nur kurz und kann bei Änderungen im Datensatz wiederholt werden. Das Trainingsresultat wird nun per RAG (Retrieval-Augmented Generation) als Grundlage für Abfragen genutzt.

Die Antworten bestehen aus einem Fliesstext, welcher die gestellte Frage beantwortet oder aber auch Nicht-Wissen mitteilen kann (als Alternative zum sogenannten Halluzinieren von Antworten). Stets dargestellt werden ebenfalls die herangezogenen Quellen aus den zugrunde liegenden Dokumenten. Besonders interessant ist, dass aus den Quellen auch Bilder extrahiert, interpretiert und dem User dargestellt werden, was besonders im Fall von Software-Handbüchern mit anschaulichen Grafiken ein entscheidender Vorteil sein kann.
Unsere Lösung bietet umfassendes Logging, welches Auswertungen über die Qualität der Antworten und somit die Performance des Models erlaubt. Da der Kunde eine gute Entscheidungsgrundlage für die Einsetzbarkeit der Lösung benötigt, entschieden wir gemeinsam mit Profidata, zudem ein einfaches Bewertungssystem einzusetzen, welches von Schlüsselpersonen zur Erzeugung von Feedback genutzt werden kann. Somit kann das Produktteam bei Profidata gute Aussagen über die Zuverlässigkeit und Genauigkeit des Models in unterschiedlichen Use Cases treffen.

Wir haben die Anpassungen am Service-Bot vorgenommen, dass dieser sich als ′Mitarbeiter′ von Profidata identifiziert und seine Rolle als Question-Answering-Assistent passgenau wahrnimmt. Möglich ist eine kontinuierliche Feinjustierung, um die Werte und die Sprache von Profidata optimal widerzuspiegeln und den Service-Bot somit ein Mitarbeiter des Unternehmens werden zu lassen.
Das Projekt stellte für uns und Profidata die spannende Herausforderung dar, gemeinsam innovative Wege zu beschreiten und State-of-the-Art-Technologie einzusetzen. Als engagierter Vorreiter in der Entwicklung von Service Bots und KI-Lösungen sind wir stolz darauf, dass wir nun auch einen Beitrag zur Effizienzsteigerung und Optimierung von Softwarelösungen in der Finanzbranche leisten können.