Entwicklung und Hosting eines Backends für KI-Chatbots zu Steuerdienstleistungsprodukten

Highlights der Zusammenarbeit

• Neuentwicklung eines KI-Chatbot-Backends innerhalb von nur zwei Wochen.

• Der Bot wurde einsatzbereit (production-ready) gemacht und live geschaltet.

• Der Bot ist Teil einer Produktplattform, die u.a. in TV-Werbespots beworben wurde

• Kontinuierliche Weiterentwicklung des Bots, um zusätzliche Funktionen und neue Themenbereiche abzudecken.

• Unterstützung des Kunden bei der eigenständigen Erstellung weiterer Produkt-Chatbots.

• Möglichkeit zur automatisierten Bewertung der Antwortqualität durch Golden Questions mit Auswertung als Excel

Eingesetzte Technologien und Methoden

• KI-basierte Chatbot-Backendentwicklung (python, FastAPI).

• Vektordatenbanken zur intelligenten Beantwortung von Fragen (Postgres mit pgvector).

• Reranking der genutzten Hilfedokumente (Cohere)

• Integration von Hilfedokumenten und produktspezifischen FAQs.

• Cloud-basierte Hosting-Lösungen für optimale Skalierbarkeit und Flexibilität (Azure).

• Infrastructure-as-Code (terraform)

• Bereitstellung von APIs zur automatischen Aktualisierung der Chatbots mit aktuellen Informationen.

Herausforderungen

• Die Notwendigkeit, den KI-Chatbot innerhalb eines sehr kurzen Zeitraums neu zu entwickeln und live zu schalten.

• Sicherstellen, dass der Bot nicht nur auf ein Thema beschränkt bleibt, sondern auch Fragen zu weiteren Produkten beantworten kann.

• Implementierung einer Lösung, die es dem Kunden ermöglicht, eigenständig neue Chatbots zu erstellen und aktuell zu halten.

Lösung

• Neuentwicklung des Chatbots und Bereitstellung in einer Cloud-Umgebung.

• Erweiterung der Bot-Funktionalitäten durch die Nutzung einer Vektordatenbank und die Integration relevanter Hilfedokumente und FAQs.

• Bereitstellung von Schnittstellen, mit denen der Kunde neue Chatbots selbst erstellen und deren Daten aktualisieren kann.

Ergebnis

• Der Bot konnte schnell produktionsreif entwickelt und live geschaltet werden.

• Erweiterung der Bot-Kompetenzen, sodass er nicht nur auf steuerliche Fragen, sondern auch auf andere Produktthemen eingehen kann.

• Der Kunde ist nun in der Lage, eigenständig neue Chatbots zu erstellen und diese kontinuierlich mit aktuellen Informationen zu versorgen.

• Der Bot wird in einer flexiblen und skalierbaren Cloud-Umgebung gehostet und durch laufende technische Unterstützung ständig optimiert und erweitert

Über die Zusammenarbeit

Die Zusammenarbeit zeichnete sich durch eine enge und effektive Kommunikation aus, die es ermöglichte, den KI-Chatbot neu und weiterzuentwickeln und in den Live-Betrieb zu überführen. Dank der fortlaufenden technischen Betreuung und Optimierung bleibt der Bot stets auf dem neuesten Stand und kann flexibel an neue Anforderungen angepasst werden. Die Eigenständigkeit des Kunden in Bezug auf die Erstellung und Pflege neuer Chatbots hat die Effizienz und Flexibilität im Unternehmen erheblich gesteigert.

‍