„Damit ein Chatbot einsatzfähig ist, braucht er eigentlich nur Daten“

Jede Idee ist beim HACK AND HARVEST Hackathon willkommen. Auch Jan Kaiser hat das Open Space Format in diesem Jahr genutzt, um gemeinsam mit seinem Team das Projekt „City Chatbot Konstanz“ einzubringen. Innerhalb der zwei Tage wurde der erste Prototyp des Chatbots programmiert. Wir wollten von ihm wissen, wie er auf die Idee zum Chatbot KN kam und in welchen Bereichen die digitalen Gesprächspartner grundsätzlich einsetzbar sind.

Wie man vorgehen muss, um einen Chatbot selbst zu programmieren, das zeigt Jan Kaiser übrigens am 3. November im Rahmen der Veranstaltungsreihe Inside Data Bodensee, die gemeinsam von cyberLAGO, CorrelAid und dem KI-Lab Bodensee durchgeführt wird.

Was steckt hinter dem Chatbot KN?

Jan Kaiser ist Gründer und Geschäftsführer bei Xanevo

Die Idee entstand mit einem Blick auf die Kommunikation mit Behörden. Wenn man sich die Ausländerbehörden in den verschiedenen Gemeinden anschaut, dann sieht man, dass die Kommunikation mit fremdsprachigen Kunden oft herausfordernd ist. Will man beispielsweise in Deutschland ansässig werden oder hier arbeiten, ist die Dokumentation in der Regel auf Deutsch, in den seltensten Fällen auf Englisch. Für Ausländer ist es schwierig, sich im Behördendeutsch zurechtzufinden.

Wir haben dann in unserem Team überlegt, wie wir hier mit einem sogenannten Large Language Modell („LLM“) helfen können. Das sind KI-Modelle, die sehr gut dazu geeignet sind, Sprache leichter auszugeben, in verschieden Sprachen zu antworten oder auch multimodale Interaktion zu ermöglichen. Das heißt, nicht nur Text zu Text, sondern auch Text zu Bild oder Text zu Webseite oder Dokument.

Wenn man dann hierzu eine Chatbot-Anbindung macht, kann man beispielsweise Webseiten in verschiedenen Sprachen anbieten und der Nutzer kann in seiner Muttersprache Fragen zu verschiedenen auf der Website hinterlegten Dokumenten stellen. Was muss ich tun, wenn ich meinen Aufenthalt in Deutschland verlängern möchte? Welche Abteilungen sind zuständig?

Ist der beim HACK AND HARVEST entwickelte Chatbot auch für andere Zielgruppen interessant?

Ja, in jedem Fall. Chatbots werden in verschiedenen Bereichen eingesetzt, um Nutzern bei ihren Anliegen zu helfen und Prozesse zu optimieren. Grundsätzlich gilt: Solange es Wissen oder Daten gibt, dann besteht die Möglichkeit, darauf einen Chatbot zu schalten.

Ein großes Einsatzfeld unseres Bots besteht im Unternehmenskontext zum Beispiel beim Kunden- Support. Der Chatbot kann über die Support-Oberfläche eine Anfrage automatisch beantworten, zum Beispiel zu Retour-Bedingungen.

Eine weitere Einsatzmöglichkeit innerhalb des Unternehmens besteht insbesondere bei einer internationalen und mehrsprachigen Mitarbeiterstruktur. Mithilfe von Chatbots kann internes Know-how und Wissen für alle leicht zugänglich gemacht werden, indem der Bot abteilungs- oder firmenübergreifend Dokumente findet. Dann reicht eine einzige Dokumenten-Basis, die dann in verschiedenen Sprachen ausgespielt wird.

Wenn also der Mitarbeiter aus Spanien eine Frage hat, welche nur von einer englischen technischen Dokumentation beantwortet wird, so kann er diese Frage via Chatbot stellen. Dieser sorgt dann dafür, dass die Antwort in seiner Heimatsprache – Spanisch – ausgegeben wird.

Welche Vorkenntnisse braucht man, um einen Chatbot zu programmieren?

Wenn der Bot im Unternehmenskontext eingesetzt werden soll, ist es definitiv sinnvoll, Programmierkenntnisse zu haben, um auf etwaige Herausforderungen schnell reagieren zu können und den Chatbot an den richtigen Stellen zu integrieren. Die Gewährleistung der Datensicherheit spielt eine wichtige Rolle und die Aktualität der eingespeisten Daten, mit denen der Chatbot arbeitet, ist ebenfalls von hoher Relevanz im Unternehmensumfeld.

Für das private Umfeld oder bei einem kleineren Unternehmen, welches mit einem Chatbot auf der Webseite zum Beispiel nur die Besucher begrüßen möchte, kann man auf einfache Open Source Tools und Anwendungen zurückgreifen. Dafür braucht es dann nur bedingt Programmierkenntnisse.

Wie siehst du die Zukunft der Chatbots?

Wir müssen klar zwischen Chatbots und den oben erwähnten „LLMs“ (Large Language Models) unterscheiden. Der Chatbot ist die Anwendung, das LLM ist die immer häufiger darunterliegende verwendete Technologie.

Die Fähigkeiten und Akzeptanz von Chatbots entwickeln sich stets weiter, das sehen wir aktuell flächendeckend. Verglichen mit den bisherigen „wenn-dann“ Chatbots, bei denen man sich als Nutzer durch mehrere Fragen klicken muss, erleben wir bei LLM zwar gerade einen großen Fortschritt, die LLM-Chatbots sind in der konkreten Anwendung aber bisher noch unausgereift. Lange Antwortzeiten und mangelnde Fähigkeit, einen größeren Kontext, beziehungsweise eine größere Chathistorie zu verarbeiten, sind aktuell noch signifikante Schwachstellen.

Die nächsten Jahre werden wir damit beschäftigt sein, diese Schwachstellen zu reduzieren und den Chatbots ein Verständnis für Dinge anzutrainieren. Denn: Aktuell antworten Chatbots primär hauptsächlich basierend darauf, was eine wahrscheinlich passende Antwort sein könnte. Nicht unbedingt auf Basis von korrekten Fakten. Dadurch, dass die Technologie aber nun für den Endanwender zugänglicher geworden ist, werden uns Chatbots über kurz oder lang in allen möglichen Bereichen des Lebens und unseren Geräten (PC, Handy, usw.) begleiten.

Was erwartet die Teilnehmer beim Inside Data Workshop am 3. November?

Ich werde die Teilnehmenden durch die einzelnen Schritte zur Entwicklung ihres eigenen Chatbots führen. Mithilfe von Python und Google Colab kann man einen Chatbot inklusive Chat-Oberfläche bauen, um diesen zu testen und mit anderen zu teilen.

Zum Workshop kann man sich unter diesem Link anmelden.