Wie können Unternehmen und Institutionen das Wissen aus ihren Webseiten, Dokumenten und Handbüchern für Mitarbeitende und Kundschaft sofort auffindbar machen — ohne sensible Daten an externe KI-Dienste zu übergeben? Der digitale Wandel konfrontiert kleine und mittelständische Unternehmen (KMU) mit wachsenden Mengen an Informationen, die in Dokumenten, Portalen und Archiven verstreut liegen. Mit dem KI-Chatbot-Demonstrator zeigt das Mittelstand-Digital Zentrum Spreeland, wie moderne Sprachmodelle dieses Wissen erschließen — vollständig lokal, DSGVO-konform und ohne Cloud-Abhängigkeit.
Zusätzlich zu diesem Demonstrator bieten wir zielgerichtete Trainings und Workshops an, die Unternehmen befähigen, KI-gestützte Wissenssysteme zu verstehen, zu bewerten und verantwortungsvoll einzusetzen.
Detailbeschreibung
Der KI-Chatbot-Demonstrator wird eingesetzt, um zu veranschaulichen, wie ein modernes Frage-Antwort-System auf Basis der eigenen Wissensbestände einer Organisation funktioniert. Als praxisnahes Beispiel wurde der Demonstrator auf die Transfer-Webseiten der Brandenburgischen Technischen Universität Cottbus-Senftenberg aufgesetzt: Nutzerinnen und Nutzer stellen Fragen in natürlicher Sprache und erhalten präzise, mit Quellen belegte Antworten.
Das System basiert auf dem Verfahren der Retrieval-Augmented Generation (RAG): Statt Antworten frei zu erfinden, sucht der Chatbot zunächst die relevantesten Stellen in den hinterlegten Quellen und formuliert seine Antwort ausschließlich auf dieser Grundlage. Jede Antwort verweist auf die zugrunde liegende Quelle und ist damit nachprüfbar.
Der Demonstrator läuft vollständig auf lokaler Hardware. Es werden keine Daten an externe Anbieter übertragen — ein entscheidender Vorteil für Organisationen mit hohen Anforderungen an Datenschutz und Informationssicherheit.
Vorteile der Lösung
Der zentrale Vorteil liegt in der Datensouveränität: Das System arbeitet vollständig lokal und bindet lokal betriebene Sprachmodelle ein, sodass keine sensiblen Daten an externe KI-Dienste übertragen werden und der Betrieb durchgängig DSGVO-konform bleibt. Ebenso wichtig ist die Nachprüfbarkeit jeder Antwort, denn sämtliche Ausgaben werden mit Quellenangaben belegt, während Sicherheitsmechanismen erfundene Antworten aktiv verhindern. Dabei ist der Demonstrator gezielt auf die Anforderungen und Budgets kleiner und mittelständischer Unternehmen zugeschnitten und lässt sich auf Standard-Hardware betreiben. Seine Architektur ist übertragbar und funktioniert mit beliebigen Wissensbeständen — von Webseiten über Handbücher und Formulare bis hin zu Schulungsunterlagen. Da das System auf frei verfügbaren Open-Source-Komponenten aufbaut, entstehen weder Lizenzkosten noch eine Bindung an einen bestimmten Anbieter.
Demonstrationsszenarien
In der Demonstration lassen sich mehrere Szenarien erleben. Bei der Wissensrecherche werden Fragen zu Förderprogrammen, Ansprechpartnern oder Verfahren in Sekunden und mit Quellenverweis beantwortet. Besonders anschaulich ist der Halluzinationsschutz: Das System erkennt Fragen, die außerhalb seines Wissensbereichs liegen, und lehnt sie bewusst ab, statt falsche Antworten zu geben — bei solchen Anfragen verweist es beispielsweise auf ein Kontaktformular. Darüber hinaus zeigt der Demonstrator die Verarbeitung mehrsprachiger und fachsprachlicher Inhalte, einschließlich deutschsprachiger Fachbegriffe und Abkürzungen.
Technologien
Der Demonstrator basiert auf einer modularen, vollständig quelloffenen Architektur. Als Sprachmodelle kommen lokal betriebene Open-Source-Modelle wie Qwen3 über Ollama zum Einsatz, ganz ohne Cloud-Anbindung. Für die semantische Suche sorgt die Vektordatenbank Qdrant, die eine hybride Recherche aus semantischer und schlüsselwortbasierter Suche ermöglicht. Die Qualitätssicherung erfolgt über ein zweistufiges Retrieval mit Reranking sowie eine Konfidenzprüfung, die falsche Antworten vermeidet. Ergänzt wird dies durch eine automatisierte Datenaufbereitung, die Webseiten, PDFs und Dokumente extrahiert und strukturiert erschließt.
Einsatzgebiete
Die Einsatzmöglichkeiten reichen vom KMU-Wissensmanagement, bei dem interne Dokumentation, Handbücher und Prozessbeschreibungen für Mitarbeitende erschlossen werden, bis hin zum Kunden- und Bürgerservice, wo wiederkehrende Fragen auf Webseiten und Portalen rund um die Uhr automatisiert beantwortet werden. In Verwaltung und öffentlichen Einrichtungen macht das System Verwaltungsleistungen und Informationsangebote leichter zugänglich, und in Bildung und Forschung dient es als Lern- und Demonstrationswerkzeug für den verantwortungsvollen Umgang mit KI-Systemen.
Dieser Demonstrator ist ein zentrales Element unseres Angebots im Mittelstand-Digital Zentrum Spreeland und zeigt praxisnah, wie KI-gestützte Wissenssysteme datenschutzkonform und wirtschaftlich sinnvoll eingesetzt werden können.