In fast jedem Betrieb gibt es diese eine Person, die alles weiß. Welche Gewährleistung für welches Produkt gilt. Wo die aktuelle Preisliste liegt. Wie die Rechnung an diesen einen Großkunden aussehen muss.
Ist diese Person im Urlaub, krank oder irgendwann im Ruhestand, wird es schwierig. Das Wissen steckt in ihrem Kopf, in alten E-Mails und in Ordnern, die niemand sonst durchschaut.
Hier setzt ein KI-Assistent mit Firmenwissen an.
Was ist ein KI-Assistent mit Firmenwissen?
Ein allgemeines Chat-Tool wie ChatGPT antwortet aus seinem Training. Es kennt Wikipedia, Fachartikel und Foren. Deine Leistungsbeschreibungen, deine Preise und deine internen Abläufe kennt es nicht. Fragst du trotzdem danach, rät es oder erfindet eine plausibel klingende Antwort.
Ein KI-Assistent mit Firmenwissen arbeitet anders. Vor jeder Antwort schlägt er in den Unterlagen deines Betriebs nach, sucht die passenden Stellen heraus und formuliert daraus seine Antwort. Ein gut gebauter Assistent nennt dabei die Quelle, also das Dokument, aus dem die Information stammt.
Fachbegriff: Dieses Verfahren heißt Retrieval-Augmented Generation, kurz RAG. Übersetzt: Die KI holt sich zuerst die passenden Informationen (Retrieval) und erzeugt dann daraus die Antwort (Generation).
Allgemeines Chat-Tool und Firmen-Assistent im Vergleich
| Allgemeines Chat-Tool | Assistent mit Firmenwissen | |
|---|---|---|
| Wissensquelle | Allgemeines Training | Deine eigenen Unterlagen |
| Fragen zu deinem Betrieb | Rät oder erfindet | Antwortet aus deinen Dokumenten |
| Quellenangabe | Meist nicht nachvollziehbar | Verweist auf das konkrete Dokument |
| Aktualität | Stand des Trainings | So aktuell wie deine Unterlagen |
| Zugriffsrechte | Keine | Lassen sich nach Rolle festlegen |
Wofür sich das im Alltag lohnt
Intern: Wissen für das Team
- Einarbeitung: Neue Mitarbeitende fragen den Assistenten statt fünfmal am Tag die Kollegin.
- Abläufe und Vorgaben: „Wie lege ich einen Neukunden an?“ oder „Welche Unterlagen brauchen wir für eine Abnahme?“
- Produkte und Preise: Schnelle Antworten aus Datenblättern und Preislisten, mit Verweis auf die Quelle.
Extern: Antworten für Kunden
- Website-Chat: Interessenten fragen zu Leistungen, Ablauf oder Objekten und bekommen Antworten aus deinen freigegebenen Unterlagen statt aus dem Internet.
- Telefon: Ein KI-Telefonassistent kann auf dieselbe Wissensbasis zugreifen und Standardfragen beantworten, bevor er an einen Menschen übergibt.
Der Nutzen ist in beiden Fällen derselbe: Wiederkehrende Fragen werden beantwortet, ohne dass jemand seine eigentliche Arbeit unterbrechen muss.
Was ein KI-Assistent nicht kann
Hier wird es gerne beschönigt. Deshalb ganz klar:
- Er ist nicht klüger als deine Unterlagen. Veraltete Preislisten führen zu veralteten Antworten. Widersprüchliche Dokumente führen zu widersprüchlichen Antworten.
- Er kann sich trotzdem irren. Auch mit Quellen formuliert eine KI manchmal ungenau oder zieht falsche Schlüsse. Bei Fachfragen mit Folgen, etwa zu Verträgen oder Haftung, prüft ein Mensch.
- Er kennt kein Wissen, das nirgends aufgeschrieben ist. Was nur im Kopf deiner Mitarbeitenden steckt, muss zuerst dokumentiert werden.
- Er trifft keine Entscheidungen für dich. Er liefert Informationen. Kulanz, Preisnachlässe und Sonderfälle bleiben Chefsache.
- Er ist nicht automatisch datenschutzkonform. Das hängt davon ab, wie und bei wem er betrieben wird.
Was du vorher klären musst
1. Welche Unterlagen gehören hinein?
Der wichtigste und meist unterschätzte Schritt. Sammle die Dokumente, die wirklich gelten, und sortiere alte Versionen aus. Lege fest, wer die Unterlagen künftig aktuell hält. Ohne diese Pflege veraltet auch der beste Assistent.
2. Wer darf was sehen?
Nicht jede Information ist für jeden bestimmt. Gehälter, Personalakten oder Kalkulationen gehören nicht in einen Assistenten, den alle Mitarbeitenden oder gar Kunden nutzen. Ein Kunden-Chat bekommt nur Unterlagen, die du auch öffentlich zeigen würdest.
3. Datenschutz
Sobald personenbezogene Daten im Spiel sind, gilt die DSGVO. Achte darauf, dass mit dem Anbieter ein Auftragsverarbeitungsvertrag besteht, dass klar ist, wo die Daten verarbeitet werden, und dass deine Daten vertraglich nicht zum Training der KI verwendet werden.
4. EU AI Act
Schreiben oder sprechen Kunden direkt mit dem Assistenten, müssen sie seit dem 2. August 2026 erfahren, dass sie mit einer KI kommunizieren. Was das konkret bedeutet, steht in meinem Artikel zum EU AI Act für kleine Unternehmen. Außerdem gilt schon seit Februar 2025 die Pflicht, dass Mitarbeitende die KI-Werkzeuge verstehen, mit denen sie arbeiten. Eine kurze Einweisung gehört deshalb zur Einführung dazu.
Lohnt sich das für deinen Betrieb?
Drei Fragen helfen bei der Einschätzung:
- Werden in deinem Betrieb regelmäßig dieselben Fragen gestellt, intern oder von Kunden?
- Ist das Wissen dazu irgendwo aufgeschrieben, oder lässt es sich mit vertretbarem Aufwand aufschreiben?
- Gibt es jemanden, der die Unterlagen auch künftig aktuell hält?
Kannst du alle drei mit Ja beantworten, ist ein Assistent mit Firmenwissen einen genaueren Blick wert. Fehlt das dritte Ja, löst du zuerst das Dokumentationsproblem. Sonst automatisierst du nur das Chaos.
Klein anfangen statt alles auf einmal
Der häufigste Fehler ist, gleich das gesamte Unternehmenswissen anbinden zu wollen. Besser ist ein klar abgegrenzter Bereich mit vielen wiederkehrenden Fragen, zum Beispiel Kundenanfragen zu deinen Leistungen oder die Einarbeitung. Dort siehst du schnell, ob die Antworten stimmen und ob dein Team den Assistenten nutzt. Erst danach kommen weitere Unterlagen dazu.
Wie du generell den passenden ersten Prozess für KI findest, beschreibe ich in KI-Automatisierung für kleine Unternehmen. Wenn du wissen willst, wie so ein Assistent auf deiner Website oder am Telefon aussehen kann, schau dir die Beispielabläufe an.
Häufige Fragen (FAQ)
Was ist ein KI-Assistent mit Firmenwissen? +
Kann ein KI-Assistent mit Firmenwissen falsche Antworten geben? +
Wird mein Firmenwissen zum Training der KI verwendet? +
Muss ein KI-Assistent als KI gekennzeichnet werden? +
Womit fange ich am besten an? +
Welche Fragen beantwortest du jeden Tag aufs Neue?
Im kostenlosen Erstgespräch schauen wir, ob sich ein KI-Assistent mit deinem Firmenwissen für dich lohnt und welche Unterlagen dafür nötig sind. Ich sage dir ehrlich, wenn es sich nicht lohnt.
Kostenloses Erstgespräch buchen30 Minuten · unverbindlich · direkt mit Ute Müller