KI Alpha Knowledge

RAG-Systeme und KI-Wissensassistenten

Wir verbinden Sprachmodelle mit freigegebenen Dokumenten und Datenquellen, damit Unternehmenswissen schnell, nachvollziehbar und berechtigungsgesteuert verfügbar wird.

Unternehmenswissen schnell und nachvollziehbar verfügbar machen

In vielen Unternehmen ist wichtiges Wissen über Dateiablagen, Handbücher, Wikis, Intranets, Tickets und Fachsysteme verteilt. Mitarbeitende verbringen viel Zeit mit der Suche, kennen den richtigen Ablageort nicht oder finden mehrere widersprüchliche Versionen.

Ein RAG-System verbindet eine Such- und Retrieval-Komponente mit einem Sprachmodell. Vor einer Antwort werden passende Inhalte aus einer definierten Wissensbasis ermittelt und dem Modell als Kontext zur Verfügung gestellt.

Dadurch lassen sich Fragen in natürlicher Sprache beantworten und mit den verwendeten Quellen verknüpfen.

Grundlagen

Was bedeutet RAG?

RAG steht für Retrieval-Augmented Generation – auf Deutsch etwa „abrufgestützte Antworterzeugung“. Der Ablauf besteht vereinfacht aus vier Schritten:

Frage stellen

Ein Nutzer stellt eine Frage in natürlicher Sprache.

Inhalte suchen

Das System sucht in freigegebenen Datenquellen nach passenden Inhalten.

Kontext übergeben

Relevante Textstellen werden dem Sprachmodell als Kontext zur Verfügung gestellt.

Antwort mit Quellen

Das Modell erstellt eine Antwort und verweist auf die verwendeten Quellen.

Wichtig: RAG ersetzt weder Datenpflege noch Qualitätskontrolle. Die Zuverlässigkeit hängt wesentlich von Dokumentqualität, Suchverfahren, Berechtigungen, Modellverhalten und Evaluation ab.

Ausgangslage

Typische Herausforderungen

  • Dokumente liegen in vielen verschiedenen Systemen.
  • Volltextsuchen funktionieren nur mit exakten Begriffen.
  • Fachwissen ist an einzelne Personen gebunden.
  • Neue Mitarbeitende benötigen lange Einarbeitungszeiten.
  • Support-Teams beantworten wiederholt ähnliche Fragen.
  • Veraltete und aktuelle Dokumentversionen sind schwer zu unterscheiden.
  • Berechtigungen aus Ursprungssystemen müssen berücksichtigt werden.
  • Antworten sollen mit nachvollziehbaren Quellen belegt werden.
  • Große Dokumentenmengen enthalten viele irrelevante oder doppelte Inhalte.

Leistungsportfolio

Vom Dokumentenbestand zum Wissensassistenten

Datenquellen- und Wissensanalyse

Wir klären, welche Wissensbereiche einbezogen werden sollen und welche Nutzergruppen Zugriff benötigen.

Analysiert werden:

  • Dokumenttypen und Formate
  • Ablageorte
  • Versionierung
  • Metadaten
  • Aktualisierungszyklen
  • Zugriffsrechte
  • Sprache und Fachterminologie
  • Typische Fragen
  • Erwartete Antwortqualität
  • Rechtliche und organisatorische Anforderungen

Dokumentenimport und Aufbereitung

Dokumente werden extrahiert, normalisiert und in geeignete Einheiten zerlegt.

Mögliche Schritte:

  • Textextraktion
  • Tabellen- und Strukturübernahme
  • Metadatenzuordnung
  • Entfernung irrelevanter Bestandteile
  • Erkennung von Dubletten
  • Versionserkennung
  • Chunking (Zerlegung in sinnvolle Textabschnitte)
  • Sprach- und Zeichensatzbehandlung
  • Ausschluss nicht freigegebener Inhalte

Semantische und hybride Suche

Neben klassischer Volltextsuche können semantische Verfahren eingesetzt werden, die inhaltlich verwandte Textstellen erkennen.

Je nach Datenbestand kombinieren wir:

  • Volltextsuche
  • Vektorsuche
  • Metadatenfilter
  • Hybride Suche
  • Re-Ranking
  • Synonyme und Fachbegriffe
  • Query-Rewriting
  • Mehrstufiges Retrieval

Sprachmodell und Antwortlogik

Wir wählen ein Modell und definieren, wie es mit den gefundenen Informationen arbeiten soll.

Mögliche Regeln:

  • Ausschließlich auf Basis gefundener Quellen antworten
  • Unsicherheit transparent darstellen
  • Fehlende Informationsgrundlage benennen
  • Quellen direkt verlinken
  • Widersprüchliche Quellen kennzeichnen
  • Antwortformat an Zielgruppe anpassen
  • Sensible Inhalte nicht zusammenführen
  • Zitate und Fundstellen anzeigen

Berechtigungssteuerung

Ein Wissensassistent darf keine Inhalte offenlegen, auf die der Nutzer im Ursprungssystem keinen Zugriff besitzt.

Mögliche Ansätze:

  • Synchronisation vorhandener Gruppen
  • Dokumentbasierte Zugriffsfilter
  • Getrennte Wissensbereiche
  • Projekt- oder mandantenbezogene Indizes
  • Abteilungs- und Rollenrechte
  • Berechtigungsprüfung zur Anfragezeit

Aktualisierung und Synchronisation

Neue, geänderte und gelöschte Inhalte müssen zuverlässig verarbeitet werden.

Mögliche Verfahren:

  • Zeitgesteuerte Synchronisation
  • Inkrementelle Aktualisierung
  • Ereignis- oder Webhook-basierte Verarbeitung
  • Versionierung
  • Lösch- und Sperrlogik
  • Fehlerwarteschlangen
  • Monitoring der Datenpipeline

Evaluation und Qualitätsmessung

Wir entwickeln reale Testfragen und prüfen Suche und Antworten getrennt.

Mögliche Kriterien:

  • Wurde die richtige Quelle gefunden?
  • Ist die Fundstelle relevant?
  • Stützt die Quelle die Antwort?
  • Ist die Antwort vollständig?
  • Enthält sie unzulässige Ergänzungen?
  • Sind Quellen korrekt zugeordnet?
  • Reagiert das System bei fehlenden Informationen angemessen?
  • Werden Berechtigungen eingehalten?
  • Wie schnell wird geantwortet?

Integration

Der Wissensassistent kann auf verschiedene Weise bereitgestellt werden:

  • Bestandteil einer Corporate-LLM-Plattform
  • Eigenständige Webanwendung
  • Intranet-Komponente
  • Teams- oder Chat-Integration
  • API für interne Anwendungen
  • Fachassistent
  • Support-Werkzeug
  • Eingebettete Suche in einem Portal

Datenquellen

Mögliche Datenquellen

  • PDF-Dokumente
  • Word-Dateien
  • PowerPoint-Präsentationen
  • Tabellen und strukturierte Daten
  • Markdown und Text
  • Interne Webseiten
  • SharePoint
  • Nextcloud
  • Netzlaufwerke
  • Wikis
  • Dokumentenmanagementsysteme
  • Ticketsysteme
  • Datenbanken
  • Produktinformationssysteme
  • Technische Handbücher
  • Qualitäts- und Verfahrensdokumente
  • Interne APIs

Anwendungsfälle

Typische Lösungen

Interner Unternehmensassistent

Beantwortet Fragen zu Prozessen, Ansprechpartnern, Richtlinien und organisatorischen Abläufen.

Technischer Support-Assistent

Durchsucht Handbücher, Fehlerbeschreibungen, Serviceberichte und bekannte Lösungen.

Vertriebs- und Produktassistent

Liefert freigegebene Produktinformationen, Angebotsbausteine, Referenzinhalte und Argumentationshilfen.

Qualitätsmanagement-Assistent

Unterstützt beim Auffinden von Verfahrensanweisungen, Prüfvorgaben und Qualitätsdokumenten.

Personal- und Onboarding-Assistent

Beantwortet freigegebene Fragen zu internen Prozessen, Onboarding und organisatorischen Regelungen.

Richtlinien- und Compliance-Assistent

Erleichtert die Suche in internen Vorgaben, Richtlinien und Kontrollbeschreibungen.

Qualität

Qualität vor Dokumentenmenge

Ein gutes Wissenssystem entsteht nicht dadurch, dass möglichst viele Dateien hochgeladen werden. Entscheidend ist die Qualität der Grundlagen.

  • Aktualität
  • Klare Dokumentverantwortung
  • Sinnvolle Metadaten
  • Nachvollziehbare Versionen
  • Passende Zugriffsrechte
  • Hochwertige Suchergebnisse
  • Definierte Antwortregeln
  • Reale Testfragen
  • Kontinuierliche Pflege

Ergebnisse

Ergebnisse eines RAG-Projekts

  • Dokumentierte Datenquellen und Berechtigungen
  • Import- und Aktualisierungspipeline
  • Suchindex und Retrieval-Konfiguration
  • Angebundenes Sprachmodell
  • Antwortlogik mit Quellen
  • Test- und Evaluationsdatensatz
  • Qualitätsbericht
  • Benutzeroberfläche oder API
  • Monitoring und technische Dokumentation
  • Empfehlungen für Ausbau und Betrieb

FAQ

Häufige Fragen

Ist RAG dasselbe wie Fine-Tuning?

Nein. RAG stellt einem Modell bei jeder Anfrage passende Informationen zur Verfügung. Fine-Tuning verändert das Modellverhalten anhand von Trainingsbeispielen.

Können Quellen in Antworten angezeigt werden?

Ja. Antworten können mit Dokumenten, Fundstellen oder Links auf die Ursprungssysteme verbunden werden.

Werden vorhandene Zugriffsrechte berücksichtigt?

Das ist ein zentraler Architekturpunkt. Je nach Ursprungssystem können vorhandene Gruppen und Dokumentberechtigungen übernommen oder in getrennten Wissensbereichen abgebildet werden.

Kann ein RAG-System trotzdem falsche Antworten erzeugen?

Ja. Fehler können durch falsches Retrieval, unklare Quellen oder Modellverhalten entstehen. Evaluation, Quellenanzeige und geeignete Antwortregeln reduzieren das Risiko, beseitigen es aber nicht vollständig.

Können Dokumente automatisch aktualisiert werden?

Ja. Synchronisationen können zeitgesteuert oder ereignisbasiert aufgebaut werden, abhängig von den technischen Möglichkeiten der Quelle.

KI Alpha Knowledge

Machen Sie Ihr Unternehmenswissen nutzbar

Wir entwickeln einen Wissensassistenten, der relevante Informationen schneller auffindbar macht und Antworten mit nachvollziehbaren Quellen verbindet.