Ohne Daten keine KI: Warum Mittelständler jetzt ihr internes Wissen strukturieren müssen

Sönke Schäfer, Datenschäfer bei SeSoft GmbH Web/Database/Solutions, Datenbank-Entwickler für Access, SQL-Server, Power Platform usw.

Viele mittelständische Unternehmen träumen davon, ihre Prozesse mit Künstlicher Intelligenz zu entlasten – z. B. durch automatische Textauswertung, intelligentes Beantworten von Kundenanfragen oder die Analyse von Qualitätsdaten. Doch wenn es an die Umsetzung geht, zeigt sich schnell ein zentrales Problem: Die KI kann nur mit dem arbeiten, was digital und strukturiert vorliegt.

Konkret: Sprachmodelle wie GPT oder RAG-basierte Systeme können nur dann firmenspezifische Aufgaben übernehmen, wenn sie Zugriff auf konkrete Daten und Dokumente haben. Wissen, das „nur in den Köpfen“ der Mitarbeitenden schlummert – oder verstreut in E-Mail-Postfächern, unbenannten Excel-Dateien oder alten Papierordnern liegt – ist für KI nicht nutzbar.

Wissen allein reicht nicht – es muss digital, auffindbar und aktuell sein

Ein Retrieval-Augmented-Generation-System (RAG) kombiniert ein Sprachmodell mit gezieltem Zugriff auf interne Wissensquellen – etwa:

  • Angebots- und Vertragsdokumente (PDFs)
  • Produkt- und Kundendaten aus ERP-Systemen
  • Support- oder Reklamationsverläufe aus dem Ticketsystem
  • Projektberichte, Besprechungsnotizen, Wikis oder SharePoint-Inhalte

Aber diese Daten müssen zugänglich, strukturiert und durchsuchbar sein. Ein chaotischer Dateiablageort auf dem Netzlaufwerk oder eine private Outlook-Mail mit dem einzigen Hinweis auf ein Lieferproblem von 2021 hilft einer KI nicht weiter.

Fakt ist:

Wer heute mit KI arbeiten will, muss gestern mit der strukturierten Digitalisierung begonnen haben.

Typische Baustellen im Mittelstand

In vielen KMU im Norden sieht es aktuell so aus:

  • Excel-Listen mit Versionen wie „Datei_neu_final_letztestand_neu2.xlsx“
  • Wissen über Produkte, Kunden oder Prozesse ist verteilt über mehrere Abteilungen – oder hängt von einer Schlüsselperson ab
  • CRM- oder ERP-Systeme sind zwar vorhanden, aber schlecht gepflegt oder unvollständig
  • Es gibt keine einheitliche Dokumentationsstrategie für Abläufe, Entscheidungen oder Ausnahmen

Das ist kein Vorwurf – sondern Alltag. Nur: Wenn KI dabei helfen soll, Wissen schneller zugänglich zu machen, muss dieses Wissen auch existieren – und digital bereitstehen.

Wie Du als KMU jetzt die richtigen Grundlagen schaffst

  1. Wissensquellen erfassen
    Welche internen Dokumente, Datenbanken oder Systeme enthalten relevantes Wissen für Deine Mitarbeitenden?
  2. Digitalisierungsstatus prüfen
    Liegen die Informationen überhaupt digital vor – und wenn ja, in welchem Format? (PDF, Word, Datenbank, ERP, Excel etc.)
  3. Struktur schaffen
    Können die Inhalte durchsucht und verarbeitet werden? Gibt es redundante, veraltete oder unlesbare Formate?
  4. Prozesse dokumentieren
    Was heute „implizit funktioniert“, muss in den nächsten Jahren explizit dokumentiert werden – für Mitarbeitende und für KI-Systeme.

Wie der Datenschäfer unterstützt

Hier beginnt meine Arbeit als Datenschäfer. Ich helfe Unternehmen im Norden dabei, den Übergang von „Wissensinseln“ zu einer digitalen, KI-fähigen Wissensbasis zu gestalten. Das kann bedeuten:

  • Daten aus Excel, Access oder ERP-Systemen zu extrahieren und sinnvoll zusammenzuführen
  • interne Prozesse zu analysieren und in digitalen Workflows (z. B. Power Platform) abzubilden
  • Wissensdokumente zu strukturieren, klassifizieren und auffindbar zu machen
  • eine erste interne RAG-Lösung zu bauen – lokal, datenschutzkonform und verständlich

Mein Ansatz ist immer: pragmatisch, vertraulich und auf Augenhöhe. Keine Science-Fiction, sondern echte Erleichterung für Deinen Arbeitsalltag.

Fazit: Jetzt aufräumen, um später automatisieren zu können

Künstliche Intelligenz ist kein Zaubertrick – sie ist ein Werkzeug. Aber wie bei jedem Werkzeug gilt: Ohne gutes Material entsteht kein gutes Ergebnis. Deshalb ist es jetzt an der Zeit, die eigenen Datenbestände aufzuräumen, internes Wissen systematisch zu erfassen – und damit die Grundlage zu schaffen für alles, was mit KI möglich wird.

📞 Kostenloses Erstgespräch für Deine interne Datenstrategie vereinbaren:
Datenschäfer – AI, Analyse, Auswertung und Automatisierung für KMU im Norden 🐑