Modelle, die Ihr Unternehmen kennen.
Wir trainieren quelloffene Modelle auf Ihren Unternehmensdaten, setzen RAG dort ein, wo es die bessere Wahl ist, und verbinden beides zu Agenten, die Prozessketten vorbereiten. Alles betrieben in Ihrem Rechenzentrum oder in einer europäischen Cloud.
Trainieren oder nachschlagen lassen
Die erste Frage in jedem Vorhaben ist nicht, welches Modell, sondern wie es an das Wissen Ihres Unternehmens kommt. Dafür gibt es zwei Wege, und die Wahl zwischen ihnen entscheidet mehr über das Ergebnis als jedes Modell.
Beim Training lernt das Modell aus Ihren Daten, und das Gelernte steckt danach in ihm selbst. Bei RAG bleibt das Modell unverändert, bekommt aber zu jeder Frage die passenden Stellen aus Ihren Beständen vorgelegt. Beides hat seinen Platz — und in der Praxis läuft es fast immer auf eine Kombination hinaus.
| Aufgabe | Was sich bewährt |
|---|---|
| Wissen, das sich ändert | RAG. Regelwerke, Verträge, Preise, Zuständigkeiten ändern sich laufend. Wer das ins Modell trainiert, trainiert bei jeder Änderung neu — und kann nicht belegen, woher eine Antwort stammt. |
| Fachsprache und Hausbegriffe | Training. Ein Modell, das Ihre internen Abkürzungen, Produktnamen und Fachbegriffe kennt, versteht Fragen besser und findet in der Suche die richtigen Stellen. |
| Wiederkehrende Einordnung | Training. Vorgänge klassifizieren, Felder aus Dokumenten auslesen, Anliegen einem Bereich zuordnen — dafür ist ein kleines, spezialisiertes Modell oft genauer und deutlich günstiger im Betrieb als ein großes. |
| Festes Ausgabeformat | Training. Wenn jede Antwort eine bestimmte Struktur haben muss — eine Meldung, ein Vermerk, ein Datensatz —, lernt das Modell das Format zuverlässiger, als man es ihm jedes Mal beschreiben kann. |
| Personenbezogene Daten | RAG. Was in den Gewichten eines Modells steckt, lässt sich nicht gezielt löschen. Wenn ein Betroffener Löschung verlangt, müssen Sie das umsetzen können — in einem Dokumentenbestand geht das, in einem trainierten Modell nicht. |
Die Faustregel: Training für das Wie, RAG für das Was. Das Modell lernt, wie Ihr Unternehmen spricht und arbeitet. Was aktuell gilt, schlägt es nach.
Was Training bei uns konkret heißt
Wir trainieren nicht von Grund auf — das wäre für fast jedes Unternehmen unverhältnismäßig teuer. Wir setzen auf quelloffenen Modellen auf und passen sie gezielt an:
- Feinabstimmung eines Sprachmodells auf Ihre Fachsprache und Ihre Ausgabeformate, mit Verfahren, die nur einen kleinen Teil der Gewichte verändern. Das hält Rechenaufwand und Hardwarebedarf im Rahmen.
- Einbettungs- und Nachbewertungsmodelle, trainiert auf Ihren Beständen. Diese Schritte heben die Trefferqualität eines RAG-Systems oft stärker als ein größeres Sprachmodell.
- Kleine Spezialmodelle für Klassifikation und Auslesen von Feldern, die neben dem Sprachmodell laufen und einen großen Teil der Anfragen schneller und billiger erledigen.
Woraus trainiert wird
Aus dem, was Ihr Unternehmen ohnehin hat: bearbeitete Vorgänge, geprüfte Antworten, klassifizierte Dokumente, die Historie Ihrer Fachbereiche. Genau deshalb hängt der Erfolg weniger am Modell als an den Daten — und genau deshalb gehört die Datenplattform zu unserer Arbeit dazu.
Zu jedem Trainingslauf halten wir fest, aus welchen Beständen er stammt, in welchem Stand, und mit welchen Ausschlüssen. Wenn Aufsicht oder Revision fragen, woher ein Modell sein Verhalten hat, gibt es darauf eine Antwort.
Agenten für Prozessketten
Wo heute jemand Informationen aus mehreren Systemen zusammenträgt, bevor er entscheidet, setzen wir Agenten ein. Sie fragen Systeme ab, verbinden die Ergebnisse und legen einen Vorschlag vor — einen Antwortentwurf, einen vorausgefüllten Vorgang, eine Einschätzung mit Begründung.
Drei Regeln halten wir dabei ein, weil ohne sie kein Agent in einem geprüften Prozess besteht:
- Freigabe an der entscheidenden Stelle. Der Agent bereitet vor, ein Mensch löst aus. Vollständig eigenständig handelnde Systeme empfehlen wir in aufsichtsrelevanten Prozessen nicht.
- Rechte wandern mit. Ein Agent sieht und tut nie mehr als der Mensch, in dessen Auftrag er läuft.
- Jeder Schritt ist protokolliert. Welche Systeme in welcher Reihenfolge abgefragt wurden, bleibt nachvollziehbar — auch wenn das Ergebnis stimmt.
Betrieb
Trainierte Modelle laufen dort, wo Ihre Daten liegen: in Ihrem Rechenzentrum oder in einer europäischen Cloud. Jedes Modell ist versioniert und gegen dieselbe Prüfmenge gemessen wie sein Vorgänger. Ein neues Modell geht erst in Betrieb, wenn es dort mindestens gleich gut abschneidet — und der Rückweg auf die vorige Fassung ist jederzeit möglich.
Wie ein solches Vorhaben beginnt
Mit einem Anwendungsfall, nicht mit einem Modell. Wir klären, welche Aufgabe gelöst werden soll, welche Daten dafür vorliegen und wie sich der Erfolg messen lässt. Danach steht fest, ob Training, RAG oder beides der richtige Weg ist — und oft auch, dass ein kleineres Modell reicht, als man zu Beginn dachte.