Large Language Model (LLM)
Ein Large Language Model ist ein KI-Modell, das auf riesigen Textmengen trainiert wurde und natürliche Sprache verstehen, zusammenfassen und erzeugen kann.
Bekannte Beispiele sind GPT-4, Claude oder Gemini. LLMs bilden die Sprachbasis für KI-Mitarbeiter, verarbeiten aber keine firmeninternen Daten, solange sie nicht gezielt angebunden werden.
Der Unterschied zum KI-Mitarbeiter liegt in der Ausführung: Das Modell versteht Anweisungen, der Mitarbeiter führt sie in Systemen aus.
Worin es sich unterscheidet
KI-Mitarbeiter: Das Sprachmodell versteht und formuliert Text. Der KI-Mitarbeiter benutzt dieses Modell als eine Komponente unter mehreren und verbindet es mit Regeln, Rechten und Zugriff auf die Systeme des Betriebs. Ein Modell allein ändert keine Daten.
RAG: Ein Sprachmodell kennt nur, was in seinem Training enthalten war. RAG ergänzt es um firmeneigene Dokumente, die vor jeder Antwort gezielt gesucht und mitgegeben werden. Ohne RAG oder ähnliche Anbindung kennt das Modell Ihre Preisliste nicht.
Was das für einen mittelständischen Betrieb bedeutet
Sprachmodelle sind heute Standardbausteine, vergleichbar mit einer Datenbank. Die Auswahl des Modells ist selten die entscheidende Frage, die Anbindung an die eigenen Daten dagegen schon.
Wichtig ist die Klärung, wo die Verarbeitung stattfindet und ob personenbezogene Daten in das Modell gelangen. Dafür braucht es einen Auftragsverarbeitungsvertrag und eine Festlegung, welche Inhalte überhaupt übergeben werden dürfen.
Modelle werden regelmäßig abgelöst. Eine Lösung sollte deshalb so gebaut sein, dass ein Wechsel möglich ist, ohne den gesamten Prozess neu aufzusetzen.
Die Kosten hängen an der verarbeiteten Textmenge, gemessen in Token, und damit an der Länge der Dokumente und Gespräche.
Ein Beispiel aus dem Alltag
Eine Hausverwaltung erhält Mieteranfragen in sehr unterschiedlicher Form, von zwei Zeilen bis zur langen Schilderung. Ein Sprachmodell fasst jede Nachricht auf drei Zeilen zusammen, ordnet sie einer Kategorie zu, etwa Heizung, Abrechnung oder Schlüssel, und erkennt, ob ein Termin gewünscht ist.
Die Zusammenfassung landet zusammen mit der Originalnachricht im Vorgang. Die Sachbearbeitung liest nicht mehr jede Mail vollständig, sondern entscheidet anhand der Einordnung, was zuerst bearbeitet wird.
Häufige Fragen
Gehen meine Firmendaten in das Training des Modells ein?
Bei geschäftlichen Zugängen ist die Nutzung der Eingaben zum Training üblicherweise vertraglich ausgeschlossen. Das ist ein Punkt, der vor dem Einsatz schriftlich geklärt und im Verarbeitungsverzeichnis festgehalten werden sollte.
Welches Sprachmodell ist das richtige für meinen Betrieb?
Das hängt von Aufgabe, Datenschutzanforderung und Kosten ab, weniger vom Namen. Sinnvoll ist eine Lösung, in der das Modell austauschbar bleibt, weil sich der Markt schnell verändert.
Kann ein Sprachmodell rechnen und Zahlen zuverlässig prüfen?
Reines Rechnen im Text ist fehleranfällig. Zuverlässig wird es, wenn das Modell die Zahlen an ein Rechen- oder Buchhaltungssystem übergibt und nur die Einordnung übernimmt.
Warum antwortet das Modell manchmal falsch?
Weil es Wahrscheinlichkeiten für Wortfolgen bewertet und nicht prüft, ob eine Aussage stimmt. Dieses Verhalten wird Halluzination genannt und durch Quellenanbindung und Eskalationsregeln eingegrenzt.
Synonyme und verwandte Begriffe
LLM · Sprachmodell · Generative KI