Phase 1 · Step 3 von 9
Welche Rolle das LLM spielt
Du siehst, wie das Modell aus bereitgestelltem Kontext eine Antwort formuliert.
Was du mitnimmst
LLMs formulieren Antworten; Retrieval und Graphkontext liefern die überprüfbare Grundlage.
Lernziel
Du siehst, welche Rolle das LLM in GraphRAG übernimmt: Es formuliert aus Frage, Prompt und bereitgestelltem Kontext eine Antwort. Danach kannst du prüfen, welche Quellen, Daten oder Beziehungspfade sichtbar sein sollten, damit diese Antwort belastbar wird.
Erklärung
Im Kontextbild liefern Quellen und Graph den Stoff – formuliert wird die Antwort am Ende vom LLM. Genau dessen Rolle klären wir jetzt. Ein LLM kann überzeugend schreiben, erklären, zusammenfassen und Muster fortsetzen. In GraphRAG zählt deshalb sehr genau, welcher Kontext dem Modell für eine konkrete Antwort bereitgestellt wird.
Die zentrale Frage lautet: "Welche Information lag dem Modell in genau dieser Anfrage nachweisbar vor?"
Dieser Schritt klärt die Rolle des LLM im System. Dadurch kannst du später unterscheiden, ob eine Antwort sprachlich gut formuliert ist oder ob sie auch auf sichtbaren Quellen, Daten und Beziehungspfaden beruht.
Ein LLM erzeugt Text aus Mustern im bereitgestellten Kontext. Während einer Anfrage sieht es den Prompt, die Aufgabe und die Informationen im Kontextfenster. Daraus entsteht eine neue Formulierung: Das Modell verbindet Hinweise, ergänzt Zwischenschritte und macht daraus eine Antwort.
Für belastbare Antworten braucht das Modell sichtbare Evidenz: Dokumentstellen, Daten, Graphpfade, Quellen oder Regeln. Das gilt besonders bei aktuellen Verträgen, internen Prozessen, Rechten, Versionen oder Datenqualitätsproblemen.
Genau diese Arbeitsteilung greifen RAG und GraphRAG auf – wie, zeigen die nächsten Steps. Für jetzt reicht: Das Modell übernimmt Sprache, Zusammenfassung, Inferenz und Erklärung. Inferenz heißt hier: Aus sichtbaren Hinweisen entsteht eine neue Schlussfolgerung, zum Beispiel eine begründete Empfehlung oder Einordnung. Die überprüfbare Grundlage kommt von außen.
Für Lernende ist diese Rollenklärung zentral: Das LLM ist die Formulierungs- und Inferenzkomponente über sichtbarem Kontext. Die überprüfbare Grundlage entsteht durch Quellen, Daten und Graphpfade.
Mentales Modell
Das LLM sieht Prompt und Kontextfenster, zieht daraus Schlüsse und formuliert eine Antwort. Evidenz macht sichtbar, worauf diese Antwort beruht.
Begriffe
01
Prompt
Eingabe, Aufgabe und Kontext für das Modell.
02
Kontextfenster
Menge an Text, die das Modell in einer Anfrage berücksichtigen kann.
03
Inferenz
Neue Schlussfolgerung aus sichtbarem Kontext, zum Beispiel eine begründete Empfehlung aus Frage, Quellen, Daten und Graphpfaden.
04
Halluzination
Plausibel klingende Antwort ohne ausreichende Evidenz.
05
Evidenz
Nachweisbarer Kontext aus Quellen, Daten oder Graphpfaden.
Beispiel
Ein Nutzer fragt: "Ist Projekt Alpha von der neuen Prüfpflicht betroffen?" Das LLM antwortet flüssig: "Ja, Projekt Alpha ist betroffen, wenn es ein kritisches Kundensystem nutzt." Die Antwort klingt plausibel. Für eine belastbare Entscheidung braucht sie sichtbare Nachweise.
Für eine echte Entscheidung fehlen mehrere Dinge: Welche Richtlinie und welcher Abschnitt gelten? Ist CRM wirklich als kritisch klassifiziert? Nutzt Projekt Alpha tatsächlich CRM? Wer hat das zuletzt bestätigt?
Mit Retrieval könnte das System die passenden Stellen finden: Abschnitt 4.2 der Richtlinie A und den Eintrag im Systemkatalog. Mit Graphkontext könnte es zusätzlich zeigen: Richtlinie A -> betrifft -> kritische Kundensysteme -> umfasst -> CRM -> genutzt_von -> Projekt Alpha. Das LLM formuliert dann aus einem sichtbaren Kontextpaket.
Die Lektion: Qualität entsteht, wenn Quelle, Annahme und Beziehungspfad prüfbar werden.
Typischer Denkfehler
Der typische Denkfehler ist, gute Sprache mit belastbarem Wissen zu verwechseln. Eine flüssige Antwort kann falsch, veraltet, unvollständig oder unbelegt sein.
Gerade in GraphRAG-Projekten ist das gefährlich, weil die Antwort oft komplex klingt. Je komplexer die Antwort, desto wichtiger werden Quelle, Pfad und Trennung zwischen gefundener Evidenz und generierter Formulierung.
Woran du es erkennst
Ein LLM braucht externen Kontext, sobald Antworten aktuell, domänenspezifisch, auditierbar oder quellenpflichtig sein müssen. Graphkontext wird relevant, sobald Beziehungen zwischen Quellen, Entitäten oder Regeln erklärt werden müssen.
Wenn du eine Antwort später begründen, prüfen oder auditieren musst, braucht das Modell sichtbare Evidenz aus Quellen, Daten oder Graphpfaden.
Mini-Aufgabe
Nimm diese plausible KI-Antwort: "Projekt Alpha ist betroffen, wenn es ein kritisches Kundensystem nutzt." Markiere drei Dinge: Welche Quelle trägt die Aussage? Welche Annahme braucht Beleg? Welche Information müsste aus einem externen System kommen?
Musterlösung
Plausible Antwort
"Projekt Alpha ist betroffen, wenn es ein kritisches Kundensystem nutzt."
Quelle trägt die Aussage
Abschnitt 4.2 der Richtlinie A (Prüfpflicht), der Systemkatalog (CRM als kritisch) und die Projektliste (Projekt Alpha nutzt CRM) müssten sichtbar sein.
Annahme braucht Beleg
Dass CRM tatsächlich als kritisches Kundensystem klassifiziert ist und dass Projekt Alpha genau dieses System nutzt.
Externe Information
die gültige Fassung der Richtlinie, die Systemklassifikation, die Projektzuordnung und gegebenenfalls der Graphpfad von Richtlinie über Systemklasse und CRM zu Projekt Alpha.
Stärkere Antwort
"Projekt Alpha ist betroffen, weil es CRM nutzt. CRM ist im Systemkatalog als kritisches Kundensystem klassifiziert, und Richtlinie A verlangt in Abschnitt 4.2 die jährliche Prüfung solcher Systeme. Quellen: Richtlinie A Abschnitt 4.2, Systemkatalog, Projektliste."
Selbsttest
1.Warum sollten Sprachfähigkeit und Nachweisfähigkeit getrennt geprüft werden?
Weil ein LLM sehr überzeugend formulieren kann und die Aussage zusätzlich auf konkrete Quellen oder geprüfte Datenpfade gestützt werden sollte.
2.Warum braucht ein LLM externen Kontext?
Es braucht externen Kontext, wenn die Antwort auf aktuelle, interne, fachliche oder prüfbare Informationen gestützt werden soll.
3.Was müsste sichtbar sein, damit eine Antwort belastbar wird?
Sichtbar sein sollten mindestens die verwendeten Quellen, die relevanten Textstellen oder Daten, zentrale Annahmen und bei GraphRAG der Beziehungspfad, der die Antwort trägt.
Kernaussage
LLMs formulieren Antworten; Retrieval und Graphkontext liefern die überprüfbare Grundlage.