{"id":342,"date":"2026-09-09T18:35:49","date_gmt":"2026-09-09T18:35:49","guid":{"rendered":"https:\/\/www.fabricioruch.ch\/?p=342"},"modified":"2026-09-25T21:17:33","modified_gmt":"2026-09-25T21:17:33","slug":"rag-von-grund-auf-teil-1-rag-verstehen","status":"publish","type":"post","link":"https:\/\/www.fabricioruch.ch\/?p=342","title":{"rendered":"RAG von Grund auf \u2013 Teil 1: RAG verstehen"},"content":{"rendered":"\n

Retrieval-Augmented Generation, kurz RAG<\/strong>, geh\u00f6rt inzwischen zu den zentralen Konzepten beim Einsatz von Large Language Models mit eigenem Wissen.<\/p>\n\n\n\n

Die Grundidee klingt zun\u00e4chst erstaunlich einfach:<\/p>\n\n\n\n

\n

Bevor ein Sprachmodell eine Frage beantwortet, werden relevante Informationen gesucht und dem Modell als Kontext mitgegeben.<\/p>\n<\/blockquote>\n\n\n\n

Damit ist RAG im Kern bereits beschrieben.<\/p>\n\n\n\n

Die eigentliche Komplexit\u00e4t beginnt jedoch unmittelbar danach.<\/p>\n\n\n\n

Was bedeutet \u201erelevant\u201c? Wie findet man die richtigen Informationen? Wie werden Dokumente \u00fcberhaupt durchsuchbar gemacht? Was ist ein Embedding? Warum reicht eine klassische Volltextsuche manchmal nicht aus? Was ist der Unterschied zwischen Dense und Sparse Retrieval? Warum ben\u00f6tigt man Reranking? Was bedeutet Grounding? Und warum kann ein RAG-System trotz korrekter Quellen noch immer eine falsche Antwort erzeugen?<\/p>\n\n\n\n

Diese Artikelserie behandelt genau diese Grundlagen.<\/p>\n\n\n\n

Nicht anhand eines bestimmten Frameworks und nicht anhand einer konkreten Produktarchitektur. Ziel ist ein technisches Referenzwerk \u00fcber die Begriffe und Konzepte, die man kennen muss, um RAG-Systeme, Fachartikel, Papers, Dokumentationen und technische Diskussionen verstehen und einordnen zu k\u00f6nnen.<\/p>\n\n\n\n

Dieser erste Teil beginnt bewusst vor Embeddings, Vektordatenbanken und Chunking.<\/p>\n\n\n\n

Zuerst muss klar sein, welches Problem RAG \u00fcberhaupt l\u00f6st.<\/strong><\/p>\n\n\n\n

\n\n\n\n

1. Das Ausgangsproblem: Ein LLM ist keine Wissensdatenbank<\/h1>\n\n\n\n

Ein Large Language Model ist zun\u00e4chst ein Modell zur Verarbeitung und Erzeugung von Sprache.<\/p>\n\n\n\n

Vereinfacht betrachtet erh\u00e4lt es eine Folge von Tokens und berechnet, welche Tokens wahrscheinlich folgen sollten.<\/p>\n\n\n\n

Aus:<\/p>\n\n\n\n

Die Hauptstadt der Schweiz ist ...\n<\/code><\/pre>\n\n\n\n
kann beispielsweise:<\/p>\n\n\n\n
Bern\n<\/code><\/pre>\n\n\n\n
werden.<\/p>\n\n\n\n
Moderne Sprachmodelle sind nat\u00fcrlich wesentlich komplexer als diese vereinfachte Darstellung vermuten l\u00e4sst. Dennoch ist ein Punkt entscheidend:<\/p>\n\n\n\n
Das Modell f\u00fchrt nicht bei jeder Frage automatisch eine Suche in einer Wissensdatenbank durch.<\/strong><\/p>\n\n\n\n
Ein erheblicher Teil dessen, was ein LLM \u201eweiss\u201c, stammt aus seinem Training.<\/p>\n\n\n\n
Damit kommen wir zur ersten wichtigen Unterscheidung.<\/p>\n\n\n\n
\n\n\n\n
2. Parametrisches Wissen<\/h1>\n\n\n\n
Als parametrisches Wissen<\/strong> bezeichnet man vereinfacht Wissen, das w\u00e4hrend des Trainings in den Parametern beziehungsweise Gewichten eines Modells repr\u00e4sentiert wurde.<\/p>\n\n\n\n
Das Modell hat beispielsweise w\u00e4hrend des Trainings sehr viele Texte \u00fcber Programmiersprachen gesehen. Dadurch kann es Fragen \u00fcber C#, Java oder Python beantworten, ohne daf\u00fcr bei jeder Anfrage Dokumentationen durchsuchen zu m\u00fcssen.<\/p>\n\n\n\n
Das ist enorm leistungsf\u00e4hig.<\/p>\n\n\n\n
Es besitzt aber fundamentale Grenzen.<\/p>\n\n\n\n
Aktualit\u00e4t<\/h2>\n\n\n\n
Das Trainingswissen entspricht nicht zwangsl\u00e4ufig dem heutigen Stand.<\/p>\n\n\n\n
Neue Produkte, ge\u00e4nderte Gesetze, aktuelle interne Dokumentationen oder Informationen, die nach dem Training entstanden sind, k\u00f6nnen fehlen.<\/p>\n\n\n\n
Unternehmensinternes Wissen<\/h2>\n\n\n\n
Ein \u00f6ffentlich trainiertes Modell kennt normalerweise nicht:<\/p>\n\n\n\n
    \n
  • interne Richtlinien,<\/li>\n\n\n\n
  • Prozessbeschreibungen,<\/li>\n\n\n\n
  • Projektdokumentationen,<\/li>\n\n\n\n
  • Vertr\u00e4ge,<\/li>\n\n\n\n
  • Sitzungsprotokolle,<\/li>\n\n\n\n
  • interne Wikis,<\/li>\n\n\n\n
  • technische Betriebsdokumentationen,<\/li>\n\n\n\n
  • private Wissensdatenbanken.<\/li>\n<\/ul>\n\n\n\n
    Nachweisbarkeit<\/h2>\n\n\n\n
    Selbst wenn das Modell eine richtige Antwort kennt, ist zun\u00e4chst nicht klar, woher<\/strong> diese Information stammt.<\/p>\n\n\n\n
    F\u00fcr viele professionelle Anwendungen reicht<\/p>\n\n\n\n
    \n
    \u201eDas Modell weiss das.\u201c<\/p>\n<\/blockquote>\n\n\n\n
    nicht aus.<\/p>\n\n\n\n
    Man ben\u00f6tigt eine konkrete Quelle.<\/p>\n\n\n\n
    Zuverl\u00e4ssigkeit<\/h2>\n\n\n\n
    Sprachmodelle k\u00f6nnen plausible Aussagen erzeugen, die faktisch falsch oder nicht belegt sind.<\/p>\n\n\n\n
    Damit entsteht eines der bekanntesten Probleme generativer KI.<\/p>\n\n\n\n
    \n\n\n\n
    3. Halluzination<\/h1>\n\n\n\n
    Von einer Halluzination<\/strong> spricht man, wenn ein Sprachmodell Inhalte erzeugt, die plausibel erscheinen, aber nicht durch die zugrunde liegenden Fakten oder den bereitgestellten Kontext gedeckt sind.<\/p>\n\n\n\n
    Das Gef\u00e4hrliche daran ist nicht zwingend, dass eine Halluzination absurd klingt.<\/p>\n\n\n\n
    Das Gegenteil ist h\u00e4ufig das Problem.<\/p>\n\n\n\n
    Sie kann sprachlich vollkommen \u00fcberzeugend sein.<\/p>\n\n\n\n
    Ein Modell k\u00f6nnte beispielsweise eine nicht existierende Vorschrift, eine falsche Zahl oder eine erfundene Produkteigenschaft nennen und diese in einer sprachlich perfekten Antwort pr\u00e4sentieren.<\/p>\n\n\n\n
    RAG versucht unter anderem, dieses Problem zu reduzieren.<\/p>\n\n\n\n
    Aber eine wichtige Einschr\u00e4nkung geh\u00f6rt bereits an diese Stelle:<\/p>\n\n\n\n
    \n
    RAG beseitigt Halluzinationen nicht automatisch.<\/strong><\/p>\n<\/blockquote>\n\n\n\n
    Ein RAG-System kann die falschen Informationen finden.<\/p>\n\n\n\n
    Es kann richtige Informationen falsch interpretieren.<\/p>\n\n\n\n
    Das Modell kann trotz korrektem Kontext zus\u00e4tzliche Behauptungen erzeugen.<\/p>\n\n\n\n
    Oder die Antwort kann weiter gehen, als die Quellen tats\u00e4chlich erlauben.<\/p>\n\n\n\n
    RAG verbessert die Voraussetzungen f\u00fcr faktengebundene Antworten. Es garantiert sie nicht.<\/p>\n\n\n\n
    \n\n\n\n
    4. Die zweite Wissensquelle eines LLM: Kontext<\/h1>\n\n\n\n
    Ein Sprachmodell besitzt neben seinem parametrischen Wissen noch eine zweite entscheidende Informationsquelle:<\/p>\n\n\n\n
    den Kontext des aktuellen Requests.<\/strong><\/p>\n\n\n\n
    Wenn wir dem Modell schreiben:<\/p>\n\n\n\n
    Das Unternehmen gew\u00e4hrt w\u00e4hrend der Probezeit\n20 Ferientage pro Jahr.\n\nFrage:\nWie viele Ferientage gelten w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
    muss diese Information nicht Bestandteil des Trainings gewesen sein.<\/p>\n\n\n\n
    Sie befindet sich direkt im aktuellen Kontext.<\/p>\n\n\n\n
    Das Modell kann daraus die Antwort ableiten.<\/p>\n\n\n\n
    Genau diese Eigenschaft bildet die Grundlage von RAG.<\/p>\n\n\n\n
    Anstatt zu versuchen, jedes ben\u00f6tigte Wissen in die Modellgewichte zu bekommen, suchen wir die relevanten Informationen vor der Antwort<\/strong> und geben sie dem Modell mit.<\/p>\n\n\n\n
    \n\n\n\n
    5. Das Kontextfenster<\/h1>\n\n\n\n
    Die Menge an Informationen, die ein Modell gleichzeitig verarbeiten kann, wird durch sein Kontextfenster<\/strong> begrenzt.<\/p>\n\n\n\n
    Dieses wird \u00fcblicherweise in Tokens<\/strong> angegeben.<\/p>\n\n\n\n
    Ein Request kann beispielsweise enthalten:<\/p>\n\n\n\n
    Systemanweisungen\n+\nbisheriger Chatverlauf\n+\nBenutzerfrage\n+\ngefundene Dokumentpassagen\n+\nweitere Metadaten\n+\nerzeugte Antwort\n<\/code><\/pre>\n\n\n\n
    All diese Bestandteile ben\u00f6tigen Kontext.<\/p>\n\n\n\n
    Das f\u00fchrt zu einer wichtigen Erkenntnis:<\/p>\n\n\n\n
    \n
    Man kann einem Sprachmodell normalerweise nicht einfach unbegrenzt viele Dokumente mitgeben.<\/p>\n<\/blockquote>\n\n\n\n
    Selbst wenn ein Modell ein sehr grosses Kontextfenster unterst\u00fctzt, w\u00e4re es h\u00e4ufig ineffizient, bei jeder Frage das gesamte verf\u00fcgbare Wissen hineinzukopieren.<\/p>\n\n\n\n
    Ein Unternehmen k\u00f6nnte beispielsweise Millionen Seiten Dokumentation besitzen.<\/p>\n\n\n\n
    Eine Frage ben\u00f6tigt davon vielleicht drei Abs\u00e4tze.<\/p>\n\n\n\n
    Das eigentliche Problem lautet daher nicht:<\/p>\n\n\n\n
    \n
    Wie bekomme ich alle Dokumente in den Prompt?<\/p>\n<\/blockquote>\n\n\n\n
    Sondern:<\/p>\n\n\n\n
    \n
    Wie finde ich f\u00fcr diese konkrete Frage genau die Informationen, die das Modell ben\u00f6tigt?<\/p>\n<\/blockquote>\n\n\n\n
    Damit sind wir beim Retrieval.<\/p>\n\n\n\n
    \n\n\n\n
    6. Was bedeutet RAG?<\/h1>\n\n\n\n
    RAG<\/strong> steht f\u00fcr:<\/p>\n\n\n\n
    Retrieval-Augmented Generation<\/strong><\/p>\n\n\n\n
    Der Begriff beschreibt die Kombination von Informationssuche und generativer KI.<\/p>\n\n\n\n
    Er l\u00e4sst sich in drei Bestandteile zerlegen:<\/p>\n\n\n\n
    Retrieval\n    \u2193\nAugmentation\n    \u2193\nGeneration\n<\/code><\/pre>\n\n\n\n
    Oder ausf\u00fchrlicher:<\/p>\n\n\n\n
    Benutzerfrage\n      \u2193\nrelevante Informationen suchen\n      \u2193\ngefundene Informationen als Kontext bereitstellen\n      \u2193\nLLM erzeugt daraus eine Antwort\n<\/code><\/pre>\n\n\n\n
    Diese drei Schritte sollte man begrifflich sauber auseinanderhalten.<\/p>\n\n\n\n
    \n\n\n\n
    7. Retrieval<\/h1>\n\n\n\n
    Retrieval<\/strong> bedeutet Informationsabruf.<\/p>\n\n\n\n
    Das System versucht, aus einem vorhandenen Wissensbestand diejenigen Informationen zu finden, die f\u00fcr die aktuelle Anfrage relevant sind.<\/p>\n\n\n\n
    Der Wissensbestand wird h\u00e4ufig als Korpus<\/strong> beziehungsweise Corpus<\/strong> bezeichnet.<\/p>\n\n\n\n
    Ein Korpus kann beispielsweise bestehen aus:<\/p>\n\n\n\n
      \n
    • PDF-Dokumenten,<\/li>\n\n\n\n
    • Word-Dateien,<\/li>\n\n\n\n
    • Webseiten,<\/li>\n\n\n\n
    • Wiki-Artikeln,<\/li>\n\n\n\n
    • Handb\u00fcchern,<\/li>\n\n\n\n
    • E-Mails,<\/li>\n\n\n\n
    • Tickets,<\/li>\n\n\n\n
    • Markdown-Dateien,<\/li>\n\n\n\n
    • Datenbankinhalten,<\/li>\n\n\n\n
    • JSON-Daten,<\/li>\n\n\n\n
    • technischen Dokumentationen.<\/li>\n<\/ul>\n\n\n\n
      Die zentrale Aufgabe des Retrievals lautet:<\/p>\n\n\n\n
      \n
      Welche Teile dieses Korpus sind f\u00fcr die Frage relevant?<\/p>\n<\/blockquote>\n\n\n\n
      Das klingt wie eine klassische Suchmaschine.<\/p>\n\n\n\n
      Und tats\u00e4chlich stammt ein erheblicher Teil der technischen Grundlagen von RAG nicht aus der LLM-Forschung, sondern aus einem wesentlich \u00e4lteren Gebiet:<\/p>\n\n\n\n
      Information Retrieval.<\/strong><\/p>\n\n\n\n
      \n\n\n\n
      8. Information Retrieval<\/h1>\n\n\n\n
      Information Retrieval<\/strong>, kurz IR<\/strong>, besch\u00e4ftigt sich mit dem Auffinden relevanter Informationen innerhalb grosser Informationsbest\u00e4nde.<\/p>\n\n\n\n
      Suchmaschinen sind das offensichtlichste Beispiel.<\/p>\n\n\n\n
      Begriffe wie<\/p>\n\n\n\n
        \n
      • Ranking,<\/li>\n\n\n\n
      • Relevanz,<\/li>\n\n\n\n
      • Recall,<\/li>\n\n\n\n
      • Precision,<\/li>\n\n\n\n
      • TF-IDF,<\/li>\n\n\n\n
      • BM25,<\/li>\n\n\n\n
      • Query Expansion,<\/li>\n\n\n\n
      • Reranking<\/li>\n<\/ul>\n\n\n\n
        existierten lange vor modernen Large Language Models.<\/p>\n\n\n\n
        RAG verbindet diese klassische Suchwelt mit generativer KI.<\/p>\n\n\n\n
        Das ist eine wichtige Perspektive, weil RAG h\u00e4ufig f\u00e4lschlicherweise haupts\u00e4chlich als LLM- oder Prompting-Problem betrachtet wird.<\/p>\n\n\n\n
        In Wirklichkeit lautet eine der wichtigsten Regeln:<\/p>\n\n\n\n
        \n
        Eine Generation kann nur so gut auf den Quellen basieren, wie das Retrieval die richtigen Quellen findet.<\/strong><\/p>\n<\/blockquote>\n\n\n\n
        Wenn der richtige Absatz nie gefunden wird, kann das Antwortmodell ihn auch nicht verwenden.<\/p>\n\n\n\n
        Deshalb steckt ein grosser Teil der Qualit\u00e4t eines RAG-Systems im Retrieval.<\/p>\n\n\n\n
        \n\n\n\n
        9. Augmentation<\/h1>\n\n\n\n
        Nach dem Retrieval liegen relevante Informationen vor.<\/p>\n\n\n\n
        Diese m\u00fcssen nun dem Modell zur Verf\u00fcgung gestellt werden.<\/p>\n\n\n\n
        Dieser Schritt ist die Augmentation<\/strong>.<\/p>\n\n\n\n
        Vereinfacht:<\/p>\n\n\n\n
        Frage:\nWelche K\u00fcndigungsfrist gilt w\u00e4hrend der Probezeit?\n\nGefundener Kontext:\n[Passage aus Dokument A]\n[Passage aus Dokument B]\n\nAnweisung:\nBeantworte die Frage anhand des bereitgestellten Kontexts.\n<\/code><\/pre>\n\n\n\n
        Der urspr\u00fcngliche Prompt wird also um extern gefundenes Wissen erweitert<\/strong>.<\/p>\n\n\n\n
        Daher der Begriff:<\/p>\n\n\n\n
        Retrieval-Augmented Generation<\/strong><\/p>\n\n\n\n
        Die Generation wird durch Retrieval angereichert.<\/p>\n\n\n\n
        Augmentation ist allerdings mehr als simples Copy-and-Paste.<\/p>\n\n\n\n
        Ein reales System muss entscheiden:<\/p>\n\n\n\n
          \n
        • welche Treffer \u00fcbernommen werden,<\/li>\n\n\n\n
        • in welcher Reihenfolge,<\/li>\n\n\n\n
        • wie viel Text \u00fcbernommen wird,<\/li>\n\n\n\n
        • wie Quellen markiert werden,<\/li>\n\n\n\n
        • wie viel Platz f\u00fcr die Antwort reserviert bleibt,<\/li>\n\n\n\n
        • wie Chatverlauf und Dokumentkontext kombiniert werden,<\/li>\n\n\n\n
        • was bei widerspr\u00fcchlichen Quellen passiert.<\/li>\n<\/ul>\n\n\n\n
          Diese Fragen werden sp\u00e4ter in der Serie relevant.<\/p>\n\n\n\n
          \n\n\n\n
          10. Generation<\/h1>\n\n\n\n
          Erst jetzt kommt der Teil, den man normalerweise unmittelbar mit einem LLM verbindet:<\/p>\n\n\n\n
          Generation.<\/strong><\/p>\n\n\n\n
          Das Sprachmodell erh\u00e4lt beispielsweise:<\/p>\n\n\n\n
          Systemanweisung\n+\nFrage\n+\nretrievten Kontext\n<\/code><\/pre>\n\n\n\n
          und erzeugt daraus die Antwort.<\/p>\n\n\n\n
          Schematisch:<\/p>\n\n\n\n
                        \u250c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2510\n              \u2502    Wissenskorpus   \u2502\n              \u2514\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u252c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2518\n                        \u2502\n                        \u2502 Retrieval\n                        \u25bc\nBenutzerfrage \u2500\u2500\u2192 relevante Passagen\n                        \u2502\n                        \u2502 Augmentation\n                        \u25bc\n                 Prompt + Kontext\n                        \u2502\n                        \u2502 Generation\n                        \u25bc\n                      LLM\n                        \u2502\n                        \u25bc\n                     Antwort\n<\/code><\/pre>\n\n\n\n
          Das ist die elementare RAG-Pipeline.<\/p>\n\n\n\n
          Alles, was sp\u00e4ter noch hinzukommt \u2013 Hybrid Search, Reranking, Query Rewrite, Cross-Encoder, Multi-Hop, GraphRAG oder Agentic RAG \u2013 erweitert letztlich diese Grundidee.<\/p>\n\n\n\n
          \n\n\n\n
          11. Warum nicht einfach das ganze Dokument in den Prompt?<\/h1>\n\n\n\n
          Bei kleinen Dokumenten kann genau das funktionieren.<\/p>\n\n\n\n
          Man gibt das komplette Dokument zusammen mit der Frage an das Modell.<\/p>\n\n\n\n
          Bei gr\u00f6sseren Wissensbest\u00e4nden entstehen jedoch Probleme.<\/p>\n\n\n\n
          Kontextgr\u00f6sse<\/h2>\n\n\n\n
          Tausende Dokumente passen nicht sinnvoll in einen einzelnen Request.<\/p>\n\n\n\n
          Kosten<\/h2>\n\n\n\n
          Mehr Input-Tokens bedeuten mehr Rechenaufwand und bei kommerziellen APIs h\u00e4ufig h\u00f6here Kosten.<\/p>\n\n\n\n
          Latenz<\/h2>\n\n\n\n
          Sehr grosse Prompts ben\u00f6tigen mehr Verarbeitung.<\/p>\n\n\n\n
          Relevanz<\/h2>\n\n\n\n
          Ein Modell ben\u00f6tigt f\u00fcr eine konkrete Frage h\u00e4ufig nur einen kleinen Ausschnitt des gesamten Korpus.<\/p>\n\n\n\n
          Rauschen<\/h2>\n\n\n\n
          Mehr Kontext bedeutet nicht automatisch bessere Antworten.<\/p>\n\n\n\n
          Irrelevante Informationen k\u00f6nnen die eigentliche relevante Passage \u00fcberlagern.<\/p>\n\n\n\n
          Lost in the Middle<\/h2>\n\n\n\n
          Bei sehr langen Kontexten k\u00f6nnen relevante Informationen je nach Modell und Promptposition unterschiedlich stark ber\u00fccksichtigt werden.<\/p>\n\n\n\n
          RAG versucht deshalb, vor der Generation eine Auswahl zu treffen.<\/p>\n\n\n\n
          \n\n\n\n
          12. RAG ist keine Datenbank<\/h1>\n\n\n\n
          Eine weitere wichtige Abgrenzung:<\/p>\n\n\n\n
          RAG selbst ist keine Datenbank.<\/strong><\/p>\n\n\n\n
          RAG bezeichnet ein Verfahren beziehungsweise ein Muster.<\/p>\n\n\n\n
          Ein RAG-System kann unterschiedliche Speicher verwenden:<\/p>\n\n\n\n
            \n
          • klassische Suchindizes,<\/li>\n\n\n\n
          • Vektordatenbanken,<\/li>\n\n\n\n
          • relationale Datenbanken,<\/li>\n\n\n\n
          • Graphdatenbanken,<\/li>\n\n\n\n
          • Dokumentenspeicher,<\/li>\n\n\n\n
          • Kombinationen davon.<\/li>\n<\/ul>\n\n\n\n
            Auch eine Vektordatenbank ist nicht gleichbedeutend mit RAG.<\/p>\n\n\n\n
            Sie kann Bestandteil eines RAG-Systems sein.<\/p>\n\n\n\n
            RAG beschreibt jedoch die gr\u00f6ssere Kette:<\/p>\n\n\n\n
            Wissen\n  \u2193\nSuche\n  \u2193\nKontext\n  \u2193\nGenerierung\n<\/code><\/pre>\n\n\n\n
            \n\n\n\n
            13. RAG ist nicht gleich Vektorsuche<\/h1>\n\n\n\n
            Das ist eine der h\u00e4ufigsten begrifflichen Verk\u00fcrzungen.<\/p>\n\n\n\n
            Oft wird RAG ungef\u00e4hr so erkl\u00e4rt:<\/p>\n\n\n\n
            Dokumente\n   \u2193\nEmbeddings\n   \u2193\nVector Database\n   \u2193\nLLM\n<\/code><\/pre>\n\n\n\n
            Das beschreibt eine verbreitete Umsetzung, aber nicht die Definition von RAG.<\/p>\n\n\n\n
            Retrieval kann beispielsweise erfolgen \u00fcber:<\/p>\n\n\n\n
              \n
            • klassische Keyword-Suche,<\/li>\n\n\n\n
            • BM25,<\/li>\n\n\n\n
            • Dense Vector Search,<\/li>\n\n\n\n
            • Sparse Retrieval,<\/li>\n\n\n\n
            • Hybrid Search,<\/li>\n\n\n\n
            • strukturierte Datenbankabfragen,<\/li>\n\n\n\n
            • Graphabfragen,<\/li>\n\n\n\n
            • Kombinationen mehrerer Verfahren.<\/li>\n<\/ul>\n\n\n\n
              Ein RAG-System ben\u00f6tigt also nicht definitionsgem\u00e4ss eine Vektordatenbank.<\/p>\n\n\n\n
              Es ben\u00f6tigt Retrieval<\/strong>.<\/p>\n\n\n\n
              Wie dieses Retrieval realisiert wird, ist eine separate Frage.<\/p>\n\n\n\n
              \n\n\n\n
              14. Was ist ein Korpus?<\/h1>\n\n\n\n
              Die Gesamtheit des durchsuchbaren Wissens bezeichnet man h\u00e4ufig als Korpus<\/strong>.<\/p>\n\n\n\n
              Beispiel:<\/p>\n\n\n\n
              Korpus\n\u251c\u2500\u2500 Personalreglement.pdf\n\u251c\u2500\u2500 Ferienrichtlinie.docx\n\u251c\u2500\u2500 Spesenreglement.pdf\n\u251c\u2500\u2500 IT-Handbuch.md\n\u2514\u2500\u2500 Sicherheitsrichtlinie.html\n<\/code><\/pre>\n\n\n\n
              Ein Korpus kann homogen sein, muss es aber nicht.<\/p>\n\n\n\n
              In realen Systemen treffen h\u00e4ufig unterschiedliche Formate, Schreibstile, Sprachen und Qualit\u00e4tsstufen aufeinander.<\/p>\n\n\n\n
              Das ist relevant, weil Retrieval nicht auf abstraktem \u201eWissen\u201c arbeitet.<\/p>\n\n\n\n
              Es arbeitet auf konkreten Daten, die zun\u00e4chst verarbeitet werden m\u00fcssen.<\/p>\n\n\n\n
              \n\n\n\n
              15. Vom Dokument zum durchsuchbaren Wissen<\/h1>\n\n\n\n
              Bevor gesucht werden kann, m\u00fcssen Dokumente normalerweise vorbereitet werden.<\/p>\n\n\n\n
              Dieser Vorgang wird h\u00e4ufig als Ingestion<\/strong> bezeichnet.<\/p>\n\n\n\n
              Sehr vereinfacht:<\/p>\n\n\n\n
              Dokumente\n    \u2193\nParsing\n    \u2193\nText\n    \u2193\nChunking\n    \u2193\nindexierbare Einheiten\n    \u2193\nIndex\n<\/code><\/pre>\n\n\n\n
              Je nach Retrieval-Verfahren k\u00f6nnen zus\u00e4tzlich Embeddings oder andere Repr\u00e4sentationen erzeugt werden.<\/p>\n\n\n\n
              Wichtig ist zun\u00e4chst nur die Trennung:<\/p>\n\n\n\n
              Ingestion bereitet Wissen f\u00fcr die Suche vor.<\/strong><\/p>\n\n\n\n
              Retrieval durchsucht dieses vorbereitete Wissen.<\/strong><\/p>\n\n\n\n
              \n\n\n\n
              16. Ingestion und Query sind zwei verschiedene Vorg\u00e4nge<\/h1>\n\n\n\n
              Diese Trennung ist fundamental.<\/p>\n\n\n\n
              Ingestion<\/h2>\n\n\n\n
              Die Ingestion geschieht typischerweise dann, wenn Wissen aufgenommen oder ver\u00e4ndert wird.<\/p>\n\n\n\n
              PDF\n \u2193\nText extrahieren\n \u2193\nstrukturieren\n \u2193\nzerlegen\n \u2193\nrepr\u00e4sentieren\n \u2193\nindexieren\n<\/code><\/pre>\n\n\n\n
              Query<\/h2>\n\n\n\n
              Der Query-Pfad beginnt mit einer konkreten Benutzerfrage.<\/p>\n\n\n\n
              Frage\n \u2193\nSuchanfrage\n \u2193\nRetrieval\n \u2193\nrelevanter Kontext\n \u2193\nLLM\n \u2193\nAntwort\n<\/code><\/pre>\n\n\n\n
              Zusammen:<\/p>\n\n\n\n
                            INGESTION\n\nDokumente\n   \u2193\nParsing\n   \u2193\nChunking\n   \u2193\nIndexierung\n   \u2193\nWissensindex\n      \u25b2\n      \u2502\n      \u2502 Retrieval\n      \u2502\nBenutzerfrage\n      \u2193\nSuchanfrage\n      \u2193\nrelevanter Kontext\n      \u2193\nLLM\n      \u2193\nAntwort\n\n                QUERY\n<\/code><\/pre>\n\n\n\n
              Diese Unterscheidung wird in sp\u00e4teren Teilen entscheidend.<\/p>\n\n\n\n
              Ein anderes Chunking-Verfahren betrifft beispielsweise die Ingestion.<\/p>\n\n\n\n
              Eine andere Retrieval-Strategie betrifft zun\u00e4chst den Query-Pfad.<\/p>\n\n\n\n
              \n\n\n\n
              17. Was ist ein Chunk?<\/h1>\n\n\n\n
              Ein Chunk<\/strong> ist eine kleinere Texteinheit, in die ein gr\u00f6sseres Dokument f\u00fcr Verarbeitung und Retrieval zerlegt wird.<\/p>\n\n\n\n
              Angenommen, ein Handbuch enth\u00e4lt 300 Seiten.<\/p>\n\n\n\n
              F\u00fcr die Frage:<\/p>\n\n\n\n
              \n
              Wie lange dauert die Probezeit?<\/p>\n<\/blockquote>\n\n\n\n
              m\u00f6chte man normalerweise nicht alle 300 Seiten an das Modell \u00fcbergeben.<\/p>\n\n\n\n
              Stattdessen wird das Dokument in kleinere Einheiten zerlegt:<\/p>\n\n\n\n
              Dokument\n\u2502\n\u251c\u2500\u2500 Chunk 1\n\u251c\u2500\u2500 Chunk 2\n\u251c\u2500\u2500 Chunk 3\n\u251c\u2500\u2500 Chunk 4\n\u251c\u2500\u2500 ...\n\u2514\u2500\u2500 Chunk 217\n<\/code><\/pre>\n\n\n\n
              Das Retrieval sucht anschliessend nach relevanten Chunks.<\/p>\n\n\n\n
              Chunking ist deshalb nicht bloss eine technische Vorverarbeitung.<\/p>\n\n\n\n
              Es beeinflusst direkt, welche Information \u00fcberhaupt als Treffer gefunden werden kann<\/strong>.<\/p>\n\n\n\n
              Ist ein Chunk zu klein, kann notwendiger Zusammenhang verloren gehen.<\/p>\n\n\n\n
              Ist er zu gross, enth\u00e4lt er m\u00f6glicherweise viel irrelevanten Text.<\/p>\n\n\n\n
              Chunking erh\u00e4lt deshalb einen eigenen Teil dieser Serie.<\/p>\n\n\n\n
              \n\n\n\n
              18. Retrieval arbeitet h\u00e4ufig auf Chunks, nicht auf ganzen Dokumenten<\/h1>\n\n\n\n
              Das f\u00fchrt zu einer wichtigen begrifflichen Unterscheidung:<\/p>\n\n\n\n
              Dokument<\/strong> und Chunk<\/strong> sind nicht dasselbe.<\/p>\n\n\n\n
              Ein Dokument kann beispielsweise sein:<\/p>\n\n\n\n
              Personalreglement.pdf\n<\/code><\/pre>\n\n\n\n
              Daraus entstehen vielleicht:<\/p>\n\n\n\n
              Chunk 1: Geltungsbereich\nChunk 2: Arbeitszeit\nChunk 3: Probezeit\nChunk 4: Ferien\nChunk 5: K\u00fcndigung\n...\n<\/code><\/pre>\n\n\n\n
              Die Suche kann Chunk 3 und Chunk 5 finden, obwohl beide aus demselben Dokument stammen.<\/p>\n\n\n\n
              Damit l\u00e4sst sich wesentlich gezielter Kontext bereitstellen.<\/p>\n\n\n\n
              Allerdings entsteht dadurch ein neues Problem:<\/p>\n\n\n\n
              Ein einzelner Chunk besitzt m\u00f6glicherweise nicht genug Kontext, um vollst\u00e4ndig verstanden zu werden.<\/p>\n\n\n\n
              Genau daraus entstanden verschiedene fortgeschrittene Chunking- und Retrieval-Verfahren wie Parent-Child Retrieval oder Small-to-Big Retrieval.<\/p>\n\n\n\n
              \n\n\n\n
              19. Grounding<\/h1>\n\n\n\n
              Ein zentraler Begriff bei RAG ist Grounding<\/strong>.<\/p>\n\n\n\n
              Eine Antwort ist \u201egrounded\u201c, wenn ihre Aussagen auf den bereitgestellten Quellen beziehungsweise dem bereitgestellten Kontext beruhen.<\/p>\n\n\n\n
              Vereinfacht:<\/p>\n\n\n\n
              Quelle:\nW\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n\nAntwort:\nW\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n<\/code><\/pre>\n\n\n\n
              Die Aussage l\u00e4sst sich direkt aus der Quelle ableiten.<\/p>\n\n\n\n
              Problematischer w\u00e4re:<\/p>\n\n\n\n
              Quelle:\nW\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n\nAntwort:\nW\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\nDiese Regelung gilt in allen Schweizer Unternehmen.\n<\/code><\/pre>\n\n\n\n
              Der erste Satz ist durch die Quelle gedeckt.<\/p>\n\n\n\n
              Der zweite m\u00f6glicherweise nicht.<\/p>\n\n\n\n
              Die Antwort enth\u00e4lt also gleichzeitig grounded und nicht grounded Aussagen.<\/p>\n\n\n\n
              Das zeigt:<\/p>\n\n\n\n
              \n
              Eine Antwort ist nicht automatisch grounded, nur weil irgendwo eine richtige Quelle angezeigt wird.<\/p>\n<\/blockquote>\n\n\n\n
              \n\n\n\n
              20. Grounding und Korrektheit sind nicht dasselbe<\/h1>\n\n\n\n
              Diese Unterscheidung ist wichtig.<\/p>\n\n\n\n
              Eine Aussage kann grounded, aber falsch<\/strong> sein, wenn die zugrunde liegende Quelle falsch oder veraltet ist.<\/p>\n\n\n\n
              Eine Aussage kann korrekt, aber nicht grounded<\/strong> sein, wenn das Modell sie aus seinem Allgemeinwissen erg\u00e4nzt, obwohl sie nicht in den bereitgestellten Quellen steht.<\/p>\n\n\n\n
              Beispiel:<\/p>\n\n\n\n
              Die Quelle enth\u00e4lt:<\/p>\n\n\n\n
              Bern ist Sitz der Bundesbeh\u00f6rden.\n<\/code><\/pre>\n\n\n\n
              Das Modell erg\u00e4nzt:<\/p>\n\n\n\n
              Bern hat rund 145'000 Einwohner.\n<\/code><\/pre>\n\n\n\n
              Die zweite Aussage k\u00f6nnte faktisch korrekt sein.<\/p>\n\n\n\n
              Sie ist aber nicht durch die gegebene Quelle belegt.<\/p>\n\n\n\n
              In einem streng quellengebundenen System w\u00e4re sie deshalb unerw\u00fcnscht.<\/p>\n\n\n\n
              \n\n\n\n
              21. Faithfulness<\/h1>\n\n\n\n
              Eng mit Grounding verbunden ist Faithfulness<\/strong>.<\/p>\n\n\n\n
              Der Begriff beschreibt vereinfacht, wie treu eine generierte Antwort gegen\u00fcber dem bereitgestellten Kontext ist.<\/p>\n\n\n\n
              Eine Antwort mit hoher Faithfulness behauptet nichts Wesentliches, das sich nicht aus den Quellen ableiten l\u00e4sst.<\/p>\n\n\n\n
              Das ist eine andere Dimension als die reine Antwortqualit\u00e4t.<\/p>\n\n\n\n
              Man kann beispielsweise eine sprachlich hervorragende, hilfreiche und sogar faktisch richtige Antwort erzeugen, die dennoch nicht faithful gegen\u00fcber dem bereitgestellten Kontext ist.<\/p>\n\n\n\n
              F\u00fcr RAG-Evaluation m\u00fcssen solche Dimensionen deshalb getrennt betrachtet werden.<\/p>\n\n\n\n
              \n\n\n\n
              22. Citations und Quellenangaben<\/h1>\n\n\n\n
              Viele RAG-Systeme geben zus\u00e4tzlich Citations<\/strong> beziehungsweise Quellenreferenzen aus.<\/p>\n\n\n\n
              Beispielsweise:<\/p>\n\n\n\n
              W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage. [1]\n<\/code><\/pre>\n\n\n\n
              mit:<\/p>\n\n\n\n
              [1] Personalreglement, Abschnitt 3.2, Seite 7\n<\/code><\/pre>\n\n\n\n
              Eine Quellenangabe verbessert die Nachvollziehbarkeit.<\/p>\n\n\n\n
              Sie l\u00f6st Grounding aber nicht automatisch.<\/p>\n\n\n\n
              Das System muss sicherstellen, dass:<\/p>\n\n\n\n
                \n
              1. die Quelle tats\u00e4chlich existiert,<\/li>\n\n\n\n
              2. die zitierte Passage die Aussage tats\u00e4chlich unterst\u00fctzt,<\/li>\n\n\n\n
              3. das Modell keine Quellenreferenzen erfindet,<\/li>\n\n\n\n
              4. die Quelle zur konkreten Aussage geh\u00f6rt.<\/li>\n<\/ol>\n\n\n\n
                Deshalb sind Citation<\/strong> und Grounding<\/strong> nicht synonym.<\/p>\n\n\n\n
                Eine Citation ist eine Referenz.<\/p>\n\n\n\n
                Grounding beschreibt die inhaltliche Bindung einer Aussage an die Quelle.<\/p>\n\n\n\n
                \n\n\n\n
                23. Answerability<\/h1>\n\n\n\n
                Ein weiterer wichtiger Begriff ist Answerability<\/strong>.<\/p>\n\n\n\n
                Die zentrale Frage lautet:<\/p>\n\n\n\n
                \n
                Enth\u00e4lt der gefundene Kontext \u00fcberhaupt gen\u00fcgend Informationen, um die Benutzerfrage zuverl\u00e4ssig zu beantworten?<\/p>\n<\/blockquote>\n\n\n\n
                Das ist eine andere Frage als:<\/p>\n\n\n\n
                \n
                Haben wir irgendwelche Treffer gefunden?<\/p>\n<\/blockquote>\n\n\n\n
                Ein Suchsystem kann f\u00fcnf Chunks zur\u00fcckgeben, obwohl keiner davon die Antwort enth\u00e4lt.<\/p>\n\n\n\n
                Beispiel:<\/p>\n\n\n\n
                Frage:<\/p>\n\n\n\n
                Wie hoch ist die K\u00fcndigungsfrist w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
                Gefundene Chunks behandeln:<\/p>\n\n\n\n
                Definition der Probezeit\nFerien w\u00e4hrend der Probezeit\nLohnfortzahlung w\u00e4hrend der Probezeit\n<\/code><\/pre>\n\n\n\n
                Das Retrieval hat thematisch verwandte Informationen gefunden.<\/p>\n\n\n\n
                Die konkrete K\u00fcndigungsfrist fehlt aber.<\/p>\n\n\n\n
                Ein robustes RAG-System sollte deshalb nicht aus<\/p>\n\n\n\n
                \n
                \u201eIch habe Treffer.\u201c<\/p>\n<\/blockquote>\n\n\n\n
                ableiten:<\/p>\n\n\n\n
                \n
                \u201eAlso kann ich antworten.\u201c<\/p>\n<\/blockquote>\n\n\n\n
                \n\n\n\n
                24. Warum \u201ekein Treffer\u201c ein valides Ergebnis ist<\/h1>\n\n\n\n
                Bei klassischen Chatbots besteht eine starke Versuchung, immer eine Antwort zu erzeugen.<\/p>\n\n\n\n
                Bei wissensgebundenen Systemen ist das gef\u00e4hrlich.<\/p>\n\n\n\n
                Wenn die Quellen keine Antwort hergeben, kann:<\/p>\n\n\n\n
                Dazu enthalten die verf\u00fcgbaren Quellen keine ausreichenden Informationen.\n<\/code><\/pre>\n\n\n\n
                die qualitativ bessere Antwort sein.<\/p>\n\n\n\n
                Das f\u00fchrt zu einem grundlegenden Prinzip:<\/p>\n\n\n\n
                \n
                Nicht zu antworten ist Bestandteil eines guten RAG-Systems.<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                Retrieval dient nicht nur dazu, Informationen zu finden.<\/p>\n\n\n\n
                Es muss auch m\u00f6glich sein festzustellen, dass keine ausreichend zuverl\u00e4ssigen Informationen gefunden wurden.<\/p>\n\n\n\n
                \n\n\n\n
                25. RAG und Aktualit\u00e4t<\/h1>\n\n\n\n
                Einer der grossen Vorteile von RAG besteht darin, dass Wissen ausserhalb des Sprachmodells gehalten werden kann.<\/p>\n\n\n\n
                Angenommen, eine Richtlinie \u00e4ndert sich:<\/p>\n\n\n\n
                Version 2025:\nK\u00fcndigungsfrist = 7 Tage\n\nVersion 2026:\nK\u00fcndigungsfrist = 14 Tage\n<\/code><\/pre>\n\n\n\n
                Bei einem RAG-System muss deshalb nicht zwingend ein neues Sprachmodell trainiert werden.<\/p>\n\n\n\n
                Stattdessen wird der Wissensbestand aktualisiert und neu indexiert.<\/p>\n\n\n\n
                Das trennt:<\/p>\n\n\n\n
                Sprachf\u00e4higkeit\n<\/code><\/pre>\n\n\n\n
                von:<\/p>\n\n\n\n
                Fachwissen\n<\/code><\/pre>\n\n\n\n
                Das Sprachmodell liefert Sprachverst\u00e4ndnis und Generierung.<\/p>\n\n\n\n
                Der Wissensbestand liefert die aktuellen Informationen.<\/p>\n\n\n\n
                Diese Trennung ist einer der wesentlichen Gr\u00fcnde, weshalb RAG f\u00fcr Unternehmenswissen interessant ist.<\/p>\n\n\n\n
                \n\n\n\n
                26. RAG versus Fine-Tuning<\/h1>\n\n\n\n
                RAG und Fine-Tuning<\/strong> werden h\u00e4ufig als konkurrierende L\u00f6sungen betrachtet.<\/p>\n\n\n\n
                Das ist zu einfach.<\/p>\n\n\n\n
                Beim Fine-Tuning werden Modellparameter durch weiteres Training ver\u00e4ndert.<\/p>\n\n\n\n
                Bei RAG bleibt das Wissen ausserhalb der Modellgewichte und wird zur Laufzeit abgerufen.<\/p>\n\n\n\n
                Vereinfacht:<\/p>\n\n\n\n
                Fine-Tuning\n\nDaten\n \u2193\nTraining\n \u2193\nModellgewichte\n \u2193\nAntwort\n<\/code><\/pre>\n\n\n\n
                gegen:<\/p>\n\n\n\n
                RAG\n\nDaten\n \u2193\nIndex\n \u2193\nRetrieval\n \u2193\nKontext\n \u2193\nModell\n \u2193\nAntwort\n<\/code><\/pre>\n\n\n\n
                Fine-Tuning kann sinnvoll sein f\u00fcr:<\/p>\n\n\n\n
                  \n
                • bestimmtes Antwortverhalten,<\/li>\n\n\n\n
                • Formatierung,<\/li>\n\n\n\n
                • Stil,<\/li>\n\n\n\n
                • spezialisierte Aufgaben,<\/li>\n\n\n\n
                • bestimmte Muster.<\/li>\n<\/ul>\n\n\n\n
                  RAG eignet sich besonders f\u00fcr Wissen, das:<\/p>\n\n\n\n
                    \n
                  • h\u00e4ufig aktualisiert wird,<\/li>\n\n\n\n
                  • umfangreich ist,<\/li>\n\n\n\n
                  • quellengebunden sein soll,<\/li>\n\n\n\n
                  • organisationsspezifisch ist.<\/li>\n<\/ul>\n\n\n\n
                    Fine-Tuning und RAG k\u00f6nnen zudem kombiniert werden.<\/p>\n\n\n\n
                    Sie l\u00f6sen nicht exakt dasselbe Problem.<\/p>\n\n\n\n
                    \n\n\n\n
                    27. RAG versus Tool Calling<\/h1>\n\n\n\n
                    Auch Tool Calling<\/strong> ist nicht dasselbe wie RAG.<\/p>\n\n\n\n
                    Beim Tool Calling kann ein Modell eine Funktion oder ein externes Werkzeug aufrufen.<\/p>\n\n\n\n
                    Beispielsweise:<\/p>\n\n\n\n
                    get_current_weather(\"Olten\")\n<\/code><\/pre>\n\n\n\n
                    oder:<\/p>\n\n\n\n
                    calculate_mortgage(...)\n<\/code><\/pre>\n\n\n\n
                    Das Tool liefert ein Ergebnis zur\u00fcck, das das Modell weiterverarbeitet.<\/p>\n\n\n\n
                    RAG dagegen besch\u00e4ftigt sich prim\u00e4r mit dem Abruf relevanter Informationen f\u00fcr die Generierung.<\/p>\n\n\n\n
                    Beide Konzepte k\u00f6nnen kombiniert werden.<\/p>\n\n\n\n
                    Ein Agent k\u00f6nnte beispielsweise:<\/p>\n\n\n\n
                      \n
                    1. eine Wissenssuche ausf\u00fchren,<\/li>\n\n\n\n
                    2. eine Datenbank abfragen,<\/li>\n\n\n\n
                    3. eine Berechnung durchf\u00fchren,<\/li>\n\n\n\n
                    4. daraus eine Antwort erstellen.<\/li>\n<\/ol>\n\n\n\n
                      Dann ist RAG ein Bestandteil eines gr\u00f6sseren Systems.<\/p>\n\n\n\n
                      \n\n\n\n
                      28. RAG versus Agent<\/h1>\n\n\n\n
                      Ein Agent<\/strong> bezeichnet \u00fcblicherweise ein System, bei dem ein Modell Entscheidungen \u00fcber weitere Aktionen oder Werkzeuge treffen kann.<\/p>\n\n\n\n
                      Beispielsweise:<\/p>\n\n\n\n
                      Frage\n \u2193\nLLM entscheidet\n \u251c\u2500\u2500 Dokumente durchsuchen\n \u251c\u2500\u2500 Websuche\n \u251c\u2500\u2500 Datenbank abfragen\n \u251c\u2500\u2500 Berechnung durchf\u00fchren\n \u2514\u2500\u2500 erneut suchen\n<\/code><\/pre>\n\n\n\n
                      Ein klassisches RAG-System kann dagegen vollst\u00e4ndig deterministisch orchestriert sein:<\/p>\n\n\n\n
                      Frage\n \u2193\nRetrieval\n \u2193\nKontext\n \u2193\nGeneration\n<\/code><\/pre>\n\n\n\n
                      RAG ist deshalb nicht automatisch agentisch.<\/p>\n\n\n\n
                      Umgekehrt kann ein Agent RAG als Werkzeug verwenden.<\/p>\n\n\n\n
                      \n\n\n\n
                      29. Naive RAG<\/h1>\n\n\n\n
                      Die einfachste Form wird h\u00e4ufig als Naive RAG<\/strong> bezeichnet.<\/p>\n\n\n\n
                      Typischer Ablauf:<\/p>\n\n\n\n
                      Dokumente\n \u2193\nChunking\n \u2193\nEmbeddings\n \u2193\nVector Store\n\nFrage\n \u2193\nQuery Embedding\n \u2193\nTop-k \u00e4hnliche Chunks\n \u2193\nPrompt\n \u2193\nLLM\n<\/code><\/pre>\n\n\n\n
                      Dieses Muster ist hervorragend, um RAG zu lernen.<\/p>\n\n\n\n
                      F\u00fcr komplexe Wissensbest\u00e4nde treten jedoch schnell Grenzen auf.<\/p>\n\n\n\n
                      Beispielsweise:<\/p>\n\n\n\n
                        \n
                      • falsche Chunks werden gefunden,<\/li>\n\n\n\n
                      • exakte Begriffe werden \u00fcbersehen,<\/li>\n\n\n\n
                      • \u00e4hnliche Dokumente werden verwechselt,<\/li>\n\n\n\n
                      • notwendiger Kontext liegt \u00fcber mehrere Chunks verteilt,<\/li>\n\n\n\n
                      • die Frage ist ohne Chatverlauf unverst\u00e4ndlich,<\/li>\n\n\n\n
                      • zu viele irrelevante Treffer gelangen in den Prompt.<\/li>\n<\/ul>\n\n\n\n
                        Daraus entstanden fortgeschrittenere RAG-Verfahren.<\/p>\n\n\n\n
                        \n\n\n\n
                        30. Advanced und Modular RAG<\/h1>\n\n\n\n
                        Unter Begriffen wie Advanced RAG<\/strong> oder Modular RAG<\/strong> werden Erweiterungen der einfachen Pipeline zusammengefasst.<\/p>\n\n\n\n
                        Beispielsweise:<\/p>\n\n\n\n
                        Frage\n \u2193\nQuery Rewrite\n \u2193\nHybrid Retrieval\n \u2193\nReranking\n \u2193\nContext Selection\n \u2193\nGeneration\n \u2193\nGrounding-Pr\u00fcfung\n<\/code><\/pre>\n\n\n\n
                        Andere Systeme f\u00fchren mehrere Suchschritte durch oder lassen ein Modell entscheiden, welche Suchstrategie ben\u00f6tigt wird.<\/p>\n\n\n\n
                        Wichtig ist hier zun\u00e4chst nur:<\/p>\n\n\n\n
                        RAG ist kein einzelner Algorithmus.<\/strong><\/p>\n\n\n\n
                        Es ist ein Muster, innerhalb dessen sehr unterschiedliche Retrieval- und Generierungsverfahren kombiniert werden k\u00f6nnen.<\/p>\n\n\n\n
                        \n\n\n\n
                        31. Die eigentliche Schwierigkeit liegt vor der Antwort<\/h1>\n\n\n\n
                        Bei einem ersten RAG-Prototyp konzentriert man sich h\u00e4ufig auf das Antwortmodell.<\/p>\n\n\n\n
                        In produktiven Szenarien verschiebt sich die Aufmerksamkeit schnell.<\/p>\n\n\n\n
                        Die schwierigen Fragen lauten:<\/p>\n\n\n\n
                        Wurde das Dokument korrekt verarbeitet?\n\nWurde die relevante Information sinnvoll gechunkt?\n\nKann die Suchmethode die Passage finden?\n\nWurde die Benutzerfrage richtig interpretiert?\n\nIst der richtige Treffer unter den Top-k?\n\nWurde der beste Treffer nach oben gerankt?\n\nIst gen\u00fcgend Kontext vorhanden?\n\nEnth\u00e4lt der Kontext widerspr\u00fcchliche Informationen?\n\nDarf anhand dieses Kontexts \u00fcberhaupt geantwortet werden?\n<\/code><\/pre>\n\n\n\n
                        Erst danach kommt:<\/p>\n\n\n\n
                        Wie formuliert das LLM die Antwort?\n<\/code><\/pre>\n\n\n\n
                        Das f\u00fchrt zu einer der wichtigsten mentalen Verschiebungen beim Verst\u00e4ndnis von RAG:<\/p>\n\n\n\n
                        \n
                        RAG ist mindestens ebenso sehr ein Information-Retrieval-Problem wie ein LLM-Problem.<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                        \n\n\n\n
                        32. Eine vollst\u00e4ndige mentale Landkarte<\/h1>\n\n\n\n
                        Ein modernes RAG-System l\u00e4sst sich zun\u00e4chst auf diese Landkarte reduzieren:<\/p>\n\n\n\n
                                            WISSEN\n                      \u2502\n                      \u25bc\n                 Dokumente\n                      \u2502\n                      \u25bc\n                   Parsing\n                      \u2502\n                      \u25bc\n                  Chunking\n                      \u2502\n                      \u25bc\n                 Indexierung\n                      \u2502\n                      \u25bc\n                    Index\n                      \u25b2\n                      \u2502\n                 Retrieval\n                      \u2502\n                      \u2502\nBenutzerfrage \u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2518\n      \u2502\n      \u25bc\nQuery Processing\n      \u2502\n      \u25bc\nRetrieval\n      \u2502\n      \u25bc\nReranking\n      \u2502\n      \u25bc\nContext Selection\n      \u2502\n      \u25bc\nAugmentation\n      \u2502\n      \u25bc\nLLM Generation\n      \u2502\n      \u25bc\nGrounding \/ Citations\n      \u2502\n      \u25bc\nAntwort\n<\/code><\/pre>\n\n\n\n
                        Nicht jedes RAG-System besitzt jeden dieser Schritte.<\/p>\n\n\n\n
                        Die Landkarte zeigt aber, wo die sp\u00e4teren Begriffe einzuordnen sind.<\/p>\n\n\n\n
                        \n\n\n\n
                        33. Die drei Qualit\u00e4tsprobleme eines RAG-Systems<\/h1>\n\n\n\n
                        F\u00fcr das weitere Verst\u00e4ndnis hilft eine grobe Dreiteilung.<\/p>\n\n\n\n
                        Problem 1: Retrieval<\/h2>\n\n\n\n
                        Haben wir die richtige Information gefunden?<\/strong><\/p>\n\n\n\n
                        Wenn nicht, liegt das Problem beispielsweise bei:<\/p>\n\n\n\n
                          \n
                        • Parsing,<\/li>\n\n\n\n
                        • Chunking,<\/li>\n\n\n\n
                        • Indexierung,<\/li>\n\n\n\n
                        • Query-Verarbeitung,<\/li>\n\n\n\n
                        • Retrieval,<\/li>\n\n\n\n
                        • Ranking.<\/li>\n<\/ul>\n\n\n\n
                          Problem 2: Context<\/h2>\n\n\n\n
                          Haben wir dem Modell die richtigen Informationen sinnvoll bereitgestellt?<\/strong><\/p>\n\n\n\n
                          Probleme k\u00f6nnen entstehen durch:<\/p>\n\n\n\n
                            \n
                          • zu viele Chunks,<\/li>\n\n\n\n
                          • zu wenig Kontext,<\/li>\n\n\n\n
                          • falsche Reihenfolge,<\/li>\n\n\n\n
                          • abgeschnittene Passagen,<\/li>\n\n\n\n
                          • Tokenlimits,<\/li>\n\n\n\n
                          • widerspr\u00fcchliche Quellen.<\/li>\n<\/ul>\n\n\n\n
                            Problem 3: Generation<\/h2>\n\n\n\n
                            Hat das Modell aus dem vorhandenen Kontext die richtige Antwort erzeugt?<\/strong><\/p>\n\n\n\n
                            Hier entstehen beispielsweise:<\/p>\n\n\n\n
                              \n
                            • Halluzinationen,<\/li>\n\n\n\n
                            • falsche Schlussfolgerungen,<\/li>\n\n\n\n
                            • unbelegte Erg\u00e4nzungen,<\/li>\n\n\n\n
                            • falsche Zahlen,<\/li>\n\n\n\n
                            • fehlerhafte Quellenreferenzen.<\/li>\n<\/ul>\n\n\n\n
                              Diese Ebenen sollte man beim Debugging niemals vermischen.<\/p>\n\n\n\n
                              Eine falsche Antwort bedeutet nicht automatisch, dass das LLM schlecht ist.<\/p>\n\n\n\n
                              Vielleicht hat es schlicht den falschen Kontext erhalten.<\/p>\n\n\n\n
                              \n\n\n\n
                              34. Die wichtigste Debugging-Frage<\/h1>\n\n\n\n
                              Wenn ein RAG-System falsch antwortet, lautet die erste Frage deshalb nicht:<\/p>\n\n\n\n
                              \n
                              Warum hat das Modell das gesagt?<\/p>\n<\/blockquote>\n\n\n\n
                              Sondern:<\/p>\n\n\n\n
                              \n
                              Welchen Kontext hat das Modell tats\u00e4chlich erhalten?<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                              Danach l\u00e4sst sich der Fehler eingrenzen:<\/p>\n\n\n\n
                              Richtige Quelle nicht gefunden\n        \u2193\nRetrieval-Problem\n\nRichtige Quelle gefunden, aber nicht ausgew\u00e4hlt\n        \u2193\nRanking-\/Context-Problem\n\nRichtiger Kontext im Prompt, falsche Aussage\n        \u2193\nGeneration-\/Grounding-Problem\n<\/code><\/pre>\n\n\n\n
                              Diese Trennung spart enorm viel Zeit.<\/p>\n\n\n\n
                              \n\n\n\n
                              35. RAG als Suchsystem mit Sprachinterface<\/h1>\n\n\n\n
                              Eine n\u00fctzliche mentale Vereinfachung lautet:<\/p>\n\n\n\n
                              \n
                              Ein RAG-System ist ein Suchsystem, dessen Suchergebnisse von einem Sprachmodell verarbeitet werden.<\/p>\n<\/blockquote>\n\n\n\n
                              Das ist absichtlich etwas reduktionistisch.<\/p>\n\n\n\n
                              Es verhindert aber einen h\u00e4ufigen Denkfehler:<\/p>\n\n\n\n
                              Das LLM ist nicht die Quelle des externen Wissens.<\/p>\n\n\n\n
                              Der Wissensbestand ist die Quelle.<\/p>\n\n\n\n
                              Retrieval entscheidet, welcher Teil dieses Wissens verf\u00fcgbar wird.<\/p>\n\n\n\n
                              Das LLM interpretiert und formuliert daraus eine Antwort.<\/p>\n\n\n\n
                              Damit ergibt sich:<\/p>\n\n\n\n
                              Korpus\n  \u2193\nRetrieval\n  \u2193\nEvidenz\n  \u2193\nLLM\n  \u2193\nsprachliche Antwort\n<\/code><\/pre>\n\n\n\n
                              Der Begriff Evidenz<\/strong> ist hier besonders hilfreich.<\/p>\n\n\n\n
                              Die gefundenen Passagen sind nicht einfach \u201emehr Prompt\u201c.<\/p>\n\n\n\n
                              Sie sind die Belege, auf deren Grundlage das Modell antworten soll.<\/p>\n\n\n\n
                              \n\n\n\n
                              36. Ein vollst\u00e4ndiges Beispiel<\/h1>\n\n\n\n
                              Angenommen, ein Wissensbestand enth\u00e4lt 2’000 interne Dokumente.<\/p>\n\n\n\n
                              Ein Benutzer fragt:<\/p>\n\n\n\n
                              Welche K\u00fcndigungsfrist gilt w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
                              Ein RAG-System k\u00f6nnte konzeptionell folgende Schritte durchf\u00fchren.<\/p>\n\n\n\n
                              Schritt 1: Frage entgegennehmen<\/h2>\n\n\n\n
                              Welche K\u00fcndigungsfrist gilt w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
                              Schritt 2: Retrieval<\/h2>\n\n\n\n
                              Das System sucht relevante Passagen.<\/p>\n\n\n\n
                              Beispielsweise:<\/p>\n\n\n\n
                              Treffer A:\nW\u00e4hrend der Probezeit kann das Arbeitsverh\u00e4ltnis\nmit einer Frist von sieben Kalendertagen gek\u00fcndigt werden.\n\nTreffer B:\nDie Probezeit betr\u00e4gt drei Monate.\n\nTreffer C:\nNach Ablauf der Probezeit gelten die ordentlichen\nK\u00fcndigungsfristen.\n<\/code><\/pre>\n\n\n\n
                              Schritt 3: Auswahl<\/h2>\n\n\n\n
                              Treffer A besitzt die h\u00f6chste direkte Relevanz.<\/p>\n\n\n\n
                              Schritt 4: Augmentation<\/h2>\n\n\n\n
                              Das Modell erh\u00e4lt beispielsweise:<\/p>\n\n\n\n
                              Beantworte die Frage ausschliesslich anhand\nder bereitgestellten Quellen.\n\nQuelle 1:\nW\u00e4hrend der Probezeit kann das Arbeitsverh\u00e4ltnis\nmit einer Frist von sieben Kalendertagen gek\u00fcndigt werden.\n\nFrage:\nWelche K\u00fcndigungsfrist gilt w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
                              Schritt 5: Generation<\/h2>\n\n\n\n
                              W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist\nsieben Kalendertage. [1]\n<\/code><\/pre>\n\n\n\n
                              Schritt 6: Grounding<\/h2>\n\n\n\n
                              Die Aussage l\u00e4sst sich direkt aus Quelle 1 ableiten.<\/p>\n\n\n\n
                              Das ist der Idealzustand.<\/p>\n\n\n\n
                              \n\n\n\n
                              37. Was alles schiefgehen kann<\/h1>\n\n\n\n
                              Dasselbe Beispiel zeigt die verschiedenen Fehlerklassen.<\/p>\n\n\n\n
                              Parsing-Fehler<\/h2>\n\n\n\n
                              Die relevante PDF-Seite wurde nicht korrekt extrahiert.<\/p>\n\n\n\n
                              Ergebnis:<\/p>\n\n\n\n
                              Die Information existiert f\u00fcr das Retrieval faktisch nicht.<\/p>\n\n\n\n
                              Chunking-Fehler<\/h2>\n\n\n\n
                              Der Satz wurde ung\u00fcnstig getrennt:<\/p>\n\n\n\n
                              Chunk A:\nW\u00e4hrend der Probezeit kann das Arbeitsverh\u00e4ltnis\n\nChunk B:\nmit einer Frist von sieben Kalendertagen gek\u00fcndigt werden.\n<\/code><\/pre>\n\n\n\n
                              Die Bedeutung wurde auseinandergerissen.<\/p>\n\n\n\n
                              Retrieval-Fehler<\/h2>\n\n\n\n
                              Ein semantisch \u00e4hnlicher Absatz \u00fcber die Dauer der Probezeit wird gefunden, der K\u00fcndigungsabsatz aber nicht.<\/p>\n\n\n\n
                              Ranking-Fehler<\/h2>\n\n\n\n
                              Der richtige Treffer existiert, landet aber auf Rang 17, w\u00e4hrend nur die Top 5 verwendet werden.<\/p>\n\n\n\n
                              Context-Fehler<\/h2>\n\n\n\n
                              Zu viele irrelevante Treffer verdr\u00e4ngen die relevante Passage.<\/p>\n\n\n\n
                              Generation-Fehler<\/h2>\n\n\n\n
                              Der korrekte Kontext sagt sieben Tage, das Modell antwortet dennoch mit 14 Tagen.<\/p>\n\n\n\n
                              Grounding-Fehler<\/h2>\n\n\n\n
                              Das Modell erg\u00e4nzt weitere Aussagen, die in keiner Quelle stehen.<\/p>\n\n\n\n
                              Das Beispiel zeigt, weshalb \u201eRAG funktioniert nicht\u201c als Diagnose praktisch wertlos ist.<\/p>\n\n\n\n
                              Man muss wissen, welche Stufe nicht funktioniert<\/strong>.<\/p>\n\n\n\n
                              \n\n\n\n
                              38. Die Begriffe dieses Teils<\/h1>\n\n\n\n
                              Die wichtigsten Begriffe lassen sich jetzt sauber einordnen.<\/p>\n\n\n\n
                              Begriff<\/th>Bedeutung<\/th><\/tr><\/thead>
                              LLM<\/strong><\/td>Sprachmodell zur Verarbeitung und Generierung von Sprache<\/td><\/tr>
                              Parametrisches Wissen<\/strong><\/td>Wissen, das im Modell beziehungsweise seinen Gewichten repr\u00e4sentiert ist<\/td><\/tr>
                              Kontext<\/strong><\/td>Informationen, die dem Modell im aktuellen Request bereitgestellt werden<\/td><\/tr>
                              Token<\/strong><\/td>Verarbeitungseinheit eines Sprachmodells<\/td><\/tr>
                              Kontextfenster<\/strong><\/td>Maximale Menge an Kontext, die ein Modell in einem Request verarbeiten kann<\/td><\/tr>
                              RAG<\/strong><\/td>Kombination aus Retrieval, Augmentation und Generation<\/td><\/tr>
                              Retrieval<\/strong><\/td>Auffinden relevanter Informationen<\/td><\/tr>
                              Information Retrieval<\/strong><\/td>Fachgebiet hinter Suche und Ranking<\/td><\/tr>
                              Augmentation<\/strong><\/td>Erg\u00e4nzung des Modellkontexts um gefundene Informationen<\/td><\/tr>
                              Generation<\/strong><\/td>Erzeugung der Antwort durch das Sprachmodell<\/td><\/tr>
                              Korpus<\/strong><\/td>Gesamtheit des durchsuchbaren Wissens<\/td><\/tr>
                              Ingestion<\/strong><\/td>Aufbereitung und Indexierung des Wissens<\/td><\/tr>
                              Query<\/strong><\/td>Such- beziehungsweise Benutzeranfrage<\/td><\/tr>
                              Dokument<\/strong><\/td>Gr\u00f6ssere Wissenseinheit, etwa PDF oder Webseite<\/td><\/tr>
                              Chunk<\/strong><\/td>Kleinere indexierbare Einheit eines Dokuments<\/td><\/tr>
                              Index<\/strong><\/td>Struktur, die effizientes Retrieval erm\u00f6glicht<\/td><\/tr>
                              Halluzination<\/strong><\/td>Plausible, aber unbelegte oder falsche Modellgenerierung<\/td><\/tr>
                              Grounding<\/strong><\/td>Bindung einer Aussage an bereitgestellte Evidenz<\/td><\/tr>
                              Faithfulness<\/strong><\/td>Treue der Antwort gegen\u00fcber dem bereitgestellten Kontext<\/td><\/tr>
                              Citation<\/strong><\/td>Referenz auf eine Quelle<\/td><\/tr>
                              Answerability<\/strong><\/td>Frage, ob der vorhandene Kontext eine belastbare Antwort erm\u00f6glicht<\/td><\/tr>
                              Naive RAG<\/strong><\/td>Einfache Retrieve-and-Generate-Pipeline<\/td><\/tr>
                              Advanced RAG<\/strong><\/td>RAG mit zus\u00e4tzlichen Retrieval-, Ranking- und Pr\u00fcfverfahren<\/td><\/tr>
                              Fine-Tuning<\/strong><\/td>Anpassung der Modellgewichte durch weiteres Training<\/td><\/tr>
                              Tool Calling<\/strong><\/td>Aufruf externer Funktionen oder Werkzeuge durch ein Modell<\/td><\/tr>
                              Agent<\/strong><\/td>System, das Aktionen beziehungsweise Werkzeuge dynamisch ausw\u00e4hlen kann<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
                              \n\n\n\n
                              39. Was man nach Teil 1 verstanden haben sollte<\/h1>\n\n\n\n
                              RAG ist kein Synonym f\u00fcr eine Vektordatenbank.<\/p>\n\n\n\n
                              RAG ist kein Synonym f\u00fcr Embeddings.<\/p>\n\n\n\n
                              RAG ist kein Fine-Tuning.<\/p>\n\n\n\n
                              RAG ist nicht automatisch ein Agent.<\/p>\n\n\n\n
                              RAG garantiert keine korrekten Antworten.<\/p>\n\n\n\n
                              RAG ist ein Muster, bei dem externe Informationen retrieved<\/strong>, dem Modell als Kontext bereitgestellt<\/strong> und anschliessend f\u00fcr die Generation<\/strong> verwendet werden.<\/p>\n\n\n\n
                              Die elementare Pipeline lautet:<\/p>\n\n\n\n
                              Retrieval\n    \u2193\nAugmentation\n    \u2193\nGeneration\n<\/code><\/pre>\n\n\n\n
                              F\u00fcr reale Wissensbest\u00e4nde kommt davor:<\/p>\n\n\n\n
                              Dokumente\n    \u2193\nIngestion\n    \u2193\nIndex\n<\/code><\/pre>\n\n\n\n
                              Damit ergibt sich das Gesamtbild:<\/p>\n\n\n\n
                                           INGESTION\n\nDokumente\n    \u2193\nParsing\n    \u2193\nChunking\n    \u2193\nIndexierung\n    \u2193\n   Index\n    \u2502\n    \u2502\n    \u2514\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2510\n                           \u2502\n                           \u25bc\n                         QUERY\n\n                    Benutzerfrage\n                           \u2193\n                       Retrieval\n                           \u2193\n                    relevante Evidenz\n                           \u2193\n                     Augmentation\n                           \u2193\n                      Generation\n                           \u2193\n                       Grounding\n                           \u2193\n                        Antwort\n<\/code><\/pre>\n\n\n\n
                              Wer dieses Modell verstanden hat, besitzt das Grundger\u00fcst f\u00fcr praktisch alle weiteren RAG-Begriffe.<\/p>\n\n\n\n
                              Denn die sp\u00e4teren Techniken beantworten im Wesentlichen immer eine dieser Fragen:<\/p>\n\n\n\n
                              Wie bereiten wir Wissen besser auf?<\/strong><\/p>\n\n\n\n
                              Wie finden wir bessere Informationen?<\/strong><\/p>\n\n\n\n
                              Wie w\u00e4hlen wir aus den Treffern den richtigen Kontext?<\/strong><\/p>\n\n\n\n
                              Wie verhindern wir, dass das Modell \u00fcber diesen Kontext hinausgeht?<\/strong><\/p>\n\n\n\n
                              Wie messen wir, ob das Ganze tats\u00e4chlich funktioniert?<\/strong><\/p>\n\n\n\n
                              Genau dort beginnt die technische Tiefe.<\/p>\n\n\n\n
                              \n\n\n\n
                              RAG von Grund auf<\/h1>\n\n\n\n
                              Teil 1 \u2013 RAG verstehen<\/strong>
                              LLM, parametrisches Wissen, Kontext, Retrieval, Augmentation, Generation, Grounding und die grundlegende RAG-Pipeline.<\/p>\n\n\n\n
                              Teil 2 \u2013 Dokumente und Chunking<\/strong>
                              Parsing, OCR, Dokumentstrukturen, Chunks, Overlap, Chunk-Gr\u00f6sse und die unterschiedlichen Chunking-Strategien.<\/p>\n\n\n\n
                              Teil 3 \u2013 Embeddings und Vektorsuche<\/strong>
                              Dense Vectors, semantische \u00c4hnlichkeit, Cosine Similarity, ANN, HNSW und Vector Stores.<\/p>\n\n\n\n
                              Teil 4 \u2013 Information Retrieval und Hybrid Search<\/strong>
                              TF, IDF, TF-IDF, BM25, Sparse Retrieval, Dense Retrieval, Hybrid Search und Reciprocal Rank Fusion.<\/p>\n\n\n\n
                              Teil 5 \u2013 Reranking und Retrieval-Strategien<\/strong>
                              Top-k, Bi-Encoder, Cross-Encoder, MMR, Query Rewrite, Multi-Query, HyDE und weitere Retrieval-Verfahren.<\/p>\n\n\n\n
                              Teil 6 \u2013 Kontext, Grounding und Antworten<\/strong>
                              Kontextfenster, Token-Budget, Lost in the Middle, Answerability, Faithfulness, Citations und Grounding.<\/p>\n\n\n\n
                              Teil 7 \u2013 Advanced RAG<\/strong>
                              Naive RAG, Advanced und Modular RAG, Multi-Hop, Self-RAG, CRAG, RAPTOR, GraphRAG, ColBERT und Agentic RAG.<\/p>\n\n\n\n
                              Teil 8 \u2013 Evaluation, Sicherheit und Abgrenzung<\/strong>
                              Recall, Precision, Hit@k, MRR, nDCG, RAG-Evaluation, Prompt Injection, RAG Poisoning sowie RAG im Verh\u00e4ltnis zu Fine-Tuning, Tool Calling und Agenten.<\/p>\n","protected":false},"excerpt":{"rendered":"
                              Retrieval-Augmented Generation, kurz RAG, geh\u00f6rt inzwischen zu den zentralen Konzepten beim Einsatz von Large Language Models mit eigenem Wissen. Die Grundidee klingt zun\u00e4chst erstaunlich einfach: Bevor ein Sprachmodell eine Frage beantwortet, werden relevante Informationen gesucht und dem Modell als Kontext mitgegeben. Damit ist RAG im Kern bereits beschrieben. Die eigentliche Komplexit\u00e4t beginnt jedoch unmittelbar danach. […]<\/p>\n","protected":false},"author":1,"featured_media":359,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[41,61],"tags":[192,193,73,194],"class_list":["post-342","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cost-aware-ai-systems","category-retrieval-augmented-generation","tag-rag","tag-rag-part-1","tag-reference","tag-series"],"_links":{"self":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/342","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=342"}],"version-history":[{"count":1,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/342\/revisions"}],"predecessor-version":[{"id":343,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/342\/revisions\/343"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/media\/359"}],"wp:attachment":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=342"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=342"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=342"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}