{"id":348,"date":"2026-09-09T18:45:45","date_gmt":"2026-09-09T18:45:45","guid":{"rendered":"https:\/\/www.fabricioruch.ch\/?p=348"},"modified":"2026-09-25T21:17:34","modified_gmt":"2026-09-25T21:17:34","slug":"rag-von-grund-auf-teil-4-information-retrieval-und-hybrid-search","status":"publish","type":"post","link":"https:\/\/www.fabricioruch.ch\/?p=348","title":{"rendered":"RAG von Grund auf \u2013 Teil 4: Information Retrieval und Hybrid Search"},"content":{"rendered":"\n

In Teil 3 ging es um Embeddings und Vektorsuche<\/strong>.<\/p>\n\n\n\n

Wir haben gesehen, dass Dense Retrieval besonders stark darin ist, semantisch \u00e4hnliche Inhalte zu finden.<\/p>\n\n\n\n

Beispiel:<\/p>\n\n\n\n

Frage:\nWie kann ich meinen Vertrag w\u00e4hrend der Probezeit beenden?\n<\/code><\/pre>\n\n\n\n
Dokument:<\/p>\n\n\n\n
W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n<\/code><\/pre>\n\n\n\n
Die W\u00f6rter stimmen nur teilweise \u00fcberein.<\/p>\n\n\n\n
Die Bedeutung ist jedoch sehr \u00e4hnlich.<\/p>\n\n\n\n
Embeddings k\u00f6nnen genau diese Beziehung modellieren.<\/p>\n\n\n\n
Aber Dense Retrieval hat Grenzen.<\/p>\n\n\n\n
Was passiert bei:<\/p>\n\n\n\n
INC-847291\n<\/code><\/pre>\n\n\n\n
oder:<\/p>\n\n\n\n
CVE-2026-12345\n<\/code><\/pre>\n\n\n\n
oder:<\/p>\n\n\n\n
Artikel 17.4\n<\/code><\/pre>\n\n\n\n
oder:<\/p>\n\n\n\n
QX-9107-B\n<\/code><\/pre>\n\n\n\n
Hier ist nicht prim\u00e4r die semantische Bedeutung entscheidend.<\/p>\n\n\n\n
Hier z\u00e4hlt die exakte Zeichenfolge<\/strong>.<\/p>\n\n\n\n
Damit kommen wir zur zweiten grossen Welt des Retrievals:<\/p>\n\n\n\n
\n
lexikalische beziehungsweise sparse Suche.<\/strong><\/p>\n<\/blockquote>\n\n\n\n
Und genau aus der Kombination von semantischer und lexikalischer Suche entsteht eines der wichtigsten Konzepte moderner RAG-Systeme:<\/p>\n\n\n\n
Hybrid Search.<\/strong><\/p>\n\n\n\n
\n\n\n\n
1. Information Retrieval ist \u00e4lter als RAG<\/h1>\n\n\n\n
RAG wird h\u00e4ufig behandelt, als h\u00e4tte die Suche nach relevanten Informationen erst mit Large Language Models begonnen.<\/p>\n\n\n\n
Das ist nat\u00fcrlich nicht der Fall.<\/p>\n\n\n\n
Das Forschungsgebiet Information Retrieval<\/strong>, kurz IR<\/strong>, besch\u00e4ftigt sich seit Jahrzehnten mit Fragen wie:<\/p>\n\n\n\n
    \n
  • Welche Dokumente sind f\u00fcr eine Suchanfrage relevant?<\/li>\n\n\n\n
  • Wie werden Dokumente indexiert?<\/li>\n\n\n\n
  • Wie werden Suchbegriffe gewichtet?<\/li>\n\n\n\n
  • Wie ordnet man Treffer nach Relevanz?<\/li>\n\n\n\n
  • Wie misst man die Qualit\u00e4t einer Suche?<\/li>\n<\/ul>\n\n\n\n
    Klassische Websuchmaschinen, Bibliothekskataloge, Enterprise Search und Dokumentensuchsysteme basieren auf diesen Grundlagen.<\/p>\n\n\n\n
    RAG \u00fcbernimmt einen grossen Teil dieser Konzepte.<\/p>\n\n\n\n
    Das LLM kommt erst sp\u00e4ter hinzu.<\/p>\n\n\n\n
    \n\n\n\n
    2. Retrieval ist ein Ranking-Problem<\/h1>\n\n\n\n
    Angenommen, wir besitzen 100’000 Chunks.<\/p>\n\n\n\n
    Ein Benutzer fragt:<\/p>\n\n\n\n
    Wie lange ist die K\u00fcndigungsfrist w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
    Das Suchsystem muss nicht bloss entscheiden:<\/p>\n\n\n\n
    relevant\noder\nnicht relevant\n<\/code><\/pre>\n\n\n\n
    Es muss eine Reihenfolge bilden.<\/p>\n\n\n\n
    Zum Beispiel:<\/p>\n\n\n\n
    1. K\u00fcndigungsfrist w\u00e4hrend der Probezeit\n2. Dauer der Probezeit\n3. K\u00fcndigung nach Probezeit\n4. Ferien w\u00e4hrend der Probezeit\n5. Allgemeine Arbeitsvertragsbestimmungen\n<\/code><\/pre>\n\n\n\n
    Retrieval ist deshalb typischerweise ein Ranking-Problem<\/strong>.<\/p>\n\n\n\n
    Jeder Kandidat erh\u00e4lt einen Score.<\/p>\n\n\n\n
    Danach werden die Kandidaten sortiert.<\/p>\n\n\n\n
    \n\n\n\n
    3. Lexical Retrieval<\/h1>\n\n\n\n
    Lexical Retrieval<\/strong> sucht anhand von W\u00f6rtern, Tokens oder Zeichenfolgen.<\/p>\n\n\n\n
    Beispiel:<\/p>\n\n\n\n
    Query:<\/p>\n\n\n\n
    K\u00fcndigungsfrist Probezeit\n<\/code><\/pre>\n\n\n\n
    Dokument A:<\/p>\n\n\n\n
    Die K\u00fcndigungsfrist w\u00e4hrend der Probezeit betr\u00e4gt sieben Tage.\n<\/code><\/pre>\n\n\n\n
    Dokument B:<\/p>\n\n\n\n
    W\u00e4hrend der ersten drei Monate gelten besondere Regeln zur Beendigung des Arbeitsverh\u00e4ltnisses.\n<\/code><\/pre>\n\n\n\n
    Eine rein lexikalische Suche bevorzugt sehr wahrscheinlich Dokument A.<\/p>\n\n\n\n
    Denn dort kommen die Suchbegriffe direkt vor.<\/p>\n\n\n\n
    \n\n\n\n
    4. Exact Match<\/h1>\n\n\n\n
    Der einfachste Fall ist ein Exact Match<\/strong>.<\/p>\n\n\n\n
    Query:<\/p>\n\n\n\n
    INC-847291\n<\/code><\/pre>\n\n\n\n
    Dokument:<\/p>\n\n\n\n
    Incident INC-847291 wurde am Montag geschlossen.\n<\/code><\/pre>\n\n\n\n
    Hier ist die exakte \u00dcbereinstimmung extrem aussagekr\u00e4ftig.<\/p>\n\n\n\n
    Dense Retrieval kann diesen Zusammenhang ebenfalls erfassen.<\/p>\n\n\n\n
    Aber ein klassischer Suchindex kann solche exakten Tokens h\u00e4ufig noch zuverl\u00e4ssiger und transparenter behandeln.<\/p>\n\n\n\n
    \n\n\n\n
    5. Tokenisierung<\/h1>\n\n\n\n
    Bevor klassische Suchverfahren W\u00f6rter bewerten k\u00f6nnen, muss Text in kleinere Einheiten zerlegt werden.<\/p>\n\n\n\n
    Dieser Vorgang heisst Tokenisierung<\/strong>.<\/p>\n\n\n\n
    Beispiel:<\/p>\n\n\n\n
    Die K\u00fcndigungsfrist betr\u00e4gt sieben Tage.\n<\/code><\/pre>\n\n\n\n
    k\u00f6nnte werden zu:<\/p>\n\n\n\n
    [\n  \"die\",\n  \"k\u00fcndigungsfrist\",\n  \"betr\u00e4gt\",\n  \"sieben\",\n  \"tage\"\n]\n<\/code><\/pre>\n\n\n\n
    Diese Tokens bilden die Grundlage vieler lexikalischer Suchverfahren.<\/p>\n\n\n\n
    \n\n\n\n
    6. Suchmaschinen-Tokens und LLM-Tokens sind nicht dasselbe<\/h1>\n\n\n\n
    Der Begriff Token<\/strong> kommt sowohl bei Suchmaschinen als auch bei Sprachmodellen vor.<\/p>\n\n\n\n
    Er bezeichnet aber nicht zwingend dieselbe Zerlegung.<\/p>\n\n\n\n
    Ein LLM-Tokenizer k\u00f6nnte:<\/p>\n\n\n\n
    K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
    in mehrere Subword-Tokens zerlegen.<\/p>\n\n\n\n
    Ein klassischer Suchindex behandelt das Wort m\u00f6glicherweise als einzelnes Term.<\/p>\n\n\n\n
    Deshalb sollte man unterscheiden zwischen:<\/p>\n\n\n\n
    LLM Tokenization<\/strong><\/p>\n\n\n\n
    und:<\/p>\n\n\n\n
    IR Tokenization<\/strong><\/p>\n\n\n\n
    Beide dienen unterschiedlichen Zwecken.<\/p>\n\n\n\n
    \n\n\n\n
    7. Normalisierung von Suchbegriffen<\/h1>\n\n\n\n
    Suchsysteme normalisieren Text h\u00e4ufig vor der Indexierung.<\/p>\n\n\n\n
    Beispielsweise:<\/p>\n\n\n\n
    K\u00dcNDIGUNGSFRIST\nK\u00fcndigungsfrist\nk\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
    werden zu:<\/p>\n\n\n\n
    k\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
    M\u00f6gliche Normalisierungsschritte sind:<\/p>\n\n\n\n
      \n
    • Lowercasing,<\/li>\n\n\n\n
    • Unicode-Normalisierung,<\/li>\n\n\n\n
    • Entfernen bestimmter Sonderzeichen,<\/li>\n\n\n\n
    • Sprachnormalisierung.<\/li>\n<\/ul>\n\n\n\n
      Die konkrete Strategie beeinflusst direkt, welche Begriffe sp\u00e4ter matchen.<\/p>\n\n\n\n
      \n\n\n\n
      8. Stopwords<\/h1>\n\n\n\n
      Stopwords<\/strong> sind sehr h\u00e4ufig vorkommende W\u00f6rter, die bei klassischen Suchverfahren h\u00e4ufig wenig Unterscheidungskraft besitzen.<\/p>\n\n\n\n
      Beispiele:<\/p>\n\n\n\n
      der\ndie\ndas\nund\noder\nist\n<\/code><\/pre>\n\n\n\n
      Historisch wurden solche W\u00f6rter oft vollst\u00e4ndig entfernt.<\/p>\n\n\n\n
      Moderne Suchsysteme k\u00f6nnen differenzierter damit umgehen.<\/p>\n\n\n\n
      Denn Stopwords k\u00f6nnen in bestimmten Queries durchaus Bedeutung tragen.<\/p>\n\n\n\n
      Beispiel:<\/p>\n\n\n\n
      To be or not to be\n<\/code><\/pre>\n\n\n\n
      Ein blindes Entfernen w\u00e4re hier offensichtlich problematisch.<\/p>\n\n\n\n
      \n\n\n\n
      9. Stemming<\/h1>\n\n\n\n
      Stemming<\/strong> reduziert W\u00f6rter auf einen k\u00fcnstlich erzeugten Wortstamm.<\/p>\n\n\n\n
      Beispielhaft:<\/p>\n\n\n\n
      k\u00fcndigen\nk\u00fcndigt\ngek\u00fcndigt\nk\u00fcndigung\n<\/code><\/pre>\n\n\n\n
      k\u00f6nnten auf einen gemeinsamen Stamm reduziert werden.<\/p>\n\n\n\n
      Der genaue Stamm muss sprachlich nicht korrekt sein.<\/p>\n\n\n\n
      Ziel ist lediglich:<\/p>\n\n\n\n
      \n
      \u00e4hnliche Wortformen sollen matchen.<\/p>\n<\/blockquote>\n\n\n\n
      \n\n\n\n
      10. Lemmatization<\/h1>\n\n\n\n
      Lemmatization<\/strong> verfolgt ein \u00e4hnliches Ziel, versucht aber die linguistische Grundform eines Wortes zu bestimmen.<\/p>\n\n\n\n
      Beispiel:<\/p>\n\n\n\n
      ging\ngeht\ngegangen\n<\/code><\/pre>\n\n\n\n
      \u2192<\/p>\n\n\n\n
      gehen\n<\/code><\/pre>\n\n\n\n
      Lemmatization ist sprachlich anspruchsvoller als einfaches Stemming.<\/p>\n\n\n\n
      Beide Verfahren dienen dazu, Flexionsvarianten besser zusammenzuf\u00fchren.<\/p>\n\n\n\n
      \n\n\n\n
      11. N-Grams<\/h1>\n\n\n\n
      Ein N-Gram<\/strong> ist eine Folge von n Elementen.<\/p>\n\n\n\n
      Bei W\u00f6rtern:<\/p>\n\n\n\n
      \"K\u00fcndigungsfrist Probezeit\"\n<\/code><\/pre>\n\n\n\n
      als Bigram.<\/p>\n\n\n\n
      Bei Zeichen:<\/p>\n\n\n\n
      ABC\nBCD\nCDE\n<\/code><\/pre>\n\n\n\n
      als Character Trigrams.<\/p>\n\n\n\n
      N-Grams k\u00f6nnen hilfreich sein f\u00fcr:<\/p>\n\n\n\n
        \n
      • Tippfehler,<\/li>\n\n\n\n
      • Teilbegriffe,<\/li>\n\n\n\n
      • Komposita,<\/li>\n\n\n\n
      • Produktcodes,<\/li>\n\n\n\n
      • Namen.<\/li>\n<\/ul>\n\n\n\n
        \n\n\n\n
        12. Deutsche Komposita<\/h1>\n\n\n\n
        Deutsch stellt klassische Suchsysteme vor eine besondere Herausforderung.<\/p>\n\n\n\n
        Beispiel:<\/p>\n\n\n\n
        K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
        enth\u00e4lt:<\/p>\n\n\n\n
        K\u00fcndigung\n+\nFrist\n<\/code><\/pre>\n\n\n\n
        Eine Suche nach:<\/p>\n\n\n\n
        Frist\n<\/code><\/pre>\n\n\n\n
        soll m\u00f6glicherweise trotzdem matchen.<\/p>\n\n\n\n
        Sprachspezifische Analyzer k\u00f6nnen solche Komposita ber\u00fccksichtigen.<\/p>\n\n\n\n
        \n\n\n\n
        13. Inverted Index<\/h1>\n\n\n\n
        Die zentrale Datenstruktur vieler klassischer Suchmaschinen ist der Inverted Index<\/strong>.<\/p>\n\n\n\n
        Statt f\u00fcr jedes Dokument zu speichern:<\/p>\n\n\n\n
        Dokument \u2192 W\u00f6rter\n<\/code><\/pre>\n\n\n\n
        speichert man:<\/p>\n\n\n\n
        Wort \u2192 Dokumente\n<\/code><\/pre>\n\n\n\n
        Beispiel:<\/p>\n\n\n\n
        k\u00fcndigungsfrist\n\u2192 Dokument 2\n\u2192 Dokument 7\n\u2192 Dokument 12\n<\/code><\/pre>\n\n\n\n
        probezeit\n\u2192 Dokument 1\n\u2192 Dokument 2\n\u2192 Dokument 9\n<\/code><\/pre>\n\n\n\n
        Damit kann das System sehr schnell herausfinden, welche Dokumente bestimmte Begriffe enthalten.<\/p>\n\n\n\n
        \n\n\n\n
        14. Warum \u201einverted\u201c?<\/h1>\n\n\n\n
        Ein normaler Dokumentbestand k\u00f6nnte so gedacht werden:<\/p>\n\n\n\n
        Dokument A:\nProbezeit, K\u00fcndigung, Frist\n\nDokument B:\nFerien, Urlaub, Anspruch\n<\/code><\/pre>\n\n\n\n
        Der invertierte Index dreht die Perspektive um:<\/p>\n\n\n\n
        Probezeit \u2192 A\nK\u00fcndigung \u2192 A\nFrist \u2192 A\nFerien \u2192 B\nUrlaub \u2192 B\nAnspruch \u2192 B\n<\/code><\/pre>\n\n\n\n
        Das macht Wortsuche extrem effizient.<\/p>\n\n\n\n
        \n\n\n\n
        15. Posting List<\/h1>\n\n\n\n
        Die Liste der Dokumente beziehungsweise Positionen zu einem Term wird h\u00e4ufig Posting List<\/strong> genannt.<\/p>\n\n\n\n
        Beispiel:<\/p>\n\n\n\n
        Term:\nk\u00fcndigungsfrist\n\nPosting List:\nDoc 3\nDoc 18\nDoc 41\nDoc 92\n<\/code><\/pre>\n\n\n\n
        Ein Posting kann zus\u00e4tzlich enthalten:<\/p>\n\n\n\n
          \n
        • H\u00e4ufigkeit,<\/li>\n\n\n\n
        • Position im Text,<\/li>\n\n\n\n
        • Feld,<\/li>\n\n\n\n
        • weitere Statistiken.<\/li>\n<\/ul>\n\n\n\n
          \n\n\n\n
          16. Term Frequency<\/h1>\n\n\n\n
          Term Frequency<\/strong>, kurz TF<\/strong>, beschreibt, wie h\u00e4ufig ein Term in einem Dokument vorkommt.<\/p>\n\n\n\n
          Beispiel:<\/p>\n\n\n\n
          Dokument A:<\/p>\n\n\n\n
          Probezeit Probezeit K\u00fcndigung Probezeit\n<\/code><\/pre>\n\n\n\n
          Dann gilt:<\/p>\n\n\n\n
          TF(Probezeit) = 3\n<\/code><\/pre>\n\n\n\n
          Die Intuition:<\/p>\n\n\n\n
          \n
          Wenn ein Begriff h\u00e4ufiger vorkommt, ist er m\u00f6glicherweise wichtiger f\u00fcr dieses Dokument.<\/p>\n<\/blockquote>\n\n\n\n
          Aber allein reicht das nicht.<\/p>\n\n\n\n
          \n\n\n\n
          17. Das Problem mit h\u00e4ufigen W\u00f6rtern<\/h1>\n\n\n\n
          Angenommen, der Begriff:<\/p>\n\n\n\n
          Mitarbeiter\n<\/code><\/pre>\n\n\n\n
          kommt in fast jedem Dokument vor.<\/p>\n\n\n\n
          Dann hilft er kaum dabei, relevante Dokumente voneinander zu unterscheiden.<\/p>\n\n\n\n
          Dagegen k\u00f6nnte:<\/p>\n\n\n\n
          K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
          nur in wenigen Dokumenten vorkommen.<\/p>\n\n\n\n
          Dieser Begriff ist wesentlich informativer.<\/p>\n\n\n\n
          Daf\u00fcr ben\u00f6tigen wir Document Frequency<\/strong> und Inverse Document Frequency<\/strong>.<\/p>\n\n\n\n
          \n\n\n\n
          18. Document Frequency<\/h1>\n\n\n\n
          Die Document Frequency<\/strong>, kurz DF<\/strong>, beschreibt:<\/p>\n\n\n\n
          \n
          In wie vielen Dokumenten kommt ein Term vor?<\/p>\n<\/blockquote>\n\n\n\n
          Angenommen:<\/p>\n\n\n\n
          1000 Dokumente insgesamt\n<\/code><\/pre>\n\n\n\n
          und:<\/p>\n\n\n\n
          \"mitarbeiter\"\nkommt in 900 Dokumenten vor\n<\/code><\/pre>\n\n\n\n
          w\u00e4hrend:<\/p>\n\n\n\n
          \"k\u00fcndigungsfrist\"\nkommt in 30 Dokumenten vor\n<\/code><\/pre>\n\n\n\n
          Dann besitzt \u201eK\u00fcndigungsfrist\u201c eine h\u00f6here Unterscheidungskraft.<\/p>\n\n\n\n
          \n\n\n\n
          19. Inverse Document Frequency<\/h1>\n\n\n\n
          Die Inverse Document Frequency<\/strong>, kurz IDF<\/strong>, gewichtet seltene Begriffe h\u00f6her.<\/p>\n\n\n\n
          Eine vereinfachte Form lautet:<\/p>\n\n\n\n
          IDF(t) = log(N \/ DF(t))\n<\/code><\/pre>\n\n\n\n
          Dabei ist:<\/p>\n\n\n\n
          N\n<\/code><\/pre>\n\n\n\n
          die Anzahl der Dokumente und:<\/p>\n\n\n\n
          DF(t)\n<\/code><\/pre>\n\n\n\n
          die Anzahl der Dokumente, in denen Term t vorkommt.<\/p>\n\n\n\n
          Je seltener ein Begriff:<\/p>\n\n\n\n
          h\u00f6here IDF\n<\/code><\/pre>\n\n\n\n
          Je h\u00e4ufiger:<\/p>\n\n\n\n
          niedrigere IDF\n<\/code><\/pre>\n\n\n\n
          \n\n\n\n
          20. TF-IDF<\/h1>\n\n\n\n
          TF-IDF<\/strong> kombiniert:<\/p>\n\n\n\n
          Term Frequency\n\u00d7\nInverse Document Frequency\n<\/code><\/pre>\n\n\n\n
          also vereinfacht:<\/p>\n\n\n\n
          TF-IDF(t,d) = TF(t,d) \u00d7 IDF(t)\n<\/code><\/pre>\n\n\n\n
          Ein Term erh\u00e4lt dadurch einen hohen Score, wenn:<\/p>\n\n\n\n
            \n
          1. er im Dokument h\u00e4ufig vorkommt,<\/li>\n\n\n\n
          2. aber im gesamten Korpus relativ selten ist.<\/li>\n<\/ol>\n\n\n\n
            \n\n\n\n
            21. TF-IDF intuitiv<\/h1>\n\n\n\n
            Angenommen, Dokument A enth\u00e4lt:<\/p>\n\n\n\n
            Probezeit K\u00fcndigungsfrist K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
            und Dokument B:<\/p>\n\n\n\n
            Probezeit Ferien\n<\/code><\/pre>\n\n\n\n
            Wenn \u201eProbezeit\u201c in sehr vielen Dokumenten vorkommt, erh\u00e4lt es eine geringere Gewichtung.<\/p>\n\n\n\n
            \u201eK\u00fcndigungsfrist\u201c k\u00f6nnte dagegen sehr spezifisch sein.<\/p>\n\n\n\n
            Dokument A erh\u00e4lt dadurch f\u00fcr die Query:<\/p>\n\n\n\n
            K\u00fcndigungsfrist Probezeit\n<\/code><\/pre>\n\n\n\n
            einen h\u00f6heren Score.<\/p>\n\n\n\n
            \n\n\n\n
            22. TF-IDF ist ein Vektormodell<\/h1>\n\n\n\n
            Interessanterweise erzeugt auch TF-IDF Vektoren.<\/p>\n\n\n\n
            Angenommen, das gesamte Vokabular lautet:<\/p>\n\n\n\n
            [\n  probezeit,\n  k\u00fcndigung,\n  ferien,\n  arbeitszeit\n]\n<\/code><\/pre>\n\n\n\n
            Dann k\u00f6nnte ein Dokument dargestellt werden als:<\/p>\n\n\n\n
            [\n  0.8,\n  1.4,\n  0,\n  0\n]\n<\/code><\/pre>\n\n\n\n
            Das ist ebenfalls ein Vektor.<\/p>\n\n\n\n
            Aber ein Sparse Vector<\/strong>.<\/p>\n\n\n\n
            \n\n\n\n
            23. Sparse Vector<\/h1>\n\n\n\n
            Ein Sparse Vector besitzt sehr viele Dimensionen, von denen die meisten null sind.<\/p>\n\n\n\n
            Beispiel:<\/p>\n\n\n\n
            [\n  0,\n  0,\n  0,\n  1.2,\n  0,\n  0,\n  0.7,\n  0,\n  0,\n  ...\n]\n<\/code><\/pre>\n\n\n\n
            Das Vokabular kann zehntausende oder hunderttausende Dimensionen besitzen.<\/p>\n\n\n\n
            Ein einzelner Text verwendet davon nur wenige.<\/p>\n\n\n\n
            Daher:<\/p>\n\n\n\n
            sparse = d\u00fcnn besetzt.<\/strong><\/p>\n\n\n\n
            \n\n\n\n
            24. Dense versus Sparse<\/h1>\n\n\n\n
            Dense Embedding:<\/p>\n\n\n\n
            [0.12, -0.74, 0.21, 0.55, ...]\n<\/code><\/pre>\n\n\n\n
            Fast jede Dimension hat einen Wert.<\/p>\n\n\n\n
            Sparse Representation:<\/p>\n\n\n\n
            [0, 0, 1.2, 0, 0, 0.7, 0, ...]\n<\/code><\/pre>\n\n\n\n
            Die meisten Dimensionen sind null.<\/p>\n\n\n\n
            Das ist die grundlegende technische Unterscheidung.<\/p>\n\n\n\n
            \n\n\n\n
            25. Sparse bedeutet nicht automatisch BM25<\/h1>\n\n\n\n
            Dieser Punkt ist wichtig.<\/p>\n\n\n\n
            BM25 ist ein Sparse-Retrieval-Verfahren.<\/strong><\/p>\n\n\n\n
            Aber nicht jedes Sparse Retrieval ist BM25.<\/p>\n\n\n\n
            Es gibt auch Learned Sparse Retrieval<\/strong>.<\/p>\n\n\n\n
            Dabei lernen neuronale Modelle gewichtete Sparse-Repr\u00e4sentationen.<\/p>\n\n\n\n
            Ein bekanntes Konzept in dieser Familie ist beispielsweise SPLADE.<\/p>\n\n\n\n
            Die Repr\u00e4sentation bleibt sparse, wird aber nicht ausschliesslich mit klassischen Termstatistiken erzeugt.<\/p>\n\n\n\n
            \n\n\n\n
            26. BM25<\/h1>\n\n\n\n
            BM25<\/strong> ist eines der wichtigsten klassischen Ranking-Verfahren im Information Retrieval.<\/p>\n\n\n\n
            Es baut auf \u00e4hnlichen Ideen wie TF-IDF auf, ber\u00fccksichtigt aber weitere Faktoren.<\/p>\n\n\n\n
            Eine typische Form lautet:<\/p>\n\n\n\n
            score(D,Q)\n=\n\u03a3 IDF(qi) \u00d7<\/code><\/pre>\n\n\n
            [f(qi,D) \u00d7 (k1 + 1)]<\/p>\n\n\n\n
            \/<\/p>\n\n\n
            [f(qi,D) + k1 \u00d7 (1 – b + b \u00d7 |D| \/ avgdl)]<\/p>\n\n\n\n
            Die Formel sieht zun\u00e4chst kompliziert aus.<\/p>\n\n\n\n
            Die Grundidee ist jedoch gut verst\u00e4ndlich.<\/p>\n\n\n\n
            \n\n\n\n
            27. Bestandteile von BM25<\/h1>\n\n\n\n
            BM25 ber\u00fccksichtigt unter anderem:<\/p>\n\n\n\n
            Termh\u00e4ufigkeit<\/strong><\/p>\n\n\n\n
            Wie oft kommt der Suchbegriff im Dokument vor?\n<\/code><\/pre>\n\n\n\n
            Termseltenheit<\/strong><\/p>\n\n\n\n
            Wie selten ist dieser Begriff im Korpus?\n<\/code><\/pre>\n\n\n\n
            Dokumentl\u00e4nge<\/strong><\/p>\n\n\n\n
            Ist das Dokument ungew\u00f6hnlich lang?\n<\/code><\/pre>\n\n\n\n
            Damit verbessert BM25 einige Schw\u00e4chen eines einfachen TF-IDF-Modells.<\/p>\n\n\n\n
            \n\n\n\n
            28. Term Frequency Saturation<\/h1>\n\n\n\n
            Bei einfachem TF k\u00f6nnte man implizit denken:<\/p>\n\n\n\n
            10 Vorkommen\n= doppelt so relevant wie\n5 Vorkommen\n<\/code><\/pre>\n\n\n\n
            Das ist oft unrealistisch.<\/p>\n\n\n\n
            BM25 verwendet eine S\u00e4ttigung<\/strong>.<\/p>\n\n\n\n
            Die ersten Vorkommen eines Terms erh\u00f6hen den Score stark.<\/p>\n\n\n\n
            Weitere Wiederholungen bringen immer weniger zus\u00e4tzlichen Nutzen.<\/p>\n\n\n\n
            Vereinfacht:<\/p>\n\n\n\n
            1 \u2192 grosser Gewinn\n2 \u2192 weiterer Gewinn\n3 \u2192 kleinerer Gewinn\n20 \u2192 kaum noch zus\u00e4tzlicher Nutzen\n<\/code><\/pre>\n\n\n\n
            \n\n\n\n
            29. Parameter k1<\/h1>\n\n\n\n
            Der BM25-Parameter k1<\/strong> steuert, wie stark Term Frequency ges\u00e4ttigt wird.<\/p>\n\n\n\n
            Vereinfacht:<\/p>\n\n\n\n
            kleiner k1\n\u2192 schnelle S\u00e4ttigung\n<\/code><\/pre>\n\n\n\n
            gr\u00f6sserer k1\n\u2192 H\u00e4ufigkeit wirkt l\u00e4nger\n<\/code><\/pre>\n\n\n\n
            In der Praxis werden h\u00e4ufig etablierte Standardbereiche verwendet und anschliessend evaluiert.<\/p>\n\n\n\n
            \n\n\n\n
            30. Dokumentl\u00e4ngen-Normalisierung<\/h1>\n\n\n\n
            Ein langes Dokument enth\u00e4lt statistisch mehr W\u00f6rter.<\/p>\n\n\n\n
            Dadurch steigt die Wahrscheinlichkeit, dass ein Suchbegriff zuf\u00e4llig h\u00e4ufiger vorkommt.<\/p>\n\n\n\n
            BM25 ber\u00fccksichtigt deshalb die Dokumentl\u00e4nge.<\/p>\n\n\n\n
            Ein Dokument mit 10’000 W\u00f6rtern soll nicht allein deshalb h\u00f6her ranken als ein fokussierter Absatz mit 100 W\u00f6rtern.<\/p>\n\n\n\n
            \n\n\n\n
            31. Parameter b<\/h1>\n\n\n\n
            Der Parameter b<\/strong> steuert die St\u00e4rke der L\u00e4ngennormalisierung.<\/p>\n\n\n\n
            Vereinfacht:<\/p>\n\n\n\n
            b = 0\n\u2192 Dokumentl\u00e4nge spielt keine Rolle\n<\/code><\/pre>\n\n\n\n
            b nahe 1\n\u2192 Dokumentl\u00e4nge wird stark ber\u00fccksichtigt\n<\/code><\/pre>\n\n\n\n
            Der klassische Default liegt h\u00e4ufig ungef\u00e4hr bei:<\/p>\n\n\n\n
            b = 0.75\n<\/code><\/pre>\n\n\n\n
            Dieser Wert ist aber kein Naturgesetz.<\/p>\n\n\n\n
            \n\n\n\n
            32. avgdl<\/h1>\n\n\n\n
            avgdl<\/strong> steht f\u00fcr:<\/p>\n\n\n\n
            average document length<\/strong><\/p>\n\n\n\n
            also die durchschnittliche Dokumentl\u00e4nge im Index.<\/p>\n\n\n\n
            BM25 vergleicht die L\u00e4nge eines Dokuments mit diesem Durchschnitt.<\/p>\n\n\n\n
            Im Chunk-RAG bedeutet \u201eDokument\u201c in der BM25-Formel praktisch oft:<\/p>\n\n\n\n
            Chunk\n<\/code><\/pre>\n\n\n\n
            weil Chunks die Retrieval-Einheiten sind.<\/p>\n\n\n\n
            \n\n\n\n
            33. BM25 und Chunking<\/h1>\n\n\n\n
            Hier zeigt sich die Verbindung zu Teil 2.<\/p>\n\n\n\n
            Wenn Chunks extrem unterschiedlich gross sind:<\/p>\n\n\n\n
            Chunk A: 50 W\u00f6rter\nChunk B: 2'000 W\u00f6rter\n<\/code><\/pre>\n\n\n\n
            spielt die L\u00e4ngennormalisierung eine gr\u00f6ssere Rolle.<\/p>\n\n\n\n
            Wenn alle Chunks \u00e4hnlich gross sind, reduziert sich dieser Effekt.<\/p>\n\n\n\n
            Chunking beeinflusst also auch klassische Retrieval-Scores.<\/p>\n\n\n\n
            \n\n\n\n
            34. Warum BM25 heute noch relevant ist<\/h1>\n\n\n\n
            BM25 wirkt im Zeitalter neuronaler Modelle zun\u00e4chst altmodisch.<\/p>\n\n\n\n
            Aber es besitzt Eigenschaften, die Dense Retrieval nicht zuverl\u00e4ssig ersetzt.<\/p>\n\n\n\n
            BM25 ist besonders stark bei:<\/p>\n\n\n\n
              \n
            • exakten Begriffen,<\/li>\n\n\n\n
            • seltenen W\u00f6rtern,<\/li>\n\n\n\n
            • Eigennamen,<\/li>\n\n\n\n
            • Produktcodes,<\/li>\n\n\n\n
            • IDs,<\/li>\n\n\n\n
            • Paragraphen,<\/li>\n\n\n\n
            • Akronymen,<\/li>\n\n\n\n
            • Fachterminologie.<\/li>\n<\/ul>\n\n\n\n
              Beispiel:<\/p>\n\n\n\n
              ZX-419-B\n<\/code><\/pre>\n\n\n\n
              Eine exakte lexikalische \u00dcbereinstimmung ist hier extrem wertvoll.<\/p>\n\n\n\n
              \n\n\n\n
              35. Beispiel Dense versus BM25<\/h1>\n\n\n\n
              Query:<\/p>\n\n\n\n
              Wie lange kann ich w\u00e4hrend der Probezeit k\u00fcndigen?\n<\/code><\/pre>\n\n\n\n
              Dokument A:<\/p>\n\n\n\n
              W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n<\/code><\/pre>\n\n\n\n
              Dokument B:<\/p>\n\n\n\n
              In den ersten Monaten kann das Arbeitsverh\u00e4ltnis\nmit kurzer Frist beendet werden.\n<\/code><\/pre>\n\n\n\n
              Dense Retrieval k\u00f6nnte beide stark finden.<\/p>\n\n\n\n
              BM25 bevorzugt m\u00f6glicherweise A, weil:<\/p>\n\n\n\n
              Probezeit\nK\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
              direkt vorkommen.<\/p>\n\n\n\n
              \n\n\n\n
              36. Beispiel mit Identifier<\/h1>\n\n\n\n
              Query:<\/p>\n\n\n\n
              INC-847291\n<\/code><\/pre>\n\n\n\n
              Dokument A:<\/p>\n\n\n\n
              Incident INC-847291 wurde geschlossen.\n<\/code><\/pre>\n\n\n\n
              Dokument B:<\/p>\n\n\n\n
              Ein schwerwiegender Incident wurde gestern geschlossen.\n<\/code><\/pre>\n\n\n\n
              Semantisch sind beide \u00e4hnlich.<\/p>\n\n\n\n
              F\u00fcr den Benutzer ist aber nur A relevant.<\/p>\n\n\n\n
              BM25 beziehungsweise Exact Matching besitzt hier einen klaren Vorteil.<\/p>\n\n\n\n
              \n\n\n\n
              37. Beispiel mit Synonymen<\/h1>\n\n\n\n
              Query:<\/p>\n\n\n\n
              Wie kann ich meinen Vertrag beenden?\n<\/code><\/pre>\n\n\n\n
              Dokument:<\/p>\n\n\n\n
              Das Arbeitsverh\u00e4ltnis kann gek\u00fcndigt werden.\n<\/code><\/pre>\n\n\n\n
              BM25 sieht m\u00f6glicherweise wenig \u00dcberlappung.<\/p>\n\n\n\n
              Dense Retrieval erkennt:<\/p>\n\n\n\n
              Vertrag beenden\n\u2248\nArbeitsverh\u00e4ltnis k\u00fcndigen\n<\/code><\/pre>\n\n\n\n
              Hier hat Dense Retrieval den Vorteil.<\/p>\n\n\n\n
              \n\n\n\n
              38. Keine Methode gewinnt immer<\/h1>\n\n\n\n
              Damit ergibt sich:<\/p>\n\n\n\n
              Query-Typ<\/th>Dense<\/th>Sparse<\/th><\/tr><\/thead>
              Paraphrase<\/td>stark<\/td>eher schw\u00e4cher<\/td><\/tr>
              Synonym<\/td>stark<\/td>schw\u00e4cher<\/td><\/tr>
              exakte ID<\/td>unsicherer<\/td>sehr stark<\/td><\/tr>
              seltene Fachbezeichnung<\/td>unterschiedlich<\/td>stark<\/td><\/tr>
              nat\u00fcrlicher Satz<\/td>stark<\/td>gut bis mittel<\/td><\/tr>
              exakter Produktname<\/td>gut<\/td>sehr stark<\/td><\/tr>
              semantische Umschreibung<\/td>sehr stark<\/td>schw\u00e4cher<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
              Das ist der Grund f\u00fcr Hybrid Search<\/strong>.<\/p>\n\n\n\n
              \n\n\n\n
              39. Hybrid Search<\/h1>\n\n\n\n
              Hybrid Search<\/strong> kombiniert mehrere Retrieval-Signale.<\/p>\n\n\n\n
              Im einfachsten Fall:<\/p>\n\n\n\n
              Dense Retrieval\n      +\nSparse Retrieval\n      \u2193\nkombiniertes Ranking\n<\/code><\/pre>\n\n\n\n
              Damit versucht man, die St\u00e4rken beider Welten zu nutzen.<\/p>\n\n\n\n
              \n\n\n\n
              40. Eine typische Hybrid-Pipeline<\/h1>\n\n\n\n
                                   Query\n                       \u2502\n             \u250c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2534\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2510\n             \u25bc                   \u25bc\n        Dense Search        Sparse Search\n             \u2502                   \u2502\n             \u25bc                   \u25bc\n        Dense Top-k         Sparse Top-k\n             \u2502                   \u2502\n             \u2514\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u252c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2518\n                       \u25bc\n                    Fusion\n                       \u2193\n                 Hybrid Ranking\n<\/code><\/pre>\n\n\n\n
              Danach kann zus\u00e4tzlich ein Reranker folgen.<\/p>\n\n\n\n
              \n\n\n\n
              41. Warum Fusion notwendig ist<\/h1>\n\n\n\n
              Dense und Sparse Retrieval erzeugen unterschiedliche Scores.<\/p>\n\n\n\n
              Dense beispielsweise:<\/p>\n\n\n\n
              0.82\n0.76\n0.71\n<\/code><\/pre>\n\n\n\n
              BM25 m\u00f6glicherweise:<\/p>\n\n\n\n
              14.7\n9.3\n6.1\n<\/code><\/pre>\n\n\n\n
              Diese Zahlen haben v\u00f6llig unterschiedliche Bedeutungen.<\/p>\n\n\n\n
              Man kann nicht einfach rechnen:<\/p>\n\n\n\n
              0.82 + 14.7\n<\/code><\/pre>\n\n\n\n
              ohne die Score-R\u00e4ume zu ber\u00fccksichtigen.<\/p>\n\n\n\n
              Deshalb braucht man eine Fusion Strategy<\/strong>.<\/p>\n\n\n\n
              \n\n\n\n
              42. Score Fusion<\/h1>\n\n\n\n
              Bei Score Fusion<\/strong> werden die Scores verschiedener Retriever normalisiert und kombiniert.<\/p>\n\n\n\n
              Beispielsweise:<\/p>\n\n\n\n
              Hybrid Score\n=\n0.5 \u00d7 Dense Score\n+\n0.5 \u00d7 Sparse Score\n<\/code><\/pre>\n\n\n\n
              Das klingt einfach.<\/p>\n\n\n\n
              Aber zun\u00e4chst m\u00fcssen beide Scores sinnvoll auf vergleichbare Skalen gebracht werden.<\/p>\n\n\n\n
              \n\n\n\n
              43. Min-Max Normalization<\/h1>\n\n\n\n
              Eine einfache Normalisierung ist:<\/p>\n\n\n\n
              normalized(x)\n=\n(x - min)\n\/\n(max - min)\n<\/code><\/pre>\n\n\n\n
              Damit werden Scores ungef\u00e4hr in den Bereich:<\/p>\n\n\n\n
              0 bis 1\n<\/code><\/pre>\n\n\n\n
              transformiert.<\/p>\n\n\n\n
              Danach k\u00f6nnen sie kombiniert werden.<\/p>\n\n\n\n
              Problem:<\/p>\n\n\n\n
              Die Normalisierung h\u00e4ngt stark von den aktuellen Trefferverteilungen ab.<\/p>\n\n\n\n
              \n\n\n\n
              44. Z-Score Normalization<\/h1>\n\n\n\n
              Eine andere M\u00f6glichkeit ist eine Standardisierung anhand von Mittelwert und Standardabweichung.<\/p>\n\n\n\n
              z = (x - \u03bc) \/ \u03c3\n<\/code><\/pre>\n\n\n\n
              Auch das kann Score-R\u00e4ume vergleichbarer machen.<\/p>\n\n\n\n
              Aber auch hier entstehen praktische Fragen:<\/p>\n\n\n\n
                \n
              • Welche Kandidatenmenge?<\/li>\n\n\n\n
              • Welche Verteilung?<\/li>\n\n\n\n
              • Welche Ausreisser?<\/li>\n<\/ul>\n\n\n\n
                Score Fusion kann deshalb aufwendiger werden, als es zun\u00e4chst klingt.<\/p>\n\n\n\n
                \n\n\n\n
                45. Weighted Fusion<\/h1>\n\n\n\n
                Bei Weighted Fusion<\/strong> bekommen verschiedene Retriever unterschiedliche Gewichte.<\/p>\n\n\n\n
                Beispiel:<\/p>\n\n\n\n
                score =\n0.7 \u00d7 dense\n+\n0.3 \u00d7 sparse\n<\/code><\/pre>\n\n\n\n
                Das kann sinnvoll sein, wenn eine Retrieval-Art im jeweiligen Korpus zuverl\u00e4ssig st\u00e4rker ist.<\/p>\n\n\n\n
                Die Gewichte m\u00fcssen jedoch evaluiert werden.<\/p>\n\n\n\n
                \n\n\n\n
                46. Query-Adaptive Fusion<\/h1>\n\n\n\n
                Noch flexibler ist eine queryabh\u00e4ngige Gewichtung.<\/p>\n\n\n\n
                Beispiel:<\/p>\n\n\n\n
                Query:<\/p>\n\n\n\n
                INC-847291\n<\/code><\/pre>\n\n\n\n
                \u2192 Sparse st\u00e4rker gewichten.<\/p>\n\n\n\n
                Query:<\/p>\n\n\n\n
                Wie kann ich meinen Vertrag w\u00e4hrend der ersten Monate beenden?\n<\/code><\/pre>\n\n\n\n
                \u2192 Dense st\u00e4rker gewichten.<\/p>\n\n\n\n
                Das kann leistungsf\u00e4hig sein, erh\u00f6ht aber die Komplexit\u00e4t.<\/p>\n\n\n\n
                \n\n\n\n
                47. Rank Fusion<\/h1>\n\n\n\n
                Eine Alternative zur Score Fusion ist Rank Fusion<\/strong>.<\/p>\n\n\n\n
                Dabei interessieren nicht die absoluten Scores.<\/p>\n\n\n\n
                Es z\u00e4hlt nur die Rangposition.<\/p>\n\n\n\n
                Beispiel:<\/p>\n\n\n\n
                Dense:<\/p>\n\n\n\n
                1. A\n2. B\n3. C\n<\/code><\/pre>\n\n\n\n
                Sparse:<\/p>\n\n\n\n
                1. B\n2. D\n3. A\n<\/code><\/pre>\n\n\n\n
                Eine Rank-Fusion-Methode kombiniert diese Ranglisten.<\/p>\n\n\n\n
                \n\n\n\n
                48. Reciprocal Rank Fusion<\/h1>\n\n\n\n
                Eine der wichtigsten Methoden ist Reciprocal Rank Fusion<\/strong>, kurz RRF<\/strong>.<\/p>\n\n\n\n
                Die Formel lautet:<\/p>\n\n\n\n
                RRF(d)\n=\n\u03a3 1 \/ (k + rank_i(d))\n<\/code><\/pre>\n\n\n\n
                Dabei ist:<\/p>\n\n\n\n
                rank_i(d)\n<\/code><\/pre>\n\n\n\n
                der Rang des Dokuments d in Retriever i.<\/p>\n\n\n\n
                Der Parameter k ist eine Konstante, die den Einfluss sehr hoher R\u00e4nge gl\u00e4ttet.<\/p>\n\n\n\n
                \n\n\n\n
                49. RRF intuitiv<\/h1>\n\n\n\n
                Angenommen:<\/p>\n\n\n\n
                Dense:<\/p>\n\n\n\n
                A \u2192 Rang 1\nB \u2192 Rang 2\nC \u2192 Rang 3\n<\/code><\/pre>\n\n\n\n
                Sparse:<\/p>\n\n\n\n
                B \u2192 Rang 1\nA \u2192 Rang 2\nD \u2192 Rang 3\n<\/code><\/pre>\n\n\n\n
                A und B werden von beiden Retrievern hoch eingestuft.<\/p>\n\n\n\n
                RRF belohnt genau diese \u00dcbereinstimmung.<\/p>\n\n\n\n
                \n\n\n\n
                50. Warum RRF beliebt ist<\/h1>\n\n\n\n
                RRF besitzt einen grossen praktischen Vorteil:<\/p>\n\n\n\n
                \n
                Es muss keine inkompatiblen Score-Skalen normalisieren.<\/p>\n<\/blockquote>\n\n\n\n
                Dense kann Scores zwischen:<\/p>\n\n\n\n
                0.4 und 0.9\n<\/code><\/pre>\n\n\n\n
                liefern.<\/p>\n\n\n\n
                Sparse kann:<\/p>\n\n\n\n
                3 bis 25\n<\/code><\/pre>\n\n\n\n
                liefern.<\/p>\n\n\n\n
                RRF ignoriert die absoluten Werte und nutzt nur die Rangposition.<\/p>\n\n\n\n
                Das macht die Methode robust und einfach.<\/p>\n\n\n\n
                \n\n\n\n
                51. Der RRF-Parameter k<\/h1>\n\n\n\n
                In der RRF-Formel:<\/p>\n\n\n\n
                1 \/ (k + rank)\n<\/code><\/pre>\n\n\n\n
                steuert k, wie stark Spitzenr\u00e4nge gegen\u00fcber niedrigeren R\u00e4ngen bevorzugt werden.<\/p>\n\n\n\n
                Ein h\u00e4ufig zitierter klassischer Wert ist:<\/p>\n\n\n\n
                k = 60\n<\/code><\/pre>\n\n\n\n
                Dieser Wert stammt aus der Information-Retrieval-Literatur und ist kein universell optimaler Wert f\u00fcr jedes RAG-System.<\/p>\n\n\n\n
                \n\n\n\n
                52. RRF-Beispiel<\/h1>\n\n\n\n
                Nehmen wir vereinfacht:<\/p>\n\n\n\n
                k = 60\n<\/code><\/pre>\n\n\n\n
                Dokument A:<\/p>\n\n\n\n
                Dense Rank = 1\nSparse Rank = 2\n<\/code><\/pre>\n\n\n\n
                Dann:<\/p>\n\n\n\n
                RRF(A)\n=\n1\/(60+1)\n+\n1\/(60+2)\n<\/code><\/pre>\n\n\n\n
                Dokument C:<\/p>\n\n\n\n
                Dense Rank = 3\nSparse Rank = nicht vorhanden\n<\/code><\/pre>\n\n\n\n
                Dann erh\u00e4lt C nur den Beitrag aus einer Liste.<\/p>\n\n\n\n
                A wird dadurch st\u00e4rker bewertet.<\/p>\n\n\n\n
                \n\n\n\n
                53. Dokument fehlt in einer Rangliste<\/h1>\n\n\n\n
                Wenn ein Dokument in einem Retriever nicht auftaucht, erh\u00e4lt es aus dieser Rangliste keinen Beitrag.<\/p>\n\n\n\n
                Damit bevorzugt RRF tendenziell Kandidaten, die:<\/p>\n\n\n\n
                  \n
                • von mehreren Retrievern gefunden werden,<\/li>\n\n\n\n
                • oder in einem Retriever extrem hoch ranken.<\/li>\n<\/ul>\n\n\n\n
                  \n\n\n\n
                  54. Candidate Union<\/h1>\n\n\n\n
                  Bevor Rankings fusioniert werden k\u00f6nnen, werden Kandidaten h\u00e4ufig vereinigt.<\/p>\n\n\n\n
                  Beispiel:<\/p>\n\n\n\n
                  Dense Top 5:<\/p>\n\n\n\n
                  A\nB\nC\nD\nE\n<\/code><\/pre>\n\n\n\n
                  Sparse Top 5:<\/p>\n\n\n\n
                  B\nF\nA\nG\nH\n<\/code><\/pre>\n\n\n\n
                  Union:<\/p>\n\n\n\n
                  A\nB\nC\nD\nE\nF\nG\nH\n<\/code><\/pre>\n\n\n\n
                  Diese Kandidaten erhalten anschliessend einen Fusionsscore.<\/p>\n\n\n\n
                  \n\n\n\n
                  55. Duplicate Handling<\/h1>\n\n\n\n
                  Da derselbe Chunk in beiden Suchwegen vorkommen kann, ben\u00f6tigt man stabile IDs.<\/p>\n\n\n\n
                  So wird:<\/p>\n\n\n\n
                  Dense: Chunk 42\nSparse: Chunk 42\n<\/code><\/pre>\n\n\n\n
                  als derselbe Kandidat erkannt.<\/p>\n\n\n\n
                  Ansonsten k\u00f6nnten identische Chunks mehrfach in der Ergebnisliste auftauchen.<\/p>\n\n\n\n
                  \n\n\n\n
                  56. Hybrid Search ist nicht einfach \u201emehr Treffer\u201c<\/h1>\n\n\n\n
                  Das Ziel lautet nicht:<\/p>\n\n\n\n
                  Dense 10\n+\nSparse 10\n=\n20 Treffer an LLM\n<\/code><\/pre>\n\n\n\n
                  Sondern:<\/p>\n\n\n\n
                  verschiedene Retrieval-Signale\n        \u2193\nbessere Kandidatenmenge\n        \u2193\nbesseres Ranking\n<\/code><\/pre>\n\n\n\n
                  Danach kann die Menge wieder reduziert werden.<\/p>\n\n\n\n
                  \n\n\n\n
                  57. Candidate Generation<\/h1>\n\n\n\n
                  Dense und Sparse Retrieval werden h\u00e4ufig als Candidate Generators<\/strong> eingesetzt.<\/p>\n\n\n\n
                  Beispielsweise:<\/p>\n\n\n\n
                  Dense Top 50\nSparse Top 50\n      \u2193\nFusion\n      \u2193\n70 eindeutige Kandidaten\n      \u2193\nReranker\n      \u2193\nTop 10\n<\/code><\/pre>\n\n\n\n
                  Das Ziel der ersten Stufe ist hoher Recall.<\/p>\n\n\n\n
                  \n\n\n\n
                  58. Recall First<\/h1>\n\n\n\n
                  In der Candidate-Generation-Phase ist es oft wichtiger, die richtige Passage \u00fcberhaupt im Kandidatenpool zu haben, als sofort perfekt zu sortieren.<\/p>\n\n\n\n
                  Denn:<\/p>\n\n\n\n
                  nicht retrieved\n=\nsp\u00e4ter nicht rerankbar\n<\/code><\/pre>\n\n\n\n
                  Ein Reranker kann einen Kandidaten nur verbessern, wenn er vorher gefunden wurde.<\/p>\n\n\n\n
                  \n\n\n\n
                  59. Precision Later<\/h1>\n\n\n\n
                  Nachdem gen\u00fcgend Kandidaten vorhanden sind, kann eine teurere zweite Stufe die Pr\u00e4zision erh\u00f6hen.<\/p>\n\n\n\n
                  hoher Recall\n      \u2193\nReranking\n      \u2193\nhohe Precision\n<\/code><\/pre>\n\n\n\n
                  Diese zweistufige Denkweise ist zentral f\u00fcr modernes Retrieval.<\/p>\n\n\n\n
                  \n\n\n\n
                  60. Keyword Search versus BM25<\/h1>\n\n\n\n
                  Nicht jede Keyword-Suche verwendet automatisch BM25.<\/p>\n\n\n\n
                  Es gibt beispielsweise:<\/p>\n\n\n\n
                    \n
                  • Boolean Search,<\/li>\n\n\n\n
                  • Exact Match,<\/li>\n\n\n\n
                  • Phrase Search,<\/li>\n\n\n\n
                  • Prefix Search,<\/li>\n\n\n\n
                  • Fuzzy Search,<\/li>\n\n\n\n
                  • TF-IDF,<\/li>\n\n\n\n
                  • BM25.<\/li>\n<\/ul>\n\n\n\n
                    BM25 ist ein Ranking-Modell innerhalb der gr\u00f6sseren Welt lexikalischer Suche.<\/p>\n\n\n\n
                    \n\n\n\n
                    61. Boolean Retrieval<\/h1>\n\n\n\n
                    Bei Boolean Retrieval<\/strong> arbeitet man mit logischen Bedingungen.<\/p>\n\n\n\n
                    Beispiel:<\/p>\n\n\n\n
                    probezeit AND k\u00fcndigung\n<\/code><\/pre>\n\n\n\n
                    oder:<\/p>\n\n\n\n
                    probezeit AND NOT ferien\n<\/code><\/pre>\n\n\n\n
                    Das System entscheidet prim\u00e4r anhand logischer Matches.<\/p>\n\n\n\n
                    F\u00fcr klassische Suchinterfaces kann das sehr n\u00fctzlich sein.<\/p>\n\n\n\n
                    F\u00fcr nat\u00fcrlichsprachliche RAG-Queries ist es allein meist zu starr.<\/p>\n\n\n\n
                    \n\n\n\n
                    62. Phrase Search<\/h1>\n\n\n\n
                    Bei Phrase Search<\/strong> wird eine exakte Wortfolge gesucht.<\/p>\n\n\n\n
                    Beispiel:<\/p>\n\n\n\n
                    \"K\u00fcndigungsfrist w\u00e4hrend der Probezeit\"\n<\/code><\/pre>\n\n\n\n
                    Das ist st\u00e4rker als eine Suche nach den einzelnen Terms irgendwo im Dokument.<\/p>\n\n\n\n
                    Phrase Matching kann besonders f\u00fcr:<\/p>\n\n\n\n
                      \n
                    • Namen,<\/li>\n\n\n\n
                    • Titel,<\/li>\n\n\n\n
                    • Fachbegriffe,<\/li>\n\n\n\n
                    • Zitate<\/li>\n<\/ul>\n\n\n\n
                      hilfreich sein.<\/p>\n\n\n\n
                      \n\n\n\n
                      63. Proximity Search<\/h1>\n\n\n\n
                      Proximity Search<\/strong> ber\u00fccksichtigt, wie nahe Suchbegriffe im Text beieinander liegen.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Probezeit ... K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
                      im selben Satz ist wahrscheinlich relevanter als:<\/p>\n\n\n\n
                      Probezeit\n<\/code><\/pre>\n\n\n\n
                      auf Seite 1 und:<\/p>\n\n\n\n
                      K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
                      auf Seite 30.<\/p>\n\n\n\n
                      Positionen im invertierten Index erm\u00f6glichen solche Signale.<\/p>\n\n\n\n
                      \n\n\n\n
                      64. Field Boosting<\/h1>\n\n\n\n
                      Dokumente besitzen h\u00e4ufig Felder:<\/p>\n\n\n\n
                      title\nheading\nbody\ntags\n<\/code><\/pre>\n\n\n\n
                      Ein Treffer im Titel kann st\u00e4rker gewichtet werden als derselbe Begriff im Body.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Title:\nK\u00fcndigung w\u00e4hrend der Probezeit\n<\/code><\/pre>\n\n\n\n
                      ist ein sehr starkes Signal f\u00fcr die Query:<\/p>\n\n\n\n
                      K\u00fcndigung Probezeit\n<\/code><\/pre>\n\n\n\n
                      Diese Technik heisst h\u00e4ufig Field Boosting<\/strong>.<\/p>\n\n\n\n
                      \n\n\n\n
                      65. Metadata Boosting<\/h1>\n\n\n\n
                      Neben Textfeldern k\u00f6nnen auch Metadaten das Ranking beeinflussen.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      aktuelles Dokument\n<\/code><\/pre>\n\n\n\n
                      k\u00f6nnte gegen\u00fcber:<\/p>\n\n\n\n
                      archiviertes Dokument\n<\/code><\/pre>\n\n\n\n
                      bevorzugt werden.<\/p>\n\n\n\n
                      Das ist allerdings kein rein textbasiertes Relevanzsignal mehr.<\/p>\n\n\n\n
                      \n\n\n\n
                      66. Recency Boost<\/h1>\n\n\n\n
                      Bei zeitabh\u00e4ngigen Wissensbest\u00e4nden kann Recency<\/strong> relevant sein.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Richtlinie 2026\n<\/code><\/pre>\n\n\n\n
                      soll m\u00f6glicherweise h\u00f6her ranken als:<\/p>\n\n\n\n
                      Richtlinie 2023\n<\/code><\/pre>\n\n\n\n
                      wenn beide ansonsten \u00e4hnlich sind.<\/p>\n\n\n\n
                      Das kann durch Filter oder Ranking-Boosts erfolgen.<\/p>\n\n\n\n
                      \n\n\n\n
                      67. Fuzzy Search<\/h1>\n\n\n\n
                      Fuzzy Search<\/strong> toleriert kleine Schreibabweichungen.<\/p>\n\n\n\n
                      Query:<\/p>\n\n\n\n
                      K\u00fcndigunsfrist\n<\/code><\/pre>\n\n\n\n
                      Dokument:<\/p>\n\n\n\n
                      K\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
                      Eine exakte Suche w\u00fcrde scheitern.<\/p>\n\n\n\n
                      Fuzzy Matching kann den Tippfehler \u00fcberbr\u00fccken.<\/p>\n\n\n\n
                      \n\n\n\n
                      68. Edit Distance<\/h1>\n\n\n\n
                      Ein h\u00e4ufig verwendetes Konzept hinter Fuzzy Search ist die Edit Distance<\/strong>.<\/p>\n\n\n\n
                      Sie misst, wie viele Zeichenoperationen n\u00f6tig sind, um einen String in einen anderen umzuwandeln.<\/p>\n\n\n\n
                      Beispielsweise:<\/p>\n\n\n\n
                      Haus\nMaus\n<\/code><\/pre>\n\n\n\n
                      ben\u00f6tigt eine Ersetzung.<\/p>\n\n\n\n
                      Die bekannteste Variante ist die Levenshtein Distance<\/strong>.<\/p>\n\n\n\n
                      \n\n\n\n
                      69. Prefix Search<\/h1>\n\n\n\n
                      Bei Prefix Search kann eine Anfrage wie:<\/p>\n\n\n\n
                      k\u00fcndig\n<\/code><\/pre>\n\n\n\n
                      Begriffe finden wie:<\/p>\n\n\n\n
                      k\u00fcndigung\nk\u00fcndigungsfrist\nk\u00fcndigen\n<\/code><\/pre>\n\n\n\n
                      Das ist besonders f\u00fcr Suchfelder mit Autocomplete interessant.<\/p>\n\n\n\n
                      In RAG-Pipelines spielt es je nach Query-Typ eine kleinere, aber m\u00f6gliche Rolle.<\/p>\n\n\n\n
                      \n\n\n\n
                      70. Analyzer<\/h1>\n\n\n\n
                      Ein Analyzer<\/strong> definiert in klassischen Suchmaschinen typischerweise eine Verarbeitungskette aus:<\/p>\n\n\n\n
                      Character Filters\n      \u2193\nTokenizer\n      \u2193\nToken Filters\n<\/code><\/pre>\n\n\n\n
                      Beispielsweise:<\/p>\n\n\n\n
                      Text\n \u2193\nLowercase\n \u2193\nGerman Tokenizer\n \u2193\nStemming\n \u2193\nIndex Terms\n<\/code><\/pre>\n\n\n\n
                      Der Analyzer bestimmt wesentlich, welche Begriffe sp\u00e4ter matchen.<\/p>\n\n\n\n
                      \n\n\n\n
                      71. Index-Time Analysis<\/h1>\n\n\n\n
                      Bei der Indexierung wird Dokumenttext analysiert.<\/p>\n\n\n\n
                      Dokument\n \u2193\nAnalyzer\n \u2193\nTerms\n \u2193\nInverted Index\n<\/code><\/pre>\n\n\n\n
                      Das ist Index-Time Analysis<\/strong>.<\/p>\n\n\n\n
                      \n\n\n\n
                      72. Query-Time Analysis<\/h1>\n\n\n\n
                      Auch die Suchanfrage muss verarbeitet werden.<\/p>\n\n\n\n
                      Query\n \u2193\nAnalyzer\n \u2193\nQuery Terms\n<\/code><\/pre>\n\n\n\n
                      Index- und Query-Analyse m\u00fcssen sinnvoll aufeinander abgestimmt sein.<\/p>\n\n\n\n
                      Wenn Dokumente und Queries v\u00f6llig unterschiedlich tokenisiert werden, sinkt die Trefferqualit\u00e4t.<\/p>\n\n\n\n
                      \n\n\n\n
                      73. Query Expansion<\/h1>\n\n\n\n
                      Query Expansion<\/strong> erweitert eine Suchanfrage um verwandte Begriffe.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Query:\nAuto\n<\/code><\/pre>\n\n\n\n
                      erweitert zu:<\/p>\n\n\n\n
                      Auto\nFahrzeug\nPKW\n<\/code><\/pre>\n\n\n\n
                      Das kann lexikalischen Recall erh\u00f6hen.<\/p>\n\n\n\n
                      Bei RAG kann Query Expansion regelbasiert, modellbasiert oder \u00fcber LLMs erfolgen.<\/p>\n\n\n\n
                      \n\n\n\n
                      74. Synonym Expansion<\/h1>\n\n\n\n
                      Eine spezielle Form ist Synonym Expansion<\/strong>.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      k\u00fcndigen\n\u2194\nArbeitsverh\u00e4ltnis beenden\n<\/code><\/pre>\n\n\n\n
                      Dadurch kann Sparse Retrieval teilweise semantische Varianten abdecken.<\/p>\n\n\n\n
                      Das zeigt:<\/p>\n\n\n\n
                      \n
                      Sparse Search muss nicht zwingend auf exakte Wortgleichheit beschr\u00e4nkt bleiben.<\/p>\n<\/blockquote>\n\n\n\n
                      \n\n\n\n
                      75. Expansion birgt Risiken<\/h1>\n\n\n\n
                      Zu aggressive Expansion kann falsche Treffer erzeugen.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Bank\n<\/code><\/pre>\n\n\n\n
                      kann bedeuten:<\/p>\n\n\n\n
                      Finanzinstitut\n<\/code><\/pre>\n\n\n\n
                      oder:<\/p>\n\n\n\n
                      Sitzbank\n<\/code><\/pre>\n\n\n\n
                      Kontextabh\u00e4ngige Bedeutungen machen Synonymregeln schwierig.<\/p>\n\n\n\n
                      Dense Retrieval l\u00f6st solche Ambiguit\u00e4ten h\u00e4ufig besser.<\/p>\n\n\n\n
                      \n\n\n\n
                      76. Learned Sparse Retrieval<\/h1>\n\n\n\n
                      Klassische sparse Verfahren verwenden explizite Termstatistiken.<\/p>\n\n\n\n
                      Neuere Ans\u00e4tze lernen Sparse-Repr\u00e4sentationen neuronaler Modelle.<\/p>\n\n\n\n
                      Ein Text k\u00f6nnte dadurch Gewichte nicht nur f\u00fcr direkt vorkommende W\u00f6rter erhalten, sondern auch f\u00fcr semantisch verwandte Begriffe.<\/p>\n\n\n\n
                      Vereinfacht:<\/p>\n\n\n\n
                      Text:\nArbeitsverh\u00e4ltnis beenden\n<\/code><\/pre>\n\n\n\n
                      k\u00f6nnte zus\u00e4tzlich hohe Gewichte erhalten f\u00fcr:<\/p>\n\n\n\n
                      k\u00fcndigung\nk\u00fcndigen\nk\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
                      Das verbindet teilweise Vorteile von Sparse und semantischer Suche.<\/p>\n\n\n\n
                      \n\n\n\n
                      77. SPLADE<\/h1>\n\n\n\n
                      SPLADE<\/strong> ist eine bekannte Familie neuronaler Sparse-Retrieval-Modelle.<\/p>\n\n\n\n
                      Die Grundidee:<\/p>\n\n\n\n
                      Text\n \u2193\nTransformer\n \u2193\ngewichtete Sparse-Term-Repr\u00e4sentation\n<\/code><\/pre>\n\n\n\n
                      Die Repr\u00e4sentation bleibt kompatibel mit sparse Suchprinzipien, enth\u00e4lt aber gelernte semantische Expansion.<\/p>\n\n\n\n
                      F\u00fcr das Grundverst\u00e4ndnis gen\u00fcgt:<\/p>\n\n\n\n
                      \n
                      Sparse Retrieval kann klassisch oder gelernt sein.<\/p>\n<\/blockquote>\n\n\n\n
                      \n\n\n\n
                      78. Dense versus Learned Sparse<\/h1>\n\n\n\n
                      Beide k\u00f6nnen semantische Information transportieren.<\/p>\n\n\n\n
                      Der strukturelle Unterschied bleibt:<\/p>\n\n\n\n
                      Dense:<\/p>\n\n\n\n
                      kleiner fester Vektorraum\nmit vielen Nichtnullwerten\n<\/code><\/pre>\n\n\n\n
                      Learned Sparse:<\/p>\n\n\n\n
                      sehr grosser Vokabularraum\nmit wenigen gewichteten Terms\n<\/code><\/pre>\n\n\n\n
                      Das beeinflusst Indexierung, Speicher und Suchverfahren.<\/p>\n\n\n\n
                      \n\n\n\n
                      79. Hybrid kann mehr als zwei Retriever kombinieren<\/h1>\n\n\n\n
                      Hybrid Search muss nicht nur bedeuten:<\/p>\n\n\n\n
                      Dense + BM25\n<\/code><\/pre>\n\n\n\n
                      Man k\u00f6nnte kombinieren:<\/p>\n\n\n\n
                      Dense Embedding Search\n+\nBM25\n+\nLearned Sparse\n+\nMetadata Signals\n<\/code><\/pre>\n\n\n\n
                      oder sogar weitere Suchkan\u00e4le.<\/p>\n\n\n\n
                      Je mehr Signale hinzukommen, desto wichtiger wird eine robuste Fusion.<\/p>\n\n\n\n
                      \n\n\n\n
                      80. Multi-Retriever Systems<\/h1>\n\n\n\n
                      Ein System mit mehreren unabh\u00e4ngigen Retrieval-Methoden wird h\u00e4ufig als Multi-Retriever<\/strong>-Ansatz beschrieben.<\/p>\n\n\n\n
                      Beispiel:<\/p>\n\n\n\n
                      Query\n \u251c\u2500\u2500 Dense Retriever\n \u251c\u2500\u2500 BM25 Retriever\n \u251c\u2500\u2500 Metadata Retriever\n \u2514\u2500\u2500 Graph Retriever\n<\/code><\/pre>\n\n\n\n
                      Danach werden Kandidaten kombiniert.<\/p>\n\n\n\n
                      Hybrid Retrieval ist damit ein Spezialfall eines allgemeineren Multi-Retriever-Prinzips.<\/p>\n\n\n\n
                      \n\n\n\n
                      81. Query Routing<\/h1>\n\n\n\n
                      Nicht jede Query ben\u00f6tigt zwingend alle Retriever.<\/p>\n\n\n\n
                      Ein System k\u00f6nnte erkennen:<\/p>\n\n\n\n
                      Query enth\u00e4lt exakte ID\n<\/code><\/pre>\n\n\n\n
                      und Sparse Search st\u00e4rker einsetzen.<\/p>\n\n\n\n
                      Oder:<\/p>\n\n\n\n
                      Query ist konzeptionell\n<\/code><\/pre>\n\n\n\n
                      und Dense Search bevorzugen.<\/p>\n\n\n\n
                      Diese Entscheidung nennt man h\u00e4ufig Query Routing<\/strong>.<\/p>\n\n\n\n
                      \n\n\n\n
                      82. Routing versus Fusion<\/h1>\n\n\n\n
                      Bei Routing entscheidet man:<\/p>\n\n\n\n
                      Welcher Retriever soll verwendet werden?\n<\/code><\/pre>\n\n\n\n
                      Bei Fusion entscheidet man:<\/p>\n\n\n\n
                      Wie kombiniere ich mehrere Retriever-Ergebnisse?\n<\/code><\/pre>\n\n\n\n
                      Beides sind unterschiedliche Strategien.<\/p>\n\n\n\n
                      \n\n\n\n
                      83. Warum immer beide Retriever verwenden?<\/h1>\n\n\n\n
                      Ein einfacher Ansatz lautet:<\/p>\n\n\n\n
                      jede Query\n\u2192 Dense\n\u2192 Sparse\n\u2192 Fusion\n<\/code><\/pre>\n\n\n\n
                      Vorteile:<\/p>\n\n\n\n
                        \n
                      • einfach,<\/li>\n\n\n\n
                      • robust,<\/li>\n\n\n\n
                      • keine falsche Routing-Entscheidung.<\/li>\n<\/ul>\n\n\n\n
                        Nachteile:<\/p>\n\n\n\n
                          \n
                        • mehr Suchaufwand,<\/li>\n\n\n\n
                        • potenziell h\u00f6here Latenz,<\/li>\n\n\n\n
                        • mehr Kandidaten.<\/li>\n<\/ul>\n\n\n\n
                          F\u00fcr viele Systeme ist dieser Trade-off trotzdem attraktiv.<\/p>\n\n\n\n
                          \n\n\n\n
                          84. Warum nicht nur BM25?<\/h1>\n\n\n\n
                          BM25 kann erstaunlich stark sein.<\/p>\n\n\n\n
                          Aber bei semantischer Umschreibung entstehen Grenzen.<\/p>\n\n\n\n
                          Query:<\/p>\n\n\n\n
                          Kann ich in den ersten Monaten kurzfristig aus dem Arbeitsvertrag raus?\n<\/code><\/pre>\n\n\n\n
                          Passage:<\/p>\n\n\n\n
                          W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n<\/code><\/pre>\n\n\n\n
                          Die lexikalische \u00dcberschneidung ist gering.<\/p>\n\n\n\n
                          Dense Retrieval kann hier deutlich besser funktionieren.<\/p>\n\n\n\n
                          \n\n\n\n
                          85. Warum nicht nur Dense?<\/h1>\n\n\n\n
                          Umgekehrt:<\/p>\n\n\n\n
                          Query:<\/p>\n\n\n\n
                          CVE-2026-12345\n<\/code><\/pre>\n\n\n\n
                          Dense Retrieval muss diese konkrete Zeichenfolge nicht zwingend perfekt priorisieren.<\/p>\n\n\n\n
                          BM25 sieht dagegen einen extrem seltenen, exakten Term.<\/p>\n\n\n\n
                          Hier ist Sparse Retrieval strukturell besser geeignet.<\/p>\n\n\n\n
                          \n\n\n\n
                          86. Hybrid Search als Robustheitsstrategie<\/h1>\n\n\n\n
                          Hybrid Search ist deshalb weniger eine exotische Optimierung als eine Robustheitsstrategie<\/strong>.<\/p>\n\n\n\n
                          Sie reduziert die Abh\u00e4ngigkeit von einer einzigen Vorstellung von Relevanz.<\/p>\n\n\n\n
                          Dense sagt:<\/p>\n\n\n\n
                          \n
                          Diese Texte bedeuten \u00c4hnliches.<\/p>\n<\/blockquote>\n\n\n\n
                          Sparse sagt:<\/p>\n\n\n\n
                          \n
                          Diese Texte verwenden dieselben wichtigen Begriffe.<\/p>\n<\/blockquote>\n\n\n\n
                          Beides zusammen liefert ein st\u00e4rkeres Signal.<\/p>\n\n\n\n
                          \n\n\n\n
                          87. Lexical Match und Semantic Match<\/h1>\n\n\n\n
                          Man kann zwei unterschiedliche Relevanztypen unterscheiden.<\/p>\n\n\n\n
                          Lexical Match<\/strong><\/p>\n\n\n\n
                          Query:\nK\u00fcndigungsfrist\n\nPassage:\nK\u00fcndigungsfrist\n<\/code><\/pre>\n\n\n\n
                          Semantic Match<\/strong><\/p>\n\n\n\n
                          Query:\nVertrag beenden\n\nPassage:\nArbeitsverh\u00e4ltnis k\u00fcndigen\n<\/code><\/pre>\n\n\n\n
                          Hybrid Search versucht beide Arten gleichzeitig abzudecken.<\/p>\n\n\n\n
                          \n\n\n\n
                          88. Score Calibration<\/h1>\n\n\n\n
                          Bei Score Fusion stellt sich die Frage, ob Scores verschiedener Retriever kalibriert<\/strong> sind.<\/p>\n\n\n\n
                          Ein Dense Score von:<\/p>\n\n\n\n
                          0.78\n<\/code><\/pre>\n\n\n\n
                          und ein BM25 Score von:<\/p>\n\n\n\n
                          11.6\n<\/code><\/pre>\n\n\n\n
                          sind nicht direkt vergleichbar.<\/p>\n\n\n\n
                          Calibration versucht, Scores in eine interpretierbarere oder gemeinsame Skala zu bringen.<\/p>\n\n\n\n
                          Das ist schwieriger als Rank Fusion.<\/p>\n\n\n\n
                          \n\n\n\n
                          89. RRF versus Weighted Score Fusion<\/h1>\n\n\n\n
                          Vereinfacht:<\/p>\n\n\n\n
                          RRF<\/strong><\/p>\n\n\n\n
                          Vorteile:<\/p>\n\n\n\n
                            \n
                          • robust,<\/li>\n\n\n\n
                          • einfach,<\/li>\n\n\n\n
                          • keine Score-Normalisierung n\u00f6tig.<\/li>\n<\/ul>\n\n\n\n
                            Nachteile:<\/p>\n\n\n\n
                              \n
                            • ignoriert Score-Abst\u00e4nde.<\/li>\n<\/ul>\n\n\n\n
                              Weighted Score Fusion<\/strong><\/p>\n\n\n\n
                              Vorteile:<\/p>\n\n\n\n
                                \n
                              • kann St\u00e4rke einzelner Scores ber\u00fccksichtigen.<\/li>\n<\/ul>\n\n\n\n
                                Nachteile:<\/p>\n\n\n\n
                                  \n
                                • ben\u00f6tigt Normalisierung beziehungsweise Calibration.<\/li>\n<\/ul>\n\n\n\n
                                  Es gibt keinen universellen Gewinner.<\/p>\n\n\n\n
                                  \n\n\n\n
                                  90. Score-Abstand kann Information enthalten<\/h1>\n\n\n\n
                                  Angenommen Dense liefert:<\/p>\n\n\n\n
                                  A = 0.91\nB = 0.90\n<\/code><\/pre>\n\n\n\n
                                  Das ist ein sehr kleiner Unterschied.<\/p>\n\n\n\n
                                  Oder:<\/p>\n\n\n\n
                                  A = 0.91\nB = 0.55\n<\/code><\/pre>\n\n\n\n
                                  Hier ist der Unterschied wesentlich gr\u00f6sser.<\/p>\n\n\n\n
                                  Rank Fusion betrachtet in beiden F\u00e4llen nur:<\/p>\n\n\n\n
                                  A Rang 1\nB Rang 2\n<\/code><\/pre>\n\n\n\n
                                  und verliert die Information \u00fcber den Score-Abstand.<\/p>\n\n\n\n
                                  Das ist eine der Grenzen von RRF.<\/p>\n\n\n\n
                                  \n\n\n\n
                                  91. Trotzdem ist Rang oft stabiler als Score<\/h1>\n\n\n\n
                                  Absolute Scores k\u00f6nnen sich stark ver\u00e4ndern durch:<\/p>\n\n\n\n
                                    \n
                                  • anderes Embedding-Modell,<\/li>\n\n\n\n
                                  • andere Query,<\/li>\n\n\n\n
                                  • anderen Korpus,<\/li>\n\n\n\n
                                  • andere BM25-Statistiken.<\/li>\n<\/ul>\n\n\n\n
                                    R\u00e4nge sind oft leichter zu kombinieren.<\/p>\n\n\n\n
                                    Deshalb ist RRF als Baseline sehr beliebt.<\/p>\n\n\n\n
                                    \n\n\n\n
                                    92. Top-k pro Retriever<\/h1>\n\n\n\n
                                    Bei Hybrid Search ben\u00f6tigt jeder Retriever ein eigenes k.<\/p>\n\n\n\n
                                    Beispiel:<\/p>\n\n\n\n
                                    Dense Top 30\nSparse Top 30\n<\/code><\/pre>\n\n\n\n
                                    oder:<\/p>\n\n\n\n
                                    Dense Top 50\nSparse Top 20\n<\/code><\/pre>\n\n\n\n
                                    Diese Werte beeinflussen den Recall der fusionierten Kandidatenmenge.<\/p>\n\n\n\n
                                    \n\n\n\n
                                    93. Warum ein zu kleines k gef\u00e4hrlich ist<\/h1>\n\n\n\n
                                    Angenommen, die relevante Passage liegt:<\/p>\n\n\n\n
                                    Dense Rank 7\nSparse Rank 2\n<\/code><\/pre>\n\n\n\n
                                    Bei:<\/p>\n\n\n\n
                                    Dense k = 5\nSparse k = 5\n<\/code><\/pre>\n\n\n\n
                                    wird sie trotzdem \u00fcber Sparse gefunden.<\/p>\n\n\n\n
                                    Wenn sie aber:<\/p>\n\n\n\n
                                    Dense Rank 7\nSparse Rank 9\n<\/code><\/pre>\n\n\n\n
                                    ist und beide Retriever nur Top 5 liefern, ist sie vollst\u00e4ndig verloren.<\/p>\n\n\n\n
                                    \n\n\n\n
                                    94. Warum ein zu grosses k teuer wird<\/h1>\n\n\n\n
                                    Bei:<\/p>\n\n\n\n
                                    Dense k = 200\nSparse k = 200\n<\/code><\/pre>\n\n\n\n
                                    kann die Union hunderte Kandidaten enthalten.<\/p>\n\n\n\n
                                    Das belastet:<\/p>\n\n\n\n
                                      \n
                                    • Fusion,<\/li>\n\n\n\n
                                    • Reranking,<\/li>\n\n\n\n
                                    • Latenz,<\/li>\n\n\n\n
                                    • Speicher,<\/li>\n\n\n\n
                                    • eventuell LLM-basierte Rankingstufen.<\/li>\n<\/ul>\n\n\n\n
                                      Deshalb muss k evaluiert werden.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      95. Candidate Recall<\/h1>\n\n\n\n
                                      Eine wichtige Metrik f\u00fcr diese Stufe ist:<\/p>\n\n\n\n
                                      \n
                                      Ist mindestens eine relevante Passage im Kandidatenpool?<\/p>\n<\/blockquote>\n\n\n\n
                                      Das ist Candidate Recall<\/strong> beziehungsweise Retrieval Recall.<\/p>\n\n\n\n
                                      Wenn die relevante Passage bereits hier fehlt, kann keine sp\u00e4tere Stufe sie retten.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      96. Search Recall versus Answer Quality<\/h1>\n\n\n\n
                                      Ein System kann hervorragenden Retrieval Recall haben und trotzdem schlechte Antworten erzeugen.<\/p>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      Top 50 enth\u00e4lt richtigen Chunk\n<\/code><\/pre>\n\n\n\n
                                      aber:<\/p>\n\n\n\n
                                      Reranker wirft ihn weg\n<\/code><\/pre>\n\n\n\n
                                      oder:<\/p>\n\n\n\n
                                      LLM ignoriert ihn\n<\/code><\/pre>\n\n\n\n
                                      Deshalb m\u00fcssen die Pipeline-Stufen separat gemessen werden.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      97. Search Precision<\/h1>\n\n\n\n
                                      Precision<\/strong> betrachtet den Anteil relevanter Treffer innerhalb der zur\u00fcckgegebenen Menge.<\/p>\n\n\n\n
                                      Vereinfacht:<\/p>\n\n\n\n
                                      10 Treffer\ndavon 7 relevant\n\nPrecision = 0.7\n<\/code><\/pre>\n\n\n\n
                                      Bei der ersten Candidate-Generation ist perfekte Precision oft weniger wichtig als guter Recall.<\/p>\n\n\n\n
                                      Sp\u00e4ter wird sie wichtiger.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      98. Recall und Precision stehen oft im Spannungsfeld<\/h1>\n\n\n\n
                                      Ein sehr breites Retrieval:<\/p>\n\n\n\n
                                      Top 100\n<\/code><\/pre>\n\n\n\n
                                      erh\u00f6ht die Chance, relevante Dokumente zu finden.<\/p>\n\n\n\n
                                      Aber es enth\u00e4lt m\u00f6glicherweise viele irrelevante Kandidaten.<\/p>\n\n\n\n
                                      Ein sehr enges Retrieval:<\/p>\n\n\n\n
                                      Top 3\n<\/code><\/pre>\n\n\n\n
                                      kann hohe Precision besitzen, aber relevante Passagen verpassen.<\/p>\n\n\n\n
                                      Das ist der klassische Recall-Precision-Trade-off.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      99. Threshold Search<\/h1>\n\n\n\n
                                      Statt nur Top-k kann man Treffer auch anhand eines Mindest-Scores filtern.<\/p>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      nur Similarity \u2265 0.70\n<\/code><\/pre>\n\n\n\n
                                      oder:<\/p>\n\n\n\n
                                      BM25 Score \u2265 X\n<\/code><\/pre>\n\n\n\n
                                      Aber Thresholds sind problematisch, weil Scores query- und modellspezifisch sind.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      100. Top-k und Threshold kombinieren<\/h1>\n\n\n\n
                                      Man kann beide Strategien kombinieren:<\/p>\n\n\n\n
                                      hole maximal 20 Treffer\naber nur wenn Score \u2265 Threshold\n<\/code><\/pre>\n\n\n\n
                                      Damit verhindert man beispielsweise, dass bei v\u00f6llig irrelevanten Queries trotzdem 20 schlechte Treffer zur\u00fcckgegeben werden.<\/p>\n\n\n\n
                                      Auch hier muss der Threshold empirisch bestimmt werden.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      101. Null Result<\/h1>\n\n\n\n
                                      Ein gesundes Suchsystem muss zulassen:<\/p>\n\n\n\n
                                      0 brauchbare Treffer\n<\/code><\/pre>\n\n\n\n
                                      Es sollte nicht zwanghaft immer Ergebnisse liefern.<\/p>\n\n\n\n
                                      Denn:<\/p>\n\n\n\n
                                      Top-k\n<\/code><\/pre>\n\n\n\n
                                      bedeutet nur:<\/p>\n\n\n\n
                                      \n
                                      Die besten k aus dem vorhandenen Korpus.<\/p>\n<\/blockquote>\n\n\n\n
                                      Nicht:<\/p>\n\n\n\n
                                      \n
                                      Diese k sind gut.<\/p>\n<\/blockquote>\n\n\n\n
                                      \n\n\n\n
                                      102. Das Top-k-Paradox<\/h1>\n\n\n\n
                                      Wenn das Korpus \u00fcberhaupt nichts Relevantes enth\u00e4lt, liefert eine reine Top-k-Suche trotzdem:<\/p>\n\n\n\n
                                      Top 5\n<\/code><\/pre>\n\n\n\n
                                      Diese f\u00fcnf Treffer sind mathematisch die besten.<\/p>\n\n\n\n
                                      Aber m\u00f6glicherweise alle ungeeignet.<\/p>\n\n\n\n
                                      Deshalb ben\u00f6tigt ein RAG-System sp\u00e4ter zus\u00e4tzliche Answerability- oder Relevance-Pr\u00fcfungen.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      103. Query Intent und Retrieval<\/h1>\n\n\n\n
                                      Die Form einer Query beeinflusst, welche Suchart stark ist.<\/p>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      \"INC-847291\"\n<\/code><\/pre>\n\n\n\n
                                      ist identifier-orientiert.<\/p>\n\n\n\n
                                      \"Welche Regeln gelten, wenn ich in den ersten Monaten k\u00fcndigen m\u00f6chte?\"\n<\/code><\/pre>\n\n\n\n
                                      ist semantisch.<\/p>\n\n\n\n
                                      \"Artikel 17 K\u00fcndigungsfrist\"\n<\/code><\/pre>\n\n\n\n
                                      ist gemischt.<\/p>\n\n\n\n
                                      Hybrid Search reduziert die Notwendigkeit, jede Query perfekt zu klassifizieren.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      104. Filters versus Search Terms<\/h1>\n\n\n\n
                                      Angenommen, die Query lautet:<\/p>\n\n\n\n
                                      Was sagt das Personalreglement 2026 zur Probezeit?\n<\/code><\/pre>\n\n\n\n
                                      Man k\u00f6nnte alles als Text suchen.<\/p>\n\n\n\n
                                      Oder strukturierte Teile extrahieren:<\/p>\n\n\n\n
                                      document_type = personalreglement\nyear = 2026\n<\/code><\/pre>\n\n\n\n
                                      und nur:<\/p>\n\n\n\n
                                      Probezeit\n<\/code><\/pre>\n\n\n\n
                                      retrieven.<\/p>\n\n\n\n
                                      Das kann pr\u00e4ziser sein.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      105. Filter sind harte Bedingungen<\/h1>\n\n\n\n
                                      Ein Filter bedeutet typischerweise:<\/p>\n\n\n\n
                                      muss erf\u00fcllt sein\n<\/code><\/pre>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      year = 2026\n<\/code><\/pre>\n\n\n\n
                                      Ein Dokument von 2025 wird ausgeschlossen, selbst wenn es semantisch perfekt passt.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      106. Boosts sind weiche Bedingungen<\/h1>\n\n\n\n
                                      Ein Boost bedeutet dagegen:<\/p>\n\n\n\n
                                      bevorzugen, aber nicht zwingend\n<\/code><\/pre>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      Dokumente von 2026 h\u00f6her ranken\n<\/code><\/pre>\n\n\n\n
                                      Ein Dokument von 2025 kann weiterhin auftauchen.<\/p>\n\n\n\n
                                      Filter und Boosts d\u00fcrfen nicht verwechselt werden.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      107. Query Parser<\/h1>\n\n\n\n
                                      Ein Query Parser<\/strong> kann versuchen, strukturierte Bestandteile einer Anfrage zu erkennen.<\/p>\n\n\n\n
                                      Beispiel:<\/p>\n\n\n\n
                                      \"Personalreglement 2026 Probezeit\"\n<\/code><\/pre>\n\n\n\n
                                      wird zu:<\/p>\n\n\n\n
                                      text_query = \"Probezeit\"\ndocument_type = \"Personalreglement\"\nyear = 2026\n<\/code><\/pre>\n\n\n\n
                                      Das kombiniert nat\u00fcrliche Sprache mit strukturierter Suche.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      108. Metadata-aware Retrieval<\/h1>\n\n\n\n
                                      Wenn Metadaten sauber w\u00e4hrend der Ingestion erzeugt wurden, kann Retrieval sie nutzen.<\/p>\n\n\n\n
                                      Damit zeigt sich wieder die Verbindung zu Teil 2:<\/p>\n\n\n\n
                                      gute Ingestion\n      \u2193\ngute Metadaten\n      \u2193\npr\u00e4zisere Filter\n      \u2193\nbesseres Retrieval\n<\/code><\/pre>\n\n\n\n
                                      \n\n\n\n
                                      109. Retrieval ist ein System aus Signalen<\/h1>\n\n\n\n
                                      Man sollte sich Retrieval nicht als einen einzelnen Score vorstellen.<\/p>\n\n\n\n
                                      Ein modernes System kann viele Signale ber\u00fccksichtigen:<\/p>\n\n\n\n
                                      Dense Similarity\nBM25\nExact Match\nTitle Match\nMetadata\nRecency\nDocument Type\nPermissions\n<\/code><\/pre>\n\n\n\n
                                      Danach werden diese Signale kombiniert oder in mehreren Stufen verarbeitet.<\/p>\n\n\n\n
                                      \n\n\n\n
                                      110. First-Stage Retrieval<\/h1>\n\n\n\n
                                      Die erste Suchstufe wird h\u00e4ufig First-Stage Retrieval<\/strong> genannt.<\/p>\n\n\n\n
                                      Ihre Aufgabe:<\/p>\n\n\n\n
                                      sehr viele Dokumente\n        \u2193\nkleine Kandidatenmenge\n<\/code><\/pre>\n\n\n\n
                                      Sie muss:<\/p>\n\n\n\n
                                        \n
                                      • schnell,<\/li>\n\n\n\n
                                      • skalierbar,<\/li>\n\n\n\n
                                      • recall-stark<\/li>\n<\/ul>\n\n\n\n
                                        sein.<\/p>\n\n\n\n
                                        Dense ANN und BM25 sind typische First-Stage Retriever.<\/p>\n\n\n\n
                                        \n\n\n\n
                                        111. Second-Stage Ranking<\/h1>\n\n\n\n
                                        Danach folgt h\u00e4ufig:<\/p>\n\n\n\n
                                        Second-Stage Ranking<\/strong><\/p>\n\n\n\n
                                        oder:<\/p>\n\n\n\n
                                        Reranking<\/strong>.<\/p>\n\n\n\n
                                        Dabei werden nur noch die Kandidaten genauer bewertet.<\/p>\n\n\n\n
                                        100'000 Chunks\n      \u2193\nFirst Stage\n      \u2193\n50 Kandidaten\n      \u2193\nSecond Stage\n      \u2193\n5 Kandidaten\n<\/code><\/pre>\n\n\n\n
                                        Darum geht es ausf\u00fchrlich in Teil 5.<\/p>\n\n\n\n
                                        \n\n\n\n
                                        112. Lexical Retrieval ist transparent<\/h1>\n\n\n\n
                                        Ein Vorteil klassischer Suchverfahren ist ihre relative Erkl\u00e4rbarkeit.<\/p>\n\n\n\n
                                        Bei einem Treffer kann man h\u00e4ufig nachvollziehen:<\/p>\n\n\n\n
                                        Query-Term \"K\u00fcndigungsfrist\"\nkommt im Dokument vor\n<\/code><\/pre>\n\n\n\n
                                        und:<\/p>\n\n\n\n
                                        ist im Korpus selten\n<\/code><\/pre>\n\n\n\n
                                        Dense Embeddings sind wesentlich schwieriger direkt zu interpretieren.<\/p>\n\n\n\n
                                        Diese Transparenz ist bei Debugging wertvoll.<\/p>\n\n\n\n
                                        \n\n\n\n
                                        113. Dense Retrieval ist flexibler<\/h1>\n\n\n\n
                                        Dense Retrieval kann dagegen Beziehungen erkennen, die lexikalisch nicht sichtbar sind.<\/p>\n\n\n\n
                                        Beispiel:<\/p>\n\n\n\n
                                        Query:\nWie verlasse ich meinen Arbeitgeber w\u00e4hrend der ersten Monate?\n<\/code><\/pre>\n\n\n\n
                                        Dokument:<\/p>\n\n\n\n
                                        W\u00e4hrend der Probezeit betr\u00e4gt die K\u00fcndigungsfrist sieben Tage.\n<\/code><\/pre>\n\n\n\n
                                        Das ist die grosse St\u00e4rke semantischer Repr\u00e4sentationen.<\/p>\n\n\n\n
                                        \n\n\n\n
                                        114. Hybrid Retrieval erh\u00f6ht Fehlertoleranz<\/h1>\n\n\n\n
                                        Wenn Dense Retrieval eine relevante Passage verpasst, kann Sparse sie finden.<\/p>\n\n\n\n
                                        Wenn Sparse wegen fehlender Wort\u00fcberschneidung scheitert, kann Dense sie finden.<\/p>\n\n\n\n
                                        Damit entsteht Redundanz:<\/p>\n\n\n\n
                                        Dense Failure\n   \u2193\nSparse kann retten\n\nSparse Failure\n   \u2193\nDense kann retten\n<\/code><\/pre>\n\n\n\n
                                        Das ist ein wesentlicher Grund, warum Hybrid Retrieval so attraktiv ist.<\/p>\n\n\n\n
                                        \n\n\n\n
                                        115. Hybrid Search l\u00f6st nicht alles<\/h1>\n\n\n\n
                                        Auch Hybrid Search kann scheitern.<\/p>\n\n\n\n
                                        Beispielsweise:<\/p>\n\n\n\n
                                          \n
                                        • relevante Information wurde schlecht gechunkt,<\/li>\n\n\n\n
                                        • OCR hat den Schl\u00fcsselbegriff zerst\u00f6rt,<\/li>\n\n\n\n
                                        • Query ist mehrdeutig,<\/li>\n\n\n\n
                                        • Antwort ben\u00f6tigt mehrere Dokumente,<\/li>\n\n\n\n
                                        • passende Passage liegt ausserhalb beider Top-k,<\/li>\n\n\n\n
                                        • \u00e4hnliche Versionen konkurrieren,<\/li>\n\n\n\n
                                        • der relevante Chunk enth\u00e4lt zu wenig Kontext.<\/li>\n<\/ul>\n\n\n\n
                                          Hybrid Retrieval verbessert die Kandidatensuche.<\/p>\n\n\n\n
                                          Es ersetzt nicht die restliche RAG-Pipeline.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          116. Beispiel einer vollst\u00e4ndigen Hybrid-Suche<\/h1>\n\n\n\n
                                          Angenommen, die Query lautet:<\/p>\n\n\n\n
                                          Welche K\u00fcndigungsfrist gilt w\u00e4hrend der Probezeit?\n<\/code><\/pre>\n\n\n\n
                                          Dense Search:<\/p>\n\n\n\n
                                          1. Dauer und K\u00fcndigung in der Probezeit\n2. K\u00fcndigung nach der Probezeit\n3. Allgemeine Regeln zum Arbeitsverh\u00e4ltnis\n4. Ferien w\u00e4hrend der Probezeit\n<\/code><\/pre>\n\n\n\n
                                          BM25:<\/p>\n\n\n\n
                                          1. K\u00fcndigungsfrist w\u00e4hrend der Probezeit\n2. Allgemeine K\u00fcndigungsfristen\n3. Probezeit\n4. K\u00fcndigung von Arbeitsverh\u00e4ltnissen\n<\/code><\/pre>\n\n\n\n
                                          RRF k\u00f6nnte daraus erzeugen:<\/p>\n\n\n\n
                                          1. K\u00fcndigungsfrist w\u00e4hrend der Probezeit\n2. Dauer und K\u00fcndigung in der Probezeit\n3. Allgemeine K\u00fcndigungsfristen\n4. Probezeit\n<\/code><\/pre>\n\n\n\n
                                          Danach kann ein Reranker die Kandidaten nochmals pr\u00e4ziser bewerten.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          117. Beispiel mit exakter ID<\/h1>\n\n\n\n
                                          Query:<\/p>\n\n\n\n
                                          Was steht zu INC-847291?\n<\/code><\/pre>\n\n\n\n
                                          Dense:<\/p>\n\n\n\n
                                          1. allgemeines Incident-Dokument\n2. \u00e4hnliches Incident-Ticket\n3. INC-847291\n<\/code><\/pre>\n\n\n\n
                                          Sparse:<\/p>\n\n\n\n
                                          1. INC-847291\n2. anderer Text mit Incident-Begriffen\n<\/code><\/pre>\n\n\n\n
                                          Fusion:<\/p>\n\n\n\n
                                          1. INC-847291\n<\/code><\/pre>\n\n\n\n
                                          Hier rettet das exakte lexikalische Signal das Ranking.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          118. Beispiel mit Paraphrase<\/h1>\n\n\n\n
                                          Query:<\/p>\n\n\n\n
                                          Wie kann ich in den ersten Monaten meinen Arbeitsvertrag beenden?\n<\/code><\/pre>\n\n\n\n
                                          Dense:<\/p>\n\n\n\n
                                          1. K\u00fcndigung w\u00e4hrend der Probezeit\n<\/code><\/pre>\n\n\n\n
                                          BM25:<\/p>\n\n\n\n
                                          1. Arbeitsvertrag allgemein\n2. erste Monate Besch\u00e4ftigung\n3. K\u00fcndigung\n<\/code><\/pre>\n\n\n\n
                                          Fusion kann Dense stark ber\u00fccksichtigen und trotzdem zus\u00e4tzliche lexikalische Kandidaten behalten.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          119. Search Pipeline als Funnel<\/h1>\n\n\n\n
                                          Eine hilfreiche Darstellung ist ein Funnel:<\/p>\n\n\n\n
                                          gesamter Index\n100'000 Chunks\n      \u2193\nDense + Sparse\n      \u2193\n100 Kandidaten\n      \u2193\nFusion\n      \u2193\n50 Kandidaten\n      \u2193\nReranking\n      \u2193\n10 Kandidaten\n      \u2193\nContext Selection\n      \u2193\n5 Chunks\n      \u2193\nLLM\n<\/code><\/pre>\n\n\n\n
                                          Jede Stufe reduziert die Menge und erh\u00f6ht idealerweise die Qualit\u00e4t.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          120. Retrieval Quality beginnt bei Candidate Generation<\/h1>\n\n\n\n
                                          Die wichtigste Frage der First Stage lautet:<\/p>\n\n\n\n
                                          \n
                                          Ist der richtige Chunk \u00fcberhaupt dabei?<\/p>\n<\/blockquote>\n\n\n\n
                                          Wenn nein:<\/p>\n\n\n\n
                                          Reranker\nLLM\nGrounding\n<\/code><\/pre>\n\n\n\n
                                          k\u00f6nnen nichts mehr retten.<\/p>\n\n\n\n
                                          Darum sollte Retrieval separat evaluiert werden.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          121. Query Set f\u00fcr Evaluation<\/h1>\n\n\n\n
                                          Ein guter Testbestand enth\u00e4lt unterschiedliche Query-Typen.<\/p>\n\n\n\n
                                          Zum Beispiel:<\/p>\n\n\n\n
                                          Exact Match<\/strong><\/p>\n\n\n\n
                                          INC-847291\n<\/code><\/pre>\n\n\n\n
                                          Fachbegriff<\/strong><\/p>\n\n\n\n
                                          K\u00fcndigungsfrist Probezeit\n<\/code><\/pre>\n\n\n\n
                                          Paraphrase<\/strong><\/p>\n\n\n\n
                                          Wie schnell kann ich in den ersten Monaten k\u00fcndigen?\n<\/code><\/pre>\n\n\n\n
                                          Synonym<\/strong><\/p>\n\n\n\n
                                          Wie kann das Arbeitsverh\u00e4ltnis beendet werden?\n<\/code><\/pre>\n\n\n\n
                                          Mehrsprachig<\/strong><\/p>\n\n\n\n
                                          What is the notice period during probation?\n<\/code><\/pre>\n\n\n\n
                                          So zeigt sich, welche Retriever welche St\u00e4rken besitzen.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          122. Ablation Testing<\/h1>\n\n\n\n
                                          Bei einem Ablation Test<\/strong> entfernt man gezielt eine Komponente.<\/p>\n\n\n\n
                                          Beispielsweise:<\/p>\n\n\n\n
                                          Dense only\n<\/code><\/pre>\n\n\n\n
                                          gegen:<\/p>\n\n\n\n
                                          BM25 only\n<\/code><\/pre>\n\n\n\n
                                          gegen:<\/p>\n\n\n\n
                                          Dense + BM25 + RRF\n<\/code><\/pre>\n\n\n\n
                                          Dann vergleicht man die Retrieval-Metriken.<\/p>\n\n\n\n
                                          So l\u00e4sst sich messen, ob Hybrid Search tats\u00e4chlich einen Mehrwert bringt.<\/p>\n\n\n\n
                                          \n\n\n\n
                                          123. Warum Benchmarks allein nicht reichen<\/h1>\n\n\n\n
                                          Ein Embedding-Modell oder Retriever kann auf \u00f6ffentlichen Benchmarks hervorragend abschneiden.<\/p>\n\n\n\n
                                          Der eigene Korpus kann aber bestehen aus:<\/p>\n\n\n\n
                                            \n
                                          • deutschen Vertr\u00e4gen,<\/li>\n\n\n\n
                                          • Abk\u00fcrzungen,<\/li>\n\n\n\n
                                          • internen IDs,<\/li>\n\n\n\n
                                          • Tabellen,<\/li>\n\n\n\n
                                          • Fachbegriffen.<\/li>\n<\/ul>\n\n\n\n
                                            Deshalb muss Retrieval mit realistischen eigenen Queries evaluiert werden.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            124. Retrieval ist korpusabh\u00e4ngig<\/h1>\n\n\n\n
                                            Ein Korpus voller nat\u00fcrlicher Fliesstexte stellt andere Anforderungen als:<\/p>\n\n\n\n
                                            API-Dokumentationen\n<\/code><\/pre>\n\n\n\n
                                            oder:<\/p>\n\n\n\n
                                            Support-Tickets\n<\/code><\/pre>\n\n\n\n
                                            oder:<\/p>\n\n\n\n
                                            Gesetzestexte\n<\/code><\/pre>\n\n\n\n
                                            oder:<\/p>\n\n\n\n
                                            Produktkataloge mit Artikelnummern\n<\/code><\/pre>\n\n\n\n
                                            Die optimale Mischung aus Dense und Sparse kann deshalb unterschiedlich sein.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            125. Dokumentfrequenz ist korpusabh\u00e4ngig<\/h1>\n\n\n\n
                                            Auch IDF-Werte h\u00e4ngen direkt vom Korpus ab.<\/p>\n\n\n\n
                                            Der Begriff:<\/p>\n\n\n\n
                                            K\u00fcndigung\n<\/code><\/pre>\n\n\n\n
                                            kann in einem allgemeinen Unternehmenswiki relativ selten sein.<\/p>\n\n\n\n
                                            In einer Sammlung arbeitsrechtlicher Dokumente kann er sehr h\u00e4ufig sein.<\/p>\n\n\n\n
                                            Damit ver\u00e4ndert sich seine IDF.<\/p>\n\n\n\n
                                            BM25 ist deshalb intrinsisch korpusabh\u00e4ngig.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            126. Embeddings sind ebenfalls dom\u00e4nenabh\u00e4ngig<\/h1>\n\n\n\n
                                            Dense Retrieval hat eine andere Art von Korpusabh\u00e4ngigkeit.<\/p>\n\n\n\n
                                            Ein allgemeines Embedding-Modell kann gewisse Fachbegriffe schlechter repr\u00e4sentieren.<\/p>\n\n\n\n
                                            Deshalb gilt f\u00fcr beide Welten:<\/p>\n\n\n\n
                                            nicht theoretisch entscheiden\nsondern\nmit echten Daten evaluieren\n<\/code><\/pre>\n\n\n\n
                                            \n\n\n\n
                                            127. BM25 ist keine \u201ealte Version von Embeddings\u201c<\/h1>\n\n\n\n
                                            Diese Vorstellung ist falsch.<\/p>\n\n\n\n
                                            BM25 und Dense Retrieval modellieren Relevanz unterschiedlich.<\/p>\n\n\n\n
                                            BM25 sagt im Kern:<\/p>\n\n\n\n
                                            Welche wichtigen Query-Terme tauchen im Dokument auf?\n<\/code><\/pre>\n\n\n\n
                                            Dense Retrieval sagt eher:<\/p>\n\n\n\n
                                            Welche Passage liegt semantisch nahe an der Query?\n<\/code><\/pre>\n\n\n\n
                                            Beide besitzen auch heute unterschiedliche St\u00e4rken.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            128. Sparse Retrieval ist kein Fallback<\/h1>\n\n\n\n
                                            Sparse Search sollte nicht bloss als Notl\u00f6sung betrachtet werden, falls Dense Search versagt.<\/p>\n\n\n\n
                                            In vielen Fachkorpora tr\u00e4gt Sparse Retrieval substanzielle Qualit\u00e4t bei.<\/p>\n\n\n\n
                                            Besonders bei:<\/p>\n\n\n\n
                                            IDs\nNamen\nVersionen\nAkronymen\nFachterminologie\n<\/code><\/pre>\n\n\n\n
                                            kann es der wichtigere Retriever sein.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            129. Dense Retrieval ist keine \u201eintelligentere Suche\u201c<\/h1>\n\n\n\n
                                            Es ist ebenfalls irref\u00fchrend, Dense Search pauschal als intelligentere Version klassischer Suche zu betrachten.<\/p>\n\n\n\n
                                            Sie optimiert einen anderen Signaltyp.<\/p>\n\n\n\n
                                            Ein System, das:<\/p>\n\n\n\n
                                            AB-4711\n<\/code><\/pre>\n\n\n\n
                                            nicht exakt findet, obwohl der String im Dokument steht, wirkt f\u00fcr den Benutzer nicht intelligent.<\/p>\n\n\n\n
                                            Semantik ersetzt Pr\u00e4zision nicht.<\/p>\n\n\n\n
                                            \n\n\n\n
                                            130. Hybrid Search ist keine Magie<\/h1>\n\n\n\n
                                            Hybrid Search verbessert die Robustheit, erzeugt aber neue Designfragen:<\/p>\n\n\n\n
                                              \n
                                            • Welche Retriever?<\/li>\n\n\n\n
                                            • Wie grosses k?<\/li>\n\n\n\n
                                            • Welche Fusion?<\/li>\n\n\n\n
                                            • Welche Gewichte?<\/li>\n\n\n\n
                                            • Welche Filter?<\/li>\n\n\n\n
                                            • Welche Query-Normalisierung?<\/li>\n\n\n\n
                                            • Welche Kandidaten gehen ins Reranking?<\/li>\n\n\n\n
                                            • Wie werden Duplikate behandelt?<\/li>\n<\/ul>\n\n\n\n
                                              Auch Hybrid Search muss evaluiert werden.<\/p>\n\n\n\n
                                              \n\n\n\n
                                              131. Begriffe dieses Teils<\/h1>\n\n\n\n
                                              Begriff<\/th>Bedeutung<\/th><\/tr><\/thead>
                                              Information Retrieval<\/strong><\/td>Fachgebiet zur Suche und Bewertung relevanter Informationen<\/td><\/tr>
                                              Lexical Retrieval<\/strong><\/td>Suche anhand von Begriffen beziehungsweise Textmerkmalen<\/td><\/tr>
                                              Sparse Retrieval<\/strong><\/td>Retrieval mit d\u00fcnn besetzten Repr\u00e4sentationen<\/td><\/tr>
                                              Inverted Index<\/strong><\/td>Term-zu-Dokument-Struktur f\u00fcr schnelle Textsuche<\/td><\/tr>
                                              Posting List<\/strong><\/td>Liste der Dokumente beziehungsweise Positionen eines Terms<\/td><\/tr>
                                              Term Frequency<\/strong><\/td>H\u00e4ufigkeit eines Terms in einem Dokument<\/td><\/tr>
                                              Document Frequency<\/strong><\/td>Anzahl der Dokumente, die einen Term enthalten<\/td><\/tr>
                                              IDF<\/strong><\/td>Gewichtung seltener Begriffe<\/td><\/tr>
                                              TF-IDF<\/strong><\/td>Kombination aus Termh\u00e4ufigkeit und Termseltenheit<\/td><\/tr>
                                              BM25<\/strong><\/td>klassisches probabilistisches Ranking-Verfahren<\/td><\/tr>
                                              k1<\/strong><\/td>BM25-Parameter f\u00fcr Term-Frequency-S\u00e4ttigung<\/td><\/tr>
                                              b<\/strong><\/td>BM25-Parameter f\u00fcr L\u00e4ngennormalisierung<\/td><\/tr>
                                              avgdl<\/strong><\/td>durchschnittliche Dokumentl\u00e4nge<\/td><\/tr>
                                              Analyzer<\/strong><\/td>Verarbeitungskette f\u00fcr Index- und Query-Text<\/td><\/tr>
                                              Stemming<\/strong><\/td>Reduktion auf Wortst\u00e4mme<\/td><\/tr>
                                              Lemmatization<\/strong><\/td>R\u00fcckf\u00fchrung auf linguistische Grundformen<\/td><\/tr>
                                              Stopwords<\/strong><\/td>sehr h\u00e4ufige, oft schwach unterscheidende W\u00f6rter<\/td><\/tr>
                                              N-Gram<\/strong><\/td>Folge von n W\u00f6rtern oder Zeichen<\/td><\/tr>
                                              Phrase Search<\/strong><\/td>Suche nach exakten Wortfolgen<\/td><\/tr>
                                              Fuzzy Search<\/strong><\/td>fehlertolerante Textsuche<\/td><\/tr>
                                              Edit Distance<\/strong><\/td>Mass f\u00fcr Zeichenunterschiede<\/td><\/tr>
                                              Field Boosting<\/strong><\/td>st\u00e4rkere Gewichtung bestimmter Dokumentfelder<\/td><\/tr>
                                              Query Expansion<\/strong><\/td>Erweiterung der Query um zus\u00e4tzliche Begriffe<\/td><\/tr>
                                              Learned Sparse Retrieval<\/strong><\/td>neuronales sparse Retrieval<\/td><\/tr>
                                              Hybrid Search<\/strong><\/td>Kombination mehrerer Retrieval-Verfahren<\/td><\/tr>
                                              Score Fusion<\/strong><\/td>Kombination numerischer Retriever-Scores<\/td><\/tr>
                                              Rank Fusion<\/strong><\/td>Kombination von Ranglisten<\/td><\/tr>
                                              RRF<\/strong><\/td>Reciprocal Rank Fusion<\/td><\/tr>
                                              Candidate Generation<\/strong><\/td>erste breite Erzeugung relevanter Kandidaten<\/td><\/tr>
                                              First-Stage Retrieval<\/strong><\/td>schnelle Retrieval-Stufe \u00fcber den gesamten Index<\/td><\/tr>
                                              Second-Stage Ranking<\/strong><\/td>genauere Bewertung einer kleineren Kandidatenmenge<\/td><\/tr>
                                              Query Routing<\/strong><\/td>Auswahl geeigneter Retriever f\u00fcr eine Query<\/td><\/tr>
                                              Filter<\/strong><\/td>harte Einschr\u00e4nkung des Suchraums<\/td><\/tr>
                                              Boost<\/strong><\/td>weiche Bevorzugung eines Kandidaten<\/td><\/tr>
                                              Top-k<\/strong><\/td>Anzahl der h\u00f6chsten Suchtreffer<\/td><\/tr>
                                              Threshold<\/strong><\/td>Mindestscore f\u00fcr akzeptierte Treffer<\/td><\/tr>
                                              Precision<\/strong><\/td>Anteil relevanter Ergebnisse unter den gelieferten Ergebnissen<\/td><\/tr>
                                              Recall<\/strong><\/td>Anteil gefundener relevanter Informationen<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
                                              \n\n\n\n
                                              132. Dense und Sparse in einer \u00dcbersicht<\/h1>\n\n\n\n
                                              Eigenschaft<\/th>Dense Retrieval<\/th>Sparse Retrieval<\/th><\/tr><\/thead>
                                              Grundlage<\/td>Embeddings<\/td>Terms \/ Sparse Weights<\/td><\/tr>
                                              St\u00e4rke<\/td>Semantik<\/td>exakte Begriffe<\/td><\/tr>
                                              Synonyme<\/td>stark<\/td>abh\u00e4ngig von Expansion<\/td><\/tr>
                                              Paraphrasen<\/td>stark<\/td>eher schwach<\/td><\/tr>
                                              IDs<\/td>potenziell schw\u00e4cher<\/td>sehr stark<\/td><\/tr>
                                              Eigennamen<\/td>gut bis unterschiedlich<\/td>stark<\/td><\/tr>
                                              Erkl\u00e4rbarkeit<\/td>geringer<\/td>h\u00f6her<\/td><\/tr>
                                              Index<\/td>Vector Index<\/td>Inverted Index<\/td><\/tr>
                                              typische Verfahren<\/td>ANN, HNSW<\/td>BM25, TF-IDF<\/td><\/tr>
                                              typische Repr\u00e4sentation<\/td>Dense Vector<\/td>Sparse Vector<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
                                              Die Kombination lautet:<\/p>\n\n\n\n
                                              Dense\n   +\nSparse\n   \u2193\nHybrid Retrieval\n<\/code><\/pre>\n\n\n\n
                                              \n\n\n\n
                                              133. Die vollst\u00e4ndige Retrieval-Landkarte bis hierhin<\/h1>\n\n\n\n
                                              Wir k\u00f6nnen die ersten vier Teile jetzt zusammenf\u00fchren.<\/p>\n\n\n\n
                                                               INGESTION\n\nDokument\n   \u2193\nParsing \/ OCR\n   \u2193\nStruktur\n   \u2193\nChunking\n   \u2193\nChunks\n   \u2502\n   \u251c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2510\n   \u2502               \u2502\n   \u25bc               \u25bc\nEmbedding      Sparse Index\n   \u2502               \u2502\n   \u25bc               \u25bc\nVector Index   Inverted Index\n\n\n                   QUERY\n\n                    Frage\n                      \u2502\n             \u250c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2534\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2510\n             \u25bc                 \u25bc\n      Query Embedding      Query Terms\n             \u2502                 \u2502\n             \u25bc                 \u25bc\n       Dense Search       Sparse Search\n             \u2502                 \u2502\n             \u2514\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u252c\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2500\u2518\n                      \u25bc\n                  Fusion\n                      \u2193\n             Hybrid Candidates\n                      \u2193\n                 Reranking\n                      \u2193\n              Context Selection\n                      \u2193\n                    LLM\n<\/code><\/pre>\n\n\n\n
                                              Damit haben wir den Kern moderner Retrieval-Pipelines erreicht.<\/p>\n\n\n\n
                                              \n\n\n\n
                                              134. Die wichtigste Erkenntnis aus Teil 4<\/h1>\n\n\n\n
                                              Dense Retrieval beantwortet grob:<\/p>\n\n\n\n
                                              \n
                                              Welche Texte bedeuten etwas \u00c4hnliches?<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                                              Sparse Retrieval beantwortet grob:<\/p>\n\n\n\n
                                              \n
                                              Welche Texte enthalten die wichtigen gesuchten Begriffe?<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                                              Keine dieser Fragen ist identisch mit:<\/p>\n\n\n\n
                                              \n
                                              Welche Passage beantwortet die Benutzerfrage am besten?<\/strong><\/p>\n<\/blockquote>\n\n\n\n
                                              Deshalb kombiniert man beide zun\u00e4chst zur Candidate Generation.<\/p>\n\n\n\n
                                              Danach folgt eine neue Aufgabe:<\/p>\n\n\n\n
                                              Wir haben gute Kandidaten.\nWelche davon sind wirklich die besten?\n<\/code><\/pre>\n\n\n\n
                                              Genau hier beginnt Reranking<\/strong>.<\/p>\n\n\n\n
                                              Ein Bi-Encoder kann Millionen Chunks schnell auf wenige Kandidaten reduzieren.<\/p>\n\n\n\n
                                              Ein BM25-Retriever kann exakte Begriffe zuverl\u00e4ssig erg\u00e4nzen.<\/p>\n\n\n\n
                                              RRF kann beide Ranglisten zusammenf\u00fchren.<\/p>\n\n\n\n
                                              Aber eine Passage kann immer noch:<\/p>\n\n\n\n
                                                \n
                                              • semantisch \u00e4hnlich,<\/li>\n\n\n\n
                                              • lexikalisch passend,<\/li>\n\n\n\n
                                              • und trotzdem nicht die richtige Antwort<\/li>\n<\/ul>\n\n\n\n
                                                sein.<\/p>\n\n\n\n
                                                Die n\u00e4chste Stufe muss deshalb die Query und jeden Kandidaten wesentlich genauer miteinander vergleichen.<\/p>\n\n\n\n
                                                Damit kommen wir zu:<\/p>\n\n\n\n
                                                Cross-Encodern, Rerankern, MMR, Query Rewrite, Multi-Query und HyDE.<\/strong><\/p>\n\n\n\n
                                                Das ist Teil 5.<\/p>\n\n\n\n
                                                RAG von Grund auf<\/h1>\n\n\n\n
                                                Teil 1 \u2013 RAG verstehen<\/strong>
                                                LLM, parametrisches Wissen, Kontext, Retrieval, Augmentation, Generation und Grounding.<\/p>\n\n\n\n
                                                Teil 2 \u2013 Dokumente, Parsing und Chunking<\/strong>
                                                Ingestion, Parser, OCR, Dokumentstruktur, Chunks, Overlap, Structured Chunking, Parent-Child und Small-to-Big.<\/p>\n\n\n\n
                                                Teil 3 \u2013 Embeddings und Vektorsuche<\/strong>
                                                Embeddings, Dense Vectors, Bi-Encoder, Cosine Similarity, ANN, HNSW und Vector Stores.<\/p>\n\n\n\n
                                                Teil 4 \u2013 Information Retrieval und Hybrid Search<\/strong>
                                                Inverted Index, TF, IDF, TF-IDF, BM25, Sparse Retrieval, Hybrid Search, Score Fusion und Reciprocal Rank Fusion.<\/p>\n\n\n\n
                                                Teil 5 \u2013 Reranking und Retrieval-Strategien<\/strong>
                                                Cross-Encoder, Top-k, MMR, Query Rewrite, Multi-Query, HyDE und Context Selection.<\/p>\n\n\n\n
                                                Teil 6 \u2013 Kontext, Grounding und Antworten<\/strong>
                                                Kontextfenster, Token-Budget, Lost in the Middle, Answerability, Faithfulness und Citations.<\/p>\n\n\n\n
                                                Teil 7 \u2013 Advanced RAG<\/strong>
                                                Naive RAG, Modular RAG, Multi-Hop, Self-RAG, CRAG, RAPTOR, GraphRAG, ColBERT und Agentic RAG.<\/p>\n\n\n\n
                                                Teil 8 \u2013 Evaluation, Sicherheit und Abgrenzung<\/strong>
                                                Recall, Precision, Hit@k, MRR, nDCG, RAG-Evaluation, Prompt Injection, RAG Poisoning, Fine-Tuning und Tool Calling.<\/p>\n","protected":false},"excerpt":{"rendered":"
                                                In Teil 3 ging es um Embeddings und Vektorsuche. Wir haben gesehen, dass Dense Retrieval besonders stark darin ist, semantisch \u00e4hnliche Inhalte zu finden. Beispiel: Dokument: Die W\u00f6rter stimmen nur teilweise \u00fcberein. Die Bedeutung ist jedoch sehr \u00e4hnlich. Embeddings k\u00f6nnen genau diese Beziehung modellieren. Aber Dense Retrieval hat Grenzen. Was passiert bei: oder: oder: oder: […]<\/p>\n","protected":false},"author":1,"featured_media":363,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[41,61],"tags":[201,192,200,194],"class_list":["post-348","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cost-aware-ai-systems","category-retrieval-augmented-generation","tag-hybrid-search","tag-rag","tag-rag-part-4","tag-series"],"_links":{"self":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/348","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=348"}],"version-history":[{"count":1,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/348\/revisions"}],"predecessor-version":[{"id":349,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/posts\/348\/revisions\/349"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=\/wp\/v2\/media\/363"}],"wp:attachment":[{"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=348"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=348"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.fabricioruch.ch\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=348"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}