Ein RAG-System kann technisch einwandfrei funktionieren und trotzdem schlechte Antworten liefern. Der Vector Store antwortet. Die Embeddings wurden erzeugt. BM25 liefert Treffer. Hybrid Search funktioniert. Der Reranker sortiert Kandidaten. Das LLM generiert…
In den bisherigen Teilen haben wir eine klassische RAG-Pipeline Schritt für Schritt aufgebaut. Aus Dokumenten wurden Chunks. Aus Chunks wurden durch Embeddings Vektoren. Dense Retrieval und Sparse Retrieval ermöglichten unterschiedliche Arten der…
Bis hierhin haben wir einen grossen Teil der RAG-Pipeline aufgebaut. Wir können Dokumente verarbeiten. Wir können sie in sinnvolle Chunks zerlegen. Wir können Embeddings erzeugen. Wir können semantisch und lexikalisch suchen. Wir…
In Teil 4 haben wir gesehen, wie Dense Retrieval und Sparse Retrieval kombiniert werden können. Eine typische Pipeline sah am Ende ungefähr so aus: Damit haben wir allerdings noch nicht zwangsläufig die…
In Teil 3 ging es um Embeddings und Vektorsuche. Wir haben gesehen, dass Dense Retrieval besonders stark darin ist, semantisch ähnliche Inhalte zu finden. Beispiel: Dokument: Die Wörter stimmen nur teilweise überein.…
In Teil 1 haben wir RAG als Zusammenspiel von Retrieval, Augmentation und Generation betrachtet. In Teil 2 ging es darum, wie Dokumente durch Parsing, OCR und Chunking überhaupt erst in durchsuchbare Informationseinheiten…
Im ersten Teil ging es um die Grundidee von Retrieval-Augmented Generation: Damit ein System überhaupt sinnvoll retrieven kann, muss Wissen zuerst in eine Form gebracht werden, die sich durchsuchen lässt. Genau hier…
Retrieval-Augmented Generation, kurz RAG, gehört inzwischen zu den zentralen Konzepten beim Einsatz von Large Language Models mit eigenem Wissen. Die Grundidee klingt zunächst erstaunlich einfach: Bevor ein Sprachmodell eine Frage beantwortet, werden…
Seite wird geladen…
