Hybrid-RAG und Reranking statt naiver Vektorsuche
Chunking nach Zeichenzahl und reine Vektorsuche erzeugen erwartbare Halluzinationen. Was Hybrid-Suche und Reranking ändern, und was der ältere RAG-Artikel falsch lehrt.
Artikel zu Cloud-Architektur, KI-Engineering und Software-Entwicklung. Aus Projekten, nicht aus dem Lehrbuch.
Chunking nach Zeichenzahl und reine Vektorsuche erzeugen erwartbare Halluzinationen. Was Hybrid-Suche und Reranking ändern, und was der ältere RAG-Artikel falsch lehrt.
Ein Prompt- oder Modellwechsel verschlechtert die Qualität. Niemand merkt es, wenn Evaluation fehlt. Was ich in regulierten LLM-Projekten messe.
Ohne Observability kennt niemand die Kosten pro Anfrage und niemand kann eine schlechte Antwort nachvollziehen. Was in LLM-Produktion geloggt werden muss.
Ein Pilot für einen Kunden ist kein Produkt für zwanzig. Was Mandantentrennung in RAG- und Agentensystemen konkret heißt.
Wenn ein Modell Belege erfindet, stoppt Revision das Projekt. LLM Nachvollziehbarkeit braucht Quellenbindung, nicht einen besseren Prompt.
Ein Gesundheitsprojekt mit LangChain, OpenAI und Milvus. Die Pipeline war schnell. Als Rezept ist sie gefährlich: feste Chunks, nur Vektoren, kein Reranking.
Eine bundesweit eingesetzte Behördenanwendung von J2EE auf Kubernetes. Was ich in dem Projekt gelernt habe.
Ein MCP-Server für eine Gesundheitsplattform. Was das Model Context Protocol in der Praxis ändert, und wo es hakt.
Cookies & Tracking
Diese Website nutzt Google Ads Conversion-Tracking, um die Wirksamkeit von Anzeigen zu messen. Dabei werden Cookies gesetzt und Daten an Google übertragen. Die Reichweitenmessung mit Matomo erfolgt ohne Cookies. Details finden Sie in der Datenschutzerklärung.