DSGVO und Data Residency, wenn ein LLM im Spiel ist
Wo läuft das Modell, wo liegen die Embeddings, wo die Logs? Die technische Liste, die eine Datenschutzprüfung für KI-Systeme erst möglich macht.
Artikel zu Cloud-Architektur, KI-Engineering und Software-Entwicklung. Aus Projekten, nicht aus dem Lehrbuch.
Wo läuft das Modell, wo liegen die Embeddings, wo die Logs? Die technische Liste, die eine Datenschutzprüfung für KI-Systeme erst möglich macht.
Nachvollziehbarkeit, menschliche Aufsicht, Dokumentation: was ein Ingenieur zum AI Act beitragen kann, und wo die juristische Einordnung anfängt.
Ein Prototyp braucht einen API-Key. Ein Betrieb braucht versionierte Prompts, eine Pipeline und jemanden, der den Lauf verantwortet.
Kontextlänge, Reranking und Retries treiben die Kosten, nicht das Modell allein. Was ich vor einem LLM-Rollout an Kosten pro Anfrage messe.
Der Weg von einer RAG-Demo zu einem System, das ein Audit besteht: Chunking, Hybrid-Retrieval, Reranking, Quellenbindung, Evaluation, Mandanten.
Chunking nach Zeichenzahl und reine Vektorsuche erzeugen erwartbare Halluzinationen. Was Hybrid-Suche und Reranking ändern, und was der ältere RAG-Artikel falsch lehrt.
Ein Prompt- oder Modellwechsel verschlechtert die Qualität. Niemand merkt es, wenn Evaluation fehlt. Was ich in regulierten LLM-Projekten messe.
Ohne Observability kennt niemand die Kosten pro Anfrage und niemand kann eine schlechte Antwort nachvollziehen. Was in LLM-Produktion geloggt werden muss.
Ein Pilot für einen Kunden ist kein Produkt für zwanzig. Was Mandantentrennung in RAG- und Agentensystemen konkret heißt.
Wenn ein Modell Belege erfindet, stoppt Revision das Projekt. LLM Nachvollziehbarkeit braucht Quellenbindung, nicht einen besseren Prompt.
Ein Gesundheitsprojekt mit LangChain, OpenAI und Milvus. Die Pipeline war schnell. Als Rezept ist sie gefährlich: feste Chunks, nur Vektoren, kein Reranking.
Eine Fachanwendung für den Rechtsverkehr wandert von WebLogic auf Kubernetes. Vier Jahre, zero Downtime, Deployment von einem Tag auf 20 Minuten.
Ein MCP-Server für den Gesundheits-Chatbot: was das Model Context Protocol in der Praxis bringt, und wo Tool-Beschreibungen und Logging brechen.
Cookies & Tracking. Diese Website nutzt Google Ads Conversion-Tracking, um die Wirksamkeit von Anzeigen zu messen. Dabei werden Cookies gesetzt und Daten an Google übertragen. Die Reichweitenmessung mit Matomo erfolgt ohne Cookies. Details finden Sie in der Datenschutzerklärung.Datenschutzerklärung