AI Engineering
Bauen mit LLMs: Integration, RAG, Evaluation, Kostenkontrolle und Produktmuster.
Function Calling und Tool Use: LLMs handlungsfähig machen
Wie Function Calling und Tool Use funktionieren, wie Sie Werkzeuge sauber definieren und absichern und welche Architektur LLM-Agenten in Produktion zuverlässig macht.
Streaming-Antworten in LLM-Produkten: UX, Technik und Fallstricke
Warum Streaming die wahrgenommene Geschwindigkeit von LLM-Produkten prägt, wie Server-Sent Events und Token-Streaming funktionieren und worauf es bei der UX ankommt.
Embeddings und semantische Suche: Bedeutung statt Stichworte finden
Wie Embeddings Bedeutung in Vektoren übersetzen, wie semantische Suche funktioniert und worauf es bei Chunking, Modellwahl und der Kombination mit klassischer Suche ankommt.
Guardrails für LLM-Produkte: Ein- und Ausgaben absichern
Wie Guardrails die Ein- und Ausgaben von LLM-Anwendungen absichern, welche Arten es gibt und wie Sie sie schichten, ohne das Produkt unbrauchbar oder die Kosten unkontrollierbar zu machen.
Prompt Injection: LLM-Produkte gegen Manipulation absichern
Wie Prompt-Injection-Angriffe funktionieren, warum sie sich nicht vollständig verhindern lassen und welche Schutzschichten LLM-Produkte in der Praxis brauchen.
LLM-Integration in SaaS: Architekturmuster, die den Betrieb überstehen
Sprachmodelle robust in SaaS einbauen: Gateway-Schicht, Mandantenkontext, strukturierte Ausgaben, Evaluation, Kosten, Fallbacks und Datenresidenz.
Retrieval-Augmented Generation (RAG): Ein praktischer Engineering-Leitfaden
RAG in der Praxis: Dokumente aufbereiten, sinnvoll aufteilen, hybrid suchen, neu gewichten, Berechtigungen durchsetzen, Quellen zeigen und die Qualität messbar machen — mit Blick auf deutsche Texte.
AI-Kostenmanagement: LLM-Ausgaben in SaaS planbar halten
Wie SaaS-Teams LLM-Kosten steuern: Messung pro Workspace, Kontingente, Modellwahl, Caching und Preismodelle, die ein KI-Feature profitabel halten statt die Marge aufzuzehren.
Prompt Engineering für Produkte (nicht für Demos)
Prompts im Produkt sind Code: versioniert, getestet, strukturiert. Wie man Systemprompts aufbaut, Ausgaben erzwingt, Eingaben von Anweisungen trennt und Prompts wartbar hält.
LLM-Features evaluieren: Testen, was keine richtige Antwort hat
Wie man KI-Funktionen systematisch testet: Bewertungsdatensätze aus echten Anfragen, prüfbare Kriterien, Modelle als Bewerter mit Kontrolle, Regressionstests bei Prompt- und Modellwechseln.
pgvector vs. dedizierte Vektordatenbanken: Die Wahl für SaaS-Skalierung
Wann pgvector in PostgreSQL für SaaS reicht und wann eine dedizierte Vektordatenbank: Mandantentrennung, Filter, Indexe, Betrieb und die Fragen, die über die Wahl entscheiden.
KI-Agenten in einem SaaS-Produkt: Wo sie helfen und wo sie schaden
Wann KI-Agenten in SaaS echten Nutzen stiften und wann sie Risiken schaffen: Autonomiestufen, Werkzeuge mit engen Rechten, Freigaben, Prompt Injection, Protokollierung und Kostenkontrolle.
Claude API vs. OpenAI für EU-SaaS: Datenresidenz und praktische Trade-offs
Anthropic Claude oder OpenAI für ein europäisches SaaS-Produkt? Ein neutraler Vergleich der Kriterien: Verarbeitungsort, Vertragsbedingungen, Bezugswege über Cloud-Plattformen, Modellwahl und Abhängigkeit.
KI-Feature-UX gestalten: Vertrauen, Latenz und der Leerzustand
Wie man KI-Funktionen gestaltet, denen Nutzer vertrauen: Erwartungen setzen, Wartezeit überbrücken, Ergebnisse bearbeitbar machen, Quellen zeigen, Fehler ehrlich kommunizieren und KI kennzeichnen.
KI-Features und DSGVO: Rechtmässige Verarbeitung, wenn ein LLM personenbezogene Daten berührt
Was SaaS-Anbieter klären müssen, wenn KI-Funktionen Personendaten verarbeiten: Rechtsgrundlage, Auftragsverarbeitung, Drittlandübermittlung, Datenminimierung, Transparenz und Betroffenenrechte.
Fine-Tuning vs. Prompting vs. RAG: Das richtige Werkzeug wählen
Wann reicht ein guter Prompt, wann braucht es RAG, und wann lohnt sich Fine-Tuning? Eine Entscheidungshilfe nach Problemart: Wissen, Verhalten, Format, Kosten und Aktualität.
EU AI Act und General-Purpose-KI: Was Entwickler auf LLM-Basis wissen müssen
Welche AI-Act-Pflichten treffen Modellanbieter, welche treffen Unternehmen, die GPAI-Modelle in eigene Produkte einbauen? Rollen, Fristen, Informationspflichten, Fine-Tuning und Transparenz.
KI-Observability: Logging, Tracing und das Erkennen von Qualitätsdrift
Was man an KI-Funktionen im Betrieb beobachten muss: Traces über mehrstufige Abläufe, Latenz, Kosten, Fehler, Qualitätssignale und Drift — datenschutzkonform protokolliert.
KI-Content-Moderation in SaaS: Sicherheit ohne Trust-and-Safety-Team
Wie kleine SaaS-Teams nutzergenerierte Inhalte mit KI moderieren: Richtlinien zuerst, gestufte Prüfung, menschliche Entscheidung bei Grenzfällen, Begründungen, Einspruch und die Pflichten aus dem DSA.
KI-gestütztes Onboarding: Die ersten fünf Minuten personalisieren
Wie KI das SaaS-Onboarding verbessern kann, ohne aufdringlich zu werden: Ziel erfragen statt Profil raten, Startinhalte vorbereiten, Daten importieren, Hilfe im Kontext — und wo Personalisierung schadet.