Ein Sprachmodell allein kennt nur seinen Trainingsstand und den Text im Prompt. Mit Tool-Calling erhält es Zugang zur Welt der Anwendung: aktuelle Daten, Berechnungen, Aktionen in anderen Systemen. Dabei handelt das Modell nie selbst — es schlägt einen Aufruf vor, und die Anwendung entscheidet, ob und wie er ausgeführt wird.
Der Ablauf
Die Anwendung übergibt dem Modell neben der Anfrage eine Liste von Werkzeugen mit Name, Beschreibung und einem Schema der Parameter. Das Modell entscheidet, ob ein Werkzeug hilft, und antwortet mit einem strukturierten Aufruf, etwa einer Kundensuche mit bestimmten Kriterien. Die Anwendung prüft den Aufruf, führt ihn aus und gibt das Ergebnis an das Modell zurück, das daraus die Antwort formuliert oder weitere Aufrufe plant. Mehrere solche Schleifen ergeben einen KI-Agenten.
Gute Werkzeugbeschreibungen
Das Modell wählt Werkzeuge anhand ihrer Beschreibung. Unklare Namen, überlappende Werkzeuge und vage Parameter führen zu falschen Aufrufen. Bewährt haben sich wenige, klar abgegrenzte Werkzeuge mit sprechenden Namen, präzisen Beschreibungen, wann ein Werkzeug zu verwenden ist und wann nicht, sowie engen Parameterschemata mit erlaubten Werten. Werkzeuge sind eine Schnittstelle für ein Modell und verdienen dieselbe Sorgfalt wie eine API für Menschen.
Validierung und Berechtigungen
Jeder vorgeschlagene Aufruf wird serverseitig validiert: Schema, erlaubte Werte, Berechtigung des aktuellen Nutzers, Mandantengrenzen. Das Modell darf nie mehr können als der Nutzer, in dessen Auftrag es handelt. Schreibende oder folgenreiche Aktionen brauchen eine Bestätigung, besonders weil Prompt Injection Aufrufe auslösen kann, die der Nutzer nicht wollte. Für wiederholbare Aktionen hilft Idempotenz, damit ein doppelter Aufruf keinen doppelten Effekt hat.
Fehlerbehandlung
Werkzeuge schlagen fehl: Zeitüberschreitungen, leere Ergebnisse, ungültige Parameter. Fehlermeldungen sollten so zurück an das Modell gehen, dass es sinnvoll reagieren kann, etwa mit einer Rückfrage an den Nutzer statt einer erfundenen Antwort. Grenzen für die Zahl der Schleifen verhindern, dass ein Agent sich festfährt und Kosten produziert.
Standardisierung
Werkzeuge für jede Anwendung neu anzubinden, ist aufwendig. Das Model Context Protocol standardisiert, wie Anwendungen Werkzeuge und Daten für Modelle bereitstellen, sodass ein Werkzeug einmal gebaut und in mehreren KI-Anwendungen genutzt werden kann. Für die Integration in bestehende Systeme bietet sich unser API-Integrations-Sprint an.