Agent-Scaffolding vs. Fine-Tuning

Scaffolding ist alles, was rund um ein Modell gebaut wird, um es für eine bestimmte Aufgabe nutzbar zu machen: die Tools, die es aufrufen darf, der Kontext, den es vor seiner Antwort erhält, die Evaluation, die seine Ausgabe bewertet, die Guardrails, die schlechte Aktionen stoppen, und die Retry- oder Eskalationspfade, wenn es scheitert. Fine-Tuning ist anders: Es passt die internen Gewichte des Modells anhand von Beispielen der Aufgabe an, sodass sich das Modell selbst ändert statt dessen, was es umgibt.

Was jedes davon tatsächlich verändert

Scaffolding rührt das Modell nie an. Es verändert, was das Modell sehen und tun kann. Einem Agenten Lesezugriff auf die Bestellhistorie eines Kunden zu geben, ein Tool zum Nachschlagen des Versandstatus und eine Regel, die jede Rückerstattung über 200 € zur menschlichen Prüfung markiert, ist Scaffolding. Nichts davon erfordert ein erneutes Training; es lässt sich in Minuten ändern, indem man einen Prompt bearbeitet, ein Tool hinzufügt oder einen Guardrail strafft.

Fine-Tuning verändert die Gewichte des Modells, sodass es sich bei Eingaben anders verhält, die es so formuliert noch nicht gesehen hat. Es braucht einen gelabelten Datensatz, einen Trainingslauf und ein neues Modell-Artefakt für das Deployment. Es ist langsamer zu iterieren und schwerer zu prüfen, weil das resultierende Verhalten in Gewichten verankert ist statt in einem Prompt sichtbar zu sein.

Warum Scaffolding bei den meisten operativen Aufgaben gewinnt

Der typische Fehler in agentischen Systemen ist nicht, dass dem Modell die Denkfähigkeit für die Aufgabe fehlt. Es ist, dass dem Modell in dem Moment, in dem es gebraucht wird, der richtige Kontext oder das richtige Tool fehlt: Es kennt den aktuellen Lagerbestand nicht, sieht die Ausgabenhistorie des Kontos nicht oder hat keine Möglichkeit, seine eigene Antwort zu prüfen, bevor es sie zurückgibt. Ein Modell darauf zu fine-tunen, sich täglich ändernde Fakten zu “kennen”, behebt das nicht; die Fakten sind innerhalb einer Woche wieder veraltet. Besserer Kontext und ein Live-Lookup-Tool beheben das sofort und bleiben behoben, während sich die zugrunde liegenden Daten ändern.

Das ist auch der Grund, warum Evaluation in der Praxis wichtiger ist als die Modellwahl. Eine Entscheidungsregel mit Schwellenwert, eine klare Rubrik für korrekte Ausgaben und ein Retry-Pfad bei einem ersten Fehlversuch fangen und korrigieren mehr Fehler ab, als zu einem geringfügig leistungsfähigeren Modell zu wechseln. Scaffolding ist außerdem billiger zu testen: Man kann einen A/B-Test für ein neues Tool oder einen Guardrail an einem Tag durchführen, gegenüber Wochen für einen Fine-Tuning-Zyklus.

Eine Entscheidungsregel dafür, wann Fine-Tuning richtig ist

Fine-Tuning rechtfertigt seine Kosten, wenn eine Aufgabe eng umrissen, stabil und hochvolumig ist, mit einem festen Ausgabeformat und genug gelabelten Beispielen zum Trainieren, im Minimum grob ein paar Tausend für eine bedeutsame Verhaltensänderung. Ein Beispiel: eingehende Werbe-Creatives in eine von 12 festen Kategorien zu klassifizieren, millionenfach pro Monat ausgeführt, wobei sich die Kategorietaxonomie seit einem Jahr nicht geändert hat und bereits Tausende von menschlich gelabelten Beispielen existieren. Das ist eng umrissen, stabil, hochvolumig und gut gelabelt, alle vier Bedingungen gleichzeitig.

Vergleichen Sie das mit einer Aufgabe wie der Optimierung von Meta-Werbeausgaben über Konten mit unterschiedlichen Zielen, Katalogen und Saisonalität hinweg. Die Aufgabe ist nicht eng umrissen, die richtige Antwort ändert sich, während sich Konto und Plattform ändern, und es gibt kein festes Ausgabeformat, nur eine Ermessensentscheidung, die vom aktuellen Kontext abhängt. Ein Modell auf die Entscheidungen des letzten Quartals zu fine-tunen würde Annahmen festschreiben, die zum Abschluss des Trainings bereits veraltet sind.

Wenn Fine-Tuning der teure Ausweg ist

Wenn ein Team zum Fine-Tuning greift, weil sich Prompts unzuverlässig anfühlen oder das Modell “unser Geschäft nicht versteht”, ist das meist eine Scaffolding-Lücke, keine Fähigkeitslücke: fehlender Kontext, fehlende Tools oder keine Evaluationsschleife, um schlechte Ausgaben abzufangen und zu korrigieren. Fine-Tuning ohne Behebung dieser Lücke fügt Kosten und Starrheit hinzu, ohne das eigentliche Problem anzugehen. Der günstigere Test zuerst: dem Modell den fehlenden Kontext oder das fehlende Tool geben, eine Prüfung seiner Ausgabe hinzufügen und sehen, ob der Fehler verschwindet, bevor irgendetwas trainiert wird.

Für den ausführlicheren Fall, warum dieser Trade-off mit reifer werdenden agentischen Systemen immer wieder auftaucht, siehe Fine-Tuning vs. Scaffolding.