Ein unsichtbares Gerüst aus Anweisungen, Konfigurationen und Hilfsprogrammen hält aktuelle Sprachmodelle überhaupt erst im Betrieb. Grosse Sprachmodelle werden in der Praxis fast nie direkt eingesetzt, wie das Magazin heise zeigt, da sie primär Textvervollständigungsmaschinen sind.
Wer sich mit modernen Systemen auf Basis grosser Sprachmodelle (Large Language Models, LLM) beschäftigt, stößt unweigerlich auf den Begriff Harness
.
Eine feste, allgemein etablierte Definition gibt es dafür jedoch laut der Heise-Berichterstattung nicht.
Häufig lässt sich das Konstrukt vor allem durch das eingrenzen, was es nicht ist: Es ist schlicht nicht das Sprachmodell selbst.
Vom reinen Textgenerator zur Anwendung
Die zugrundeliegenden Modelle bilden zwar das Fundament des aktuellen Booms, doch sie bleiben an sich reine Textvervollständigungsmaschinen.
Die reine Modellbasis reicht für den praktischen Einsatz nicht aus. Die wenigsten Aufgaben lassen sich sinnvoll von einem System bearbeiten, das lediglich ungesteuert Texte plausibel fortsetzt.
Das unsichtbare Gerüst im Betrieb
Ein solches Harness ist erforderlich, um aus diesem rohen Fundament einen funktionierenden Chatbot, einen Coding-Agenten, einen Security-Scanner oder einen persönlichen Assistenten zu formen.
Dabei handelt es sich um ein Sammelsurium von Anweisungen, Konfigurationen und Hilfsprogrammen.
Kontext, Sicherheit und Programmsteuerung
Diese zusätzlichen Tools erfüllen entscheidende Funktionen.
Sie liefern den nötigen Kontext, erzwingen die erforderlichen Sicherheitsgarantien und bewerten zuverlässig, ob eine bestimmte Aufgabe erfolgreich bearbeitet wurde.
Sie erlauben es dem Sprachmodell darüber hinaus, direkt mit anderen Programmen zu interagieren.
In dieser breiten Auffassung bildet das Zusammenspiel all dieser Elemente die Kontrollinstanz über das zugrundeliegende System.
Auch interessant