Systemanweisung: Grenzen für den KI-Assistenten

Jede Antwort eines KI-Assistenten entsteht aus drei Zutaten: der Frage des Besuchers, den Unterlagen, die er durchsuchen darf, und einem Text, den niemand zu sehen bekommt – der Systemanweisung. Sie steht vor jedem Gespräch, gilt für jede Antwort und legt fest, wer der Assistent ist, wie er spricht, worüber er Auskunft gibt, was er nicht zusagen darf und was er tut, wenn er etwas nicht weiß. Die meisten Klagen über einen Assistenten sind deshalb keine Modellfehler, sondern Lücken in diesem Text: Er hat geraten, weil ihm niemand gesagt hat, dass Raten verboten ist. Dieser Beitrag zeigt, welche sechs Bausteine hineingehören, warum Fachwissen dort nichts zu suchen hat, wie man eine Anweisung versioniert und woran man erkennt, ob eine Änderung tatsächlich gewirkt hat.

Grafik vergrößern

Beschriftungen der Abbildung

• Systemanweisung: steht fest
• Rolle und Zuständigkeit
• Tonfall und Ansprache
• Erlaubte Themen
• Verbotene Zusagen
• Umgang mit Unbekanntem
• Sprachwahl und Übergabe
• Ändert sich selten, gilt für jede einzelne Antwort
• Wissensbasis: wird gepflegt
• Preise und Konditionen
• Öffnungs- und Lieferzeiten
• Produktdaten und Varianten
• Rechtstexte und Fristen
• Fragen und Antworten
• Änderung ohne neue Fassung der Anweisung
• Ändert sich oft, ohne dass die Anweisung neu geschrieben wird
• Jede Fassung wird gemessen, bevor sie live geht
• 1 Fassung festschreiben
• 2 Testfälle fahren
• 3 Antworten messen
• 4 Nachschärfen
• Schematische Darstellung, keine Zusage konkreter Ergebnisse

Systemanweisung und Wissensbasis

Was die Systemanweisung wirklich ist

Ein Assistent bekommt bei jeder Anfrage drei Dinge gereicht: die Frage, die passenden Ausschnitte aus den hinterlegten Unterlagen und die Systemanweisung. Die ersten beiden wechseln von Gespräch zu Gespräch, die dritte bleibt. Sie ist der einzige Teil, der für jede Antwort gilt, und zugleich der einzige Teil, den der Betreiber vollständig in der Hand hat. Wer sie als Nebensache behandelt, überlässt Rolle, Ton und Grenzen den Vorgaben des Modells.

Sichtbar ist dieser Text nie. Der Besucher liest die Antwort, nicht die Regel, die zu ihr geführt hat. Das macht die Anweisung so wirksam und zugleich so leicht zu vernachlässigen: Ein Fehler darin sieht im Gespräch nicht wie ein Fehler aus, sondern wie ein eigenwilliger Assistent. Erst wenn dieselbe Frage zehnmal gestellt wird und zehnmal derselbe schiefe Ton zurückkommt, wird aus dem Eindruck ein Befund.

Sechs Bausteine einer tragfähigen Anweisung

Eine brauchbare Anweisung ist kürzer, als die meisten erwarten. Sie beantwortet sechs Fragen, und zwar in der Reihenfolge, in der ein Mensch sie stellen würde: Wer bist du? Wie sprichst du? Worüber gibst du Auskunft? Was sagst du niemals zu? Was tust du, wenn du es nicht weißt? In welcher Sprache antwortest du? Jeder weitere Satz muss sich daran messen lassen, ob er eine dieser sechs Fragen schärfer beantwortet – sonst verwässert er sie nur.

Auffällig ist, was in dieser Aufzählung fehlt: kein einziger Fakt über das Haus. Keine Öffnungszeit, keine Lieferzeit, keine Produktbezeichnung. Das ist kein Versehen, sondern die wichtigste Trennlinie im ganzen Aufbau.

Was nicht in die Anweisung gehört

Der häufigste Fehler ist der bequeme: Die Öffnungszeiten wandern schnell in die Anweisung, weil sie dort sofort wirken. Ein halbes Jahr später gelten andere Zeiten, die Wissensbasis ist gepflegt, die Website stimmt, nur der Assistent nennt die alten – und niemand sucht den Fehler in einem Text, den seit Monaten niemand geöffnet hat. Fachwissen in der Anweisung veraltet still.

Die Faustregel ist einfach: Alles, was ein Mitarbeiter nachschlagen würde, gehört in die Unterlagen. Alles, was ein Mitarbeiter am ersten Arbeitstag als Hausregel erklärt bekäme, gehört in die Anweisung. Nach dieser Trennung lässt sich jede neue Zeile schnell zuordnen. Wie ein Bestand aufgebaut wird, der diese Last trägt, steht im Beitrag zum Aufbau der Wissensbasis.

Grenzen benennen: der Umgang mit Unbekanntem

Ein Sprachmodell füllt Lücken. Das ist keine Bosheit, sondern seine Bauart: Es setzt fort, was plausibel klingt. Ohne ausdrückliche Regel entsteht daraus eine Telefonnummer, die es nie gab, oder eine Lieferzeit, die niemand zugesagt hat. Die Anweisung muss deshalb nicht nur verbieten zu raten, sondern vorgeben, was stattdessen zu tun ist. Ein Verbot ohne Ersatzhandlung lässt den Assistenten verstummen, und ein stummer Assistent verliert das Gespräch genauso wie ein erfindender.

• Keine Sachaussage ohne Fundstelle in den hinterlegten Unterlagen.
• Die Lücke benennen, statt sie zu umschreiben: „dazu liegt mir nichts vor" ist eine Antwort, „das kann ich leider nicht genau sagen" ist eine Ausrede.
• Im selben Zug den Weg zum Menschen anbieten, über Formular, Rückruf oder Übergabe im Chat.
• Kontaktdaten, Nummern, Fristen und Konditionen niemals aus dem Zusammenhang ableiten, auch dann nicht, wenn sie naheliegen.
• Bei Teiltreffern sagen, was gedeckt ist und was offen bleibt, statt beides zu vermischen.
• Die abgelehnte Frage protokollieren – sie zeigt am deutlichsten, welcher Inhalt in den Unterlagen fehlt.

Nachweisen lässt sich das nur mit Fragen, die absichtlich ins Leere zielen. In unserer eigenen Messreihe wurden 8 von 8 Fragen ohne Grundlage abgelehnt, statt geraten; es waren acht bewusst außerhalb der Unterlagen liegende Fragen, und der Wortlaut jeder Antwort steht in der Messdatei. Genauso zählbar ist die Gegenprobe: 42 von 48 Antworten trugen eine Angabe der Quelle – gezählt wurden Fragen, deren Antwort in der Wissensbasis steht, sechs blieben ohne Quellenangabe. Beide Zahlen stehen unter Messreihen.

Zusagen, die ausgeschlossen werden

Ein Assistent spricht im Namen des Hauses. Was er sagt, wird dem Haus zugerechnet – auch dann, wenn niemand diese Formulierung je beschlossen hat. Das Oberlandesgericht Hamm hat einen Chatbot als technisches Mittel eingeordnet, dessen sich der Betreiber bedient und über das er hinreichende Steuerungsgewalt besitzt; die Einordnung und ihre Folgen sind im Beitrag zum Urteil zur Chatbot-Haftung ausgeführt. Für die Anweisung heißt das: Was das Haus nicht zusagen will, muss dort ausdrücklich ausgeschlossen sein.

• Liefer-, Reaktions- oder Bearbeitungsfristen, die kein angebundenes System bestätigt hat.
• Rabatte, Kulanz oder Sonderkonditionen, die nicht hinterlegt sind.
• Rechtliche, medizinische oder steuerliche Einschätzungen.
• Aussagen über Angebote anderer Häuser, auch wenn der Besucher danach fragt.
• Bestätigungen, die wie ein verbindlicher Vertragsschluss klingen.
• Eigenschaften und Wirkungen, die das Haus selbst nicht belegen kann.

Kennzeichnung: der Punkt ohne Ermessen

Ein Baustein der Anweisung ist keine Geschmacksfrage. Artikel 50 Absatz 1 der Verordnung (EU) 2024/1689 verpflichtet Anbieter, KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so zu gestalten und zu entwickeln,

Die Ausnahme greift nur, wenn die Maschine aus den Umständen ohnehin offensichtlich ist – darauf sollte sich niemand verlassen, dessen Fenster aussieht wie ein Chat mit dem Team. Nach Absatz 5 derselben Vorschrift ist die Information spätestens zum Zeitpunkt der ersten Interaktion in klarer und eindeutiger Weise bereitzustellen. In der Anweisung steht deshalb ein fester Satz für die Rückfrage, ob am anderen Ende ein Mensch sitzt, und die Regel, ihn nicht abzuschwächen. Eine Persona darf Charakter haben, aber keinen Lebenslauf. Was die Kennzeichnung im Einzelnen verlangt, steht im Beitrag zur Kennzeichnungspflicht nach der KI-Verordnung.

Sprachwahl ohne Zufall

Ohne Regel antwortet ein Modell in der Sprache, die im Zusammenhang am stärksten vertreten ist – häufig also in der Sprache der Website, obwohl die Frage in einer anderen kam. Die Anweisung dreht das um: Geantwortet wird in der Sprache der Frage. Dazu gehören vier Nebenregeln, die einmal festgelegt und danach nicht mehr diskutiert werden.

• Produktnamen, Fachbegriffe und Bezeichnungen aus dem Katalog bleiben unübersetzt.
• Rechtstexte werden nicht übersetzt, sondern in der Fassung verlinkt, in der sie gelten.
• Bei gemischter Eingabe gilt die Sprache der letzten Frage, bis der Besucher selbst wechselt.
• Wechselt der Besucher die Sprache, wechselt der Assistent mit, ohne den Wechsel zu kommentieren.

Wie weit diese Regel trägt und an welcher Stelle eine eigene Fassung der Unterlagen nötig wird, steht im Beitrag zum mehrsprachigen Assistenten. Die Anweisung regelt das Verhalten, den Bestand in der zweiten Sprache ersetzt sie nicht.

Versionieren: eine Änderung je Fassung

Eine Anweisung ist Quelltext, auch wenn sie in Prosa geschrieben ist. Sie bekommt eine Nummer, ein Datum und einen Grund, und sie wird nicht überschrieben, sondern abgelöst. Der Grund dafür ist banal: Wenn drei Sätze gleichzeitig geändert werden und der Assistent danach anders antwortet, weiß niemand, welcher der drei gewirkt hat. Eine Änderung je Fassung ist langsamer und die einzige Reihenfolge, aus der sich etwas lernen lässt. Vor jeder Änderung braucht es außerdem einen Vorher-Wert, sonst bleibt jede spätere Aussage eine Vermutung mit Zeitstempel.

• Fassungsnummer, Datum und Grund stehen im Kopf der Anweisung.
• Eine Änderung je Fassung, auch wenn zwei Änderungen zusammenpassen würden.
• Dieselben Testfragen vor und nach der Änderung, im selben Wortlaut.
• Die alte Fassung bleibt liegen, damit der Rückweg eine Minute dauert und keine Nacht.
• Was nicht mehr gelten soll, wird gestrichen und nicht als Nebensatz weitergeschleppt.

Vier Fehler, die sich wiederholen

Die Fehler in Systemanweisungen ähneln sich über Branchen hinweg. Sie entstehen selten aus Unwissen, meist aus dem Wunsch, alles auf einmal zu regeln.

So setzen wir eine Anweisung auf

Am Anfang steht kein Text, sondern eine Sammlung echter Fragen: das, was im Posteingang, am Telefon und im Formular tatsächlich ankommt. Daraus ergibt sich, welche Themen erlaubt sein müssen und an welchen Stellen der Assistent zwangsläufig an eine Grenze läuft. Erst danach wird formuliert, und zwar in der Sprache des Hauses, nicht in der eines Regelwerks.

• Echte Fragen sammeln und in erlaubte Themen, verbotene Themen und Grenzfälle sortieren.
• Rolle, Tonfall und Zuständigkeit in je einem Satz festhalten, dazu zwei Beispielantworten.
• Verbote als Paar aus Verbot und Ersatzhandlung schreiben.
• Die Regel für den Fall ohne Grundlage ausformulieren, samt Beispielsatz für die Ablehnung.
• Testfragen festlegen, bevor die erste Fassung live geht.
• Nach zwei Wochen echte Gespräche lesen und die Anweisung nachschärfen, nicht früher.

Was dabei entsteht, ist kein Dokument für den Ordner, sondern ein Text, der jeden Tag arbeitet. Wir legen ihn zusammen mit den Unterlagen an, halten beide getrennt und schreiben zu jeder Fassung auf, was sie ändern sollte und was sie tatsächlich geändert hat. Wenn Sie einen bestehenden Assistenten haben, dessen Antworten unberechenbar wirken, lohnt der Blick zuerst in diesen Text und erst danach in das Modell. Wie der Bestand daneben aussieht, zeigt die Dokumentation; über Kontakt sehen wir uns Ihre Fassung an.

Häufige Fragen