Kann die KI Dinge erfinden?

Ein KI-Assistent kann irren, das lässt sich nicht ausschließen. Deshalb binden wir seine Antworten an Ihre eigenen Inhalte: Er antwortet aus Website, Dokumenten und Wissensbasis, statt frei ins Blaue zu formulieren. Ist eine Information nicht hinterlegt, sagt er das und verweist weiter.

Zusätzlich sorgen die Übergabe an einen Menschen und die laufende Gesprächsanalyse für Sicherheit: Wissenslücken und Fehlannahmen werden sichtbar und lassen sich gezielt schließen. So bleibt die Auskunft nachvollziehbar an Ihre Quellen gebunden.

Die Bindung ist technisch und nicht nur eine Bitte an das Modell: Jede Aussage trägt die Nummer des Auszugs, aus dem sie stammt, und eine Antwort ohne einen einzigen benutzten Beleg wird nicht ausgeliefert. Reicht die Deckung zwischen Frage und bestem Abschnitt nicht aus, verweigert der Assistent die Auskunft, statt zu formulieren. Fällt das Sprachmodell aus, sendet das Gespräch die hinterlegte Notfallantwort und keine erfundene.

Was offenbleibt, wird nicht verschwiegen: Unbeantwortete Fragen und Wissenslücken stehen als eigene Listen in der Auswertung, samt der Frage, die sie ausgelöst hat. Daraus ergänzen Sie gezielt die Wissensbasis, statt den Assistenten neu aufzusetzen. Zusätzlich läuft täglich ein Prüfsatz über bekannte Fragen und misst, ob sie noch den richtigen Abschnitt treffen; ein Konto ohne Prüfzeilen erzeugt dabei bewusst keinen Wert statt eines geschätzten.