Kann die KI Dinge erfinden?

Ein KI-Assistent kann irren, das lässt sich nicht ausschließen. Deshalb binden wir seine Antworten an Ihre eigenen Inhalte: Er antwortet aus Website, Dokumenten und Wissensbasis, statt frei ins Blaue zu formulieren. Ist eine Information nicht hinterlegt, sagt er das und verweist weiter.

Zusätzlich sorgen die Übergabe an einen Menschen und die laufende Gesprächsanalyse für Sicherheit: Wissenslücken und Fehlannahmen werden sichtbar und lassen sich gezielt schließen. So bleibt die Auskunft nachvollziehbar an Ihre Quellen gebunden.

Die Bindung ist nicht nur eine Bitte an das Modell: Belegte Aussagen tragen die Nummer des Auszugs, aus dem sie stammen, und eine Antwort ohne einen einzigen benutzten Beleg wird als Lücke vermerkt. Zahlen, Preise und Fristen, die nicht in Ihren Quellen stehen, ersetzt der Assistent durch einen Hinweis. Fällt das Sprachmodell aus, sendet das Gespräch die hinterlegte Notfallantwort und keine erfundene.

Was offenbleibt, wird nicht verschwiegen: Unbeantwortete Fragen und Wissenslücken stehen als eigene Listen in der Auswertung, samt der Frage, die sie ausgelöst hat. Daraus ergänzen Sie gezielt die Wissensbasis, statt den Assistenten neu aufzusetzen. Zusätzlich läuft täglich ein Prüfsatz über bekannte Fragen und misst, ob sie noch den richtigen Abschnitt treffen; ein Konto ohne Prüfzeilen erzeugt dabei bewusst keinen Wert statt eines geschätzten.