KI-Kompetenz nach Art. 4 AI Act: Rollen, Nachweise

Artikel 4 der Verordnung (EU) 2024/1689 ist der kürzeste Abschnitt, den ein Betrieb mit einem KI-Assistenten kennen sollte, und der am leichtesten übersehene. Er verlangt keine Technik, keine Prüfstelle und kein Siegel. Er verlangt, dass die Menschen, die den Assistenten bedienen, verstehen, was sie da bedienen. Die Pflicht richtet sich an Anbieter und Betreiber gleichermaßen und gilt seit dem 2. Februar 2025 (Verordnung EU 2024/1689, Artikel 113 Buchstabe a). Durch die Verordnung (EU) 2026/1744 wurde ihr Wortlaut im Juli 2026 entschärft, aber nicht gestrichen. Dieser Beitrag übersetzt den Artikel in den Alltag eines Website-Assistenten: wer die Wissensbasis pflegt, wer die Ablehnungen liest, wer eine falsche Antwort erkennt, wer eine Änderung freigibt. Und er zeigt, woran sich das belegen lässt, wenn jemand fragt - an Schulungsunterlagen, Rollenlisten und Protokollen statt an einer Zusage im Gespräch. Er ersetzt keine Rechtsberatung, gibt aber eine Orientierung, die sich am selben Tag umsetzen lässt.

Grafik vergrößern

Beschriftungen der Abbildung

• Rolle 1
• Wissensbasis
• pflegen
• Quellen aktuell halten
• Widersprüche auflösen
• Stand datieren
• Belegt: Pflegeprotokoll
• Rolle 2
• Ablehnungen
• lesen
• Offene Fragen sammeln
• Lücken melden
• Muster erkennen
• Belegt: Ablehnungsliste
• Rolle 3
• Übergabe
• annehmen
• Verlauf weiterlesen
• Fall selbst entscheiden
• Rückmeldung geben
• Belegt: Übergabeprotokoll
• Rolle 4
• Freigabe
• verantworten
• Testfälle abnehmen
• Grenzen festlegen
• Änderungen freigeben
• Belegt: Freigabevermerk
• Nachgewiesen wird Kompetenz an Unterlagen, nicht an einer Zusage im Gespräch
• Schulungsunterlage
• Inhalt, Datum, Teilnehmerkreis
• Rollen und Rechte
• Wer darf was am Assistenten ändern
• Gesprächsprotokolle
• Ablehnungen, Übergaben, Korrekturen
• Artikel 4 gilt seit dem 2. Februar 2025 für Anbieter und Betreiber (Artikel 113 Buchstabe a)
• Artikel 99 Absatz 4 führt Artikel 4 nicht auf - die Nachweisfrage bleibt trotzdem
• Kompetenz zeigt sich dort, wo jemand eine falsche Antwort erkennt und sie korrigiert

Artikel 4 KI-Verordnung: vier Rollen am Assistenten

Was Artikel 4 verlangt - und was nicht

Artikel 4 steht in Kapitel I der KI-Verordnung, dem Kapitel mit den allgemeinen Bestimmungen. Das ist kein Nebenschauplatz, sondern der Grund für sein frühes Datum: Nach Artikel 113 Buchstabe a gelten die Kapitel I und II seit dem 2. Februar 2025. Während die Pflichten für Hochrisikosysteme noch Jahre vor sich haben, ist die Kompetenzpflicht längst anwendbar - und sie gilt unabhängig davon, in welche Risikoklasse das eingesetzte System fällt. Ein Chatfenster auf einer Handwerkerseite ist kein Hochrisikosystem, die Pflicht aus Artikel 4 greift trotzdem.

Inhaltlich verlangt die Vorschrift, dass Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung von KI-Kompetenz bei ihrem Personal und bei anderen Personen zu fördern, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Zu berücksichtigen sind dabei die technischen Kenntnisse dieser Personen, ihre Erfahrung, ihre Ausbildung und Schulung, der Kontext, in dem das System eingesetzt wird, und die Personen oder Personengruppen, bei denen es eingesetzt wird. Der Maßstab ist also ausdrücklich beweglich: Ein Zwei-Personen-Betrieb schuldet etwas anderes als ein Versicherer mit eigener Rechtsabteilung.

Anbieter oder Betreiber: welche Rolle Sie haben

Die Pflicht hängt an einer Rolle, und die Rolle steht in den Begriffsbestimmungen. Anbieter ist nach Artikel 3 Nummer 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich. Betreiber ist nach Artikel 3 Nummer 4, wer ein KI-System in eigener Verantwortung verwendet - ausgenommen die rein persönliche, nicht berufliche Nutzung. Ein Betrieb, der einen Assistenten auf seiner Website einsetzt, fällt damit unter die zweite Definition, auch wenn er keine Zeile Code geschrieben hat.

Die Unterscheidung ist kein Wortspiel. Ein Anbieter, der seine Kundschaft mit einer unverständlichen Anleitung alleinlässt, erschwert ihr die eigene Pflicht. Ein Betreiber, der die Anleitung nie öffnet, erfüllt seine nicht. In der Praxis reicht es, beim Start schriftlich festzuhalten, wer welche Rolle einnimmt und welche Unterlagen von wem kommen. Dieser eine Absatz im Projektordner erspart später eine lange Diskussion - und er ist der erste Beleg, den man vorzeigen kann. Wie eine solche Abgrenzung im Vertrag aussieht, zeigt der Beitrag zur Auftragsverarbeitung. Bei XICBOT liegt diese Anleitung als Dokumentation vor: Wissensbasis, Werkzeugfreigaben, Einbau und Auswertung, Bereich für Bereich.

Was KI-Kompetenz im Sinne der Verordnung ist

Der Begriff ist nicht dem Sprachgefühl überlassen, sondern in Artikel 3 Nummer 56 definiert. Und die Definition ist bemerkenswert praktisch: Sie spricht von Fähigkeiten, Kenntnissen und Verständnis, nicht von Abschlüssen oder Stunden. Gemeint ist die Fähigkeit, ein System sachkundig einzusetzen und sich der Chancen, Risiken und möglichen Schäden bewusst zu sein. Wer also sagen kann, wofür der Assistent im eigenen Haus zuständig ist, wo seine Wissensbasis endet und was zu tun ist, wenn eine Antwort nicht stimmt, erfüllt den Kern der Definition.

Drei Dinge fallen an dieser Definition auf. Erstens nennt sie die Betroffenen in einem Atemzug mit Anbietern und Betreibern - Kompetenz ist keine reine Innensache. Zweitens verlangt sie ein Bewusstsein für Schäden, nicht nur für Funktionen; wer nur die Bedienoberfläche kennt, ist nach diesem Maßstab noch nicht kompetent. Drittens bindet sie das Verständnis an die jeweiligen Rechte und Pflichten. Für einen Website-Assistenten heißt das konkret: Wer ihn bedient, sollte auch wissen, dass Nutzer erkennen müssen, mit einer Maschine zu schreiben - die Kennzeichnungspflicht aus Artikel 50 gehört zum Pflichtwissen dazu.

Die vier Rollen am Assistenten

Ein Website-Assistent braucht keine Abteilung. Er braucht vier benannte Zuständigkeiten, die in kleinen Betrieben durchaus in einer Person zusammenfallen dürfen - solange sie benannt ist. Die folgenden vier decken den Lebenszyklus ab, von der Quelle einer Antwort bis zur Freigabe einer Änderung. Wer sie besetzt, hat Artikel 4 im Wesentlichen umgesetzt, ohne ein einziges Schulungsformat gekauft zu haben.

Auffällig ist, was in dieser Liste fehlt: Modellwissen. Niemand im Betrieb muss erklären können, wie ein Sprachmodell rechnet. Artikel 3 Nummer 56 verlangt sachkundigen Einsatz und Bewusstsein für Risiken, nicht technische Tiefe. Die vier Rollen sind deshalb bewusst an Tätigkeiten geknüpft, die ohnehin anfallen - sie geben ihnen nur einen Namen und einen Ort, an dem sie protokolliert werden.

Wer die Wissensbasis pflegt

Ein Assistent antwortet aus dem, was ihm vorliegt. Die Wissensbasis ist damit die Stelle, an der fachliche Kompetenz und rechtliche Pflicht zusammenfallen: Wer sie pflegt, entscheidet über den Inhalt jeder Antwort. Diese Rolle braucht keine Technikkenntnis, sondern Kenntnis des eigenen Betriebs - und die Bereitschaft, Widersprüche zu klären, statt beide Fassungen stehen zu lassen. Zwei Dokumente mit unterschiedlichen Angaben zu derselben Leistung sind die häufigste Ursache für Antworten, die formal plausibel klingen und trotzdem nicht stimmen.

• Jede Quelle trägt ein Datum und einen Namen, damit erkennbar bleibt, wer für sie einsteht.
• Preise, Fristen und Ausschlüsse stehen an genau einer Stelle; alle anderen Dokumente verweisen darauf.
• Widersprüche werden aufgelöst, nicht nebeneinander abgelegt - sonst entscheidet der Zufall, welche Fassung antwortet.
• Themen ohne Quelle werden ausdrücklich als nicht beantwortbar hinterlegt, damit der Assistent ablehnt statt zu raten.
• Nach jeder Preis- oder Leistungsänderung geht die Wissensbasis vor der Website durch die Kontrolle.
• Ein fester Termin im Monat genügt in kleinen Betrieben; wichtiger als die Frequenz ist, dass er stattfindet und vermerkt wird.

Ablehnungen lesen statt sie zu überlesen

Ein gut eingestellter Assistent lehnt ab, wenn ihm die Grundlage fehlt. Das ist die gewünschte Reaktion und zugleich ein Signal, das verloren geht, wenn niemand zuständig ist. Jede Ablehnung sagt zwei Dinge: Ein Mensch hatte eine Frage, und im Haus steht keine belastbare Antwort darauf. Warum Ablehnen der sicherere Weg ist als Raten, behandelt der Beitrag Ablehnen statt raten im Detail.

Für Artikel 4 ist diese Rolle deshalb so wertvoll, weil sie Kompetenz sichtbar macht. Wer die Ablehnungen einer Woche durchsieht, lernt in zwanzig Minuten mehr über die Grenzen des eigenen Systems als in einem halben Schulungstag. Er sieht, welche Fragen wiederkehren, welche Formulierungen den Assistenten aus dem Tritt bringen und an welchen Stellen die Wissensbasis dünn ist. Die Gesprächsanalyse bündelt diese Fälle, damit sie nicht einzeln gesucht werden müssen.

• Wiederkehrende Frage ohne Quelle - die Antwort gehört in die Wissensbasis, nicht in eine Einzelmail.
• Frage außerhalb des Auftrags - die Ablehnung ist richtig; geprüft wird nur, ob der Verweis auf einen Menschen sauber erfolgt.
• Frage mit rechtlichem Einschlag - Beschwerden, Verträge, Gesundheit gehören grundsätzlich in die Übergabe.
• Frage, die der Assistent missversteht - hier fehlt meist ein Synonym oder eine Beispielformulierung, nicht ein Dokument.
• Versuch, den Assistenten zu einer Zusage zu bewegen - solche Gespräche gehören gesondert vermerkt und angesehen.

Eine falsche Antwort erkennen

Die schwierigste der vier Fähigkeiten ist die, eine falsche Antwort als falsch zu erkennen. Falsche Antworten eines Sprachmodells sind selten offensichtlich; sie sind formuliert wie richtige. Genau darauf zielt die Definition in Artikel 3 Nummer 56 mit dem Bewusstsein für mögliche Schäden. Wer weiß, an welchen Merkmalen sich ein Zweifel festmachen lässt, prüft an der richtigen Stelle nach - und wer es nicht weiß, überliest den Fehler mit demselben Wohlwollen wie der Kunde.

Nachweis führen: Unterlagen und Protokolle

Artikel 4 nennt keine Nachweisform. Das ist ein Vorteil und eine Falle zugleich: Es gibt kein vorgeschriebenes Formular, aber auch keine Ausrede, wenn gar nichts vorliegt. Die DSGVO kennt für einen verwandten Fall die passende Haltung: Nach Artikel 5 Absatz 2 muss der Verantwortliche die Einhaltung der Grundsätze nachweisen können - die Rechenschaftspflicht. Wer diese Logik auf Artikel 4 überträgt, sammelt von Anfang an das, was eine Aufsichtsbehörde oder ein Gericht später ohnehin sehen will.

• Rollenliste: wer die Wissensbasis pflegt, wer Ablehnungen liest, wer Übergaben annimmt, wer Änderungen freigibt - mit Datum und Vertretung.
• Einweisungsunterlage: eine Seite, die erklärt, was der Assistent tut, woher er sein Wissen nimmt und wo seine Grenze liegt.
• Teilnahmevermerk: wer wann eingewiesen wurde, unterschrieben oder per Kalendereintrag belegt.
• Pflegeprotokoll: jeder Durchgang durch die Wissensbasis mit Datum, Person und Änderung.
• Freigabevermerk: welche Testfälle vor einem Livegang abgenommen wurden und von wem.
• Vorfallsnotiz: jede erkannte Fehlantwort mit Datum, Ursache und der daraus folgenden Korrektur.

Keiner dieser Belege ist aufwendig. Zusammen ergeben sie etwas, das eine Zusage im Gespräch nie ergibt: eine Spur über die Zeit. Sie zeigt nicht nur, dass einmal etwas getan wurde, sondern dass es weitergeführt wird - und genau das trifft den Wortlaut der geänderten Fassung, die von der Förderung einer Entwicklung spricht. Wie die Abnahme vor dem Livegang praktisch abläuft, steht im Beitrag zu Testfällen und Abnahme.

Was Artikel 4 nicht ist

Artikel 4 verlangt keine Prüfung, keinen Kurs und keine Bescheinigung einer Stelle. Er nennt weder eine Stundenzahl noch ein Format noch einen Turnus. Wer ein Angebot sieht, das eine amtliche Bestätigung der KI-Kompetenz in Aussicht stellt, sollte im Verordnungstext nachsehen: Die Grundlage dafür steht dort nicht. Was die Vorschrift verlangt, ist Förderung mit Augenmaß, angepasst an Vorkenntnisse und Einsatzkontext - und damit etwas, das ein Betrieb selbst gestalten darf.

Auch beim Bußgeld lohnt der genaue Blick. Artikel 99 Absatz 4 zählt auf, welche Verstöße mit bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes belegt werden können, und nennt dabei unter anderem die Pflichten der Anbieter aus Artikel 16, die der Betreiber aus Artikel 26 und die Transparenzpflichten aus Artikel 50. Artikel 4 steht in dieser Aufzählung nicht. Daraus folgt jedoch nicht, dass die Vorschrift folgenlos ist: Sie bleibt geltendes Recht, die Marktaufsicht kann Unterlagen anfordern, und im Streit über eine falsche Auskunft ist die Frage nach der Einweisung des Personals schnell gestellt.

Abzugrenzen ist Artikel 4 schließlich von der menschlichen Aufsicht über Hochrisikosysteme. Für diese verlangt Artikel 26 Absatz 2, dass die Aufsicht natürlichen Personen übertragen wird, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen und die nötige Unterstützung erhalten. Das ist eine engere und schärfere Pflicht - sie trifft einen gewöhnlichen Website-Assistenten nicht. Wer allerdings einen Assistenten in der Bewerberauswahl oder in der Kreditvergabe einsetzt, sollte die Einordnung fachlich klären lassen, bevor er sich allein auf Artikel 4 stützt.

Ein Fahrplan für einen kleinen Betrieb

Die folgende Reihenfolge lässt sich an einem Vormittag abarbeiten und danach in wenigen Minuten pro Monat halten. Sie ist bewusst schlank gehalten: Ein Verfahren, das niemand durchhält, erzeugt nach drei Monaten eine Lücke im Nachweis und ist dann schlechter als gar keines. Sie ersetzt keine Prüfung des Einzelfalls durch eine Anwältin oder einen Anwalt, deckt aber die Punkte ab, nach denen üblicherweise gefragt wird.

• Rolle klären: Sind Sie Betreiber, Anbieter oder beides? Ein Satz im Projektordner mit Datum genügt.
• Vier Zuständigkeiten mit Namen besetzen, Vertretung dazuschreiben, an einer Stelle ablegen.
• Eine Einweisungsseite schreiben: Was tut der Assistent, woher stammt sein Wissen, wo hört er auf, wer ist zu fragen?
• Einweisung durchführen und den Teilnahmevermerk unterschreiben lassen - auch bei zwei Personen.
• Festen Termin für den Durchgang durch Wissensbasis und Ablehnungen setzen und protokollieren.
• Testfälle für die heiklen Themen festhalten und vor jeder Änderung erneut durchgehen.
• Einmal jährlich Rollenliste und Einweisungsseite gegen den tatsächlichen Stand prüfen und neu datieren.

Wer diesen Weg geht, hat nebenbei etwas erreicht, das über die Vorschrift hinausreicht: Der Assistent wird von einem Werkzeug, das irgendwo läuft, zu einem Teil des Betriebs mit einer Zuständigkeit. Das senkt die Zahl der Fehlantworten, weil jemand sie sieht, und es macht die Übergabe an einen Menschen verlässlicher, weil jemand sie annimmt. Wie diese Übergabe gestaltet wird, beschreibt der Beitrag zur Übergabe an Mitarbeiter. Welche Bausteine ein Assistent dafür mitbringt, von der Quellenbindung bis zur Übergabe an Menschen, fasst die Seite Funktionen zusammen.

Häufige Fragen