Die KI-Verordnung für KI-Agenten und RAG-Systeme 2026: Checkliste zur Einstufung

Kurz gesagt (Oktober 2026). Die meisten KI-Agenten und RAG-Assistenten, die Unternehmen bauen, sind nach der KI-Verordnung kein Hochrisiko – Pflichten haben aber fast alle schon heute. Seit dem 2. August 2026 verlangt Artikel 50, dass Menschen spätestens bei der ersten Interaktion erfahren, dass sie mit einem KI-System interagieren, und Anbieter generativer Systeme müssen synthetische Inhalte maschinenlesbar kennzeichnen; für Systeme, die schon am Markt sind, gilt die Kennzeichnung ab dem 2. Dezember 2026. Wer einen Agenten auf GPT, Claude oder Mistral baut und unter eigenem Namen anbietet, ist Anbieter dieses KI-Systems. Hochrisiko wird es erst, wenn es für einen Zweck aus Anhang III eingesetzt wird, etwa Personalauswahl, Entscheidungen über Beschäftigte, Kreditwürdigkeitsprüfung oder Preisgestaltung in der Lebens- und Krankenversicherung; der Digital Omnibus hat diese Pflichten auf den 2. Dezember 2027 verschoben. Verstöße gegen die Transparenzpflicht können bis zu 15 Mio. € oder 3 % des weltweiten Umsatzes kosten, und in Deutschland überwacht seit Juli 2026 die Bundesnetzagentur nach dem KI-MIG.

Diese Checkliste richtet sich an Unternehmen, die KI-Agenten und RAG-Systeme bauen oder einkaufen. Sie aktualisiert unseren Überblick vom August zur KI-Verordnung und KI-Agenten mit dem endgültigen Text des Digital Omnibus und ergänzt einen Einstufungstest mit Beispielen.

Was nach dem Digital Omnibus ab wann gilt

Der Digital Omnibus zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli 2026 veröffentlicht und trat am 27. Juli 2026 in Kraft. Für Entwickler von Agenten und RAG-Systemen ändert er vier Dinge:

• Hochrisiko-Pflichten verschoben. Für Einsätze nach Anhang III gelten sie ab dem 2. Dezember 2027, für KI in Produkten nach Anhang I (Maschinen, Medizinprodukte und Ähnliches) ab dem 2. August 2028.
• Eine Übergangsfrist für die Kennzeichnung – und nur dafür. Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit für Artikel 50 Abs. 2. Der Rest von Artikel 50 gilt seit dem 2. August 2026.
• KI-Kompetenz abgeschwächt. Artikel 4 verlangt jetzt, dass Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz der Mitarbeitenden zu fördern, die KI-Systeme in ihrem Auftrag betreiben; ein bestimmtes Niveau für jede Person muss nicht mehr gewährleistet werden.
• Erleichterungen für kleinere Unternehmen. Vereinfachte Dokumentation und ein verhältnismäßiges Qualitätsmanagementsystem gelten nun auch für kleine Midcaps, und ihre Bußgelder für die meisten Pflichten sind auf den niedrigeren der beiden Beträge begrenzt.

Erste Frage: Anbieter oder Betreiber?

Die KI-Verordnung unterscheidet den Anbieter, der ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nr. 3), vom Betreiber, der ein KI-System in eigener Verantwortung beruflich verwendet (Artikel 3 Nr. 4).

• Sie bauen einen Agenten oder RAG-Assistenten auf einer Modell-API und bieten ihn Kunden an oder nutzen ihn unter Ihrem Namen: Sie sind Anbieter des KI-Systems. OpenAI, Anthropic, Google oder Mistral sind Anbieter des KI-Modells mit allgemeinem Verwendungszweck; ihre Pflichten nach Artikel 53 bis 55 gelten seit August 2025 und gehen nicht auf Sie über. Nach den Leitlinien der Kommission wird ein Unternehmen, das ein Modell feinabstimmt, erst dann selbst Modellanbieter, wenn die Änderung mehr als ein Drittel der ursprünglichen Trainingsrechenleistung nutzt.
• Sie kaufen einen fertigen Assistenten und nutzen ihn intern: Sie sind Betreiber.
• Die Rolle kann wechseln. Nach Artikel 25 wird ein Betreiber oder Händler zum Anbieter eines Hochrisiko-Systems, wenn er seinen Namen daraufsetzt, es wesentlich verändert oder den Zweck eines Systems, das kein Hochrisiko war, so ändert, dass es eines wird. Einen allgemeinen Chatbot an die eigene Personalauswahl anzubinden, ist genau so eine Änderung.

Fünf Fragen zur Einstufung

1. Ist es verboten? Artikel 5 gilt seit dem 2. Februar 2025. Er verbietet unter anderem manipulative oder täuschende Techniken, die erheblichen Schaden verursachen, das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage, Social Scoring und das Ableiten von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen. Ein Agent, der schutzbedürftige Kunden in Verträge drängt, oder ein Assistent, der aus Gesprächen die Emotionen von Mitarbeitenden liest, ist kein Compliance-Projekt, sondern ein Fall für ein neues Design.
2. Dient es einem Zweck aus Anhang III? Für Agenten relevant sind Personalauswahl (Bewerbungen filtern, Kandidaten bewerten), Entscheidungen über Beschäftigte (Beförderung, Kündigung, Zuweisung von Aufgaben nach Verhalten oder persönlichen Merkmalen, Leistungsüberwachung), Kreditwürdigkeit und Bonitätsbewertung (Betrugserkennung ist ausgenommen), Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung, Bildung und Zugang zu öffentlichen Leistungen.
3. Greift eine Ausnahme? Nach Artikel 6 Abs. 3 ist ein System aus Anhang III kein Hochrisiko, wenn es das Ergebnis von Entscheidungen nicht wesentlich beeinflusst, weil es nur eine eng gefasste Verfahrensaufgabe erledigt, das Ergebnis einer abgeschlossenen menschlichen Tätigkeit verbessert, Abweichungen von früheren Entscheidungsmustern erkennt, ohne die menschliche Prüfung zu ersetzen, oder eine vorbereitende Aufgabe übernimmt. Zwei Bedingungen bleiben: Ein System, das Profiling natürlicher Personen betreibt, ist immer Hochrisiko, und wer sich auf die Ausnahme beruft, muss die Bewertung dokumentieren und das System registrieren.
4. Interagiert es mit Menschen oder erzeugt es Inhalte? Dann gilt Artikel 50 (nächster Abschnitt).
5. Alles andere hat die Grundpflichten: Maßnahmen zur KI-Kompetenz, DSGVO und belastbare Verträge mit dem Modellanbieter.

Die Kommission hat im Mai 2026 Leitlinien zur Hochrisiko-Einstufung im Entwurf veröffentlicht; die endgültige Fassung steht noch aus. Grenzfälle verdienen deshalb schon jetzt eine schriftliche Bewertung.

Beispiele

Zwei davon sind eigene Projekte: Der AI Intake Agent ist ein Assistent mit Kundenkontakt nach Artikel 50 Abs. 1, und seine Konfiguration für einen Radiologie-Dienst ist bewusst auf Information und Orientierung begrenzt. Er deutet keine Untersuchungen und stellt keine Diagnosen; täte er es, ginge es nicht mehr nur um die KI-Verordnung, sondern um Medizinprodukterecht – und damit um Anhang I.

Artikel 50 in der Praxis

• Artikel 50 Abs. 1, Anbieter: Ein System, das direkt mit Menschen interagiert, muss so gestaltet sein, dass sie wissen, dass sie es mit einer KI zu tun haben – außer, es ist für einen angemessen informierten, aufmerksamen Menschen offensichtlich. Ein Satz wie „Ich bin ein KI-Assistent von …“ zu Beginn des Gesprächs, auch in E-Mail und Messengern, ist die übliche Lösung.
• Artikel 50 Abs. 2, Anbieter generativer Systeme: Synthetische Audio-, Bild-, Video- und Textinhalte müssen maschinenlesbar gekennzeichnet und als künstlich erzeugt erkennbar sein. Unterstützende Bearbeitung, die die Eingabe nicht wesentlich verändert, ist ausgenommen. Die Kommission hat den im Juni 2026 veröffentlichten Verhaltenskodex zur Transparenz KI-erzeugter Inhalte als geeignetes freiwilliges Instrument bestätigt; bis Ende Juli 2026 hatten ihn rund 190 Organisationen unterzeichnet.
• Artikel 50 Abs. 4, Betreiber: Deepfakes müssen offengelegt werden, ebenso KI-erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – außer, ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung.
• Artikel 50 Abs. 5, Zeitpunkt: Die Information muss klar und unterscheidbar spätestens bei der ersten Interaktion oder Begegnung erfolgen.

Die Kommission hat im Juli 2026 Leitlinien zu den Transparenzpflichten veröffentlicht. Verstöße gegen Artikel 50 fallen in die Bußgeldstufe bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist; für KMU gilt der niedrigere.

Wenn Ihr System Hochrisiko ist

Ab dem 2. Dezember 2027 braucht der Anbieter eines Systems nach Anhang III ein Risikomanagementsystem, Data Governance, technische Dokumentation, automatische Protokollierung, eine Gebrauchsanweisung, menschliche Aufsicht, Maßnahmen für Genauigkeit und Robustheit, ein Qualitätsmanagementsystem, eine Konformitätsbewertung und die Registrierung in der EU-Datenbank (Artikel 9 bis 17, 43 und 49). Der Betreiber muss es gemäß Gebrauchsanweisung einsetzen, kompetente menschliche Aufsicht benennen, die Relevanz der Eingabedaten prüfen, Protokolle mindestens sechs Monate aufbewahren, Arbeitnehmervertretungen vor dem Einsatz am Arbeitsplatz informieren und Betroffene über Entscheidungen informieren (Artikel 26). Öffentliche Stellen sowie Betreiber von Kredit- und Versicherungssystemen brauchen zusätzlich eine Grundrechte-Folgenabschätzung, die nun auf der Datenschutz-Folgenabschätzung aufbauen kann (Artikel 27).

Vierzehn Monate sind für diese Liste nicht viel. Ein Agent für Personalauswahl oder Kreditprüfung, der 2026 live geht, sollte von Anfang an mit Protokollierung, Aufsicht und Dokumentation gebaut werden.

Die DSGVO gilt daneben weiter

Ein RAG-System oder Agent, der personenbezogene Daten verarbeitet, braucht eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag mit dem Modellanbieter und für viele Einsätze eine Datenschutz-Folgenabschätzung. Nach Artikel 22 DSGVO haben Menschen das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden; ein Agent, der allein über Bewerbungen, Kredite oder Verträge entscheidet, braucht also eine Ausnahme oder einen Menschen im Prozess. Die Stellungnahme 28/2024 des EDSA ergänzt, dass ein Modell, das mit unrechtmäßig verarbeiteten personenbezogenen Daten entwickelt wurde, die Rechtmäßigkeit seiner späteren Nutzung beeinträchtigen kann – eine Frage an jeden Modellanbieter.

Wer in Deutschland überwacht

Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) vom 22. Juli 2026 ist am 29. Juli 2026 in Kraft getreten und benennt die Bundesnetzagentur als Marktüberwachungsbehörde für die KI-Verordnung; die BaFin überwacht KI im Zusammenhang mit regulierten Finanztätigkeiten. Der KI-Service-Desk der Bundesnetzagentur bietet mit dem „Compliance Kompass“ eine kostenlose Prüfung, welche Pflichten für ein System gelten.

Checkliste

1. Jedes KI-System erfassen, das Sie bauen oder nutzen, mit Zweck und Nutzern.
2. Je System die Rolle festlegen: Anbieter, Betreiber oder beides.
3. Praktiken nach Artikel 5 ausschließen, einschließlich Emotionserkennung am Arbeitsplatz.
4. Jeden Zweck gegen Anhang III prüfen; die Begründung festhalten, besonders bei Berufung auf Artikel 6 Abs. 3.
5. KI-Offenlegung bei der ersten Interaktion in jedem Kanal einbauen.
6. Erzeugte Medien und Texte kennzeichnen, wo Sie Anbieter sind; den Verhaltenskodex prüfen.
7. Die Menschen schulen, die die Systeme betreiben und beaufsichtigen (Artikel 4).
8. Datenschutz-Folgenabschätzung, wo personenbezogene Daten verarbeitet werden; bei erheblichen Entscheidungen einen Menschen im Prozess halten.
9. Verträge mit Modellanbietern prüfen: Datennutzung, Verarbeitungsort, Protokolle.
10. Für Hochrisiko-Einsätze jetzt mit Dokumentation, Protokollierung und Aufsichtskonzept für den 2. Dezember 2027 beginnen.

Wie wir helfen können

Wir bauen agentische KI-Anwendungen und individuelle RAG-Systeme mit eingebauter Offenlegung, Protokollierung, menschlicher Freigabe und Zugriffssteuerung und helfen, bestehende Systeme vor den Fristen einzustufen. Zur Datenschutzseite der Modellwahl siehe unseren Beitrag zu lokalen LLMs gegenüber Cloud-APIs für sensible Daten.

Dieser Beitrag erklärt die Verordnung; er ist keine Rechtsberatung.

FAQ

Ist ein KI-Agent nach der KI-Verordnung Hochrisiko?

Meist nicht. Ein Agent ist nur dann Hochrisiko, wenn er für einen Zweck aus Anhang III eingesetzt wird – etwa Personalauswahl, Entscheidungen über Beschäftigte, Bonitätsbewertung oder Preisgestaltung in der Lebens- und Krankenversicherung – und keine Ausnahme nach Artikel 6 Abs. 3 greift. Die meisten Kundenservice-Agenten und RAG-Assistenten sind kein Hochrisiko, müssen aber die Transparenzpflicht aus Artikel 50 erfüllen.

Ab wann gelten die Hochrisiko-Regeln nach dem Digital Omnibus?

Ab dem 2. Dezember 2027 für Einsätze nach Anhang III und ab dem 2. August 2028 für KI in Produkten nach Anhang I, gemäß Verordnung (EU) 2026/1744.

Müssen wir Nutzern sagen, dass sie mit einer KI sprechen?

Ja. Seit dem 2. August 2026 müssen Anbieter Systeme, die mit Menschen interagieren, so gestalten, dass diese spätestens bei der ersten Interaktion informiert werden – außer, es ist offensichtlich.

Wir bauen auf GPT oder Claude auf. Wer ist der Anbieter?

Sie sind Anbieter des KI-Systems, das Sie unter Ihrem Namen anbieten. OpenAI, Anthropic und andere Modellhersteller sind Anbieter des Modells mit allgemeinem Verwendungszweck, mit eigenen Pflichten seit August 2025.

Muss ein RAG-Chatbot seine Antworten als KI-generiert kennzeichnen?

Der Anbieter eines generativen Systems muss synthetischen Text nach Artikel 50 Abs. 2 maschinenlesbar kennzeichnen; für Systeme, die vor dem 2. August 2026 am Markt waren, gilt das ab dem 2. Dezember 2026. Unabhängig davon müssen Nutzer erfahren, dass sie mit einer KI sprechen.

Wer setzt die KI-Verordnung in Deutschland durch?

Die Bundesnetzagentur nach dem KI-MIG, in Kraft seit 29. Juli 2026; die BaFin für KI bei regulierten Finanztätigkeiten.

Wie hoch sind die Bußgelder?

Bis 35 Mio. € oder 7 % des weltweiten Umsatzes bei verbotenen Praktiken, bis 15 Mio. € oder 3 % bei anderen Pflichten einschließlich Transparenz und bis 7,5 Mio. € oder 1 % bei falschen Angaben. Für KMU gilt der niedrigere Betrag.

Quellen

• Verordnung (EU) 2026/1744 (Digital Omnibus zur KI), Amtsblatt, 24. Juli 2026
• Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 3, 4, 5, 6, 25, 26, 27, 50, 99, 113 und Anhang III
• Hunton Andrews Kurth, EU Digital Omnibus on AI enters into force, Juli 2026
• Europäische Kommission, Verhaltenskodex zur Transparenz KI-erzeugter Inhalte und Leitlinien zu den Transparenzpflichten, 2026
• Europäische Kommission, Entwurf der Leitlinien zur Einstufung von Hochrisiko-KI-Systemen, Mai 2026
• Europäische Kommission, Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck; WilmerHale, Commission guidelines for providers of general-purpose AI models, Juli 2025
• KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), BGBl. 2026 I Nr. 223
• Bundesnetzagentur, KI-Service-Desk, Juli 2025
• DSGVO, Artikel 22; EDSA, Stellungnahme 28/2024 zu KI-Modellen

Categories

Über den Autor

Pavlo Yablonskyi

CTO & Co-Founder

Vollständiges Profil ansehen

CTO & Mitbegründer von Software Development Hub. Software-Ingenieur mit 20+ Jahren Erfahrung. Python/Django-Fan, Software-Architekt und IT-Teamleiter. Stets auf dem Laufenden mit technischen Trends. Ausgeprägte technische Fähigkeiten und vielfältiges Fachwissen in den Bereichen Software-Strukturdesign, Entwicklung, Teammanagement und Cybersicherheit.

Vollständiges Profil ansehen