RegulierungGrundlagen

Anbieter oder Betreiber: Wer sind Sie nach dem EU AI Act — und was bedeutet das für Ihre Pflichten?

Was unterscheidet KI-Anbieter von KI-Betreibern nach der Verordnung (EU) 2024/1689, mit konkreten Praxisbeispielen, Pflichten und dem kritischen Punkt, wann ein Betreiber zum Anbieter wird.

REGULIGHTEU AI Act Compliance

09. April 20268 min Lesezeit

Der EU AI Act unterscheidet vier Rollen: Anbieter, Betreiber, Importeur und Händler, mit sehr unterschiedlichen Pflichten

Die überwiegende Mehrheit der deutschen Unternehmen ist Betreiber, nicht Anbieter

Betreiber-Pflichten bei Hochrisiko-KI sind umfangreicher als viele annehmen

Wer ein KI-System wesentlich verändert oder unter eigenem Namen vertreibt, wird zum Anbieter, mit deutlich höherem Compliance-Aufwand

Die Rollenfrage entscheidet über die Pflichten

Der EU AI Act ist kein Gesetz, das alle Unternehmen gleich behandelt. Er unterscheidet nach Rolle, und diese Rolle bestimmt was ein Unternehmen konkret tun muss.

Ein Unternehmen, das ein KI-System entwickelt und auf den Markt bringt, hat andere Pflichten als eines, das dasselbe System lediglich einsetzt. Der Unterschied entscheidet darüber, ob eine Konformitätsbewertung, technische Dokumentation und CE-Kennzeichnung erforderlich sind, oder ob menschliche Aufsicht und Protokollaufbewahrung genügen.

Für die Compliance-Planung ist deshalb die erste relevante Frage nicht "Nutzen wir KI?" sondern "In welcher Rolle nutzen wir KI?"

Die vier Rollen nach Artikel 3 KI-VO

Artikel 3 der Verordnung (EU) 2024/1689 definiert die vier zentralen Rollen:

Anbieter (Provider) — Artikel 3 Nr. 3

Eine natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und dieses unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Entscheidend: Das System wird unter eigenem Namen vermarktet oder bereitgestellt, unabhängig davon, ob dies entgeltlich oder kostenlos geschieht.

Betreiber (Deployer) — Artikel 3 Nr. 4

Eine natürliche oder juristische Person, die ein KI-System unter ihrer Befugnis für berufliche Zwecke einsetzt. Privatpersonen, die KI ausschließlich privat nutzen, sind ausgenommen.

Importeur — Artikel 3 Nr. 6

Eine in der EU ansässige Person, die ein KI-System, das den Namen oder die Marke einer Person aus einem Drittland trägt, auf den EU-Markt bringt.

Händler (Distributor) — Artikel 3 Nr. 7

Eine Person in der Lieferkette, die weder Anbieter noch Importeur ist und ein KI-System auf dem Markt bereitstellt, ohne dessen Eigenschaften zu verändern.

Ein Unternehmen kann in mehreren Rollen gleichzeitig agieren. Wer intern eine HR-KI-Lösung nutzt (Betreiber) und gleichzeitig eine eigene KI-Funktion in sein Produkt integriert (Anbieter), unterliegt beiden Pflichtenprogrammen.

Anbieter-Pflichten bei Hochrisiko-KI

Anbieter tragen die umfangreichsten Pflichten. Für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. August 2026 laut Artikel 16 der KI-VO:

Risikomanagementsystem: Dokumentiertes Verfahren zur Identifikation, Bewertung und Kontrolle von Risiken über den gesamten Lebenszyklus des Systems
Technische Dokumentation: Vollständige Dokumentation nach Anhang IV — Entwicklungsmethodik, Trainingsdaten, Metriken, bekannte Einschränkungen
Konformitätsbewertung: Nachweis, dass das System alle Anforderungen der Verordnung erfüllt, bevor es in Verkehr gebracht wird
EU-Konformitätserklärung und CE-Kennzeichnung: Formale Erklärung der Konformität, CE-Kennzeichnung am System
EU-Datenbankregistrierung: Eintragung in die von der EU-Kommission betriebene KI-Datenbank
Qualitätsmanagementsystem: Dokumentiertes System zur Sicherstellung durchgehender Compliance
Post-Market-Monitoring: Kontinuierliche Überwachung nach Inverkehrbringen, Meldepflicht bei schwerwiegenden Vorfällen

Dazu kommt die seit dem 2. Februar 2025 geltende AI-Literacy-Pflicht nach Artikel 4: Alle Mitarbeitenden, die an der Entwicklung, Bereitstellung oder dem Betrieb von KI-Systemen beteiligt sind, müssen über ausreichende KI-Kompetenz verfügen.

Betreiber-Pflichten bei Hochrisiko-KI

Betreiber haben weniger Pflichten als Anbieter, aber mehr als viele erwarten. Artikel 26 der KI-VO schreibt für Betreiber von Hochrisiko-Systemen vor:

Zweckbindung: Das System darf nur gemäß der Betriebsanleitung des Anbieters eingesetzt werden
Menschliche Aufsicht: Kompetente, geschulte Personen müssen die Ausgaben des Systems überwachen und eingreifen können
Dateneingabe: Qualität und Repräsentativität der Eingabedaten müssen sichergestellt werden
Protokollaufbewahrung: Automatisch vom System erzeugte Protokolle müssen mindestens sechs Monate aufbewahrt werden
Datenschutz-Folgenabschätzung: Bei Verarbeitung personenbezogener Daten ist eine DSGVO-Folgenabschätzung nach Artikel 35 DSGVO durchzuführen
Vorfallmeldung: Risiken und schwerwiegende Vorfälle müssen dem Anbieter und der zuständigen Marktüberwachungsbehörde gemeldet werden
Mitarbeiterinformation: Arbeitnehmer und ihre Vertreter müssen über den Einsatz von KI-Systemen informiert werden
AI Literacy: Schulungen für alle Mitarbeitenden, die mit dem System arbeiten (seit 2. Februar 2025 Pflicht)

Bußgelder bei Verstößen gegen diese Pflichten können laut Verordnung bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes betragen.

Praxisbeispiele: Wer ist was?

Fall 1: Unternehmen nutzt Microsoft Copilot intern Rolle: Betreiber. Microsoft entwickelt und vermarktet Copilot. Das nutzende Unternehmen setzt das System für eigene Zwecke ein, ohne es weiterzuentwickeln oder unter eigenem Namen zu vertreiben. Es gelten die Betreiberpflichten nach Artikel 26.

Fall 2: Unternehmen kauft ChatGPT-API und baut eigene Kundenservice-Anwendung Rolle: Anbieter. Wer ein neues KI-System auf Basis einer fremden API entwickelt und dieses unter eigenem Namen bereitstellt, auch nur intern oder kostenlos, gilt als Anbieter. Es gelten die vollständigen Anbieter-Pflichten nach Artikel 16.

Fall 3: Unternehmen kauft eine HR-Software mit eingebautem Bewerber-Scoring Rolle: Betreiber eines Hochrisiko-KI-Systems (Anhang III). Da Personalentscheidungen unter die Hochrisiko-Kategorie fallen, gelten erhöhte Betreiberpflichten: menschliche Aufsicht, Protokollierung, DSGVO-Folgenabschätzung, Mitarbeiterinformation.

Fall 4: IT-Dienstleister integriert KI-Funktion in seine eigene SaaS-Lösung Rolle: Anbieter. Auch wenn die KI-Funktion auf einem fremden Modell basiert, bringt der Dienstleister ein eigenes Produkt in Verkehr. Er ist Anbieter und muss Konformitätsbewertung, technische Dokumentation und CE-Kennzeichnung sicherstellen.

Wann ein Betreiber zum Anbieter wird (Artikel 25)

Artikel 25 der KI-VO regelt die Rollenverschiebung, ein Punkt der in der Praxis häufig unterschätzt wird.

Ein Händler, Importeur, Betreiber oder sonstiger Dritter wird selbst zum Anbieter, wenn er:

Das System unter eigenem Namen kennzeichnet: Wer ein fremdes KI-System rebrandet und unter eigenem Namen anbietet, übernimmt die volle Anbieterverantwortung.

Eine wesentliche Änderung vornimmt: Wenn durch Anpassungen aus einem nicht als Hochrisiko eingestuften System ein Hochrisiko-System wird, oder wenn ein bestehendes Hochrisiko-System so verändert wird, dass es als neues System gilt, tritt die Rollenverschiebung ein.

Den Verwendungszweck ändert: Wer ein System für einen anderen als den ursprünglich vorgesehenen Zweck einsetzt und damit eine neue Risikokategorie auslöst, wird zum Anbieter.

Was gilt als wesentliche Änderung? Fine-Tuning eines Modells auf unternehmensspezifische Daten, tiefgreifende Anpassung durch Retrieval-Augmented Generation oder systematische Veränderungen der Systemarchitektur können darunter fallen. Die genaue Abgrenzung ist rechtlich noch nicht abschließend geklärt. Unternehmen sollten sich bei umfangreichen Systemanpassungen juristisch beraten lassen.

Die Konsequenz: Der ursprüngliche Anbieter wird von seiner Haftung entbunden, das Unternehmen das die Änderung vorgenommen hat trägt ab diesem Moment die volle Anbieterverantwortung.

Warum die meisten deutschen Unternehmen Betreiber sind

Laut Statistischem Bundesamt nutzen bereits 20 Prozent aller deutschen Unternehmen KI-Technologien aktiv. Der weitaus größte Teil kauft oder mietet KI-Systeme ein, anstatt sie selbst zu entwickeln.

Viele Unternehmen, die sich bislang nicht als betroffen betrachten, sind es als Betreiber eingekaufter KI-Lösungen im HR-, Finanz- oder Kundenservice-Bereich. In unserer Beratungspraxis erleben wir regelmäßig, dass Betreiber-Pflichten unterschätzt werden: Artikel 26 enthält ein umfangreiches Anforderungsset, das vor allem bei Hochrisiko-Systemen vollständig greift.

Der erste konkrete Schritt für jeden Betreiber ist deshalb, herauszufinden, welche der eingesetzten KI-Systeme unter die Hochrisiko-Kategorie nach Anhang III fallen, denn dort entstehen die umfangreichsten Pflichten, und dort läuft die Frist für neue Systeme am 2. August 2026 ab.

Dieser Beitrag ist Teil der REGULIGHT Blogserie zum EU AI Act. In den nächsten Beiträgen klären wir, welche KI-Systeme in Unternehmen besonders häufig als Hochrisiko einzustufen sind, und was das konkret bedeutet.

Weiter lesen: Hochrisiko-KI: Diese Anwendungen überraschen die meisten Unternehmen

Häufig gestellte Fragen

Was ist der Unterschied zwischen Anbieter und Betreiber nach dem EU AI Act? Anbieter entwickeln KI-Systeme und bringen sie unter eigenem Namen auf den Markt. Betreiber setzen KI-Systeme für berufliche Zwecke ein, ohne sie selbst entwickelt oder in Verkehr gebracht zu haben. Beide Rollen sind vom EU AI Act erfasst, haben aber unterschiedliche Pflichten; Anbieter tragen deutlich umfangreichere Anforderungen, insbesondere bei Hochrisiko-Systemen.

Ich nutze nur eingekaufte KI-Software. Bin ich trotzdem betroffen? Ja. Als Betreiber unterliegen Sie den Pflichten nach Artikel 26 der KI-VO. Bei Hochrisiko-Systemen umfasst das menschliche Aufsicht, Protokollaufbewahrung, Datenschutz-Folgenabschätzung und AI-Literacy-Schulungen für alle betroffenen Mitarbeitenden.

Ab wann werde ich als Betreiber zum Anbieter? Wenn Sie ein KI-System unter eigenem Namen kennzeichnen, wesentliche Änderungen vornehmen, die eine neue Risikokategorie auslösen, oder den Verwendungszweck so ändern, dass ein bislang nicht als Hochrisiko eingestuftes System zum Hochrisiko-System wird. In diesen Fällen greift Artikel 25 der KI-VO und überträgt Ihnen die volle Anbieterverantwortung.

Gilt Fine-Tuning eines KI-Modells als wesentliche Änderung? Fine-Tuning auf unternehmensspezifische Daten kann als wesentliche Änderung im Sinne von Artikel 25 gelten, abhängig davon ob sich dadurch die Risikoklassifizierung oder die Zweckbestimmung des Systems ändert. Die genaue Abgrenzung ist derzeit Gegenstand von Auslegungsdiskussionen. Unternehmen, die umfangreiche Modellanpassungen vornehmen, sollten sich rechtlich beraten lassen.

Was passiert, wenn ein Betreiber zum Anbieter wird? Der ursprüngliche Anbieter wird von seiner Haftung entbunden. Das Unternehmen, das die Rollenverschiebung ausgelöst hat, trägt ab diesem Moment die vollständige Anbieterverantwortung, einschließlich Risikomanagementsystem, technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung.