Eine KI-Funktion kann über fast jedes Werkzeug ins Unternehmen gelangen: einen Chatbot im Kundenservice, eine Recruiting-Plattform, einen Schreibassistenten oder Software, die bei der Bewertung von Anträgen hilft. Du musst kein eigenes Modell entwickeln, um Pflichten nach der EU-KI-Verordnung zu haben.
Schwierig ist die Frage, welche Pflichten im Einzelfall gelten. Ein KI-Abonnement zu kaufen, einen Chatbot unter eigener Marke zu entwickeln und Bewerber mit KI zu bewerten, sind unterschiedliche Tätigkeiten, selbst wenn in allen drei Fällen dasselbe Basismodell zum Einsatz kommt.
Dieser Leitfaden erklärt den Anwendungsbereich der EU-KI-Verordnung, ihre Risikokategorien, den Unterschied zwischen Anbietern und Betreibern und die Schritte, mit denen ein Unternehmen seinen KI-Einsatz bewerten kann. Außerdem trennt er bereits geltende Vorgaben von Pflichten mit späteren Fristen.
Was die EU-KI-Verordnung ist
Die KI-Verordnung ist die Verordnung (EU) 2024/1689 und der erste umfassende Rechtsrahmen für künstliche Intelligenz, den eine große Rechtsordnung verabschiedet hat. Sie trat am 1. August 2024 in Kraft. Als Verordnung gilt sie unmittelbar in jedem Mitgliedstaat und muss nicht wie eine Richtlinie erst in nationales Recht umgesetzt werden.
Ihr Grundprinzip ist ein risikobasierter Ansatz. Statt „KI“ als eine einzige Kategorie zu regulieren, ordnet die Verordnung Anwendungen verschiedenen Stufen zu und richtet die Pflichten nach dem jeweiligen Risiko aus. Ein Spamfilter und ein System zur Auswahl von Bewerbern sind beide KI, bergen aber nicht dasselbe Schadenspotenzial und werden deshalb unterschiedlich behandelt.
Wie die DSGVO reicht auch die KI-Verordnung über die EU-Grenzen hinaus. Ein Anbieter außerhalb der EU fällt in ihren Anwendungsbereich, wenn er ein KI-System in der EU in Verkehr bringt oder die Ausgabe seines Systems in der EU verwendet wird. Für Unternehmen in der EU ist die konkrete Tätigkeit der praktische Ausgangspunkt: Welches System wird zu welchem Zweck und in welcher Rolle eingesetzt?
Die Risikokategorien verstehen
Die bekannte Einteilung in vier Kategorien bietet einen nützlichen Überblick. Welche Pflichten tatsächlich greifen, ergibt sich jedoch aus den einzelnen Bestimmungen. Transparenzregeln und Vorschriften für Modelle mit allgemeinem Verwendungszweck können sich mit anderen Kategorien überschneiden.
Verbotene Praktiken sind Anwendungen, die die Verordnung vollständig untersagt. Dazu gehören bestimmte Formen des Social Scoring durch öffentliche oder private Stellen, manipulative Techniken zur Ausnutzung von Schwächen, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Schulen mit engen Ausnahmen sowie bestimmte Anwendungen biometrischer Echtzeit-Fernidentifizierung. Diese Verbote gelten seit dem 2. Februar 2025.
Hochrisiko-Systeme bilden die stark regulierte mittlere Kategorie. Dazu gehören KI-Systeme aus den in den Anhängen der Verordnung aufgeführten Bereichen, etwa Beschäftigung und Personalmanagement, Bildungszugang, Kreditwürdigkeitsprüfung, grundlegende öffentliche Dienste, Strafverfolgung, Migration und kritische Infrastruktur. Auch KI als Sicherheitskomponente bereits regulierter Produkte kann darunter fallen. Anbieter von Hochrisiko-Systemen müssen unter anderem Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht und Genauigkeit erfüllen.
Für manche Systeme gelten besondere Transparenzpflichten. Dazu zählen Systeme, die unmittelbar mit Menschen interagieren, sowie bestimmte Verwendungen erzeugter oder manipulierter Inhalte. Ein gewöhnlicher Chatbot im Kundenservice wirft andere Fragen auf als ein System, das über den Zugang zu Beschäftigung oder Krediten entscheidet.
Zu den Anwendungen mit geringerem Risiko können je nach Zweck und Kontext normale Textentwürfe, Zusammenfassungen und Produktivitätsfunktionen gehören. Sie unterliegen nicht automatisch dem Konformitätsregime für Hochrisiko-Systeme. Pflichten zu KI-Kompetenz, Transparenz, Datenschutz, Verbraucherschutz oder sektorspezifischen Vorgaben können trotzdem gelten.
Wichtige Termine
Der Zeitplan hat sich gegenüber der ursprünglichen Verordnung geändert. Die verbotenen Praktiken und Pflichten zur KI-Kompetenz gelten seit dem 2. Februar 2025. Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025, vorbehaltlich der Übergangsregeln für bestehende Modelle.
Stand Oktober 2026 berücksichtigt der Umsetzungszeitplan der Kommission den KI-Omnibus, der am 27. Juli 2026 in Kraft trat. Die Transparenzregeln aus Artikel 50 gelten seit dem 2. August 2026. Die wichtigsten Anforderungen an Hochrisiko-Systeme gelten nun ab dem 2. Dezember 2027 für Systeme aus Anhang III und ab dem 2. August 2028 für KI in regulierten Produkten. Für bestehende Systeme können weitere Übergangsbestimmungen gelten. Prüfe daher die Kategorie, die tatsächlich auf dein System zutrifft.
Die Rollenfrage: Anbieter, Betreiber oder beides
Deine Rolle bestimmt die geltenden Pflichten. Ein Unternehmen kann Anbieter, Betreiber oder beides sein.
Ein Anbieter entwickelt ein KI-System oder -Modell oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es in Betrieb. Ein Betreiber verwendet ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit. Eine rein persönliche, nicht berufliche Nutzung fällt nicht unter die Definition des Betreibers. Wird dasselbe Werkzeug im Beruf eingesetzt, ist eine gesonderte Bewertung erforderlich.
Wenn dein Unternehmen den KI-gestützten Recruiting- oder Supportdienst eines Lieferanten nutzt, kann es Betreiber sein. Entwickelst du ein System und nimmst es unter deinem Namen in Betrieb, kannst du auch bei interner Nutzung Anbieter sein. Der Entwickler eines zugrunde liegenden KI-Modells mit allgemeinem Verwendungszweck kann ein anderer Anbieter sein als das Unternehmen, das die fertige Anwendung vertreibt.
Deine Rolle kann sich ändern, wenn du ein System unter eigener Marke anbietest, wesentlich veränderst oder seinen vorgesehenen Zweck änderst. Gehe nicht davon aus, dass der Softwarelieferant sämtliche Pflichten für dich übernimmt. Halte fest, welche Organisation das Modell liefert, welche das System bereitstellt und wer seine Verwendung bestimmt. Auch Einführer und Händler können beim Inverkehrbringen Pflichten haben.
Was das für alltägliche Geschäftsanwendungen bedeutet
Beginne mit der KI-Kompetenz. Artikel 4 in der im Juli 2026 geänderten Fassung verpflichtet Anbieter und Betreiber, die Entwicklung der KI-Kompetenz ihrer Beschäftigten im jeweiligen Kontext zu unterstützen. Ausdrücklich nicht verlangt wird, für jede einzelne Person ein bestimmtes Niveau zu garantieren. Passende Schulungen und Richtlinien bleiben sinnvoll, ein allgemein vorgeschriebenes Zertifikat gibt es jedoch nicht.
Als Nächstes folgt die Transparenz, wenn dein System Menschen gegenübertritt. Nach Artikel 50 müssen Anbieter von Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, diese so gestalten, dass Nutzer über die KI-Interaktion informiert werden, sofern sie im jeweiligen Kontext nicht ohnehin offensichtlich ist. Das ist eine Gestaltungspflicht des Anbieters und keine pauschale Pflicht jedes Betreibers. Betreiber, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die ein Deepfake darstellen, müssen dies offenlegen. Auch KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen gekennzeichnet werden. Eine Ausnahme gilt, wenn eine menschliche Überprüfung stattgefunden hat und jemand die redaktionelle Verantwortung trägt.
Bei einem gewöhnlichen internen Werkzeug für Entwürfe oder Zusammenfassungen stehen zunächst Mitarbeiterrichtlinien, Datenschutz und klare Vorgaben dafür im Vordergrund, wofür die Ergebnisse verwendet werden dürfen. Ein Chatbot mit Kundenkontakt braucht zusätzlich die einschlägigen Transparenzmaßnahmen für Nutzer. Diese Beispiele erfordern nicht automatisch eine Hochrisiko-Konformitätsbewertung, der vorgesehene Zweck bleibt aber entscheidend.
Eine Stellenbeschreibung zusammenzufassen ist beispielsweise etwas anderes, als Bewerber zu sortieren. Ein Mitarbeiter, der mit einem Schreibassistenten einen Satz verbessert, tut etwas anderes als ein Arbeitgeber, der mit KI die Leistung dieses Mitarbeiters bewertet. Beurteile den tatsächlichen Ablauf statt die Software nur nach ihrem Produktnamen einzuordnen.
Anders sieht es aus, wenn das System als Hochrisiko-System eingestuft wird. Personalauswahl, Kreditwürdigkeitsprüfungen und der Zugang zu bestimmten grundlegenden Diensten können unter Anhang III fallen, vorbehaltlich der Klassifizierungsregeln und Ausnahmen der Verordnung. Bereite dich auf die einschlägige Frist vor. Zu den Pflichten können Aufsicht, Überwachung, Protokolle, Hinweise und für bestimmte Betreiber eine Grundrechte-Folgenabschätzung gehören. Viele dieser Entscheidungen unterliegen bereits heute anderen Rechtsvorschriften.
Was gilt für Open-Source-Modelle?
Die Verordnung enthält eine teilweise Ausnahme für KI unter freien und Open-Source-Lizenzen. Sie wird häufig als pauschale Freistellung missverstanden. Das ist sie nicht.
Für Open-Source-KI-Systeme und Modelle mit allgemeinem Verwendungszweck gelten unterschiedliche Bestimmungen. Anbieter von Open-Source-Modellen mit allgemeinem Verwendungszweck, die die Voraussetzungen erfüllen, sind von einigen Dokumentationspflichten aus Artikel 53 befreit. Die Pflichten zu einer Urheberrechtsstrategie und einer Zusammenfassung der Trainingsinhalte bleiben bestehen. Allein die Möglichkeit, Modellgewichte herunterzuladen, belegt noch nicht, dass ein Modell die Voraussetzungen erfüllt. Die Ausnahme gilt weder für Modelle mit allgemeinem Verwendungszweck und systemischem Risiko noch für verbotene Praktiken. Auch Hochrisiko-Systeme und die Transparenzpflichten aus Artikel 50 bleiben davon unberührt.
Für Unternehmen, die ein KI-Werkzeug einsetzen, ist die Lizenz nur ein Teil der Bewertung. Die eigenen Pflichten hängen von der Rolle und dem vorgesehenen Zweck des Systems ab. Ein Open-Weight-Modell, das Bewerber einstuft, kann weiterhin unter das Hochrisiko-Regime fallen. Der kostenlose Download schafft für diesen Einsatz keine Ausnahme.
Wie die KI-Verordnung mit der DSGVO und anderen Regeln zusammenspielt
Die KI-Verordnung ersetzt die DSGVO nicht. Wenn ein KI-Ablauf personenbezogene Daten in Prompts, Dokumenten, Ergebnissen oder Protokollen verarbeitet, musst du weiterhin Rechtsgrundlage, Transparenz, Aufbewahrung, Sicherheit und Betroffenenrechte prüfen.
Das gilt unabhängig davon, ob du einen Abonnementdienst nutzt, eine fremde API einbindest oder das System selbst betreibst. Prüfe die Rolle des Lieferanten, den Vertrag und ob eine Vereinbarung zur Auftragsverarbeitung erforderlich ist. Kläre, wohin die Daten gelangen, wer auf sie zugreifen kann und was nach Abschluss der Aufgabe mit ihnen geschieht.
Compliance-Dokumentation eines KI-Lieferanten kann helfen, entscheidet aber nicht darüber, ob dein eigener Einsatz rechtmäßig ist. Ein Werkzeug, das für öffentliche Marketingtexte geeignet ist, muss möglicherweise ganz anders bewertet werden, bevor es Personalakten oder Gesundheitsdaten von Kunden verarbeitet.
Auch Arbeitsrecht, Verbraucherschutz, Urheberrecht und sektorspezifische Regeln können greifen. Außerhalb der Hochrisiko-Kategorie der KI-Verordnung zu liegen, bedeutet nicht, dass ein Unternehmen diese Pflichten ignorieren darf.
So bewertest du den KI-Einsatz in deinem Unternehmen
Erstelle zunächst ein Verzeichnis der KI-Systeme, die dein Unternehmen nutzt oder anbietet. Berücksichtige eingebaute Funktionen gekaufter Software, Abonnements von Mitarbeitern, Werkzeuge mit Kundenkontakt und intern entwickelte Systeme. Halte fest, was jedes System tut, wer es verwendet und ob es personenbezogene Daten verarbeitet oder Entscheidungen über Menschen beeinflusst. Viele Teams entdecken dabei vergessene KI-Funktionen, etwa ein Plugin im Helpdesk oder eine automatische Verschlagwortung im Dokumentensystem.
Prüfe anschließend jeden Anwendungsfall anhand der verbotenen Praktiken und Hochrisiko-Bestimmungen. Fällt er nicht darunter, kontrolliere die möglicherweise weiterhin geltenden Transparenz- und Kompetenzregeln. Beziehe deine Begründung auf den vorgesehenen Zweck und prüfe sie erneut, wenn sich dieser Zweck ändert.
Bestimme danach deine Rolle. Betreibst du das System eines Lieferanten, nimmst du ein eigenes System in Betrieb oder verkaufst du es unter deinem Namen? Eine rein interne Nutzung beantwortet diese Frage nicht abschließend. Dokumentiere die Rolle, die Lieferantenbeziehungen und die Zuständigkeit für jede einschlägige Pflicht.
Führe angemessene Mitarbeiterrichtlinien und Transparenzmaßnahmen ein. Lege fest, welche Daten Beschäftigte in KI-Werkzeuge eingeben dürfen, wann Ergebnisse geprüft werden müssen, wie Nutzer bei Bedarf informiert werden und wer Fehler oder Beschwerden bearbeitet. Dokumentiere Schulungen, Prüfverfahren und Hinweise.
Ordne zum Schluss die einschlägigen Fristen zu und lege fest, wer dafür zuständig ist. Ein Unternehmen mit einem gewöhnlichen Chatbot braucht einen anderen Vorbereitungsplan als ein Anbieter eines Hochrisiko-Systems. Prüfe die Lieferantendokumentation, aktualisiere bei Bedarf Verträge und hole fachkundigen Rat ein, wenn die Einstufung oder die Auswirkungen auf Menschen unklar sind. Wiederhole die Bewertung bei jeder neuen KI-Funktion und bei Änderungen bestehender Abläufe.
Fazit
Die EU-KI-Verordnung betrifft Unternehmen, die KI verwenden, ebenso wie Unternehmen, die sie entwickeln. Deine Pflichten richten sich nach dem vorgesehenen Zweck des Systems, deiner Rolle und den einschlägigen Bestimmungen. Ob du ein Abonnement gekauft oder das Werkzeug selbst gebaut hast, ist nicht allein entscheidend.
Verschaffe dir zunächst einen Überblick über den KI-Einsatz im Unternehmen. Ermittle verbotene oder potenziell hochriskante Anwendungen, prüfe die Pflichten von Anbietern und Betreibern, setze die erforderlichen Transparenzmaßnahmen um und verfolge die richtigen Fristen. Beziehe die DSGVO und weitere bestehende Regeln in dieselbe Bewertung ein.
Danke fürs Lesen! Wenn zu deinen weiteren Technologieplänen auch Anwendungen auf EU-Infrastruktur gehören, bietet QDE unmanaged KVM VPS-Hosting in Amsterdam mit NVMe-Speicher und vollem Root-Zugriff. Der Hosting-Standort ist ein Teil einer Data-Governance-Entscheidung, aber kein Nachweis für die Einhaltung der KI-Verordnung.
Fragen zum Hosting deiner Anwendungen? Kontaktiere unser Team, um die benötigte Infrastruktur zu besprechen.
Häufig gestellte Fragen zur EU-KI-Verordnung
Gilt die EU-KI-Verordnung auch, wenn mein Unternehmen KI-Werkzeuge nur nutzt?
Das ist möglich. Ein Unternehmen, das ein KI-System in eigener Verantwortung verwendet, kann Betreiber sein, auch wenn ein Lieferant die Software entwickelt hat. Welche Pflichten gelten, hängt vom Anwendungsfall und von der eigenen Rolle ab.
Gilt jedes KI-Werkzeug als Hochrisiko-System?
Nein. Die Verordnung benennt bestimmte Hochrisiko-Anwendungen und Produktkategorien mit Klassifizierungsbedingungen und Ausnahmen. Gewöhnliche Entwürfe oder Zusammenfassungen sind etwas anderes als die Einstufung von Bewerbern oder die Bewertung der Kreditwürdigkeit durch KI.
Was ist der Unterschied zwischen einem Anbieter und einem Betreiber?
Ein Anbieter entwickelt ein System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es in Betrieb. Ein Betreiber verwendet ein System im Rahmen einer beruflichen Tätigkeit in eigener Verantwortung. Ein Unternehmen kann beide Rollen zugleich haben.
Fällt Open-Source-Software nicht unter die KI-Verordnung?
Für qualifizierende Open-Source-Systeme und -Modelle gibt es bestimmte Ausnahmen, aber keine pauschale Freistellung für jedes Open-Weight-Modell oder jede geschäftliche Nutzung. Prüfe die einschlägige Bestimmung, deine Rolle und den Zweck des Systems.
Müssen Kunden wissen, wenn sie mit einem KI-Chatbot sprechen?
Artikel 50 verpflichtet Anbieter von Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, zur Information der Nutzer, sofern die KI-Interaktion im Kontext nicht offensichtlich ist. Ein Unternehmen, das das System betreibt, sollte prüfen, ob der erforderliche Hinweis die Nutzer tatsächlich erreicht.
Welche Bußgelder sieht die EU-KI-Verordnung vor?
Für verbotene Praktiken sind bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes möglich, für die meisten anderen Verstöße bis zu 15 Millionen Euro oder 3 % und für falsche Angaben gegenüber Behörden bis zu 7,5 Millionen Euro oder 1 %. Bei KMU gilt grundsätzlich der niedrigere der einschlägigen absoluten oder umsatzbezogenen Höchstbeträge, bei anderen Unternehmen grundsätzlich der höhere. Die tatsächliche Höhe hängt vom Verstoß, dem beteiligten Akteur und den einschlägigen Bestimmungen ab.
Deckt die Einhaltung der KI-Verordnung auch die DSGVO ab?
Nein. Die Regelwerke behandeln unterschiedliche Fragen und können nebeneinander gelten. Verarbeitet ein KI-Ablauf personenbezogene Daten, müssen die DSGVO-Pflichten gesondert geprüft werden, darunter Rechtsgrundlage, Hinweise, Datenminimierung, Auftragsverarbeitungsverträge und mögliche internationale Übermittlungen.