KI & Recht: Was Unternehmen zur EU-KI-Verordnung wissen müssen

Stand: April 2026. Auf EU-Ebene werden im Rahmen des Digital Omnibus Vereinfachungen diskutiert. Diese sind noch nicht endgültig beschlossen. Dieser Artikel bildet die aktuell geltende Rechtslage ab. Dieser Artikel dient der fachlichen Orientierung und ersetzt keine individuelle Rechtsberatung.

Viele Unternehmen in Deutschland setzen KI bereits ein, oft schon länger als sie denken: als Textassistenz im Marketing, als Chatbot im Kundendienst, als Analysewerkzeug im Controlling. Rechtliche Pflichten haben die wenigsten dabei auf dem Schirm.

Seit August 2024 ist die EU-KI-Verordnung (EU AI Act) in Kraft. Erste Regeln gelten seit Februar 2025. Wer bis heute nicht reagiert hat, steht bereits unter geltendem Recht. Wer erst reagiert, wenn die Aufsichtsbehörde fragt, wird feststellen, dass sich das nicht mehr mit ein paar schnellen Maßnahmen reparieren lässt.

Erschwerend kommt hinzu, dass die KI-Verordnung nicht allein steht. DSGVO, Urheberrecht und Arbeitsrecht laufen parallel weiter und betreffen jeden KI-Einsatz unmittelbar, egal ob Sie KI selbst entwickeln oder fertige Lösungen einsetzen. In diesem Artikel erfahren Sie, welche Regeln heute schon gelten, welche Fristen kommen und welche Fragen Sie intern klären sollten. Einen kompakten Überblick über alle IT-Regelwerke 2026 finden Sie in unserem Artikel IT-Gesetze & Richtlinien 2026.

Was die EU-KI-Verordnung für Sie bedeutet

Die EU-KI-Verordnung (offiziell: Verordnung (EU) 2024/1689) ist das weltweit erste umfassende KI-Gesetz. Anders als eine Richtlinie gilt sie unmittelbar in allen EU-Mitgliedstaaten, basierend auf nationalen Durchführungsregelungen (z.B. für Aufsichtsbehörden).

Die EU-KI-Verordnung unterscheidet technologisch zwischen a) KI-Systemen sowie b) KI-Modellen mit allgemeinem Verwendungszweck («GPAI») oder spezifischem Verwendungszweck. KI-Modelle mit spezifischem Verwendungszweck werden von der EU am wenigsten risikoträchtig angesehen und deshalb nicht reglementiert. Der häufigste Anwendungsfall wird der Einsatz eines KI-Systems sein.

Die Verordnung folgt einem risikobasierten Ansatz und stuft KI-Systeme in vier Risikoklassen ein: a) Verboten, b) Hochrisiko, c) Transparenzpflichten und d) Geringes Risiko. Das Prinzip dahinter ist einfach: Je stärker eine KI über Menschen entscheidet oder sie beeinflusst, desto strenger die Auflagen. Eine KI, die intern Texte zusammenfasst, wird anders behandelt als eine, die über Kreditanträge entscheidet.

Wen betrifft das? Die Verordnung unterscheidet viele verschiedene Rollen, wobei die beiden wichtigsten Rollen hervorzuheben sind: Anbieter, die KI-Systeme entwickeln oder vertreiben, und Betreiber, die sie einsetzen. Die meisten Unternehmen in Deutschland fallen in die zweite Kategorie. Sie kaufen oder lizenzieren KI-Lösungen und nutzen sie in ihren internen Geschäftsprozessen.

Auch als Betreiber tragen Sie erhebliche Pflichten. Sie müssen sicherstellen, dass die eingesetzte KI regelkonform betrieben wird. Das bedeutet in der Praxis: Anwendungsfälle nach Risiko klassifizieren, den Einsatz dokumentieren, Mitarbeitende schulen und die Ergebnisse überwachen. Bei Hochrisiko-KI gibt es darüber hinaus eine Vielzahl weiterer Pflichten. Die Verantwortung lässt sich nicht an den Anbieter delegieren.

Genauso wichtig ist, was die KI-Verordnung nicht abdeckt. Der AI Act ergänzt bestehende Gesetze, er ersetzt sie nicht. Sobald personenbezogene Daten im Spiel sind, gilt die DSGVO weiterhin in vollem Umfang. Sobald KI-generierte Inhalte fremde Werke enthalten, greift das Urheberrecht. Und sobald Sie KI im HR-Bereich einsetzen, wird das Arbeitsrecht relevant.

Diese Fristen sollten Sie kennen

Die EU-KI-Verordnung tritt gestaffelt in Kraft. Einige Pflichten gelten bereits heute. Andere kommen in den nächsten Monaten hinzu.

Datum	Was gilt?	Relevanz für Ihr Unternehmen
1. August 2024	AI Act in Kraft getreten	Rechtsrahmen steht. Vorbereitung beginnt.
2. Februar 2025	Verbotene KI-Praktiken + KI-Kompetenz (Art. 4)	Gilt bereits. Verbotene Systeme müssen abgestellt sein. Mitarbeitende brauchen KI-Kompetenz.
2. August 2025	Regeln für GPAI-Modelle*, Governance, Sanktionen	Betrifft vor allem Anbieter großer KI-Modelle. Sanktionsrahmen wird wirksam.
2. August 2026	Breite Anwendbarkeit für die meisten Unternehmen	Kerntermin. Die meisten Betreiberpflichten greifen ab diesem Datum.
2. August 2027	Hochrisiko-KI in regulierten Produkten	Spezialregelung für KI in Medizinprodukten, Maschinen und ähnlichen Bereichen.

^* GPAI: General Purpose Modelle, wie z.B. GPT, Claude, Gemini usw. Sanktionen gegen GPAI-Modelle gelten ab 2. August 2026.

Besonders relevant: Die Pflicht zur KI-Kompetenz der KI-User gilt seit Februar 2025. Artikel 4 des AI Acts verlangt, dass alle Personen, die KI-Systeme betreiben oder beaufsichtigen, über ausreichende Kenntnisse verfügen. Bloßes Lesen von Nutzungsanweisungen reicht nach gängiger Auslegung oft nicht aus. Aber Sie müssen nachweisen können, dass Ihre Mitarbeitenden die KI-Systeme verstehen, die sie einsetzen. Gerade bei Hochrisiko-Anwendungen ist das eine anspruchsvolle Anforderung.

Im Rahmen des Digital Omnibus (ein laufendes EU-Gesetzgebungspaket zur Vereinfachung des AI Acts) diskutiert die EU-Kommission mögliche Vereinfachungen und Fristverschiebungen (insbesondere Verschiebung Hochrisiko-Regeln im allgemeinen, nicht in Produkten vom 2. August 2026 auf einen späteren Zeitpunkt). Diese sind Stand April 2026 noch nicht beschlossen. Planen Sie mit den aktuell geltenden Fristen.

Das KI-Ampelsystem für KI-Systeme: Welche Farbe hat Ihr Use Case?

Die vier Risikoklassen der KI-Verordnung für KI-Systeme (GPAI haben nur die 2 Risikoklassen «systemisches Risiko»/»kein systemisches Risiko») lassen sich wie ein Ampelsystem verstehen. Rot, Orange, Gelb, Grün. Jede Farbe steht für ein bestimmtes Risikoniveau und jede Farbe bringt eigene Pflichten mit sich.

Rot: Verboten

Bestimmte KI-Anwendungen sind seit Februar 2025 verboten. Dazu gehören:

• Social Scoring: Bewertung von Personen auf Basis ihres sozialen Verhaltens
• Manipulative KI: Systeme, die menschliches Verhalten gezielt und unterschwellig beeinflussen
• Ausnutzung vulnerabler Gruppen: KI, die Schwächen von Alter, Behinderung oder wirtschaftlicher Lage gezielt ausnutzt
• Bestimmte biometrische Kategorisierung: Ableitung sensibler Merkmale (Rasse, Religion etc.) aus biometrischen Daten
• Echtzeit-biometrische Identifizierung im öffentlichen Raum: Zum Beispiel Gesichtserkennung (für Strafverfolgungszwecke bei eng definierten Ausnahmen erlaubt)
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit Ausnahme für medizinische oder sicherheitsrelevante Zwecke).

Wenn eine Ihrer KI-Anwendungen in diese Kategorie fällt, stellen Sie sie sofort ab. Verstöße gegen die Verbote können mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes (je nachdem, was höher ist) geahndet werden.

Orange: Hochrisiko

Hochrisiko-KI unterliegt den strengsten Auflagen unterhalb der Verbotsschwelle. Betroffen sind KI-Systeme, die Entscheidungen über Menschen treffen oder diese wesentlich beeinflussen. Beispiele:

• Automatische Bewerberauswahl im Recruiting
• Kreditwürdigkeitsprüfung
• Medizinische Diagnose und Therapieempfehlung
• Steuerung kritischer Infrastruktur (Energie, Wasser, Verkehr)
• KI-gestützte Entscheidungen in Bildung, Strafverfolgung und Justiz

Für Hochrisiko-KI schreibt die Verordnung je nach Rolle umfangreiche Pflichten vor: Risikomanagement, technische Dokumentation, Datenqualität, menschliche Aufsicht, Genauigkeit und Robustheit. Als Betreiber müssen Sie diese Pflichten kennen und in Ihrem Betrieb umsetzen. Die Klassifizierung als Hochrisiko-System regelt Artikel 6 der Verordnung. Die Betreiberpflichten finden sich in Artikel 26.

Gelb: Transparenzpflichten

KI-Systeme, die direkt mit Menschen interagieren, müssen als solche erkennbar sein. Die wichtigsten Fälle:

• Chatbots müssen sich als KI zu erkennen geben. Ihre Kunden und Mitarbeitenden müssen wissen, dass sie mit einer Maschine kommunizieren.
• Deepfakes müssen gekennzeichnet werden. Das betrifft auch synthetische Stimmen und manipulierte Videos.

Die Grundregel: Wer mit einer KI kommuniziert, muss das wissen. Wer KI-generierte Inhalte konsumiert, muss erkennen können, dass sie maschinell erstellt wurden. In die gleiche Richtung geht, unabhängig von einer Risikoklasse, die allgemeine Kennzeichnungspflicht für KI-generierte Inhalte nach Art. 50 EU-KI-Verordnung, deren Umsetzung derzeit noch in Diskussion ist.

Grün: Geringes Risiko

Viele gängige KI-Anwendungen fallen in diese Kategorie: Textassistenz, Coding Assistants, Übersetzungstools, interne Effizienztools ohne Personenbezug. Der AI Act stellt hier keine spezifischen Anforderungen.

DSGVO und interne Governance-Regeln gelten trotzdem. Wenn Mitarbeitende personenbezogene Kundendaten in eine KI-Anwendung eingeben, die auf US-Servern läuft, haben Sie ein Datenschutzproblem, auch bei grüner Ampel!

KI-Ampel in der Praxis: Beispiele nach Fachbereichen

Das Risiko eines KI-Systems hängt zum Einen vom konkreten Einsatzzweck ab: Dasselbe KI-System kann bei grüner Ampel stehen, wenn es intern Texte formuliert und bei oranger Ampel, wenn es Bewerbungen sortiert.

Die folgende Tabelle zeigt typische Anwendungsfälle aus fünf Fachbereichen, die man nach dem Ampelsystem, je nach Einzelfall, wie folgt einstufen könnte:

Fachbereich	Rot (verboten)	Orange (Hochrisiko)	Gelb (Transparenz)	Grün (gering)
HR	Emotionserkennung bei Bewerbern	Automatische Bewerberauswahl	Chatbot beantwortet Bewerberfragen	KI formuliert Stellenanzeigen
Marketing	Manipulative Verhaltenssteuerung	KI personalisiert Preise auf Basis von Verhaltensprofilen	KI erstellt Werbetexte und Bilder	KI optimiert SEO-Texte intern
Vertrieb	Gezielte Ausnutzung von Kundenschwächen	KI entscheidet über Rabatte oder Vertragsannahmen	KI-Chatbot im Kundenkontakt	KI erstellt Angebotsentwürfe
IT	Umfassende Mitarbeiterüberwachung (Produktivität + Emotion)	KI priorisiert Sicherheitsvorfälle automatisch	IT-Support-Chatbot	Code Assistants
Finance	Social Scoring von Personen	KI entscheidet über Kreditwürdigkeit	KI erstellt Finanzberichte automatisch	KI unterstützt Forecasts

Ein Beispiel: Sie nutzen ChatGPT im Unternehmen. Wenn Ihr Marketing-Team damit intern Textentwürfe erstellt, könnte dies eine grüne Ampel darstellen. Wenn der Vertrieb damit einen Chatbot für Kundenkontakt betreibt, wird es vermutlich gelb. Und wenn die HR-Abteilung damit Bewerbungen vorsortiert, stehen Sie aller Wahrscheinlichkeit nach bei Orange, sofern nicht bestimmte Ausnahmen nach Art. 6 (3) EU-KI-Verordnung vorliegen. Das Tool ist immer dasselbe, aber der Einsatzzweck definiert die Risikoklasse.

Nebem den Einsatzzweck gibt es zum Anderen auch noch spezielle Produktkategorien (wie Maschinen, Medizingeräte, Fahrzeuge, Messinstrumente, Spielzeug…) nach Annex I der EU-KI-Verordnung. Wird ein KI-System in einer dieser Produktkategorien eingesetzt, liegt ein Hochrisiko KI-Sytem vor.

Weitere konkrete Einsatzzwecke finden Sie in unseren Blogartikel „Wie Sie KI im Unternehmen nutzen: Ein Guide für CIOs“, „KI in der Verwaltung: Die wichtigsten Einsatzmöglichkeiten“ und „KI und Kirche? Was heute schon funktioniert“.

Diese Gesetze gelten für Ihren KI-Einsatz zusätzlich

Neben dem AI Act gibt es vier weitere Rechtsgebiete, welche den KI-Einsatz in Unternehmen unmittelbar betreffen. Alle vier gelten parallel zum AI Act und unabhängig voneinander.

DSGVO und BDSG

Die DSGVO gilt immer, unabhängig von der verwendeten Technologie. Das hat der Bundesbeauftragte für den Datenschutz (BfDI) ausdrücklich klargestellt. Sobald personenbezogene Daten in Prompts, im Training oder in Outputs fließen, greifen die bekannten Regeln, insbes.: Rechtsgrundlage, Zweckbindung, Datenminimierung, Betroffenenrechte.

In der Praxis heißt das: Wenn Ihre Mitarbeitenden Kundennamen, E-Mail-Adressen oder Vertragsdaten in eine KI-Anwendung eingeben, brauchen Sie eine Rechtsgrundlage dafür. Wenn die KI-Anwendung auf US-Servern läuft, kommt die Frage der Drittlandsübermittlung hinzu. Prüfen Sie bei jeder KI-Anwendung, welche Daten wohin fließen. Das ist zwar keine neue Pflicht, aber KI macht sie dringlicher, weil Mitarbeitende oft unbewusst personenbezogene Daten in Prompts eingeben.

Urheberrecht

Zwei Fragen beschäftigen Unternehmen besonders: Dürfen urheberrechtlich geschützte Werke als Trainingsdaten verwendet werden? Und wem gehören eigentlich KI-generierte Inhalte? Beide Fragen sind rechtlich noch nicht abschließend geklärt.

Für Sie als Betreiber bedeutet das konkret: Veröffentlichen Sie KI-generierte Inhalte nicht ohne menschliche Prüfung. Achten Sie darauf, keine fremden Werke in Prompts zu verwenden, wenn die Ergebnisse veröffentlicht werden sollen. Und dokumentieren Sie, welche Inhalte mit KI-Unterstützung erstellt wurden.

Arbeitsrecht und Mitbestimmung

Wenn Sie KI im HR-Bereich einsetzen, müssen Sie das Arbeitsrecht berücksichtigen. Der Betriebsrat hat Mitbestimmungsrechte bei der Einführung von technischen Einrichtungen, die das Verhalten oder die Leistung von Arbeitnehmern überwachen können. Das betrifft KI-gestützte Bewertungssysteme, automatisierte Leistungsanalysen und KI im Recruiting.

Selbst wenn die finale Entscheidung beim Menschen liegt, löst bereits die KI-gestützte Vorbereitung einer Personalentscheidung Mitbestimmungsrechte aus. Binden Sie den Betriebsrat frühzeitig ein. Nachträgliche Genehmigungen sind aufwendiger und konfliktträchtiger.

Interne Governance

Interne Governance ist kein Gesetz im engeren Sinne, sondern bedeutet die praktische ‚Übersetzung‘ aller Pflichten in den Arbeitsalltag: Eine interne KI-Richtlinie sollte festlegen, welche KI-Anwendungen erlaubt sind, welche Daten eingegeben werden dürfen und wer neue KI-Anwendungen freigeben muss.

Ohne eine solche Richtlinie passiert Folgendes: Einzelne Abteilungen nutzen KI-Anwendungen nach eigenem Ermessen. Die IT erfährt davon zuletzt. Und wenn die Aufsichtsbehörde fragt, kann niemand dokumentieren, welche Systeme im Einsatz sind. Eine KI-Richtlinie ist die praktische Grundlage für nachweisbare Compliance.

Vertiefende Informationen zu Datenschutz und Urheberrecht bei lokaler KI finden Sie in unserem Artikel „PrivateGPT: Rechtliche und ethische Aspekte“. Fragen zur Datenverarbeitung und Datensouveränität beantwortet unser Artikel „Souveräne Cloud: Warum digitale Unabhängigkeit und Datensouveränität für Unternehmen unverzichtbar werden“.

So verteilen Sie die Verantwortung für KI im Unternehmen

KI-Compliance betrifft mehrere Abteilungen gleichzeitig. Die IT allein kann das Thema nicht stemmen, ebensowenig wie die Rechtsabteilung oder der Datenschutzbeauftragte. Klären Sie die Zuständigkeiten, bevor Sie KI-Anwendungen freigeben.

• Geschäftsführung: Gesamtverantwortung für den KI-Einsatz im Unternehmen. Sie entscheidet über die KI-Policy und stellt Budget für Governance-Strukturen bereit. Ohne Rückhalt der Geschäftsführung bleibt jede KI-Richtlinie wirkungslos.
• IT / CIO: Technische Umsetzung, Anbieterbewertung, sicherer Betrieb. Gleichzeitig die Kontrolle von ‚Shadow AI‘. Wenn Mitarbeitende eigenmächtig KI-Anwendungen nutzen, die niemand geprüft hat, liegt das Risiko bei der IT. Schaffen Sie einen Freigabeprozess für neue KI-Anwendungen.
• Fachbereiche: Sie definieren die Use Cases und die Zweckbindung. Welches Problem soll die KI lösen? Welche Daten fließen ein? In welchen Produktkategorien kommt die KI zum Einsatz? Diese Fragen kann nur der Fachbereich beantworten. Genau diese Fragen bestimmen die Risikoklasse.
• Datenschutz / Legal / Compliance: Rechtliche Einordnung jedes Use Cases, Datenschutz-Folgenabschätzung bei personenbezogenen Daten, Vertragsprüfung mit KI-Anbietern & Distributoren. Bei Hochrisiko-Anwendungen ist diese Abteilung überlebenswichtig für Ihr Unternehmen.
• HR / Learning & Development: Umsetzung der KI-Kompetenz-Schulungen. Diese Pflicht gilt seit Februar 2025 und betrifft alle Personen, die KI-Systeme betreiben oder beaufsichtigen. HR muss klären, wer geschult wird, in welchem Umfang und wie der Nachweis erfolgt.
• Informationssicherheit / CISO: Schutz der Daten und Systeme rund um den KI-Betrieb. KI erweitert die Angriffsfläche erheblich: Prompt Injection, Datenlecks aus Modellen und unkontrollierter Datenabfluss in Cloud-Dienste sind wachsende Risiken. Der CISO muss KI-Systeme in die bestehenden Sicherheitskonzepte integrieren und Zugriffskontrollen sowie Prompt-Filter definieren.

Die Erfahrung zeigt: Die größte Schwachstelle bei KI-Compliance sind unklare Zuständigkeiten. Wenn niemand verantwortlich ist, macht jeder, was er will, ohne an die Folgen zu denken.

10 Prüffragen, die Sie vor jeder KI-Freigabe klären sollten

Bevor Sie eine KI-Anwendung freigeben, sollten Sie diese zehn Fragen beantworten können:

✓    Welcher konkrete Use Case liegt vor?

✓    Verarbeiten wir personenbezogene Daten in diesem System?

✓    Könnte der Use Case als Hochrisiko eingestuft werden?

✓    Ist das System rein assistiv oder trifft es Entscheidungen mit Personenbezug?

✓    Welche Daten fließen in Prompts, Training oder Feintuning?

✓    Ist der Anbieter transparent zu Datenverarbeitung, Sicherheit und Modellbetrieb?

✓    Wie werden Halluzinationen, Bias und Fehlentscheidungen abgefangen?

✓    Sind die betroffenen Mitarbeitenden ausreichend KI-kompetent (Art. 4)?

✓    Gibt es interne Regeln, welche KI-Anwendungen erlaubt und welche verboten sind?

✓    Können wir Nachweise liefern, wenn die Aufsichtsbehörde fragt (Verzeichnis, Schulungsnachweise, Prüfprotokolle)?

Wenn Sie mehr als drei dieser Fragen heute nicht sicher beantworten können, besteht besonderer Handlungsbedarf!

Fangen Sie jetzt an: Drei Schritte, die sofort wirken

Sie müssen nicht gleich alles auf einmal lösen, aber Sie sollten jetzt anfangen. Drei Maßnahmen bringen Sie auf einen soliden Stand:

1. Erstellen Sie ein KI-Inventar. Erfassen Sie alle KI-Anwendungen, die in Ihrem Unternehmen im Einsatz sind. Fragen Sie gezielt in den Fachbereichen nach. Gerade im Marketing, Vertrieb und HR werden oft KI-Anwendungen eingesetzt, die nie offiziell eingeführt wurden.
2. Klassifizieren Sie Ihre Use Cases. Nutzen Sie das Ampelsystem aus diesem Artikel als Basis für die Entwicklung eines eigenen Systems. Ordnen Sie jeden Use Case einer Risikoklasse zu. Beginnen Sie mit den Anwendungen, bei denen personenbezogene Daten verarbeitet werden oder Entscheidungen über Menschen getroffen werden.
3. Führen Sie eine KI-Richtlinie ein. Sie muss am Anfang nicht perfekt sein. Wichtig ist, dass sie überhaupt existiert. Definieren Sie, welche KI-Anwendungen erlaubt sind, welche Daten eingegeben werden dürfen und wer neue KI-Anwendungen freigeben muss. Ergänzen Sie die Richtlinie laufend aufgrund der gesammelten Erfahrungen.

Wenn Sie diese drei Schritte umsetzen, schaffen Sie ein gutes Fundament für alles, was 2026 und danach auf uns zukommt.

Proact begleitet Sie beim sicheren KI-Einstieg

Welche KI-Anwendungen für Ihr Unternehmen verwendbar und sinnvoll sind, lässt sich am besten in einem strukturierten Workshop klären. Proact begleitet Sie dabei, von der ersten Use-Case-Bewertung über die Risikoklassifizierung bis zur technischen Umsetzung.

Gleichzeitig stellt sich die Frage, wo Sie KI-Workloads sicher betreiben. Gerade für Unternehmen mit hohen Anforderungen an Datensouveränität bietet die Proact Hybrid Cloud eine passende Infrastruktur. Sie ist ISO-27001-zertifiziert, wird in europäischen Rechenzentren betrieben und erfüllt die Anforderungen an Datenlokation innerhalb der EU.

Für KI-Workloads hat Proact den Hybrid Cloud AI Service entwickelt. Er ermöglicht leistungsstarke KI-Entwicklung und -Betrieb auf einer souveränen Infrastruktur. Auch der Betrieb lokaler KI-Anwendungen kann eine sinnvolle Option sein. Besonders dann, wenn sensible Daten das Unternehmen nicht verlassen dürfen. Wie das in der Praxis funktioniert, beschreiben wir in unseren Artikeln „KI lokal betreiben: Die Vorteile von PrivateGPTs“ und „PrivateGPT: Wie die Einführung gelingt“.

Das klingt interessant? Dann sollten wir uns unterhalten. Wir freuen uns, von Ihnen zu hören!