Kurz erklärt: Die KI-Verordnung (EU) 2024/1689 regelt den Einsatz von Künstlicher Intelligenz in der EU nach Risikoklassen: Verbote für bestimmte Praktiken, strenge Pflichten für Hochrisiko-Systeme, Transparenzpflichten für Chatbots und Deepfakes und eine Pflicht zur KI-Kompetenz der Beschäftigten. Sie gilt neben der DSGVO, nicht statt ihrer.
Was bedeutet KI-Verordnung?
Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt gestuft: Verbote und die Pflicht zur KI-Kompetenz seit Februar 2025, Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025, die meisten Pflichten für Hochrisiko-Systeme ab August 2026 und teils später. Betreiber von KI-Systemen, also auch Unternehmen, die ChatGPT, Copilot oder Bewerbungs-Tools nutzen, müssen die Systeme bestimmungsgemäß verwenden, Beschäftigte schulen und bei Hochrisiko-Einsatz zusätzliche Pflichten erfüllen.
Datenschutzrechtlich bleibt jede Verarbeitung personenbezogener Daten mit KI an die DSGVO gebunden: Rechtsgrundlage, Information, Datenminimierung, gegebenenfalls Datenschutz-Folgenabschätzung und Auftragsverarbeitungsvertrag mit dem Anbieter.
Rechtsgrundlage
- Verordnung (EU) 2024/1689 (KI-Verordnung), insbesondere Art. 4 (KI-Kompetenz), Art. 5 (verbotene Praktiken), Art. 6 und Anhang III (Hochrisiko), Art. 26 (Pflichten der Betreiber), Art. 50 (Transparenz)
- Art. 22 und Art. 35 DSGVO (automatisierte Entscheidungen, DSFA)
In der Praxis
Für kleine und mittlere Betriebe sind drei Dinge sofort relevant: eine kurze KI-Richtlinie (welche Tools, welche Daten dürfen hinein, welche nicht), die Schulung der Beschäftigten zur KI-Kompetenz und die Prüfung, ob KI im Personalbereich (Bewerberauswahl, Leistungsbewertung) eingesetzt wird, denn das ist Hochrisiko. Personenbezogene Daten gehören nur in KI-Dienste mit Auftragsverarbeitungsvertrag.
Häufige Fragen
Fragen zu KI-Verordnung
Darf ich ChatGPT im Unternehmen nutzen?
Ja, mit Regeln: keine Kunden- oder Beschäftigtendaten in Dienste ohne Auftragsverarbeitungsvertrag, Schulung der Nutzer, Kennzeichnung von KI-Inhalten wo nötig. Unternehmensversionen mit Vertrag sind die sauberere Lösung.
Was bedeutet KI-Kompetenz nach Art. 4?
Betreiber müssen sicherstellen, dass Beschäftigte, die KI-Systeme nutzen, über ausreichendes Wissen zu Funktionsweise, Grenzen und Risiken verfügen. Eine dokumentierte Schulung ist der übliche Nachweis.
Verwandte Begriffe
Das gehört dazu
Ratgeber