EU AI Act & Datenschutz.
Was ist erlaubt, was nicht? Wie nutzen Verwaltungen und Unternehmen KI rechtssicher? Alle relevanten Fragen — ohne Juristendeutsch.
Vorab: Ich bin kein Rechtsanwalt. Die folgenden Einordnungen sind allgemeine Informationen und keine Rechtsberatung. Für verbindliche Auskunft wenden Sie sich an einen auf KI und Datenschutz spezialisierten Anwalt.
Was ist der EU AI Act?
Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung von KI. Er ist am 2. August 2024 in Kraft getreten und gilt in allen EU-Mitgliedstaaten direkt. Regeln gelten gestaffelt: Verbote seit Februar 2025, Hochrisiko-Pflichten ab August 2026.
- Inakzeptables Risiko — verboten: Social Scoring durch Behörden, manipulative KI, Echtzeit-Biometrieüberwachung im öffentlichen Raum
- Hochrisiko — strenge Pflichten: KI in kritischer Infrastruktur, Bildung, Personalwesen, Strafverfolgung, Justiz. Umfangreiche Dokumentations- und Transparenzpflichten
- Begrenztes Risiko — Transparenzpflichten: Chatbots müssen als solche erkennbar sein. KI-generierte Inhalte müssen gekennzeichnet werden
- Minimales Risiko — keine Pflichten: Spam-Filter, Empfehlungsalgorithmen, einfache Automatisierungen
Was bedeutet das für Verwaltungen?
- Bescheidgeneratoren: Bei rechtlich verbindlichen Entscheidungen gilt Hochrisiko — Dokumentationspflichten und menschliche Letztverantwortung erforderlich
- Chatbots im Bürgerservice: Müssen klar als KI erkennbar sein — kein Problem, wenn transparent kommuniziert
- Interne Wissensmanagement-KI: Typischerweise minimales Risiko — keine besonderen Pflichten
- Personalentscheidungen: KI-Unterstützung bei Stellenbesetzungen gilt als Hochrisiko
Praxis-Faustformel: KI, die Menschen bei behördlichen Entscheidungen betrifft oder Rechte von Einzelpersonen berührt, gilt als Hochrisiko. Interne Effizienztools sind meist unkritisch.
DSGVO und KI: Was heute schon gilt
- Keine personenbezogenen Daten in externe KI-Tools ohne Datenverarbeitungsvertrag (AVV)
- AVV-Pflicht: Mit allen KI-Anbietern, die personenbezogene Daten verarbeiten
- Zweckbindung: Daten dürfen nur für den ursprünglich erhobenen Zweck genutzt werden
- Recht auf Erklärung: Bei automatisierten Entscheidungen haben Betroffene das Recht auf Erklärung und menschliche Überprüfung
Praktische Regeln für den rechtssicheren KI-Einsatz
- Verwenden Sie anonymisierte oder synthetische Daten für KI-Tests
- Schließen Sie AVV mit allen KI-Anbietern ab, die Ihre Daten verarbeiten
- Dokumentieren Sie den Einsatz von KI-Systemen und deren Entscheidungsgrundlagen
- Behalten Sie die menschliche Letztverantwortung bei Entscheidungen mit Rechtsfolgen
- Nutzen Sie Enterprise-Versionen mit EU-Datenspeicherung für sensible Anwendungen
Der Grundsatz in meiner Beratung: KI macht die Arbeit effizienter — die Verantwortung bleibt beim Menschen. Das ist nicht nur gesetzlich vorgeschrieben. Es ist auch richtig.
Fragen zum Thema?
Ich beantworte sie persönlich.
30 Minuten Erstgespräch — kostenlos, kein Verkaufsgespräch. Ehrliche Einschätzung für Ihre Organisation.
Erstgespräch vereinbaren →