Update zur KI-Verordnung

Die KI-Verordnung ("KI-VO") ist im August letzten Jahres in Kraft getreten, ihre Bestimmungen finden jedoch zeitlich gestaffelt Anwendung. Dies ist nun für die Kapitel I und II der KI-Verordnung der Fall, die seit dem 2. Februar 2025 anzuwenden sind. Gemäß Art. 4 der KI-VO ist daher – nicht zuletzt auch aus haftungsrechtlichen Erwägungen – seitdem sicherzustellen, dass Personen, die mit KI in Berührung kommen, ein ausreichendes Maß an KI-Kompetenz besitzen. Daneben verbietet Art. 5 KI-VO den Einsatz von KI in bestimmten Szenarien generell. Verstöße sind u.a. mit drakonischen Bußgeldern belegt.

Das Wichtigste in Kürze

KI-Kompetenz (Art. 4 KI-VO):

• Förderung ausreichender KI-Kompetenz: Anbieter und Betreiber von KI-Systemen haben sicherzustellen, dass Personal und andere Personen, die mit KI in Berührung kommen, über ausreichende KI-Kompetenz verfügen. Was insoweit ausreichend ist hängt vom jeweiligen Einzelfall, beispielsweise von dem betreffenden Use Case, der Vorbildung der die KI einsetzenden Person und den damit verbundenen Risiken, ab.
• Bedeutung: KI-Kompetenz kann unter anderem technisches Wissen, das Bewusstsein für Chancen und Risiken sowie rechtliches und ethisches Verständnis im Umgang mit KI-Systemen umfassen (Art. 3 Nr. 56 KI-VO).
• Maßnahmen: Modulare und kontinuierliche Schulungen, interne Richtlinien sowie eine interne zentrale Anlaufstelle für KI-bezogene Angelegenheiten bieten sich als erste Schritte an.
• Verpflichtung und Risiken: Die Sicherstellung ausreichender KI-Kompetenz stellt eine gesetzliche Verpflichtung dar, deren Missachtung u.a. haftungsrechtliche Verantwortlichkeiten auslösen können. Bezüglich der weiteren Konsequenzen bleibt die nationale Verwaltungspraxis abzuwarten und sollte daher sorgfältig beobachtet werden.

Verbotene KI-Praktiken (Art. 5 KI-VO):

• Gesetzlicher Katalog verbotener KI-Praktiken: Insbesondere manipulative KI-Systeme, KI-Systeme zur Ausnutzung von Schwachstellen bestimmter Personengruppen, KI-Systeme zur sozialen Bewertung, KI-Systeme zur Ableitung von Emotionen natürlicher Personen und KI-Systeme zur biometrischen Fernidentifizierung im öffentlichen Raum unterliegen einem strikten gesetzlichen Verbot.
• Drakonische Bußgelder: Verstöße können ab dem 2. August 2025 mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag der Höhere ist. Insoweit gilt es auch weiterhin erwartete nationale Regelungen, insbesondere zu behördlichen Zuständigkeiten, im Blick zu behalten.

Was gilt ab wann?

Was jetzt zu tun ist

• Sofortige Evaluierung, ob und in welchem Zusammenhang KI-Tools eingesetzt werden, insbesondere um verbotene KI-Praktiken zu identifizieren und zu verhindern.
• Etablierung ausreichender KI-Kompetenz bei Personal und anderen Personen, beispielsweise durch Einführung geeigneter KI-Richtlinien und gezielte Schulungsmaßnahmen.

Wir halten Sie informiert

Weitere Regelungen der KI-VO treten am 2. August 2025 in Kraft. Diese betreffen u.a. sog. KI mit allgemeinem Verwendungszweck (GPAI), Governance und Sanktionen im Falle von Verstößen.

Weitere Einzelheiten finden Sie auch auf unseren Webseiten.

Wir sind vorbereitet, haben die richtigen Expertinnen und Experten, das rechtliche Know-how und die Tools. Sprechen Sie uns an!