Neue Schulungspflichten und Verbote für KI-Anbieter und -Betreiber ab 2025
Neue Spielregeln – aber auch sinnvoll?
Mit der neuen EU-KI-Verordnung (KI-VO) treten ab dem 2. Februar 2025 umfassende Regelungen in Kraft, die strenge Schulungspflichten für Anbieter und Betreiber von KI-Systemen sowie spezifische Verbote für den Einsatz bestimmter KI-Praktiken vorsehen. Ziel der Verordnung ist es, die Kompetenzen im Umgang mit Künstlicher Intelligenz zu steigern und den rechtlichen Rahmen für deren Einsatz in der gesamten Europäischen Union zu harmonisieren.
KI-VO: Das erste umfassende Gesetz zur Regulierung von KI
Am 21. Mai 2024 verabschiedete der Rat der Europäischen Union die KI-Verordnung, die am 1. August 2024 offiziell in Kraft getreten ist. Die Verordnung stellt das erste umfassende Regelwerk zur Regulierung von KI in der EU dar. Sie sieht eine stufenweise Umsetzung vor:
- Ab dem 2. Februar 2025 gelten Schulungspflichten und bestimmte Verbote.
- Ab dem 2. August 2026 ist die KI-VO vollständig anwendbar.
- Ab dem 2. August 2027 müssen zudem alle Produktsicherheitsanforderungen erfüllt werden.
Die KI-VO gilt unmittelbar in allen Mitgliedstaaten und verfolgt das Ziel, einheitliche Standards für die Entwicklung und Nutzung von KI-Systemen zu schaffen.
Schulungspflichten zur KI-Kompetenz ab 2025
Ab dem 2. Februar 2025 sind Anbieter und Betreiber von KI-Systemen verpflichtet, gemäß Artikel 4 der KI-Verordnung sicherzustellen, dass alle Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dies betrifft sowohl technische Kenntnisse als auch die datenschutzrechtlichen und gesellschaftlichen Risiken, die mit dem Einsatz von KI verbunden sind.
KI-Kompetenz wird in der Verordnung nicht detailliert definiert, aber es wird darauf hingewiesen, dass die Ausbildung je nach Einsatzkontext der KI-Systeme und den betroffenen Personengruppen erfolgen soll. Diese Schulung kann durch interne Workshops oder externe E-Learning-Kurse umgesetzt werden, die in der Regel Prüfungszertifikate zur Bestätigung der erworbenen Kenntnisse beinhalten.
Ein grundlegendes Verständnis der Funktionsweise von KI, insbesondere von LLM-Sprachmodellen (Large Language Models), sowie der rechtlichen Rahmenbedingungen der KI-VO wird dabei als besonders wichtig erachtet.
KI-Verbote: Strikte Regelungen für den KI-Einsatz
Neben den Schulungspflichten führt die KI-VO auch mehrere KI-Praktiken, die ab dem 2. Februar 2025 ausdrücklich verboten sind, um ethischen und rechtlichen Standards gerecht zu werden. Diese Verbote folgen weitgehend bereits bestehenden rechtlichen Rahmenbedingungen und betreffen insbesondere:
- Unterschwellige Beeinflussungen und manipulative Techniken.
- Ausnutzung der Schutzbedürftigkeit von Personen.
- Diskriminierende Einstufungen auf Basis sozialer Verhaltensweisen oder persönlicher Eigenschaften.
- Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen.
- Biometrische Kategorisierungen in sensiblen Bereichen wie Politik, Religion oder sexueller Orientierung.
- Erstellung von Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Gesichtsbildern.
- Profiling-basierte Risikobewertungen zur Vorhersage von Straftaten.
- Biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken, es sei denn, sie ist zur Abwendung erheblicher Gefahren erforderlich (z. B. Terroranschläge, Entführungen).
Diese strengen Vorgaben sollen sicherstellen, dass der Einsatz von KI-Systemen ethischen Grundsätzen entspricht und nicht zu unzulässigen Eingriffen in die Privatsphäre oder zu Diskriminierungen führt.
Wer ist von der Verordnung betroffen?
Nach Artikel 3 der KI-VO gelten die Regelungen für Anbieter und Betreiber von KI-Systemen, die in eigener Verantwortung oder im Auftrag KI-Systeme entwickeln, betreiben oder in Verkehr bringen. Private Betreiber von KI-Systemen sind von der Verordnung hingegen nicht betroffen.
Besonders betroffen sind Unternehmen, öffentliche Behörden und Institutionen, die KI-Systeme für geschäftliche oder öffentliche Zwecke einsetzen. Für sie besteht die Pflicht, sicherzustellen, dass die in der Verordnung festgelegten Standards eingehalten und entsprechende Schulungen für Mitarbeiter durchgeführt werden.
Die ab Februar 2025 in Kraft tretenden Regelungen der KI-Verordnung stellen einen bedeutenden Schritt in der Regulierung von Künstlicher Intelligenz in der EU dar. Anbieter und Betreiber von KI-Systemen müssen sich auf strenge Schulungspflichten zur Förderung der KI-Kompetenz ihrer Mitarbeiter einstellen und die Umsetzung umfassender ethischer und rechtlicher Vorgaben sicherstellen. Die Verbote für bestimmte KI-Praktiken markieren zudem einen wichtigen Schutzmechanismus gegen missbräuchlichen KI-Einsatz.
25.10.2024 - Christian Teitscheid
Auf Twitter teilen Auf Facebook teilen
Ihre Bewertung, Kommentar oder Frage an den Redakteur
Haftungsausschluss - Die EMH News AG übernimmt keine Haftung für die Richtigkeit der Empfehlungen sowie für Produktbeschreibungen, Preisangaben, Druckfehler und technische Änderungen. (Ausführlicher Disclaimer)