Verbote: EU verpasst sich erstes KI-Gesetz der Welt

Bereits im Dezember haben sich EU-Kommission, Mitgliedsstaaten und Parlament auf Regeln für den Umgang mit Künstlicher Intelligenz geeinigt. Heute hat das Europäische Parlament endgültig grünes Licht für den AI Act gegeben. Das weltweit erste Gesetz seiner Art regelt, wofür KI und unter welchen Bedingungen KI verwendet werden darf. KI-Anwendungen werden dafür in vier Risiko-Gruppen mit unterschiedlich strengen Vorgaben geteilt. Das soll vor allem öffentliche und sensible Bereiche wie Schul- oder Gesundheitswesen schützen. Klar definiert sind auch Bereiche, in denen KI nicht zum Einsatz kommen darf. Dazu zählt etwa die Echtzeit-Gesichtserkennung.

Die Eckpunkte des AI Act

• Schutzmaßnahmen für allgemeine künstliche Intelligenz
• Beschränkung der Verwendung biometrischer Identifizierungssysteme durch Strafverfolgungsbehörden
• Verbot von Social Scoring und KI, die zur Manipulation oder Ausnutzung von Schwachstellen der Nutzer eingesetzt werden
• Recht der Verbraucher auf Beschwerden und aussagekräftige Erklärungen
• Persönliche Identifizierungstechnologien in Straßenüberwachungskameras
• Transparenz in Entwicklung
• Kennzeichnung KI-generierten Inhalten

Der AI Act im Detail

Sichergestellt werden soll mittels Verordnung, dass KI sicher arbeitet und dabei die Grundrechte der EU respektiert werden. Weiters soll durch die EU-Verordnung die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleistet und sichergestellt werden, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Verschärfte Vorgaben soll es für "risikoreiche" Anwendungsgebiete geben. Dazu zählen neben Bildungs- und Medizinbereich auch kritische Infrastruktur, Sicherheitsbehörden und Personalverwaltung. 

Verbotene Anwendungen

Bestimmte KI-Anwendungen sind durch den AI Act verboten. Dazu zählen vor allem solche, die Bürgerrechte bedrohen. Darunter fallen biometrische Kategorisierungssysteme auf Basis sensibler Merkmale, das ungerichtete Sammeln von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken. Auch die Emotionserkennung am Arbeitsplatz und in Schulen, Social Scoring und "Predictive Policing" (basierend ausschließlich auf Profiling einer Person) sind verboten. Auch nicht erlaubt ist der Einsatz von KI, die menschliches Verhalten manipuliert oder Schwächen ausnutzt.

Straferfolgung

Ausnahmen gelten aber für Strafverfolgungsbehörden. Auch hier ist der Einsatz von biometrischen Erkennungssystemen grundsätzlich verboten. In erschöpfend aufgezählten und eng definierten Situationen soll er aber erlaubt sein. Der AI Act verbietet prädiktive Polizeiarbeit, wenn sie ausschließlich auf Profiling basiert. Szenen wie im Film Minority Report, in dem "Precogs" zukünftige Verbrechen vorhersagen, sind damit ausgeschlossen. 

Hochriskante Systeme

Für hochriskante KI-Systeme in den genannten Bereichen bestehen klare Verpflichtungen. Dazu zählen vor allem solche Systeme, die bedeutende potenzielle Schäden für Gesundheit, Sicherheit, fundamentale Rechte, Umwelt, Demokratie und Rechtsstaatlichkeit darstellen können. Solche Systeme müssen Risiken bewerten und reduzieren, Nutzung protokollieren, transparent und genau sein und menschliche Aufsicht sicherstellen. In die Pflicht genommen sind hier nicht nur Unternehmen, die entsprechende Dienste in Anspruch nehmen. Auch der Staat hat Kontrollaufsichten.

Transparenz

Allgemein verwendbare KI-Systeme unterliegen Transparenzanforderungen. Besser geschützt wird damit künftig vor allem die Einhaltung des EU-Urheberrechts. Detaillierte Zusammenfassungen gewährleisten transparent, welche Inhalt für das Training der Systeme verwendet wurden. Darüber hinaus müssen künstliche oder manipulierte Bilder, Audio- oder Videoinhalte ("Deepfakes") eindeutig als solche gekennzeichnet werden.

Förderung von Innovation und KMU

Allen Regulatorien zum Trotz, dient der AI Act auch der Förderung von Innovation. Das Gesetz schreibt Sandkästen und Tests in der realen Welt auf nationaler Ebene vor. Die Versuche müssen KMUs und Start-ups zugänglich gemacht werden.

Ab wann gilt das Gesetz?

Das Gesetz bedarf noch einer endgültigen juristisch-linguistischen Überprüfung und wird voraussichtlich vor Ende der Legislaturperiode endgültig angenommen. Nach Veröffentlichung im Amtsblatt der Europäischen Union greift das Gesetz zwanzig Tage später EU-weit. Die vollständige Anwendung wird aber noch dauern. Generell haben Mitgliedsstaaten zwei Jahre Zeit, EU-Verordnungen in nationales Recht zu gießen. 

Parliament has approved the Artificial Intelligence Act that aims to ensure safety and compliance with fundamental rights, while boosting innovation.

Find out more: https://t.co/zUkjfl49Gg pic.twitter.com/RINidgBwhO— European Parliament (@Europarl_EN) March 13, 2024