EU-Parlament verabschiedet KI-Gesetz

Der 13. März 2024 könnte ein historisches Datum werden: Das Parlament der Europäischen Union einigte sich auf das laut eigenen Angaben weltweit erste Gesetz, das Regelungen zur Künstlichen Intelligenz vorsieht. Zwei Ziele stehen im Mittelpunkt: die Sicherung von Grundrechten und die Förderung von Innovationen.
vom 14. März 2024
image

„Endlich haben wir das weltweit erst verbindliche Gesetz zur künstlichen Intelligenz, um Risiken zu reduzieren, Chancen zu schaffen, Diskriminierung zu bekämpfen und Transparenz zu gewährleisten“, sagte Brando Benifei, Ko-Berichterstatter des Binnenmarktausschusses während der Plenardebatte. „Dank des Parlaments werden inakzeptable KI-Praktiken in Europa verboten und die Rechte von Arbeitnehmern und Bürgern geschützt.“ Er bezog sich auf die Einrichtung des Europäischen Amtes für Künstliche Intelligenz. Es soll Unternehmen bei der der Einhaltung der Vorschriften unterstützen. Es bleibt nun auch bei dem Ansatz, KI-Systeme nach dem von ihnen ausgehenden Risiko zu kategorisieren. Je größer die Gefahr ist, die von der KI ausgeht, desto höher sind die Anforderungen für den Einsatz. Bestimmte Anwendungen, die Rechte der Bürgerinnen und Bürger bedrohen, sind ganz verboten.

Strenge Vorschriften bei Hochrisiko-KI

Dazu zählen etwa die biometrische Kategorisierung auf Grundlage sensibler Merkmale und das gezielte Auslesen von Gesichtsbildern im Netz oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Nicht gestattet ist auch, dass Systeme am Arbeitsplatz oder in der Schule Emotionen erkennen oder das soziale Verhalten bewerten. Selbst vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht, sowie der Einsatz von KI, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nicht erlaubt. Vom Verbot der Nutzung biometrischer Fremdidentifizierungssysteme seitens der Strafverfolgungsbehörden gibt es Ausnahmen: Die Fernidentifizierung in Echtzeit ist erlaubt, wenn strenge Sicherheitsbestimmungen eingehalten werden. Es existieren zeitliche und räumliche Beschränkungen und es darf nur auf Grundlage einer speziellen behördlichen oder gerichtlichen Genehmigung gehandelt werden. Als Beispiele für erlaubte Sachverhalte dienen die Suche nach vermissten Personen oder die Abwehr eines Terroranschlages.

Mitgliedstaaten müssen Reallabore einrichten

Sogenannte Hochrisiko-KI-Systeme stellen möglicherweise eine Gefahr für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und den Rechtsstaat dar. Konkret genannt ist in diesem Zusammenhang der Einsatz von KI-Systemen in den Bereichen Kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung, Gesundheits- und Bankwesen, Migration und Grenzmanagement, Justiz, demokratische Prozesse und Strafverfolgung. Für diese Systeme gilt die Pflicht zur Risikobewertung und -verringerung. Es sind Nutzungsprotokolle zu führen, transparent und genau, sowie vom Menschen beaufsichtigt. Bürgerinnen und Bürger können Beschwerden über KI-Systeme einreichen. KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten, gelten künftig zusätzliche Anforderungen – etwa müssen Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und Vorfälle gemeldet werden. Mitgliedstaaten müssen Reallabore einrichten und Tests unter tatsächlichen Bedingungen durchführen. Diese müssen für KMU und Start-ups zugänglich sein, damit sie KI-Systeme entwickeln und trainieren können, bevor sie damit auf den Markt gehen.   

 

Copyright Bild: Unsplash / Lukas

Beitrag von Alexander Pradka

Dies könnte Sie auch interessieren

E-commerce Photo Illustrations Amazon logo displayed on a laptop screen and a small shopping cart are seen in this illus
EU
Amazon muss Werbearchiv öffentlich zugänglich machen
Laut einem Beschluss des Vizepräsidenten des Europäischen Gerichtshofes muss Amazon ein Werbearchiv mit detaillierten Informationen über die Online-Werbung...
Joyful mother girl running on park alley sunny weekend
Versicherter Arbeitsweg und unversicherter Abweg
Das Landessozialgericht Baden-Württemberg hat entschieden, dass kein gesetzlicher Unfallversicherungsschutz besteht, wenn ein Arbeitnehmer oder eine Arbeitnehmerin...
Datenleck in US-Finanzministerium enth¸llt Defizite bei Geldw‰sche-Bek‰mpfung (Themenbild, Symbolbild) *** Data leak in
Bundesregierung will Bundesdatenschutzgesetz ändern
Es stand bereits im Koalitionsvertrag, jetzt soll ein Gesetzesentwurf zur Änderung des Bundesdatenschutzgesetzes (BDSG) folgen. Unter anderem soll es Unternehmen...