EU-Parlament gibt grünes Licht für KI-Gesetz

Das Europäische Parlament hat grünes Licht für eine einheitliche Regelung von Künstlicher Intelligenz (KI) gegeben. 523 Abgeordnete stimmten am Mittwoch in Straßburg für das entsprechende Gesetz, 46 dagegen bei 49 Enthaltungen.

Demnach sollen KI-Systeme zukünftig in verschiedene Risikogruppen eingeteilt werden. Dabei gilt: Je größer die potenziellen Gefahren einer Anwendung sind, desto höher sollen die rechtlichen Anforderungen sein. Basismodelle etwa müssen Mindeststandards erfüllen wie Transparenz über Trainingsdaten. Werden jedoch „systemische Risiken“ befürchtet, sollen strengere Vorgaben gelten.

Bei der KI-Nutzung in Sicherheitsbehörden sieht das Gesetz grundsätzlich ein „hohes Risiko“ für Menschenrechtsverletzungen, genauso bei Anwendungen in der kritischen Infrastruktur sowie der Personalverwaltung. Auch Systeme, die potenziell Wahlen beeinflussen können, stehen im Fokus des Gesetzes.

In diesen Fällen soll daher ein Mensch in letzter Instanz die Kontrolle über die Entscheidungen der KI haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen darüber hinaus bei den Behörden Beschwerde gegen die KI-Nutzung einreichen können.

Verboten werden sollen KI-Systeme, die Menschen nach Kriterien wie ihren politischen und religiösen Ansichten, ihrer sexuellen Orientierung oder der Hautfarbe in Gruppen einteilen. Außerdem werden die aus China bekannten sogenannten Sozialkredit-Systeme verboten, die auf das Verhalten oder persönliche Eigenschaften abzielen.

Unternehmen dürfen ferner KI nicht einsetzen, um die Gefühle ihrer Beschäftigten zu erfassen. Die Technologie darf zudem nicht genutzt werden, um Menschen gegen ihren Willen zu beeinflussen. Betroffene dürfen durch die Nutzung zudem nicht etwa wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden.

Die Polizei und andere Sicherheitsbehörden dürfen KI-gesteuerte Gesichtserkennung an öffentlichen Plätzen nutzen, wenn eine richterliche Anordnung vorliegt. Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden.

Bei Echtzeit-Verfolgung des Videomaterials sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung zur „Verhinderung einer konkreten und akuten Terrorgefahr“ nutzen.

dts Nachrichtenagentur

Foto: EU-Parlament in Straßburg (Archiv), via dts Nachrichtenagentur