# Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI

- Link: https://www.maier-steuerberater.de/parlament-bereit-fuer-verhandlungen-ueber-regeln-fuer-sichere-und-transparente-ki/
- Veröffentlicht: 2023-06-13T14:03:07+02:00
- Autor: Thomas Stuppy

**EU-Parlament, Pressemitteilung vom 14.06.2023**

 * Vollständiges Verbot von künstlicher Intelligenz (KI) für _biometrische Überwachung,
   Emotionserkennung und vorausschauende Polizeiarbeit_
 * Generative KI-Systeme wie ChatGPT müssen _angeben, dass Inhalte mithilfe von 
   KI erstellt wurden_
 * Zur _Beeinflussung von Wählern_ eingesetzte KI-Systeme gelten als _hochriskant_

Die Vorschriften sollen die Einführung von menschenzentrierter und vertrauenswürdiger
KI fördern und Gesundheit, Sicherheit, Grundrechte und Demokratie vor schädlichen
Folgen schützen.

Am Mittwoch, den 14.06.2023, nahm das Europäische Parlament seine Verhandlungsposition
zum Gesetz über künstliche Intelligenz (KI) mit 499 zu 28 Stimmen bei 93 Enthaltungen
an. Damit können nun die Gespräche mit den EU-Mitgliedstaaten über die endgültige
Form des Gesetzes beginnen. Die Vorschriften sollen dafür sorgen, dass in der EU
entwickelte und eingesetzte KI in vollem Umfang den Rechten und Werten der Europäischen
Union entspricht. Das umfasst, dass sie von Menschen beaufsichtigt wird, Anforderungen
an Sicherheit, Datenschutz und Transparenz genügt, niemanden diskriminiert und weder
Gesellschaft noch Umwelt schädigt.

## Verbotene KI-Praktiken

Die Vorschriften richten sich nach dem Grad der Gefahr, die von künstlicher Intelligenz
möglicherweise ausgeht. Je nachdem, wie groß diese Gefahr ist, gelten künftig Pflichten
für Anbieter und Nutzer. KI-Systeme, die die menschliche Sicherheit in inakzeptabler
Weise gefährden, sollen demnach verboten werden, wie z.B. solche, die für „Social
Scoring“ (Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen 
Verhaltens oder ihrer Persönlichkeitsmerkmale) verwendet werden. Die Abgeordneten
fordern Verbote für weitere KI-Anwendungen, die in die Privatsphäre eingreifen und
diskriminieren, nämlich für

 * biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich
   an öffentlich zugänglichen Orten aus der Ferne zu identifizieren,
 * Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (z. B. Geschlecht,
   Rasse, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische 
   Orientierung),
 * vorausschauende Polizeiarbeit (die mit Profilerstellung und Standortermittlung
   arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine
   Person Gefahr läuft, straffällig zu werden),
 * in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen
   verwendete Emotionserkennungssysteme und
 * das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen
   zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte
   und des Rechts auf Privatsphäre).

## Hochriskante KI

Die Abgeordneten sorgten dafür, dass KI-Systeme, die die Gesundheit, die Sicherheit
und die Grundrechte von Menschen bzw. die Umwelt erheblich gefährden, nun als Hochrisiko-
Anwendungen gelten. In die entsprechende Liste wurden KI-Systeme aufgenommen, die
zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von
Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern) eingesetzt werden.

## Pflichten für KI-Systeme zur allgemeinen Verwendung

Anbieter von Basismodellen – einer Neuentwicklung im KI-Bereich, die rasante Fortschritte
macht – müssen künftig Risiken (für Gesundheit, Sicherheit, die Grundrechte von 
Personen, die Umwelt oder für Demokratie und Rechtsstaatlichkeit) abschätzen und
mindern und ihre Modelle in der entsprechenden EU-Datenbank registrieren, bevor 
sie auf den EU-Markt kommen. Generative KI-Systeme, die auf solchen Modellen beruhen,
wie ChatGPT, müssen Transparenzanforderungen erfüllen, d. h., sie müssen offenlegen,
dass die Inhalte KI-generiert sind, was auch dazu beiträgt, sog. Deepfake-Fotos 
von echten Abbildungen zu unterscheiden. Zusätzlich müssen sie dafür sorgen, dass
keine rechtswidrigen Inhalte erzeugt werden. Außerdem müssen sie detaillierte Zusammenfassungen
der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken
verwendet haben.

## Förderung von Innovationen und Schutz der Bürgerrechte

Um KI-Innovationen zu fördern und kleine und mittlere Unternehmen zu unterstützen,
fügte das Parlament Ausnahmeregelungen hinzu, die für Forschungstätigkeiten und 
KI-Komponenten gelten, die im Rahmen von quelloffenen Lizenzen bereitgestellt werden.
Die neuen Vorschriften fördern sog. Reallabore, in denen Behörden KI-Anwendungen
unter realen Bedingungen testen können, bevor sie eingesetzt werden.

Das Parlament will außerdem das Recht der Bürgerinnen und Bürger stärken, Beschwerden
über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem
Einsatz hochriskanter KI-Systemen beruhen und ihre Grundrechte erheblich beeinträchtigen.
Die Abgeordneten wollen darüber hinaus ein Europäisches Amts für künstliche Intelligenz
einrichten, das die Umsetzung des KI-Regelwerks überwachen soll.

## Nächste Schritte

Die Verhandlungen mit dem Rat über die endgültige Form der Vorschriften werden nun,
noch am Tag dieser Abstimmung, beginnen.

_Quelle: Europäisches Parlament_