Künstliche Intelligenz wird reguliert

KI-Gesetz der EU

Foto: Pixabay

Software, die auf Künstlicher Intelligenz (KI) basiert, durchdringt immer mehr die Gesellschaft und Unternehmen. Doch die Gesetzgeber beginnen erst jetzt, sich mit den neuen Technologien auseinanderzusetzen. Seit April 2022 hat die EU mit dem Artificial Intelligence Act (Gesetz über Künstliche Intelligenz) einen Vorschlag vorgelegt. Damit soll der Missbrauch von Daten und eine übergriffige biometrische Überwachung, die in einem dystopischen Szenario in einem Sozialkreditsystem chinesischer Prägung enden könnte, reguliert werden. Die EU-Vorlage legt ihren Fokus dabei auf drei Anwendungsgebiete.

1. Verbotene Anwendungen

  • KI darf Menschen nicht ohne ihr Wissen manipulieren, wenn dabei physischer oder psychischer Schaden entstehen könnte.
  • Untersagung von Social-Scoring durch Behörden.
  • Beschränkung von Echtzeit-Fernidentifizierungssystemen zur Strafverfolgung.

2. Hochrisiko-KI-Systeme

Als hochrisikoreich werden KI-Systeme angesehen, wenn sie wie folgt eingesetzt werden: Biometrische Identifizierung und Kategorisierung von Menschen durch Privatunternehmen, Verwaltung kritischer Infrastrukturen, berufliche Maßnahmen, Kreditwürdigkeitsprüfungen und Strafverfolgungen. An solche KI-Systeme werden hohe Anforderungen im Hinblick auf Robustheit, Sicherheit und Genauigkeit gestellt. Sie unterliegen zudem einer Dokumentationspflicht.

3. Geringes Risiko

KI-Anwendungen mit geringem und minimalem Risiko, wie z. B. Chatbots, unterliegen einer Transparenzpflicht. Menschen muss dabei immer klar sein, dass sie es mit einer Maschine zu tun haben.

Innovationen

Die EU möchte mit dem KI-Gesetz auch Innovationen fördern. Das ist auch notwendig, denn die EU-Länder geraten bei KI-Technologien gegenüber China und den USA immer mehr ins Hintertreffen. So setzen nach einer Studie von Bitkom in Deutschland erst 6 Prozent aller Unternehmen Künstliche Intelligenz ein. Die EU-Quote soll nach dem Willen der EU-Politik auf über 75 Prozent steigen.

Mit dem Digital Services Act, Digital Markets Act und Digital Governance Act hat die EU zudem drei weitere IT-Gesetze auf den Weg gebracht.

Copyright: BPF Best Practice Forum GmbH | Jetzt Mitglied werden!

Weitere Themen

Geschäftsprozesse automatisieren

RPA Robotic Process Automation

Gold des 21. Jahrhunderts schürfen

Data Management