KI-Gesetz: Wie die EU Bürger vor Gefahren Künstlicher Intelligenz schützen will

Künstliche Intelligenz (KI) ist das mit Abstand mächtigste Werkzeug, das die Menschheit jemals entwickelt hat. Noch ist nicht abzusehen, welche Möglichkeiten sich irgendwann ergeben - welche Chancen und Risiken die neue Technologie in Zukunft mit sich bringt.

Die EU-Staaten haben im Mai nach langer Zeit der Verhandlung ein "AI Act" genanntes KI-Gesetz beschlossen, das bestimmten Einsatz von KI innerhalb der EU komplett verbietet. Dieses Gesetz ist zum 1. August in Kraft getreten und soll schrittweise greifen. Erst im August 2026 sollen alle neuen Regeln wirksam sein. Alle EU-Staaten müssen die Regeln bis dahin in ihrer Gesetzgebung umsetzen.

Gesichtserkennung und Massenüberwachung per KI verboten

Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen vollständig verboten werden. So ist eine Massenüberwachung und auch eine massenhafte Gesichtserkennung im öffentlichen Raum ausdrücklich verboten, sowohl dem Staat wie Unternehmen.

Dabei gibt es allerdings Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum im Einzelfall nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verhindern oder zu verfolgen. Bürgerrechtler stoßen sich an dieser Ausnahme.

Diese Einschränkungen erfolgen wohl begründet: In China kommt KI bereits zum Einsatz, um die Bevölkerung engmaschig zu überwachen. Gesichtserkennung identifiziert Personen, die sich in der Öffentlichkeit nicht regelkonform verhalten - und werden mit "Strafpunkten" im sogenannten "Social Scoring" bedacht. Eine albtraumhafte Vorstellung, die durch das KI-Gesetz innerhalb der EU verhindert werden soll.

Transparenzpflichten und Anpassungen

Aber auch KI-Systeme, die als besonders risikoreich gelten und in der kritischen Infrastruktur oder im Bildungs- und Gesundheitswesen zum Einsatz kommen, müssen künftig strenge Anforderungen erfüllen. KI-Systeme dürfen keine eigenständigen Entscheidungen fällen und müssen Transparenzpflichten erfüllen.

KI entwickelt sich derzeit rasant. Die Macher des KI-Gesetzes sind sich darüber im Klaren, dass die Rechtsgrundlage mit der Zeit immer wieder nachjustiert werden muss: um Möglichkeiten nicht unnötig einzuschränken und neue mögliche Risiken einzudämmen. Denn niemand kann heute bereits absehen, welche Optionen KI in ein, zwei oder zehn Jahren bietet.

Vorteile für Verbraucher

Für Nutzer werden Auflagen und Einschränkungen durchaus spürbar werden. So müssen die Menschen über den Einsatz "hochriskanter" KI-Systeme informiert werden. Außerdem muss gewährleistet bleiben, dass Menschen die Kontrolle behalten, etwa bei KI-gestützter Therapie in der Medizin.

KI-Systeme müssen außerdem so entwickelt sein, dass Risiken wie Fehler, Manipulationen oder Sicherheitslücken minimiert werden. Auch müssen durch KI erzeugte Inhalte gekennzeichnet werden. Facebook hat im Mai bereits damit begonnen, mit KI erzeugte fotorealistische Bilder mit dem Hinweis "Made with AI" zu kennzeichnen.

Bitkom formuliert Kritik am KI-Gesetz

Der Branchenverband Bitkom kritisiert allerdings, das KI-Gesetz lasse wesentliche Fragen offen. Besonders problematisch sei, dass die eigentliche Regulierungsarbeit - also die Ausformulierung der Gesetze in Deutschland - erst jetzt erfolge. Es sei noch nicht klar, ob die KI-Industrie einen Schub erhalte oder jede Menge Hemmnisse.

In der Tat könnten zu strenge Regeln das Risiko bergen, dass in Europa keine oder weniger KI-Lösungen entwickelt werden. Denn Investoren müssten die Gewissheit haben, dass ungehindert geforscht und entwickelt werden kann - und neue KI-Lösungen getestet und eingesetzt werden können.

"Unser Leben mit KI": Haben Sie Fragen zum Thema?

Künstliche Intelligenz begegnet uns inzwischen überall und nimmt weiter eine rasante Entwicklung. Am 25. September geht es in der WDR-Sendung "Unser Leben mit KI – wie uns künstliche Intelligenz täuscht", moderiert von Catherine Vogel, um Fake-News, KI-Betrügereien und den Schutz vor Täuschung. Haben Sie Fragen zum Thema? Dann senden Sie diese gerne per Mail an: anja.bruchhausen@aunds.tv. Unsere Experten versuchen, die Fragen zu beantworten.

Verwendete Quellen: