KI-Gesetz der EU verbietet riskante Anwendungen: Millionenstrafen drohen

Bald tritt das erste KI-Gesetz der EU in Kraft, das die Nutzung Künstlicher Intelligenz regelt. Was genau es besagt und welche KI künftig verboten ist.

Kurz zusammengefasst:

• Das erste EU-KI-Gesetz tritt am 1. August in Kraft und regelt die Nutzung von Künstlicher Intelligenz.
• KI-Systeme, die als unannehmbares Risiko eingestuft werden, sind verboten, darunter solche, die menschliches Verhalten manipulieren.
• Bei Verstößen gegen das KI-Gesetz drohen Strafen bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Systeme, die auf Künstlicher Intelligenz (KI) basieren werden heute bereits in vielen Bereichen genutzt. ChatGPT, Gemini und Perplexity sind im Alltag immer häufiger im Einsatz. Doch auch in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten wird mit KI gearbeitet.

Lange gab es dafür keine festgelegten Regelungen. Am 1. August tritt nun das erste KI-Gesetz der Europäischen Union in Kraft, das den Einsatz und die Nutzung von Künstlicher Intelligenz in den EU-Ländern künftig klar regelt.

Verbote von KI mit unanehmbaren Risiko

Laut dem Europäischen Parlament basiert das Gesetz auf einer Risikobewertung der KI-Systeme. Künstliche Intelligenz, die als unannehmbares Risiko eigestuft wird, wird künftig verboten. Dazu gehören:

• KI-Systeme, die menschliches Verhalten und Emotionen manipulieren können, wie etwa sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert.
• KI-Systeme, die Menschen nach Kriterien wie Hautfarbe, politischen und religiösen Ansichten oder sexueller Orientierung in Gruppen einteilen.
• KI-Systeme, die ein "Sozialkredit"-System erschaffen. Mit dieser in China üblichen Technik will die herrschende Kommunistische Partei die Menschen per Massenüberwachung zu erwünschten Verhaltensweisen und politischer Loyalität "erziehen".

Durch die Nutzung der KI dürfen Personen nicht wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden. Damit soll sichergestellt werden, dass KI-Systeme nicht missbraucht werden und der Schutz der Grundrechte immer gewährleistet ist.

• KI-Gesetz kommt: Wie können sich Verbraucher schützen?
• Risiken von KI: "Ein Tsunami, der die Menschheit überschwemmt"
• Gefahren im Internet: "All das kann sich morgen ändern"

KI in der Videoüberwachung

Auch der Einsatz von KI bei Gesichtserkennung ist grundsätzlich verboten. Einige Ausnahmen können aber für Strafverfolgungszwecke zugelassen werden. Allerdings dürfen Polizei und andere Sicherheitsbehörden KI-gesteuerte Gesichtserkennung an öffentlichen Orten künftig nur dann nutzen, wenn eine richterliche Anordnung vorliegt.

Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden. Verfolgen die Beamten das Videomaterial in Echtzeit, sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung nutzen, um "eine konkrete und akute Terrorgefahr" abzuwenden.

KI-Systeme mit einem hohen Risiko

Neben dem unannehmbaren Risiko gibt es auch Hochrisiko-KI-Systeme. Diese Systeme sollen ständig kontrolliert werden und müssen eine Reihe von Anforderungen erfüllen, um eingesetzt zu werden.

Bei der Nutzung Künstlicher Intelligenz in Sicherheitsbehörden sieht der Gesetzgeber grundsätzlich ein "hohes Risiko" für Grundrechteverstöße. Das gleiche gilt für Anwendungen etwa in der Personalverwaltung. Zu den sogenannten Hochrisiko-Anwendungen gehören zudem Systeme, die Wahlen beeinflussen können.

In diesen Fällen soll deshalb in letzter Instanz ein Mensch die Kontrolle über die KI-Entscheidungen haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen bei den Behörden Beschwerde gegen die KI-Nutzung einlegen können.

Es drohen Strafen in Millionenhöhe

Mit dem neuen Gesetz soll es eine Transparenzpflicht geben. Künstlich erzeugte oder bearbeitete Inhalte, wie Bilder, Audios oder Videos, müssen müssen künftig eindeutig als solche gekennzeichnet werden. Online-Plattformen wie Facebook, Instagram oder X und nationale Behörden sollen dies überprüfen. Fachleute halten die Kontrolle jedoch für schwierig.

Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz einer verbotenen Technologie kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen. Wer gegen andere Bestimmungen des Gesetzes verstößt, muss mit Strafen von bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes rechnen.

Das Gesetz soll nach und nach greifen. Ab dem 2. Februar 2025 sind in den Mitgliedsländern zunächst inakzeptable Technologien wie "Sozialkredit"-Systeme verboten. Ab dem 2. August 2025 greifen die Regeln für allgemein nutzbare KI-Systeme, etwa zur Text- oder Bilderstellung. Ab dem 2. August 2026 werden alle anderen Bestimmungen des KI-Gesetzes wirksam. Bereits in diesem Herbst erwartet die EU-Kommission einen "KI-Pakt" hunderter Unternehmen zu freiwilligen Selbstkontrollen.