„Künstliche Intelligenz-Gesetz“. Was ist das und was steht drin?

Tatsächlich handelt es sich lediglich umgangssprachlich um ein KI-Gesetz. Korrekt wäre die Bezeichnung „KI-Verordnung“. Das KI-Gesetz ist auch noch nicht erlassen, sondern befindet sich aktuell (Stand 05.08.2023) noch in Planung. Die KI-Verordnung wird aber unmittelbare Wirksamkeit für sämtliche EU-Mitgliedsländer entfalten und damit faktisch Gesetzeswirkung haben. Damit schafft die Europäische Union einen einheitlichen Rechtsrahmen und einen einheitlichen Standard für die EU.

KI-Gesetz. Was steht drin?

Zusammenfassend lässt sich sagen, dass das vorgeschlagene KI-Gesetz einen harmonisierten rechtlichen Rahmen für die Entwicklung und Nutzung von KI-Systemen in der EU schaffen soll. Es legt unterschiedliche Anforderungen und Pflichten für die Entwicklung und Markteinführung von KI-Systemen in der EU fest und sieht vor, dass diese Systeme sicher sein und bestehendes EU-Recht einhalten müssen. Die Regeln gelten hauptsächlich für Anbieter und Benutzer von KI-Systemen, die in der EU oder einem Drittland ansässig sind.

KI-Gesetz verfolgt einen risikobasierten Ansatz

Die Verwendung von KI kann aufgrund ihrer spezifischen Eigenschaften (z.B. Undurchsichtigkeit, Komplexität, Datenabhängigkeit, autonomes Verhalten) negative Auswirkungen auf grundlegende Rechte und die Sicherheit der Nutzer haben. Um diese Bedenken anzugehen, verfolgt der Entwurf des KI-Gesetzes einen risikobasierten Ansatz, der rechtliche Eingriffe an konkrete Risikostufen anpasst. Hierbei unterscheidet das Gesetz zwischen KI-Systemen mit (i) inakzeptablem Risiko, (ii) hohem Risiko, (iii) begrenztem Risiko und (iv) geringem oder minimalem Risiko.

KI-Anwendungen mit inakzeptablem Risiko

KI-Anwendungen mit inakzeptablem Risiko, die eine klare Bedrohung für die Sicherheit und Rechte der Menschen darstellen, werden explizit verboten. Dazu gehören KI-Systeme, die schädliche manipulative Techniken anwenden, bestimmte verwundbare Gruppen ausnutzen oder von Behörden zur sozialen Bewertung eingesetzt werden.

KI-System mit hohem Risiko

Systeme mit hohem Risiko, die negative Auswirkungen auf die Sicherheit der Menschen oder ihre Grundrechte haben, werden reguliert. Dazu gehören Systeme, die als Sicherheitskomponente eines Produkts verwendet werden oder in acht spezifischen Bereichen eingesetzt werden, darunter biometrische Identifizierung, Betrieb von kritischer Infrastruktur, Bildung, Beschäftigung und Verwaltung von Justiz und demokratischen Prozessen.

KI-Systeme mit begrenztem Risiko

Systeme mit begrenztem Risiko, wie Chatbots oder Systeme zur Emotionserkennung, unterliegen Transparenzpflichten. Alle anderen KI-Systeme, die nur ein geringes oder minimales Risiko darstellen, könnten ohne zusätzliche rechtliche Verpflichtungen in der EU entwickelt und verwendet werden.

Worauf Unternehmen nun achten müssen

Die KI-Verordnung wird unmittelbar in zwingendes Recht umgesetzt werden und muss daher von allen Betreibern von KI in der EU zwingend beachtet werden. Mit einem Inkrafttreten ist im Jahr 2024 zu rechnen. Es steht außer Frage, dass KI in viele Bereiche Einzug finden wird. Hierbei ist jedoch zwingend darauf zu achten, dass dies im Einklang mit der KI-Verordnung erfolgt. Es ist davon auszugehen, dass das KI-Gesetz sich nur noch geringfügig ändern wird.

Wir empfehlen daher dringend, bereits jetzt darauf zu achten, dass die Nutzung und Implementierung von KI-basierten-Systemen bereits jetzt auch auf die voraussichtlichen Regelungen der KI-Verordnung abgestimmt werden.

Sprechen Sie uns an – wir helfen Ihnen gerne!

Ihr MS Concept Rechtsanwälte – Team