Revolutionäre Neuerung: Erstes KI-Gesetz tritt in Kraft

Die künstliche Intelligenz ist längst nicht mehr nur eine Vision aus Science-Fiction-Romanen, sondern längst in unserem Alltag - sogar bei Landmaschinen - angekommen. Von selbstfahrenden Autos bis hin zu personalisierten Werbeanzeigen - die Anwendungsbereiche scheinen grenzenlos. Doch mit der fortschreitenden Entwicklung der KI stellen sich auch Fragen nach ihrer Regulierung und Verantwortung. Nun hat die EU-Kommission einen Gesetzesentwurf vorgelegt, der erstmals klare Regeln für den Einsatz von künstlicher Intelligenz einführen soll. In diesem Blogartikel werfen wir einen Blick auf die wichtigsten Aspekte des KI-Gesetzes und diskutieren seine möglichen Auswirkungen auf unsere Zukunft.

Im Bestreben, ihre digitale Strategie voranzutreiben, plant die Europäische Union eine Regulierung künstlicher Intelligenz (KI), um optimale Rahmenbedingungen für deren Entwicklung und Nutzung zu schaffen. Die Einsatzmöglichkeiten von KI sind vielfältig und versprechen zahlreiche Vorteile wie verbesserte Gesundheitsversorgung, sicheren und sauberen Verkehr, effizientere Fertigung sowie kostengünstige und nachhaltige Energiebereitstellung.

Im April 2021 legte die EU-Kommission den ersten Rechtsrahmen für KI in der EU vor. Dieser sieht vor, dass KI-Systeme je nach dem Risiko für die Nutzer analysiert und entsprechend eingestuft werden sollen. Demnach unterliegen unterschiedliche Risikostufen einer mehr oder weniger strengen Regulierung. Sobald diese Vorschriften verabschiedet werden, wird dies weltweit das erste rechtliche Regelwerk für den Umgang mit KI darstellen.

Gesetz über künstliche Intelligenz: ein risikobasierter Ansatz

Die neuen Vorschriften legen Verpflichtungen für Anbieter und Nutzer fest, die sich nach dem Risiko richten, das von KI-Systemen ausgeht. Obwohl viele KI-Systeme kaum Risiken darstellen, müssen sie dennoch bewertet werden.

Unannehmbares Risiko 

KI-Systeme gelten als unannehmbar riskant, wenn sie eine Bedrohung für Menschen darstellen. Diese Systeme sind verboten und umfassen:

- kognitive Beeinflussung von Personen oder gefährdeten Gruppen durch beispielsweise sprachgesteuerte Spielzeuge, die gefährliches Verhalten bei Kindern fördern; 

- Soziales Scoring: Einstufung von Menschen aufgrund ihres Verhaltens, sozialökonomischen Status und persönlicher Merkmale; 

- Echtzeit-Fernidentifikationssysteme mittels Biometrie wie Gesichtserkennung.

Es können einige Ausnahmen zulässig sein: Beispielsweise dürfen Systeme zur nachträglichen biometrischen Fernidentifikation nur genutzt werden, um schwere Straftaten zu verfolgen und dies auch nur mit gerichtlicher Genehmigung.

Hochrisiko-KI-Systeme KI-Systeme, die ein hohes Risiko für Gesundheit/Sicherheit oder Grundrechte natürlicher Personen darstellen, werden in zwei Hauptkategorien eingeteilt:

1. KI-Systeme in Produkten unterliegen den EU-Sicherheitsvorschriften; dazu gehören Spielzeug sowie Luftfahrt-, Fahrzeug-, medizinische und Aufzugstechnik.

2. KI-Systeme, die in acht spezifischen Bereichen tätig sind, müssen in einer EU-Datenbank registriert werden:

- biometrische Identifikation/Kategorisierung von Personen; 

- Verwaltung/Betrieb kritischer Infrastrukturen; 

- allgemeine/berufliche Bildung;

-  Beschäftigung/Arbeitnehmerverwaltung/Selbstständigkeit; 

- Zugang zu wesentlichen privaten/öffentlichen Diensten und Leistungen;

- Strafverfolgung; 

- Migrations-, Asyl- und Grenzkontrollverwaltung; 

-Unterstützung bei der Auslegung/Applikation von Gesetzen.

Alle hochrisiko-KI-Systeme werden vor ihrer Einführung sowie während ihres gesamten Lebenszyklus bewertet.

Generative KI 

Um den Anforderungen an Transparenz gerecht zu werden, müssen generative Grundlagenmodelle wie ChatGPT zusätzliche Maßnahmen ergreifen:

Es muss klar offengelegt werden, dass der Inhalt durch künstliche Intelligenz erstellt wurde. Das Modell sollte so gestaltet sein, dass die Erzeugung illegaler Inhalte verhindert wird. Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden, sollten veröffentlicht werden.

Begrenztes Risiko KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen. Dadurch können Nutzer informierte Entscheidungen treffen und nach Interaktion mit den Anwendungen entscheiden, ob sie diese weiterhin verwenden möchten. Es ist wichtig darauf hinzuweisen, wenn eine Interaktion mit KI stattfindet. Dies gilt insbesondere für Systeme zur Erzeugung oder Manipulation von Bild-, Audio- oder Videoinhalten (wie zum Beispiel Deepfakes).

Nächste Schritte

Am 14. Juni 2023 haben die Abgeordneten ihre Verhandlungsposition zum Gesetz über künstliche Intelligenz akzeptiert. Nun beginnen Verhandlungen mit den EU-Mitgliedstaaten im Rat über das endgültige Format des Gesetzes. Das Ziel besteht darin bis Ende des Jahres eine Einigung zu erreichen. 

Was sollte man beim Einsatz von KI beachten?

Unser Team verfügt über umfassendes Wissen in den Bereichen IT-Recht, Datenschutz und geistiges Eigentum. Wir verstehen die Komplexität und die Herausforderungen, die KI-Technologien mit sich bringen, und bieten maßgeschneiderte Lösungen, um Ihre Innovationen zu schützen und gleichzeitig die Einhaltung aller relevanten Gesetze und Vorschriften sicherzustellen.

Egal, ob Sie am Anfang Ihrer KI-Reise stehen oder bereits etablierte Lösungen anbieten, unsere Anwälte unterstützen Sie dabei, rechtliche Fallstricke zu vermeiden und Ihre Geschäftsstrategien mit Vertrauen voranzutreiben. Kontaktieren Sie uns jederzeit gerne für eine umfassende rechtliche Analyse und Beratung zu Ihrem KI-Projekt. Wir freuen uns drauf! :)