zusammengestellt von: Bird & Bird – Mitglied im CHKD Beraternetzwerk

Die rasante Entwicklung der KI-Technologie verändert die Industrie und das tägliche Leben und bietet beispiellose Möglichkeiten für Innovation und Effizienz. Dieses schnelle Wachstum bringt jedoch auch erhebliche Herausforderungen mit sich, darunter ethische Bedenken, Sicherheitsrisiken und Datenschutzprobleme, die einen soliden Rechtsrahmen erforderlich machen.

Als Reaktion darauf hat die Europäische Union das KI-Gesetz eingeführt, einen Rechtsrahmen, der die Entwicklung, den Einsatz und die Nutzung von KI in ganz Europa überwachen soll und mit seinem proaktiven Ansatz zur Gewährleistung einer ethischen und verantwortungsvollen KI-Entwicklung einen globalen Standard setzt. Es scheint in der Tat, dass wir Zeugen eines neuen Brüssel-Effekts werden könnten, der an den Einfluss der Datenschutz-Grundverordnung erinnert. Der umfassende und vorsorgliche Rahmen der EU legt den Schwerpunkt auf Transparenz, Rechenschaftspflicht und Menschenrechte.

Das KI-Gesetz gilt über die Grenzen der EU hinaus – viele seiner Bestimmungen gelten unabhängig davon, ob die Anbieter in der EU oder in einem Drittland ansässig oder niedergelassen sind. Das KI-Gesetz gilt für alle Anbieter oder Stellen, die für die Bereitstellung eines KI-Systems verantwortlich sind, wenn „die vom System erzeugten Ergebnisse in der EU verwendet werden sollen“. Ausländische Anbieter müssen einen Bevollmächtigten in der Union ernennen, um die Einhaltung der Bestimmungen des Gesetzes sicherzustellen. Das KI-Gesetz gilt jedoch nicht für Behörden von Drittländern oder internationale Organisationen im Rahmen von Abkommen über die polizeiliche und justizielle Zusammenarbeit mit der Union sowie für KI-Systeme, die für Zwecke der militärischen Verteidigung oder der nationalen Sicherheit auf den Markt gebracht werden. Dieser breite Anwendungsbereich zielt darauf ab, eine umfassende Regulierung von KI-Systemen und ihrer Nutzung zu gewährleisten.

Ein risikofokussierter Ansatz

Der EU-Ansatz zur KI-Regulierung zeichnet sich durch seinen risikobasierten Rahmen aus. Diese Verordnung nimmt eine technologieneutrale Perspektive ein und kategorisiert KI-Systeme nach ihrem Risikoniveau, das von minimal bis hoch reicht. Dieses System stellt sicher, dass KI-Anwendungen mit höherem Risiko, insbesondere solche, die sich erheblich auf die Grundrechte auswirken können, entweder verboten oder strengeren Anforderungen und Kontrollen unterworfen werden.

Die EU legt großen Wert auf die Förderung der Entwicklung und Nutzung verantwortungsvoller KI. Das KI-Gesetz schreibt strenge Maßnahmen für die Datensicherheit und den Schutz der Privatsphäre der Nutzer vor und stellt sicher, dass KI-Systeme unter Berücksichtigung dieser Aspekte entwickelt und eingesetzt werden. Dazu gehören strenge Anforderungen an den Umgang mit und den Schutz von Daten, um die Sicherheit der persönlichen Daten der Nutzer zu gewährleisten.

Darüber hinaus schreibt das KI-Gesetz umfassende Risikobewertungen für KI-Systeme vor. Diese Bewertungen helfen dabei, potenzielle Risiken im Zusammenhang mit KI-Technologien zu identifizieren und zu mindern, und fördern Transparenz und Rechenschaftspflicht bei KI-Anbietern. Durch die Einführung dieser obligatorischen Bewertungen stellt die EU sicher, dass KI-Entwickler die Auswirkungen ihrer Technologien gründlich verstehen und berücksichtigen.

Dieser proaktive Ansatz zielt darauf ab, das Vertrauen der Öffentlichkeit in KI-Technologien zu stärken, indem die Rechte und das Wohlergehen der Nutzer geschützt werden. Durch die Priorisierung von Datensicherheit, Datenschutz und Risikomanagement möchte die EU der Öffentlichkeit versichern, dass KI sicher und ethisch vertretbar eingesetzt werden kann. Dieser Fokus auf eine verantwortungsvolle Entwicklung trägt dazu bei, die Akzeptanz und Integration von KI-Technologien zu fördern, was letztlich der Gesellschaft insgesamt zugutekommt. Das KI-Gesetz wurde nicht nur entwickelt, um Gesetze für KI-Systeme zu schaffen, sondern auch, um einen ethischen Rahmen für deren Nutzung zu schaffen, der sicherstellt, dass Organisationen die Auswirkungen ihrer KI-Systeme auf Menschen, andere Unternehmen, die Umwelt und viele andere Aspekte unseres Lebens berücksichtigen.

Ethik im Mittelpunkt des KI-Gesetzes

Das KI-Gesetz baut ausdrücklich auf den Ethikleitlinien für vertrauenswürdige KI auf, die 2019 von der Europäischen Kommission veröffentlicht wurden. Diese Leitlinien sind zwar nach wie vor unverbindlich, aber viele ihrer Grundsätze wurden direkt in das KI-Gesetz aufgenommen. Das beste Beispiel für diesen Ansatz ist, dass sich das KI-Gesetz in vielen seiner Bestimmungen direkt auf die in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte bezieht. So sind KI-Systeme mit hohem Risiko solche, die erhebliche schädliche Auswirkungen auf die Gesundheit, Sicherheit und Grundrechte von Personen in der Union haben.

Die ordnungsgemäße Anwendung des KI-Gesetzes erfordert in vielen Fällen eine Analyse der Risiken für die Grundrechte, die sowohl rechtliche als auch ethische Fragen umfasst. Man kann also sagen, dass Ethik in das KI-Gesetz eingebettet ist.

Governance

Die Europäische Union verabschiedet ein dezentrales Aufsichtsmodell, das die Zusammenarbeit mit verschiedenen nationalen Behörden fördert. Mit dem KI-Gesetz wird das Europäische Büro für Künstliche Intelligenz (das KI-Büro) als unabhängige Einrichtung geschaffen, die als zentrale Stelle für KI-Fachwissen in der gesamten EU dient und eine entscheidende Rolle bei der Umsetzung des Rechtsrahmens spielt. Dieses Büro wird die Entwicklung vertrauenswürdiger KI fördern und die internationale Zusammenarbeit unterstützen. Der Europäische Ausschuss für Künstliche Intelligenz wird aus einem Vertreter pro Mitgliedstaat bestehen und der Europäische Datenschutzbeauftragte wird als Beobachter teilnehmen.

Das KI-Büro hat sich zum Ziel gesetzt, die Erstellung, Überprüfung und Anpassung von Verhaltenskodizes unter Berücksichtigung internationaler Ansätze zu fördern und zu erleichtern. Um sicherzustellen, dass diese Kodizes den aktuellen Stand der Technik widerspiegeln und unterschiedliche Perspektiven einbeziehen, wird das KI-Büro mit den zuständigen nationalen Behörden zusammenarbeiten und kann sich mit Organisationen der Zivilgesellschaft, Interessengruppen und Experten, einschließlich wissenschaftlicher Experten, beraten.

Zeitplan

Das KI-Gesetz trat am 1. August 2024 in Kraft und wird schrittweise angewendet. Es gibt auch Übergangsregelungen für KI-Systeme, die vor bestimmten Daten in Verkehr gebracht oder in Betrieb genommen wurden. Das KI-Gesetz gilt für alle Betreiber von KI-Systemen mit hohem Risiko, die vor dem 2. August 2026 auf den Markt gebracht oder in Betrieb genommen wurden, es sei denn, diese Systeme unterliegen einer wesentlichen Änderung der Bauart (in diesem Fall würden die Bestimmungen in vollem Umfang gelten). Die entsprechenden Anwendungsdaten sind nachstehend aufgeführt.

European Union Artificial Intelligence Act (EU AI Act) Guide

Um Ihnen bei der Bewältigung der Komplexität des KI-Gesetzes zu helfen, haben unsere Experten einen EU AI Act Guide erstellt. Dieser Guide fasst die wichtigsten Aspekte der neuen Verordnung zusammen, hebt die wichtigsten Maßnahmen hervor, die Organisationen ergreifen sollten, um die Einhaltung der Vorschriften zu gewährleisten, und bietet Navigationshinweise zu relevanten Rechtsquellen, um Ihr Verständnis und die Einhaltung des KI-Gesetzes zu verbessern.

Unser EU AI Act Guide befasst sich mit den folgenden Themen:

• Überblick über das gesamte KI-Gesetz, seine Schlüsselkonzepte und das Datum des Inkrafttretens
• Territorialer und materieller Geltungsbereich des KI-Gesetzes
• Anforderungen des KI-Gesetzes für verschiedene Arten von KI, einschließlich verbotener Praktiken, Systeme mit hohem Risiko, Allzweck-KI und KI, die eine größere Transparenz erfordert
• Regelungen für das Testen von KI in regulatorischen Sandkästen
• Governance und Durchsetzung
• Zusammenfassung zusätzlicher Maßnahmen nach der Verabschiedung des KI-Gesetzes

Um auf den EU AI Act Guide zuzugreifen, klicken Sie bitte hier.

Wenn Sie Fragen zum Inhalt haben, wenden Sie sich bitte an einen der Autoren des Guides oder an Ihren üblichen Bird & Bird-Ansprechpartner/in.