Home

Intern

Global

Kontakt

de|en|pl

49 Länder – 110 Büros – 5.800 Mitarbeiter – 1 Unternehmen |

Weltweit

Anscheinend ist in Ihrem Browser JavaScript nicht aktiviert. Aktivieren Sie bitte JavaScript, und versuchen Sie es erneut.

Um die Website zu personalisieren und Ihnen den größten Mehrwert zu bieten, verwenden wir Cookies. Unter anderem dienen sie der Analyse des Nutzerverhaltens, um herauszufinden wie wir die Website für Sie verbessern können. Durch Nutzung der Website stimmen Sie ihrem Einsatz zu. Weitere Informationen finden Sie in unseren Datenschutzbestimmungen.

Wesen der KI-Verordnung. Was sich ändert und Tag des Inkrafttretens

Karolina Sieraczek

8. Juli 2024

INHALTSVERZEICHNIS

Wesen der KI-Verordnung
Warum eine Regelung der Grundsätze für die Nutzung von KI notwendig ist

Wen die KI-Verordnung betrifft
Die wichtigsten Bestimmungen der KI-Verordnung
Ab wann die KI-Verordnung in Polen gelten wird
Zusammenfassung

Wesen der KI-Verordnung

Die Verordnung über künstliche Intelligenz, weiter: KI-Verordnung (engl. Artificial Intelligence Act, AI Act), ist die weltweit erste Verordnung zur Regelung des Umgangs mit künstlicher Intelligenz, die von den Organen der Europäischen Union vorbereitet wird.

Ziel der Verordnung ist es, die Übereinstimmung der KI-Systeme mit den Rechtsakten und Werten der EU zu gewährleisten und so die Sicherheit bei der Nutzung von KI zu garantieren.

Warum eine Regelung der Grundsätze für die Nutzung von KI notwendig ist

Die KI-Verordnung ist die Antwort auf den bestehenden Bedarf an einer Regelung der Anwendung künstlicher Intelligenz. Auf die Notwendigkeit der Einführung einheitlicher Regelungen für die Nutzung von KI haben nicht nur Politiker, sondern auch die Führungskräfte der größten Technologieunternehmen hingewiesen, darunter Sam Altman - der CEO von OpenAI (verantwortlich für ChatGPT).

Die diesbezüglichen Regelungen sind für die europäische Wirtschaft sehr wichtig. Die Verordnung muss verhindern oder zumindest erschweren, dass KI für Verstöße gegen die Sicherheit genutzt wird, z. B. durch Desinformation und Ausspähung. Gleichzeitig darf sie die Entwicklung der KI in Europa nicht behindern, da dies die Wettbewerbsfähigkeit der europäischen Unternehmen auf dem globalen Technologiemarkt beeinträchtigen würde.

Wen die KI-Verordnung betrifft

Die KI-Verordnung gilt für:

Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind,
Nutzer von KI-Systemen, die sich in der Union befinden,
Anbieter und Nutzer von KI-Systemen, die in einem Drittland niedergelassen oder ansässig sind, wenn das vom System hervorgebrachte Ergebnis in der Union verwendet wird.

Anbieter eines KI-Systems ist ein Rechtsträger, der dieses KI-System entwickelt (oder entwickeln lässt), um es unter seinem eigenen Namen oder seiner eigenen Marke – entgeltlich oder unentgeltlich – in Verkehr zu bringen oder in Betrieb zu nehmen.

Unter Nutzer verstehen wir hingegen einen Rechtsträger, der ein KI-System in eigener Verantwortung verwendet.

Die wichtigsten Bestimmungen der KI-Verordnung

Gemäß der KI-Verordnung werden KI-Systeme in vier Risikokategorien eingeteilt:

KI-Systeme mit minimalem/geringem Risiko,
KI-Systeme mit begrenztem Risiko,
KI-Systeme mit hohem Risiko,
KI-Systeme mit unannehmbarem Risiko.

KI-Systeme, die als unannehmbar eingestuft werden, dürfen in der EU nicht genutzt werden, da sie gegen die Grundwerte verstoßen, und Systeme, die in die anderen Kategorien fallen, werden bestimmte rechtliche und technische Anforderungen erfüllen müssen.

Hochrisiko-KI-Systeme in der KI-Verordnung

Als Hochrisiko-KI-Systeme werden Technologien eingestuft, die die Grundrechte der Nutzer beeinträchtigen, also KI-Systeme:

die zur biometrischen Fernidentifizierung natürlicher Personen verwendet werden,
die bei der Entscheidung über den Zugang oder die Zuweisung zu Einrichtungen der allgemeinen und beruflichen Bildung verwendet werden,
die bestimmungsgemäß als Sicherheitskomponenten in der Verwaltung und im Betrieb des Straßenverkehrs sowie in der Wasser-, Gas-, Wärme- und Stromversorgung eingesetzt werden,
die für die Einstellung von Arbeitnehmern verwendet werden, insbesondere für die Bekanntmachung freier Stellen, das Sichten oder Filtern von Bewerbungen und das Bewerten von Bewerbern in Vorstellungsgesprächen oder Tests,
die verwendet werden, um zu beurteilen, ob Personen Anspruch auf öffentliche Unterstützungsleistungen und -dienste haben und ob solche Leistungen und Dienste zu gewähren, einzuschränken, zu widerrufen oder zurückzufordern sind,
die zur Bewertung des Risikos, dass eine natürliche Person Straftaten begeht oder erneut begeht, oder dass eine Person, zum Opfer von Straftaten wird, verwendet werden,
die zur Ermittlung des emotionalen Zustands einer Person verwendet werden,
die bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte unterstützen.

Die AI-Verordnung sieht auch die Einrichtung einer EU-Datenbank vor, die Informationen über eingesetzte Hochrisiko-KI-Systeme enthalten wird.

Verbotene Praktiken im KI-Bereich

Die KI-Verordnung enthält außerdem eine Aufstellung verbotener Praktiken, d. h. solcher, die die Sicherheit der Nutzer am stärksten gefährden, wie z. B:

Einsatz von Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person, um g das Verhalten dieser Person wesentlich zu beeinflussen,
Verwendung eines KI-Systems, das die Schwächen von Personen aufgrund ihres Alters oder ihrer körperlichen oder geistigen Behinderung ausnutzt,
Bewertung des sozialen Verhaltens,
Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen für die Zwecke der Strafverfolgung.

Ab wann die KI-Verordnung in Polen gelten wird

Die AI-Verordnung wurde von der Europäischen Kommission erstmals im April 2021 vorgestellt. Im Dezember 2023 erzielten der Rat der EU, das Europäische Parlament und die Europäische Kommission eine Einigung über den Wortlaut der Verordnung. Am 21. Mai 2024 wurde die AI-Verordnung vom Rat der Europäischen Union angenommen und wird im Amtsblatt der EU veröffentlicht werden. Die KI-Verordnung tritt zwanzig Tage nach der Veröffentlichung in Kraft.

Die KI-Verordnung wird 24 Monate nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft treten. Bestimmte Bestimmungen werden bereits nach 3 Monaten (Vorschriften über die Schaffung von notifizierenden Behörden und notifizierten Stellen und Vorschriften über die Schaffung des Europäischen Ausschusses für künstliche Intelligenz) bzw. 12 Monaten (Sanktionen) in Kraft treten.

Zusammenfassung

Die korrekte Anwendung der AI-Verordnung erfordert in erster Linie eine ordnungsgemäße Einstufung des AI-Systems, um die den Anbietern auferlegten Pflichten zu identifizieren, einschließlich einer eventuellen Einholung von Genehmigungen oder der Eintragung in Datenbanken. Solange sich keine angemessene Praxis herausgebildet hat, kann sich diese Aufgabe als recht schwierig erweisen. Wichtig ist auch, dass eine Risikobewertung an sich durchgeführt wird.

Die AI-Verordnung ist eine Verordnung und somit sind ihre Vorschriften in den EU-Ländern anzuwenden, ohne dass sie einer Umsetzung bedürfen. Je nach Art des Verstoßes gegen die Vorschriften der KI-Verordnung sollen die Geldbußen bis zu 30 Mio. EUR oder 6% des gesamten weltweiten Jahresumsatzes aus dem vorherigen Geschäftsjahr betragen, wobei der höhere Betrag Anwendung finden wird.

Als erste Regelung dieser Art ist sie mit Sicherheit ein guter Anfang für die Einführung einer Überwachung der in der EU verwendeten KI-Technologie. Ob weitere Regelungen oder Änderungen notwendig sind, wird sich herausstellen, sobald die Vorschriften angewandt werden.

Sollten Sie Fragen zu KI und zu der KI-Verordnung haben, so setzen Sie sich mit uns in Verbindung. Rödl & Partner bietet komplexe Beratung bei der Nutzung von KI in der Geschäftstätigkeit, sowohl zu Rechts- als auch zu Technikfragen.