Mitte Juni hat das EU-Parlament dem Entwurf für den AI-Act zugestimmt. Über diesen soll in den nächsten Monaten verhandelt werden. Wir haben Ihnen die wichtigsten Inhalte zusammengefasst:

Was ist der AI-Act?

Beim AI-Act handelt es sich um den Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz. Der Vorschlag wurde im April 2021 von der Europäischen Kommission veröffentlicht. Er enthält einen rechtlichen Rahmen für die Entwicklung, den Einsatz und die Nutzung von Systemen Künstlicher Intelligenz innerhalb der EU. Das EU-Parlament hat im Vergleich zum ursprünglichen Entwurf noch einige Änderungen vorgenommen und den ursprünglichen Entwurf an einigen Stellen verschärft.

Was sind die wichtigsten Regelungen?

Gemäß AI-Act sollen KI-Anwendungen transparent, zuverlässig und sicher sein und im Einklang mit den europäischen Grundrechten und -werten stehen. Um dies zu gewährleisten, sollen KI-Systeme im Sinne eines risikobasierten Ansatzes in vier Risikoklassen unterteilt werden. Je nach Risikoklasse soll KI unterschiedlich streng reguliert werden. Im Rahmen dieser Klassifizierung wird bewertet, inwieweit eine KI-Anwendung europäische Grundrechte und -werte gefährdet.

Sogenannte „inakzeptable KI-Modelle“ wie Social Scoring, dh soziales Kreditsystem, in dem etwa wie in China Punkte für wünschenswertes Verhalten vergeben werden, oder Predictive Policing, dh Auswertung und Berechnung von Wahrscheinlichkeiten für potenziell strafbares zukünftiges Verhalten sollen ganz verboten werden.

Was für weitere Risikoklassen gilt, haben wir bei uns im Blog noch zusammengefasst.