Ein geplantes EU-Gesetz unterscheidet zwischen risikoreichen und risikoarmen Anwendungen
Künstliche Intelligenz (KI) ist in aller Munde. Die Anwendungen sollen nahezu überall die Arbeit erleichtern können, sei es in der Bildung, im Gesundheitswesen oder im Öffentlichen Dienst. Doch wo neue Technologien auftauchen, wird auch schnell über potenzielle Risiken gesprochen. Um diese möglichst klein zu halten, plant die EU ein Gesetz zur Regulierung von KI.
Der sogenannte „AI Act“ unterteilt KI-Systeme in vier verschiedene Kategorien, je nachdem für wie gefährlich sie gehalten werden. Je höher das potenzielle Risiko ist, desto mehr Regeln müssen sie befolgen. Zusätzlich gibt es Anwendungen mit „unannehmbarem Risiko“, der höchsten der vier Stufen. Diese sollen gänzlich verboten werden. Dazu gehört unter anderem die Gesichtserkennung auf der Straße, welche in der Strafverfolgung genutzt werden könnte. Auch für die oft kritisierte Praktik des „Social Scoring“ wird der Einsatz von KI ausgeschlossen. Dabei geht es um die Bewertung von Menschen basierend auf sensiblen Daten wie ihrem Einkommen, Gesundheitszustand und Verhalten.
In die Kategorie „Hochrisiko“ fallen Systeme, die in sensiblen Bereichen angewendet werden. Migration, Arbeit, Kritische Infrastrukturen und Bildung sind einige Beispiele. Für diese gelten eine Reihe von Anforderungen wie die Registrierung der KI in einer Datenbank, eine menschliche Aufsicht und Cyber-Sicherheit.
Anwendungen mit einem „begrenzten Risiko“ müssen vor allem Transparenz bieten. Das betrifft generative KIs, die Bilder, Videos und Audios erstellen oder auch manipulieren. Ein bekanntes Beispiel sind die sogenannten „Deep Fakes“. Und auch Systeme, die mit Menschen interagieren, gelten laut KI-Verordnung als begrenzt risikoreich. Hierzu gehören Chatbots wie ChatGPT. Sie sollen unter anderem die Autorenschaft von KI klar benennen und die Erzeugung illegaler Inhalte verhindern.
Die wenigsten Regeln gibt es für KI-Systeme mit niedrigem oder keinem Risiko. Dazu zählen alle anderen Anwendungen. Hier sollen die Nutzer*innen zumindest darüber informiert werden, wenn sie mit KI interagieren. Weitere Regeln können freiwillig befolgt werden.
Der erste Baustein für dieses Gesetz wurde bereits 2021 gelegt, als die EU-Kommission den ersten Vorschlag dafür machte. Im Juni dieses Jahres hat sich das EU-Parlament auf eine Position geeignet. Als Nächstes, müssen die EU-Mitgliedsstaaten und die Kommission verhandeln, was genau im Gesetz stehen soll. Danach kann es beschlossen werden. Zwei Jahre nach dem Inkrafttreten der Verordnung gilt dann sie vollständig in den Mitgliedsstaaten der EU. Wenn die Einigung noch in diesem Jahr gelingt, gilt der AI Act also ab 2026.
Der Entwurf des „AI Acts“ kann hier als PDF gelesen werden.
Anna Ströbele schreibt beim Behörden Spiegel vor allem über Digitales. Nach der Arbeit tauscht sie den Laptop gegen Boxhandschuhe.
