Der EU AI Act: Ein Überblick

Die Europäische Union hat mit dem Artificial Intelligence Act (EU AI Act) das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz (KI) im Mai 2024 verabschiedet. Ziel ist es, KI-Technologien sicher und ethisch vertretbar zu gestalten, während gleichzeitig Innovationen gefördert werden sollen. Das Gesetz gilt verbindlich für alle EU-Staaten und soll sowohl für den Anwender mehr Vertrauen als auch Planungs- und Rechtssicherheit für Unternehmen schaffen.

Kernpunkte des AI Act

Der AI Act basiert auf einem risikobasierten Ansatz, der KI-Anwendungen in verschiedene Kategorien mit unterschiedlich strengen Vorgaben einteilt:

• Unzulässige/ inakzeptable Risiken: Anwendungen, die grundlegende Rechte verletzen oder diskriminierend wirken können, werden verboten. Dazu zählen KI-Systeme, die online auf persönliche Bilder zugreifen und diese massenhaft in Datenbanken sammeln.
• Hohe Risiken: KI-Systeme, die in kritischen Bereichen wie Gesundheitswesen oder Strafverfolgung eingesetzt werden, unterliegen strengen Auflagen. Dazu zählen regelmäßige Überprüfungen und Transparenzpflichten. Als hochriskant werden KI-Systeme eingestuft, die Personen biometrisch identifizieren oder persönliche Merkmale erkennen können. Dazu zählen bspw. Infrastrukturen, die Bewerbungen filtern können, o.Ä.
• Geringe/ niedrige Risiken: Anwendungen mit geringeren Risiken müssen grundlegende Transparenzanforderungen erfüllen, wie die Kennzeichnung von KI-generierten Inhalten. Dabei werden unbedenkliche KI-Anwendungen nicht reguliert.

Spezifische Regelungen

Besondere Aufmerksamkeit gilt der Gesichtserkennung im öffentlichen Raum. Diese Technologie wird grundsätzlich verboten, außer in Ausnahmefällen wie der Bekämpfung schwerer Straftaten. Auch die Nutzung biometrischer Daten unterliegt strengen Vorschriften.

Förderung von Innovation und Forschung

Um Innovation und Forschung im Bereich der KI weiterhin zu fördern, enthält der AI Act auch Regelungen zur Unterstützung von kleinen und mittelständischen Unternehmen (KMU). Hierzu zählen unter anderem Ausnahmeregelungen für Forschungsaktivitäten und Open-Source-Projekte. Außerdem sollen sogenannte „regulatorische Sandkästen“ geschaffen werden, in denen neue KI-Technologien unter realen Bedingungen getestet werden können, bevor sie breit eingeführt werden.

Chancen und Risiken

Der AI Act soll die positiven Potenziale von KI ausschöpfen und gleichzeitig die Risiken minimieren. Diese Risiken reichen von Datenschutzverletzungen über die Verbreitung von Desinformationen bis hin zu möglichen Missbräuchen im militärischen Bereich. Experten warnen vor den Gefahren, die von undurchsichtigen und autonom handelnden KI-Systemen ausgehen können.

Relevanz für Behörden

Der EU AI Act betrifft auch die Kommunen und Behörden in Deutschland. Denn diese nutzen immer häufiger künstliche Intelligenz, zum Beispiel für automatische Verwaltungsprozesse und intelligente Mobilitätslösungen.

Es empfiehlt sich, dass Kommunen eher bereits verfügbare KI-Anwendungen nutzen, statt eigene zu entwickeln. Dadurch gelten sie laut EU AI Act als „Bereitsteller“ von KI, was weniger Pflichten mit sich bringt. Wenn Kommunen jedoch individuelle und maßgeschneiderte KI-Anwendungen verwenden, gelten sie als „Anbieter“ und müssen deutlich strengere Vorschriften beachten.

Bereits sechs Monate nach Inkrafttreten des EU AI Acts dürfen Kommunen und Behörden keine KI-Anwendungen mit inakzeptablen Risiken mehr nutzen. Schutzmaßnahmen für KI-Systeme mit hohem Risiko werden 24 Monate nach Inkrafttreten des Gesetzes verbindlich. Behörden sollten also schnell prüfen, wie die neuen Vorgaben sie betreffen und ob sie Bereitsteller oder Anbieter von KI-Diensten sind. Sie müssen möglicherweise zusätzliche Sicherheitsanforderungen umsetzen, besonders um laufende Projekte zu sichern. In jedem Fall müssen sie grundlegende Anforderungen an die Kl-Governance erfüllen.

In Zukunft ist es wichtig, dass verschiedene Verwaltungsebenen den EU AI Act gemeinsam umsetzen. So bleibt der organisatorische Aufwand überschaubar. Es wird nicht erwartet, dass die Regulierung zu einem hohen Maß neuer Bürokratie führt, es sei denn, der deutsche Gesetzgeber fügt zusätzliche Pflichten hinzu. Wenn der EU AI Act richtig umgesetzt wird, kann er das Vertrauen der Bürger in KI-unterstütztes staatliches Handeln stärken.

Quelle: Hendrik A. Reese, PwC

Internationale Bedeutung und Reaktionen

Die EU hofft, dass der AI Act als Modell für globale Standards dient. Länder weltweit beobachten die Entwicklungen genau und ziehen ähnliche Regulierungen in Betracht. Die USA und die EU diskutieren zudem über einen freiwilligen Verhaltenskodex für KI-Entwickler.

Fazit

Der AI Act der EU stellt einen bedeutenden Schritt in der Regulierung künstlicher Intelligenz dar. Er soll sicherstellen, dass KI-Systeme zum Wohl der Gesellschaft eingesetzt werden und gleichzeitig Innovationen fördern. Die Herausforderung besteht darin, die Balance zwischen Sicherheit, Ethik und Fortschritt zu finden.

Solltest du Fragen oder Anmerkungen haben, schicke uns gerne eine E-Mail an hallo@amtshelden.de. Ihr kommt in eurer Stadt mit Social Media nicht wirklich voran? Dann haben wir vielleicht was für dich – schau dir mal unser Amtshelden-Programm an.