Das lange Ringen hat sich gelohnt: Das EU-Parlament hat heute seine Position zur KI-Verordnung verabschiedet und damit eine sehr gute – und weltweit einzigartige – Grundlage für eine menschenzentrierte, ethische und nachhaltige Regulierung von Künstlicher Intelligenz geschaffen. Dadurch setzt die EU Leitplanken für eine weitreichende Technologie.

Die Erfolge können sich sehen lassen: Besonders hervorzuheben sind die weite Definition von Hochrisiko-KI und einzelne gezielte Verbote besonders problematischer Anwendungsformen Künstlicher Intelligenz. KI-Systeme, die in die Hochrisiko-Klasse fallen, unterliegen vor allem Transparenz- und Kennzeichnungspflichten, müssen aber auch spezifische Anforderungen an Cybersicherheit, menschliche Aufsicht und Data Governance erfüllen. Darüber hinaus entsteht eine EU-Datenbank und es muss eine verpflichtende Grundrechtefolgenabschätzung durchgeführt werden. Dank der Grünen im Europaparlament umfasst die Verordnung auch Umwelt- und Nachhaltigkeitsanforderungen an KI-Systeme. Als Reaktion auf die neusten Entwicklungen rund um „generative KI“ wie ChatGPT oder DallE finden sich im Entwurf des Parlaments auch klare Verpflichtungen für „foundational models“, um mögliche Risiken und Schäden einzugrenzen. Auch für ChatGPT und Co. sind Umweltstandards vorgesehen, um einen effizienten Energieverbrauch sicherzustellen und den Umwelteinfluss endlich messbar zu machen. Das bis zum Schluss umkämpfte breite Verbot von biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum hat sich gegen Widerstand durchsetzen können. Das ist ein Erfolg der digitalen Zivilgesellschaft und ein sehr gutes Zeichen für den Trilog. Auch für den retrograden Einsatz von biometrischer Erkennung gibt es strenge Regeln.

Mit dem heute beginnenden Trilog gilt es nun, den Blick nach vorne zu richten. Angesichts der vielen offenen Fragen rund um die anstehende Massenadaption von „foundational models“ sollte eine kontinuierliche Risikoüberwachung durch unabhängige Expert:innen diskutiert werden, die auch den Grundrechtsschutz in den Blick nimmt. Dazu gehört ein verschärfter Blick auf die Folgen von KI auf unsere demokratische Öffentlichkeit, Meinungsbildung und Medienlandschaft. Entscheidend ist zudem, die Position der Verbraucher*innen in der Verordnung stark zu machen, beispielsweise indem ein Recht auf Beschwerden über KI-Systeme aufgenommen wird. Verbraucher*innen sollten auch das Recht haben, Entscheidungen von KI nachvollziehen zu können, um ihre Ansprüche geltend machen zu können. Wir brauchen dahingehend belastbare Formulierungen, die im Trilog nicht verwässert werden dürfen.

Die Zeit drängt, die Technik entwickelt sich rasant fort. Bis die KI-Verordnung in die Praxis geht, sollten daher unbedingt Wege einer sinnvollen Selbstregulierung, wie der geplante EU-KI-Kodex, umgesetzt werden. Hier gibt es erste Ideen für sektorspezifische Anforderungen und starke Durchsetzungsregime, die bereits jetzt im Hinblick auf zukünftige Standardisierung wesentliche Elemente ausbuchstabieren könnten. Im weiteren Prozess sind dazu insbesondere auch Stimmen aus Forschung, Zivilgesellschaft, sowie kleinen und mittleren Unternehmen gefragt. Als Grüne werden wir weiterhin für eine gemeinwohlorientierte, nachhaltige und faire Digitalisierung in Brüssel und Berlin streiten.