Der "Artificial Intelligence ACT" oder die "Künstliche-Intelligenz-Verordnung" wird bald in Kraft treten und die Bürger der Europäischen Union vor möglichen Auswüchsen der KI schützen, während die EU einen wichtigen Platz in der globalen KI-Industrie einnehmen wird.

Nach monatelangen Verhandlungen ein politische Vereinbarunge wurde tatsächlich am 9. Dezember 2023 zwischen den europäischen Mitgesetzgebern (Parlament und Rat der EU) vereinbart und ebnete den Weg für eine endgültige Abstimmung.

Die Präsidentin der Europäischen Kommission, Ursula von der Leyen, sagte dazu Folgendes

«Künstliche Intelligenz verändert bereits unseren Alltag. Und das ist erst der Anfang. Eine sinnvoll und umfassend eingesetzte KI verspricht erhebliche Vorteile für unsere Wirtschaft und unsere Gesellschaft. Deshalb freue ich mich sehr über die politische Einigung über die Verordnung zur künstlichen Intelligenz, die das Europäische Parlament und der Rat heute erzielt haben. Diese europäische Verordnung ist weltweit der allererste umfassende Rechtsrahmen für künstliche Intelligenz. Es handelt sich also um einen historischen Moment. Die KI-Verordnung überträgt die europäischen Werte in ein neues Zeitalter. Indem die Regulierung auf identifizierbare Risiken ausgerichtet ist, wird die heute erzielte Einigung verantwortungsvolle Innovation in Europa fördern. Indem die KI-Verordnung die Sicherheit und die Grundrechte der Bürger und Unternehmen gewährleistet, wird sie zur Entwicklung, zum Einsatz und zur Akzeptanz einer vertrauenswürdigen KI in der EU beitragen. Unsere KI-Verordnung wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für eine menschenzentrierte KI leisten.»

Seit vier Jahren hat das Europäische Freimaurer-Forum eine Arbeitsgruppe, die bei der Kommission und dem Parlament akkreditiert ist, um zur Entwicklung des zukünftigen AI-ACT beizutragen.

Dies sind die wichtigsten Schritte im Gesetzgebungsprozess :

Im Anschluss an die Veröffentlichung der europäischen Strategie zur künstlichen Intelligenz im Jahr 2018 und nach einer umfassenden Konsultation der Interessengruppen hat die hochrangige Expertengruppe für künstliche Intelligenz im Jahr 2019 Leitlinien für vertrauenswürdige KI sowie im Jahr 2020 eine Bewertungsliste für vertrauenswürdige KI erarbeitet. Parallel dazu wurde im Dezember 2018 im Rahmen einer gemeinsamen Verpflichtung mit den Mitgliedstaaten der erste koordinierte KI-Plan veröffentlicht.

Das 2020 veröffentlichte Weißbuch der Kommission zur KI legte eine klare Vision für die KI in Europa dar: ein Ökosystem der Exzellenz und des Vertrauens, das die Grundlage für die heute erzielte politische Einigung bildet. Die öffentliche Konsultation zum Weißbuch über KI hat zahlreiche Beiträge aus aller Welt hervorgebracht. Dem Weißbuch lag ein «Bericht über die Auswirkungen von künstlicher Intelligenz, dem Internet der Dinge und der Robotik auf Sicherheit und Haftung» bei, der zu dem Schluss kam, dass die derzeitigen Rechtsvorschriften zur Produktsicherheit eine Reihe von Lücken aufweisen, die geschlossen werden müssen, insbesondere in der Richtlinie «Maschinen».

Die Leitprinzipien von AI-ACT lauten wie folgt:

Die neuen Vorschriften, die auf einer zukunftssicheren Definition von KI basieren, gelten in allen Mitgliedstaaten unmittelbar und in identischer Form. Sie folgen einem risikobasierten Ansatz:

Geringes Risiko : Die überwiegende Mehrheit der KI-Systeme fällt in diese Kategorie. Anwendungen mit minimalem Risiko, wie beispielsweise KI-gestützte Empfehlungssysteme oder Spamfilter, sind von jeglicher Verpflichtung ausgenommen, da sie nur ein minimales oder gar kein Risiko für die Rechte oder die Sicherheit der Bürger darstellen. Unternehmen können sich jedoch freiwillig dazu verpflichten, zusätzliche Verhaltenskodizes für diese KI-Systeme einzuführen.

Hohes Risiko : KI-Systeme, die als risikoreich eingestuft werden, müssen strenge Anforderungen erfüllen, insbesondere hinsichtlich der Risikominderungsmaßnahmen; der Qualität der verwendeten Datensätze, der Protokollierung von Aktivitäten; die detaillierte Dokumentation; die Bereitstellung klarer Informationen für den Nutzer; die menschliche Kontrolle sowie ein hohes Leistungsniveau in Bezug auf Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovation und die Entwicklung von KI-Systemen erleichtern, die diesen Anforderungen entsprechen.

Zu den KI-Systemen mit hohem Risiko zählen beispielsweise bestimmte kritische Infrastrukturen in den Bereichen Wasser, Gas und Strom; medizinische Geräte; Systeme, die den Zugang zu Bildungseinrichtungen regeln oder für Rekrutierungszwecke genutzt werden, sowie bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse zum Einsatz kommen. Darüber hinaus gelten auch biometrische Systeme zur Identifizierung, Kategorisierung und Erkennung von Emotionen als mit einem hohen Risiko behaftet.

Unannehmbares Risiko : KI-Systeme, die als eindeutige Bedrohung für die Grundrechte des Menschen angesehen werden, werden verboten. Dazu gehören insbesondere KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den Nutzern ihren freien Willen zu nehmen, wie beispielsweise Spielzeug, das eine Sprachassistenz nutzt, um Minderjährige zu gefährlichem Verhalten anzustiften, oder Systeme, die eine soziale Bewertung durch Staaten oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der prädiktiven Polizeiarbeit. Darüber hinaus werden bestimmte Anwendungen biometrischer Systeme verboten, beispielsweise Systeme zur Emotionserkennung am Arbeitsplatz sowie bestimmte Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen.

Besondere Transparenzpflichten : Wenn Nutzer KI-Systeme wie Chatbots verwenden, sollten sie sich bewusst sein, dass sie mit einer Maschine interagieren. Ultrarealistische Videomanipulationen und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer müssen über den Einsatz biometrischer Systeme zur Kategorisierung oder Erkennung von Emotionen informiert werden. Darüber hinaus sind die Anbieter verpflichtet, Systeme so zu gestalten, dass synthetische Bilder, Texte, Audio- und Videoinhalte in einem maschinenlesbaren Format gekennzeichnet werden und dass ihre Eigenschaft als künstlich erzeugte oder manipulierte Inhalte erkennbar ist.

Die KI-Verordnung führt spezifische Vorschriften für KI-Modelle für allgemeine Zwecke ein, die Transparenz entlang der gesamten Wertschöpfungskette gewährleisten sollen. Für sehr leistungsstarke Modelle, die systemische Risiken bergen könnten, werden zusätzliche verbindliche Auflagen hinsichtlich des Risikomanagements und der Überwachung schwerwiegender Vorfälle, der Durchführung von Modellbewertungen sowie von adversarialen Tests (Adversarial Testing). Diese neuen Verpflichtungen werden mittels Verhaltenskodizes umgesetzt, die von der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessengruppen in Zusammenarbeit mit der Kommission erarbeitet werden.

In Bezug auf die Regierungsführung, Die zuständigen nationalen Marktüberwachungsbehörden werden die Umsetzung der neuen Vorschriften auf nationaler Ebene überwachen, während die Koordinierung auf europäischer Ebene durch ein neu eingerichtetes europäisches KI-Büro innerhalb der Europäischen Kommission gewährleistet wird. Dieses neue KI-Büro wird auch die Umsetzung der neuen Vorschriften für KI-Modelle für allgemeine Zwecke sowie die Überwachung ihrer Anwendung beaufsichtigen. Zusammen mit den nationalen Marktüberwachungsbehörden wird das KI-Büro die weltweit erste Stelle sein, die verbindliche Vorschriften im Bereich der KI durchsetzt; daher dürfte es zu einer internationalen Referenz werden. Bei Modellen für allgemeine Zwecke wird eine wissenschaftliche Gruppe unabhängiger Experten eine zentrale Rolle spielen, indem sie Warnungen vor systemischen Risiken ausspricht und zur Klassifizierung und Prüfung der Modelle beiträgt.

Es sind hohe Geldstrafen vorgesehen.

Unternehmen, die sich nicht an die Vorschriften halten, werden mit einer Geldstrafe belegt. Die Höhe der Geldbußen richtet sich nach der Art des Verstoßes: 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (wobei der höhere Betrag zugrunde gelegt wird) bei Verstößen im Zusammenhang mit verbotenen KI-Anwendungen; 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes bei Verstößen gegen sonstige vorgesehene Verpflichtungen sowie 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes bei der Bereitstellung unrichtiger Informationen. Für Verwaltungsstrafen, die gegen KMU und Start-ups bei Nichteinhaltung der KI-Verordnung verhängt werden, sind verhältnismäßigere Obergrenzen vorgesehen.

Nächste Schritte.

Die politische Einigung, die nun noch vom Europäischen Parlament und vom Rat förmlich gebilligt werden muss, tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt in Kraft. Die Verordnung über KI tritt dann zwei Jahre nach ihrem Inkrafttreten in Kraft, mit Ausnahme bestimmter Sonderbestimmungen: Die Verbote gelten bereits nach sechs Monaten, während die Vorschriften für KI für allgemeine Zwecke nach 12 Monaten gelten.

Um die Übergangsphase bis zu dem Zeitpunkt zu überbrücken, ab dem die Verordnung allgemein gilt, wird die Kommission einen KI-Pakt ins Leben rufen. Dieser wird KI-Entwickler aus Europa und der ganzen Welt zusammenbringen, die sich verpflichten, die wesentlichen Verpflichtungen der KI-Verordnung bereits vor den darin festgelegten Fristen auf freiwilliger Basis umzusetzen.

Um auf internationaler Ebene Regeln für eine vertrauenswürdige KI zu fördern, wird die Europäische Union weiterhin in Gremien wie der G7, der OECD, dem Europarat, der G20 und den Vereinten Nationen aktiv sein. Erst kürzlich haben wir die Vereinbarung unterzeichnet, auf die sich die Staats- und Regierungschefs der G7 im Rahmen des Hiroshima-Prozesses für künstliche Intelligenz geeinigt haben und die internationale Leitprinzipien sowie einen freiwilligen Verhaltenskodex für fortschrittliche KI-Systeme umfasst.

Joël De Decker

Referenzen

Verschiedene von der Europäischen Kommission veröffentlichte Mitteilungen