De ’Artificial Intelligence ACT« of de »Verordening inzake kunstmatige intelligentie« treedt binnenkort in werking. Deze verordening beschermt de burgers van de Europese Unie tegen mogelijke misbruiken van AI en geeft de EU tegelijkertijd een belangrijke positie in de wereldwijde AI-industrie.

Na enkele maanden van onderhandelingen is er een politiek akkoordOp 9 december 2023 hebben de Europese medewetgevers (het Europees Parlement en de Raad van de EU) inderdaad overeenstemming bereikt, waardoor de weg vrij is voor een definitieve stemming.

Dit is wat de voorzitter van de Europese Commissie, mevrouw Ursula von der Leyen, hierover zegt:

«Kunstmatige intelligentie verandert nu al ons dagelijks leven. En dit is nog maar het begin. Een verstandig en breed ingezet gebruik van AI belooft aanzienlijke voordelen voor onze economie en onze samenleving. Daarom ben ik zeer verheugd over het politieke akkoord over de verordening inzake kunstmatige intelligentie dat het Europees Parlement en de Raad vandaag hebben bereikt. Deze Europese verordening is het allereerste alomvattende rechtskader ter wereld op het gebied van kunstmatige intelligentie. Dit is dan ook een historisch moment. De verordening inzake AI brengt de Europese waarden naar een nieuw tijdperk. Door de regelgeving te richten op identificeerbare risico’s, zal het vandaag bereikte akkoord verantwoorde innovatie in Europa bevorderen. Door de veiligheid en de grondrechten van burgers en bedrijven te waarborgen, zal de verordening inzake AI bijdragen aan de ontwikkeling, de invoering en de acceptatie van betrouwbare AI in de EU. Onze verordening inzake AI zal een substantiële bijdrage leveren aan de ontwikkeling van mondiale regels en beginselen voor mensgerichte AI.»

Sinds vier jaar heeft het Europees Forum van Vrijmetselaars een werkgroep die bij de Commissie en het Parlement is geaccrediteerd om bij te dragen aan de uitwerking van de toekomstige AI-ACT.

Dit zijn de belangrijkste stappen in het wetgevingsproces:

Naar aanleiding van de publicatie van de Europese strategie inzake kunstmatige intelligentie in 2018 en na een uitgebreide raadpleging van de belanghebbenden, heeft de groep van deskundigen op hoog niveau inzake kunstmatige intelligentie in 2019 richtsnoeren voor betrouwbare AI opgesteld, evenals een beoordelingslijst voor betrouwbare AI in 2020. Tegelijkertijd werd in december 2018 het eerste gecoördineerde plan inzake AI gepubliceerd in het kader van een gezamenlijk engagement met de lidstaten.

Het witboek van de Commissie over AI, dat in 2020 werd gepubliceerd, schetste een duidelijke visie op AI in Europa: een ecosysteem van uitmuntendheid en vertrouwen, dat de basis legt voor het politieke akkoord dat vandaag is bereikt. De openbare raadpleging over het witboek over AI leverde talrijke bijdragen uit de hele wereld op. Het witboek ging vergezeld van een «rapport over de gevolgen van kunstmatige intelligentie, het internet der dingen en robotica voor veiligheid en aansprakelijkheid», waarin werd geconcludeerd dat de huidige wetgeving inzake productveiligheid een aantal lacunes vertoont die moeten worden opgevuld, met name in de richtlijn «Machines».

De leidende principes van de AI-ACT luiden als volgt:

De nieuwe regels, die zijn gebaseerd op een toekomstbestendige definitie van AI, zullen in alle lidstaten rechtstreeks en op identieke wijze van toepassing zijn. Ze volgen een risicogebaseerde aanpak:

Minimaal risico : de overgrote meerderheid van de AI-systemen valt onder deze categorie. Toepassingen met een minimaal risico, zoals aanbevelingssystemen of op AI gebaseerde spamfilters, zullen worden vrijgesteld van elke verplichting, aangezien zij slechts een minimaal of geen risico vormen voor de rechten of de veiligheid van burgers. Bedrijven kunnen zich echter op vrijwillige basis ertoe verbinden aanvullende gedragscodes voor deze AI-systemen na te leven.

Hoog risico : AI-systemen die als risicovol worden beschouwd, moeten aan strenge eisen voldoen, met name wat betreft risicobeperkende maatregelen; de kwaliteit van de gebruikte datasets, het bijhouden van activiteiten; gedetailleerde documentatie; het verstrekken van duidelijke informatie aan de gebruiker; menselijk toezicht; en een hoog prestatieniveau op het gebied van robuustheid, nauwkeurigheid en cyberbeveiliging. Regelgevende „sandboxes“ zullen verantwoorde innovatie en de ontwikkeling van AI-systemen die aan deze eisen voldoen, vergemakkelijken.

Tot de AI-systemen met een hoog risico behoren bijvoorbeeld bepaalde kritieke infrastructuren in de water-, gas- en elektriciteitssector; medische hulpmiddelen; systemen die de toegang tot onderwijsinstellingen regelen of die worden gebruikt voor wervingsdoeleinden, en bepaalde systemen die worden ingezet op het gebied van ordehandhaving, grenscontrole, rechtspraak en democratische processen. Daarnaast worden biometrische systemen voor identificatie, categorisering en emotieherkenning eveneens als risicovol beschouwd.

Onaanvaardbaar risico : AI-systemen die als een duidelijke bedreiging voor de grondrechten van personen worden beschouwd, zullen worden verboden. Het gaat met name om AI-systemen of -toepassingen die menselijk gedrag manipuleren om gebruikers hun vrije wil te ontnemen, zoals speelgoed dat gebruikmaakt van spraakassistenten die minderjarigen aanzetten tot gevaarlijk gedrag, of systemen die sociale beoordeling door overheden of bedrijven mogelijk maken, en bepaalde toepassingen van voorspellende politiewerkzaamheden. Daarnaast zullen bepaalde toepassingen van biometrische systemen worden verboden, bijvoorbeeld systemen voor emotieherkenning die op de werkplek worden gebruikt en bepaalde systemen voor het categoriseren van personen of voor biometrische identificatie op afstand in realtime voor wetshandhavingsdoeleinden in openbare ruimtes.

Specifieke transparantieverplichtingen: Wanneer gebruikers AI-systemen zoals chatbots gebruiken, moeten ze zich ervan bewust zijn dat ze met een machine communiceren. Ultrarealistische videomanipulaties en andere door AI gegenereerde inhoud moeten als zodanig worden gemarkeerd, en gebruikers moeten worden geïnformeerd over het gebruik van biometrische systemen voor categorisering of emotieherkenning. Bovendien zullen aanbieders verplicht zijn om systemen zo te ontwerpen dat synthetische beelden, teksten, audio- en videocontent worden gemarkeerd in een machinaal leesbaar formaat en dat de aard ervan als kunstmatig gegenereerde of gemanipuleerde content detecteerbaar is.

De verordening inzake AI voert specifieke regels in die van toepassing zijn op AI-modellen voor algemeen gebruik, die de transparantie in de gehele waardeketen zullen waarborgen. Voor zeer krachtige modellen die systeemrisico’s kunnen inhouden, zullen aanvullende bindende verplichtingen worden opgelegd met betrekking tot risicobeheer en het monitoren van ernstige incidenten, het uitvoeren van modelbeoordelingen en adversariale tests (adversarial testing). Deze nieuwe verplichtingen zullen worden geïmplementeerd door middel van gedragscodes die zijn opgesteld door de sector, de wetenschappelijke gemeenschap, het maatschappelijk middenveld en andere belanghebbenden, in samenwerking met de Commissie.

Wat het bestuur betreft, zullen de bevoegde nationale markttoezichtautoriteiten toezicht houden op de uitvoering van de nieuwe regels op nationaal niveau, terwijl de coördinatie op Europees niveau zal worden verzorgd door een nieuw opgericht Europees AI-bureau binnen de Europese Commissie. Dit nieuwe AI-bureau zal ook toezicht houden op de uitvoering van de nieuwe regels met betrekking tot AI-modellen voor algemeen gebruik en de handhaving daarvan. Samen met de nationale markttoezichtautoriteiten zal het AI-bureau de eerste instantie ter wereld zijn die bindende AI-regels handhaaft; daardoor zal het naar verwachting een internationaal referentiepunt worden. Voor modellen voor algemeen gebruik zal een wetenschappelijke groep van onafhankelijke deskundigen een centrale rol spelen door waarschuwingen te geven over systeemrisico’s en bij te dragen aan de classificatie en het testen van de modellen.

Er staan hoge boetes op.

Bedrijven die zich niet aan de regels houden, krijgen een boete opgelegd. De hoogte van de boetes varieert naargelang de gepleegde overtredingen: 35 miljoen euro of 7 % van de wereldwijde jaaromzet (waarbij het hoogste bedrag in aanmerking wordt genomen) voor overtredingen met betrekking tot verboden AI-toepassingen; 15 miljoen euro of 3 % van de wereldwijde jaaromzet bij niet-nakoming van de overige voorgeschreven verplichtingen en 7,5 miljoen euro of 1,5 % van de wereldwijde jaaromzet bij het verstrekken van onjuiste informatie. Er zijn meer evenredige maximumbedragen vastgesteld voor de administratieve boetes die aan kmo's en start-ups zullen worden opgelegd in geval van niet-naleving van de AI-verordening.

Volgende stappen.

Het politieke akkoord, dat nu nog formeel door het Europees Parlement en de Raad moet worden goedgekeurd, treedt 20 dagen na de bekendmaking ervan in het Publicatieblad in werking. Vervolgens zal de verordening inzake AI twee jaar na de inwerkingtreding ervan van toepassing worden, met uitzondering van bepaalde specifieke bepalingen: de verboden zullen al na zes maanden van toepassing zijn, terwijl de regels met betrekking tot AI voor algemeen gebruik na 12 maanden van toepassing zullen zijn.

Om de overgangsperiode te overbruggen die voorafgaat aan de datum waarop de verordening algemeen van toepassing wordt, zal de Commissie een AI-pact lanceren. Dit pact zal AI-ontwikkelaars uit Europa en de rest van de wereld samenbrengen die zich ertoe verbinden om de essentiële verplichtingen van de AI-verordening vrijwillig na te leven, nog vóór de in de verordening vastgestelde termijnen.

Om op internationaal niveau regels voor betrouwbare AI te bevorderen, zal de Europese Unie zich blijven inzetten in fora zoals de G7, de OESO, de Raad van Europa, de G20 en de Verenigde Naties. Onlangs hebben we onze steun uitgesproken voor de overeenkomst die de leiders van de G7 in het kader van het Hiroshima-proces voor kunstmatige intelligentie hebben bereikt en die betrekking heeft op internationale richtsnoeren en een vrijwillige gedragscode voor geavanceerde AI-systemen.

Joël De Decker

Referenties

Diverse persberichten van de Europese Commissie