Naar een betere Europese governance van kunstmatige intelligentie.

De Europese Unie wenst :

• AI die mensen en burgers op de eerste plaats zet;
• Betrouwbare technologieën waarop je kunt vertrouwen;
• Deze technologieën ten dienste stellen van een democratische samenleving, een dynamische en duurzame economie en de ecologische transitie.

AEPL ondersteunt deze doelstellingen volledig. De volgende suggesties zijn bedoeld om ze te helpen bereiken.

We baseren deze suggesties op drie bronnen die fundamenteel zijn voor de manier waarop de Unie werkt.

• Eerst en vooral het Verdrag betreffende de werking van de Europese Unie en in het bijzonder artikel 8 (opheffing van ongelijkheden), artikel 9 (horizontale sociale clausule), artikel 10 (bestrijding van discriminatie), artikel 11 (milieubescherming), artikel 12 (consumentenbescherming), artikel 15, leden 1 en 3 (beginsel van open bestuur) en artikel 16 (bescherming van persoonsgegevens).
• Ten tweede het Handvest van de sociale grondrechten, in het bijzonder de artikelen 8, 21, 31 (rechtvaardige en billijke arbeidsomstandigheden), 37, 38 en 42.
• Tot slot, de Europese Socle van Sociale Rechten, in het bijzonder principe 10.

Daarnaast roept AEPL de Commissie op om de suggesties van het EP over AI uit te voeren, in het bijzonder de aanbevelingen in het document van het Europees Parlement in bijlage 1.

De actie van de EU is erop gericht om "de toepassing van AI te versnellen". Voor deze inzet is uiteraard het vertrouwen van de gebruikers nodig. Deze omvatten mutatis mutandis de logica van de Machinerichtlijn (1989), opgesteld in de context van de oprichting van de interne markt, om het vrije verkeer van goederen betrouwbaarder te maken.

Het criterium "betrouwbaar" motiveert dus een regelgevend initiatief gebaseerd op betrouwbaarheidseisen om risico's te beheersen en zo consumenten en gegevens te beschermen. De doelstelling van de regelgeving lijkt zich te richten op de grootste risico's van "risicovolle kunstmatige intelligentiesystemen", waarvoor "duidelijke regels" nodig zijn.

Risico's zodanig beheersen dat het vertrouwen van het publiek wordt gewekt, staat niet los van de huidige pandemische context. Het bestudeerde systeem maakt namelijk deel uit van een essentiële functie van de staat: de bescherming van burgers, het nemen van beslissingen en de bescherming van het milieu. behandeling preventieve marketing en gebruik. Upstream, ontwerp; downstream, zoals het RGPDP, bescherming.      ₂met inbegrip van fundamentele openbare vrijheden.

De pandemie herinnert ons er op tragische wijze aan dat deze bescherming en zorg gelijkgesteld kunnen worden aan de vorstelijke functies van de staat, zodanig dat ze een aanzienlijke beperking van de democratische vrijheden rechtvaardigen. Dit is niet de plaats om het debat over de relevantie van deze rechtvaardiging te beslechten, maar het is wel de plaats om eraan te herinneren dat bescherming en zorg behoren tot het verticale vlak van de res publicahet algemeen belang en de waarden die geen prijs hebben en daarom moeten worden opgelegd op het horizontale vlak van bijzondere belangenⁱ.

Door beperkingen en regels op te leggen aan horizontale handel, behoort kracht tot de rechtsorde en niet tot het recht van de sterkste.

Het democratische gehalte van besluitvormings- en regelgevingsprocessen, de transparantie van deze processen, de onafhankelijkheid van overheidsinstanties van gevestigde belangen, de consistentie van acties met woorden, aankondigingen en toezeggingen - dit zijn allemaal voorwaarden voor het opbouwen van publiek vertrouwen.

Het is in deze geest dat de AEPL u de volgende waarschuwingen en suggesties doet toekomen aan de vooravond van het opstellen van de door de Unie gewenste bepalingen.

   1. Politieke moed: je kunt het niet iedereen naar de zin maken

Het zal niet gemakkelijk zijn voor de Europese autoriteiten om de rechtsstaat te consolideren tegenover de economische de facto staten die door de markten en de AI-oligarchieën worden gewenst.

Economische krachten van alle kanten dringen inderdaad aan op een zo snel mogelijke terugkeer naar "business as usual" en zelfs op het schrappen van overheidsbeschermingen - vooral op milieugebied - in naam van groei-eisen. Er gaan bijvoorbeeld stemmen op om de klimaatdoelstellingen voor 2030 uit te stellen, het Green Deal-idee van de Commissie ligt onder vuur, een aantal spelers in de digitale sector verguizen het RGPDP, de industrie pleit voor een versoepeling van de nationale regels, enzovoort.ⁱⁱ

Met andere woorden, er is een sterk politiek engagement nodig om ervoor te zorgen dat het systeem er komt, d.w.z. op de verticale as van het algemeen belang.

2. Het systeem in overeenstemming brengen met de regelgevingskaders van de EU.

De positie van het systeem op de verticale as van bescherming en zorg vraagt om het aannemen van 'harde' normen - richtlijn(en) - in tegenstelling tot 'zachte' normen. zachte wetgeving. Het effect van dergelijke 'zachte' normen is inderdaad dat het systeem wordt 'neergehaald' op de horizontale as van individuele belangen, in het beste geval moreel getemperd door goede praktijken die vrijwillig worden geïmplementeerd onder de vlag van maatschappelijk verantwoord ondernemen. Het gaat er hier niet om de eerbaarheid en het belang van dergelijke praktijken in twijfel te trekken, maar om te wijzen op hun tekortkomingen in termen van generalisatie, afdwingbaarheid, enz. ₃ voor de hele sector en voor duurzaamheid. Naleving van goede praktijken staat partijdigheid en sporadiciteit toe, wat de betrouwbaarheid en het vertrouwen dat de Commissie verwacht niet kan toestaan.

Moeten we je herinneren aan de schadelijke effecten van zachte wetgevingHoe zit het met de sociale dialoog, die verlamd werd door "vrijwillige overeenkomsten" terwijl de sociale partners de macht hadden om echte collectieve overeenkomsten te sluiten? Of de teleurstellende resultaten van de open coördinatiemethode die de door het Luxemburgse "proces" gewekte verwachtingen op het gebied van werkgelegenheid de bodem heeft ingeslagen?

Aan de andere kant zijn de budgettaire verplichtingen, die gepaard gaan met sancties, onverminderd sterk.

De veiligheid van AI-producten vereist regels die des te robuuster zijn gezien de tendens om veiligheidsregels te versoepelen, hetzij in de normen voor exploitatievergunningenⁱⁱⁱof in overeenstemming met de preventievoorschriften tijdens de productie^iv. Deze zelfgenoegzaamheid lijkt haaks te staan op de groeiende ecologische en veiligheidseisen van het grote publiek.^v. Het illustreert de effectiviteit van lobby's en het gebrek aan vooruitziendheid bij een aantal bedrijven.

3. De strategie van de industrie: de tijd beheersen.

De industrie wil controle houden over de aard van innovaties en het tempo waarin ze op de markt worden gebracht in een wereld die steeds meer vraagtekens zet bij het doel van innovaties en hun impact op de balans van ecosystemen.

4. De noodzaak om het voorzorgsbeginsel te verdedigen.

In de hierboven beschreven strategische context, op initiatief van het Europees Risicoforum^vide industrie heeft ontwikkeld en probeert overheidsinstanties te overtuigen om een pseudo innovatieprincipe (die het controleert) die concurreert met de werkelijkheid voorzorgsprincipe het enige in de wet. Dit pseudo-principe van innovatie wordt gebruikt om allerlei vertragingen, verdraaiingen en min of meer langdurige vrijstellingen van de wettelijke toepassing van het voorzorgsbeginsel te rechtvaardigen. Het doel is natuurlijk om op zijn minst de facto hoogstens de jure een innovatieprincipe dat het voorzorgsprincipe en de regelgeving in diskrediet zou brengen. AEPL accepteert dergelijke manoeuvres niet.

    5. Onderscheid maken tussen wetenschap en technowetenschap.^vii

In dezelfde strategische geest verwarren sommige sectoren regelmatig fundamenteel wetenschappelijk onderzoek met technologische innovatie, en wetenschap met technowetenschap. In naam van deze verwarring zouden deze laatste dezelfde vrijheidsgaranties moeten genieten (academisch als          ⁴ Het is alleen fundamenteel onderzoek. Dit gaat voorbij aan het feit dat de vrije bestaansreden van fundamenteel onderzoek - het bevorderen van kennis - en zijn educatieve missie van openbaar nut het op het verticale vlak van het algemeen belang plaatsen. Aan de andere kant moet technologische innovatie op het horizontale vlak van commerciële relaties in overeenstemming zijn met de regels van het algemeen belang.

De verwarring wordt duidelijk gevoed door onderinvestering in universitair onderzoek (in België sinds het einde van de jaren 1970) en doordat de industrie de financiële touwtjes in handen neemt.

6. Leren van ervaringen op andere gebieden van technologische innovatie.

Met name de agrochemische sector laat een zeer complete typologie zien van tijdbesparende, controle- en omleidingstactieken: het vertragen van de implementatie van regelgeving, etc.^viiiom onwelgevallige wetenschappelijke studies in twijfel te trekken, om de auteurs van deze studies in diskrediet te brengen, om de politici die beslissingen moeten nemen te omzeilen, om serviel onderzoek te financieren, enz.^ixHet doel is om de eigen resultaten van het bedrijf te promoten, wetenschappers van openbare instellingen en universiteiten aan te trekken en te controleren, enz.

Zelfs als het resultaat aan het eind van de dag niet is wat werd verwacht voor een bepaalde autorisatie, maakt de bespaarde tijd het mogelijk om andere producties te ontwikkelen die ook ruim de tijd krijgen om wortel te schieten voordat ze mogelijk in de min of meer verre toekomst worden weggegooid.

Het zogenaamde "principe" van innovatie krijgt zo zijn volle betekenis, zodat de industrie altijd controle heeft over de tijd. Ze is niet geïnteresseerd in de lange termijn, maar in de korte termijn. de opeenvolging van korte termijnen het horizontale niveau van de markten, van innovaties die winst opleveren voordat ze eventueel worden afgewezen door het verticale niveau van het algemeen belang. Het principe van innovatie moet gewoon altijd voorgaan op dat van voorzorg, wat logisch is als beide principes op gelijke voet worden geplaatst. Daarom wil de industrie dat innovatie erkend wordt. in principe. Op dat moment wordt de rechtsstaat vervangen door de rechtsstaat, tenminste voor de tijd die nodig is om winst te maken. AEPL kan en wil geen deel uitmaken van een dergelijk scenario.

In dit verband willen we wijzen op de perverse effecten van twee EU-procedures die op het gebied van AI niet herhaald zouden mogen worden.

PrimoIn agrochemische producten, de "bevestigingsdataprocedure", die toestemming geeft om het product op de markt te brengen op voorwaarde dat de fabrikant in de toekomst de veiligheidsdocumentatie van het product vervolledigt.

Tweedede herhaalde trialoogprocedures (Raad, Commissie, Parlement) over hetzelfde onderwerp in geval van onenigheid in de Raad. Deze opeenvolgende procedures dienen enkel om tijd te winnen voor de industrie en om de Commissie aan te moedigen om bij elke onderhandelingsronde haar voorgestelde beschermingsniveaus af te zwakken in de hoop een akkoord te bereiken in de Raad.^x. Het is             ₅ Parlement.

Ten slotte kan de certificering van producten met een bepaald risiconiveau niet worden toevertrouwd aan de fabrikant zelf: in dit geval is certificering van de conformiteit van het product met de essentiële veiligheidsvereisten van de EU door een derde partij vereist. Over het risiconiveau, de kwalificaties van de certificeerders en hun onafhankelijkheid moet een breed democratisch debat worden gevoerd.

"Voor AI-toepassingen met een laag risico overweegt de Commissie een niet-verplichte etiketteringsregeling als zij strengere normen toepassen." Dit impliceert ongetwijfeld zelfcertificering door producenten. Dit principe van zelfcertificering verdient een serieus kritisch onderzoek in het licht van de toepassing ervan in de afgelopen dertig jaar.

7. De vereisten van onafhankelijkheid en transparantie.

De burgers van de Unie verwachten van de overheid dat ze vastberaden de strijd aanbindt tegen lobby's, belangenconflicten en collusie.^xiDe Europese autoriteit moet de transparantie en openheid van het besluitvormingsproces waarborgen. De Europese autoriteit moet ervoor zorgen dat besluitvormingsprocessen transparant en openbaar zijn. Het inroepen van bedrijfsgeheimen of intellectuele eigendomsrechten is een goedkope manier om ondoorzichtigheid te garanderen, vooral in het geval van deskundigenonderzoeken.^xii. Openbare procedures die worden gecontroleerd door het Parlement moeten de onafhankelijkheid garanderen van de wetenschappers die verantwoordelijk zijn voor de beoordelingen.^xiii.

Op 7 maart 2019 vernietigde het Hof van de Europese Unie een besluit van de Europese Autoriteit voor voedselveiligheid (EFSA). Het Hof oordeelde dat vertrouwelijke studies over de toxiciteit van glyfosaat openbaar moeten worden gemaakt, omdat het van mening is dat "het algemeen belang bij toegang tot informatie" in milieukwesties zwaarder weegt dan commerciële belangen^xiv. AEPL is van mening dat dezelfde regel van toepassing is op het gebied van AI.

De Commissie specificeert haar intenties met betrekking tot AI en stelt: "Systemen voor kunstmatige intelligentie moeten transparant en traceerbaar zijn en tegelijkertijd menselijke controle garanderen. De autoriteiten moeten de gegevens die door de algoritmen worden gebruikt, kunnen testen en certificeren. Onpartijdige gegevens zijn nodig om systemen met een hoog risico te trainen zodat ze goed werken en om de eerbiediging van de grondrechten, waaronder non-discriminatie, te garanderen."

De Commissie geeft aan dat haar systeem geen betrekking heeft op militaire toepassingen. AEPL wijst er echter op dat technologische oligopolies dit onderscheid niet maken. Het waren zelfs de werknemers van Google die onlangs een deel van de porositeit tussen civiele en militaire toepassingen in toom hielden. Met dit soort verwarring moet rekening worden gehouden als we het over transparantie hebben.

Bovendien zetten oligopolies astronomische en soms onfrisse middelen in om het recht van de sterkste te handhaven en verticale druk uit te oefenen op overheidsinstanties, die daar alleen de middelen voor hebben.

van de wet om burgers te beschermen.                                                                                 ₆

Naast veiligheid en gegevensbescherming moet het systeem ook het recht van burgers op transparantie in de werking van algoritmen garanderen. Een digitaal recht om te weten zou het mogelijk moeten maken om algoritmen kritisch te röntgenen, of te controleren zoals Dominique Cardon het zegt.

8. Het doorbreken van silo's en het verbreden van het debat met andere belanghebbenden.

Ondanks de moeilijkheden die in de vorige paragrafen werden vermeld, is het machtsevenwicht veranderd, met name door de opkomst van het maatschappelijk middenveld, dat eist dat er verantwoording wordt afgelegd, en de zorgwekkende afname van het vertrouwen in traditionele instellingen, waaronder particuliere bedrijven.^xvi.

De noodzaak om onze levensstijl te herzien in de richting van meer duurzaamheid, waarover sinds de top van Rio in 1992 wordt gesproken, staat centraal in de zorgen van een klein maar groeiend aantal economische spelers, waaronder veel industriëlen, die hebben besloten om de principes van duurzame ontwikkeling die door de VN zijn ontwikkeld, te integreren in hun bedrijfsstrategie.^xvii.

Deze actie heeft verschillende vormen aangenomen, aangezien de principes niet rechtstreeks kunnen worden toegepast op spelers die winst willen maken. Een van deze acties was het uitdiepen van het begrip verantwoorde innovatie, met name na het besluit van de EC om zogenaamde "Verantwoord onderzoek en innovatie in het Horizon2020-programma. Op basis van deze ervaring is het bijgevoegde document Reacties over de op 19 februari 2020 gepubliceerde documenten  laat zien hoe rijk het debat rond deze belangrijke kwesties kan zijn en hoe anders het begrip van complexe realiteiten kan zijn als je een beroep doet op ervaren spelers in het veld.

Conclusie.

AEPL ziet dit debat over systeemveiligheid als onderdeel van een bredere reflectie over het doel van technologische innovatie in termen van haar bijdrage aan het welzijn en de vooruitgang van de mensheid. Deze vooruitgang moet gebaseerd zijn op een groei van zijn en niet van hebben, in harmonie met aardse en sociale onderlinge afhankelijkheden en daarom gericht op de lange termijn. AEPL is daarom van mening dat dit regelgevend initiatief deel moet uitmaken van een democratisch proces om de wenselijke aard van innovaties te bepalen.

Het voorzorgsprincipe, in combinatie met het proportionaliteitsprincipe, is zeker een van de sleutels tot het correct benaderen van een innovatie waarvan we hopen dat ze levensvatbaar zal zijn.^xviii.

Daarom roepen we de Europese autoriteiten op om samen te werken met een breed scala aan spelers in het veld, om bruggen te bouwen tussen de verschillende onderdelen van de samenleving, met bedrijven, regeringen, maatschappelijke organisaties, universiteiten en investeerders die duurzame financiering beoefenen.

AEPL dringt er daarom bij de Europese autoriteiten op aan AI-instrumenten te mobiliseren om de Groene       7 Deal en om sociale breuken te herstellen. Er zijn enorme behoeften op het gebied van de ontwikkeling van vaardigheden, de verspreiding van kennis, cultuur, zorg in al zijn vormen, de ontwikkeling van openbare diensten en de toegang tot deze diensten voor iedereen. Als de Europese Unie haar technologische onafhankelijkheid wil vergroten, kan ze dat doen door een programma van gezamenlijke projecten uit te voeren en de instrumenten te ontwikkelen die daarvoor nodig zijn. ad hoc. Met andere woorden, het ontwerpen van hulpmiddelen voor gedeelde intelligentie.

Het is op basis van een dergelijk democratisch gedefinieerd project dat de al even democratische vragen rijzen over welke gegevens moeten worden vastgelegd, door wie, voor welke doeleinden, onderworpen aan welke verwerking, voor welke bijdrage aan het debat over maatschappelijke keuzes, enz. Dergelijke gegevens en metadata zouden dan worden behandeld als gemeenschappelijk eigendom.

Juni 2020

• Alain Supiot, Bestuur in cijfers, 2015.
• Bijvoorbeeld de lobby van de Franse werkgevers Raphaëlle Besse Desmoulières, Jean-Michel Bezat, Cédric Pietralunga en Nabil Wakim, Klimaat: werkgevers ondernemen actie om normen te beïnvloeden, Le Monde22 april 2020.
• Bijvoorbeeld in Frankrijk, Service Planète, Le Monde9 juni 2018, of Stéphane Mandard, Lubrizol: verzwakte controles op locaties met hoog risico, Id.5 oktober 2019.
• Bijvoorbeeld Stéphane Mandard, Lubrizol: een vernietigend rapport voor onderaannemers, Le Monde23 oktober 2019.
• Wat luchtvervuiling betreft, stelde de Europese Rekenkamer in 2018 bijvoorbeeld vast dat "de gezondheid van de Europese burgers onvoldoende beschermd blijft". De Rekenkamer heeft de Commissie aanbevolen strengere grenswaarden voor luchtverontreiniging vast te stellen. "strikt (Le Monde, 12 september 2018).
• In dit geval heeft het Europees Risicoforum (Europees RisicoforumERF), een lobbyplatform voor chemische, tabaks- en fossiele brandstofbedrijven.
• Bijvoorbeeld Jean-Marc Lévy-Leblond, Er is geen garantie dat een beschaving wetenschappelijke activiteit in stand houdtInterview door David Larousserie, Le Monde18 maart 20.
• Een vertraging zoals die in het proces dat hormoonontregelaars zou moeten reguleren en die leidde tot de veroordeling door het Europese Hof, brengt de Commissie in diskrediet.
• Kijk zelf maar eens naar de 25 discussies tussen de Commissie en de lidstaten tussen 2013 en 2019 over bijendodende neonicotinoïden. Zie bijvoorbeeld, Le Monde, 22 december 2018.
• Zie bijvoorbeeld het werk van Corporate Europe Observatory, dat de collusie tussen lobby's en Europese besluitvormers aan de kaak stelt.
• in het bijzonder het artikel van David Demortain, een socioloog aan het INRA, dat deel uitmaakt van het Laboratoire Interdisciplinaire Wetenschappen, Innovaties en Samenlevingen, Le Monde, 07 februari 2018.
• Moeten we je herinneren aan het geval van het Duitse BfR-instituut dat, vaak woord voor woord, de 8 de registratieaanvraag die door de industrie is ingediend om glyfosaat te evalueren (zie Le Monde16 januari 2019)?
• Stéphane Horel, Glyfosaat: een overwinning voor transparantie, Le Monde10-11 maart 2019.
• de middelen die worden gebruikt om glyfosaat te verdedigen (Stéphane Foucart en Stéphane Horel, Monsanto heeft bijna 1.500 mensen in Europa geregistreerd, Le Monde8-9 september 2019).
• https://edelman.com/trustbarometer
• https://www.wbcsd.org/Overview/News–Inzichten/Algemeen/Nieuws/Realiseren–systemen–transformatieWBCSD–inschepen–op–a–verversen–van–zijn–mijlpaal–Visie–2050
• https://www.greenfacts.org/pole3–pdf, https://www.youtube.com/watch?v=PZmNZi8bon8

 ^ix Zie bijvoorbeeld Stéphane Foucart, Verontrustende banden tussen openbaar onderzoek en landbouwchemicaliën, LM, 18 juni 2018.