Verso una migliore governance europea dell'intelligenza artificiale.

L'Unione europea desidera :

• Un'intelligenza artificiale che mette al primo posto le persone e i cittadini;
• Tecnologie affidabili di cui ci si può fidare;
• Mettere queste tecnologie al servizio di una società democratica, di un'economia dinamica e sostenibile e della transizione ecologica.

AEPL sostiene pienamente questi obiettivi. I suggerimenti che seguono intendono contribuire al loro raggiungimento.

Questi suggerimenti si basano su tre fonti fondamentali per il funzionamento dell'Unione.

• In primo luogo il Trattato sul funzionamento dell'Unione europea e, in particolare, gli articoli 8 (eliminazione delle disuguaglianze), 9 (clausola sociale orizzontale), 10 (lotta contro le discriminazioni), 11 (protezione dell'ambiente), 12 (protezione dei consumatori), 15, 1 e 3 (principio della governance aperta), 16 (protezione dei dati personali).
• In secondo luogo, la Carta dei Diritti Sociali Fondamentali, in particolare gli articoli 8, 21, 31 (condizioni di lavoro giuste ed eque), 37, 38 e 42.
• Infine, la Società Europea dei Diritti Sociali, in particolare il principio 10.

Inoltre, l'AEPL invita la Commissione ad attuare i suggerimenti del PE sull'IA, in particolare le raccomandazioni contenute in il documento del Parlamento europeo di cui all'allegato 1.

L'azione dell'UE mira ad "accelerare la diffusione dell'IA". Questa diffusione richiede ovviamente la fiducia degli utenti. Questi includono mutatis mutandis la logica della Direttiva Macchine (1989), elaborata nel contesto della creazione del mercato interno, al fine di rendere più affidabile la libera circolazione delle merci.

Pertanto, il criterio di "affidabilità" motiva un'iniziativa normativa basata su requisiti di affidabilità per controllare i rischi al fine di proteggere i consumatori e i dati. L'obiettivo normativo sembra essere rivolto ai principali rischi dei "sistemi di intelligenza artificiale ad alto rischio", che richiedono "regole chiare".

Controllare i rischi in modo da generare fiducia nel pubblico non è indifferente all'attuale contesto pandemico. Il sistema in esame rientra infatti in una funzione essenziale dello Stato: la protezione dei cittadini, la presa di decisioni e la tutela dell'ambiente. trattamento commercializzazione e uso preventivo. A monte, la progettazione; a valle, come il RGPDP, la protezione.      ₂comprese le libertà pubbliche fondamentali.

La pandemia ci ricorda tragicamente che la protezione e la cura possono essere equiparate alle funzioni regali dello Stato al punto da giustificare restrizioni sostanziali alle libertà democratiche. Non è questa la sede per dirimere il dibattito sulla pertinenza di questa giustificazione, ma è il luogo per ricordare che la protezione e la cura appartengono al piano verticale dello Stato. res publical'interesse generale e i valori che non hanno prezzo e che quindi devono essere imposti sul piano orizzontale degli interessi particolariⁱ.

Imponendo limiti e regole al commercio orizzontale, la forza appartiene allo stato di diritto e non alla legge del più forte.

La qualità democratica dei processi decisionali e normativi, la trasparenza di questi processi, l'indipendenza delle autorità pubbliche dagli interessi acquisiti, la coerenza delle azioni con le parole, gli annunci e gli impegni - sono tutti requisiti indispensabili per costruire la fiducia dei cittadini.

È in questo spirito che l'AEPL vi invia i seguenti avvertimenti e suggerimenti alla vigilia della stesura delle disposizioni richieste dall'Unione.

   1. Coraggio politico: non si può accontentare tutti

Non sarà facile per le autorità europee consolidare lo Stato di diritto di fronte agli Stati economici di fatto voluti dai mercati e dalle oligarchie dell'AI.

In effetti, le forze economiche di tutti gli schieramenti premono per un ritorno il più rapido possibile al "business as usual", e persino per mettere da parte le protezioni pubbliche - soprattutto quelle ambientali - in nome degli imperativi della crescita. Ad esempio, si chiede di rinviare gli obiettivi climatici per il 2030, si attacca l'idea del Green Deal della Commissione, alcuni attori del settore digitale denigrano il RGPDP, l'industria sostiene l'allentamento delle norme nazionali, e così via.ⁱⁱ

In altre parole, sarà necessario un forte impegno politico per garantire l'esistenza del sistema, cioè sull'asse verticale dell'interesse generale.

2. Adeguare il sistema ai quadri normativi dell'UE.

La posizione del sistema sull'asse verticale della protezione e della cura richiede l'adozione di norme "dure" - direttive - in contrapposizione a norme "morbide". soft law. In effetti, l'effetto di questi standard "morbidi" è quello di "abbassare" il sistema sull'asse orizzontale degli interessi individuali, nel migliore dei casi moralmente temperati da buone pratiche attuate volontariamente sotto la bandiera della responsabilità sociale delle imprese. Non si tratta di mettere in discussione l'onorabilità e l'importanza di tali pratiche, ma di evidenziarne le carenze in termini di generalizzazione, applicabilità, ecc. ₃ all'intero settore e alla sostenibilità. Il rispetto delle buone prassi consente la parzialità e la sporadicità, che l'affidabilità e la fiducia che la Commissione si aspetta non possono consentire.

C'è bisogno di ricordarvi gli effetti deleteri della soft lawChe dire del dialogo sociale, paralizzato da "accordi volontari" quando le parti sociali avevano il potere di concludere veri e propri contratti collettivi? O i risultati deludenti del metodo aperto di coordinamento che ha deluso le speranze aperte dal "processo di Lussemburgo" in termini di occupazione?

D'altra parte, gli obblighi di bilancio, accompagnati da sanzioni, sono più forti che mai.

La sicurezza dei prodotti di IA richiede regole tanto più solide se si considera la tendenza ad allentare le norme di sicurezza, sia nelle norme che regolano le licenze di esercizio, sia nelle norme che regolano le licenze di esercizio.ⁱⁱⁱo in conformità ai requisiti di prevenzione durante la produzione^iv. Questa compiacenza sembra in contrasto con le crescenti esigenze ecologiche e di sicurezza del pubblico.^v. Illustra l'efficacia delle lobby e la mancanza di lungimiranza di alcune aziende.

3. La strategia del settore: dominare il tempo.

L'industria vuole mantenere il controllo sulla natura delle innovazioni e sul ritmo con cui vengono immesse sul mercato in un mondo che mette sempre più in discussione lo scopo delle innovazioni e il loro impatto sull'equilibrio degli ecosistemi.

4. La necessità di difendere il principio di precauzione.

Nel contesto strategico sopra descritto, su iniziativa del Forum europeo del rischio^vil'industria ha sviluppato e sta tentando di convincere le autorità pubbliche ad adottare uno pseudo-quadro di riferimento. principio di innovazione (che controlla) che compete con la realtà principio di precauzione l'unico esistente nella legge. Questo pseudo-principio dell'innovazione viene utilizzato per giustificare ogni sorta di ritardo, di stravolgimento e di esenzione più o meno lunga dall'applicazione legale del principio di precauzione. L'obiettivo è ovviamente quello di ottenere almeno di fatto al meglio de jure un principio di innovazione che disprezzerebbe il principio di precauzione e la normativa. AEPL non accetta tali manovre.

    5. Distinguere tra scienza e tecnoscienza.^vii

Nella stessa ottica strategica, alcuni settori confondono regolarmente la ricerca scientifica di base con l'innovazione tecnologica e la scienza con la tecnoscienza. In nome di questa confusione, quest'ultima dovrebbe beneficiare delle stesse garanzie di libertà (accademiche se          ⁴ È solo ricerca fondamentale. In questo modo si trascura il fatto che la libera ragion d'essere della ricerca fondamentale - far progredire la conoscenza - e la sua missione educativa di pubblica utilità la collocano sul piano verticale dell'interesse generale. D'altra parte, l'innovazione tecnologica sul piano orizzontale delle relazioni commerciali deve essere in linea con le regole dell'interesse generale.

La confusione è ovviamente alimentata dalla scarsità di investimenti nella ricerca universitaria (in Belgio dalla fine degli anni '70) e dall'industria che ha preso in mano le redini finanziarie.

6. Imparare dall'esperienza in altri settori dell'innovazione tecnologica.

In particolare, il settore agrochimico rivela una tipologia molto completa di tattiche di risparmio di tempo, di controllo e di deviazione: ritardare l'attuazione dei regolamenti, ecc.^viiiper mettere in dubbio studi scientifici scomodi, per screditare gli autori di questi studi, per aggirare i politici chiamati a prendere decisioni, per finanziare ricerche servili, ecc.^ixL'obiettivo è promuovere i risultati dell'azienda, attirare e controllare scienziati di istituzioni pubbliche e università, ecc.

Anche se alla fine il risultato non è quello atteso per una determinata autorizzazione, il tempo risparmiato permette di sviluppare altre produzioni che avranno tutto il tempo di attecchire prima di essere eventualmente scartate in un futuro più o meno lontano.

Il cosiddetto "principio" dell'innovazione assume così il suo pieno significato, in modo che l'industria abbia sempre una presa sul tempo. Non è interessata al lungo termine, ma al breve termine. la successione dei mandati brevi il livello orizzontale dei mercati, delle innovazioni che generano profitti prima di essere eventualmente respinte dal livello verticale dell'interesse generale. Il principio dell'innovazione deve semplicemente precedere ogni volta quello della precauzione, il che è logico se i due principi sono posti sullo stesso piano. È a questo scopo che l'industria vuole che l'innovazione sia riconosciuta. in linea di principio. A quel punto, lo Stato di diritto viene sostituito dallo Stato di diritto, almeno per il tempo necessario a realizzare un profitto. AEPL non può e non vuole far parte di questo scenario.

A questo proposito, vorremmo sottolineare gli effetti perversi di due procedure dell'UE che non dovrebbero ripetersi nel campo dell'IA.

PrimoNel settore agrochimico, la "procedura di conferma dei dati", che autorizza la commercializzazione con l'obbligo per il produttore di completare in futuro la documentazione sulla sicurezza del prodotto.

Secondole ripetute procedure di dialogo a tre (Consiglio, Commissione, Parlamento) sullo stesso argomento in caso di disaccordo in Consiglio. Queste procedure successive servono solo a far risparmiare tempo all'industria e a incoraggiare la Commissione, a ogni tornata di negoziati, ad abbassare i livelli di protezione proposti nella speranza di raggiungere un accordo in Consiglio.^x. È             ₅ Parlamento.

Infine, la certificazione di prodotti che comportano un certo livello di rischio non può essere affidata al produttore stesso: in questo caso è necessaria la certificazione della conformità del prodotto ai requisiti essenziali di sicurezza dell'UE da parte di terzi. Il livello di rischio, le qualifiche dei certificatori terzi e la loro indipendenza devono essere oggetto di un ampio dibattito democratico.

"Per le applicazioni di IA a basso rischio, la Commissione sta prendendo in considerazione un sistema di etichettatura non obbligatorio se applicano standard più elevati". Ciò implica indubbiamente un'autocertificazione da parte dei produttori. Questo principio di autocertificazione merita un serio esame critico alla luce della sua applicazione negli ultimi trent'anni.

7. I requisiti di indipendenza e trasparenza.

I cittadini dell'Unione si aspettano che le autorità pubbliche siano determinate nella lotta contro le lobby, i conflitti di interesse e le collusioni.^xiL'autorità europea deve garantire la trasparenza e l'apertura del processo decisionale. L'autorità europea deve garantire che i processi decisionali siano trasparenti e pubblici. L'invocazione del segreto commerciale o dei diritti di proprietà intellettuale è un modo economico per garantire l'opacità, in particolare nel caso di studi di esperti.^xii. Le procedure pubbliche verificate dal Parlamento devono garantire l'indipendenza degli scienziati responsabili delle valutazioni.^xiii.

Da parte sua, il 7 marzo 2019, la Corte dell'Unione europea ha annullato una decisione dell'Autorità europea per la sicurezza alimentare (EFSA). Il tribunale ha stabilito che gli studi riservati sulla tossicità del glifosato devono essere resi pubblici, ritenendo che "l'interesse pubblico all'accesso alle informazioni" in materia ambientale sia superiore agli interessi commerciali.^xiv. AEPL ritiene che la stessa regola si applichi al campo dell'IA.

Specificando le proprie intenzioni in materia di IA, la Commissione afferma inoltre: "I sistemi di intelligenza artificiale dovrebbero essere trasparenti e tracciabili, pur garantendo il controllo umano. Le autorità dovrebbero essere in grado di testare e certificare i dati utilizzati dagli algoritmi. Sono necessari dati imparziali per addestrare i sistemi ad alto rischio a funzionare correttamente e per garantire il rispetto dei diritti fondamentali, compresa la non discriminazione".

La Commissione precisa che il suo sistema non riguarda le applicazioni militari. Tuttavia, AEPL fa notare che gli oligopoli tecnologici non fanno questa distinzione. Tanto che recentemente sono stati i lavoratori di Google a frenare una certa porosità tra applicazioni civili e militari. Questo tipo di confusione deve essere presa in considerazione quando si parla di trasparenza.

Inoltre, gli oligopoli stanno impegnando risorse astronomiche e talvolta sgradevoli per far rispettare la legge del più forte ed esercitare una pressione verticale sulle autorità pubbliche, che hanno solo i mezzi per farlo.

della Legge per proteggere i cittadini.                                                                                 ₆

Oltre alla questione della sicurezza e della protezione dei dati, il sistema dovrebbe anche garantire il diritto dei cittadini alla trasparenza nel funzionamento degli algoritmi. Un diritto digitale alla conoscenza dovrebbe consentire di sottoporre gli algoritmi a una radiografia critica, o a un audit, come dice Dominique Cardon.

8. Abbattere i silos e allargare il dibattito ad altre parti interessate.

Nonostante le difficoltà menzionate nei paragrafi precedenti, si è verificato un cambiamento nell'equilibrio dei poteri, determinato in particolare dall'ascesa della società civile, che chiede responsabilità, e dal preoccupante declino della fiducia nelle istituzioni tradizionali, comprese le imprese private.^xvi.

La necessità di rivedere i nostri stili di vita in direzione di una maggiore sostenibilità, discussa fin dal vertice di Rio del 1992, è stata al centro delle preoccupazioni di un piccolo ma crescente numero di attori economici, tra cui molti industriali, che hanno deciso di integrare i principi dello sviluppo sostenibile elaborati dalle Nazioni Unite nella loro strategia aziendale.^xvii.

L'azione ha assunto diverse forme, poiché i principi non possono essere trasposti direttamente agli attori che hanno come obiettivo il profitto. Una di queste è stata quella di approfondire la nozione di innovazione responsabile, in particolare a seguito della decisione della Commissione Europea di incorporare i cosiddetti "principi di responsabilità". "Ricerca e innovazione responsabili nel programma Horizon2020. Sulla base di questa esperienza, il documento allegato Commenti sui documenti pubblicati il 19 febbraio 2020  mostra quanto ricco possa essere il dibattito intorno a questi grandi temi e quanto diversa possa essere la comprensione di realtà complesse quando ci si rivolge ad attori esperti del settore.

Conclusione.

AEPL vede questo dibattito sulla sicurezza dei sistemi come parte di una riflessione più ampia sullo scopo dell'innovazione tecnologica in termini di contributo al benessere e al progresso dell'umanità. Tale progresso deve essere indicizzato su una crescita dell'essere e non dell'avere, in armonia con le interdipendenze terrestri e sociali e quindi focalizzato sul lungo periodo. AEPL ritiene quindi che questa iniziativa di regolamentazione debba essere parte di un processo democratico per determinare la natura desiderabile delle innovazioni.

Il principio di precauzione, unito al principio di proporzione, è certamente una delle chiavi per approcciare correttamente un'innovazione che speriamo sia praticabile.^xviii.

A tal fine, chiediamo alle autorità europee di lavorare con un'ampia gamma di attori sul campo, per costruire ponti tra le diverse componenti della società, con le imprese, i governi, la società civile, le università e gli investitori che praticano la finanza sostenibile.

L'AEPL esorta pertanto le autorità europee a mobilitare gli strumenti dell'IA per attuare il Programma Verde.       7 Deal e per riparare le fratture sociali. Ci sono enormi necessità in termini di sviluppo delle competenze delle persone, di circolazione della conoscenza, di cultura, di assistenza in tutte le sue forme, di sviluppo dei servizi pubblici e di accesso per tutti a questi servizi. Se l'Unione Europea vuole aumentare la propria indipendenza tecnologica, può farlo attuando un programma di progetti comuni e sviluppando gli strumenti necessari per raggiungere questo obiettivo. ad hoc. In altre parole, progettare gli strumenti per l'intelligence condivisa.

È sulla base di un progetto così democraticamente definito che si pongono le questioni, altrettanto democratiche, di quali dati acquisire, da chi, per quali scopi, con quale trattamento, per quale contributo al dibattito sulle scelte della società, ecc. Tali dati e metadati verrebbero quindi trattati come proprietà comune.

Giugno 2020

• Alain Supiot, La governance in cifre, 2015.
• Ad esempio, l'attività di lobby dei datori di lavoro francesi, Raphaëlle Besse Desmoulières, Jean-Michel Bezat, Cédric Pietralunga e Nabil Wakim, Clima: i datori di lavoro agiscono per influenzare gli standard, Le Monde22 aprile 2020.
• Ad esempio, in Francia, Service Planète, Le Monde, 9 giugno 2018, o Stéphane Mandard, Lubrizol: controlli indeboliti in siti ad alto rischio, Id.5 ottobre 2019.
• Per esempio, Stéphane Mandard, Lubrizol: un rapporto negativo per i subappaltatori, Le Monde23 ottobre 2019.
• Per quanto riguarda l'inquinamento atmosferico, ad esempio, nel 2018 la Corte dei conti europea ha rilevato che "la salute dei cittadini europei rimane insufficientemente protetta". Ha raccomandato alla Commissione di adottare limiti più severi per l'inquinamento atmosferico. "rigoroso (Le Monde, 12 settembre 2018).
• In questo caso, il Forum europeo del rischio (Forum europeo del rischioERF), una piattaforma di lobbying per le aziende chimiche, del tabacco e dei combustibili fossili.
• Per esempio, Jean-Marc Lévy-Leblond, Non c'è alcuna garanzia che una civiltà mantenga l'attività scientificaIntervista di David Larousserie, Le Monde18 marzo 20.
• Un ritardo come quello nel processo che dovrebbe regolare gli interferenti endocrini, che ha portato alla condanna della Corte europea, scredita la Commissione.
• Per rendersene conto, basta dare un'occhiata alle 25 discussioni tra la Commissione e gli Stati membri tra il 2013 e il 2019 sui neonicotinoidi che uccidono le api. Si veda, ad esempio, Le Monde, 22 dicembre 2018.
• Si veda, ad esempio, il lavoro del Corporate Europe Observatory, che denuncia la collusione tra lobby e decisori europei.
• in particolare il documento di David Demortain, sociologo dell'INRA, che fa parte del Laboratorio Interdisciplinare Scienze, Innovazioni e Società, Le Monde, 07 febbraio 2018.
• C'è bisogno di ricordare il caso dell'istituto tedesco BfR che ha copiato, spesso parola per parola, la 8 la domanda di registrazione depositata dall'industria per la valutazione del glifosato (cfr. Le Monde16 gennaio 2019)?
• Stéphane Horel, Glifosato: una vittoria per la trasparenza, Le Monde10-11 marzo 2019.
• i mezzi utilizzati per difendere il glifosato (Stéphane Foucart e Stéphane Horel, Monsanto ha registrato quasi 1.500 persone in Europa, Le Monde8-9 settembre 2019).
• https://edelman.com/trustbarometer
• https://www.wbcsd.org/Overview/News–Approfondimenti/Generale/Novità/Realizzazione–sistemi–trasformazioneWBCSD–imbarcarsi–su–a–rinfrescare–di–il suo–punto di riferimento–Visione–2050
• https://www.greenfacts.org/pole3–pdf, https://www.youtube.com/watch?v=PZmNZi8bon8

 ^ix Si veda, ad esempio, Stéphane Foucart, Legami problematici tra ricerca pubblica e prodotti agrochimici, LM, 18 giugno 2018.