Intelligenza artificiale: le linee guida per il futuro dei diritti umani e del trattamento dei dati personali

Posted on 14 febbraio 2019 by Paola Generali in 2019, News

In occasione della “Giornata della protezione dei dati”, celebrata il 28 gennaio, il Comitato del trattato del Consiglio d’Europa sulla protezione dei dati, la “Convenzione 108”, ha pubblicato delle linee guida sulla protezione dei dati e l’intelligenza artificiale.

La Convezione ha inteso rivolgersi a governi, sviluppatori di IA, produttori e fornitori di servizi i quali dovrebbero adoperarsi per assicurare che le applicazioni di IA non compromettano la dignità umana ei diritti umani e le libertà fondamentali di ogni individuo, in particolare per quanto riguarda il diritto alla protezione dei dati.

I capi elencati sono raccolti in tre categorie, una più generale mentre le altre due si dividono tra operatori del settore e legislatori.

Parte generale: 

  • Lo sviluppo dell’IA basato sul trattamento di dati personali dovrebbe basarsi sui principi di liceità, correttezza, specificazione degli scopi, proporzionalità dell’elaborazione dei dati, privacy per progettazione e di default, responsabilità e dimostrazione di conformità, trasparenza, sicurezza dei dati e gestione dei rischi;
  • si raccomanda un approccio che punti ad evitare e attenuare i potenziali rischi del trattamento dei dati personali;
  • le applicazioni IA devono in ogni momento rispettare pienamente i diritti degli interessati;
  • si raccomanda di consentire un controllo significativo da parte degli interessati sull’elaborazione dei dati e sugli effetti correlati agli individui e alla società;

Guida per sviluppatori, produttori e fornitori di servizi: 

  • valutare le possibili conseguenze negative delle applicazioni che sfruttano l’IA sui diritti umani e sulle libertà fondamentali e adottare un approccio precauzionale basato su appropriate misure di prevenzione e mitigazione dei rischi;
  • adottare un approccio by design (fino dalla progettazione) che tenga conto dei diritti umani ed evitare qualsiasi pregiudizio, incluso quello non intenzionale o nascosto, e il rischio di discriminazione in tutte le fasi del trattamento, compresa la raccolta dei dati; 
  • valutare criticamente la qualità, la natura, l’origine e la quantità di dati personali utilizzati, riducendo i dati inutili, ridondanti o marginali durante lo sviluppo e le fasi di addestramento; 
  • Tutti i prodotti dovrebbero essere progettati per garantire agli individui il diritto a non essere oggetto di decisioni che possano coinvolgerli in modo significativo basate solo sull’elaborazione automatizzata, senza che le loro opinioni vengano prese in considerazione;
  • adottare forme di algoritmo vigilanza che promuova la responsabilità di tutte le parti interessate nell’intero ciclo di vita di queste applicazioni;
  • Gli interessati dovrebbero essere informati se interagiscono con un’applicazione IA, avere informazioni sul ragionamento alla base delle operazioni di elaborazione dei dati IA applicate a loro e sulle relative 

Guida per legislatori e responsabili politici: 

  • implementazione di procedure di appalto pubblico che prevedano obblighi di trasparenza e una valutazione preliminare di impatto sui diritti umani per sviluppatori, produttori e prestatori di servizi di IA;
  • le autorità di vigilanza dovrebbero disporre di risorse sufficienti per sostenere e monitorare i programmi di vigilanza dell’algoritmo di IA;
  • ruolo centrale dell’intervento umano nei processi decisionali e la libertà dei responsabili delle decisioni umane di non fare affidamento sul risultato delle raccomandazioni fornite usando l’intelligenza artificiale (specialmente quando possono incidere in modo significativo sui diritti umani e sulle libertà fondamentali delle persone interessate);
  • coordinamento tra autorità competenti in materia di IA;
  • Investire risorse nell’educazione digitale per aumentare la consapevolezza e la comprensione dei soggetti interessati;

Queste linee guida sembrano voler tracciare in maniera ben definita quella che sarà la strada verso la nuova realtà delle intelligenze artificiali che sta sempre di più entrando in ogni aspetta della nostra vita.

Posted by Paola Generali

Managing Director Getsolution

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *