L’ Autorità di controllo francese lancia un servizio interno di intelligenza artificiale e machine learning

Nel quadro della strategia europea per i dati della Commissione europea e con la prossima entrata in vigore del regolamento europeo sull'Intelligenza Artificiale (IA), l’Autorità di controllo francese CNIL adotta un servizio interno di intelligenza artificiale (SIA) che rafforza la sua expertise in campo e diventa il principale interlocutore delle società private, del governo francese e del pubblico. Con l’obiettivo di stare al passo con l’evoluzione tecnologica, il SIA propone un approccio a 365 gradi, con una missione di sensibilizzazione sull’argomento specifico sia internamente alla CNIL che per gli attori esterni e il pubblico, per consentire la trasparenza e la comprensione di una tecnologia spesso percepita come una "black box" al fine di garantire una regolamentazione equilibrata e consentire il controllo dei rischi sui diritti e le libertà delle persone fisiche. Perché, sebbene i benefici associati all'uso di algoritmi e di IA siano indiscutibili, va tuttavia sottolineato che il loro funzionamento si basa sul trattamento di una grande quantità di dati, molto spesso personali, e che la loro implementazione comporta dei rischi elevati come ad esempio la perdita di controllo dei propri dati o il rischio di discriminazione. Il SIA sarà responsabile dell’expertise tecnica dei dossier seguiti dall’Autorità francese con specifici risvolti legati alla tecnologia IA, contribuirà ai lavori dell’European Data Protection Board (EDPB) sull’argomento, conducendo progetti sperimentali in collegamento con il Laboratorio di Innovazione Numerica (LINC) della CNIL.

Il SIA prosegue sulla linea dei lavori della CNIL, avviati nel 2017, con un programma che sarà oggetto di pubblicazione e che completerà la guida di autovalutazione rilasciata nel 2022. Tale guida ha posto un primo tassello e consente alle organizzazioni di valutare autonomamente la maturità dei propri sistemi di IA e garantire la loro conformità al GDPR sin dalla progettazione, nel rispetto dei principi “by design” e “by default”.

Sempre con l’obiettivo di una maggiore tutela e per rispondere ai quesiti ricevuti sulla legalità di determinati usi dell'IA, la CNIL ha lanciato un lavoro specifico sulle machine learning utilizzate per il funzionamento dei modelli di IA che molto spesso richiedono l'uso di grandi volumi di dati personali per l'addestramento degli algoritmi integrati. Il perimetro d’intervento riguarda:

• i sistemi di AI che richiedono la creazione di un database (sistemi di machine learning e sistemi esperti) per il loro sviluppo/miglioramento;
• la raccolta di dati da tutti i tipi di fonti (da soggetti interessati, da data broker, in open source, ecc.);
• le fasi di sviluppo di un sistema di IA necessarie per la sua produzione o il suo miglioramento (progettazione del sistema, pre-elaborazione dei dati, addestramento, addestramento continuo, ecc.);
• i vari usi relativi allo sviluppo/miglioramento di un sistema di IA (ricerca scientifica, ricerca e sviluppo, miglioramento di un prodotto commerciale, ecc.), indipendentemente dallo scopo del sistema in produzione e dal regime giuridico applicabile.

All'esito dei lavori, saranno pubblicati strumenti, guide pratiche e raccomandazioni fruibili on line con l’obiettivo di offrire un quadro di analisi delle norme sulla protezione dei dati personali e risposte concrete per consentire alle organizzazioni di creare o utilizzare banche dati nel rispetto dei diritti e delle libertà fondamentali delle persone.

Inoltre, la CNIL invita sviluppatori di servizi di IA e utilizzatori a contribuire scrivendo all’indirizzo mail: ia@cnil.fr e partecipando alle prossime consultazioni pubbliche.