Governance d’impresa e strumenti di intelligenza artificiale

La cd. “rivoluzione digitale” ha interessato negli ultimi anni in misura sempre più crescente diversi aspetti e settori della vita quotidiana sia delle imprese che degli individui. In particolare, l'impiego e l'utilità dei sistemi tecnologici nell'attività di impresa, dai processi di automazione, ai sistemi di e-commerce, all'utilizzo di software gestionali intelligenti o dei robot è ormai riconosciuta.

Diverse sono le tecnologie che hanno apportato importanti processi di cambiamento nelle imprese nel corso degli anni.

Più precisamente, nei primi anni '90 sono state introdotte nuove tecnologie per la gestione integrata di impresa (si pensi ad esempio ai sistemi gestionali) che hanno determinato una riorganizzazione sostanziale, almeno delle imprese di grande dimensione, introducendo il concetto di “Business Process Reengineering” (BPR), ovvero la riprogettazione dei processi aziendali.

Alla fine degli anni '90 e all'inizio del successivo decennio con la diffusione del web, il commercio elettronico (e-commerce) inizia ad assumere una rilevanza sempre maggiore e globale. Al contempo, il modo di gestire i processi di comunicazione fra impresa e consumatore finale si modifica notevolmente grazie ai nuovi strumenti di comunicazione più evoluti, con ciò sviluppandosi nuove modalità di organizzazione dei rapporti fra impresa e mercato.

Nel corso degli anni successivi, l'introduzione del digitale nell'ambito dei processi produttivi, con la diffusione di tecnologie e di robot a costi sempre più contenuti, ha contribuito sempre più ad innovare i metodi di produzione a livello mondiale consentendo alle imprese la possibilità di raggiungere obiettivi di personalizzazione dei prodotti mai raggiunti in precedenza.

La velocità e l'intensità di queste tre fasi evolutive ha messo in discussione sia i punti fermi dell'economia che quelli della organizzazione manageriale. Tali fasi sono tutte egualmente importanti e devono essere lette in correlazione l'una con l'altra per comprendere quanto hanno profondamente trasformato i modelli di riferimento tradizionali dell'organizzazione dell'impresa.

Grazie alla digitalizzazione tutto è interconnesso. Le informazioni vengono condivise in modo automatico, senza che le persone se ne accorgano direttamente. Il flusso che si viene a creare genera una grande quantità̀ di dati che possono essere utilizzati per tracciare ogni nostra scelta o movimento, al fine di poter mettere a disposizione offerte personalizzate per ciascuna persona.

Tra le applicazioni digitali più̀ innovative troviamo l'intelligenza artificiale (in breve, “IA”), una tecnologia che richiede notevoli investimenti, ma che potenzialmente potrà̀ avere un impatto determinante anche sulla gestione aziendale. E' oramai assodato che la digitalizzazione dei processi aziendali determina per l'impresa una maggiore flessibilità̀ produttiva, una maggiore comunicazione e coordinazione tra i macchinari, una maggiore efficienza ed efficacia nell'utilizzo delle proprie risorse, una migliore comunicazione e collaborazione con gli stakeholder, oltre che il miglioramento delle relazioni con i propri clienti.

Al riguardo è opportuno segnalare che le nazioni stanno facendo grandi passi avanti nel processo di regolamentazione delle intelligenze artificiali. In Europa, in particolare, il tema è stato oggetto di un intero “pacchetto” di norme, che dovrebbe andare a costituire, nel prossimo futuro, la base per la corretta regolamentazione delle applicazioni dell'intelligenza artificiale a livello europeo, stimolando e incentivando gli investimenti nel settore.

Il 21 aprile 2022 è stata presentata dalla Commissione europea, una proposta di regolamento sull'Intelligenza artificiale che, di fatto, istituisce un quadro di riferimento volto a normare il mercato dell'Unione Europea su tale materia. Con tale proposta, la Commissione europea intende definire un nuovo quadro giuridico, che si applicherà ai soggetti pubblici e privati. In generale, nella proposta di regolamento si prevedono regole di trasparenza armonizzate applicabili a tutti i sistemi di AI, mentre sono previste specifiche disposizioni per i sistemi di AI classificati “ad alto rischio”, per i quali viene introdotta una specifica definizione, affinché rispettino determinati requisiti obbligatori relativi alla loro affidabilità.

In particolare, l'Italia ha adottato, con il passaggio in Consiglio dei Ministri il 24 novembre 2021, il Programma Strategico per l'Intelligenza Artificiale 2022-2024, frutto del lavoro congiunto del Ministero dell'Università e della Ricerca, del Ministero dello Sviluppo Economico e del Ministro per l'innovazione tecnologica e la transizione digitale. Tale programma, in linea con la strategia europea, prevede 24 politiche da realizzare nei prossimi anni per potenziare il sistema dell'IA in Italia mediante la creazione e il potenziamento di competenze, ricerca, programmi di sviluppo e applicazioni della intelligenza artificiale.

Nel mondo delle imprese, l'IA ha trovato terreno fertile in vari segmenti.

Si pensi ad esempio alla diffusione degli assistenti vocali virtuali quali ad esempio Siri, Cortana, Alexa o alle procedure di analisi dati per carpire le esigenze delle persone, per migliorare l'esperienza dell'utente o il customer care. Vi sono agenti software (i cd. chatbot) in grado di eseguire azioni o erogare servizi per un individuo in base a comandi ricevuti in maniera vocale o testuale. Questi sistemi vengono sempre più utilizzati nel customer care aziendale come primo livello di assistenza con il cliente e si contraddistinguono per la loro capacità di comprensione del tono del dialogo e di memorizzazione delle informazioni raccolte.

Si pensi anche al settore del cybercrime con l'applicazione dell'IA per la prevenzione delle frodi oppure al mondo della sanità nel quale l'IA viene utilizzata per la diagnosi e cura di tumori e malattie gravi. Al riguardo, nel settore ad esempio della riabilitazione, vi sono macchine in grado di imparare dagli esercizi del fisioterapista per poi replicarli sul paziente. L'intelligenza artificiale può inoltre supportare il processo decisionale dei radiologi, migliorando l'attività diagnostica.

Dal punto di vista aziendale, l'IA viene utilizzato in particolare per ottimizzare la qualità dei prodotti, nel marketing per la previsione delle vendite e per le tendenze di mercato e, non da ultimo, nella supply chain per ottimizzare gli inventari e la previsione della domanda. Al riguardo, in particolare, la gestione e il controllo di una catena di distribuzione possono essere notevolmente migliorati ed agevolati utilizzando i più moderni strumenti di intelligenza artificiale al fine di raccogliere in modo sempre più efficiente i dati di produzione. Tutto ciò comporta una migliore organizzazione degli approvvigionamenti e dei ricambi, la possibilità di identificare e correggere in tempo anomalie nella catena di produzione, al contempo riducendo gli sprechi energetici e i consumi totali, nell'ottica di una maggiore sostenibilità economica e ambientale dell'attività aziendale. Quanto sopra dimostra come le aziende italiane stiano iniziando a considerare le soluzioni di IA come una reale opportunità che, nonostante le difficoltà di avviamento e realizzazione, può offrire grandi benefici a livello tecnologico, economico e organizzativo.

Tutto da valutare è però l'impiego dell'IA nell'ambito della governance dell'impresa.

Va innanzitutto ricordato che il Parlamento europeo ha fornito una definizione molto ampia di IA, ricomprendendo al suo interno sistemi intelligenti fondati su tecniche logic and knowledge-based, statistiche e di machine learning. Più precisamente definisce l'IA come “sistema basato su software o integrato in dispositivi hardware che mostra un comportamento che simula l'intelligenza, tra l'altro raccogliendo e trattando dati, analizzando e interpretando il proprio ambiente e intraprendendo azioni, con un certo grado di autonomia, per raggiungere obiettivi specifici”.

In termini di operatività, il grado di autonomia di tali sistemi intelligenti varia tra sistemi assisted, augmented e autonomous. I sistemi assisted sono utili per l'automazione di processi che presidiano funzioni seriali e ripetitive, identificando modelli e applicando soluzioni predeterminate; i sistemi augmented si focalizzano invecesulla cosiddetta IA “aumentata” e quindi permettono di coadiuvare, ma non di sostituire le funzioni intellettive dell'uomo. I sistemi autonomous infine consentono al software di “assumere una decisione senza alcuna interferenza umana.

Ciò premesso, va quindi considerato come tali sistemi, nelle loro diverse accezioni, possano trovare applicazione nell'ambito della impresa e quindi anche nei processi di governance.

Da un lato, l'utilità dei sistemi di IA nell'attività di impresa ed in particolare nel processo di governance ha spinto le imprese a considerare l'impiego di software intelligenti che siano in grado di prendere decisioni con un elevato grado di correttezza e in tempi particolarmente celeri. Dall'altro, i principi generali cui si informa il codice civile per quanto attiene agli articoli dedicati all'impresa (in particolare alla S.p.A.) nonché, per le imprese quotate, le indicazioni del Codice di Corporate Governance entrato in vigore nel 2021 (ci si riferisce in particolare alla massimizzazione del valore dell'investimento nella società mediante lo svolgimento efficiente della attività di impresa e al perseguimento del successo sostenibile), portano sempre più a considerare gli strumenti di IA uno dei parametri utili a verificare l'adeguatezza degli assetti societari “alla natura e alle dimensioni dell'impresa” richiesta dall'art. 2086 c.c., in special modo con riferimento alle società più strutturate e di maggiori dimensioni.

Ma tali sistemi come possono essere effettivamente inseriti nelle logiche di governo societario?

Dal punto di vista strettamente organizzativo, se è oramai assodato – anche a causa di quanto imposto dalla disciplina emergenziale messa in atto durante la pandemia – che non vi è alcun ostacolo giuridico per la realizzazione di assemblee e riunioni societarie “a distanza” mediante sistemi di audio-videoconferenza e addirittura in taluni casi senza indicazione nell'ordine del giorno del luogo di convocazione, non è così assodato se siano legittime le modalità di voto basate su tecnologie blockchain e le verbalizzazioni supportate da tecnologie di smart contract.

All'estero, come dimostrano le esperienze di Deep Knowledge Ventures, società con sede in Hong Kong, che ha nominato il software VITAL (i.e Validating investment tool for advancing life sciences) membro del consiglio di amministrazione con diritto di voto in assemblea, il mondo imprenditoriale è alla ricerca di strumenti che possano coadiuvare, se non addirittura sostituire, gli amministratori “umani” con forme di intelligenza artificiale che siano in grado di compiere scelte societarie con maggiore velocità, affidabilità e con un ridotto margine di errore. Tale processo sconta tuttavia problematiche giuridiche di non poco conto.

Ci si può chiedere se quanto effettuato da Deep Knowledge Ventures, possa essere replicato legittimamente anche in Italia. Al riguardo, è da segnalare che la legittimità dell'apporto dell'IA nel diritto societario italiano rimane dubbia. Ricordiamo che ai sensi dell'art. 2381, comma 2, c.c. “se lo statuto o l'assemblea lo consentono, il consiglio di amministrazione può delegare proprie attribuzioni ad un comitato esecutivo composto da alcuni dei suoi componenti, o ad uno o più dei suoi componenti”. Per effetto di tale norma, mentre risulta ammissibile la delega dei poteri all'interno del consiglio di amministrazione stesso, ovvero ad uno o più dei suoi componenti, non risulta consentito invece che la delega di attribuzioni venga conferita a soggetti terzi che siano estranei all'organo amministrativo. La ratio risiede nel fatto che delegare a terzi proprie attribuzioni determinerebbe una dissociazione illegittima tra potere gestorio e profili di responsabilità che devono comunque essere ricondotti in capo all'organo amministrativo. Ne consegue che, delegare poteri ad una IA non potrebbe essere possibile a meno che l'IA non risultasse membro del consiglio di amministrazione. Al riguardo, sappiamo che il nostro diritto societario ammette la nomina di una società di capitali come amministratrice delegata di una società di capitali, ma in tal caso ciò si ritiene ammissibile in quanto nel consiglio di amministrazione siederà il legale rappresentante persona fisica della società di capitali che è amministratrice delegata. Ciò non sarebbe fattibile in caso di nomina di una IA. Al riguardo la massima n. 100 del Consiglio notarile di Milano è molto chiara: “E' legittima la clausola statutaria di s.p.a. o s.r.l. che preveda la possibilità di nominare alla carica di amministratore una o più persone giuridiche o enti diverse dalle persone fisiche (“amministratore persona giuridica”), salvi i limiti o i requisiti derivanti da specifiche disposizioni di legge per determinate tipologie di società.

Ogni amministratore persona giuridica deve designare, per l'esercizio della funzione di amministratore, un rappresentante persona fisica appartenente alla propria organizzazione, il quale assume gli stessi obblighi e le stesse responsabilità civili e penali previsti a carico degli amministratori persone fisiche, ferma restando la responsabilità solidale della persona giuridica amministratore. Il concetto è stato anche ribadito da una sentenza del Tribunale di Milano (n. 3545 del 27 marzo 2017 della Sezione Specializzata in materia di impresa) in uno dei primissimi casi in cui la giurisprudenza ha preso in esame il tema dell'amministrazione di società di capitali affidata a un soggetto diverso dalla persona fisica. Occorre infatti ricordare che gli amministratori sono sottoposti ad un regime di responsabilità che è strettamente collegato alla loro soggettività giuridica. Pur essendo attualmente acceso il dibattito circa l'attribuzione a sistemi particolarmente intelligenti di una soggettività giuridica in grado di renderli fonte di diritti ed obbligazioni, ad oggi non si può affermare che un software intelligente possa essere considerato alla stregua di un soggetto di diritto: una “personalità artificiale”. Se ne deduce che, qualora un consiglio di amministrazione di un'impresa italiana volesse esternalizzare un proprio compito delegandolo ad una macchina intelligente, dovrà necessariamente nominare quest'ultima amministratrice dotandola di personalità giuridica. Ciò peraltro non pare nemmeno sufficiente in quanto occorrerebbe che tale macchina fosse munita anche della capacità di agire, requisito del tutto inimmaginabile allo stato attuale dell'avanzamento tecnologico. E' da ricordare, a tal fine, la recente sentenza n. 25056 del 9 novembre 2020, con la quale la Corte di Cassazione ha riaffermato la piena operatività nel nostro ordinamento della regola di matrice statunitense nota come “Business Judgment Rule”, regola che sancisce il principio di insindacabilità nel merito delle scelte di gestione assunte dagli amministratori nell'espletamento del loro incarico. Più precisamente, si legge che “all'amministratore di una società non può essere imputato, a titolo di responsabilità, di aver compiuto scelte inopportune dal punto di vista economico, atteso che una tale valutazione attiene alla discrezionalità imprenditoriale e può pertanto eventualmente rilevare come giusta causa di sua revoca, ma non come fonte di responsabilità contrattuale nei confronti della società: ne consegue che il giudizio sulla diligenza dell'amministratore nell'adempimento del proprio mandato non può mai investire le scelte di gestione o le modalità e circostanze di tali scelte, anche se presentino profili di rilevante alea economica, ma solo la diligenza mostrata nell'apprezzare preventivamente i margini di rischio connessi all'operazione da intraprendere, e quindi, l'eventuale omissione di quelle cautele, verifiche e informazioni normalmente richieste per una scelta di quel tipo, operata in quelle circostanze e con quelle modalità.” E' del tutto evidente che un sistema di IA non può arrivare a detenere la medesima sensibilità di un essere umano, è chiaro che non potrebbe essergli attribuita una sorta di “discrezionalità imprenditoriale”.

Ciò detto, va anche fatta una breve analisi sulla correttezza del processo decisorio adottato dagli strumenti di IA.

In primo luogo, è necessario che la logica utilizzata dal software per giungere ad una decisione sia trasparente e di conseguenza sia comprensibile il ragionamento causale di fondo. Occorre, in estrema sintesi, che il processo logico che ha indotto il software ad esercitare il voto in un senso sia corredato da input corretti, tali per cui l'algoritmo non ponga in essere, ad esempio, alcun tipo di discriminazione nell'adottare una decisione. Se così non fosse vi sarebbe infatti il rischio di scelte e decisioni arbitrarie non adottate nell'interesse della società.

In secondo luogo, vanno esplorati gli strumenti che permettono l'utilizzo dell'IA nell'impresa, ovvero la blockchain e gli smart contracts.

Ricordiamo che la blockchain fa riferimento ad un supporto tecnologico che consente di creare e gestire «libri mastri» o «registri» (distributed ledgers) condivisi tra più soggetti che partecipano a una rete o network comune (i c.d. “nodi” della rete), all'interno del quale sono eseguite e annotate transazioni e informazioni aggregate in «blocchi» (blocks). L'utilizzo della crittografia fa sì che le annotazioni siano certe, sicure e tendenzialmente immodificabili a posteriori, mentre la condivisone del registro tra i partecipanti permette di evitare la presenza di intermediari o di altri soggetti ai quali attribuire i compiti di tenuta del registro e di validazione e certificazione dell'autenticità delle informazioni e degli scambi annotati.

Gli smart contracts sono una particolare applicazione di questa tecnologia, consistente nella programmazione, di regola all'interno di una blockchain, di specifiche istruzioni in linguaggio informatico che vengono eseguite e registrate all'interno della rete, di modo tale che tutti i partecipanti ne conservino traccia.

Ciò che rileva è che gli algoritmi possono essere impiegati per eseguire o automatizzare processi e decisioni (come nel caso della blockchain e degli smart contracts) oppure per estrarre informazioni o dati di supporto al processo decisionale, ovvero per adottare in maniera automatizzata le decisioni suggerite dai dati stessi. In linea di principio, la blockchain e gli smart contracts possono essere impiegati per facilitare il regolamento e la registrazione delle operazioni su azioni, nonché l'identificazione degli azionisti legittimati all'intervento e al voto in assemblea, per consentire l'esercizio del diritto di voto, anche per delega, con sistemi che garantiscono la certezza e la tracciabilità del conteggio dei voti, la verifica del raggiungimento dei quorum e del rispetto delle regole che richiedono la titolarità di determinate percentuali del capitale per l'esercizio ad esempio dei diritti delle minoranze e la verbalizzazione in forma automatica.

Più in generale, l'utilizzo di queste tecnologie permetterebbe lo svolgimento dell'adunanza in forma interamente virtuale, senza i limiti imposti da altre tecnologie che pure facilitano la comunicazione a distanza ma senza le garanzie di certezza fornite dalla blockchain, anzitutto nell'identificazione dei soggetti legittimati a intervenire e nel conteggio dei voti.

In passato, tuttavia, sono state sollevate perplessità circa la possibilità che le applicazioni tecnologiche possano consentire il conseguimento degli stessi risultati che si ottengono con il dibattito assembleare, specialmente per quanto riguarda l'informazione dei soci e la creazione di uno spazio per il confronto e la discussione sugli argomenti posti all'ordine del giorno. Tuttavia, da un lato, nemmeno le assemblee “fisiche” spesso svolgono più dette funzioni in concreto. Specie nelle società quotate infatti la discussione viene sempre più frequentemente “anticipata”, tenuta al di fuori del meccanismo assembleare, in incontri preventivi e spesso esaustivi tra amministratori o esponenti apicali della società e azionisti rilevanti.

Un esempio della possibilità di creare «adunanze virtuali» mediante la blockchain è dato dagli strumenti utilizzati, sempre all'estero, dall'organizzazione “The DAO”. The DAO era un'organizzazione – riconducibile, secondo le categorie tradizionali, allo schema della società di fatto – operante sulla blockchain Ethereum (30), che nel 2016 raccolse un ammontare significativo di criptovalute (Ether) in cambio di DAO token, ossia di token rappresentativi di una quota di partecipazione all'iniziativa comune. The DAO investiva gli Ether raccolti dagli investitori in progetti presentati da contractors, allo scopo di dividere gli utili eventualmente generati dai singoli progetti tra i possessori di DAO tokens. Questa organizzazione è divenuta particolarmente nota perché fu oggetto di un attacco informatico e, successivamente, di un'indagine della Securities and Exchange Commission (“SEC”) statunitense, volta ad accertare se i token in questione fossero “securities” e quindi se la loro offerta al pubblico avesse violato le regole in materia di preventiva registrazione degli strumenti finanziari. La relazione dell'indagine condotta dalla SEC risulta particolarmente interessante non solo per quanto riguarda i profili relativi alla qualificazione giuridica dei token, tuttora oggetto di diverse opinioni, ma anche per la descrizione dei diversi aspetti di governance dell'organizzazione decentralizzata. Si pensi ad esempio che l'esercizio del voto sulle diverse proposte di investimento avveniva interamente sulla blockchain e in maniera proporzionale ai DAO token posseduti, anche grazie all'uso di smart contracts per automatizzare le regole e le procedure di voto. L'organizzazione si serviva, tuttavia anche di altre tecnologie. Il sito Internet di The DAO conteneva ad esempio una piattaforma di messaggistica accessibile ai partecipanti dove questi potevano discutere tra di loro. Inoltre, i dettagli dei possibili progetti da finanziare erano pubblicati sulla blockchain sotto forma di smart contracts e ulteriori informazioni sulle diverse proposte di investimento erano rese note sempre sul sito di The DAO.

L'esempio di The DAO dimostra che la blockchain è in grado di costituire la base tecnologica per lo svolgimento, in forma interamente virtuale, dell'assemblea, ma occorre chiedersi quali cambiamenti il suo utilizzo possa e debba determinare all'interno della attuale impostazione e struttura delle società di capitali italiane.

Certamente pare difficile alla stregua del nostro diritto societario che la blockchain venga utilizzata come strumento per realizzare una organizzazione perfettamente democratica che possa essere “autogestita” anche da un numero elevato di soci senza l'intervento di amministratori o manager. Anche a non voler considerare che la ripartizione delle competenze tra assemblea e organo amministrativo deriva da norme di legge di carattere imperativo, è tuttavia non confutabile che le competenze e le esperienze richieste per l'esercizio della funzione gestoria non possono essere sostituite completamente da tecnologie. Le nuove tecnologie possono sì fornire informazioni, raccomandazioni o indicazioni utili all'assunzione di decisioni gestorie, ma tali dati richiedono a loro volta una specifica preparazione tecnica e competenza per essere compresi e utilizzati.

Nel lontano1950 Alan Turing (geniale matematico inglese) pubblica sulla rivista “Mind” l'articolo “Computing Machinery and Intelligence”: una svolta decisiva per gli studi sulla relazione corpo/mente e sull'intelligenza artificiale. Nasce quindi il progetto di costruire un computer capace di simulare il cervello umano nel suo insieme, fino alla prospettiva di avere “un'intelligenza senza corpo”, progetto destinato a fallire per convertirsi nella ricerca di una “intelligenza artificiale cd “light”, che - abbandonata l'idea di replicare il cervello umano - si limitasse ad emulare solo alcune funzioni del cervello umano conducendo a creare macchine che riescono a svolgere tali funzioni ancor meglio, a volte, degli esseri umani.

Ripensando a tale progetto, da un lato risulta chiaro che per l'impostazione del nostro diritto societario vigente sono tante le barriere che, come abbiamo visto, non consentono di “sostituire” ai managers i robot.

L'utilizzo della IA nelle imprese può sì essere ulteriormente elaborato, ma riesce difficile attualmente immaginare che possa arrivare a sostituire il dato umano, semmai potrà limitarsi ad esserne un ausilio. Dall'altro lato, vero è che il diritto non può rimanere ancorato al passato, ma deve continuamente evolversi cercando di creare le maggior tutele per una società in continua evoluzione.

Ciò che è certo è che tanto lavoro si dovrà quindi ancora svolgere per consentire ai sistemi di IA di addentrarsi sempre più nel sistema e nelle logiche della corporate governance delle imprese italiane.