L’intelligenza artificiale permea ormai molti aspetti delle nostre vite; di conseguenza, anche il diritto deve costantemente confrontarsi con questo assai significativo progresso tecnologico. Diventa quindi necessario riflettere su quale tipo di vantaggio le nuove tecnologie potrebbero, in concreto, apportare. Con specifico riferimento al diritto societario, bisogna considerare che le regole dettate dal legislatore italiano da un lato sono certamente antropocentriche, ma dall’altro devono risultare in linea con finalità – anche comunitarie – che promuovono l’utilizzo dell’intelligenza artificiale. Il problema risiede nella difficoltà di trovare un corretto bilanciamento nell’allocazione dei compiti suddivisi tra l’uomo e la macchina, in modo che il primo resti al centro del processo decisionale e, quindi, della scelta, rendendola così governabile.

SOMMARIO:

1. Inquadramento storico-giuridico della questione - 2. Le concrete applicazioni dell’AI nel governo societario - 3. Il vero ruolo dell’AI: uno strumento per la soluzione di alcuni problemi o la soluzione di tutti i problemi? - 4. Le peculiarità del linguaggio artificiale - 5. L’AI al servizio dell’organo gestorio - 6. Adeguatezza degli assetti e possibile imposizione di processi automatizzati - 7. La block-chain come strumento “inclusivo” - 8. L’(in)adeguatezza sostanziale dell’algoritmo di fronte alla necessità di compiere scelte gestionali - 9. AI e governo societario: indubbia utilità, ma ancora molte perplessità - NOTE

1. Inquadramento storico-giuridico della questione

Quando si parla di intelligenza artificiale [1] nell’esercizio dei doveri degli amministratori è importante delineare preliminarmente il contesto all’interno del quale ci si sta attualmente muovendo. Al fine di inquadrare il fenomeno, appare quindi utile dare conto di alcuni riscontri. Uno studio del 2017 condotto dal McKinsey Global Institute ha indicato che una percentuale considerevole – stimata per un quarto – dell’attività degli amministratori, potrebbe essere integralmente sostituita da supporti di intelligenza artificiale, che in questo modo contribuirebbero alla razionalizzazione delle scelte dell’or­gano gestorio [2]. Più recentemente, uno studio realizzato da Ernst & Young, pubblicato nel 2021 ed indirizzato alla Commissione Europea [3], ha avuto ad oggetto i) la ricognizione degli strumenti di intelligenza artificiale attualmente in uso nel settore del diritto societario e della corporate governance; ii) le lacune regolamentari in materia; iii) il tema della indispensabilità di prescrizioni normative che regolino il fenomeno. Per quanto concerne il primo profilo, è emerso che (solo) il 13% delle imprese sondate si serve di strumenti di intelligenza artificiale (le percentuali più elevate si riscontrano nel settore finanziario), mentre il 26% delle imprese intervistate considera la concreta possibilità di ricorrere in futuro all’utilizzo di questi strumenti, segnalando tuttavia i grandi investimenti che si renderebbero necessari. È emerso, inoltre, che le imprese con meno di cinquanta dipendenti si trovano nella condizione di avere meno probabilità o forse – più correttamente – possibilità di utilizzare l’intelligenza artificiale, presa coscienza del fatto che, in una realtà di questo tipo, da un lato, il fattore umano sarebbe da prediligere rispetto a quello artificiale e dall’altro lato, i costi legati all’apporto di AI non sarebbero in tal senso vantaggiosi. Altri dati interessanti si rinvengono, poi, in un contributo curato da Egon Zehnder nella primavera del 2022 riguardante l’impatto dell’intelligenza artificiale nelle dinamiche consiliari ed avente come punto di riferimento principale quello degli amministratori indipendenti. Ci si intende riferire, in particolare, al [continua ..]

2. Le concrete applicazioni dell’AI nel governo societario

Dalla osservazione sul campo, risulta che tuttora il management conservi i poteri gestori e debba rispettare i doveri fiduciari nel loro utilizzo. Più precisamente, si può discutere su quali specifici standard comportamentali debbano trovare applicazione nella programmazione e nella implementazione di determinati percorsi algoritmici, ma ben diverso sarebbe il caso in cui tali scelte dovessero dipendere esclusivamente e direttamente dal sistema di AI adottato dalla società [10]. Non si può negare che l’evoluzione tecnologica si sia spostata dalla fabbrica alle tecnostrutture per poi avanzare sino ai piani alti della articolata fase gestionale, tuttavia essa ancora incide, nel suo utilizzo, su attività di carattere cognitivo, ma pur sempre e soltanto routinarie (cioè utilizzando regole quanto meno esplicitabili [11]). Pertanto, secondo alcuni osservatori del fenomeno, dovrebbe sempre distinguersi tra administrative work e judgement work [12]. Infatti, l’intelligenza artificiale, per quanto possa progredire di giorno in giorno, non è al momento in grado di svolgere in modo soddisfacente e sicuro compiti caratterizzati da elevati gradi di creatività, nonché di sviluppare capacità tanto analitiche quanto strategiche, ma senza dubbio essa risulta di grande supporto nella misura in cui permette di consultare ed elaborare più agevolmente anche grandi moli di dati, fornire raccomandazioni e predizioni a supporto dei più svariati percorsi decisionali interni [13]. Nonostante ciò, poiché la storia del diritto commerciale convive dalle sue origini con i passi in avanti compiuti dalla scienza e dalla tecnica, è necessario assumere la consapevolezza che il “monopolio” delle funzioni manageriali non dipende più – in termini di esclusività – da scelte meramente umane [14]. L’intelligenza artificiale può, ormai da qualche tempo, incidere profondamente sulle dinamiche interne del governo societario: si pensi a) ai processi di autovalutazione del consiglio di amministrazione; b) all’individuazio­ne dei candidati più promettenti sia che si tratti di nuove nomine, sia che si tratti di cooptazioni, pure ai fini della predisposizione di liste e dello screening fit and [continua ..]

3. Il vero ruolo dell’AI: uno strumento per la soluzione di alcuni problemi o la soluzione di tutti i problemi?

Come si è prima d’ora accennato, l’“autonomia” degli strumenti di AI è in alcuni frangenti evidente, ma essa può comunque esplicarsi soltanto in presenza di attività davvero poco sofisticate [15] e nei limiti della programmazione oggettiva che sia stata fatta dello strumento in uso. Il processo decisionale è complesso e differente a seconda che si compia all’interno della mente umana o al di fuori di quest’ultima; in ogni caso esso è influenzato da molteplici variabili che bisognerebbe considerate nella loro interezza, soprattutto al fine di indirizzarle nel modo più efficiente possibile [16]. Quanto appena constatato, conduce a ritenere che, in definitiva, i sistemi di intelligenza artificiale si pongono come uno strumento e non come una soluzione [17]. Oltretutto – e non per nulla – la legge e gli statuti delle società distribuiscono i poteri e i doveri tra gli organi gestori e i principali chief officiers a seconda i) di quali decisioni devono essere assunte, ii) di quando devono essere assunte e iii) di come vanno assunte. In tali occasioni risulta fondamentale tener conto della velocità e della frequenza delle decisioni, delle informazioni necessarie per scegliere e di chi può avere accesso ad esse, dei costi inerenti alle assegnazioni dei compiti e le relative responsabilità, degli incentivi e degli interessi di chi è chiamato a decidere, nonché delle competenze e delle capacità [18].

4. Le peculiarità del linguaggio artificiale

In sintesi, la “macchina” – intesa in senso lato come strumento predisposto all’e­laborazione di input ed alla consequenziale produzione di output – ma più in generale la tecnologia, non conoscono linguaggio differente da quello che risponde alla logica. A tal proposito le esperienze pratiche hanno, invece, dimostrato come esistano varie evenienze in cui l’utilizzo di un pensiero fondato sulla razionalità conduca ad esiti addirittura fallimentari: le deviazioni dai comportamenti logico-razionali, anche in campo economico-gestionale, sono talmente diffuse, comuni e strutturali da non costituire più delle autentiche incognite, ma piuttosto delle variabili certe (non mancano opinioni tra gli studiosi delle scienze comportamentali secondo cui sarebbero addirittura in grado di essere tenute in conto nelle scelte decisionali attraverso semplici “spinte gentili”, i c.d. nudge [19]). Ad ogni modo è risaputo che l’attività amministrativa nel suo complesso può essere caratterizzata da decisioni semplici (ed in questo caso è evidente che le regole ed i passi da seguire non solo possono essere chiari, ma anche prevedibili e quindi pure determinabili persino in anticipo), complesse e, talvolta, addirittura caotiche, influenzate da atteggiamenti “idiosincratici”. Muovendosi al di fuori dell’ordinarietà e a maggior ragione se sotto stress, l’es­sere umano ha per certo maggiori capacità di intuizione e ragionamento, a fortiori in presenza di problematiche comunicative, o di criticità che coinvolgono circostanze nuove ed inaspettate o, ancora, di sopravvenienze rispetto a contratti di durata in corso. È un dato di esperienza ormai acquisito che, rispetto ad alcuni importanti percorsi decisionali, si incontrano regole, passaggi e snodi, soprattutto di general intelligence, che gli individui comprendono solo tacitamente e che per tale ragione non riescono ad essere trasposti in linguaggio di programmazione [20]. In materia di scelte gestorie è necessario che vi siano una certa elasticità rispetto alle circostanze ed ai cambiamenti di contesto, una discreta capacità di comunicazione e di persuasione, nonché doti di ideazione ed intuizione. Per queste ragioni è sostanzialmente richiesta una buona dose di inventiva [continua ..]

5. L’AI al servizio dell’organo gestorio

Alcuni aspetti che meritano di essere presi in più dettagliato esame sono quelli relativi alla i) composizione del board, alle ii) scelte organizzative e agli iii) aspetti più propriamente “manageriali”. Relativamente al primo profilo, già si è riferito che l’intelligenza artificiale può sicuramente aiutare nell’individuazione dei consiglieri di amministrazione, nello screening dal punto di vista fit and proper, nonché nelle valutazioni delle expertise richieste per ricoprire l’incarico. Ma non è tutto: l’interazione tra l’uo­mo e la macchina potrà poi senz’altro condurre ad una riduzione del numero dei componenti dei consigli di amministrazione, ad un ripensamento della figura degli amministratori indipendenti e soprattutto ad una rivalutazione del ruolo da assegnare al plenum consiliare, che avrà la possibilità di concentrarsi maggiormente sul core business. Tuttavia, non sarebbe sufficiente la conoscenza del modello algoritmico progettato in house [22] o acquisito da providers esterni, ma occorrerebbe la sua comprensione nell’ottica della sua capacità effettiva ad orientare l’indirizzo gestorio. Il passaggio culturale che andrà quindi metabolizzato è quello che passa dalla disclosure e dalla transparency all’accountability: ogni scelta attuata in concreto dal­l’organo gestorio e dal top management da esso espresso dovrebbe, in termini ancora più espliciti, essere non solo trasparente, ma anche e soprattutto, responsabile e valutabile, ai fini pure della tracciabilità ex post dei criteri di decisione seguiti [23]. Il fatto che l’intelligenza artificiale risponda ai criteri della logica e della razionalità [24] non va tuttavia confuso con il fatto che essa può non essere imparziale né oggettiva. L’operatività degli algoritmi risulta necessariamente condizionata da biased data o da biased instructions, ovvero dall’utilizzo di dati e istruzioni rispondenti ad interessi di parte [25]. Si potrebbe, perciò, al più sostenere che forse le nuove tecnologie sono neutrali soltanto all’inizio [26], determinando in seguito commistione di poteri [continua ..]

6. Adeguatezza degli assetti e possibile imposizione di processi automatizzati

La ripartizione interna dei ruoli incentivata nel nostro ordinamento dalla riforma del diritto societario attraverso l’introduzione della disposizione basata sulla adeguatezza costante nel suo sviluppo dinamico degli assetti organizzativi, amministrativi e contabili (la cura di essi da parte dei delegati, la loro valutazione da parte del plenum consiliare, nonché la vigilanza perdurante da parte dell’organo di controllo interno), impone una riflessione con riferimento ad un possibile, sempre più ampio ricorso all’intelligenza artificiale. Per quanto qui rileva, gli assetti più significativi sono soprattutto quelli organizzativi ed amministrativi. Gli assetti contabili risultano, d’altro canto, ormai da tempo supportati dagli strumenti informatici, che possono essere considerati un vero e proprio “tassello costitutivo”. Si pensi, più in particolare, ai protocolli istruttori connessi a flussi informativi inter e infra organici, a maggior ragione quando si incontrano obblighi di motivazione rafforzati (come accade in presenza di interessi degli amministratori, e di operazioni infragruppo o con parti correlate) [28]. Il punto cruciale consiste nell’elaborazione di sistemi di estrazione e di catalogazione dei dati aziendali ritenuti più importanti: si tratta della delicata fase della c.d. data architecture [29]. Sotto il profilo del dovere di agire informati, che riverbera necessariamente sul­l’esatto adempimento del duty of care gravante su tutti i consiglieri di amministrazione, emerge la necessità di aver contezza non solo di quali decisioni siano state assunte con il supporto della intelligenza artificiale (si tratta della c.d. trasparenza algoritmica), ma anche delle caratteristiche, delle implicazioni e dei limiti del particolare sistema di intelligenza artificiale utilizzato (per potersi spingere, pure sul campo della accountability, evitando in tal modo i pericolosi rischi di supina sudditanza nei confronti della macchina). A questo punto viene dunque spontaneo chiedersi se possano esserci settori in cui i processi automatizzati risultano imposti, se l’utilizzo, ovvero la selezione delle modalità di utilizzo o il non utilizzo della intelligenza artificiale, rientri negli ambiti in cui si esplica l’attività discrezionale degli amministratori [30] e se [continua ..]

7. La block-chain come strumento “inclusivo”

Sempre dal punto di vista dell’impianto organizzativo, l’ausilio dell’intelligenza artificiale potrebbe non solo mettere in risalto l’opportunità di usare ripetutamente block-chain (specialmente se si tratta di permissioned block-chain: cioè non aperte a chiunque). Una parola magica secondo alcuni, quando si discute di intelligenza artificiale, da maneggiare però sempre con estrema cautela. In effetti, i dati inseriti e fatti circolare all’interno di questi sistemi chiusi sono non modificabili e sono comunque sempre monitorabili senza l’intervento di un’au­torità terza. Inoltre, le block chain potrebbero fare interagire azionisti e management, investitori istituzionali e azionisti qualificati e favorire per tale via la comunicazione, l’in­clusione ed il confronto con gli stakeholders, pure quelli che non intrattengono relazioni mercantili con l’impresa. Verrebbero così attuati modelli maggiormente partecipativi, tramite platform community driven, connotate da una maggiore decentralizzazione dei centri decisionali [39]. In questo modo, verrebbero maggiormente coinvolte nelle dinamiche di governo societario altre parti (anche sociali), in grado di individuare e porre in correlazione informazioni ed inclinazioni di natura diversa, pure di carattere non gestionale e finanziario. Così operando, sarebbero messi in discussione gli assetti gerarchici tradizionali e la collocazione verticistica dell’organo consiliare. I processi già attuati in altri campi di co-creazione e/o di co-design (o users centered) potranno interessare anche il diritto societario e la corporate governance, più in particolare. Per usare degli slogan: le tematiche più tradizionalmente studiate nell’ambito della c.d. corporate social responsibility (CSR), si arricchirebbero di una nuova prospettiva digital [40]. Dovrebbe essere, cioè, valutato adeguatamente il raffronto, se non il contrasto, tra il determinismo analitico delle apparecchiature digitalizzate e la natura duttile, complessa e adattiva della corporate governance tradizionale. Altrimenti detto: andrebbero considerate quelle dosi di irrazionalità e creatività dell’agire umano, che le macchine non sanno ancora riprodurre [41]. Nonostante la sussistenza di tutte le [continua ..]

8. L’(in)adeguatezza sostanziale dell’algoritmo di fronte alla necessità di compiere scelte gestionali

Relativamente alle scelte organizzative, va ripetuto che lo sviluppo tecnologico può rappresentare il viatico per introdurre cambiamenti nella ripartizione delle funzioni e dei poteri degli organi sociali, al pari di quanto è stato recentemente fatto a seguito del c.d. shareholder enpowerment [42]. Del resto, la distribuzione dei poteri all’interno del governo societario non è immutabile ed un buon uso dei nuovi strumenti può permettere loro di abbattere – o comunque ridurre – costi e asimmetrie. Tuttavia, neppure nella technology driven corporate governance può essere seguita un’impostazione one size fits all. Merita, viceversa, di essere assicurata libertà nel design della propria tech governance structure per poter tener in considerazione le variazioni dovute alle peculiarità di ogni singola impresa. In definitiva, quindi, gli assetti societari non possono esaurirsi in strumenti di intelligenza artificiale. Passando, in concreto, alle scelte gestionali, pare opportuno privilegiare alcuni distinguo. Da un lato, monitoring e advisory; dall’altro lato, management; nonché, da un’altra parte, scelte routinarie e, da un’altra ancora, scelte non routinarie. Sul versante del monitoring l’intelligenza artificiale può offrire grandi vantaggi sui versanti del real time accounting, del reporting, della compliance, dell’antirici­claggio e del risk management. Senonché, proprio per queste ragioni, si aprono nuove forme di vulnerabilità: occorrono pertanto strumenti di cyber security efficaci e presidi efficienti non solo sul funzionamento, ma anche sulla sicurezza tecnologica della macchina (già si è detto che la scelta della macchina non è mai neutrale). Occorrerebbero requisiti più stringenti in materia di architetture tecnologiche, e cioè non solo trasparenza più elevata, ma anche capacità di individuazione e ricerca dei pregiudizi più frequenti, con l’obiettivo di neutralizzarli o quanto meno orientarli in modo efficiente sul piano decisionale. Il concetto di accountable algorithmism è problematico [43]. Gli strumenti, in sé, non pagano risarcimenti e non sono in grado di temperare le loro decisioni on the way. E soprattutto, [continua ..]

9. AI e governo societario: indubbia utilità, ma ancora molte perplessità

Per concludere, va dato ancora atto del nuovo atteggiarsi del diritto ad essere e ad agire informati. Gli sviluppi tecnologici rendono più efficiente il diritto in questione, in quanto forniscono accessi più diretti e meno intermediati alle informazioni. D’altro canto, a livello comparatistico, si riscontra una chiara tendenza affinché sia consentito, ed in alcuni casi persino imposto, al singolo amministratore di interfacciarsi direttamente con le strutture manageriali. In apertura si sono stati fatti sintetici rilievi al contesto strettamente regolatorio ed in particolare alla tendenziale insufficienza delle prescrizioni precettive di diritto scritto applicabili alla materia che ci occupa. Non bisogna dimenticare, tuttavia, che l’emergente connubio tra le nuove tecnologie e gli assetti imprenditoriali potrà trovare, comunque, spazio in forme di autodisciplina. Anche da questo punto di vista in Italia non è stato fatto ancora molto [51]. In Spagna, invece, si reperiscono molteplici riferimenti alla digitalizzazione all’interno del Codigo de Buen Gobierno de las Sociedades Cotizadas del 2020; notazioni in materia di data scientist e computer scientist si trovano poi pure nel Codice di Corporate Governance olandese del 2016 [52]. Sarebbe tuttavia auspicabile che venissero predisposte regole di comportamento settoriali nelle quali mettere in correlazione modelli di condotta e principi etici, con l’obiettivo di porre freni alla digitalizzazione estrema. In questo senso, alcuni preziosi spunti possono essere reperiti nelle linee guida, intitolate Empowering AI leadership. An Oversight Toolkit for Board of Directors, elaborate da un gruppo di lavoro coordinato dal Word Economic Forum [53]. Per queste ragioni, meriterebbe di essere seguito – come è stato suggerito – un approccio comply or explain [54], in presenza di investimenti importanti in tecnologia per finalità di governance, comunicando quali specifici apparati organizzativi e quali policy sono stati realizzati con questo fine, soprattutto quando ci si vuole scostare dalle indicazioni di provenienza digitale. È altrettanto chiaro che quando si affrontano tematiche di digitalizzazione il collegamento con le problematiche ESG [55] è molto forte, soprattutto dal punto di vista della sostenibilità. [continua ..]

NOTE