Sistemi di compliance e intelligenza artificiale. Dallo “Stato etico-reputazionale” allo “Stato computazionale”

di Giovanni Reho – In una prospettiva futura, come sembrano indicare i numerosi e crescenti sistemi di compliance, non è del tutto peregrino considerare una possibile associazione evolutiva dei sistemi di compliance (che sostituiscono o integrano in modo significativo il diritto classico) con l’emergente e inarrestabile affermazione dell’intelligenza artificiale.

Ebbene, se il diritto classico – il diritto vivente nella stratificazione storica dell’esperienza umana e giuridica – rappresenta un corpo normativo difficilmente sussumibile all’interno del funzionamento algoritmico dell’intelligenza artificiale, non altrettanto problematica potrebbe invece risultare l’incorporazione di sistemi normativi semplificati etico-reputazionali. Questi ultimi infatti hanno una loro organizzazione intrinsecamente essenziale (quasi manichea, “giusto” o “ingiusto”) che si inserisce senza difficoltà in uno schema computazionale proprio dell’intelligenza artificiale.

Un sistema normativo di tipo etico-reputazionale potrebbe risultare più semplice da gestire con l’intelligenza artificiale rispetto al diritto classico per una serie di ragioni legate alla natura flessibile, dinamica e basata sui dati di tale sistema.

La struttura di un sistema etico-reputazionale si compone essenzialmente di dati e metriche e i suoi referenti fondamentali sono costituiti da indicatori di comportamento, indici di valutazione reputazionale e da dati oggettivi sensibili ed osservabili quali ad esempio feedback, rating, performance ambientali o sociali, che nel loro insieme consentono di formare metriche standardizzate e accessibili in tempo reale.

Questo sistema è congeniale per l’intelligenza artificiale che si adatta in modo pressoché istantaneo nell’attività di gestione di grandi quantità di dati strutturati e non strutturati che derivano da fonti specifiche quali report aziendali, social media, feedback dei consumatori, audit digitalizzati, ecc.

Compliance e AI possono dunque integrarsi armonicamente mediante l’analisi di modelli di comportamento attraverso algoritmi di apprendimento automatico ovvero grazie alla valutazione di conformità o di devianza rispetto agli standard etico-reputazionali secondo criteri chiari e basati su punteggi.

Nel diritto classico questa integrazione è più problematica in quanto una valutazione di conformità deve inevitabilmente passare attraverso l’interpretazione corretta, articolata e complessa di una moltitudine di norme giuridiche ciascuna delle quali è ispirata da una propria ratio secondo il sistema normativo di riferimento e nell’ambito di una pluralità di normative con le quali il diritto si integra e si compone in una pluralità infinita di principi, valori e significati. Il sistema del diritto classico è in altri termini molto difficile da decifrare e automatizzare da parte dell’AI anche in considerazione di norme giuridiche la cui interpretazione può essere soggetta a valutazioni oscillanti a seconda della discrezionalità personale, il mutevole contesto di riferimento e la possibile necessità di bilanciamento di interessi in conflitto.

L’integrazione con il diritto classico richiede pertanto una profonda comprensione del linguaggio giuridico e del contesto socioculturale, elementi che per loro natura ed essenza sono difficili da gestire in modo completamente automatizzato.

Viceversa, come si accennava, un sistema etico-reputazionale è facilmente standardizzabile e quindi processabile mediante modelli di AI perché si basa su principi generali (es. trasparenza, responsabilità sociale, correttezza) e su risultati misurabili (es. performance nei diritti dei lavoratori, soddisfazione dei consumatori).

Come noto, peraltro l’AI può raggiungere risultati eccellenti nella automazione di processi ripetitivi e nelle analisi predittive e in questo senso un sistema etico-reputazionale, in quando alimentato da dinamiche soggette a procedure di continua valutazione, offre un terreno fertilissimo per il processamento da parte dell’AI.

Altro elemento in favore dell’integrazione tra sistemi di compliance e AI è dato dalla possibilità di monitoraggio continuo da parte dell’AI che può essere in grado di esercitare una sorveglianza costante sui comportamenti aziendali o individuali, identificando rapidamente possibili devianze o potenziali fattori negativi da valutare.

Un sistema etico-reputazionale si concentra sui risultati effettivi e non solo sulla conformità formale. L’AI potrà dunque verificare questi risultati analizzando dati oggettivi e osservabili (es. report ambientali, certificazioni verificate).

Nel diritto classico, invece, il focus riguarda le formalità procedurali e gli adempimenti normativi, che non sempre possono essere integralmente rispettati (ad esempio, fenomeni come il compliance washing).

Le caratteristiche proprie del diritto classico rendono il lavoro dell’AI più complesso sia nella fase di interpretazione che di manipolazione dei dati con conseguente difficoltà nel processo di automazione.

Se l’integrazione tra sistemi di compliance e AI è caratterizzata da un processamento tendenzialmente snello ed elastico, in uno scenario futuro possibile, pur apparendo oggi apparentemente avveniristico, è pensabile che la virata verso sistemi etico-reputazionali sia funzionalmente preferibile per una organizzazione, pianificazione, direzione e gestione della comunità globale secondo regole standardizzate sussumibili all’interno di codici etici che corrispondono alle esigenze di un sistema metrico-computazione e quindi essenzialmente algoritmico.

Può trattarsi di uno sviluppo possibile per quanto per certi versi allarmante. Se ancora spingessimo oltre la visione delle cose, potremmo pensare ad una ipotesi di futura organizzazione statuale e globale su base computazionale (cd. “Stato Computazionale”: si tratta di un concetto definitorio nuovo, elaborato nell’ambito del presente studio).

Un sistema computazionale elabora informazioni attraverso algoritmi, regole e dati, con l’obiettivo di raggiungere risultati specifici e si basa su tre fondamentali componenti: (1) Input: i dati o le informazioni in ingresso che vengono elaborati; (2) Elaborazione: la fase in cui i dati vengono processati tramite modelli matematici, algoritmi o programmi; (3) Output: i risultati finali, che possono essere decisioni, azioni o nuove informazioni utili.

I sistemi computazionali possono spaziare da semplici calcoli matematici a complessi modelli di intelligenza artificiale, come i sistemi predittivi o di automazione decisionale.

Uno “Stato Computazionale” può essere definito come un sistema statuale, amministrativo e giudiziario nel quale l’intervento umano è diventato marginale oppure assente, in quanto fondato su sistemi computazionali come l’intelligenza artificiale, il machine learning e la gestione automatizzata dei dati. Questa forma di Stato, sul presupposto di assumere decisioni fondate su dati oggettivi, si distingue per l’integrazione di tecnologie avanzate in ogni aspetto della gestione statale, con la promessa di aumentare l’efficienza amministrativa, garantire trasparenza e uniformità di trattamento e minimizzare gli errori giudiziari.

I sistemi tecnologici assumono quindi un ruolo centrale nel funzionamento delle istituzioni, gestendo in maniera algoritmica i processi legislativi, esecutivi e giudiziari.

Lo Stato Computazionale potrebbe mantenere e fare proprio il principio della separazione dei poteri con innovazioni aberranti per il destino della specie umana.

La struttura decisionale potrebbe essere basata su algoritmi e quindi diventare una vera e propria legislazione algoritmica: il processo di formazione delle leggi passa attraverso fasi di proposta, analisi e ottimizzazione grazie all’impiego di modelli computazionali che scansionano e analizzano l’impatto della eventuale normativa su diversi settori. Quale potrebbe essere la verifica dei risultati di una nuova imposta in un determinato settore di riferimento. Sulla base dei risultati la legge sarà promulgata secondo una valutazione preventiva di gradimento.

La gestione amministrativa dello Stato Computazionale è affidata a decisioni esecutive completamente automatizzate. Le politiche pubbliche potrebbero essere implementate da sistemi computazionali che allocano risorse in base a priorità stabilite da dati reali (es. crisi ambientali o emergenze sanitarie).

Si insedierebbe inoltre una vera e propria giustizia computazionale: le dispute legali potrebbero essere risolte parzialmente da sistemi di intelligenza artificiale che analizzano i casi in base a precedenti giurisprudenziali e normative, emettendo verdetti preliminari.

Aspetto cruciale per la esistenza di uno Stato Computazionale è la raccolta e analisi massiva di dati in tempo reale, per monitorare bisogni e tendenze della popolazione (dati demografici e sociali); per anticipare crisi economiche, sanitarie o ambientali (sistemi predittivi) e per la personalizzazione delle politiche giudiziarie, per cui ogni cittadino potrebbe essere considerato individualmente nel sistema decisionale, ricevendo servizi o risposte calibrate alle proprie esigenze.

Un simile Stato ha ovviamente una capacità algoritmica tentacolare procurandosi di gestire in modo automatizzato i sistemi burocratici, i sistemi di welfare e i servizi sociali secondo una valutazione aggiornata e continua a misura di ogni singolo cittadino in base al reddito, salute, educazione, etc. Gli stessi sistemi fiscali potrebbero essere automatizzati per adattare le imposte alle condizioni economiche del singolo contribuente o del sistema economico complessivo.

Per quanto tutto questo è possibile, è altrettanto auspicabile che non avvenga per evitare di crollare nell’abisso dell’umanità. Uno stato computazionale potrebbe assicurare la competitività tra le imprese e garantire la soluzione di ogni criticità del mercato, ma con quali regole e soprattutto con le regole di chi? E con quali costi umani?

Il rischio potenziale o anche solo parziale di una simile prospettiva deve imporre un dibattito profondo sulle implicazioni etiche, sociali e giuridiche che possono scaturire per il futuro del genere umano ed evitare che il calcolo sostituisca la giustizia e il potere si concentri in poche mani.

Giovanni Reho

Comments

comments