Nel 2016 un famoso algoritmo della mobilità, che avrebbe dovuto gestire le assegnazioni degli assunti della Buona Scuola all’epoca del governo Renzi, generò un gran pasticcio: moltissimi docenti furono dirottati a migliaia di chilometri da casa con conseguenti ricorsi e azioni giudiziarie.
Alcuni anni dopo la sentenza del Tar del Lazio, confermando il grossolano errore dell’algoritmo usato, ha ritenuto che il Ministero dell’Istruzione si sia reso colpevole “di una grave lacuna amministrativa” lasciando il potere decisionale ad un algoritmo non controllato da mano umana. Per i giudici si è applicato “un metodo orwelliano che cozza con la Costituzione e persino con la Convenzione europea dei diritti dell’uomo”.
Molto importante è quanto si legge nella sentenza riguardo l’uso che si debba fare di questi strumenti: “le procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possono mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio, che solo un’istruttoria affidata a un funzionario persona fisica è in grado di svolgere”. Va rimarcato che in verità una perizia tecnica aveva evidenziato che l’algoritmo era confuso, lacunoso, ampolloso, elaborato in due linguaggi di programmazione differenti, di cui uno risalente alla preistoria dell’informatica, costruito su dati input gestiti in maniera sbagliata.
Accanto a questo esempio nostrano vi è il famoso caso del 2018, che ha riguardato Amazon che, per selezionare i curricula dei candidati più idonei ad essere assunti in azienda, ha progettato un algoritmo addestrandolo sulle assunzioni degli ultimi dieci anni, in prevalenza maschili, con l’inevitabile conseguenza che l’algoritmo ha sviluppato un bias (pregiudizio cognitivo) che lo ha indotto a sottostimare il valore di un profilo femminile.
È evidente che codici ed equazioni matematiche governano ormai profondamente la nostra vita ed in particolare il mondo digitale, sempre più pervasivo, opera sostanzialmente in base ad algoritmi: quelli dei siti di vendita, dei social network, quelli per la geolocalizzazione o per l’assegnazione dei posti all’università. Non vi è più un fenomeno fisico, economico e sociale che possa oggi sottrarsi ad una modellazione matematica.
Aurélie Jean è una esperta, apprezzata a livello mondiale, di simulazione numerica e modellizzazione matematica applicate a diversi ambiti di ricerca, dalla medicina all’ingegneria, dall’economia alla finanza. Tra i suoi lavori, con importanti ricadute per la sicurezza e la salute, vi è ad esempio la simulazione con i suoi algoritmi del funzionamento del trauma cranico o dell’elasticità di un tessuto cardiaco rigenerato in laboratorio. La scienziata ha anche una passione per la divulgazione, perché ritiene che la riflessione sugli avanzamenti scientifici e tecnologici debba riguardare un pubblico vasto.
La storia degli algoritmi non è e non deve essere confinata nei laboratori o nei dipartimenti di ricerca e sviluppo delle aziende: per la studiosa appartiene a tutti noi, singoli e collettività, che devono essere opportunamente informati dei benefici, delle possibilità e delle criticità.
La scienziata francese nel testo “Nel paese degli algoritmi” ci accompagna in un viaggio, per aiutarci ad avere maggiori e semplici strumenti di conoscenza in un mondo che diventa a vista d’occhio sempre più complesso e che rischia di apparire estraneo e lontano. Jean è mossa dall’idea che la comprensione del funzionamento degli strumenti digitali sia fondamentale per difendere le nostre libertà. Come appare sempre più evidente, anche per i progetti e le politiche di ripresa che tutta l’Unione Europea è chiamata ad implementare, i diritti di tutti noi ruotano intorno all’uso delle tecnologie digitali, che a volte decidono in parte per noi e ci aiutano nel lavoro e nella vita. Capendone la genesi, è più facile cogliere i limiti dell’intelligenza artificiale, ma anche lo spettro delle possibilità.
Con ogni probabilità, quando si parla di algoritmi, pensiamo immediatamente al mondo digitale, ma la disciplina dell’algoritmica ha una storia che risale a molto prima delle applicazioni per smartphone o dei primi microprocessori. Le radici affondano nelle lezioni di logica di Euripide, trecento anni prima della nostra era e l’etimologia della parola è legata alla latinizzazione del nome arabo del matematico Muhammad ibn Musa al-Khuwarizmi. L’alone di mistero che aleggia intorno al concetto di algoritmo deriva proprio da una mancata o cattiva spiegazione, che invece si rende necessaria, visto l’impiego sempre più pervasivo. Per esempio, si può trovare un metodo logico per individuare il melone più grosso di una bancarella del mercato il più in fretta possibile e senza errori. Ciò non richiede molti calcoli matematici: bastano l’occhio umano e un metodo di selezione intelligente. Abbiamo il nostro metodo e lo applichiamo ogni settimana al mercato? Ecco un algoritmo. Stringatamente possiamo dire quindi che il misterioso algoritmo non è altro che un insieme di regole operative, la cui applicazione permette di risolvere un problema enunciato per mezzo di un numero finito di operazioni. L’algoritmo numerico, quello destinato a essere eseguito da un computer, è solo un particolare tipo di algoritmo.
L’aspetto su cui Aurélie Jean vuole richiamare la nostra attenzione è la possibilità che nella creazione degli algoritmi, in particolare quelli digitali, si possa dare origine a dei bias, dei pregiudizi cognitivi che caratterizzano la conoscenza umana e che possono distorcere gli algoritmi al punto da generare discriminazioni inaccettabili. Sono i nostri pregiudizi cognitivi ad indurci in errore, ma anche per un accorto scienziato non sono eliminabili. Si possono attenuare e soprattutto prenderne coscienza. Il cervello umano è strutturato per procedere per categorie e quindi per sviluppare bias. Pretendere di combatterli a tutti i costi equivarrebbe a combattere un automatismo naturale dell’essere umano. Ma se non si è colpevoli perché si hanno dei bias cognitivi, ben diverso è agire procurando danno ad altri in virtù di tali pregiudizi. La sfida consiste quindi nell’evitare che i bias cognitivi si convertano in bias algoritmici, che possano generare discriminazioni tecnologiche e quindi sociali o razziali.
Cinema e letteratura, distopie varie, ci hanno abituato a paventare l’avvento, magari in un futuro lontano, della “singolarità tecnologica”, ovvero il momento in cui una sovra-intelligenza algoritmica potrebbe superare l’intelligenza umana. Si evocano robot umanoidi, macchine che minacciano di ridurci in schiavitù. Ancora una volta la confusione che regna affonda le radici nell’ignoranza dei meccanismi di base dell’intelligenza artificiale e degli algoritmi. Quelle che sono le nostre pecche vengono proiettate sui robot e quindi sugli algoritmi. Ma ci spiega Jean, tutti noi, dai giornalisti agli scienziati, dai politici ai comuni cittadini parliamo di essi in termini antropomorfi: “imparano”, “decidono”, “ci ascoltano”. Personificandoli (pensiamo agli assistenti vocali) finiamo per sviluppare la tendenza a considerarli alla stregua di esseri capaci di ragionare, agire e quindi assumersi responsabilità. Ed è allora quindi che perdiamo di vista l’origine prettamente umana dei bias cognitivi e delle loro insidie. Questo bias naturale, che ci ispira una certa empatia verso l’intelligenza artificiale, è il ben noto “effetto ELIZA”. Prende il nome da un chatbot, un “agente intelligente” sviluppato dal MIT nel 1966, il quale comunicava per iscritto con i pazienti in psicoterapia, riprendendo quel che dicevano in forma interrogativa. Alla fine dell’esperienza, si rilevò che molti pazienti cominciarono a sentirsi come stessero parlando con un essere umano e a provare delle emozioni.
L’intento della scienziata Jean è di spingerci ad essere più informati e quindi consapevoli. Comprendere il “ciclo di vita” di un bias, la sua trasmissione dall’umano all’algoritmo e poi allo strumento digitale è il modo migliore per mutare di atteggiamento nei confronti degli strumenti tecnologici.
L’inclusione digitale è ormai una necessità ampiamente riconosciuta. Ma siamo tutti un po’ persi in questa rivoluzione di cui si parla su tutti i media, un profondo cambiamento tuttavia in gran parte frainteso. Come ha rilevato la scienziata, i nostri leader economici e politici spesso non comprendono appieno i meccanismi tecnologici che sono alla base dei cambiamenti in atto, in tal modo rischiamo di non avere guide competenti ed illuminate.
Da ultimo Jean auspica che i filosofi tornino ad essere scienziati, poiché sembra di trovarci in un tempo in cui i filosofi riflettono su un mondo che sfugge loro, mentre gli scienziati costruiscono un mondo su cui non riflettono. L’etica, che manca nella formazione di scienziati, matematici, tecnici, informatici, è una grande ed ineludibile questione: per il benessere di tutti non si deve accantonare l’opportunità di soffermarsi sul rischio di danneggiare alcune categorie di persone.
di Rosaria Russo