Schiavi dell’algoritmo

Acquistare feltrini da mettere sotto le zampe dei mobili, almeno negli Stati Uniti, può rivelarsi un ottimo affare. E non solo per la salvaguardia dei pavimenti di casa. Un algoritmo utilizzato dai gestori di carte di credito ha infatti stabilito che chi utilizza quei dischetti rappresenta il miglior cliente possibile per le banche. E questo perchè non può che trattarsi di un individuo talmente scrupoloso da considerare insopportabile l’onta di un debito insoluto.

Ogni stagione ha bisogno di un suo idolo laico, e defunti i vari culti della Ragione, della Storia, o della Scienza, la nuova divinità è quella che porta il nome (con buona pace degli spregiatori dell’Islam), di un matematico arabo del nono secolo, Al-Khwarizm, e che, appunto, della divinità possiede tutte le attribuzioni: sembra capace di influire in modo determinante (e benefico) sulle vicende umane, è misterioso e può essere contattato solo da una ristretta, e perciò potentissima, classe di chierici.
Che l’algoritmo sia una bella (e necessaria) invenzione, è fuori di dubbio. Le pagine indicizzate da Google sono arrivate all’incredibile cifra di 30 mila miliardi. Su Facebook vengono postate quotidianamente 350 milioni di foto e 4,5 miliardi di like. Nell’arco di 48 ore, la rete genera la stessa quantità di informazioni che l’umanità ha prodotto dalla preistoria fino al 2003, e tale velocità è destinata ad aumentare.
Ogni giorno Google gestisce 3,3 miliardi di richieste provenienti dai suoi utenti. Solo grazie agli algoritmi, cioè a una serie d’istruzioni matematiche (segrete) che servono a vagliare grandi masse di dati, da una tale disordinata immensità è possibile ricavare ciò che è utile; tanto alla banca desiderosa di individuare la buona clientela che alla coppia in cerca di un ristorante romantico, ma non dispendioso, per festeggiare l’anniversario.
Il fatto è che la cieca fede nell’algoritmo (e forse anche la sua maggiore comodità rispetto al faticoso processo dell’umana valutazione) sta portando a una dilatazione piuttosto inquietante del suo dominio. Dilatazione alla quale si accompagnano i primi dubbi sulla sua effettiva imparzialità. Insomma, il nuovo culto incontra le prime (pesanti) apostasie.
Nelle scorse settimane, per restare solo in Italia, sia il Garante della Privacy Antonello Soro che quello della Concorrenza Giovanni Pitruzzella, hanno lanciato l’allarme. «L’assunzione di lavoratori, la determinazione dell’affidabilità di un prestito, la valutazione di un insegnante, persino il rating di legalità ai fini dell’aggiudicazione degli appalti sono sempre meno il frutto di una scelta umana e sempre più l’esito di selezioni algoritmiche alle quali deleghiamo quasi fideisticamente il compito di decidere aspetti determinanti della vita delle persone», ha osservato Soro. «Il consumatore», ha detto Pitruzzella, «è abituato a ritenere neutrali le informazioni che vede sul suo schermo. Invece sono selezionate da un algoritmo, e il modo in cui questo opera ha conseguenze enormi sulla formazione dell’opinione pubblica. Trovare una notizia al primo posto, o in una seconda schermata, cambia tutto, anche sulle dinamiche competitive…».
Dinanzi a una situazione nella quale la rivoluzione algoritmica non si limita ad aiutare gli esseri umani, ma finisce sempre più per orientarli e persino per predire (condizionandolo) il futuro, è lecito porsi le domande del sociologo francese Dominique Cardon: «Onnipresenti, i calcoli per noi restano un mistero. Guardiamo ai loro effetti senza esaminarne la fabbricazione. Quali sono i principi rappresentativi che animano il modello statistico usato per mettere in classifica tale oggetto piuttosto che un altro? Chi pilota la codificazione dei calcoli, e con quali obiettivi?».
Interrogativi ai quali il Garante della Privacy fornisce una preoccupante risposta: gli algoritmi non sono neutrali perchè riflettono i pregiudizi (o le intenzioni) di chi li ha concepiti. «Numerose applicazioni hanno dimostrato che gli algoritmi non sono matematica pura, infallibile e neutra, ma piuttosto opinioni umane strutturate in forma matematica e riflettono spesso le precomprensioni di chi li progetta, o le serie storiche assunte a riferimento. Con il rischio, dunque, non solo di cristallizzare il futuro nel passato, leggendo il primo con gli schemi del secondo, ma anche di assumere le correlazioni (quasi sempre contingenti) delle serie storiche considerate come relazioni necessariamente causali».
L’esempio più eloquente è quello di un algoritmo utilizzato negli Usa per calcolare il rischio di recidiva penale, che assegna ai neri una più elevata percentuale di “ricadute” solo sulla base di una certa serie storica presa a riferimento. Effetto casuale, o piuttosto voluto ?
Tutto ciò ha anche una ricaduta politica. Se è in grado di condizionare i cittadini nella scelta di un dopobarba o di un’auto, l’algoritmo può essere utilizzato anche per suggerire chi votare. L’elezione di Trump è stata segnata dal sospetto (interventi russi a parte) che la sua campagna si sia servita di un diabolico algoritmo messo a punto dalla Cambridge Analytica.
Le (temute) ambizioni politiche del capo di Facebook, Mark Zuckerberg, già dimostrano che al vecchio populismo erga omnes si può sostituire una più mirata azione dispiegata attraverso la manipolazione degli elettori-navigatori. L’impressione è che per la prima volta nella storia le chiavi del futuro siano state affidate a giocatori non solo privi di controllo democratico, ma persino di volto. Capaci di usare la matematica come, e meglio, dei missili, e dei cannoni.