L’eugenismo della “intelligenza artificiale generale”
Uno studio di Timnit Gebru ed Émile P. Torres dimostra come quell’utopia riproponga i temi fondamentali di una ideologia funesta
L’eugenismo è l’ideologia che aspira alla selezione artificiale degli esseri umani. Pretende che non sia la natura indifferente a scegliere i più fit per la sopravvivenza, ma altri umani. I quali possono decidere perciò anche i criteri per farlo e la scala bene-male su cui valutare i “migliori”, cose che in natura non esistono.
L’eugenismo arcaico mescolava la raffinatura domestica di razze animali con l’ammirazione per gli eroi e la primitiva repulsione per lo straniero pericoloso in quanto diverso. Platone e Aristotele però ce lo hanno consegnato sotto un primo manto di autorità filosofica. Verso fine ‘800 Galton vi aggiunse il darwinismo, e poco dopo arrivarono le misure del QI. Così l’eugenismo indossò la veste scientifica, e con esso i vecchi pregiudizi cattivi che vedevano la povertà, il colore della pelle o la disabilità come evidenze di una natura inferiore che merita odio.
Con la tecnica del XX secolo l’eliminazione dei “subumani” ha toccato il fondo del genocidio industriale nazista. Ma ha prodotto pure – storia meno nota – i programmi di sterilizzazione forzata che tanti rispettabili Paesi adottarono nei confronti di minoranze etniche e “devianze” varie. In California, per dire, andò avanti dal 1909 al 1979 (fino al 2014 nelle carceri!), e a suo tempo fornì a Hitler un autorevole studio di fattibilità.
L’informatica e l’ingegneria genetica esaltano l’eugenismo positivo del “potenziamento” (enhancement), dei “better babies”, dei “better brains”, sempre vagheggiando quello stadio trascendente in cui «l’umanità realizza consapevolmente il suo vero destino» (come disse nel 1957 l’eugenista Julian Huxley, che a quanto pare riteneva di conoscere questo «vero destino»).
Ingenuo e insipiente come alle origini, il nuovo eugenismo si è integrato a meraviglia con l’iperliberalismo smarrito nell’espansione infinita delle libertà individuali: design del corpo, del gender, dei figli, della vita. Proiezioni di una specie post-umana che in realtà sono estratti dalla miniera delle nostre debolezze, concessa allo sfruttamento per alzare il PIL.
Ed eccoci all’ultima variante dell’eugenismo: l’ossessione per l’“intelligenza artificiale generale” (AGI), come illustra scrupolosamente il lavoro appena pubblicato da Timnit Gebru ed Émile P. Torres, con una genealogia in parte riassunta sopra. È un tesoro di consapevolezza, di questi tempi: chi può la legga per intero.
Al centro c’è una famiglia di ideologie futuriste cresciute negli ultimi decenni coltivando sogni di perfezionamento, immortalità ed espansione cosmica mediante l’ibridazione umana con macchine informatiche: Transumanismo, Extropianismo, Singolaritanismo, Cosmismo, Razionalismo, Altruismo Effettivo e Lungotermismo (le ultime due sono etiche utilitariste calcolabili al 100%). Gli autori le studiano da tempo e hanno anche reso popolare l’acronimo TESCREAL per coglierle come unità.
Sembra roba uscita dalla fantascienza, e lo è. Ma i profeti che annunciano l’imminenza dell’intelligenza artificiale generale (Altman, Bostrom, Tegmark, Goertzel, ecc.) e i miliardari che la finanziano (Musk, Thiel, Tallinn, ecc.), sono tutti affiliati a quei movimenti, e stanno usando il loro enorme potere e immani risorse finanziarie per realizzarne le fantasie. Visti gli exploit dei Language Models, ora vedono l’intelligenza artificiale generale come la via più promettente; il resto può attendere.
La piena continuità coi languori eugenetici si vede prima di tutto nella loro arroganza infantile di attribuirsi il giudizio universale, la superiorità assoluta e l’onnipotenza. È gente che parla degli esseri umani solo in termini di QI e di coefficienti di utilità. Discettano con confidenza su cosa sia meglio fare di qui a diecimila miliardi di anni. Si sentono una stirpe di semidei della logica cui tocca il destino di salvare l’umanità. A modo loro, ovviamente, cioè traslocando tutto e tutti nel dominio del calcolabile. Loro lo chiamano «paradise-engineering», la ingegnerizzazione del paradiso in terra, in vista della «completa abolizione della sofferenza nell’Homo Sapiens».
Intanto, osservano i due autori, «la missione di costruire quello che sembra un sistema onnisciente in grado di svolgere qualsiasi compito in qualsiasi circostanza ha già provocato molti danni documentati ai gruppi emarginati, tra cui sfruttamento dei lavoratori, furto di dati, razzismo ambientale, misinformation e disinformazione, plagio, e sistemi che amplificano visioni egemoniche come razzismo, abilismo, omofobia e classismo».
Ma i paladini dell’intelligenza artificiale generale ignorano la realtà e le persone in carne e ossa. Temono solo, come Asterix, che l’intelligenza artificiale generale gli caschi sulla testa: l’estinzione umana ad opera della loro stessa creatura. Il culto all’AGI infatti ha il doppio volto utopia–apocalissi come ogni escatologia religiosa che si rispetti. Perché in sostanza si tratta di religione.
David F. Noble lo documentava già nella IA di quasi 30 anni fa: «Nonostante tutta la loro intellettuale iconoclastia e le loro fantasie futuristiche, i ricercatori rimasero immersi in un milieu essenzialmente medievale di mitologia cristiana». E così è ancora.
