Tutto fa parte del punteggio del Social Credit System cinese: comportamenti d’acquisto, posizione di credito, amicizie e relazioni online. Uno scenario alla Black Mirror, con ricompense per le persone ritenute più “affidabili”
In una scala distopica che va dal Grande Fratello a Black Mirror, siamo decisamente a metà strada. Nel 2014 il Consiglio di Stato cinese rilasciava un documento che preannunciava l’istituzione di un “Piano per la costruzione di un Social Credit System”. Al netto dei tempi di realizzazione, la domanda di base era — e resta — una: cosa ne sarebbe di un bel punteggio che valuti che tipi di cittadini sarebbero gli abitanti d’Oriente, in termini di affidabilità?
Presto detto: il governo, quel Social Credit System (SCS), per valutare l’affidabilità dei suoi 1,3 miliardi di cittadini, lo sta costruendo. Per costruire “una cultura della sincerità”, dice. Che poi, si tradurrebbe in controllo. Una nota ufficiale descrive il sistema come qualcosa che creerà “un ambiente di opinione pubblica nel quale il mantenimento della fiducia sia percepito come glorioso”, e “che rafforzerà la sincerità negli affari governativi, quella commerciale, sociale e la costruzione della credibilità giudiziaria”. Insomma: se siete dei bravi cittadini, ve lo diciamo noi.
Questo è lo scenario prospettato da Rachel Botsman, in un estratto del suo “Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart (Penguin Portfolio)”, pubblicato da Wired Uk.
È il monitoraggio dei consumatori di Amazon con una torsione politica orwelliana
Così Johan Lagerkvist, specialista di cultura cinese dell’International Institute of the Swedish Institute of International Affairs, ha commentato le rivelazioni dell’autrice.
Per ora, tecnicamente, l’adesione a questo punteggio dei cittadini che sembra un Klout, ma è gestito dal governo, è su base volontaria.
Sarà obbligatorio a partire dal 2020
Allora, il comportamento di ogni cittadino o persona giuridica (enti, società) sarà valutato e classificato.
Collaborazioni. Il governo cinese ha concesso a otto privati di elaborare sistemi di algoritmo e punteggio per il meccanismo di Social Credit. Il primo è China Rapid Finance, partner di Tencent e sviluppatore dell’app di messaggistica WeChat (850 milioni di utenti attivi). Poi c’è Sesame Credit, gestita da Ant Financial Services (AFSG), società affiliata di Alibaba, che vende prodotti assicurativi e fornisce prestiti a piccole e medie imprese. Braccio operativo di Ant è AliPay: è quello che le persone utilizzano per lo shopping online, ma anche per pagare ristoranti, taxi, tasse scolastiche, biglietti per il cinema e per trasferire soldi.
Ma i dati che Sesame può gestire non si “limitano” a questi: ha anche collaborato con Didi Chuxing, concorrente di Uber, prima di acquistare Baihe, il più grande servizio di incontri online del paese.
Come funziona. Nel caso del sistema di crediti studiato da Sesame, gli individui sono misurati su una scala compresa tra 350 e 950 punti. Alibaba non si sbilancia sul “complesso algoritmo” che regola la faccenda, ma individua cinque fattori presi in considerazione. Il prima è la storia del credito: il cittadino paga le bollette elettriche o il conto telefonico in tempo? In seconda battuta arriva la capacità di adempimento, cioè “la capacità di un utente di adempiere ai propri obblighi contrattuali”. Il terzo fattore riguarda le caratteristiche personali, ottenuto dalla verifica delle informazioni personali come il numero di cellulare e l’indirizzo. Al quarto posto arriva il “comportamento”: qui entrano in gioco le abitudini d’acquisto. “Ad esempio, qualcuno che gioca videogiochi per dieci ore al giorno, non sarebbe ben giudicato”, afferma Li Yingyun, direttore per la Tecnologia di Sesame. “Chi acquista spesso i pannolini sarebbe considerato un genitore, il che, probabilmente, lo rende una persona responsabile”. Ora, da qui non è difficile immaginare come la politica possa intervenire, via suggerimenti, a promuovere prodotti che desidera e a disincentivare quelli sgraditi.
Ma andiamo oltre: il sistema ficcherà il naso anche nelle relazioni interpersonali. E così, se si credeva che domande come “a chi sei amico?” — seconda solo a “di chi sei figlio?” — fossero un ricordo lontano di piccole realtà di paese, tocca fare un passo indietro. La scelta dei propri amici online, così come il tenore dei commenti, diventano fondamentali: giudizi positivi sul governo e l’economia del paese, neanche a dirlo, innalzano il punteggio.
Alibaba al momento è convinto del contrario, e cioè che niente di negativo tra i commenti possa portare giù il punteggio, ma sembra essere una mera illusione: posto che l’algoritmo resta segreto, la Cina è già nota per aver chiuso la bocca a molti dissidenti, anche quando esprimevano le proprie opinioni all’interno di chat. E anche qualora non fosse così, le aziende, a regime completo del Social Credit System, sarebbero praticamente indotte a fare attività di spionaggio sui propri utenti per conto del governo.
Cosa ha indotto, quindi, i milioni di persone che hanno già firmato per l’adesione alla gara del controllo? Escluse le ragioni di terrore — paura di essere già catalogati come non partecipanti — potrebbero essere stati attratti dalle ricompense, dai “privilegi speciali” chi sarà considerato “affidabile”.
Anche perché si tratta di premi sostanziosi: buoni spesa, prestiti agevolati, noleggio auto senza necessità di deposito, check-in veloci in alberghi di lusso. Per questo, a soli tre mesi dal lancio, su Weibo, cioè il Twitter cinese, gli utenti si vantano del loro punteggio. Se il punteggio Sesame cresce, si viene anche meglio profilati su Baihe, e hai visto mai, che trovi moglie.
Non serve spiegare come tutto questo possa viziare le relazioni sociali (chi non si sentirà autorizzato a chiedere agli amici di non rovinare la scalata con un commento negativo alla politica?) e far fiorire, dall’altro lato, un mercato nero della reputazione online, per far innalzare i punteggi (come succede adesso con la vendita di like e follower, ma con ripercussioni ancor peggiori).
E se adesso sono tutti concentrati sulla positività del punteggio, con l’introduzione obbligatoria al sistema nel 2020, bisognerà anche guardare in faccia le sanzioni. Quelli che adesso sono premi, potrebbero essere merce di scambio al ribasso per chi non è in linea con la parte alta della classifica: non sei affidabile? Ti riduciamo la velocità di connessione, o magari l’accesso al ristorante.
E ne potrebbe essere di tutte quelle persone che non hanno una storia di credito, che non possiedono auto, o case? “La banca centrale ha i dati finanziari da 800 milioni di persone, ma solo 320 milioni hanno una storia di credito tradizionale”, spiega Wen Quan, un influente blogger che scrive sulla tecnologia e la finanza.
E mentre questa macchina del grande controllo viene permeata ufficialmente dalla politica cinese, il tema del controllo tiene banco anche a Occidente. Kevin Kelly, nel suo “The Inevitable”, sottolinea un momento cruciale nelle scelte di tutti: se optare per una sorveglianza a senso unico, o per un meccanismo che conduca alla reciprocità tra controllori e controllati.
La vita diventerà un concorso di popolarità senza fine, con tutti noi a concorrere per il voto più alto, quello che solo pochi possono raggiungere.
“Se non restiamo vigili, la fiducia distribuita potrebbe diventare vergogna in rete”, dice la Botsman.
