Il lato oscuro del metaverso, tra sorveglianza e molestie

Nel 2016 esplose la moda di Pokémon Go. Milioni di persone iniziarono a vagare ovunque – compresi cimiteri e stazioni di polizia – per catturare i mostriciattoli protagonisti del gioco in realtà aumentata di Niantic. Tra i vari luoghi in cui i giocatori si riversarono c’erano anche alcuni specifici negozi, tra cui McDonald’s e Starbucks. Non arrivavano lì per caso: Niantic aveva infatti stretto una partnership con parecchi esercizi commerciali, che pagavano una quota (circa 50 centesimi di dollaro) per ogni giocatore che entrava seguendo il percorso di Pokémon Go.

Un anno dopo, la società dichiarò di aver inviato qualcosa come 500 milioni di visitatori nelle varie “postazioni sponsorizzate”. Milioni di persone in tutto il mondo erano quindi state incentivate a mangiare hamburger, consumare caffè o magari comprare vestiti o accessori attraverso un videogioco che portava gli utenti là dove si volevano che fossero. Niente di illegale. Eppure, un tale potere di eterodirigere i comportamenti delle persone solleva qualche interrogativo: fino a che punto è moralmente accettabile che le nostre scelte siano così pesantemente influenzate? 

Uno sguardo al futuro (prossimo)

Domande lecite a maggior ragione se davvero, nel giro di qualche anno, buona parte della nostra quotidianità – e quindi dei nostri consumi, svaghi, attività e altro – traslocherà nel metaverso: il mondo digitale, immersivo e da vivere (principalmente) nella realtà virtuale che stanno costruendo colossi del calibro di Meta (Facebook), Epic Games, Microsoft e altri. Se già è possibile avere un’influenza diretta sulle nostre azioni perfino nel mondo fisico (come mostra l’esempio di Pokémon Go), che cosa succederà quando – e se – vivremo parte delle nostre esistenze in un mondo virtuale in cui ogni nostro singolo movimento può essere monitorato e in cui le occasioni di attirarci là dove la pubblicità ci vuole aumenteranno a dismisura?

Ci recheremo nella palestra virtuale del metaverso (dove però gli esercizi vengono eseguiti davvero) perché vogliamo provare questa esperienza o perché la miriade di dati che si possono raccogliere in questo mondo digitale ha permesso di metterci in mano un buono sconto nel momento giusto? E abbiamo accettato di fare un acquisto che ci eravamo ripromessi di evitare perché l’abbiamo voluto noi o perché sono state architettate le condizioni perfette per attirarci in trappola? 

Vi ricordate quanto è stato strano – sembra un secolo fa – scoprire che dopo aver cercato informazioni online su una marca di scarpe venivamo perseguitati dalle pubblicità di quel brand? Nel metaverso, tutto ciò potrebbe essere immensamente più pervasivo e non limitarsi a pubblicità personalizzate, creando invece stimoli personalizzati che ci sproneranno a eseguire ben precise azioni. 

Ovviamente, non è inevitabile che il metaverso prenda questa china e siamo ampiamente in tempo per porre dei vincoli alla sorveglianza, alla pubblicità e alla raccolta dati. Eppure fa una certa impressione che il colosso più avanti di tutti nella corsa al metaverso – Meta/Facebook – sia lo stesso che negli ultimi anni ha pagato miliardi di dollari in multe all’Unione Europea e agli Stati Uniti per abuso dei dati degli utenti. Meta ha già risposto ai prevedibili timori assicurando in più occasioni di voler dare priorità alla privacy degli utenti e aggiungendo che ci vorrà circa un decennio affinché la loro visione di metaverso sia completa: tempo sufficiente per mettere in campo tutte le regole necessarie. 

I dubbi e i rischi

I primi prototipi dl metaverso non fanno però che alimentare timori distopici. Il Washington Post ha recentemente raccontato della software company Environments, che sta testando internamente la propria realtà virtuale destinata al mondo del lavoro: “Cinque impiegati lavorano in questo ufficio virtuale, ciascuno dei quali con un proprio avatar (più o meno) somigliante. Gli impiegati che hanno raggiunto un anniversario lavorativo vengono indicati con delle piccole icone celebrative sulla loro testa, mentre l’amministratore delegato Erin McDannald può raggiungere la scrivania virtuale di ogni impiegato in qualunque momento. Nonostante le intensificate opportunità di controllo manageriale, McDannald ha affermato che nessuno finora si è lamentato”.

Al di là del rischio di trovarci il capoufficio improvvisamente alle spalle, i problemi sul luogo di lavoro riguardano anche la possibilità di monitorare e registrare ogni nostro comportamento, sguardo o momento di distrazione. “I visori per la realtà virtuale possono raccogliere molti più dati degli schermi tradizionali”, spiega sempre il Washington Post. “Ciò dà alle aziende maggiori opportunità di raccogliere e condividere questi dati per la profilazione e la pubblicità. Potrebbero inoltre fornire ai datori di lavoro svariati modi di sorvegliare il nostro comportamento e perfino le nostre menti”.

Come ha spiegato Kavya Pearlman, ad di XR Safety Iniziative (startup che offre consulenza sui temi più delicati del metaverso), “le società potrebbero per esempio usare il tracciamento del movimento degli occhi e di altre parti del volto per determinare se stiamo prestando abbastanza attenzione alle riunioni virtuali a cui partecipiamo o anche per misurare il nostro sovraccarico cognitivo durante i colloqui di lavoro”. Il movimento degli occhi in realtà virtuale, d’altra parte, non è così differente dal movimento del puntatore del mouse sui computer: un dato che già oggi viene raccolto a scopi pubblicitari e non solo.

Se il rischio di raccolta dati biometrici allo scopo di informare i nostri capi dell’attenzione che prestiamo sul luogo di lavoro è al momento soltanto teorico (e serve soprattutto come monito sulle inquietanti potenzialità del metaverso in termini di sorveglianza), altri pericoli sono invece molto più concreti e mostrando quali dati sensibili potrebbero essere raccolti senza difficoltà. Quante volte ci siamo recati nello studio digitale del medico? Perché abbiamo iniziato a frequentare negozi più economici? Quali depliant informativi sui disturbi dell’umore abbiamo raccolto? Il “capitalismo della sorveglianza” potrebbe fare un enorme salto di qualità nel metaverso, riducendo ulteriormente le nostre (legittime) zone d’ombra e monitorando ogni singolo comportamento.

La raccolta dati è però soltanto una delle caratteristiche del mondo online che potrebbe crescere esponenzialmente nel metaverso che verrà. L’altro elemento riguarda il rischio di molestie, hate speech e altri comportamenti violenti, che già oggi si stanno diffondendo in parecchi ambienti in realtà virtuale. Calum Hood è la responsabile per la ricerca del Center for countering digital hate (Ccdh) che ha recentemente investigato le interazioni che avvengono su VRChat, una sorta di social network in realtà virtuale disponibile per Oculus Quest. All’interno di VRChat, gli avatar degli utenti possono partecipare a feste e giochi o riunirsi nella piazza per chiacchierare. Nel corso di undici ore, Callum Hood ha registrato più di 100 incidenti, che in molti casi hanno coinvolto anche ragazzini nemmeno adolescenti: minacce, atteggiamenti aggressivi, molestie sessuali e altro ancora. Nel complesso, il Center for countering digital hate ha stimato che un incidente di questo tipo si verifica ogni sette minuti.

Ma come avvengono le molestie nel metaverso?

L’ha raccontato al New York Times la gamer Chanelle Siggens, che mentre partecipava allo sparatutto multiplayer Population One si è vista approcciare dall’avatar di un altro utente che ha simulato prima un aggressione sessuale e poi ha mimato la masturbazione davanti a lei. Un’altra ragazza ha raccontato di essere stata (virtualmente) palpeggiata sul seno sempre all’interno di Population One e di “aver provato una sensazione orribile”.

A questo punto, è facile prevedere le obiezioni: non sarà mica così grave essere molestati da un avatar in realtà virtuale? Le cose non sono così semplici: secondo Kavya Pearlman di XR safety initiative, le molestie e il bullismo che si verificano in realtà virtuale hanno un impatto psicologico molto superiore a quelle che avvengono nel tradizionale mondo online (per esempio, sui social) e si avvicinano più di quanto si potrebbe pensare a ciò che avviene – anche se non dal punto di vista strettamente fisico – nel mondo reale. D’altra parte, il punto centrale della realtà virtuale è proprio quello di ingannare il nostro cervello facendogli credere di essere davvero presente al suo interno.

“La molestia sessuale non è uno scherzo nemmeno sull’internet normale”, ha scritto su Facebook una ragazza che ne è stata vittima nell’ambiente di Horizon Worlds, la piattaforma sviluppata e pubblicata da Meta platforms per Oculus Rift S e Oculus Quest. “La realtà virtuale aggiunge però un altro strato che rende tutto ancora più intenso”. La situazione rischia di aggravarsi ulteriormente, visto che già oggi si stanno diffondendo – e un domani potrebbero diventare la normalità – le vesti e i guanti aptici che permettono di avvertire sul corpo ciò che avviene nel mondo virtuale: se l’avversario di un gioco ti ha sparato, se un amico ti sta stringendo la mano o anche se qualcuno ti sta molestando.

Gli strumenti di difesa

Come evitare che il mondo virtuale si popoli di troll e molestatori? In un memo interno, il responsabile di Meta per la creazione del metaverso Andrew Bosworth ha spiegato come sia “praticamente impossibile” moderare in maniera significativa il modo in cui le persone si comportano e parlano nei mondi virtuali. D’altra parte, si può davvero pensare di moderare miliardi di interazioni che – a differenza di quanto si verifica sui social – avvengono in tempo reale? Come si passa dalla moderazione dei contenuti alla moderazione dei comportamenti? 

Meta punta soprattutto su tre strumenti: l’intelligenza artificiale, che – nonostante i successi finora non travolgenti – potrebbe riconoscere comportamenti sospetti (per esempio l’avatar di un uomo che approccia in continuazione dei bambini); la registrazione di tutto ciò che ci avviene (salvato solo sul nostro dispositivo personale) per inviare ai moderatori la testimonianza diretta delle esperienze negative; la “zona di sicurezza personale” in cui sarà possibile rifugiarsi immediatamente e in qualunque momento, isolandosi da tutti gli altri utenti. 

In un post di novembre, Meta ha fatto sapere di aver investito 50 milioni di dollari nello sviluppo responsabile dei suoi prodotti in realtà virtuale e fin dai primi annunci sul metaverso ha posto una grande enfasi sulla sicurezza degli utenti. Ma se già è si è rivelato incredibilmente complesso evitare che nelle “piazze digitali” dei social network prendano il sopravvento troll e molestatori, impedire che lo stesso avvenga nel metaverso, trasformandolo in un luogo invivibile, sarà una sfida epocale.