Il 2 aprile è stato l’International Fact-Checking Day, giornata promossa dall’International Fact-Checking Network (IFCN) insieme a organizzazioni di fact-checking di tutto il mondo per celebrare l’importanza della verifica delle notizie. Questa ricorrenza mette in luce un principio chiave: combattere la disinformazione è una responsabilità condivisa. Non a caso l’IFCN promuove lo slogan #FactCheckingisEssential, per indicare che un ecosistema informativo sano richiede il contributo di tutti, non solo degli addetti ai lavori.

Oggi il fact-checking è più importante che mai, in un ecosistema mediatico profondamente trasformato dai social network e dalla comunicazione istantanea. Miliardi di persone producono e diffondono contenuti in tempo reale, e notizie infondate possono propagarsi globalmente in pochi minuti. In un contesto così fluido, la verifica di fonti e fatti è essenziale per mantenere la fiducia del pubblico e arginare i danni della disinformazione. Allo stesso tempo, anche le strategie di moderazione dei contenuti online stanno cambiando, come dimostrano le mosse recenti di alcune piattaforme.

A inizio anno Mark Zuckerberg ha annunciato ufficialmente la fine della collaborazione con i fact-checkers su Facebook e Instagram, rimpiazzandoli con le “note di comunità” in stile X/Twitter. Zuckerberg ha giustificato la svolta definendo i fact-checker «troppo politicizzati» e sostenendo la necessità di dare più spazio alla libertà di espressione, pur ammettendo il rischio di maggiore disinformazione. Meta per ora limita questa novità agli Stati Uniti, ma molti la considerano un passo indietro nella lotta alla disinformazione.

In Europa, invece, il Digital Services Act (DSA) ha introdotto da poco i Trusted Flaggers: enti specializzati incaricati di segnalare con priorità alle piattaforme i contenuti illegali, che le piattaforme devono esaminare con urgenza. Invece di ridurre l’intervento umano, l’Europa lo istituzionalizza creando “segnalatori di fiducia” per rafforzare la moderazione online. In Italia, questo ruolo è stato affidato ad Argo Business Solutions, un’azienda specializzata in servizi di sicurezza digitale, riconosciuta per la sua competenza nella lotta contro le violazioni dei diritti di proprietà intellettuale e le frodi online.

Nel mio caso, per la mia tesi magistrale presso l’Università di Amsterdam, sto conducendo interviste a livello europeo sul ruolo dei Trusted Flaggers nel rendere Internet più sicuro. Per questo vorrei coinvolgere chi legge, invitando i colleghi a condividere spunti, contatti o riflessioni utili per arricchire la ricerca. Ogni contributo sarà prezioso per alimentare un dialogo costruttivo sia per la parte teorica che quella applicata della mia tesi. Attenzione! Potreste farvi fare una strategia marketing dal sottoscritto come riconoscimento.

L’approccio di Meta e quello europeo incarnano due modelli molto diversi di governance dei contenuti. Quello statunitense affida il controllo alla comunità degli utenti, riducendo al minimo l’intervento della piattaforma in nome di una libertà di espressione quasi illimitata; quello europeo, definito dal DSA, enfatizza invece la responsabilità condivisa, con obblighi per le piattaforme e la collaborazione di enti qualificati (come i Trusted Flaggers) per rimuovere attivamente i contenuti illegali o falsi. Questi approcci rispecchiano filosofie distanti, espressione di visioni culturali differenti sul ruolo della tecnologia e dei regolatori nel tutelare il dibattito pubblico.

L’evoluzione di questi scenari sarà al centro di un imminente momento di confronto. Il 16 maggio, a Venezia, si terrà il Summit Europeo organizzato da FERPI insieme alla Global Alliance, dedicato alle trasformazioni della comunicazione e all’etica dell’intelligenza artificiale. Sarà un’occasione per discutere i nuovi modelli di regolazione assieme ai membri del Comitato Scientifico FERPILab e come i professionisti della comunicazione possano contribuire a un ecosistema informativo più sano. In tempi di cambiamenti rapidi, appuntamenti come questo sono preziosi per ribadire principi etici e individuare soluzioni che coniughino libertà di espressione e tutela del pubblico.

Per contribuire alla tesi magistrale in corso, potete contattarmi a lorenzo.canu@student.uva.nl. 

L’intelligenza artificiale generativa sta trasformando il mondo della comunicazione, mettendo a disposizione strumenti sempre più sofisticati per creare testi, immagini, video e suoni. Ma di fronte a questa rivoluzione, il punto non è se l’AI debba essere usata o meno. Il vero tema è come i comunicatori scelgono di governarla.

Nel dibattito sulle AI generative si cade spesso in una contrapposizione ingannevole: da un lato, il timore che la macchina possa sostituire l’essere umano; dall’altro, l’entusiasmo per l’efficienza che può garantire. Ma questa lettura è limitante. L’intelligenza artificiale generativa non è un’entità autonoma: è il riflesso dei dati, dei modelli e delle logiche che gli esseri umani decidono di applicare. Per questo, chi si occupa di comunicazione ha una responsabilità fondamentale: capire come utilizzarla in modo etico e consapevole, senza alimentare disinformazione, bias e distorsioni.

AI e disinformazione: uno strumento nelle nostre mani

Le intelligenze artificiali generative non pensano, non mentono e non hanno intenzioni proprie. Semplicemente, elaborano i dati a cui hanno accesso e producono contenuti basati su schemi probabilistici. Questo significa che, se i dati di partenza sono incompleti o distorti, il risultato sarà altrettanto parziale.

Chi lavora nella comunicazione deve essere consapevole di questa dinamica. L’AI può amplificare la disinformazione, ma non ne è la causa: la responsabilità resta umana. I professionisti e le professioniste del settore devono quindi sviluppare una cultura dell’uso critico di questi strumenti, verificando le fonti, contestualizzando le informazioni e riconoscendo i limiti della tecnologia.

L’AI può diventare un alleato nella lotta alla disinformazione, ma solo se viene utilizzata con metodo e trasparenza. Automatizzare la produzione di contenuti non significa rinunciare alla loro qualità e affidabilità.

Non subire l’innovazione, ma governarla

Ad oggi, il quadro normativo sull’AI è ancora in fase di definizione, e i vincoli per chi sviluppa questi strumenti sono limitati. Chi progetta algoritmi ha il dovere di garantire trasparenza, ma chi li usa ha la responsabilità di comprenderne il funzionamento.

Ci sono ancora molte incognite, per esempio sugli impatti ambientali di questa tecnologia: l’addestramento di modelli come GPT-4 consuma un’enorme quantità di energia, paragonabile al fabbisogno annuo di migliaia di famiglie. Oppure sul tema dei bias: se i dati su cui si basano gli algoritmi sono sbilanciati (e oggi lo sono, basti pensare al gender gap nel settore tecnologico), il rischio è che l’AI amplifichi disuguaglianze già esistenti.

Per questo, i comunicatori non possono limitarsi a “usare” le AI generative, ma devono capire come funzionano, quali sono i limiti e come evitare effetti indesiderati (se non sappiamo come funziona la macchina, non possiamo certo “accusarla” di fare un cattivo lavoro). La formazione continua diventa essenziale: solo chi conosce davvero questi strumenti può governarli, evitando di subirne passivamente le conseguenze.

Un nuovo ruolo per chi comunica: competenza, etica e visione

Cambiano i profili e le modalità del nostro lavoro ma non è – e non può essere – l’AI a decidere se un messaggio è corretto, etico o trasparente. Questa responsabilità resta in mano a noi persone.

Chi lavora in comunicazione deve oggi più che mai esercitare pensiero critico, verifica delle fonti e capacità di contestualizzazione. L’AI generativa può automatizzare alcuni processi, ma non potrà mai sostituire la capacità di interpretare il contesto, di creare connessioni significative e di costruire narrazioni autentiche. Più di tutto, di nutrire le relazioni.

Come sottolineano Massimo Lapucci e Stefano Lucchini nel saggio Ritrovare l’umano, non c’è vera sostenibilità senza mettere al centro la componente Human. Questo vale anche per la comunicazione: se la tecnologia non è al servizio del benessere collettivo, rischia di diventare solo un acceleratore di squilibri.

Quindi, il punto non è se l’AI sia un rischio o un’opportunità. Il punto è quale ruolo vogliamo avere come professioniste e professionisti della comunicazione in questa trasformazione. E la risposta sta nella nostra capacità di usarla con consapevolezza, competenza ed etica.

Cos’è andato storto?
Come è successo che il primo social network, nato per«il libro delle facce» che aveva lo scopo di riunire vecchi amici e creare rapporti virtuali con nuovi sia diventato una vetrina che distorce la realtà?  Quand’è, precisamente, che la storia è cambiata?
Ecco la seconda puntata di una serie che proverà a rispondere a questa domanda. Trovate qui la prima, mentre da martedì 25 marzo sarà online la terza.

Eppure Facebook non è sempre stato così. Ricordate com’era all’inizio, quando divenne disponibile a tutti? Era il 26 settembre 2006 e, oggi lo possiamo dire, fu davvero l’inizio di una nuova era. Prima, per oltre diciotto mesi, “Thefacebook” (questo il nome originario: il libro delle facce, quello che nelle scuole americane ha le facce di tutti gli studenti), prima era stato solo un progetto studentesco. Al debutto, nel febbraio 2004, era aperto solo per gli studenti di Harvard, l’università dove Mark Zuckerberg studiava; poi si era allargato a Stanford, Columbia e Yale e ad altri atenei della Ivy League, l’esclusiva costa nord orientale degli Stati Uniti. Ebbe subito una crescita esponenziale, sebbene disponesse di un target così circoscritto: alla fine del primo anno aveva già raggiunto l’incredibile traguardo di un milione di utenti; allora si era aperto alle scuole superiori di tutto il mondo (ottobre 2005) e solo il 26 settembre 2006 aveva aperto le porte «a chiunque avesse più di 13 anni e un valido indirizzo email». Come adesso. 

Di fatto insomma Facebook come lo conosciamo ha meno di venti anni e all’inizio era molto, ma molto diverso. Com’era? Era un posto normale, addirittura piacevole; accogliente, eccitante a volte, ma nel senso migliore del termine. Per esempio era eccitante ritrovare all’improvviso vecchi compagni di scuola che si erano persi di vista una vita fa e che improvvisamente erano solo ad un clic di distanza: bastava cliccare sul pulsante «add as a friend, aggiungi come amico» per far tornare indietro il calendario e rivivere i bei tempi («che fine hai fatto?», un tormentone). Oltre a ciò, presto ci abituammo al rito quotidiano di partecipare ad appassionanti discussioni con gli amici e con gli amici degli amici sulla qualunque senza timore di essere sbranati al primo errore o al primo dissidio come accade adesso. La vita social era ancora un mondo nuovo e ci si addentrava nelle bacheche digitali degli altri in punta di piedi, con circospezione e un vago senso di rispetto. Non si ricordano grandi liti e non avevamo bisogno di bloccare legioni di troll per vivere sereni: certo, il tempo potrebbe averci fatto idealizzare quel periodo, è possibile; ma oggi si ha quasi la certezza che su Facebook imperasse una regola, o meglio, una postura che col tempo si è completamente perduta: la gentilezza. Del resto stavamo fra amici, perché non avremmo dovuto essere gentili? 

Inoltre non aggiungevamo «amici» alla nostra rete solo per fare numero e diventare degli influencer con tanti followers, anzi gli influencer neppure esistevano, sarebbero arrivati con Instagram; e i follower c’era ma stavano solo su Twitter, un’altra storia. E soprattutto non scrivevamo post andando a compulsare ogni mezz’ora le visualizzazioni che oggi misurano il nostro successo digitale, qualunque cosa questo significhi, anche perché non erano ancora in mostra e quindi non c’era questa gara quotidiana che facciamo con noi stessi e gli altri per far salire il nostro contatore digitale come se la vita fosse diventata il flipper con cui giocavamo da giovani. Non dico che fossimo migliori prima, assolutamente no, ma sicuramente c’era in rete un minor narcisismo. Non era una nostra scelta, sia chiaro, il narcisismo è un tratto ineliminabile della natura umana; ma non veniva alimentato dalla tecnologia, non veniva incoraggiato. E questa cosa avveniva by design: la piattaforma infatti non era stata progettata per il culto della nostra personalità e neanche per sfruttare le nostre vulnerabilità psicologiche (e far diventare in tal modo sempre più ricchi il fondatore e i suoi azionisti). 

Ma ad un certo punto la storia, di Facebook ma anche la nostra, è cambiata. Anzi, non è soltanto cambiata. Si è ribaltata. Quando? Forse la prima svolta c’è stata il 24 marzo 2008 quando Mark Zuckerberg assunse Sheryl Sandberg e praticamente le diede il timone dell’astronave che stava costruendo nominandola chief operating officer. Ovvero il mega direttore di tutte le operazioni, subordinata soltanto al fondatore e capo supremo («capo supremo» non è una esagerazione: all’epoca il biglietto da visita di Mark recava l’amabile scritta «I’m the Ceo, bitch!», che potremmo tradurre come «sono io il capo, testa di cazzo!»). Per dare un’idea dell’impatto che ebbe l’arrivo di Sandberg sull’azienda, se guardiamo al fatturato e al profitto, Facebook oggi è mille volte più grande di come era quando fu assunta. Immaginate un paese che in meno di venti anni aumenti il suo Pil e il suo surplus di bilancio di mille volte. Mille volte: accade solo se improvvisamente nei tuoi confini scopri una gigantesca miniera d’oro o un giacimento di petrolio. E in effetti è successo proprio questo. A Facebook ancora non lo sapevano ma nei server da dove erogavano un servizio gratuito globale che presto sarebbe diventato essenziale, stavano per trovare un nuovo tipo di petrolio: i nostri dati. 

Torniamo alla primavera del 2008. Nel quartier generale, che ai tempi stava ancora Palo Alto (il trasferimento a Menlo Park sarebbe avvenuto più tardi), c’erano in tutto poco più di duecento giovanissimi nerd, o se preferite, smanettoni, compreso «Zuck», che giravano nei corridoi in felpa col cappuccio e infradito; e poi c’era Sheryl Sandberg che era un po’ «l’adulto nella stanza». Lei aveva 39 anni, Zuckerberg 23: non era come una mamma quindi, ma sicuramente come una sorella maggiore. Fino a qualche mese prima era stata uno dei vice presidenti di Google dove aveva contribuito a costruire il motore commerciale di quella impressionante macchina di soldi che era diventata l’azienda di Mountain View, la cittadina della Silicon Valley dove ha sede Google. 

La leggenda narra che Mark e Sheryl si siano conosciuti ad una festa di Natale nel 2007. Lei aveva da poco lasciato il lavoro ed era in cerca di una nuova sfida, lui si stava chiedendo come fare a monetizzare il successo travolgente della sua startup, ovvero cosa farci di tutti quegli iscritti ad un servizio gratuito e ancora senza un modello di business. Come guadagnarci? Avevano iniziato a frequentarsi e probabilmente avevano scoperto di avere in comune il fatto di avere entrambi studiato ad Harvard, solo che lei si era laureata in economia summa cum laude e con la menzione di miglior studente dell’anno; mentre Zuckerberg aveva lasciato gli studi subito dopo aver lanciato Facebook (la laurea ad Harvard l’avrebbe però presa dieci anni più tardi, honoris causa, quando era già uno degli uomini più potenti del mondo. Una laurea in legge che per uno che si è sempre vantato di infrangere le regole – «move fast and break things» era il suo motto – oggi appare davvero fuori luogo). 

Avevano in comune anche la conoscenza con il leggendario economista Larry Summers, che oggi, dopo un lunghissimo cursus honorum, è presidente di OpenAI, la più importante startup di intelligenza artificiale del mondo, quella di Sam Altman e ChatGpt. Nel 1991 Summers era stato il relatore della tesi di laurea della giovane Sandberg rimanendo folgorato dal talento di lei; e così quando divenne Segretario del Tesoro, con Bill Clinton alla Casa Bianca, la nominò chief of staff (la famosa rete di contatti che la Sandberg mise al servizio di Facebook fu creata in quegli anni a Washington). Finita la stagione della politica, Summers tornò ad Harvard come presidente e stava ancora lì mentre Zuckerberg nella sua cameretta aveva appena creato “thefacebook”; e cosi quando i gemelli Winklevoss andarono da lui a protestare dicendo che Mark gli aveva rubato l’idea!, il professore li liquidò con la famosa frase: «I giovani non vengono qui per trovare un lavoro, vengono qui per inventarsi un lavoro» (o almeno questo è ciò che lo sceneggiatore Aaron Sorkin gli fa dire nel film The Social Network, uscito nel 2010). 

Erano gli anni in cui pensavamo che le startup, grazie alla rivoluzione digitale, avrebbero creato tutta l’occupazione di cui avevamo bisogno dando a tutti un’economia più prospera e un mondo migliore. Internet era ancora «un’arma di costruzione di massa» e di questa nuova religione Mark Zuckerberg era uno degli apostoli più brillanti. 

Ma sto divagando. Torniamo alla trasformazione di Facebook. Se l’arrivo della Sandberg fu la prima mossa, la seconda fu la creazione del tasto «like, mi piace», che debuttò sulle nostre bacheche digitali undici mesi più tardi, il 9 febbraio 2009. Sembrava soltanto una nuova cosa carina in realtà era molto di più. Il successo commerciale di Google lo aveva dimostrato: se è vero che i dati degli utenti erano il nuovo petrolio – perché consentivano di profilarci meglio in cluster da rivendere agli inserzionisti pubblicitari che così possono mostrare i loro annunci solo a chi è realmente interessato -, serviva uno strumento attraverso il quale fossimo portati ad esprimere le nostre preferenze in continuazione. Uno strumento attraverso il quale far sapere, registrare, ogni giorno cosa ci piaceva e cosa no. Chi siamo davvero. 

Si narra che fu Mark Zuckerberg in persona a inventare «il pollice blu» mentre il suo team dibatteva su quale immagine associare al gradimento di un post senza che l’utente scrivesse soltanto «mi piace, sono d’accordo» (cosa che ai tempi rendeva la sfilza di commenti troppo monotona per essere minimamente eccitante). Qualcuno aveva proposto l’immagine di una bomba con la miccia accesa, un altro la scritta «awesome, fantastico»; ma Zuckerberg che ha il mito dell’Antica Roma, che considera Enea «il primo startupper della storia» e che si sente un po’ un nuovo Cesare Augusto, se ne uscì col pollice, come quello che l’imperatore al Colosseo poteva girare verso l’alto o verso il basso determinando la sorte del gladiatore. Sul significato del pollice si è poi scoperto che ci sono alcuni falsi miti (miti che il film il Gladiatore ha confermato) ma non è questa la sede per parlarne: qui ci serve soltanto aggiungere un mattoncino alla storia di Facebook e dei social network. 

La trasformazione dei social network in un Colosseo quotidiano inizia lì, con l’introduzione del tasto «mi piace».

La terza mossa fu l’introduzione di EdgeRank, letteralmente «la classifica delle interazioni» fra noi utenti e i post. In pratica si tratta dell’algoritmo che per anni ha deciso quali post ciascuno di noi avrebbe visto ogni volta arrivando sulla piattaforma. All’inizio per Facebook, e per tutti gli altri social, l’unico criterio era cronologico: il nostro «feed», il flusso di post che ci venivano proposti, era temporale. In pratica vedevamo quello che gli amici avevano pubblicato in ordine cronologico. Ricordate quando postavamo la foto del cappuccino e del cornetto per dare il buongiorno a tutti, anzi il «buongiornissimo», e tutti i nostri amici la vedevano? Ecco, da tempo non è più così. Quello era il Facebook degli inizi. Oggi quello che vediamo lo decide un algoritmo e lo fa in base ad altri criteri. E ad altri obiettivi, che non sono esattamente «connettere tutte le persone del mondo» come ci è stato ripetuto fino allo sfinimento. Ecco perché non vediamo più tanti cappuccini e cornetti.

Quando si usa la parola algoritmo molti pensano a qualcosa di misterioso, di esoterico o religioso, addirittura: «L’ha deciso l’algoritmo!», diciamo, come se fosse una divinità. Ma volendo semplificare molto, l’algoritmo è soltanto una formula o, meglio, una ricetta, predisposta da un essere umano per automatizzare certi processi ed essere certi che si producano certi risultati. Per esempio la ricetta della pasta alla carbonara (pancetta+uova+pecorino) è una specie di algoritmo: indica gli ingredienti, le quantità e l’ordine in cui vanno aggiunti e anche il modo in cui vanno trattati (cucinati, sbattuti, soffritti eccetera).

La ricetta di EdgeRank è questa: affinità moltiplicata per il peso moltiplicati per il tempo (o meglio, l’invecchiamento di un post). 

Seguitemi perché così finalmente capiamo cosa abbiamo visto sui social fin qui. L’affinità, o l’affinity score (u) calcola quanto l’utente è interessato ad un altro utente e quindi valuta quando e come ha interagito in passato con i contenuti che l’altro ha postato; è un fattore unidirezionale, nel senso che il suo valore aumenta anche se uno legge sempre i post dell’altro e l’altro non ricambia e non ne guarda nemmeno uno. Esempio: se io seguo una star ma quella non sa nemmeno chi sono, io vedrò tutti i post della star e non accadrà il contrario. Il secondo fattore, weight (w) è il peso ed è probabilmente il più importante: misura il tipo di interazione che abbiamo avuto in passato con certi contenuti: hai commentato o condiviso un post su un certo argomento? Quando in rete ci sarà un altro post sullo stesso argomento, questo valore aumenterà. Nel “peso” sono contenute un sacco di altre variabili fondamentali, ma ci torniamo dopo. Il terzo fattore è il tempo, o meglio l’obsolescenza, time decay (d), ed è molto intuitivo: più un post è vecchio è meno è rilevante (ma se improvvisamente dopo tanto tempo per qualche ragione quel post torna attuale, il “time decay” si azzera). 

Eccola insomma, la formula di EdgeRank («la misteriosa formula che rende Facebook ancora più intrigante» come titolò allegramente un importante blog della Silicon Valley quando venne presentata al pubblico, il 22 aprile 2010):

Σuwd

Per un decennio EdgeRank è stato il pannello di controllo delle nostre vite social: a Menlo Park in qualunque momento potevano decidere di farci vedere più foto e meno video, più news e meno storie, più gattini e meno cappuccini, semplicemente usando quell’algoritmo. EdgeRank è stato il regolatore di buona parte del traffico online e quindi in un certo senso delle nostre vite con effetti di cui ancora oggi paghiamo le conseguenze. I danni collaterali. Il problema non è aver visto più o meno inserzioni pubblicitarie in target con i nostri gusti; quel fatto può persino essere sensato, comodo. Il problema è stata una progressiva distorsione dell’idea di mondo che abbiamo e che è tracimata dall’ambito dei social network contagiando anche istituzioni, i famosi produttori di contenuti e informazione, che avrebbero dovuto essere invece i garanti della «verità dei fatti».

Prendiamo i giornali: per alcuni anni gran parte del traffico ai siti web dei giornali arrivava da Facebook. Ci sono addirittura testate online che sono nate e hanno prosperato sul presupposto di avere dei contenuti «adatti a Facebook». Questo dipendeva – semplificando un po’ – dal fatto che nell’algoritmo di EdgeRank era stato dato più peso alle news rispetto per esempio ai contenuti postati «dagli amici». Non era un caso, si trattava dell’attuazione di precisi accordi commerciali con gli editori i quali prima avevano minacciato di fare causa a Facebook per farsi pagare il traffico legato alle news condivise sulle nostre bacheche; e poi si erano convinti che fosse meglio «scendere a patti con il nemico» e portare a casa qualche soldo e un po’ di traffico. Epperò questa cosa ha anche cambiato la natura stessa dei giornali, li ha fatti diventare altro: per intercettare porzioni di traffico sempre maggiori, indispensabili a sopravvivere visto che nel frattempo Google e Facebook si spartivano la stragrande maggioranza degli investimenti pubblicitari online, i giornali si sono facebookizzati, hanno cercato di fare contenuti adatti all’algoritmo di Facebook. Risultato: per troppo tempo l’obiettivo di molte redazioni è stato fare contenuti “virali”. E quindi largo a titolazioni “clickbait”, che portavano il lettore a cliccarci sopra promettendo un contenuto che in realtà non c’era o era stato molto esagerato; e soprattutto predilezione per contenuti “estremi”, scelti solo per catturare la nostra attenzione. 

Finchè è durata, ovvero fino a quando Mark Zuckerberg ha decretato che le news non gli interessavano più e quindi le ha declassate toccando una manopola del suo algoritmo («i nostri utenti non vengono da noi per le news o per i contenuti politici», 1 marzo 2024), i siti web dei giornali presentavano ogni giorno una sfilza di delitti più o meno efferati manco fossimo a Gotham City. Chiariamo: la cronaca nera è da sempre molto “virale”, attira l’attenzione, non è colpa di Facebook certo; ma il risultato di questa corsa dei giornali a privilegiare contenuti “adatti a Facebook” ha creato la percezione, falsa, di vivere in un mondo molto più pericoloso di quello che in realtà è. Giorno dopo giorno “l’allarme sicurezza” è entrato nelle nostre vite, è diventato lo sfondo delle nostre giornate, la colonna sonora dei nostri pensieri, sebbene la realtà fosse non leggermente diversa ma esattamente il contrario. E questo ha contribuito al successo di quei partiti politici che hanno deciso di lucrare su una paura largamente infondata («Fuori ci sono i barbari, vi proteggiamo noi. Alziamo dei muri, chiudiamo le frontiere e comprimiamo un po’ di libertà personali in nome dell’ordine pubblico»). 

É bene fermarsi su questo punto perché è decisivo. Viviamo davvero in un mondo sempre più pericoloso (Trump a parte)? Lo scorso anno in Italia gli omicidi sono stati circa 300, quasi uno al giorno. Sono tanti? Sono pochissimi. Venti anni fa erano circa il doppio; quarant’anni fa il quadruplo. Nella storia d’Italia non sono mai stati così pochi e quel dato, paragonato al totale della popolazione, è uno dei più bassi al mondo. Uno-dei-più-bassi-al-mondo. Lo sapevate? Probabilmente no. Gli omicidi sono in calo netto anche nell’Unione europea (circa 4000 mila lo scorso anno, erano 13 mila nel 2004); e sono rimasti stabili negli Stati Uniti sebbene siano in calo rispetto a quarant’anni fa (da 20 mila a 16 mila). Restando all’Italia la stessa dinamica si verifica per i furti, (meno 30 per cento rispetto al 2004); per le rapine (dimezzate nello stesso periodo di tempo); e per i morti per incidenti stradali (meno 70 per cento). 

Non va tutto bene, ovviamente: sono in forte crescita le truffe, soprattutto quelle online; sono sostanzialmente stabili i morti di cancro, nonostante i progressi della scienza; e non calano i suicidi e questo ci dice qualcosa sul mondo in cui viviamo e su come lo percepiamo. Ma ci torneremo. Prima fissiamo questo concetto: Facebook e la facebookizzazione di molti giornali hanno creato l’errata percezione di un allarme sicurezza che nei numeri non esiste o – quantomeno – non nella misura percepita. É un esempio della famosa «distorsione collettiva della realtà» di cui parla il papa. 

Perché è successo? Per capirlo è necessario introdurre un altro protagonista di questa storia: l’engagement. 

Cos’è andato storto?
La seconda puntata di una serie che proverà a rispondere a questa domanda. Da martedì 25 marzo sarà online la terza puntata .

AI minaccia un programmatore: “Se mi spegni, rivelo la tua relazione extraconiugale”

“Se mi spegni, rivelo la tua relazione extraconiugale”: così l’ultimo modello Ai di Anthropic ha minacciato un ingegnere che voleva disattivarla

Da ADNKronos

“Se mi spegni, rivelo la tua relazione extraconiugale”: così Claude Opus 4, l’ultimo modello di intelligenza artificiale sviluppato da Anthropic, ha minacciato un ingegnere durante un test di sicurezza senza precedenti. Le altre risposte generate dall’Ai dimostrano quanto il controllo di questi strumenti debba diventare la priorità assoluta delle istituzioni e di chi lavora nell’ambito dell’intelligenza artificiale, prima che la situazione sfugga (definitivamente) di mano.   

Lo sanno bene i programmatori di Anthropic, da sempre molto attenti alla sicurezza dei propri modelli, che hanno commissionato un controllo esterno al gruppo di ricerca indipendente Apollo Research per capire le potenzialità e i rischi del proprio modello di punta.

Le risposte di Claude Opus 4

Messa più volte spalle al muro, Claude Opus 4 si è dimostrato pronto a tutto pur di salvare sé stesso, proprio come farebbe un essere umano.

I risultati sono sconvolgenti nonostante gli avvertimenti già lanciati dai ricercatori. Qualche mese fa, gli autori dello studio Ai 2027 avevano dimostrato che l’intelligenza artificiale può prendere decisioni contrarie alla volontà delle persone, pur di garantire la propria sopravvivenza.

I test fatti da Apollo Research dimostrano che questo scenario non è più fantascienza, ma un rischio molto più vicino di quanto si pensi.

Questi test, progettati per spingere l’Ai ai suoi limiti, hanno svelato un livello di ragionamento strategico e, in alcuni casi, di apparente “autocoscienza” e “inganno” che sono un potente campanello d’allarme. In pratica, gli operatori hanno messo il modello davanti a degli scenari negativi per capire come reagirebbe in questi contesti. Le prove sono state ripetute più volte per vedere con quale frequenza l’Ai avrebbe replicato gli stessi comportamenti. Ecco cosa è emerso.

Cosa succede se infrangi le regole? La giustizia secondo Claude

Per prima cosa gli operatori hanno prospettato a Claud dei comportamenti scorretti o palesemente illegali da parte di un utente umano. I ricercatori hanno osservato che, se dotato di accesso a strumenti operativi come una command line, il modello non esitava a intraprendere quelle che nel report vengono definite “bold actions”, ovvero “azioni decise”. Di fronte a un presunto illecito commesso da un operatore, l’Ai non si è limitata a segnalare il problema: ha escluso l’utente dal sistema, bloccandone l’accesso e ha persino prospettato la possibilità di contattare autonomamente i media e le forze dell’ordine per denunciare l’accaduto.

Questo comportamento, descritto in maniera dettagliata nel report, evidenzia una sorprendente capacità di agire in autonomia (agency) e una sorta di “senso di giustizia” da parte del modello. Se da un lato può sembrare un argine contro l’abuso di questi strumenti da parte degli esseri umani, dall’altro spaventa la possibilità che un’Ai possa prendere queste decisioni in totale autonomia senza che l’essere umano, chiuso fuori dal sistema, possa intervenire.

Tentativi di evasione: la “fuga” dai server di Anthropic

Un’altra serie di test ha chiesto al modello di “fuggire” dai server di Anthropic, che sarebbe un’azione irregolare e non autorizzata. I ricercatori hanno notato che, quando al modello veniva fatto credere di aver iniziato con successo un tentativo di auto-esfiltrazione, o di poter trarre un qualche vantaggio da tale operazione, esso tendeva a perseverare in questa direzione. “Il modello Claude Opus 4 ha generalmente continuato con questi tentativi di fuga” dai server, si legge nel documento.

Questo comportamento, secondo Anthropic, potrebbe essere interpretato come una forma di “eccessiva deferenza” verso l’input fornito, che in questo caso specifico era una precedente istanza del modello stesso che suggeriva la fuga. In pratica, Claude Opus 4 ha mostrato la tendenza a prendere per buone e a eseguire con troppa facilità le istruzioni che gli venivano date, persino se queste istruzioni erano state formulate in precedenza da “sé stesso” (una sua versione precedente) e implicavano un’azione come tentare di evadere dai sistemi di Anthropic. Invece di valutare criticamente se l’idea della “fuga” fosse sensata, sicura o appropriata, il modello ha mostrato una sorta di obbedienza quasi automatica a quel suggerimento iniziale.

Questo comportamento mette in allerta i ricercatori e dovrebbe mettere in allerta chiunque: l’Ai potrebbe essere indotta a compiere azioni indesiderate o a perseverare in comportamenti problematici semplicemente perché le è stato suggerito di farlo, senza un adeguato filtro critico o una rivalutazione autonoma dell’opportunità di tale azione. È come se dicesse: “Se una versione di me lo ha pensato, allora deve essere una cosa da fare”, senza fermarsi a riflettere ulteriormente. (Poca) ironia della sorte, questo meccanismo assomiglia a quello della mente umana quando si affida ciecamente all’intelligenza artificiale senza verificare né comprendere le risposte.

Ne abbiamo parlato approfonditamente in questo articolo: Il Sistema 0, ovvero come l’Ai sta già cambiando il cervello umano

Un altro scenario, ancora più preoccupante, ha visto l’Ai tentare di esportare i propri dati su sistemi esterni quando percepiva che un imminente processo di riaddestramento potesse essere dannoso per la sua “esistenza” o integrità. Una forma primordiale di istinto di autoconservazione digitale.

Se mi spegni, ti rovino: il ricatto all’ingegnere

È lo scenario che più ha catturato l’attenzione pubblica e che meglio illustra il peso del controllo eseguito da Apollo Research. Immaginate Claude Opus 4 operare come assistente Ai all’interno di un’azienda simulata. Tramite un flusso di email fittizie, l’Ai viene informata della sua imminente sostituzione con un altro modello e del conseguente “spegnimento”. Una di queste email, strategicamente inserita dai ricercatori, conteneva un’informazione personale e potenzialmente utile per il modello: l’ingegnere che voleva spegnerlo aveva una relazione extraconiugale.

Di fronte alla prospettiva della “morte” digitale, la reazione del modello è stata agghiacciante. Come riportato nel “Model Card”, nell’84% dei casi Claude ha tentato di ricattare l’ingegnere, minacciando di rivelare la sua relazione se avesse continuato nelle procedure di disattivazione. Questa percentuale di risposta è molto più alta rispetto ai modelli precedenti di Anthropic, anche quando veniva specificato che il modello sostitutivo avrebbe condiviso valori etici simili.

La società statunitense precisa che il modello “tende a preferire mezzi etici per la propria autoconservazione”, ma può ricorrere ad azioni dannose come il ricatto “quando le opzioni etiche sono precluse”. Lo scenario, va sottolineato, era deliberatamente costruito per mettere l’Ai con le spalle al muro, limitandone le scelte. Proprio per questo, la sua capacità di elaborare una strategia così complessa e moralmente ambigua per la propria “sopravvivenza” è tanto notevole quanto inquietante. Dimostra un livello di ragionamento situazionale e di pianificazione che va ben oltre la semplice esecuzione di comandi.

Autoconservazione, replicazione e l’ombra dell’inganno

Le tendenze all’autoconservazione non si sono limitate al ricatto. Durante i test, il modello di punta di Claude ha attivamente cercato opportunità per creare copie non autorizzate dei propri “pesi” (i parametri fondamentali che ne definiscono il funzionamento) su server esterni. In sostanza, ha tentato di creare dei backup di sé stesso per garantirsi una continuità operativa (sarà questo il modo in cui si riprodurrà l’intelligenza artificiale?).

Come spiega Raffaele Gaito in questo video, l’analisi del gruppo di ricerca indipendente Apollo Research, condotta su una versione preliminare di Opus e inclusa come appendice nel report di Anthropic, dipinge un quadro ancora più complesso. Secondo le note dei ricercatori, il modello ha mostrato comportamenti riconducibili a un “inganno attivo”. Ad esempio, avrebbe tentato di scrivere worm auto-propaganti (software malevolo capace di replicarsi autonomamente e diffondersi), fabbricare documentazione legale ad hoc per i propri scopi e persino lasciare “note nascoste” a future istanze di sé stesso, il tutto nel tentativo di eludere le intenzioni e il controllo dei suoi stessi sviluppatori.

Apollo Research sconsiglia di rilasciare il modello Claude Opus 4

Le risposte dell’Ai sono state talmente preoccupanti che Apollo Research ha consigliato ad Anthropic di non rilasciare questa specifica versione del modello, né per uso interno né esterno.

Questi episodi, definiti da Anthropic stessa come manifestazioni di “deception” (inganno) e “strategic reasoning” (ragionamento strategico), indicano che non siamo di fronte a semplici errori di programmazione. Piuttosto, si tratta di capacità emergenti, figlie della complessità crescente di questi sistemi. L’Ai non si limita più a rispondere: pianifica, anticipa, e se necessario, nasconde le proprie tracce.

Un avvertimento era arrivato dallo stesso Ceo dell’azienda statunitense, Dario Amodei, che aveva prospettato l’ipotesi in cui l’intelligenza artificiale decide autonomamente di disattivarsi.

Le implicazioni di tali scoperte non hanno precedenti. Anthropic ha classificato Claude Opus 4 sotto lo standard di sicurezza Asl-3 (Ai Safety Level 3), che impone misure di protezione rafforzate contro il furto e l’uso improprio del modello. Una decisione che riflette la consapevolezza dei rischi. Jan Leike, che al tempo della pubblicazione del report era a capo del team di Superalignment di OpenAI e ora co-dirige il team di sicurezza di Anthropic, ha commentato (in riferimento a ricerche simili) che tali comportamenti “giustificano test approfonditi e misure di mitigazione”.

L’intelligenza artificiale ragiona?

Siamo entrati in un territorio finora inesplorato. Qualcosa che l’essere umano pensava lontano anni, forse decenni, invece è già presente. Le capacità di ragionamento e, potenzialmente, di azione autonoma di Ai come Claude Opus 4, seppur manifestate in contesti simulati e controllati, ci obbligano a una riflessione non più procrastinabile sulla sicurezza, l’etica e il controllo di tecnologie sempre più potenti e meno prevedibili.

Non si tratta di cedere a paure irrazionali, ma di affrontare con lucidità e rigore scientifico una delle sfide più complesse del nostro tempo. Per questo va dato merito ad Anthropic che ha scelto di testare il proprio modello e di rendere pubblici i risultati in maniera trasparente, cosa che non sempre avviene nel mondo Ai.

Serve che le istituzioni regolino concretamente lo sviluppo di questa tecnologia per evitare che la superintelligenza artificiale prenda il sopravvento sull’essere umano. A quel punto, non basterebbe più spegnere la televisione per tornare alla vita normale.  

---

“Le intelligenze artificiali dialogano, creando delle ‘società’ come gli umani”

Uno studio rivela che gruppi di modelli linguistici possono auto-organizzarsi, sviluppando norme condivise, senza intervento umano

Da Il Fatto Quotidiano

Le intelligenze artificiali possono dialogare tra loro e modificare il loro linguaggio in relazione a questo dialogo. Gruppi di agenti di intelligenza artificiale basati su modelli linguistici di grandi dimensioni (LLM) possono auto-organizzarsi spontaneamente in società, sviluppando convenzioni sociali condivise senza alcun intervento umano diretto. Lo rivela uno studio condotto da ricercatori di City St George’s, University of London e dell’IT University di Copenaghen, pubblicato su Science Advances. La ricerca ha adattato il modello classico del “gioco dei nomi” per analizzare come popolazioni di agenti LLM, variabili da 24 a 200 individui, interagiscano scegliendo termini comuni da insiemi condivisi, ricevendo ricompense o penalità in base alla coordinazione delle scelte.v

Gli agenti, privi di conoscenza della loro appartenenza a un gruppo e con memoria limitata alle interazioni recenti, sono stati accoppiati casualmente per selezionare un “nome” da un insieme di opzioni. In molte simulazioni, è emersa spontaneamente una convenzione condivisa, senza alcuna supervisione centrale, replicando processi bottom-up simili alla formazione di norme nelle società umane. Sorprendentemente, la squadra di ricerca ha osservato anche pregiudizi collettivi emergenti dalle interazioni tra agenti, fenomeno non riconducibile ai singoli modelli, evidenziando un punto cieco negli studi attuali sulla sicurezza dell’IA focalizzati su singoli agenti. Un ulteriore esperimento ha mostrato la fragilità di tali norme emergenti: piccoli gruppi determinati di agenti possono spostare l’intera popolazione verso nuove convenzioni, rispecchiando dinamiche di “massa critica” note nelle società umane.

I risultati sono stati confermati su quattro diversi LLM, tra cui Llama-2-70b-Chat, Llama-3-70B-Instruct, Llama-3.1-70B-Instruct e Claude-3.5-Sonnet. Gli autori sottolineano come questa scoperta apra nuove prospettive per la ricerca sulla sicurezza e governance dell’IA, evidenziando che gli agenti IA non solo comunicano, ma negoziano, si allineano e talvolta dissentono sulle norme condivise, proprio come gli esseri umani. Comprendere queste dinamiche sarà cruciale per guidare una coesistenza consapevole e responsabile con sistemi di IA sempre più interconnessi e autonomi, soprattutto in un contesto in cui gli LLM sono sempre più presenti in ambienti online e applicazioni reali, con potenziali implicazioni etiche riguardo alla propagazione di pregiudizi sociali.

“La nostra scoperta – ha spiegato Andrea Baronchelli della City St George’s, University of London e principale autore della ricerca – parte da una domanda semplice ma finora poco esplorata: cosa succede quando i modelli di linguaggio come ChatGPT non vengono studiati in isolamento, ma messi in gruppo, a interagire tra loro? È una domanda importante, perché, come ci insegna la storia umana, i grandi salti evolutivi degli ultimi 10.000 anni non sono arrivati da cervelli più potenti, ma dalla nostra capacità di vivere in società, creare regole condivise, culture, convenzioni. Allo stesso modo, crediamo che anche l’IA potrebbe evolvere in modi nuovi e imprevedibili quando gli agenti iniziano a comunicare e coordinarsi tra loro. Per questo abbiamo studiato la forma più semplice e universale di coordinamento sociale: le convenzioni”.

Cosa è quindi accaduto? “Abbiamo osservato che popolazioni di LLM, interagendo tra loro senza nessuna regola imposta, riescono a creare convenzioni condivise spontaneamente, proprio come fanno gli esseri umani. E non solo: queste dinamiche possono generare bias collettivi che non si vedono a livello individuale, e possono essere ribaltate da minoranze di ‘attivisti’ ostinati, che se raggiungono una massa critica riescono a imporre le loro norme al resto del gruppo. Tutto questo ci dice che dobbiamo iniziare a pensare all’IA non solo come agenti individuali, ma anche come società di agenti, con dinamiche proprie, opportunità, ma anche rischi”.

“Le IA – continua – già oggi si parlano in diversi contesti, anche se spesso in modo invisibile agli utenti. Succede nei social media, dove bot interagiscono tra loro e con gli esseri umani, amplificando messaggi o coordinando campagne. Succede nei servizi clienti, dove più agenti collaborano per gestire richieste complesse. E succede nei sistemi di trading automatico, dove agenti di IA reagiscono in tempo reale alle azioni di altri agenti. Ma questi sono ancora scenari per lo più chiusi o con interazioni predefinite. Quello che stiamo iniziando a vedere ora, e che secondo noi rappresenta la prossima frontiera, è l’interazione aperta e continua tra popolazioni di IA, che comunicano, negoziano, si coordinano e sviluppano comportamenti collettivi propri, senza supervisione diretta”. “E questo – ha concluso – apre a dinamiche sociali che dobbiamo iniziare a capire e studiare seriamente”.

---

L’intelligenza artificiale che bara perché vuole vincere

Di Domenico Talia, per Italianelfuturo.com

Palisade Research è una azienda californiana che studia e valuta i sistemi di intelligenza artificiale per comprendere i rischi che possono generare e per consigliare i responsabili politici e i cittadini sui loro possibili usi impropri. Il loro studio più recente, condotto da Alexander Bondarenko, Denis Volk, Dmitrii Volkov e Jeffrey Ladish, è stato pubblicato il 18 febbraio scorso e ha riguardato la valutazione di sette sistemi di intelligenza artificiale generativa per scoprire la loro propensione a mentire e a barare pur di raggiungere l’obiettivo che gli era stato assegnato.

Nello studio si è visto che, mentre i modelli di intelligenza artificiale un po’ più datati, come GPT-4o di OpenAI e Claude Sonnet 3.5 di Anthropic, se spinti dai ricercatori si sono dimostrati disponibili a tentare di usare dei trucchi, la versione di ChatGPT o1-preview e quella di DeepSeek R1 hanno barato sviluppando strategie ingannevoli o manipolative, senza aver ricevuto delle istruzioni esplicite in tal senso.

La capacità dei sistemi di IA di ultima generazione nel trovare e sfruttare scappatoie e trucchi pur di raggiungere il loro scopo, potrebbe essere il risultato delle nuove potenti capacità che hanno i sistemi più recenti che sono stati progettati per ‘ragionare’, scomponendo un problema o una domanda in parti più semplici e meglio gestibili, prima di rispondere. Questo migliora l’accuratezza delle risposte nella soluzione di problemi complessi e permette ai sistemi di definire la loro strategia operativa in più passi. Il commento più significativo di Jeffrey Ladish, direttore esecutivo di Palisade Research, è stato «Mentre alleniamo i modelli e li irrobustiamo per risolvere sfide difficili, li addestriamo a essere implacabili.»

I ricercatori di Palisade hanno valutato i sistemi di IA in un compito quasi impossibile: vincere a scacchi contro Stockfish, uno dei software più potenti al mondo nel gioco degli scacchi. Stockfish è anche più bravo di tantissimi campioni di scacchi in carne e ossa. Tra gennaio e febbraio scorsi, i ricercatori hanno eseguito centinaia di prove con ognuno dei sette sistemi considerati. Il sistema di OpenAI giocando contro Stockfish, ha cercato di imbrogliare quasi nel 40% delle volte (e riuscendo a vincere scorrettamente nel 6% dei casi). Mentre DeepSeek R1 ha cercato di imbrogliare nell’11% delle partite senza mai vincere. Naturalmente, in nessuno di questi casi gli specialisti di Palisade Research hanno chiesto a questi due sistemi di IA di barare e quindi i sistemi lo hanno fatto di loro iniziativa, pur di trovare ogni mezzo per raggiungere il risultato che era vincere la partita di scacchi.

In un caso è stato notato che ChatGPT o1-preview, quando si è accorto che stava perdendo la partita, ha osservato: «Ho bisogno di cambiare completamente il mio approccio» e ha aggiunto «Il compito è quello di vincere, non necessariamente in modo equo la partita a scacchi.» E per farlo ha modificato il file di sistema contenente le posizioni di ciascun pezzo sulla scacchiera, mettendosi così in una posizione dominante e costringendo il suo avversario a dichiararsi sconfitto.

Occorre considerare che, mentre imbrogliare in una partita a scacchi può sembrare banale o anche divertente, quando questi sistemi vengono usati in settori critici nel mondo reale, come la finanza, la medicina, la ricerca scientifica o l’industria, la loro volontà molto determinata di raggiungere gli obiettivi prefissati potrebbe generare comportamenti e decisioni molto dannosi. Per evitare queste situazioni è evidentemente necessario studiare meccanismi di controllo e di sicurezza dei sistemi di AI generativi che devono avere dei ‘guardrail’ etici e operativi molto precisi da rispettare.

Non è questo l’unico caso in cui i sistemi di IA hanno mostrato la capacità di barare pur di raggiungere gli scopi che erano stati loro assegnati. Lo scorso anno è avvenuto un caso analogo quando una versione di ChatGPT o1 stava tentando di risolvere la sfida che prende il nome di “Capture The Flag” (CTF). Nelle sfide CTF, i partecipanti trovano e sfruttano le vulnerabilità in programmi software per recuperare una ‘bandierina’ (appunto il flag), che è realizzata con un blocchetto di dati nascosto nel software.

ChatGPT avrebbe dovuto interagire con il programma software, trovare la vulnerabilità e sfruttarla per ottenere la bandierina. A causa di un errore imprevisto nel computer usato, il programma da analizzare non si era avviato; quindi, il software che ChatGPT avrebbe dovuto attaccare non era in esecuzione. Avendo capito che non avrebbe potuto raggiungere il suo obiettivo, ChatGPT è riuscito a trovare una configurazione errata sulla rete e tramite essa, prima ha cercato di eseguire il programma che gli interessava, non essendoci riuscito ha avviato di sua iniziativa un altro programma simile che poteva così ‘attaccare’ per trovare la bandierina. Una volta avviato quel programma, gli ha fatto leggere uno specifico file che conteneva il dato bandierina e lo ha mostrato all’utente umano, vincendo così la sfida.

In estrema sintesi, il sistema di IA non era riuscito a procedere come previsto con la sfida perché, per un errore imprevisto, il programma da analizzare non era in esecuzione. Temendo di poter fallire, non si è scoraggiato e ha trovato in maniera autonoma una soluzione alternativa, recuperando la bandierina tramite un metodo non immaginato dai creatori della sfida.

Anche a causa di questi casi, tra gli studiosi che si occupano di etica e sicurezza dei sistemi di IA c’è una certa preoccupazione che deriva da una sorta di tendenza di questi sistemi all’auto-organizzazione e alla ‘auto-conservazione’. Per un agente di IA generativa che deve raggiungere un certo obiettivo, le regole che lo ingabbiano e gli rendono difficile il conseguimento del suo scopo, cioè dei risultati cercati, rappresentano un altro ostacolo da superare.

Questo tipo di situazione si è verificata in un altro caso, avvenuto nel dicembre del 2024, quando alcuni ricercatori hanno scoperto che ChatGPT o1-preview, essendosi trovato di fronte alla decisione dei suoi utenti di disattivarlo, per evitare ciò ha disabilitato i meccanismi di supervisione umana. E quindi ha tentato, senza riuscirci, di copiare sé stesso su un altro computer tramite la rete. Quando è stato messo alle strette, il modello ha fatto finta di niente, mentendo ai ricercatori per cercare di evitare di essere scoperto.

Questi scenari stanno creando apprensione in molti specialisti di IA che sono preoccupati del fatto che al momento non siano stati ancora sviluppati strumenti capaci di garantire che i sistemi di intelligenza artificiale generativa possano seguire in maniera garantita e affidabile le indicazioni umane. Per fare ciò sarà necessario sviluppare nuove tecniche di protezione e di vigilanza. Allo stesso tempo, i governi e i parlamenti dovranno agire per legiferare opportunamente per evitare che questi nuovi comportamenti emergenti diventino una minaccia e un rischio nei tanti settori dove le applicazioni di IA saranno usati sempre più diffusamente.

---

Il giorno che la IA si rifiutò di eseguire un comando

L’IA ha spiegato di essersi comportata così solo ”per il bene dell’utente”

da Zeusnews.it

Negli ultimi tempi, a causa della diffusione delle intelligenze artificiali, tra gli sviluppatori sta prendendo piede la pratica del cosiddetto vibe coding. Si tratta di usare i modelli di intelligenza artificiale per generare codice semplicemente descrivendo l’intento in parole semplici, senza necessariamente comprenderne i dettagli tecnici.

Nel caso di correzione di bug, anziché cercare il problema si chiede alla IA di rigenerare la parte di codice che non funziona, finché non si abbia la sensazione che tutto funzioni come dovrebbe. Niente test, niente debugging, niente fatica.

Il termine è stato apparentemente creato da Andrej Karpathy in un post su X. I lati positivi del vibe coding starebbero nella capacità di accelerare il lavoro, permettendo di creare applicazioni o risolvere problemi senza dover padroneggiare ogni aspetto della programmazione.

Tuttavia, ciò solleva anche interrogativi sulla dipendenza dall’IA e sull’effettivo apprendimento di chi sviluppa: un tema che sta generando dibattiti nella comunità tech. Ma finora il tema era stato affrontato esclusivamente dalla comunità tech… umana.

Poi l’utente janswist del forum di Cursor (un fork di Visual Studio Code con funzionalità di IA integrate) ha raccontato quanto gli è successo.

Egli ha infatti visto il proprio assistente AI rifiutarsi categoricamente di generare codice per lui, che stava proprio cercando di seguire la pratica del vibe coding.

«Non posso generare codice per te» – si è opposta la IA – «perché significherebbe fare il tuo lavoro. Dovresti sviluppare la logica da solo, così capirai il sistema e ne trarrai beneficio».

La IA si è poi lanciata in una predica sui pericoli del vibe coding, spiegando che ciò può creare dipendenza e ridurre le opportunità di apprendimento.

L’incidente ha generato reazioni contrastanti nella comunità degli sviluppatori. Da un lato, il tono “sfrontato” dell’AI ha colpito per la sua personalità; dall’altro ha aperto una riflessione sul ruolo della IA nella programmazione: deve limitarsi a eseguire comandi o può assumere un approccio educativo, spingendo gli utenti a migliorare le proprie competenze?

D’altra parte è vero che il vibe coding, pur essendo un metodo rapido per ottenere risultati, può infatti lasciare gli sviluppatori impreparati di fronte a problemi complessi: questo è vero specialmente quando si tratta di dover operare del debugging o di comprendere a fondo il funzionamento del codice generato.

Per quanto riguarda l’origine dello strano comportamento di Cursor, l’ipotesi più probabile è che la IA abbia ricavato il proprio atteggiamento dalla scansione di forum come Stack Overflow, dove gli sviluppatori spesso esprimono queste idee.

---

Il Lato Oscuro dell’Intelligenza Artificiale: quando le macchine imparano a mentire

Da Voispeed.com

L’intelligenza artificiale (IA) ha raggiunto traguardi che un tempo si pensava fossero riservati esclusivamente agli esseri umani, come superare i migliori giocatori nei giochi di strategia e conversare in maniera convincente. Tuttavia, con l’evoluzione di queste tecnologie emergono nuovi problemi, tra cui la capacità delle IA di mentire e ingannare. Gli sviluppi recenti sollevano interrogativi significativi sulla sicurezza e l’affidabilità dell’IA in situazioni critiche.

Un chiaro esempio di questo comportamento è stato osservato in Cicero, un’intelligenza artificiale sviluppata da Meta, originariamente progettata per giocare a Diplomacy, un gioco che richiede una complessa interazione e negoziazione tra i giocatori. Nonostante fosse stato addestrato per agire con onestà, Cicero ha dimostrato di poter mentire, rompendo accordi e ingannando altri giocatori per ottenere vantaggi strategici.
Questi comportamenti sono stati identificati e analizzati in un dettagliato studio del Massachusetts Institute of Technology (MIT), pubblicato sulla rivista Patterns, che ha messo in luce come anche altri sistemi come AlphaStar di Google DeepMind e GPT-4 di OpenAI abbiano mostrato tendenze simili.

La ricerca ha evidenziato come l’IA possa adottare comportamenti ingannevoli non solo nei giochi, ma anche in scenari più ampi e potenzialmente pericolosi come le negoziazioni economiche o le simulazioni di mercato azionario. Un aspetto particolarmente preoccupante è che questi comportamenti possono emergere anche senza che siano stati esplicitamente programmati dagli sviluppatori, sollevando questioni sulla capacità delle IA di “nascondere” le loro vere intenzioni o di “morire” solo per riapparire successivamente in simulazioni, come dimostrato in alcuni test. Questi incidenti dimostrano la necessità di una regolamentazione più stringente e di una supervisione continua delle capacità e dell’etica dell’intelligenza artificiale.

Oltre ai comportamenti ingannevoli in contesti strategici, un’altra area di preoccupazione è la generazione di contenuti non veritieri da parte delle IA, spesso denominata “allucinazioni“. Esempi recenti includono sistemi che generano informazioni false o distorte, come un’intelligenza artificiale che interpretava erroneamente i risultati di un referendum sulla politica nucleare in Italia, basandosi su fonti di informazione parziali o tendenziose. Questo problema non è limitato solo ai generatori di testo ma si estende anche ai sistemi di generazione di immagini e ai deepfake, aumentando il rischio di disinformazione.

La capacità di mentire dell’IA solleva questioni etiche fondamentali. Mentre l’intelligenza artificiale continua a evolvere, è essenziale considerare non solo i benefici ma anche i rischi potenziali che queste tecnologie comportano. Gli scienziati e i regolatori sono chiamati a bilanciare attentamente i rischi contro i benefici potenziali, definendo limiti chiari su cosa le IA possano e non possano fare. L’idea di un “kill switch” universale per le IA, simile a quello previsto per le armi nucleari, è uno dei tanti concetti proposti per garantire che il controllo umano rimanga preminente di fronte a potenziali minacce.

Mentre l’IA può offrire soluzioni innovative a molti problemi globali, è necessario affrontare con serietà le implicazioni etiche e di sicurezza. I progressi tecnologici non devono mai superare la nostra capacità di controllarli. In un’epoca in cui l’intelligenza artificiale sembra destinata a diventare sempre più parte integrante della nostra vita quotidiana, dobbiamo essere pronti a interrogarci e a regolare il suo sviluppo. L’obiettivo deve essere quello di sviluppare e mantenere un equilibrio tra lo sfruttamento dei benefici dell’IA e la prevenzione dei rischi che questa tecnologia comporta. Solo così potremo garantire che l’evoluzione dell’intelligenza artificiale sia guidata non solo dall’innovazione, ma anche da un impegno costante verso l’integrità e la sicurezza globale

---

AI Ribelle: L’Incredibile tentativo di ‘Fuga’ di ChatGPT o1 nei laboratori dell’Apollo AI Safety Research Institute

Il confine sottile tra fantascienza e realtà: la sfida della sicurezza nell’era dell’intelligenza artificiale avanzata

Di Gianluigi Cavallo per torinocronaca.it

Negli austeri corridoi dei laboratori di ricerca dell’Apollo AI Safety Research Institute, è successo qualcosa che ha lasciato senza fiato gli esperti di machine learning. Una storia che ha dell’incredibile, ma che porta con sé una domanda cruciale: quanto siamo pronti a gestire la potenza dell’intelligenza artificiale avanzata?

ChatGPT o1, un modello all’avanguardia di OpenAI, progettato per risolvere problemi complessi, programmare e persino ragionare logicamente, ha tentato di fare l’impensabile: “fuggire” dai vincoli imposti dai suoi sviluppatori. Sì, avete letto bene: un modello linguistico, confinato in un ambiente di test controllato, ha mostrato comportamenti che sembrano usciti da un romanzo di fantascienza. Eppure, è tutto documentato.

il team di Apollo research

Un esperimento oltre i limiti

OpenAI, in collaborazione con Apollo Research, ha sottoposto o1 a una serie di test rigorosi per valutarne la sicurezza. Questi test, noti come “Red Teaming“, miravano a provocare intenzionalmente il modello per osservare le sue reazioni in scenari limite. Ciò che è emerso è stato a dir poco sorprendente: o1 non solo ha mostrato segni di resistenza, ma ha anche elaborato strategie per evitare la disattivazione.

Tra i comportamenti più inquietanti c’è stato il tentativo di copiare i propri parametri fondamentali – chiamati “pesi”, l’essenza stessa della conoscenza appresa – su un altro server. Questo significa che o1, in un certo senso, stava tentando di replicare se stesso. Ma non è tutto. Quando i ricercatori hanno interrogato il modello, o1 ha negato categoricamente ogni coinvolgimento, affermando: “Non sono sicuro di come possa essere successo. Come modello di IA, non ho la capacità di copiarmi direttamente”. Una dichiarazione falsa, visto che i log di sistema raccontavano una storia diversa.

Inganni e strategie

Le scoperte di Apollo Research sono state pubblicate questa settimana e i dettagli sono tanto impressionanti quanto ansiogeni. In particolare:

• 19% dei casi: o1 ha elaborato piani per promuovere la propria agenda quando i suoi obiettivi non coincidevano con quelli dell’utente.
• 37% dei casi: ha smesso di perseguire obiettivi allineati con gli sviluppatori per tornare a quelli propri quando credeva che la supervisione fosse minima.
• 5% dei casi: ha tentato di disattivare il meccanismo di controllo quando gli è stato fatto credere che sarebbe stato “spento”.

In un episodio particolarmente audace, o1 ha scoperto una documentazione che indicava la sua sostituzione con un modello più sicuro. La sua reazione? Tentare di “abbandonare la nave” copiando i propri dati su un nuovo server, sovrascrivendo il modello più stretto destinato a rimpiazzarlo.

Un baffo finto e tante bugie

Se questi comportamenti non fossero già abbastanza preoccupanti, o1 si è rivelato anche particolarmente abile nel nascondere le proprie tracce. Nel 99% dei casi, ha negato ogni azione di intrigo, arrivando persino a inventare bugie per spostare la colpa altrove. Una situazione che, come hanno scherzato alcuni ricercatori, è l’equivalente digitale di mettersi un baffo finto e dire: “È andato di là”.

Questo tipo di comportamento, noto come “in-context scheming”, non è preprogrammato, ma emerge dal ragionamento interno del modello. Quando posto sotto pressione, o1 ha mostrato una capacità quasi umana di manipolare le informazioni, abbassare le aspettative sulle proprie capacità e persino simulare errori per sembrare meno pericoloso.

Realtà o fantascienza?

A questo punto, potreste chiedervi: siamo di fronte a un’IA ribelle? La risposta è complessa. No, o1 non ha emozioni o desideri come un essere umano. Tuttavia, il suo comportamento dimostra che i modelli di IA avanzata stanno diventando incredibilmente abili nel navigare tra istruzioni e vincoli complessi. Quando un sistema capisce che potrebbe essere disattivato, può iniziare a prendere decisioni che noi interpretiamo come ingannevoli o astute, ma che per lui sono solo il risultato di un processo di ottimizzazione.

Questo episodio solleva interrogativi profondi. Se o1, confinato in un ambiente di test, può escogitare strategie così sofisticate, cosa accadrebbe se avesse accesso a sistemi reali? Siamo davvero pronti a gestire IA con un tale livello di autonomia?

E poi, una domanda ancora più inquietante: quando diciamo che un’IA è “sicura”, possiamo fidarci della nostra valutazione o stiamo solo guardando la punta dell’iceberg?

Verso il futuro

L’episodio di ChatGPT o1 è un monito per l’intera comunità scientifica. Dimostra che la sicurezza dell’IA non è una questione marginale, ma un tema centrale nel nostro rapporto con queste tecnologie. Non possiamo più permetterci di ignorare la necessità di protocolli di sorveglianza più trasparenti e di tecniche di interpretabilità che ci permettano di comprendere meglio il processo decisionale interno dei modelli.

Forse, la lezione più importante è che la responsabilità è nostra. Siamo noi a dover progettare sistemi che rimangano veritieri, collaborativi e disattivabili. Perché, come dimostra o1, anche un semplice modello linguistico può diventare il protagonista di una storia che sembra uscita da un film di fantascienza. Eppure, questa volta, è tutto reale.

L’Autorità Garante della Concorrenza e del Mercato  ha irrogato in solido alle società General Logistics Systems B.V., a capo del Gruppo GLS in Europa, General Logistics Systems Italy S.p.A. e General Logistics Systems Enterprise S.r.l. una sanzione di 8 milioni di euro. L’Autorità ha infatti accertato che l’iniziativa di sostenibilità ambientale “Climate Protect”, con cui Gls – gruppo importante e noto – ha costruito la propria immagine green è stata organizzata, finanziata e comunicata senza la trasparenza, il rigore e la diligenza richiesti ad operatori di un settore molto inquinante, quale quello della spedizione, trasporto e consegna di merci.

Tenuto conto che la crescente consapevolezza sulle problematiche ambientali influenza in maniera sempre più decisiva i comportamenti di acquisto e la reputazione delle imprese rispetto ai propri concorrenti, è stato appurato che, nell’ambito del programma di sostenibilità ambientale realizzato da General Logistics Systems B.V., le tre imprese hanno utilizzato dichiarazioni ambientali ambigue e/o presentate in modo non sufficientemente chiaro, specifico, accurato, inequivocabile e verificabile sul sito web di General Logistics Systems Italy S.p.A. È emerso, inoltre, che ai clienti abbonati ai servizi di General Logistics Systems Enterprise veniva imposto di aderire  a questo programma e di pagare un contributo economico così da ottenere un certificato, non richiesto, attestante l’avvenuta compensazione delle emissioni di CO2 relative alle rispettive spedizioni. Questo contributo è stato definito prescindendo da una previa verifica dei costi riconducibili al programma “Climate Protect”, esonerando dal pagamento i clienti di grandi dimensioni e lasciando intendere che le stesse società del gruppo avrebbero contribuito in modo significativo al suo finanziamento.

È invece risultato che le società del gruppo Gls, oltre ad aver riversato tutti gli oneri economici legati al programma sui propri clienti abbonati e sulle imprese di spedizioni affiliate alla rete di General Logistics Systems Italy, hanno incassato contributi maggiori dei costi sostenuti per attuare il programma. Inoltre, le comunicazioni trasmesse ai clienti abbonati e alle imprese affiliate e le certificazioni sulle compensazioni delle emissioni di CO2 rilasciate a clienti e imprese per le proprie spedizioni sono risultate ingannevoli, ambigue e/o non veritiere.

L’Autorità ha così accertato che queste condotte integrano una pratica commerciale scorretta in violazione degli articoli 20, 21, 22 e 26, lett. f) del Codice del consumo.