Le celebri leggi della robotica formulate da Isaac Asimov compiono 75 anni. E gli esperti ritengono sia giunto il momento di aggiornarle. Ecco come

Settantacinque anni di leggi della robotica e sentirli tutti: le celebri regole enunciate da Isaac Asimov, il più famoso scrittore di fantascienzadi tutti i tempi, cominciano ad avvertire i primi segni del tempo che passa. E rischiano di diventare obsolete rispetto agli avanzamenti della stessa robotica e dell’intelligenza artificiale: è per questo che RoboHub, la più grande comunità scientifica internazionale del settore, ha aperto un dibattito sulla possibilità di aggiornare le leggi alla luce dei cambiamenti che Asimov non avrebbe potuto prevedere.
Ma facciamo un passo indietro, precisamente al 1942. Quando Asimov pubblica il racconto Circolo vizioso, ambientato sul pianetaMercurio. I protagonisti della storia, Greg Powell e Mike Donovan, appena sbarcati sul pianeta, hanno a disposizione un robot sofisticatissimo per recuperare del selenio – elemento estremamente abbondante su Mercurio – da usare per la riparazione di un guasto ai pannelli fotovoltaici della miniera nella quale si trovano.
C’è però un imprevisto: Speedy, questo il nome del robot, sembra essereimpazzito. Anziché estrarre il selenio, vi gira intorno canticchiando canzoni senza senso. Il motivo dello stallo, scopriranno Powell e Donovan, sta nel fatto che dal pozzo di selenio esala monossido di carbonio, dannoso per il robot: questi, pur essendo programmato per obbedire agli esseri umani, tenta anche di salvaguardare la propria esistenza, rispettando le tre regole impresse nel suo cervello positronico, che passeranno alla storia come leggi della robotica.

1. Un robot non può recare danno a un essere umano, né può permettere che, a causa del proprio mancato intervento, un essere umano riceva un danno.
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purché tale autodifesa non contrasti con la Prima o con la Seconda Legge.

Quello che succede, in sostanza, è che il robot, cui è stato impartito l’ordine di estrarre il selenio, si avvicina al pozzo in ottemperanza alla Seconda legge, ma poi vi si allontana in base alla Terza, girando all’infinito attorno alla pozza. Impasse di questo tipo, dovute a conflitti tra le leggi della robotica – o a problemi interpretativi delle stesse – sono estremamente comuni nei racconti di Asimov, e generalmente sono risolte grazie a intuizioni umane, che permettono di penetrare le maglie delle regole e uscire dal ginepraio.
Un metodo che oggi – e ancora di più domani – potrebbe però non essere più sufficiente a indirizzare i robot. “Il problema”, ci spiega Filippo Cavallo, esperto di robotica sociale alla Scuola superiore di studi universitari e perfezionamento Sant’Anna di Pisa, “è che negli ultimi 75 anni le tecnologie – soprattutto l’intelligenza artificiale e la potenza computazionale – erano completamente diverse rispetto a quelle di oggi. I robot, all’epoca, svolgevano soprattutto lavori meccanici e ripetitivi in ambienti estremamente controllati, come per esempio quelli industriali”. Sostanzialmente, al tempo della prima formulazione delle leggi della robotica, e negli anni successivi, i robot erano rigidamente programmati per operare in condizioni quasi deterministiche, in cui non c’era spazio per aleatorietà né improvvisazione.
“Oggi”, dice ancora Cavallo, “la situazione è completamente diversa. I robot lavorano in ambienti non strutturati e volatili e hanno a che fare con eventi casuali e non predicibili, il che può portare a situazioni inattese. Che sfuggono completamente al dominio delle Tre leggi di Asimov”. A complicare ulteriormente lo scenario, il fatto che i robot sono e saranno sempre più usati in scenari cooperativi, in cui dovranno lavorare fianco a fianco con altri robot, con la rete dell’internet delle cose e, naturalmente, con gli esseri umani. Facciamo un esempio concreto. “Supponiamo”, spiega Cavallo, “di avere un robot che assiste una persona anziana non autosufficiente. E supponiamo che questi si rifiuti, un giorno, di assumere le terapie. Cosa dovrebbe fare un robot? Secondo le Leggi di Asimov, non potrebbe non somministrare la terapia – altrimenti arrecherebbe danno a un essere umano – ma non potrebbe neanche disubbidire ai suoi ordini. E andrebbe dunque incontro a uno stallo ben più grave di quelli paventati da Asimov”.
Altri esempi riguardano tutte le situazioni in cui i processi decisionali sono significativamente influenzati dall’etica, come per esempio quelle delle automobili a guida autonoma – che possono essere considerati dei robot a tutti gli effetti – quando c’è da decidere tra preservare la sicurezza dei passeggeri o di eventuali passanti. Anche in questo caso, secondo gli esperti, un cervello programmato con le Tre Leggi non sarebbe in grado di prendere velocemente la decisione giusta (posto che ci sia una decisione giusta: ma qui sconfiniamo, per l’appunto, nel campo dell’etica). Cosa fare, dunque? Cavallo propone due approcci: “Anzitutto, è necessario formulare una sorta di leggi della robotica locali, che si adattino cioè al contesto in cui opera il robot e che siano rielaborate di conseguenza: in generale, tali leggi devono essere inserite in un nuovo framework etico-sociale-tecnologico-legale più ampio di quello in cui le aveva inglobate Asimov”. L’altro aspetto ha più a che fare con la tecnologia in senso stretto: “Auspicabilmente”, conclude Cavallo, “gran parte di queste contraddizioni potranno essere risolte dalla stessa tecnologia. Tornado all’esempio del robot che assiste un paziente anziano, potremmo immaginare che in futuro sarà così evoluto da avere capacità ‘sociali’, ossia da comportarsi come farebbe un essere umano, cercando di persuadere l’assistito seguendo regole sociali di base. È la cosiddetta persuasive technology”. Chissà se avrebbe funzionato anche con Speedy.

L’abuso delle tecnologie sanitarie, in particolare di quelle diagnostiche, rappresenta oggi la determinante principale di preoccupanti fenomeni in continua ascesa. Infatti, l’eccesso di medicalizzazione è riconosciuto come criticità rilevante dell’assistenza sanitaria (1-9), l’overdiagnosis e l’overtreatment sono fenomeni identificati per molte malattie (4,10) e la medicalizzazione di condizioni normali è al centro di pesanti critiche (11,12).

Dall’invenzione dello stetoscopio a Parigi nel 1816 al sequenziamento dell’intero genoma privo di cellule fetali nel sangue di una donna gravida, le tecnologie diagnostiche hanno trasformato in maniera determinante la medicina e l’assistenza sanitaria: infatti, dalle 2.400 malattie descritte nel 1793 nella Nosologica methodica di Sauvage oggi l’ICD-10 elenca oltre 40.000 voci. Inoltre, le tecnologie biomediche costituiscono la determinante principale dell’incremento della spesa sanitaria (13-16), di gran lunga superiore ad altri fattori, quali invecchiamento della popolazione, aumento della domanda, inflazione, innalzamento dei prezzi, ridotta efficienza organizzativa. La disponibilità di una nuova tecnologia aumenta il prestigio di ospedali e specialisti, scatena una vera e propria corsa all’armamento tecnologico (17) e qualunque innovazione viene utilizzata oltre i suoi reali benefici, talvolta anche quando presenta dei rischi (18).
Se è indubbio che le tecnologie sanitarie sono indispensabili per migliorare la salute, bisogna assolutamente evitare che il mezzo si trasformi in fine, rendendo malate tutte le persone.
Il circolo vizioso dell’innovazione tecnologica
La figura 1 mostra che viene solitamente innescato da un miglioramento tecnico — es. la maggiore risoluzione di una tomografia computerizzata (TC) — che non sempre corrisponde ad un aumento delle performance diagnostiche, perché spesso consente solo di vedere meglio quello che già conosciamo (19). Altre volte, invece, l’evoluzione tecnologica migliora l’accuratezza diagnostica (19): ad esempio, rispetto alla scintigrafia ventilatoria-perfusoria, l’angio-TC polmonare è molto più sensibile per la diagnosi di embolia polmonare e grazie a un’analisi più dettagliata delle immagini permette di identificare un numero maggiore di casi, in realtà meno gravi (20,21,22). Infatti, nel periodo 1998-2006 l’angio-TC polmonare ha permesso di aumentare dell’80% la probabilità di identificare una embolia polmonare (5). In altri termini, oggi l’evoluzione tecnologica permette di identificare lesioni in precedenza sotto-diagnosticate (1,5), aumentando la percezione di successo e l’interesse per l’innovazione. Parallelamente, l’aumento del numero di casi diagnosticati scatena l’interesse terapeutico e vengono trattate sia persone precedentemente non considerate malate (18), sia casi meno gravi e lesioni che non sarebbero mai state identificate. Ad esempio, TC, risonanza magnetica (RM) e aspirazione eco-guidata di noduli tiroidei hanno aumentato l’identificazione (e la rimozione) di piccoli carcinomi papillari (1). Ovviamente, trattare casi meno gravi migliora complessivamente i risultati, rafforzando la percezione di successo, che a sua volta incoraggia nuovi investimenti da destinare a ulteriori innovazioni della tecnologia (18). La tabella 1 riporta vari esempi dove l’evoluzione delle tecnologie diagnostiche ha modificato la prevalenza delle malattie, spesso senza migliorare gli esiti.

Il potere seduttivo della tecnologia
L’uso indiscriminato delle tecnologie diagnostiche è favorito da numerosi stakeholder: industria, politici, management, professionisti sanitari, cittadini, pazienti e media. A livello di sistema sanitario l’offerta genera domanda (34,35): se vi è disponibilità di una RM ovviamente verrà utilizzata, così come i test di laboratorio e gli interventi chirurgici (35), anche in assenza di prove di efficacia, sicurezza ed efficienza (18,35-38) e talvolta anche in presenza di prove di inefficacia (es. pulsossimetria per il monitoraggio peri-operatorio, chirurgia robotica (39,40)). L’aumento della domanda, e il conseguente allungamento delle liste di attesa, vengono gestiti dalle organizzazioni sanitarie aumentando l’offerta, che incrementa ulteriormente la domanda. Inoltre, l’offerta tecnologica tende a essere sempre più ampia e variegata perchè esiste una maggiore propensione a investire in una nuova tecnologia supportata da evidenze limitate, piuttosto che dismettere una tecnologia di documentata inefficacia (41,42). Inoltre, il concetto di high tech viene spesso associato a quello di elevata importanza (43) e qualità (44): la tecnologia viene utilizzata in maniera strategica per attrarre specialisti e pazienti (44), scatenando la corsa all’armamento tecnologico (17) tra organizzazioni sanitarie pubbliche e private in continua competizione. La tecnologia, di conseguenza, da strumento per migliorare la salute si trasforma in mezzo di potere e prestigio, sino a diventare fine a sé stessa (45,46).
Queste convinzioni sono diffuse tra pazienti, cittadini e media, concordi nel richiedere all’unisono interventi high tech nei quali ripongono fiducia illimitata, convinti che sempre “nuovo è meglio di vecchio”, “complesso è meglio di semplice”, “molto è meglio di poco”, “sapere è meglio di non sapere” e che una diagnosi precoce è meglio di una tardiva. Se il medico non prescrive una TC o una RM il paziente lo accuserà di sottovalutare il problema, con la connivenza dei media, dove troneggiano storie di persone infuriate o deluse per un accesso negato alla tecnologia desiderata e dove le vittime dell’overdiagnosis e dell’overtreatment si dichiarano sempre felici di essere state “salvate”.
Ma soprattutto, uno dei driver principali è costituito dalla stessa tecnologia: l’imperativo tecnologico (47) spinge l’innovazione oltre le necessità di cura, fino al punto in cui è la tecnologia a definire le malattie e a fornire le cure (11,48), per compensare l’involuzione della relazione medico-paziente (49) che ha reso progressivamente autonoma la tecnologia quale elemento di cura (50). Di conseguenza, la tecnologia si è trasformata in un potente attore indipendente che guida la medicina e l’assistenza sanitaria oltre i suoi obiettivi reali, soggiogando professionisti e pazienti che finiscono per declinare le proprie responsabilità: paradossalmente le tecnologie ci hanno reso schiavi del progresso (51).
Il circolo vizioso e i driver identificati, seppure utili per comprendere e gestire il sovra-utilizzo delle tecnologie diagnostiche, non colgono tuttavia il ruolo della tecnologia nel costruire il concetto di malattia. La tecnologia, infatti, sta modificando il significato di malattia a tre livelli (52,53,54). Innanzitutto, fornisce le entità che definiscono la malattia: analizzatori biochimici, citometri e sequenziatori di DNA permettono di accedere a enzimi, cellule T o specifici strati di DNA con la conseguenza che i criteri diagnostici delle malattie sono sempre più frequentemente identificati da tecnologie diagnostiche. In secondo luogo, la tecnologia guida e struttura la nostra conoscenza della malattia: ieri le conoscenze sull’infarto del miocardio si basavano sull’attività elettrica del cuore misurata dall’elettrocardiogramma, oggi sul dosaggio della troponina. Infine, la malattia è definita dalla tecnologia attraverso la pratica clinica: tutto ciò che è misurabile o manipolabile tende inevitabilmente a diventare malattia (es. ipertensione e colesterolemia non sarebbero rilevanti da un punto di vista clinico se non fosse possibile misurarle o manipolarle). Di conseguenza, l’espansione della tecnologia estende enormemente, nel bene e nel male, la nostra idea di malattia.
Gli effetti collaterali dell’innovazione tecnologica
La figura 2 mostra alcune implicazioni del circolo vizioso alimentate dai numerosi driver della tecnologia e dalla costruzione tecnologica della malattia.

• Aspettative irrealistiche. L’apparente successo legato all’aumento di diagnosi e trattamenti determina un entusiasmo ingiustificato di professionisti e decisori, un aumento della domanda di cittadini e pazienti, alimentata dai media spesso “sostenuti” dall’industria. I benefici dell’innovazione tecnologica vengono sempre evidenziati, mentre i rischi rimangono nascosti o vengono (volutamente) occultati.
• Utilizzo di test accurati in popolazioni a bassa prevalenza. Un test diagnostico accurato può peggiorare gli esiti di salute se viene utilizzato in soggetti a bassa probabilità di malattia. Di conseguenza, l’evoluzione tecnologica non garantisce miglioramenti clinici.
• Incertezza sul miglioramento degli esiti. La diagnosi di un numero maggiore di più casi non implica automaticamente che un maggior numero di pazienti verranno trattati con successo o che più vite verranno salvate (1,55,56). Sicuramente più soggetti saranno “etichettati” come malati, visto che le definizioni di malattia vengono continuamente ampliate e condizioni normali sono riclassificate come patologiche. Il progresso tecnologico permette di identificare casi che non avrebbero comunque causato sintomi o morte — overdiagnosis — con conseguente overtreatment (10,57,58). Pertanto, l’evoluzione delle tecnologie, in un ottica di sanità pubblica, può risultare inutile o addirittura dannosa.
• Aumento delle prestazioni. L’incremento della domanda genera ulteriore offerta e l’aumento delle prestazioni genera diagnosi accidentali. Se è indubbio che, occasionalmente, un “incidentaloma” permette di salvare vite, nella maggior parte dei casi non è così: ad esempio l’identificazione accidentale di tumore alla tiroide nel corso di TAC o RM non riduce i sintomi né la mortalità (1). Inoltre, il follow-up di risultati positivi ai test diagnostici genera altri risultati accidentali, per cui vengono erogate più prestazioni diagnostiche senza misurare i reali effetti sulla salute.
• Aumento dei costi. L’incremento di programmi di screening, di test diagnostici e di incidentalomi con relativo follow-up fanno lievitare in maniera sostanziale la spesa sanitaria (13,15), sottraendo risorse dalle aree in cui la tecnologia è realmente efficace e le innovazioni necessarie.
• Riduzione del value. Quando il valore predittivo di un test diagnostico è basso, i casi di overdiagnosis e overtreatment aumentano, le persone con problemi sociali o altri problemi vengono etichettate come malate e il value degli interventi sanitari diminuisce.
• Aumento dell’ansia. L’aumentata prevalenza delle malattie e l’accresciuta consapevolezza dei problemi di salute rendono le persone più preoccupate e ansiose rispetto alla propria salute, inducendole a richiedere ulteriori test diagnostici e trattamenti.
• Perdita di fiducia. Con un’aumentata consapevolezza degli eccessi dell’assistenza (7,9,53), degli interventi dal low value (59,60) e dei servizi sanitari “da non erogare” (61), le persone possono perdere la fiducia nei medici e nel sistema sanitario.

Quali soluzioni?
L’utilizzo indiscriminato delle tecnologie diagnostiche contribuisce all’eccesso di medicalizzazione della società perché la tecnologia è profondamente radicata nel nostro concetto di malattia e nella nostra cultura, generando numerosi atti di fede. Per queste ragioni è assolutamente necessario:

• Sbarazzarsi dei luoghi comuni, quali “fare di più è meglio di fare di meno”, “nuovo è meglio di vecchio”, “avanzato è più preciso di semplice”.
• Acquisire maggiore consapevolezza delle responsabilità nello sviluppo, implementazione e utilizzo delle tecnologie sanitarie (51): nel prescrivere test ed esami il medico non può più appellarsi a vaghi imperativi tecnologici, al concetto generico di “progresso” o alle pressanti richieste di pazienti (volutamente?) non informati.
• Moderare l’entusiasmo nei confronti delle nuove teconologie, al fine di cogliere la nostra ambivalenza verso di esse, ovvero il controllarle e l’esserne controllati. Infatti, considerato che la tecnologia estende le possibilità di agire, ma allo stesso tempo è una forza che inquadra e orienta (62), è necessario essere consapevoli che è diventata più di un mezzo neutro per un fine umano (45,63) e che noi interagiamo con essa al tempo stesso come un artefatto e come un attore (64).
• Governare l’implementazione delle innovazioni tecnologiche, favorendo l’introduzione nella pratica clinica solo di quelle che, oltre a presentare chiare evidenze di reali benefici, hanno un elevato value (65).
• Promuovere una valutazione trasparente delle tecnologie per proteggere la salute delle persone (42): i dispositivi devono essere valutati criticamente alla pari dei farmaci (66,67), i pazienti devono essere meglio informati sulle incertezze che riguardano rischi e benefici delle tecnologie, non solo sui vantaggi enfatizzati e ostentati. Inoltre, le loro preferenze e aspettative dovrebbero essere prese in considerazione nelle fasi di sviluppo, valutazione, implementazione e utilizzo di tutte le tecnologie sanitarie.

Considerato che oggi la capacità di ideare, produrre e utilizzare tecnologie sembra superare di gran lunga quella di riflettere sulla loro applicazione, affinché l’innovazione tecnologia si traduca in benefici reali limitando i rischi, è necessario acquisire un sano scetticismo, evitando le lusinghe e riconoscendo i limiti delle tecnologie. Ovvero, per evitare di diventare giganti da un punto di vista dell’innovazione e lillipuziani da un punto di vista etico occorre una implementazione più responsabile di tutte le tecnologie sanitarie (68).
Info complete sull’autore, bibliografia, etc: http://www.evidence.it/articolodettaglio/209/it/467/la-corsa-allarmamento-tecnologico-affannosa-costosa-e-risch/articolo