La minaccia senza precedenti del nuovo coronavirus Covid-19 ha confinato molti americani nelle loro case, allontanandoli gli uni dagli altri a costi elevati per le economie locali e il benessere personale, nel frattempo è aumentata la pressione sulle istituzioni americane per fare qualcosa, qualsiasi cosa, sulla pandemia. Incoraggiata ad agire dalla Casa Bianca, gran parte di questa pressione si è concentrata sulla Silicon Valley e sull’industria tecnologica, che ha risposto con una fragile soluzione digitale. Le aziende tecnologiche e i dipartimenti di ingegneria delle principali università stanno riponendo le loro speranze di far tornare gli americani a lavorare e a giocare sulla promessa delle applicazioni per smartphone.
Tracciamento del coronavirus Covid-19? C’è un’app per questo
Ashkan Soltani (ricercatore indipendente e un tecnologo specializzato in privacy, sicurezza ed economia comportamentale), Ryan Calo (professore di giurisprudenza all’Università di Washington, con incarichi di cortesia in informatica), Carl Bergstrom (professore di biologia all’Università di Washington con una vasta esperienza nell’epidemiologia delle malattie infettive emergenti), sul tracciamento dell’app, hanno prodotto questo studio.
Siamo preoccupati da questo crescente entusiasmo per la tecnologia automatizzata come fulcro del controllo delle infezioni. Tra di noi, abbiamo una vasta esperienza in tecnologia, legge e politica, ed epidemiologia. Abbiamo seri dubbi sul fatto che la ricerca volontaria e anonima dei contatti attraverso le app per smartphone – come Apple, Google – possa liberare gli americani dalla terribile scelta tra rimanere a casa o rischiare di esporsi.
Temiamo che le app di tracciamento dei contatti serviranno da veicolo per abusi e disinformazione, fornendo al contempo un falso senso di sicurezza per giustificare la riapertura delle economie locali e nazionali ben prima che sia sicuro farlo. Le nostre raccomandazioni mirano a ridurre il danno di un intervento tecnologico che sembra sempre più inevitabile, non abbiamo dubbi sul fatto che gli sviluppatori di app per tracciare i contatti e le relative tecnologie siano ben intenzionati, ma li esortiamo a intensificare e riconoscere i limiti di tali tecnologie prima che siano ampiamente adottate. Le agenzie sanitarie e i responsabili politici non dovrebbero fare eccessivo affidamento su queste applicazioni e, a prescindere, dovrebbero stabilire regole chiare per scongiurare la minaccia alla privacy, all’equità e alla libertà, imponendo adeguate misure di salvaguardia.
La ricerca dei contatti implica un lavoro a ritroso dai casi infetti per identificare le persone che possono essere state esposte alla malattia, in modo che possano essere testate, isolate e, quando possibile, trattate. La tradizionale tracciatura per contatto è un processo di interviste e di lavoro investigativo che richiede molto lavoro, alcuni Paesi come Singapore, Corea del Sud e Israele hanno adottato la tecnologia, comprese le applicazioni mobili, per facilitare la ricerca di contatti di casi di coronavirus Covid-19; questa idea sta prendendo piede negli Stati Uniti: Nord Dakota e Utah hanno rilasciato app volontarie per la ricerca di contatti che si basano sulla localizzazione degli utenti mentre si spostano, la società di consulenza PwC ha iniziato a promuovere uno strumento di ricerca di contatti per consentire ai datori di lavoro di controllare quali dipendenti possono tornare al lavoro, diverse aziende tecnologiche americane e istituti di istruzione superiore stanno sviluppando l’infrastruttura che consentirebbe una sorta di tracciamento automatizzato dei contatti, evitando al tempo stesso alcuni problemi di privacy. Tali sforzi sono più efficaci quando i test sono rapidi e ampiamente disponibili e quando le infezioni sono condizioni relativamente rare, attualmente insolite negli Stati Uniti. Idealmente per contribuire a contenere la diffusione del coronavirus Covid-19, la ricerca manuale dei contatti da parte di professionisti addestrati può aiutare a identificare i candidati per i test e la quarantena.
L’impulso di automatizzare il processo dettagliato di analisi del contatto è evidente, ma finora nessuno ha dimostrato che sia possibile farlo in modo affidabile nonostante numerosi tentativi simultanei. Le app che notificano ai partecipanti la divulgazione del contagio potrebbero, ai margini e nelle condizioni appropriate, aiutare a indirizzare le risorse per i test a coloro che sono più a rischio, qualsiasi altra cosa ci sembra impossibile nel migliore dei casi, e pericolosa nel peggiore dei casi.
Esposizione al contagio, notifica di Apple e Google
Apple e Google in risposta alla crescente pressione esercitata dall’amministrazione Trump sulle piattaforme tecnologiche per la condivisione dei dati, hanno proposto un’interfaccia di programmazione delle applicazioni (o “API”) per la conduzione della ricerca dei contatti utilizzando i cellulari, che descrivono come un sistema per fornire una “notifica dell’esposizione” agli utenti dopo che sono stati diagnosticati o segnalati automaticamente come infetti. L’API di Apple-Google supporta la funzionalità specifica di avvertire i partecipanti se il loro cellulare è stato vicino a quello di una persona che ha segnalato di essere positiva al coronavirus Covid-19. Le aziende, per essere chiari, non stanno pianificando di sviluppare un’applicazione in proprio, il che richiederebbe di affrontare alcune delle questioni più impegnative su come verificare che un utente sia stato infettato e quali politiche suggerire quando gli individui sono avvisati di essere “in contatto” con un individuo infetto: in definitiva, hanno lasciato ai funzionari della sanità pubblica, o a chiunque altro sviluppi le app, il compito di determinarne la funzionalità e l’uso, ovviamente, in base ai vincoli della piattaforma.
Insidia delle app di tracciamento dei contatti
Noi e molti altri abbiamo sottolineato una serie di insidie per le app di coronavirus volontarie e autodidattiche del tipo Apple, Google e altre che contempliamo. È probabile in primo luogo che le notifiche delle app relative al contatto con il coronavirus Covid-19 siano simultaneamente in eccesso che in difetto. Esperti in diverse discipline hanno dimostrato perché i cellulari e i loro sensori creano imperfette esposizioni al coronavirus. I falsi positivi (segnalazioni di esposizione quando non esistevano) possono sorgere facilmente. Le persone possono essere contrassegnate come se si fossero messe in contatto l’una con l’altra nonostante la bassissima possibilità di trasmissione, ad esempio anche quando sono separate da pareti abbastanza porose da far penetrare un segnale Bluetooth. Né i sistemi tengono conto quando le persone nelle loro interazioni con gli altri prendono precauzioni, come l’uso di dispositivi di protezione individuale.
Persino tra i veri eventi di contatto, la maggior parte non porterà alla trasmissione del contagio. Gli studi suggeriscono che le persone hanno in media circa una dozzina di contatti ravvicinati il giorno, incidenti che comportano un contatto diretto o una conversazione uno a uno. La persona infetta anche in assenza di misure di distanziamento sociale in media contagia 2 o 3 altre persone durante l’intero corso della malattia. Le interazioni fugaci, come gli incroci nel negozio di alimentari, saranno sostanzialmente più comuni e decisamente meno suscettibili di causare la trasmissione del contagio. Le app se segnalano anche questi incontri a basso rischio, amplificano l’allarme nel momento in cui segnalano l’esposizione; se non lo fanno, perderanno una frazione sostanziale degli eventi di trasmissione.
Molti utenti poiché la maggior parte delle esposizioni segnalate dalle app non porterà all’infezione, saranno comunque indotti a mettersi in quarantena, anche se non sono stati infettati: una persona può sopportarla una o due volte, ma dopo qualche falso allarme e il conseguente inconveniente di un prolungato isolamento, ci aspettiamo che molti comincino a ignorare gli avvertimenti. Certo, si tratta anche di un problema di tracciamento convenzionale dei contatti, può essere gestito con una comunicazione diretta, efficace tra il tracciante del contatto e il sospetto di contatto.
Problema dei falsi negativi e asintomatici
È altrettanto problematica la questione dei falsi negativi, quando queste applicazioni non riescono a segnalare gli individui come potenzialmente a rischio anche quando hanno incontrato qualcuno con il virus. La penetrazione degli smartphone negli Stati Uniti rimane all’81% circa, significa che anche se avessimo il 100% dell’installazione di queste app (cosa estremamente improbabile in assenza di politiche obbligatorie), vedremmo comunque solo una frazione degli eventi di esposizione totale (il 65% secondo la legge di Metcalfe). Inoltre, non sempre le persone hanno il cellulare con sé. Immaginate la persona che fa le consegne e che lascia il cellulare in macchina. Oppure si consideri che il coronavirus Covid-19 possa essere trasmesso attraverso le superfici su cui si sofferma a lungo dopo che una persona e il suo cellulare hanno lasciato la zona. Le persone appartenenti ai gruppi a più alto rischio – anziani o quelle con poche risorse economiche – sono forse le meno propense a scaricare l’app mentre hanno più bisogno di sicurezza; altri possono scaricare l’app, ma non riescono a segnalare uno stato positivo per paura, perché non sono mai stati testati, o perché sono tra la percentuale significativa di portatori asintomatici.
Le applicazioni per la ricerca di contatti non possono quindi garantire che l’uscita sia sicura, solo perché non è stata segnalata alcuna malattia nelle vicinanze. Il contact-tracing (tracciamento dei contatti), nell’ambito della sanità pubblica, è il processo di identificazione delle persone che potrebbero essere venute a contatto con una persona infetta e la successiva raccolta di ulteriori informazioni su tali contatti, in definitiva, è un intervento di salute pubblica, non di salute individuale. Può ridurre la diffusione delle malattie nella popolazione, ma non conferisce una protezione diretta a nessun individuo. Ciò crea problemi di incentivazione che richiedono un’attenta riflessione: che cosa ci guadagna l’utente che a volte è costretto a non andare al lavoro e a evitare di socializzare, ma non trae benefici immediati dal sistema?
Sicurezza, privacy, manipolazione politica, troll
I sistemi di rintracciamento dei contatti in parte sono stati progettati tenendo conto della sicurezza e della privacy. La proposta di Apple-Google, ad esempio, memorizza le informazioni sui “contatti” che il dispositivo ha effettuato sui dispositivi di ogni utente, piuttosto che riportare tali informazioni a un server centrale come avviene per alcuni degli altri sistemi, questa architettura “decentralizzata” non è però completamente priva di preoccupazioni in materia di privacy e sicurezza, di fatto apre le applicazioni basate su queste API a nuove e diverse classi di vulnerabilità della privacy e della sicurezza: ad esempio, poiché questi sistemi di tracciamento dei contatti rivelano lo stato di salute in relazione a un identificatore unico (se rotante), è possibile correlare le persone infette con le loro immagini utilizzando una telecamera fissa collegata a un dispositivo Bluetooth in un luogo pubblico.
È fondamentale anche la questione dell’uso malevolo soprattutto in considerazione dell’attuale clima di disinformazione, astroturfing (persone retribuite affinché producano artificialmente un’aura positiva intorno al bene da promuovere), e della manipolazione politica. Immaginate un agente politico senza scrupoli che volesse smorzare la partecipazione al voto in un determinato distretto, o un imprenditore disperato che volesse soffocare la concorrenza. Entrambi potrebbero falsamente denunciare l’incidenza di coronavirus Covid-19 senza timore di ripercussioni. I troll potrebbero seminare il caos per il malizioso piacere di farlo. I manifestanti potrebbero scatenare il panico come forma di disobbedienza civile, così come un’operazione di intelligence straniera potrebbe far chiudere un’intera città denunciando falsamente le infezioni da coronavirus Covid-19 in ogni quartiere. Ci sono moltissime vulnerabilità alla base di questa piattaforma che devono ancora essere esplorate.
I tecnici di Apple, Google e un certo numero di istituzioni accademiche sebbene abbiano riflettuto nei loro documenti di pianificazione sulla possibilità che i loro strumenti possano essere sfruttati e abusati, devono essere molto più sinceri sui limiti della tecnologia, incluso il fatto che questi sistemi non dovrebbero mai essere usati isolatamente. Analogamente ai termometri, ai pneumatici e a molti altri prodotti che funzionano in modo sicuro solo all’interno di una specifica gamma, queste applicazioni dovrebbero essere accompagnate da un’avvertenza sui loro numerosi punti di vulnerabilità. C’è anche il pericolo molto reale che queste tecnologie di sorveglianza volontaria diventino effettivamente obbligatorie per qualsiasi impegno pubblico e sociale. I datori di lavoro, i rivenditori o anche i responsabili politici possono richiedere che i consumatori mostrino i contenuti della loro app prima di poter entrare in un negozio di alimentari, tornare al lavoro o utilizzare i servizi pubblici, un metodo che lentamente sta diventando la norma in Cina, Hong Kong, ed è anche in fase di studio per i visitatori delle Hawaii.
Considerando i falsi positivi e le questioni di “dolore” (il lupo che grida intenzionalmente al lupo) sopra delineate, c’è il rischio reale che queste app mobili possano trasformare gli individui in emarginati sociali, con la limitazione dell’accesso agli spazi pubblici e privati o della partecipazione ad attività sociali ed economiche. La probabilità che ciò abbia un impatto disparato su coloro che sono già stati colpiti dalla pandemia è anch’essa elevata. Gli individui che vivono in quartieri densamente popolati e in condomini – caratteristiche che sono anche correlate a comunità non bianche e a basso reddito – sono più propensi a sperimentare incidenze di falsi positivi a causa della loro stretta vicinanza.
Esortiamo gli sviluppatori di applicazioni per la ricerca di contatti, così come le aziende che ne consentono lo sviluppo, ad essere sinceri sui limiti e le implicazioni della tecnologia, per essere amministratori etici di questi nuovi strumenti di salute pubblica, devono anche fornire linee guida esplicite e raccomandazioni di “migliore pratica” per lo sviluppo delle app, queste dovrebbero includere raccomandazioni su come i sistemi non accessibili al pubblico dovrebbero essere protetti e su quanto tempo i dati dovrebbero essere conservati, criteri per stabilire quali enti sanitari pubblici possono qualificarsi per l’utilizzo di queste tecnologie e le politiche esplicite di archiviazione delle app, per quali informazioni aggiuntive, come il GPS o i numeri identificativi governativi, possono essere raccolte. Dovrebbero adottare pratiche comunemente accettate come la verifica della sicurezza, i programmi bug bounty (fornisce agli hacker etici una ricompensa per testare il sito, l’app mobile o il software di un’organizzazione per le vulnerabilità della sicurezza) e i test di abusabilità per identificare le vulnerabilità e le conseguenze indesiderate di una nuova tecnologia potenzialmente globale. Infine, i creatori di app, così come le piattaforme che abilitano queste applicazioni, dovrebbero assumersi impegni espliciti per quando queste applicazioni e le relative API saranno terminate.
C’è anche un ruolo per la legge e la politica ufficiale, utilizzare la tecnologia per combattere i coronavirus, è fondamentale farlo con adeguate salvaguardie, in questo caso ci riferiamo a quelle tradizionali, come la sorveglianza giudiziaria e le disposizioni di una clausola contrattuale progettata per proteggere sia l’acquirente sia il venditore, da una graduale espansione del progetto originale, o limitazioni sull’uso secondario e sulla conservazione dei dati che tutelano la privacy dei consumatori.
Concordiamo con i nostri colleghi del Civil Liberties Oversight Board che la sorveglianza del coronavirus dovrebbe imparare dalle lezioni dell’11 settembre 2001. I legislatori, da parte loro, devono essere previdenti e imporre rapidamente delle salvaguardie rispetto alla privacy dei dati, proteggendo al contempo quelle comunità che possono essere – e storicamente sono state – danneggiate dalla raccolta e dallo sfruttamento dei dati personali. Le protezioni devono essere messe in atto per vietare espressamente la discriminazione economica e sociale sulla base dell’informazione e della tecnologia destinate ad affrontare la pandemia. Gli accademici del Regno Unito, ad esempio, hanno proposto una legislazione modello per impedire l’uso obbligatorio o forzato di questi sistemi non testati per impedire alle persone di tornare al lavoro, a scuola o di accedere alle risorse pubbliche. La prospettiva di una sorveglianza durante questa crisi serve solo a rivelare quanto poche siano le garanzie per la privacy dei consumatori, soprattutto a livello federale.
In conclusione, nessuna tecnologia intelligente, che resti sola, ci tirerà fuori da questa minaccia senza precedenti per la salute e la stabilità economica, nella migliore delle ipotesi le soluzioni tecniche più visibili non faranno altro che aiutare i margini di profitto. I loro progettisti come minimo hanno l’obbligo di garantire che non arrechino danno.
