Paura, controllo, sorveglianza digitale: benvenuti nell’era della società pre-crimine

[Tempo di lettura stimato: 13 minuti]

Usa, 13 marzo 2015
Hasan Alì quel mattino si sveglia presto. Sarà una giornata lunga per lui. Un'ultima occhiata all'appartamento nel quale ha vissuto per sole due settimane. Negli ultimi mesi ne ha cambiati parecchi (1).
Prende le sue poche cose (2), qualche vestito, i soldi, lascia la torcia che aveva comprato (3) tre giorni prima, quando gli hanno staccato la luce. Si incammina. Per strada una sosta all'Internet café. Accede alla sua mail. Spam per lo più. Scrive all'amico che si è trasferito da anni sulla west coast. Ha fatto fortuna, ha aperto una lavanderia. Gli ha promesso un lavoro, qualsiasi lavoro va bene per ricominciare altrove. Gli manda un messaggio laconico: “Ready to go, no regret...” (4).
Ah, c'è un messaggio dai genitori, una mail con le solite notizie dal paese di origine. Istintivamente copre lo schermo con la mano (5), c'è gente. Poi chiude. Paga in contanti (6), il collegamento e il caffè.
Un salto al WalMart, compra delle barrette energetiche (7), cibi pronti (8). Poi si incammina, a piedi (9), per raggiungere il lontano aeroporto. Non ha soldi per l'autobus, tutto quello che ha lo ha speso per quel biglietto aereo, sola andata (10).
Giunto all'aeroporto si mette in un angolo ad aspettare. È nervoso (11), non ha mai preso l'aereo. Legge una rivista presa dall'espositore, mangia, poi si mette in fila per il check-in.
Finalmente è il suo turno. Mostra all'agente della TSA i documenti e il biglietto. L'agente lo guarda. Poi si gira verso lo schermo del computer. Lo guarda di nuovo, di sottocchio, Hasan comincia a sudare. Fa caldo? “A moment please...”, in un istante due uomini in uniforme appaiono alle spalle di Hasan, sembrano essersi materializzati dal nulla, gli chiedono di seguirlo, lo conducono lungo una serie di corridoi illuminati da una luce innaturale. Poi una stanza senza finestre, solo un tavolo e due sedie. Gli dicono di aspettare. Passa il tempo. Quanto? Poi finalmente arriva qualcuno. Hasan lo implora, l'aereo partirà tra poco, non vuole perderlo, per favore… come è già partito?
No. Hasan quell'aereo non potrà prenderlo, non potrà prendere nessun aereo, è sulla No Fly List. Hasan viene trattenuto. È considerato un terrorista.

 

Modelli criminologici

La società moderna sta abbandonando il tradizionale modello criminologico post-crimine, dove ci sono crimini, criminali e vittime, investigazioni, arresti, processi e condanne, per abbracciare un modello pre-crimine (Zedner, Pre-Crime and Post-Criminology?, Theoretical Criminology).
La società pre-crimine, invece, è caratterizzata da rischio e incertezza, sorveglianza, azzardo morale, prevenzione, tutto in nome della sicurezza. Perché ciò funzioni occorre, ovviamente, l'espansione dei soggetti deputati al controllo. Non più pochi e selezionati uomini (autorità di polizia), bensì l'allargamento a settori privati, anche se la distinzione tra i due settori si fa sempre più sfumata, a seguito di deleghe, contratti e strategie di responsabilizzazione, con ovvi problemi di competenze e responsabilità.

Le paure dell'era moderna eliminano le differenze delle varie forme di controllo, così l'antifurto e l'impianto satellitare finiscono per essere la stessa cosa, differenziati solo dal prezzo (chi può permettersi un controllo migliore). Sono, in ultima analisi, tutte e due delle misure di sicurezza.
Così come oggi accettiamo l'impianto satellitare, un giorno accetteremo senza rimostranze le nuove tecnologie di controllo, e più i prezzi saranno bassi, più saranno estensibili all'intera popolazione.

La sorveglianza digitale è l'ultimo e globale passo rispetto alle varie forme di sorveglianza fisica. Oggi sempre più nazioni introducono nuove misure di sicurezza (basate sull'assenza di un crimine) in conseguenza dell'enfasi posta dai media sulla paura dei crimini.
Le prime forme di prevenzione criminale hanno avuto come bersaglio gruppi specifici (hooligans, criminali sessuali, sospetti terroristi), seguite da nuove forme di controllo di comportamenti devianti e antisociali.

 

Lifelogging

È il crollo del prezzo di registrazione dei dati ad aver sdoganato presso i governi la sorveglianza digitale di massa (Schneier, Data and Goliath). Oggi puoi registrare le conversazioni vocali di ogni telefono negli Usa in soli 300 petabytes, al costo di 30 milioni l'anno. La registrazione dell'intera vita di un individuo richiede 700 gigabytes per anno per individuo. Il costo per tutti i residenti negli Usa (2 exabytes) è di soli 200 milioni l'anno. Secondo gli esperti il Data Center dell'NSA a Bluffdale in Utah, è in grado di contenere circa 12 exabytes di dati. Google è in grado di registrare, sui suoi server, 15 exabytes di dati.

L'intera vita di un individuo? Il lifelogging è sempre più attuale. Il word processor che utilizziamo per scrivere registra ogni cosa, compreso i cambiamenti che apportiamo al testo. Ogni accesso a Internet comporta la creazione di log, registri, di ciò che facciamo, siti che visitiamo, foto che guardiamo, cose che scriviamo, persino quanto tempo stiamo su una pagina, così è possibile verificare se effettivamente quella pagina è stata letta o no.
Lo smartphone è costantemente connesso alle antenne del provider di accesso, che deve sapere esattamente dove ti trovi per instradare la comunicazione. Se poi è attivo anche il collegamento a Internet, lo scambio di informazioni è decuplicato. Tutto ciò che è sullo smartphone viene inviato online, le chiamate, i messaggi, gli acquisti. Anche le macchine moderne hanno dei computer all'interno. E anche loro producono dati. E perfino gli animali di compagnia, con un chip non sono altro che dei computer che scondinzolano per casa.

Certo, la legge non permette (ancora?) l'accesso ai contenuti delle conversazioni, per cui senza l'autorizzazione di un magistrato nessuno può ascoltarci mentre parliamo al telefono (però i contenuti delle mail vengono letti dal provider), ma tutto il resto viene inviato a qualcuno online, che lo conserva, e lo utilizza. La centralizzazione crescente di Internet ha fatto sì che quel qualcuno sono ben poche aziende: Level 3 per i cavi in fibra ottica, Amazon per i server, Akamai per i CDN, Facebook per gli annunci, Google per Android e le ricerche...

We know where you are. We know where you've been. We can more or less know what you're thinking about (Erich Schmidt - CEO Google)

Sono i metadati, cioè i contatti, i numeri di telefono, le informazioni che occorrono ad un computer per instradare una comunicazione. E non “sono solo metadati” (si è giustificata l'NSA intendendo che non spia le conversazioni) perché rivelano le nostre relazioni con gli altri: amici, parenti, soci d'affari, amanti. I metadati rivelano l'incontro con lo psichiatra, il chirurgo plastico, la clinica per aborti, il centro di trattamento dell'AIDS, lo strip club, l'avvocato, l'hotel a ore, la moschea, la sinagoga o la chiesa, il bar gay.
I metadati rivelano cosa e chi ci interessa davvero, sono una finestra sulla nostra vita.

We kill people based on metadata (Michael Hayden, ex direttore NSA e CIA)

Oggi abbiamo i mezzi e le opportunità per una sorveglianza globale. Le telecamere registrano ogni passaggio, ogni targa, ogni volto.
L'FBI ha un database di oltre 50 milioni di volti, la polizia di Dubai integra il riconoscimento facciale con i Google Glass per identificare automaticamente i sospetti. Nel 2008 il software Waze, poi acquisito da Google, ha introdotto un nuovo sistema di navigazione. Tracciando i movimenti delle auto il software può stabilire in tempo reale i dati del traffico e suggerire le strade meno trafficate.

Un tempo la polizia poteva seguire solo pochi sospetti alla volta. Oggi con un numero sufficiente di telecamere in una città è possibile seguire virtualmente ogni individuo. Non si tratta di seguire qualcuno, si tratta di seguire tutti.
Il sogno della Stasi della Germania dell'Est si è finalmente avverato.

 

Insicurezza come capitale politico

Lo spostamento dell'ottica dei governi dalla repressione dei crimini alla sicurezza della società contiene necessariamente una svolta in termini di risposta al crimine. Sicurezza non è reazione al crimine, ma prevenzione. Non basta più indagare un crimine, occorre anticiparlo.
La particolare sensibilità al pericolo dell'uomo cambia la visione della vita, anche in assenza di una minaccia reale. Lo teorizza Zygmunt Bauman (Paura liquida) per il quale “paura” è il nome che diamo all'incertezza, all'ignoranza della minaccia. La società moderna è una grande incubatrice di paure: il ritardo di una figlia, l'uomo in kefiah, un licenziamento, il crollo della borsa, un terremoto, una malattia, il futuro...

L'aspetto più spaventoso delle paure è che non sappiamo quali siano reali e quali inventate, per costringerci a fare qualcosa, spendere soldi, votare un certo politico. Il carattere “liquido” delle paure consente di trasformarle in capitale politico.
I politici sono ben ansiosi di venderci la soluzione alle nostre paure, che sia un nuovo corso politico oppure un prodotto di qualche società commerciale. E l'industria della sicurezza prospera con una crescita di profitti proporzionale alle paure dei cittadini. Si inventano ogni giorno nuove paure, e quelle delle società moderna iniziano quasi tutte per “cyber”: cyber-terrorismo, cyber-bullismo, cyber-crime...

Ma la soluzione non risolve. Se le paure pubbliche sono la chiave per i profitti commerciali e politici, nessun governo o manager ha davvero l'interesse ad estirparne le radici. Anzi.
È solo un “fare qualcosa” giusto per cavalcare l'onda. Per recuperare la fiducia dei cittadini.

 

Paura dell'altro

La polizia non può prevenire i crimini senza una partecipazione attiva dei cittadini. Per fornire una risposta sociale ai crimini si responsabilizzano i cittadini, alimentando la paura del diverso, dello straniero, incitandoli a controllare gli altri e a denunciarli. “See something, say something”, la campagna del Dipartimento di Homeland Security americano (DHS), attraverso dei manifesti convince i cittadini che gli spazi pubblici sono pericolosi, che i terroristi sono ovunque, e chiunque potrebbe esserlo. E che le autorità non possono proteggerti sempre.
Quindi, se vedi qualcuno sospetto, denuncialo: “Ci sono 16 milioni di occhi in città”.

Manifesto della campagna See something, Say something
Manifesto della campagna See something, Say something

Uno dei manifesti utilizzati dalla campagna propone una serie di occhi di persone di diversa razza. Siamo tutti noi, è un problema di tutti noi. Ma cosa? La minaccia non è nemmeno indicata, ma tutti noi siamo responsabili. Il manifesto ha, quindi, un unico scopo: instillare paura.

Contrariamente a quanto si può pensare, sono proprio le persone che vivono nel comfort, casomai dietro porte blindate in parchi con sorveglianza armata, che patiscono di più l'insicurezza. Più cose hai, più hai paura di perderle. Inoltre l'età incide molto, le persone più avanti negli anni soffrono maggiormente l'insicurezza.
Negli ultimi anni stanno emergendo anche in Europa nuove politiche che pongono al centro dell'agenda le esigenze di sicurezza pubblica, di prevenzione dei crimini, e quindi l'enfasi sui problemi sociali come incubatori di insicurezza. Si tratta di agire per mettere in sicurezza il futuro. E per farlo non si analizzano più le azioni, bensì i comportamenti, non si tende più a identificare i criminali, bensì i soggetti che potrebbero diventarlo in futuro.

L'idea che esistano “criminali nati” risale alla scuola positivista del tardo 19° secolo, e soprattutto a Cesare Lombroso il quale asseriva che potessero essere riconosciuti come tali anche prima di aver commesso alcun reato.

La criminalizzazione dei comportamenti antisociali è il paramento di riferimento per la categorizzazione dei futuri criminali, la problematizzazione delle famiglie difficili e dei genitori inadeguati, come incubatori dei futuri criminali. La radicalizzazione, associata allo sviluppo delle nuove tecnologie di comunicazione (i social network) per il reclutamento e la propaganda è la terza area principale di preoccupazione delle forze di polizia europee e dei servizi di intelligenze.

Nel corso degli anni l'azione preventiva è stata caratterizzata dal prolungamento della detenzione preventiva (fino a 14 giorni in Inghilterra, di contro 5 in Spagna, 4 in Italia, 2 in Germania), l'estensione delle indagini terroristiche e di intelligence.

In un contesto locale il controllo si appunta alle sottoclassi, gli espropriati, i senzatetto, i predatori sessuali, i drogati, gli agitatori, fino ai giovani indisciplinati. Sistemi analoghi al See something, Say something sono stati posti in essere o sperimentati un po' dappertutto, a livello locale (Usa, Inghilterra, Belgio..).

Inghilterra, 20 marzo 2015
Cinque ragazze adolescenti vengono portati dinanzi ad un tribunale di Londra. Hanno espresso l'interesse a visitare la Siria, ma il consiglio locale ha manifestato preoccupazioni, considerando la loro giovane età, due di 15 e tre di 16 anni.
Il tribunale ha revocato i loro passaporti impedendogli di imbarcarsi e lasciare l'Inghilterra. Inoltre ha revocato anche i passaporti degli adulti che si occupavano delle ragazze.
Il giudice Hayden ha evidenziato l'elevato rischio in viaggi di questo tipo: è risaputo che tanti hanno perso la vita in Siria, e molti ci vanno anche conoscendo i rischi. I genitori dovrebbero occuparsi meglio delle ragazze. La legge deve intervenire in questi casi, proteggendo le ragazze anche da se stesse.

In ambito internazionale il problema, chiaramente, riguarda i terroristi.

 

Un ragionevole sospetto...

Nel tentativo di tenere lontano i terroristi dagli Stati Uniti, il Dipartimento di Homeland Security ha popolato la No Fly List, inserendovi un numero enorme di individui. L'amministrazione Obama ha più che decuplicato il numero dei “sospetti terroristi”, aggiungendone oltre 900 al giorno.
L'unico modo di conoscere se si è su detta lista è acquistare un biglietto aereo, per poi vedersi negare l'imbarco. Non occorrono prove concrete per finire nella No Fly List, è sufficiente un ragionevole sospetto, ma basato su standard fin troppo vaghi ed elastici.
Dopo si può fare causa per ottenere un risarcimento del danno, ma per uscire dalla Lista è il sospettato a dover provare di non essere un pericolo per la sicurezza pubblica.

Delle 680mila persone inserite nella No Fly List ad agosto del 2014, almeno la metà di queste non aveva alcuna connessione con gruppi terroristici.

Analisi della No Fly List
Analisi della No Fly List

Il lavoro di analisi predittiva che è alla base della redazione della Lista è falsato da un erroneo assunto. Gli analisti hanno estratto i criteri comportamentali per predire un futuro terrorista basandosi su terroristi veri, ma analizzando non tanto cosa pensavano o da dove venivano, bensì verificando quello che hanno fatto (Paul Gill, Bombing Alone: Tracing the Motivations and Antecedent Behaviours of Lone-Actor Terrorists).

Ad esempio, nelle settimane prima di un attentato i terroristi:
- cambiano indirizzo (1);
- adottano una nuova religione;
- cominciano a parlare di violenza;
- molti hanno perso recentemente il lavoro;
- sono stressati (11);
- hanno problemi familiari.

Il governo degli Stati Uniti è ormai ossessionato dallo sviluppo dell'analisi predittiva per prevenire gli attentati terroristici e in generale i crimini. L'NSA e il DHS utilizzano i PNR (Passenger Name Record, le schede di registrazione dei dati dei passeggeri memorizzate dai vettori aerei) come parte della profilazione e analisi della rete sociale dei cittadini e degli stranieri. L'NSA correla circa 164 tipi di relazioni per costruire un profilo degli individui.
E questo approccio è stato appena esportato in Europa, con l'adozione della direttiva PNR. Generalmente la normativa europea prevede regole per la tutela dei diritti degli individui, tuttavia i parametri generici spesso determinano un'attuazione riduttiva da parte dei singoli governi.

 

Predire i crimini con i tweet

Uno studio dell'Università della Virginia (qui il testo) ha dimostrato che recuperando informazioni dal social Twitter (proprio come fa l'NSA) e analizzandole con algoritmi predittivi è possibile determinare dove avverrà un futuro crimine, consentendo di dislocare opportunamente le forze dell'ordine. L'analisi dei tweet permette di prevedere da 19 a 25 tipi di reati, in particolare: stalking, furti e alcuni tipi di aggressione.

I crimini futuri spesso si verificano in prossimità di crimini passati, rendendo la mappa dei punti caldi un prezioso strumento di previsione del crimine (Matthew Gerber, Predictive Technology Lab)

Gli algoritmi si focalizzano sulle attività routinarie delle persone, e aggregano informazioni storiche per calcolare le probabilità che un particolare individuo sia coinvolto in un crimine. Lo studio, finanziato dall'esercito americano, è solo uno dei tanti (come quello dell'Università del Leicester) che evidenzia l'utilità dell'analisi predittiva. Ormai numerose polizie degli Stati Uniti (Baltimora, Philadelphia) hanno o stanno abbracciando l'approccio predittivo, utilizzando software di data mining che analizzano grandi quantità di dati pubblici (come i tweet) per effettuare previsioni di probabili crimini.
Sulla base di questi studi il DHS ha avviato la campagna See something, Say something, chiedendo ai commercianti locali di tenere d'occhio i loro stessi clienti, e riportare comportamenti “sospetti”.
E quali sono questi comportamenti “sospetti”?
- effettuare pagamenti in contati (6) o con carta di credito altrui;
- essere riluttanti a produrre un valido documento di riconoscimento;
- acquistare un numero elevato di beni;
- essere nervosi (11).

Paradossalmente la FEMA (Agenzia federale per la gestione delle emergenze) incoraggia i cittadini a fare scorte di cibo per eventuali attacchi terroristici.

Nell'ambito del programma CAT (Communities Against Terrorism) dell'FBI, sono stati distribuiti 25 volantini, ognuno specifico per un particolare settore: aeroporti, negozi di elettronica, Internet café, hotel.

Volantino programma CAT
Volantino programma CAT

In base a questi documenti devono considerarsi sospetti coloro che:
- forniscono informazioni insufficienti sull'identità oppure invocano la privacy;
- pagano in contanti (6);
- alterano il volto tagliando la barba, tingendo i capelli…;
- presentano arti mancanti o bruciature chimiche;
- acquistano torce (3);
- fanno acquisti massicci di pasti già pronti;
- utilizzano strumenti per mascherare gli IP nella navigazione online;
- effettuano comunicazioni utilizzando servizi VOIP;
- cercano informazioni su “polizia” oppure “governo”;
- cercano foto di trasporti, luoghi di eventi sportivi o località altamente popolate;
- cercano di tenere private le proprie mail o gli acquisti online coprendo lo schermo con le mani (5);
- sono nervosi in aeroporto (11);
- annotano mappe per strada;
- disegnano o registrano appunti vocali per strada;
- effettuano riprese video o scattano fotografie “inappropriate” (inappropriate senza ulteriori specificazioni);
- in un negozio di elettronica è “sospetto” avere una lista di componenti senza conoscenza adeguata sul loro uso.

Invocare la privacy è indice di terrorismo. Proteggere la propria privacy è indice di terrorismo.

I volantini sono estremamente vaghi sulla minaccia, e generici sulle caratteristiche comportamentali del soggetto. I comportamenti “sospetti” includono spesso attività routinarie, tipo pagare in contanti (l'acquisto di beni poco costosi, un caffè, è spesso effettuato in contanti e molti commercianti non accettano carte di credito per acquisti inferiori ai 10 dollari).
Il programma CAT, e l'analogo See something, Say something, istruiscono i cittadini che attività generiche poste in essere da milioni di persone ogni giorno, come usare una videocamera in pubblico, guidare dei furgoni, usare applicazioni su smartphone di registrazione vocale, sono potenziali indici di terrorismo.
Ma sono ben chiari sul fatto che tu devi essere parte della soluzione: “If something seems wrong, notify law enforcement authorities”.

 

Rischi della sorveglianza digitale

Le soluzioni semplici piacciono a tutti, e l'idea che sia possibile prevenire i reati più o meno come raccontato dal visionario Philip Dick cattura l'immaginazione anche dei governanti. La fiducia nella tecnologia e la ricerca di facili soluzioni porta inevitabilmente all'implementazione indiscriminata di tecnologie, senza preoccuparsi troppo dei rischi. Il fascino della sorveglianza digitale è enorme, un controllo in real-time dà ai governanti e alle autorità la sensazione di una risposta immediata, merce spendibile in campagna elettorale.

Nel racconto di Dick la Giustizia non si cura più del “ragionevole dubbio” (il rapporto di minoranza) ma sposa la cieca utopia della “sicurezza assoluta”, della fiducia incondizionata nella tecnologia. L'utilizzo di sistemi di sorveglianza di massa e algoritmi predittivi fa sì che le autorità di polizia (ma anche le eventuali società private di sicurezza) si trovino di fronte a black box, sistemi dei quali non conoscono il funzionamento, ma che forniscono una “risposta” che non possono in alcun modo questionare. Se l'algoritmo è in qualche modo carente, ad esempio perché utilizza parametri troppo vaghi per “identificare” un sospetto, l'agente non potrà fare altro che eseguire ciò che gli indica il software.

Quali sono le immediate conseguenze (van Brakel e De Hert, Policing, surveillance and law in a pre-crime society: Understanding the consequences of technology based strategies) dell'adozione di sistemi predittivi?

1) Eliminano la presunzione di innocenza. Instillano nei cittadini e nella stessa polizia l'idea che tutti sono sospettati fino a prova contraria.

2) Favoriscono il conformismo. Si basano sulla categorizzazione dei cittadini assegnando un profilo di rischio ad ogni categoria, così rafforzando anche i concetti di classe e razza. L'inclusione in categorie dipende dall'idea che certi comportamenti siano la “norma”, quindi porre in essere comportamenti differenti automaticamente include in categorie a rischio. Il sistema discrimina sia gruppi (pensiamo ai musulmani) che singoli individui i quali si comportano “non a norma”.

3) Rimuovono le responsabilità. La strutturazione del sistema in black box, e la circostanza che la decisione appare venire da un algoritmo, di fatto mina le responsabilità dei singoli rendendo difficile nell'ambito delle gerarchie e delle competenze stabilire chi deve pagare per un eventuale errore.

4) Minano i diritti umani, in particolar modo la privacy. Se non sai esattamente quali problemi e quali eventi futuri dovrai affrontare, l'approccio più ovvio è raccogliere tutti i dati possibili con grave detrimento per i diritti umani.

5) Crea distacco tra polizia e cittadini. Il fatto che la polizia lavori a distanza tramite sistemi di sorveglianza determina inevitabilmente una riduzione del rapporto empatico tra le autorità e i cittadini, i quali vengono trattati più come numeri che come persone. E questo di contro mina la fiducia del pubblico nelle autorità. Paradossalmente in tal modo diventa più difficile per la polizia risolvere i crimini non ricevendo alcun aiuto dai cittadini.

 

Sicurezza

Il problema della società moderna è la sicurezza, che viene presentata come l'opposto della privacy. La propaganda governativa ci dice che non ci può essere sicurezza se c'è troppa privacy. E questo vale soprattutto online. I governi vogliono l'eliminazione della crittografia, le backdoor nei software, la sorveglianza senza mandato, le leggi realizzate a porte chiuse, la censura online delle notizie scomode e che possano creare agitazione sociale.

Ma in realtà sicurezza e privacy non sono termini antitetici: un attivista per i diritti umani in Siria ha bisogno di privacy per essere al sicuro; un omosessuale in India ha bisogno di privacy per essere al sicuro; un giornalista in molti paesi ha bisogno di privacy, per sé e per i suoi informatori, per essere protetto.
Il problema, invece, è la sicurezza di chi decide, di chi governa. Il campo di battaglia del futuro è, quindi, una maggiore sicurezza per chi ha il potere di decidere, e a spese degli altri. Per la sicurezza di pochi occorre cancellare i diritti di tutti gli altri.

In Minority Report paradossalmente, mentre tutti sono rivolti al futuro, il precog Agatha, l'unica che veramente può vedere il futuro, è rivolta incessantemente al passato, rivivendo continuamente il primo omicidio coperto sfruttando le debolezze del sistema. Un monito per non dover ripetere gli stessi errori (la Stasi della Germania Est, con i suoi 180mila informatori, era un sistema costruito per la perpetuazione della classe dirigente).

Segnala un errore
LINEE GUIDA AI COMMENTI