PhotoDNA: Microsoft, Facebook e il controllo globale che piace alla Commissione Europea

[Tempo di lettura stimato: 5 minuti]

Summit USA-UE

Il 29 ottobre del 2012 si è tenuto a Washington un summit tra USA e Unione europea per lo scambio di best practices sulla protezione online dei minori. Nell'Agenda del vertice e nella dichiarazione finale a firma di Janet Napolitano, segretario del dipartimento di sicurezza interna americano (Homeland Security) e Neelie Kroes, vicepresidente della Commissione europea, leggiamo che si è discusso di procedure di eliminazione (notice and takedown) di contenuti online e di misure di prevenzione dalla reimmissione (reuploading) di detti contenuti.

Dopo aver puntualizzato l'intenzione di mantenere Internet aperta, si è riconosciuto il problema delle vulnerabilità della rete che possono portare gravi danni, soprattutto ai minori che navigano online. Da cui l'esigenza di espandere l'alleanza realizzata tra Unione e Usa per combattere la pedopornografia online e gli abusi sui minori. Quindi, una normale prosecuzione degli accordi già realizzati da tempo, nel giugno 2012.
Nella scelta degli strumenti da utilizzare per la tutela dei minori, purtroppo, non appare sorprendente leggere che ci si sta orientando verso accordi con l'industria, la promozione di partnership pubblico-privato, e l'utilizzo delle best practices già in voga sui principali portali online.

Parlando di prevenzione ex ante dalla reimmissione di contenuti online, è evidente che si discute di sistemi di filtraggio software della rete, affidati ai privati. Gli Usa sono già avanti e utilizzano da circa due anni dei sistemi di filtraggio delle immagini in rete, applicati da molte aziende su base volontaristica. La Commissione europea sembra orientata nel medesimo senso, e il progetto appare stranamente simile a quanto previsto dal CleanIt Project, finanziato proprio dalla Commissione europea per combattere il terrorismo.

Tecnologia di corrispondenza della immagini

Il software attualmente più usato, al quale sembra pensare la Commissione europea, è PhotoDNA, una tecnologia di corrispondenza delle immagini sviluppata da Microsoft Research in collaborazione con il Dartmouth College, in grado di creare una firma univoca di ogni fotografia digitale, che così può essere confrontata con altre immagini in rete o su hard disk al fine di trovarne delle copie. Il software è in grado di rilevare correttamente una corrispondenza anche se l'immagine stessa è stata in parte alterata, modificata, ridimensionata...
Secondo la Microsoft, finora photoDNA non ha mai commesso errori. Non ci risulta però che la Commissione abbia mai realizzato uno studio per verificare se effettivamente il software non prende abbagli.

Quando si tratta di tecnologie di filtraggio, numerosi sono i dubbi che possono sorgere sulla possibilità che tali strumenti possano entrare in conflitto con i diritti dei cittadini. Ad esempio, se il software sarà introdotto in Europa, chi lo gestirà avrà nelle sue mani un database enorme di immagini, sia quelle che saranno immesse nel programma come campioni, sia quelle che effettivamente verranno scansionate. Chi ne controllerà la gestione per evitare abusi?
La preoccupazione maggiore riguarda la fase successiva, cioè l'eliminazione fisica dalla rete (takedown) delle immagini individuate dal software. Sarà lo stesso software a rimuovere dai server l'immagine, oppure interverrà una valutazione umana per decidere se effettivamente l'immagine è in violazione di norme? Insomma, ci sarà un controllo statale sul funzionamento del software, oppure tutta la procedura sarà appaltata ad un privato?
La domanda non è peregrina, perché questa decisione potrebbe influire pesantemente sul funzionamento dei diritti dei cittadini. Nel decidere se un'immagine viola una norma oppure è semplicemente brutta, offensiva, il “peggio del peggio” (“worst of the worst” come dice la Microsoft), entra in gioco la contemperazione dei diritti dei cittadini, e in particolare la libertà di espressione e di critica.

Coalizione CEO

Per il momento sembra che la Commissione europea voglia affidare ai privati gran parte della procedura, attraverso la realizzazione della Coalizione CEO, un'iniziativa avviata per riunire i leader del settore al fine di discutere delle migliori pratiche per la protezione e responsabilizzazione dei bambini nella navigazione in rete: “to make the Internet a better place for kids".
Quindi, tanto per fare qualche esempio, la Commissione potrebbe utilizzare le best practices di Facebook per la gestione della privacy, o le modalità di selezione dei contenuti di Mediaset. Ovviamente non manca tra i membri fondatori della Coalizione la Microsoft, responsabile dello studio sul “notice and takedown” della Commissione.
Saranno queste le best practices che ha in mente la Commissione europea?

Le best practices dei privati

Non dobbiamo dimenticare, infatti, che “normalmente” le grandi aziende dimostrano e hanno dimostrato in passato molta più attenzione a proteggere i loro interessi economici che non i diritti dei cittadini.
Potremmo ricordare le innumerevoli volte nelle quali Facebook è stato trovato a gestire i dati personali dei suoi utenti con troppa approssimazione e scarso rispetto per le leggi. Oppure possiamo ricordare quando la Microsoft ha minacciato di eliminare l'account di un suo utente, Morten Tobiassen, solo perché aveva memorizzato in Skydrive, lo spazio cloud di Microsoft, le foto della figlia nata da sole 3 ore. Foto di famiglia salvate come backup online ma inaccessibili a terzi.
Ebbene per Microsoft questo comportamento, pur essendo del tutto legale, era inaccettabile, perché eventualmente un terzo avrebbe potuto avere l'accesso alle immagini e utilizzarle a fini di pedopornografia. Così ha dato 48 ore a Tobiassen per rimuovere quelle foto, pena la perdita dell'account.
Chiaramente l'azienda è nel suo diritto di fare ciò, perché Tobiassen nel sottoscrivere un account Microsoft ha accettato il contratto (i termini di servizio) che consente all'azienda di decidere se e quando eliminare dei contenuti. Ma questo è indicativo nel modo sbrigativo che hanno le grandi multinazionali di trattare con i propri utenti.

Fin qui si potrebbe anche sostenere che siamo di fronte ad un prezzo da pagare per la protezione dei bambini. Ma stiamo parlando di un filtraggio generalizzato di tutte le immagini in rete, laddove un tale tipo di filtraggio è già stato ritenuto in contrasto con la normativa europea dalla Corte di Giustizia, con una sentenza del 24 novembre 2011 e una del 16 febbraio 2012.

Pedopornografia

L’applicazione di filtri alle immagini pedopornografiche corre il rischio di nascondere il fenomeno all'opinione pubblica, senza risolverlo in alcun modo, anzi rischia di rassicurare erroneamente i cittadini in merito all’incidenza del problema.
In realtà tali filtri, inefficaci rispetto al problema, una volta applicati, possono essere usati per vietare altri tipi di contenuti, fornendo al governo o chi per esso un eccezionale strumento di censura di Stato.
Il problema della pedopornografia, al pari di quello della violazione del copyright e del terrorismo, viene spesso utilizzato per cercare di imporre delle normative draconiane a tutto vantaggio delle aziende private. Era il maggio del 2007 quando Johan Schlüter, capo dell’Antipiratgruppen danese, enunciò, in un seminario organizzato dalla Camera di Commercio di Stoccolma: “La pornografia infantile è grande. I politici non capiscono la condivisione dei file, ma capiscono la pornografia infantile, e vogliono un filtro per guadagnare consensi col pubblico. Una volta ottenuto il filtro per la pornografia infantile, possiamo ottenere di estendere il blocco al file sharing”. Stava parlando dinanzi ad una platea di esperti del settore del copyright, un pubblico dal quale la stampa era stata bandita. Alcuni di quegli uomini poi sono arrivati al Parlamento europeo, dove progressivamente si è spostato il dibattito sui filtri.
Questo percorso è stato fatto proprio della Commissione europea che ha già tentato, fortunatamente fallendo, di imporre in tal modo ACTA, e adesso sta cercando di introdurre nell'Unione CETA.

Software di controllo

Immaginate un software così potente da poter mappare ogni pixel di una immagine presente online, compreso quelle che vengono catturate dalle telecamere di videosorveglianza, un software in grado di identificare gli elementi unici di un volto umano in modo da poter riconoscere una persona in mezzo ad una folla. Questo software può eseguire una scansione di una fotografia di una persona e rintracciarla ovunque, purché qualche telecamera l'abbia ripresa, e può identificare tutte le fotografie di questa persona caricate online, così realizzandone una dettagliata profilazione: con chi è stato ripreso, dove è stato fotografato....
Ora pensate che un software del genere non potrebbe essere usato perché violerebbe la privacy dei cittadini. Quale miglior modo per farlo passare se non utilizzare la scusa del terrorismo o della pedopornografia? In fondo, non vogliamo tutti tenere al sicuro i nostri bambini?

Immaginate che questo software sia già utilizzato dalle forze dell'ordine di numerosi paesi nel mondo: Australia, Brasile, Nuova Zelanda, Belgio, Canada, Regno Unito, Stati Uniti e Italia, fornito gratuitamente tramite il sistema CETS (Child Exploitation Tracking System), un sistema di tracciamento contro la pedopornografia. Dallo scorso anno è utilizzato anche da Facebook, Bing, Skydrive e tanti altri servizi online. E pensate che è stato utilizzato per arrestare un sospetto sfruttando il sistema di riconoscimento dei volti di Facebook.
Questo software è photoDNA!

La prossima volta che condivideremo un'immagine online, oppure metteremo un like ad una foto, ad esempio un manifesto politico oppure un'immagine satirica - un software non riconosce la satira - forse dovremmo tenere a mente che il monitoraggio e la correlazione tra attività e persone non è mai stato tanto facile.

Segnala un errore
LINEE GUIDA AI COMMENTI