Pre-crimine è qui come la polizia assegna un punteggio di minaccia di Facebook

Una storia recente di Il Washington Post ha offerto al pubblico una rara visione interna delle capacità di monitoraggio dei social media del dipartimento di polizia di Fresno, che sta sperimentando un software controverso chiamato Beware. Il pezzo ha suscitato molto scalpore sulla presunta inclinazione del software per le violazioni delle libertà civili.

Ma come si differenzia questo programma dagli altri controlli sui social media fatti dalla polizia? State attenti a una vera minaccia per le libertà civili? O tutta questa cosa è esagerata? E cosa puoi fare per impedire alla polizia di scavare nei tuoi post sui social media?

Uno strumento ovvio per i dipartimenti di polizia

I funzionari delle forze dell'ordine hanno probabilmente usato i social media per la raccolta di informazioni da quando è diventato mainstream - anche nel 2006, la polizia ha arrestato un ragazzo minorenne in Colorado dopo aver pubblicato le proprie foto su MySpace con un certo numero di armi da fuoco.

L'uso dei social media nelle indagini è diventato solo più comune da allora, e ci sono un certo numero di storie che testimoniano la sua efficacia. Nel 2014, la polizia di New York ha sequestrato oltre 250 cannoni venduti illegalmente dopo un'estesa indagine avviata quando gli agenti hanno notato che un aspirante rapper aveva pubblicato immagini di pistole nel suo studio su Instagram.

Ci sono state innumerevoli segnalazioni di studenti arrestati per aver postato bomba e altre minacce contro le loro scuole, e molti arresti dopo incarichi che sostengono la violenza contro la polizia. Anche le minacce di bomba a scherzo Come usare Twitter senza rovinare Come usare Twitter senza rovinare Twitter può essere un po 'criptico, ed è facile sbagliare di tanto in tanto - anche se sei un utente di vecchia data. Ecco alcuni errori comuni e come evitarli. Leggi di più hanno portato ad arresti. Anche questo non è limitato agli Stati Uniti; C'è un ampio precedente nel Regno Unito per essere arrestato basandosi sul dire qualcosa “grossolanamente offensivo” o minacciando sui social media.

I social media sono diventati un luogo importante per la postura di gang e le minacce, e la polizia in città come Chicago e New York ha fatto un numero sorprendente di arresti basati su post su Facebook, YouTube e Instagram in cui i membri delle gang stanno facendo qualcosa di illegale o esprimendo il loro intento a farlo.

Tutto sommato, il monitoraggio dei social media è una scelta ovvia per le forze dell'ordine - se le persone pubblicano i loro exploit illegali su Facebook, dove il mondo intero può vederli, pagherà per monitorarli.

Il problema con attenzione: un approccio algoritmico

Quindi, se la polizia ha monitorato i social media per anni, perché l'approccio di Fresno sta facendo notizia? Parte della risposta sta nel fatto che Beware utilizza un approccio algoritmico per monitorare i social media. Molti semplicistici strumenti di monitoraggio dei social media (anche quelli utilizzati dai social media marketer La tua guida ai social media marketing La tua guida al social media marketing In questo momento, c'è un assalto di persone e aziende che si rivolgono ai social media. nessuna azienda può perdere tempo o denaro facendo qualcosa di sbagliato. Per saperne di più) basta cercare parole chiave o modelli specifici nei dati, qualcosa che i singoli agenti di polizia fanno su una scala molto più piccola.

Ma attenzione, quando vengono fornite le informazioni di un individuo, calcola a “punteggio di minaccia” basato su, secondo il sito web di Intrado,

... miliardi di documenti commerciali [pubblicamente] disponibili in pochi secondi, che avvisano i risponditori di situazioni potenzialmente pericolose mentre sono diretti verso, o sul luogo, una richiesta di assistenza 9-1-1.

I miliardi di punti di dati provengono da post sui social media, arresti e altri documenti pubblici, database commerciali e molti altri tipi di dati, anche se esattamente da dove provengono e come vengono tradotti in un punteggio di minaccia verde, giallo o rosso è un segreto commerciale custodito da Intrado, il creatore del software.

Come la polizia usi questo sistema di punteggio, tuttavia, è ovvio: se un chiamante del 911 o qualcuno coinvolto nella chiamata ha un punteggio di minaccia giallo o rosso, gli ufficiali saranno più cauti ad entrare. Il che potrebbe significare essere più armati e pronti per problemi, una mentalità che potrebbe avere gravi conseguenze per il chiamante.

Nel 2007, la polizia stava indagando sul furto di due console PlayStation in un campus universitario quando hanno scoperto le immagini del sospetto in posa con un certo numero di armi da fuoco sui social media. Mandarono una squadra SWAT nella casa del sospetto, e un altro studente finì morto dopo che un ufficiale scambiò i suoni del ram battuto usato per ottenere l'accesso alla casa per i colpi di arma da fuoco. Questo è esattamente il tipo di risposta pesantemente armata basata sulle informazioni raccolte dai social media che preoccupano le persone.

Il InviareLa storia parlava di una donna che ha twittato del gioco Rabbia e un uomo che viveva in una casa precedentemente occupata da una persona di interesse aveva entrambi livelli di minaccia elevati. A nessuna di queste persone sarebbe stato dato un secondo pensiero da un ufficiale in carne e ossa, ma il software di Intrado avrebbe potuto mettere in guardia gli ufficiali se dovessero rispondere a una chiamata da uno di questi cittadini.

Ciò che preoccupa molte persone è che i calcoli del punteggio delle minacce sono stati fatti da un algoritmo sviluppato da una singola azienda che non condividerà le sue equazioni in tempi brevi - Attenzione è una scatola nera totale. Algoritmi controllano già porzioni significative della nostra vita 4 Algoritmi di apprendimento automatico che modellano la tua vita 4 Algoritmi di apprendimento automatico che modellano la tua vita Potresti non rendertene conto, ma l'apprendimento automatico è già tutto intorno a te e può esercitare un sorprendente grado di influenza sulla tua vita . Non mi credi? Potresti essere sorpreso. Per saperne di più, ma il fatto che possano ora metterci in una situazione pericolosa sta iniziando a attirare l'attenzione della gente.

Gli approcci algoritmici alla polizia hanno attirato una grande quantità di critiche in passato, con alcuni critici che affermano di essere inclini a un profilo razziale, e altri che affermano che gli strumenti sono ben definiti “razzistA.” La ricerca sull'argomento è inconcludente, con alcuni studi che mostrano una diminuzione della criminalità a breve termine e altri che non mostrano alcun effetto significativo della tecnologia predittiva.

Un retaggio di sorveglianza

L'analisi di “miliardi” di punti dati riporta alla mente alcuni programmi precedenti intrapresi dal governo degli Stati Uniti.

Total Information Awareness (TIA) è un'iniziativa intrapresa dall'Information Awareness Office nei primi anni 2000 che raccoglieva informazioni su acquisti di carte di credito, abbonamenti a riviste, navigazione web, e-mail, voti accademici, viaggi, eventi legali e altri tipi di informazioni per l'archiviazione in un database centrale. Anche dopo essere stato rinominato come Terrorist Information Awareness, TIA è stato chiuso a causa di sdegno pubblico per l'idea francamente orwelliana.

Uno dei progetti di ricerca della DARPA non lo crederai: la ricerca futura di DARPA nei computer avanzati non ci crederai: la ricerca futura DARPA nei computer avanzati DARPA è una delle parti più affascinanti e segrete del governo degli Stati Uniti. Di seguito sono riportati alcuni dei progetti più avanzati di DARPA che promettono di trasformare il mondo della tecnologia. Leggi altro ha esaminato un sistema simile chiamato LifeLog che raccoglieva ...

... ogni attività e rapporto con cui una persona si impegna. Ciò include gli acquisti con carta di credito, i siti web visitati, il contenuto di chiamate telefoniche e e-mail inviate e ricevute, scansioni di fax e posta inviati e ricevuti, messaggi istantanei inviati e ricevuti , letture di libri e riviste, selezioni televisive e radiofoniche, localizzazione fisica registrata tramite sensori GPS indossabili, [e] dati biomedici acquisiti tramite sensori indossabili.

Ovviamente, attenzione e altre soluzioni di monitoraggio dei social media non sono così avanzate e non hanno lo stesso potenziale per le violazioni della privacy. Tuttavia, il modello del governo degli Stati Uniti di creare pezzi di software che violano la privacy che non sono ben compresi dal pubblico o che sono tenuti sotto controllo ha un sacco di gente nervosa. E il monitoraggio dei social media da parte della polizia sembra che potrebbe diventare un campo di battaglia per le libertà civili.

Molte persone hanno già preso posizione. Il gran numero di programmi di monitoraggio dei social media disponibili indica che molti dipartimenti di polizia e altre organizzazioni (comprese le scuole) sono interessati a utilizzare questa tecnologia.

D'altra parte, gruppi come l'ACLU hanno già parlato contro la tecnologia, dicendo che potrebbe consentire ai dipartimenti di polizia di “mettere le persone sospettate semplicemente per aver parlato online.” Il post sul blog dell'ACLU sull'argomento era provocatoriamente intitolato “Questo software di sorveglianza sta probabilmente spiando l'attivismo hashtag #BlackLivesMatter: #powerful o #pointless? Attivismo hashtag: #powerful o #pointless? #BringBackOurGirls, #ICantBreathe e #BlackLivesMatter hanno visto un'ampia copertura internazionale nell'ultimo anno - ma gli hashtag sono un mezzo efficace di attivismo? Leggi di più ,” anche se ci sono poche prove che questo è il caso.

E, ovviamente, tutte le informazioni raccolte da Beware sono “disponibili commercialmente.” Esattamente ciò che questo significa è difficile da conoscere per chiunque, dato che i tipi di dati che i social network vendono sembrano cambiare continuamente. Come abbiamo visto in passato, non è difficile ottenere informazioni che un utente pensa sia privato Preparare il tuo account Privacy per Facebook Ricerca di grafici [Consigli di Facebook settimanali] Prepara il tuo account Privacy per Facebook Ricerca di grafici [Consigli di Facebook settimanali] Ogni volta che Facebook rilascia una nuova funzionalità per saperne di più sui nostri amici, molte persone si rendono conto che le loro impostazioni sulla privacy non sono più adeguate. La loro ultima novità, Facebook Graph Search, non fa eccezione ... Leggi di più semplicemente facendo le domande giuste e utilizzando gli strumenti giusti.

Non sarei la prima persona ad associare Beware e altre soluzioni di monitoraggio dei social media con Rapporto di minoranzapre-crimine o 1984E 'un crimine pensato.

La sofisticazione di software come Beware sta arrivando al punto in cui può probabilmente trarre conclusioni basate su cose che non dici, ma che implicano solo. Intrado e altri produttori non vogliono che il loro software sia collegato a romanzi fantascientifici distopici, ma la connessione è ovvia.

Lezioni imparate

Se sei preoccupato per le potenziali violazioni della privacy causate dal software di monitoraggio dei social media nelle mani delle forze dell'ordine o meno, questo dovrebbe servire a ricordare che tutto ciò che hai pubblicato su Facebook o Twitter non è solo disponibile per i tuoi amici. È là fuori per sempre, ed è probabilmente nelle mani di un'ampia varietà di persone e aziende.

La cosa migliore che puoi fare è non pubblicare cose stupide sui social media. Non fare battute sul fare qualcosa di illegale. Non difendere la violenza contro la polizia o membri dell'esercito. Non pubblicare immagini di te stesso che potrebbero essere interpretate come minacciose (specialmente con le pistole: non pubblicare immagini di te stesso con le pistole). Molto di questo è di buon senso, ma Fresno e il loro uso di Attenzione dovrebbero sottolineare l'importanza di questo tipo di misure protettive.

Questa è anche una questione importante da tenere a mente di fronte alle imminenti elezioni presidenziali americane 6 Risorse per aiutarti a tenere traccia delle elezioni presidenziali americane del 2016 6 Risorse per aiutarti a tenere traccia delle elezioni presidenziali americane del 2016 Il diritto di voto delle persone determina il risultato di un'elezione. Essere un elettore informato e prendere sul serio questo importante compito con l'aiuto di questi strumenti. Per saperne di più (dove i social media sono anche uno strumento estremamente importante Le campagne politiche ti seguono su Facebook, ecco perché le campagne politiche ti seguono su Facebook, ecco perché ora sai che le aziende e il governo utilizzano i social media per rintracciarti. gruppo che sta guardando, analizzando e capitalizzando ogni mossa che fai su Facebook: attivisti politici Leggi di più, interessante). Questo problema potrebbe benissimo venire alla testa poco dopo l'insediamento di un nuovo presidente, e il modo in cui funziona da lì potrebbe dipendere da chi si trova in Oval Office. Potrebbe sembrare un problema minore ora, ma potrebbe essere un grosso problema nel prossimo futuro. Vale la pena tenere d'occhio.

Cosa ne pensi dei dipartimenti di polizia che controllano i social media? Pensi che siano giustificati nell'usare un approccio algoritmico? O pensi che sia probabile che porti a profiling razziale e giudizi imprecisi? Dovremmo essere preoccupati per la progressione di questo tipo di software?

Questo è un problema complicato, e non sono nemmeno sicuro di come mi sento al riguardo. Lascia troppo nelle mani di un algoritmo che sorveglia le persone a loro insaputa. Ma potrebbe anche aiutare a salvare le vite degli ufficiali che si dirigono in situazioni pericolose. Aiutami a sminuirlo nei commenti qui sotto.

Crediti immagine: Scott Cornell tramite Shutterstock.com, Ivelin Radkov tramite Shutterstock.com.

Scopri di più su: Facebook, Sorveglianza.