Il “Rapporto di minoranza”: l’algoritmo del controllo sociale

Nel 1956 viene pubblicato un breve racconto dello scrittore Philip K. Dick, “The minority report” (da cui nel 2002 fu tratto il film di Spielberg Minority Report), in cui è descritto un futuro dove la maggior parte delle azioni criminali è stata eliminata grazie alla polizia Precimine, che utilizza dei veggenti in grado di prevedere i crimini prima che possano essere commessi.

Cinquanta anni dopo il racconto di P. K. Dick, nel 2006, P Jeffrey Brantingham, docente di antropologia alla UCLA di Los Angeles, insieme a matematici, criminologi ed esperti d’informatica, sviluppa un algoritmo per la previsione del crimine: PredPol.

Il metodo delle previsioni di PredPol s’ispira a quello delle grandi corporate internet, come per esempio Amazon, che riesce ad aggregare i suoi clienti in gruppi basati su modelli d’acquisto, per poter in seguito proporre libri o altri oggetti da acquistare. Questo metodo, oltre a prevedere il comportamento, incoraggia e plasma l’atteggiamento futuro del cliente. Questi algoritmi sono anche utilizzati dagli emittenti delle carte di credito, per individuare i clienti insoddisfatti, ma anche dalle grandi compagnie di assicurazioni, che li usano nell’ambito della sanità privata, in modo da prevedere di quali servizi medici, i loro clienti, potrebbero avere bisogno nel futuro. Questi elementi mettono in luce una profonda relazione che esiste tra la sorveglianza commerciale e quella sociale.

Il sistema PredPol è stato sperimentato a Santa Cruz, e ha dato un risultato di una riduzione del 27% dei furti rispetto allo stesso periodo dell’anno precedente, mentre a Los Angeles il sistema ha fatto scendere le aggressioni del 33% e i crimini violenti del 21%.

Il bello di questo sistema è che non c’è bisogno dell’arresto in flagranza di reato, bastano degli agenti nel luogo dove sono previsti i reati, e magicamente si fa un’opera di prevenzione. Il risultato è meno reati, meno processi, meno persone nelle carceri insomma meno costi … il massimo del risparmio, una vera economia della repressione. Molto probabilmente sarà questo il risultato su cui i sostenitori della neutralità tecnologica focalizzeranno la loro, e cercheranno di concentrare anche la nostra attenzione, mostrando di ignorare come la scienza possa essere la raffigurazione dell’intelligenza del Capitale e diventarne uno straordinario strumento di controllo e sfruttamento.

E, si chiede giustamente E. Morozov nel suo libro “Internet non salverà il mondo”, «Ma come facciamo ad accertarci che gli algoritmi impegnati per le previsioni non riflettano i pregiudizi dei loro creatori? Per esempio, i reati vengono perlopiù commessi in zone povere e multietniche. Gli algoritmi – con la loro presunta obiettività – non potrebbero rafforzare ulteriormente i pregiudizi razziali?»

Questa profilazione degli individui che la sorveglianza (sia commerciale sia criminale) effettua, porta al rischio dell’individuazione di gruppi di soggetti accumunati da profili simili, che possono diventare il presupposto di quello che Gary T. Marx definisce «sospetto categoriale».

Gary T. Marx, nella sua analisi sui metodi utilizzati dalla polizia statunitense per la soluzione dei crimini, ha evidenziato molti esempi di sospetti categoriali, come per esempio, appartenere ad una etnia considerata ad alto tasso di criminalità, l’abitare in zone degradate della città, l’aver effettuato spese straordinarie sopra il proprio stile di vita: tutti questi dati diventano un sospetto aprioristico su interi gruppi di cittadini.

Queste nuove forme di controllo non si limitano più a punire o vedere ciò che un individuo fa, ma cercano di prevedere quello che potrà fare. Questo fa si che il problema si sposti dal sorvegliare e controllare, al dirigere il comportamento su strade prestabilite come avviene, nella pratica, con gli algoritmi utilizzati dal marketing.

Questi algoritmi più che a logiche matematiche rispondono alle esigenze del Capitale per un controllo sociale diffuso e meno invasivo rispetto ad altri metodi, e che spostano la cosiddetta opinione pubblica ad accettarli nel nome della sicurezza.

Print Friendly, PDF & Email
Please follow and like us:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

x