Dal G8 di Genova all’algoritmo - Italo Di Sabato

Un saggio breve che chiarisce le tappe attraverso cui l’emergenza securitaria si è fatta controllo permanente e preventivo. Da leggere per capire come la repressione del dissenso, dal G8 di Genova in poi, non sia più un’eccezione, ma la regola che sostituisce la politica e costruisce il mondo nuovo in cui siamo

---

Il G8 di Genova del luglio 2001 non è stato una parentesi eccezionale nella storia repubblicana italiana, né un semplice episodio di cattiva gestione dell’ordine pubblico. Genova è stata una soglia storica e politica. Un laboratorio. Un punto di condensazione in cui si sono manifestate in forma estrema trasformazioni che covavano già da tempo dentro le democrazie occidentali: la militarizzazione del conflitto sociale, la centralità crescente degli apparati di sicurezza, l’espansione dello Stato penale e la progressiva ridefinizione del dissenso come minaccia all’ordine pubblico.

Le violenze della Diaz, le torture di Bolzaneto, l’uccisione di Carlo Giuliani, la sospensione materiale di diritti costituzionali fondamentali non furono soltanto il prodotto di singoli abusi o di una degenerazione improvvisa. Quelle giornate resero visibile una mutazione più profonda: il passaggio dalla gestione politica del conflitto alla sua amministrazione poliziesca e militare.

Per comprendere Genova occorre sottrarsi sia alla retorica istituzionale dell’“errore”, sia a una lettura dei fatti puramente memoriale o simbolica. Il cosiddetto movimento “noglobal” non fu semplicemente sconfitto in piazza. Fu colpito da un dispositivo politico, mediatico, militare e poliziesco costruito per stroncare la possibilità che quel ciclo di mobilitazioni producesse un salto di scala globale. Dopo Seattle, Praga, Göteborg e Napoli, le élites politiche ed economiche occidentali avevano ormai compreso che stava emergendo un movimento transnazionale capace di mettere in discussione le fondamenta stesse della globalizzazione neoliberale. Il G8 di Genova ha rappresentato la risposta a questa minaccia percepita.

Negli anni successivi al G8 è emerso con chiarezza il fatto che a Genova sia stata sperimentata quella che possiamo definire una gestione controinsurrezionale delle piazze. Che consiste non soltanto nella repressione dell’ordine pubblico, ma anche nel considerare il movimento come nemico strategico. La città venne trasformata in uno spazio militarizzato: zone rosse, recinzioni, checkpoint, controllo capillare del territorio, separazione fisica tra governanti e governati, concentrazione di reparti speciali, presenza di strutture militari e di intelligence. La logica non era quella della mediazione democratica del conflitto, ma quella della neutralizzazione preventiva del nemico interno.

Una logica che non nasce dal nulla, ma è il prodotto di trasformazioni profonde iniziate già negli anni Ottanta e Novanta, dentro la crisi dello Stato sociale e dentro l’affermazione del neoliberismo globale. La destrutturazione del mondo del lavoro, la precarizzazione, l’indebolimento dei sindacati, la privatizzazione dei servizi pubblici, l’aumento delle disuguaglianze e la frammentazione sociale modificano radicalmente anche il ruolo dello Stato. Mentre arretra sul terreno della protezione sociale, lo Stato rafforza progressivamente la propria funzione coercitiva. Alla crisi della mediazione politica si risponde con l’espansione del controllo penale, della sorveglianza e dei dispositivi di sicurezza.

È dentro questo quadro che si afferma progressivamente lo Stato penale. Le istituzioni non intervengono più prioritariamente per ridurre le cause materiali dell’insicurezza sociale, ma per amministrarne gli effetti attraverso polizia, carcere e controllo. Povertà, marginalità, migrazione, conflitto sociale e devianza vengono progressivamente trattati come problemi di sicurezza. Il neoliberismo produce insicurezza sociale e contemporaneamente costruisce apparati repressivi destinati a governarla. Genova è, precisamente, il punto in cui questo nuovo paradigma si manifesta in modo spettacolare e violento.

Dopo il G8 cambia il modo di pensare il conflitto sociale. Le piazze non vengono più considerate uno spazio di espressione democratica di interessi e contraddizioni collettive, diventano un problema di sicurezza. Il dissenso non viene più interpretato come fenomeno politico ma come rischio da prevenire. La figura del manifestante tende progressivamente a sovrapporsi a quella del soggetto potenzialmente pericoloso.

Questa trasformazione si accelera ulteriormente dopo l’11 settembre 2001. La “guerra al terrorismo” produce una gigantesca riconfigurazione globale delle politiche securitarie. Il confine tra guerra esterna e ordine pubblico interno si assottiglia sempre di più. La categoria della “guerra asimmetrica” permette di trattare fenomeni diversi — terrorismo, radicalismo politico, movimenti sociali, immigrazione, marginalità urbana — come parti di un’unica minaccia all’ordine. Il nemico non è più soltanto fuori dai confini dello Stato. È interno, mobile, diffuso, potenzialmente invisibile.

Qui emerge una continuità decisiva tra Genova e il presente. Le logiche sperimentate durante il G8 non sono rimaste confinate a quell’evento. Sono diventate, progressivamente, modalità ordinarie di governo del disordine sociale.

I decreti sicurezza e le normative securitarie approvate nel corso degli anni non rappresentano quindi una rottura improvvisa, ma l’approdo coerente di una lunga trasformazione. Daspo urbani, zone rosse, fogli di via, fermo preventivo, sorveglianza speciale, criminalizzazione dei blocchi stradali, flagranza differita, restrizioni amministrative contro chi manifesta, ampliamento dei poteri prefettizi e questorili: tutto questo compone un modello fondato sull’anticipazione del conflitto.

La repressione contemporanea non interviene più soltanto dopo l’azione, ma prima. Non colpisce soltanto ciò che una persona ha fatto, ma ciò che potrebbe fare. È il passaggio dal diritto penale del fatto a una logica preventiva fondata sulla pericolosità sociale, sul sospetto e sulla profilazione.

L’emergenza diventa così tecnica ordinaria di governo. Terrorismo, mafia, immigrazione, degrado urbano, ultras, rave, proteste ambientaliste, lotte territoriali, conflitto sociale: ogni fenomeno viene trasformato in emergenza securitaria. Ogni emergenza giustifica nuovi strumenti repressivi. Ogni crisi diventa occasione per ampliare poteri di polizia e restringere libertà democratiche. Ma questa trasformazione non riguarda soltanto le leggi. Riguarda le culture operative, il “sapere di polizia”, la formazione degli apparati coercitivi e la stessa idea di sicurezza.

Nei manuali e nei discorsi istituzionali la folla viene spesso rappresentata come corpo irrazionale, suggestionabile, emotivo, potenzialmente violento. I manifestanti vengono distinti tra “pacifici” e “facinorosi”, tra dissenso accettabile e dissenso illegittimo. Ma questa distinzione serve soprattutto a stabilire quali forme di conflitto siano compatibili con l’ordine esistente e quali debbano essere neutralizzate.

La depoliticizzazione del conflitto è una delle principali funzioni della governance securitaria contemporanea. Se una lotta viene privata delle sue ragioni sociali può essere trattata come semplice disordine. Se una piazza viene descritta come rischio, può essere militarizzata. Se il dissenso viene assimilato alla minaccia, la repressione può essere presentata come difesa della democrazia.

Questa trasformazione si accompagna a un processo molto più ampio: la progressiva fusione tra logiche militari e logiche poliziesche. Dagli anni Novanta in poi si sviluppa infatti la militarizzazione delle polizie: le missioni internazionali di “peace keeping”, le guerre “umanitarie”, la dottrina della Revolution in Military Affairs, le pratiche controinsurrezionali sperimentate all’estero rientrano progressivamente dentro la gestione della sicurezza interna. Tecniche, linguaggi, equipaggiamenti e culture operative si contaminano. L’ordine pubblico viene sempre più pensato secondo paradigmi militari. Allo stesso tempo le forze armate assumono funzioni di controllo del territorio, pattugliamento urbano e gestione della sicurezza civile.

Anche il reclutamento cambia profondamente. In Italia, dagli anni Duemila, una parte crescente degli ingressi nelle forze di polizia proviene direttamente dall’esercito. Questo produce una trasformazione culturale significativa: ethos militare, spirito di corpo, verticalità gerarchica, logiche di obbedienza e visione antagonistica del territorio penetrano sempre più dentro le pratiche di polizia. Diversi studi e testimonianze parlano apertamente di remilitarizzazione delle forze dell’ordine e di indebolimento della cultura democratica prodotta dalla smilitarizzazione del 1981.

Dentro questo quadro, Genova appare quasi come un punto di anticipazione storica. Le tecniche di guerra applicate alle piazze — saturazione del territorio, uso massiccio della forza, identificazione preventiva del nemico, impiego di reparti speciali, sospensione di fatto delle garanzie — prefigurano modalità che negli anni successivi diventeranno sempre più diffuse.

Ma oggi esiste un ulteriore salto qualitativo. Le nuove tecnologie repressive non sostituiscono il vecchio apparato coercitivo: lo potenziano e lo rendono più pervasivo. Videosorveglianza, riconoscimento facciale, geolocalizzazione, controllo biometrico, monitoraggio dei social network, banche dati integrate, algoritmi predittivi, intelligenza artificiale applicata all’ordine pubblico costituiscono l’evoluzione contemporanea del sapere di polizia.

L’algoritmo non elimina il manganello, lo precede. La repressione non si limita più a intervenire quando il conflitto esplode; cerca di identificarlo prima, di mapparlo, di profilare i soggetti ritenuti potenzialmente pericolosi, di anticipare i comportamenti collettivi, di prevenire la formazione stessa del dissenso organizzato.

Le nuove architetture algoritmiche non operano più soltanto sul terreno della repressione successiva al fatto. Producono “profili di minaccia” attraverso l’incrocio di dati biometrici, geolocalizzazioni, reti relazionali, cronologie digitali e comportamenti considerati anomali rispetto a una norma statistica. Il problema non è soltanto l’estensione della sorveglianza, ma la trasformazione della correlazione in sospetto e del sospetto in dispositivo operativo. In questo paradigma il rischio precede il reato e tende progressivamente a sostituirlo.

Questo salto è emerso con forza anche nelle recenti inchieste sulle tecnologie di sorveglianza utilizzate nello Xinjiang e nei Territori palestinesi occupati. In questi contesti, sistemi di riconoscimento facciale, raccolta biometrica di massa, software predittivi e piattaforme integrate di controllo vengono sperimentati su popolazioni considerate permanentemente sospette o potenzialmente ostili. Dai Territori palestinesi allo Xinjiang, le tecnologie di sorveglianza contemporanee mostrano come la controinsurrezione coloniale anticipi spesso il futuro dell’ordine pubblico interno. Le pratiche sviluppate in spazi eccezionali tendono progressivamente a diffondersi anche dentro le democrazie occidentali.

Il controllo contemporaneo non si esercita più soltanto attraverso la presenza fisica della polizia o l’intervento repressivo dello Stato. Si incorpora nelle infrastrutture tecnologiche della vita quotidiana. Telecamere intelligenti, piattaforme digitali, sistemi biometrici, cloud, algoritmi predittivi e banche dati integrate non rappresentano strumenti neutri utilizzabili in modi differenti, ma architetture di potere che ridefiniscono i rapporti tra cittadini, mercato e apparati coercitivi.

La sicurezza tende così a trasformarsi da funzione amministrativa in infrastruttura permanente della società. Questo è uno dei punti decisivi della fase contemporanea: non esiste più una distinzione netta tra infrastruttura tecnologica e infrastruttura repressiva. Le grandi piattaforme digitali, i sistemi di raccolta dati, il cloud computing, i satelliti, l’intelligenza artificiale e i software di analisi predittiva sono ormai parte integrante degli apparati di sicurezza contemporanei. Le corporation tecnologiche non rappresentano semplicemente soggetti economici privati, ma attori geopolitici che partecipano direttamente alla produzione di nuovi dispositivi di controllo sociale. In questo senso, il potere algoritmico non coincide soltanto con una trasformazione tecnica del controllo: ridefinisce il rapporto stesso tra Stato, mercato e sovranità.

La sorveglianza contemporanea non è neutrale. Non si limita a osservare la realtà: la organizza secondo categorie di rischio. Decide quali quartieri siano problematici, quali corpi siano sospetti, quali reti sociali vadano monitorate, quali soggetti debbano essere fermati in anticipo.

È la vecchia logica del controllo preventivo tradotta nel linguaggio della tecnologia. La differenza è che oggi questa logica può diventare molto più capillare, invisibile e automatizzata, e la sorveglianza permanente non agisce soltanto sui comportamenti, ma tende progressivamente a modellare le soggettività.

La forza delle nuove tecnologie di controllo non risiede soltanto nella loro capacità coercitiva, ma nella loro progressiva normalizzazione sociale. La sorveglianza viene interiorizzata come protezione, la tracciabilità come comodità, il monitoraggio permanente come condizione naturale della sicurezza. In questo senso il potere algoritmico contemporaneo realizza una forma di disciplinamento ancora più profonda: non impone soltanto obbedienza, ma produce adesione culturale al controllo stesso. Il Panopticon contemporaneo funziona anche attraverso l’abitudine alla sorveglianza e la costruzione di un consenso diffuso attorno alla necessità del monitoraggio permanente.

La repressione contemporanea non controlla soltanto i corpi. Produce paura, isolamento, autocensura, adattamento preventivo. Ridefinisce i confini di ciò che può essere detto, fatto, organizzato. Trasforma la sicurezza in una pedagogia politica.

In questo quadro, il conflitto sociale non viene più considerato un elemento fisiologico della vita democratica, cioè l’espressione di contraddizioni materiali, disuguaglianze, bisogni collettivi e domande politiche che richiederebbero mediazione, redistribuzione e trasformazione sociale. Viene progressivamente reinterpretato come fattore di instabilità da contenere e neutralizzare. Allo stesso modo, la marginalità sociale smette di essere letta come il prodotto di processi economici e politici — precarizzazione del lavoro, impoverimento, segregazione urbana, smantellamento del welfare — e viene invece trattata come questione di rischio, degrado e sicurezza urbana.

Dentro questa trasformazione, anche il dissenso cambia statuto: non è più qualcosa che le istituzioni affrontano sul terreno del confronto politico, ma un fenomeno da monitorare preventivamente attraverso strumenti amministrativi, dispositivi di sorveglianza e pratiche di polizia sempre più invasive. L’eccezione non rappresenta più una risposta temporanea a situazioni straordinarie, ma una modalità ordinaria di governo. Invece di intervenire sulle cause strutturali delle tensioni sociali, lo Stato tende sempre più ad amministrarne gli effetti attraverso apparati coercitivi, controllo territoriale, espansione del diritto penale e tecnologie di sorveglianza.

La sicurezza assume allora una funzione sostitutiva della mediazione politica: non serve tanto a costruire condizioni di maggiore giustizia sociale, quanto a garantire la governabilità di società attraversate da crescenti disuguaglianze, frammentazione e impoverimento. È in questo senso che il rafforzamento degli apparati repressivi non appare come un’anomalia o una degenerazione esterna alla democrazia contemporanea, ma come uno dei modi attraverso cui essa tenta di stabilizzarsi nella fase neoliberale.

La crisi del welfare novecentesco non produce soltanto più repressione, ma una diversa modalità di governo. La società algoritmica non mira a integrare universalmente, ma a classificare, gerarchizzare e filtrare. Alcuni soggetti vengono considerati meritevoli di protezione, altri destinatari permanenti di monitoraggio, sospetto e controllo. Il vecchio disciplinamento sociale lascia progressivamente spazio a una gestione differenziale delle vite, dove sicurezza, tecnologia e disuguaglianza si rafforzano reciprocamente.

È qui che la continuità tra Genova, decreti sicurezza e tecnopolizia diventa pienamente leggibile. Genova ha mostrato la possibilità della sospensione materiale dei diritti dentro una democrazia occidentale. I decreti sicurezza hanno trasformato quella logica in architettura normativa permanente. Le nuove tecnologie stanno trasformando quella stessa razionalità repressiva in infrastruttura ordinaria della vita sociale. Tutto ciò non riguarda soltanto la violenza poliziesca nelle piazze, ma la trasformazione della democrazia contemporanea. La vera continuità storica tra Genova e il presente è precisamente questa: la progressiva trasformazione del governo democratico in governo securitario. E dentro questa trasformazione, il problema non è soltanto l’abuso. È il modello di società che quell’abuso rende possibile e contribuisce a riprodurre.

---

Note

1.      Sul carattere di laboratorio repressivo del G8 di Genova e sulla gestione militarizzata dell’ordine pubblico si vedano: Libro bianco repressione e diritto al dissenso; Salvatore Palidda, 20 anni dopo: cosa imparare dalla sconfitta al G8 di Genova; Donatella della Porta, Herbert Reiter (a cura di), Polizia e protesta. L’ordine pubblico dalla liberazione ai “no global”.

2.      Sulla costruzione del movimento alterglobalista come “nemico interno”, sulla gestione controinsurrezionale delle piazze e sulla dissoluzione del confine tra sicurezza interna e guerra asimmetrica si veda Marco Grispigni, Figli della stessa rabbia. Lo scontro di piazza nell’Italia repubblicana.

3.      Sul rapporto tra neoliberismo, destrutturazione sociale ed espansione dello Stato penale: Emilio Santoro, Le politiche penali dell’era della globalizzazione; Loïc Wacquant, Dallo Stato sociale allo Stato penale; Simone Lucido, Tutti dentro. Dallo Stato sociale allo Stato penale.

4.      Sul concetto di “emergenzialismo strutturale” e sulla trasformazione dell’eccezione in tecnica ordinaria di governo si vedano: Giorgio Agamben, Stato di eccezione; Libro bianco repressione e diritto al dissenso.

5.      Sulla depoliticizzazione del conflitto sociale e sulla costruzione del dissenso come problema di ordine pubblico si vedano Enrico Gargiulo, L’Idra dalle molte teste: le folle nel sapere di polizia e Prevenire il dissenso.

6.      Sul sapere di polizia come dispositivo di classificazione delle soggettività sociali e sulla rappresentazione patologizzante delle folle: Enrico Gargiulo, Sul sapere di polizia e sulle sue ambiguità; Salvatore Palidda, Polizie, insicurezze e sicurezza in Italia.

7.      Sulla continuità tra autoritarismo e democrazia nelle società contemporanee, sul “governo del disordine” e sul ruolo strutturale della repressione nelle società neoliberali si vedano Salvatore Palidda, A proposito del ripetersi delle violenze delle polizie e Polizie, insicurezze e sicurezza in Italia.

8.      Sulla militarizzazione delle polizie, la poliziescizzazione dei militari e la fusione tra logiche di guerra e ordine pubblico: Charlie Barnao, Pietro Saitta, Gli abusi delle forze di polizia e la “civilizzazione della guerra”.

9.      Sul reclutamento di ex militari nelle forze dell’ordine italiane, sulla remilitarizzazione culturale della polizia e sull’indebolimento della cultura democratica prodotta dalla smilitarizzazione del 1981: Charlie Barnao, Pietro Saitta, Gli abusi delle forze di polizia e la “civilizzazione della guerra”; Salvatore Palidda, Polizie, insicurezze e sicurezza in Italia.

10.  Sulla funzione pedagogica e disciplinare della violenza poliziesca, sul rapporto tra autorità, obbedienza e repressione e sull’interiorizzazione del controllo: La polizia che punisce; Stanley Milgram, Obedience to Authority.

11.  Sulle tecnologie di sorveglianza contemporanee, il riconoscimento facciale, la governance algoritmica e il controllo predittivo delle popolazioni: David Lyon, Surveillance Studies; Shoshana Zuboff, Il capitalismo della sorveglianza; Didier Bigo, Anastassia Tsoukala, Terror, Insecurity and Liberty.

12.  Sul passaggio dal diritto penale del fatto al diritto penale del nemico e sulla governance preventiva del rischio: Günther Jakobs, Bürgerstrafrecht und Feindstrafrecht; Luigi Ferrajoli, Diritto e ragione.

13.  Sulla sperimentazione delle tecnologie di sorveglianza nei territori coloniali e militarizzati e sulla continuità tra controinsurrezione esterna e ordine pubblico interno: materiali e inchieste pubblicati su Internazionale n. 1665 relativi allo Xinjiang e ai sistemi di controllo nei territori palestinesi occupati.

14.  Sul rapporto tra infrastrutture digitali, corporation tecnologiche e nuovi dispositivi di potere algoritmico: Francesca Bria, riflessioni sull’“Authoritarian Stack”; articolo “Il potere algoritmico contro la democrazia” pubblicato su Osservatorio Repressione. Il potere algoritmico contro la democrazia

15.  Sull’interiorizzazione sociale della sorveglianza e sulla normalizzazione culturale del controllo: Salvatore Palidda, riflessioni sul panopticon contemporaneo e sulla videosorveglianza come dispositivo di disciplinamento sociale.

16.  Sul rapporto tra crisi del welfare, selezione differenziale delle popolazioni e governo algoritmico delle vite: Loïc Wacquant, Punire i poveri; Emilio Santoro, Le politiche penali dell’era della globalizzazione; materiali su “Spese sociali e spese penali”

da qui

L'algoritmo che ha mandato in tilt la scuola – Luca Zorloni

 

Il ministero dell'Istruzione ha sviluppato un sistema informatico per assegnare supplenze e cattedre. Che però non ha funzionato. E a distanza di mesi ancora ci sono problemi e ruoli non assegnati. Wired ha ottenuto i documenti di sviluppo dell'algoritmo. Ecco cosa rivelano

 Avrebbe dovuto abbinare 850mila di aspiranti supplenti a una cattedra in un batter d'occhio. Invece l'algoritmo arruolato dal ministero dell'Istruzione per assegnare le supplenze nelle scuole ha accumulato una valanga di errori, di cui ancora oggi, a distanza dalle nomine avvenute a settembre, pagano lo scotto studenti, insegnanti e famiglie. Il sistema informatico progettato per automatizzare la liturgia delle convocazioni in presenza per assegnare le cattedre attraverso le graduatorie provinciali per le supplenze (gps) e quelle a esaurimento (gae) ha ottenuto l'effetto contrario. Ha dato un posto a chi aveva meno titoli di un'altra persona. Ha piazzato a un ruolo di sostegno chi si candidava per coprire una materia. Ha generato confusione verso chi dalla legge 104 per la disabilità. 

Insomma, se a fine agosto in viale Trastevere speravano con un clic di associare ogni cognome alla sua cattedra, a scuola ormai avviata da tre mesi docenti, famiglie e sindacati fanno la conta dei danni. A dicembre in alcune province si stanno ancora scorrendo le liste delle supplenze e cercando di correggere gli errori di assegnazione dell'algoritmo. Solo a Milano, che conta 332 scuole sulle 1.200 circa della Lombardia (che a sua volta pesa per un ottavo sul totale nazionale), la Cgil ha contato circa 1.800 errori nell'assegnazione di 11mila supplenze. “E non sono sempre sanabili - spiega Massimiliano De Conca, segretario regionale della Federazione dei lavoratori della conoscenza (Flc) della Cgil Lombardia -. Nelle province piccole questi problemi si risolvono, mentre in quelle grandi diventano questioni di mesi”.

Che cosa è successo:

1. Cosa raccontano le carte
2. Come funziona l'algoritmo
3. Bocche cucite
4. Pesante eredità

Cosa raccontano le carte

Per fare luce sugli errori dell'algoritmo, Wired ha spedito una richiesta di accesso agli atti al ministero dell'Istruzione, che in risposta ha fornito una serie di documenti: l'analisi dei requisiti, relative al primo impianto della procedura di assegnazione delle supplenze e alle successive evoluzioni; i casi di test; i verbali di collaudo; la presentazione della procedura di nomina e i manuali per gli utenti. Le carte forniscono una visione parziale del processo, ma certo aiutano a fare chiarezza sul flop del sistema informatico per le supplenze. Anche la Gilda degli insegnanti, sindacato della scuola, ne ha fatto richiesta nei mesi scorsi per mezzo di un legale.

 

Stando alle carte del ministero, il funzionamento dell'algoritmo è abbastanza semplice. Accedendo alla propria area personale con Spid o Cie, l'aspirante supplente compila la domanda, in base alla graduatoria in cui si trova. Vanno indicati gli insegnamenti per cui si candida, i titoli e le preferenze per scuole e comuni in cui insegnare, i tipi di contratto e di spezzoni orari. Il tutto mettendo in ordine preferenze e priorità, secondo numeri prestabiliti. A vincere il contratto è un raggruppamento di imprese composto da Enteprise services Italia, società informatica controllata dalla multinazionale statunitense Dxc Technology, e dal campione italiano della difesa, Leonardo. Valore della gara: 5,3 milioni di euro. Il tandem batte le offerte di altri protagonisti della trasformazione digitale: Reply, Engineering, Accenture, Almaviva.

Come funziona l'algoritmo

L'algoritmo, detto Nrmp (National resident matcing program match) esamina i candidati e i loro curriculum e sulla base delle preferenze procede all'abbinamento nome-cattedra. Se c'è disponibilità, fa scattare l'assegnazione provvisoria, perché, spiegano gli sviluppatori, "l’aspirante potrebbe essere “scalzato”, nell’esecuzione della procedura dalla preferenza assegnata, se c’è un altro candidato con punteggio più alto che ha espresso la stessa preferenza". Esaminato il candidato numero uno, si passa al secondo: se ha titoli inferiori, il primo resta al suo posto. Altrimenti lo sorpassa. E così fino all'esaurimento delle graduatorie, che avrebbero dovuto vedere al primo posto la persona con il curriculum migliore.

Così, tuttavia, non è andata. Così come hanno funzionato alcuni casi specifici. Vedi quello di chi è tutelato dalla legge 104, che ha una priorità “purché in posizione utile per la nomina, quindi con una posizione in graduatoria maggiore o uguale di quella degli altri nominati" e la precedenza "solo per i posti della stessa durata giuridica e la stessa consistenza economica”, si legge nelle regole degli sviluppatori del ministero. 

Allo stesso modo, l'algoritmo avrebbe dovuto gestire senza troppi intoppi abbinamenti specifici tra curriculum dei candidati e cattedre. Lo scrivevano gli sviluppatori: "Se l’aspirante, per esempio, ha indicato, su un determinato comune, prima il tipo posto Ch (sostegno della vista) e poi il tipo posto Dh (sostegno dell’udito), la procedura automatica esamina prioritariamente tutte le scuole di quel comune che hanno posti su Ch e solo successivamente quelle con posti su Dh".

Gli sviluppatori assicurano che “per ogni sede – istituto principale – saranno pre-compilati i posti presenti a sistema dopo le operazioni di immissione in ruolo, call veloce e utilizzazione/assegnazione provvisoria. Tali informazioni potranno essere aggiornate secondo le disponibilità di fatto note agli uffici”. Il sistema destinerà il 50% dei posti ai riservisti. "Le disponibilità vengono assegnate in ordine di diritto di graduatoria. Tale trattamento
comporta che tra aspiranti con titolo di riserva diversa viene trattato prima quello con posizione
di graduatoria maggiore", si legge nel documento ufficiale. Il sistema è tarato, almeno secondo le carte ufficiali, per gestire 850mila supplenti. Nonostante questo numero ingente, per gli sviluppatori “non si ravvede la necessità di effettuare degli stress test”, come si legge in un documento ufficiale.

Tuttavia l'algoritmo si è rivelato un flop. E questo benché i verbali di collaudo del sistema informatico restituiscano esiti positivi. Il 19 luglio scorso, ore 9.15, inizia l'esame. Il test affronta i 17 scenari di compilazione e assegnazione previsti dal contratto. E alle 10 il team accende luce verde. “A fronte dell’esito positivo dei test effettuati il collaudo si ritiene superato”, si legge nel documento in possesso di Wired. E dire che i sindacati, spiega Conca, avevano chiesto “di fare una messa a regime più lenta, con test preventivi”. Ma non sono stati ascoltati.

Bocche cucite

Tant'è che a fine agosto, quando scatta la corsa alle assegnazioni, il sistema va in tilt. E il malfunzionamento dell'algoritmo, ammesso dallo stesso ministero, provoca un caos supplenze. Cosa è andato storto? Leonardo ha fatto sapere a Wired di non aver titoli per commentare l'accaduto, perché capofila dell'appalto è la Enterprise services. Che tuttavia non ha mai risposto alle domande della nostra testata. Né lo ha fatto Dxc. 

 

Nemmeno il ministero dell'Istruzione ha risposto alle domande di Wired. Nonostante la grancassa mediatica delle dichiarazioni dell'attuale responsabile del dicastero, Giuseppe Valditara, che tra elogi dell'umiliazione e rivendicazioni su fondi a disposizione, non perde occasione per comparire sulla stampa. Benché la scelta dell'algoritmo sia stata decisa dai predecessori di Valditara, come si potrebbe obiettare, spetta a lui gestire la patata bollente. Tuttavia, da viale Trastevere non sono arrivati segnali ai solleciti di risposta alle domande che sono sorte dopo aver avuto accesso ai documenti sul funzionamento dell'algoritmo.

Pesante eredità

Eppure sarebbe stato utile, per esempio, spiegare perché, al netto di un collaudo positivo, il sistema informatico non ha retto. E se ci sarà una versione due dell'algoritmo, dato che uno dei precedenti sottosegretari all'Istruzione, Rossano Sasso, in quota Lega come l'attuale ministro Valditara, aveva espresso dubbi su un ricorso al software per assegnare le supplenze. O ancora, come intende sanare il ministero tutti i problemi che questo algoritmo ha creato. Specie nelle grandi città, come Milano, Roma, Bologna, Torino e Napoli. Non sono pochi. “Ci sono errori che non si spiegano se non con errori dell'algoritmo”, affonda Jessica Merli, segretaria generale Flc Cgil Milano. “Chi si è trovato a fare supplenza sul sostegno, anziché sulla materia, è finito in un errore ammesso anche dal ministero ma la situazione non è stata risolta - affonda Merli -. Parliamo di centinaia di persone e c'è resistenza a risolvere il problema”. Perché alla fine la scuola ha le supplenze a cui aveva diritto, benché con assegnazioni sballate.

O ancora, nel caso degli spezzoni di educazione motoria alle elementari, “alcuni supplenti si sono ritrovati con due ore in meno per un errore dell'algoritmo”, dice Merli. E, di conseguenza, con uno stipendio più basso. Se ci sono dei part-time, l'insegnante ha un diritto al completamento. Saltato dall'algoritmo. Con impatti pratici. Insegnanti a casa. Buste paga ridotte. “Questi errori producono precariato”, insiste Merli. Chi risparmia è lo Stato, che non risolvendo gli errori del suo programma non deve pagare supplenti e personale di cui le scuole avrebbero bisogno.

Coca spiega che l'algoritmo “ragiona con le disponibilità del momento. Se prendo una supplenza a Milano ma vinco poi il concorso a Lecco, rinuncio alla prima cattedra per la seconda. Ma quella non viene rimessa in circolo”. Rino Di Meglio, coordinatore nazionale della Gilda degli insegnanti, ha dichiarato che "gli errori commessi dall’algoritmo nell’assegnazione delle supplenze ledono diritti di graduatoria". La sigla ha chiesto, tra i vari correttivi, il ripescaggio di chi aveva rinunciato e la creazione di più turni, a seconda delle graduatorie, per candidarsi e non essere esclusi in automatico.

Agli errori di sistema vanno aggiunti quelli manuali. Alcuni uffici provinciali hanno sbagliato il numero di cattedre disponibili. Risultato? L'algoritmo sballa. Che farne, quindi? La Gilda sarebbe per tornare alle nomine in presenza. Mentre la Cgil chiede di non buttare via il bambino con l'acqua sporca. “Noi riteniamo che usare la tecnologia sia utile - dice Conca - purché sia funzionale a una migliore gestione”. Perché, almeno per ora, la matassa è più ingarbugliata di prima.

da qui

La grande politica digitale - Raúl Zibechi

Nei Quaderni dal carcere Antonio Gramsci faceva una distinzione fra la grande politica e la piccola politica. La prima si concentra sulle funzioni che svolgono gli Stati e sulle strutture economico-sociali. La seconda è la politica del giorno (1), del dibattito parlamentare, degli scambi di corridoio, degli intrighi.

La grande politica è necessariamente creativa. La piccola è conservatrice e cerca a malapena di mantenere gli equilibri preesistenti. Nel mondo di oggi, l’alta politica è definita dalle grandi multinazionali, dalle forze armate e dai loro think tank [centri di pensiero neoliberista – ndt] strategici, nonché da gruppi di pressione e di potere come il deep State, lo “Stato profondo” [l’insieme nascosto di organismi, legali o meno, che condizionano segretamente la politica pubblica – ndt] degli Stati Uniti.

Della piccola politica si occupano i governi, in particolare quelli progressisti che non hanno possibilità di influenzare la grande politica, dal momento che non si propongono cambiamenti strutturali e di conseguenza si limitano a questioni di maquillage e di estetica politica, soprattutto utilizzando i mezzi di comunicazione di massa.

La cosa più comune è che propongano come grande politica alcune questioni che non sono altro che politiche del quotidiano, spesso recuperate da precedenti fallimenti. Il progetto della diga di Belo Monte promossa dal governo di Lula in Brasile era fallito quasi mezzo secolo prima a causa dell’opposizione dei popoli amazzonici all’opera faraonica proposta dalla dittatura militare. Il Treno Maya [una linea ferroviaria di interesse turistico e commerciale lungo i 1500 km della penisola dello Yucatan, che avrebbe un pesante impatto sulle popolazioni interessate – ndt] rientra nella stessa categoria della politica degli intrighi, che si vuol far passare come opera strategica.

Lo sviluppo digitale fa parte invece della grande politica che i governi, in generale, affrontano con le modalità della piccola politica. Si limitano a dargli la loro benedizione come se fosse un processo inevitabile nella vita umana, come la nascita e la morte, come l’alba e il tramonto.

Tuttavia, la digitalizzazione è considerata come la terza rivoluzione antropologica, dopo la creazione del linguaggio articolato e l’invenzione della scrittura, come ritiene lo psicoanalista ed epistemologo franco-argentino Miguel Benasayag nel suo libro La tirannia dell’algoritmo (Vita e Pensiero, 2020).

Miguel è un compagno le cui analisi sono acute e penetranti. Appartiene alla generazione del 1968, ha trascorso tre anni nelle prigioni della dittatura per la sua appartenenza all’Esercito Rivoluzionario Popolare e ora partecipa al collettivo francese Malgré tout (Nonostante tutto). Continua a impegnarsi per cause collettive e si è concentrato sullo studio delle conseguenze delle nuove tecnologie nella società.

Nel suo libro precedente, Il cervello aumentato, l’uomo diminuito (Erickson, 2016), osserva che, a differenza delle invenzioni precedenti, dalla ruota agli antibiotici, la digitalizzazione non finisce per produrre un nuovo modo di essere nel mondo per l’uomo, ma allontana l’uomo dal mondo e dal proprio potere di agire, sebbene scateni un potere molto forte a livello tecnologico.

Benasayag sostiene che la rivoluzione della digitalizzazione ha fatto sì che la nostra conoscenza del mondo sia per il 95 per cento indiretta. Però quella conoscenza indiretta non si aggiunge alla conoscenza che nasce dall’esperienza corporea, ma la sostituisce e la annulla. Egli considera quindi la digitalizzazione come una violenza, perché nega e sopprime la diversità (e chi è diverso) e le singole identità.

La velocità e l’onnipresenza caratterizzano la rivoluzione digitale, ritiene Benasayag. Nel mondo dell’algoritmo non c’è alterità, la delega delle decisioni politiche agli algoritmi sospende il conflitto, lo blocca e lo inibisce. “La negazione del conflitto può produrre barbarie”, sostiene in Elogio del conflitto, scritto con la sua compagna Angelica del Rey (Feltrinelli, 2008).

La tirannia dell’algoritmo colonizza la vita eliminando la singolarità degli esseri e, di conseguenza, sopprimendo i conflitti. In questo modo ci lascia inermi, ci smaterializza e ci priva della dimensione corporea, fa di noi soltanto dei dati binari incisi su chip, il che ci immobilizza rinchiudendoci nell’individualità.

Una protesta in Francia contro Amazon. Oggi lo sciopero anche in Italia

Per sfuggire a questa tirannia, sostiene Benasayag, dobbiamo resistere alla soppressione della diversità e del conflitto, cosa che sembrano volere i governi, in generale, e quelli progressisti. Per questo si agghindano con le vesti dei popoli originari e brandiscono i loro bastoncini di comando, facendo credere che tutto sia la stessa cosa, che tutto sia uguale in alto come in basso. Le diversità e i diversi sono percepiti come minacce da un sistema incapace di elaborare i conflitti, come invece ha fatto l’umanità nella sua storia.

La piccola politica governativa si dimostra impotente di fronte alla grande politica delle grandi società dell’informazione, che possono persino bloccare e cancellare gli account dei presidenti dell’impero. La cosa peggiore che possiamo fare è ignorare il potere di questa tirannide, la sua capacità di annullare gli esseri umani.

Non abbiamo ancora trovato modi di agire che siano in grado di affrontare la “rivoluzione digitale”, non per negarla, ma per evitare che distrugga la vita. Quello che stiamo imparando è che nulla può cambiare se ci limitiamo alla piccola politica di palazzo.

Fonte: “La gran política y la revolución digital”, in La Jornada, 12/03/2021

Traduzione a cura di Camminardomandando

(1) “La piccola politica le quistioni parziali e quotidiane che si pongono nell’interno di una struttura già stabilita per le lotte di preminenza tra le diverse frazioni di una stessa classe politica”.

da qui

L'algoritmo di Deliveroo è discriminatorio secondo il tribunale di Bologna - Chiara Sabelli

Il 30 dicembre il tribunale di Bologna ha emesso un'ordinanza, firmata dalla giudice Chiara Zompì, che definisce discriminatorio l'algoritmo utilizzato da Deliveroo, piattaforma di consegna del cibo a domicilio, per gestire le prenotazioni delle sessioni di lavoro da parte dei rider, condannando l'azienda a pagare 50 000 euro di risarcimento alle organizzazioni sindacali che hanno fatto ricorso oltre a sostenere le spese legali (il testo dell'ordinanza è consultabile qui).

«È probabilmente il primo caso in cui un algoritmo viene chiamato a comparire in tribunale e ritenuto illegittimo in Europa nel rapporto tra privato e privato», commenta Mario Guglielmetti, legale presso lo European Data Protection Supervisor (EDPS), l'autorità europea indipendente per la protezione dei dati personali. E aggiunge «esistono diversi precedenti riguardanti algoritmi utilizzati da soggetti pubblici, come ad esempio il sistema SiRy che stimava la probabilità dei cittadini olandesi di commettere frode ai danni dello Stato, sospeso a febbraio dalla corte distrettuale dell'Aia perché accusato di violare i diritti umani. Il pronunciamento del tribunale di Bologna è il primo in cui un sistema automatico viene considerato illegittimo nel rapporto tra due soggetti privati, come sono da considerarsi Deliveroo e i riders, che l'azienda inquadra come collaboratori autonomi»¹.

L'algoritmo su cui si è espressa la giudice Zompì è quello che stabilisce le priorità di accesso al sistema di prenotazione delle sessioni di lavoro. Il funzionamento di questo algoritmo non è chiaro e durante il procedimento è stato ricostruito solo grazie alle testimonianze di alcuni fra i ciclofattorini che si sono rivolti alle associazioni sindacali per ricorrere contro l'azienda. Deliveroo non ha infatti fornito alcun dettaglio a riguardo. «Questo rende particolarmente significativa questa ordinanza: l'opacità dei sistemi automatici di assistenza alla decisione non è più sufficiente a proteggere le aziende e sollevarle dalle loro responsabilità nei confronti dei lavoratori», afferma Massimo Durante, professore associato all'Università di Torino, filosofo del diritto ed esperto di governance algoritmica (il suo ultimo libro in italiano è 'Potere computazionale', edito da Meltemi).

Ma come funziona l'algoritmo in questione e in che modo è discriminatorio? Si tratta del sistema che assegna le priorità di accesso al "self-service booking", la prenotazione delle sessioni di lavoro settimanali. Ogni lunedì i rider iscritti alla piattaforma hanno la possibilità di prenotare le sessioni di lavoro della settimana. Ma non lo fanno tutti nello stesso momento. Coloro che hanno un punteggio reputazionale maggiore, infatti, possono accedere alla prenotazione dalle 11 del lunedì. Chi è in posizione intermedia vi accederà dalle 15, i rider che occupano i posti più bassi della classifica solo dalle 17 in poi. Chi accede più tardi ha meno possibilità di scelta. Secondo uno dei testimoni accedendo alle 11 si possono prenotare fino a 40 ore settimanali, alle 15 ci si assicura tra le 13 e le 17 ore settimanali, mentre alle 17 le sessioni settimanali ancora disponibili superano difficilmente le due ore. Le prime sessioni a essere prenotate sono quelle del weekend, in cui il numero di consegne è sensibilmente più alto e dunque le possibilità di guadagno maggiori. Molto, insomma, dipende dal punteggio reputazionale che, nella ricostruzione del procedimento, viene stabilito dall'algoritmo in base a due indici: affidabilità e partecipazione. L'affidabilità decresce quando il lavoratore non esegue l'accesso alla piattaforma entro i primi 15 minuti dall'inizio della sessione di lavoro localizzandosi nell'area per cui ha dato disponibilità a eseguire il servizio di consegna, tranne nel caso in cui l'abbia cancellata almeno 24 ore prima. La partecipazione invece aumenta con il numero di sessioni di lavoro in cui il rider ha prestato il suo servizio durante i periodi di picco, dalle 20 alle 22 di venerdì, sabato e domenica. Se un rider non cancella la sua prenotazione con sufficiente anticipo per via di uno sciopero a cui vuole prendere parte o per motivi di salute o di cura dei figli minori, l'algoritmo comunque lo giudicherà meno affidabile e lo farà scendere nella classifica reputazionale mettendo a rischio la sua priorità di accesso alle prenotazioni. In sostanza l'algoritmo tratta in maniera uguale tutte le cancellazioni avvenute troppo tardi, considerando cioè irrilevanti i motivi della mancata partecipazione alla sessione prenotata. In questo consiste, secondo la giudice, la discriminazione indiretta, un comportamento che a causa della sua uniformità riserva un trattamento ingiusto a un determinato gruppo di soggetti (in questo caso i lavoratori che legittimamente desiderano partecipare a uno sciopero o che hanno problemi di salute che gli impediscono di rispettare l'impegno preso).

La giudice ha sottolineato che l'algoritmo è in grado di contemplare delle eccezioni, nel caso in cui si verifichi un incidente nel turno precedente a quello a cui il rider non partecipa o nel caso in cui la piattaforma che gestisce i rider si blocchi e diventi inaccessibile. In queste due circostanze infatti la mancata partecipazione del lavoratore alla sessione prenotata non viene considerata ai fini del calcolo delle statistiche reputazionali. Sarebbe, dunque, bastata la volontà da parte dell'azienda di tenere in considerazione il diritto allo sciopero, diritto costituzionalmente garantito, per adeguare di conseguenza l'algoritmo. L'ordinanza potrebbe avere rilevanza nazionale, visto che il sistema con cui Deliveroo ha gestito le priorità di accesso alle prenotazioni da parte dei rider è stato in uso su tutto il territorio nazionale.

«L'altro elemento estremamente interessante di questa sentenza è che inverte, seppur parzialmente, l'onere della prova nell'ambito di un giudizio antidiscriminatorio che si applica al funzionamento di un algoritmo», commenta ancora Durante, «la giudice ha infatti accettato le testimonianze delle parti ricorrenti a prova degli effetti discriminatori dell'algoritmo sui lavoratori chiedendo all'azienda di provare l'insussistenza della discriminazione». Deliveroo, dal canto suo, non ha fornito a riguardo alcun dettaglio, a parte dichiarare che il sistema non è più utilizzato dal 2 novembre 2020 e che anche prima di quella data i rider hanno sempre avuto un'alternativa alla prenotazione, quella del cosiddetto free login. «L'azienda ha accettato la ricostruzione del funzionamento del sistema automatizzato emersa in corso di causa, piuttosto che dimostrare il contrario svelando la cosiddetta black box della intelligenza artificiale utilizzata»commenta ancora Guglielmetti, «questo ha impedito di condurre un vero audit tecnologico sull'algoritmo», conclude.

Non sappiamo infatti se l'algoritmo sia un sistema di machine learning, i cui risultati cambiano a seconda della base di dati su cui vengono allenati e i cui effetti possono essere difficili da valutare a priori, o piuttosto si tratti di un più semplice software pre-programmato secondo un sistema di regole scelte dall'azienda per massimizzare i suoi obiettivi di profitto e di cui è molto più semplice prevedere i difetti e i limiti. Ma è ormai sempre più evidente che anche sistemi molto semplici possono generare discriminazione e ingiustizia.

Ne è un esempio recente il caso dell'algoritmo utilizzato per la pianificazione delle campagne vaccinali contro COVID-19 all'ospedale di Stanford. A metà dicembre un centinaio di medici, dipendenti dell'ospedale, hanno manifestato davanti agli ambulatori dove venivano effettuate le prime vaccinazioni. Solo 7 degli oltre 1300 medici della struttura erano stati inclusi nella somministrazioni delle prime 5000 dosi. La decisione era stata presa in base ai risultati di un algoritmo che considerava una serie di variabili per ciascun dipendente, tra cui l'età e il livello di esposizione al contagio. Evidentemente, però, l'algoritmo faceva male il suo lavoro, visto che aveva escluso gran parte del personale sanitario che da mesi è impegnato in prima linea nel contrastare l'epidemia. Come approfondito più avanti da MIT Technology Review, l'errore è stato non rivedere i risultati che l'algoritmo produceva quando riceveva come input i dati relativi ai dipendenti di quell'ospedale. Il problema, insomma, non è usare una procedura automatizzata ma piuttosto non essere disposti a rivederne il funzionamento anche di fronte all'evidenza che questa sia difettosa.

L'ordinanza del tribunale di Bologna è importante anche dal punto di vista del diritto del lavoro. In un intervento sulla rivista Il Mulino, Antonio Aloisi e Valerio de Stefano, autori del volume 'Il mio capo è un algoritmo. Contro il lavoro disumano' edito da Laterza, notano come autonomia e indipendenza dei lavoratori delle piattaforme digitali siano di fatto virtuali e che questo sia stato ormai riconosciuto da diversi tribunali in Europa (tra gli ultimi esempi la sentenza del tribunale di Palermo del novembre 2020 che ha imposto a Glovo di assumere a tempo indeterminato uno dei suoi ciclofattorini). La giudice Zompì, sottolineano i due giuristi, si è però concentrata su un altro aspetto, quello della responsabilità dell'azienda riguardo le decisioni prese automaticamente sulla base di valutazioni statistiche. In altre parole la corte è andata oltre il formalismo dell'inquadramento del rapporto di lavoro e ha affermato un principio: è ora di guardare dentro alle scatole nere degli algoritmi e correggerne i difetti se non si vuole incorrere in giudizi come quello di Bologna. Nell'affermare questo principio si comunica anche un altro concetto centrale al problema della governance algoritmica: i sistemi automatici non sono né neutri, né oggettivi. Come ha scritto la giornalista Cathy O'Neil nel suo libro 'Weapons of Math Destruction': «i modelli non sono altro che opinioni scritte nel linguaggio della matematica».

L'obbligo alla trasparenza e alla conoscibilità dei sistemi automatici di assistenza alla decisione è stabilito anche dagli articoli 14 e 22 del Regolamento europeo sulla protezione dei dati personali (GDPR), entrato in vigore nel 2018. L'ordinanza di Bologna non vi fa riferimento, probabilmente perché la questione non viene invocata dalle parti ricorrenti, cioè le organizzazioni sindacali. Esistono però altre cause in corso che si appellano proprio al GDPR, come quella intentata contro Uber dal sindacato britannico App Drivers & Couriers Union, per conto di un migliaio di autisti che si sono visti disattivare gli account ingiustificatamente. In questo caso i ricorrenti sostengono che un sistema automatico ha preso una decisione rilevante per la loro vita, li ha licenziati, fatto considerato illegittimo proprio dall'articolo 22 del GDPR.
 

Note

1. Guglielmetti non conosce i dettagli del procedimento e ha espresso le sue valutazioni a titolo personale e non in qualità di dipendente dello EDPS.

da qui

Teoria dell’agire - Miguel Benasayag

Per affrontare la questione dell’agire, occorre tener conto di un elemento centrale. Dobbiamo ammettere la realtà della governamentalità algoritmica: la vita degli individui e delle società è orientata e strutturata da macchine. Per la verità, il mondo algoritmico non è né per né contro il vivente, gli è indifferente. Ad esempio, molti magistrati in Francia si preoccupano per la possibilità che ci si diriga verso l’istituzione di tribunali algoritmici, poiché desiderano continuare a prendere decisioni secondo il foro interno della loro anima o coscienza. Tuttavia, l’intelligenza artificiale li assiste sempre più nella loro raccolta di dati, per comporre dossier o repertoriare casi di giurisprudenza… L’aiuto algoritmico è quindi già una realtà nel lavoro dei magistrati. La cosa più pericolosa, a mio avviso, è la giustizia predittiva, che pretende di identificare la pericolosità potenziale di un individuo a partire dall’analisi di micro-dati o micro-comportamenti. La minima segnalazione alla giustizia potrebbe essere presa in considerazione dagli algoritmi. E parlo appunto di microcomportamenti, non del fatto che qualcuno abbia guardato su internet come fabbricare una bomba! La cosa è molto più sottile: la macchina analizza dei micro-interessi – acquisti online, siti consultati ecc. – e, dalla loro correlazione, ‘decide’ della pericolosità o meno della persona.

Faccio un esempio: Google ha disposto un sistema di osservazione del modo in cui si utilizza la propria carta di credito in un anno, capace di prevedere con l’85% di attendibilità se l’utente della carta divorzierà nei tre anni successivi… Gli algoritmi funzionano a partire da quelle microinformazioni raccolte in massa nel mondo digitale che, messe insieme e correlate tra loro, determinano i profili.

Questo è il pericolo, mi pare, insito nella nozione di ‘comportamento’, che disegna routine ripetitive su una vita che è ben più aleatoria di quanto l’insieme di quelle routine lasci supporre….

Sì, ma non è affatto la questione del comportamento a essere qui in gioco. Intendo dire questo: la macchina di fatto assembla dei micro-comportamenti che si potrebbero designare come pre-individuali, un insieme di tracce numeriche, abitudini, regolarità, frammenti di attività che non hanno nulla a che vedere con il risultato dell’interpretazione. Nel caso di certe malattie, ad esempio, l’intenzione è quella di identificare delle correlazioni per definire una medicina preventiva, ma ciò avviene sulla base di dati che molto spesso non hanno alcuna relazione con la salute della persona!

Il modello epistemologico su cui si fonda questa governamentalità è quello dell’essere umano modulare, simile a quello proposto dalla biologia molecolare. Si riduce l’individuo non alle sue decisioni ma ai suoi micro-comportamenti. La biologia non si interessa alla vita stessa, ma alle particelle elementari che si associano tra loro. Nel caso della governamentalità algoritmica è la stessa cosa: si inserisce nella macchina una quantità enorme di micro-atti di diverso tipo – dove la persona passa le sue vacanze, quali percorsi segue, quali siti consulta su internet, chi chiama ecc. – in base ai quali è possibile stabilire profili virtuali, che si suppone possano rivelare gli individui pericolosi o devianti. La governamentalità, quindi, non si rivolge più alla persona (anche se il concetto di persona, così come era usato nell’antico modello di governamentalità, che va a votare in piena coscienza era altrettanto discutibile). Tutti i dati stoccati sono pre-individuali, perché le persone sono assimilate tra loro e poi assimilate ai loro profili. Non c’è un senso. È esattamente la stessa idea che si ritrova nella teoria dei meme di Richard Dawkins.

È quindi una visione della persona come macchina?

Sicuramente, gli adepti dell’intelligenza artificiale sono convinti che l’individuo sia una macchina, un ricettacolo di diversi micro-comportamenti, senza un senso complessivo. Non ci sono più né individui, né popolazioni, né comunità: esistono profili e avatar virtuali. Gli algoritmi sono fondati sull’individuazione di tendenze: ad esempio, la potenzialità violenta o meno di un individuo.

[…]

Nel romanzo di Philip K. Dick, The Penultimate Truth, del 1964, gli umani rifugiati in ‘formicai’ sotterranei ascoltano su schermi giganti il loro presidente Talbot Yancy, che è in realtà un robot, controllato da un’intelligenza artificiale, cui vengono date false informazioni perché costruisca un discorso rassicurante… In un certo senso Dick ha previsto la nostra realtà attuale.

Sì, in realtà è ispirato al romanzo dell’autore argentino Adolfo Bioy Casares del 1940, La invención de Morel … Comunque sia, si pone la questione dell’agire. L’istituzione non ha di fronte persone che la contestino, ma movimenti di micro-comportamenti che è necessario dominare. Non c’è alcun riconoscimento della conflittualità, poiché la macchina elimina l’altro. La minima critica è interpretata come un inceppamento che occorre riparare o come qualcosa da eliminare attraverso lo scontro e la repressione. In tutti i casi, se le reazioni alla politica del governo non sono buone, non è a causa di un disaccordo ideologico, ma semplicemente perché la comunicazione è stata condotta male, perché i meme utilizzati non sono stati quelli giusti. Utilizzo perciò il termine di post-democrazia, perché in questo contesto non si può votare che per persone che hanno lo stesso programma. D’altronde, anche Matteo Salvini, che in Italia ha attinto e diffuso idee e stereotipi di tipo fascista, segue in realtà gli orientamenti della Banca europea… In Francia, Emmanuel Macron dichiara di interessarsi alle responsabilità coloniali della Francia, ma per quel che riguarda i migranti… si può dire che fa piangendo quello che la signora Le Pen fa ridendo!

Il conflitto necessario alla democrazia non esiste quindi più?

La questione è di sapere come lottare contro la cancellazione dell’alterità. De Gaulle aveva degli avversari autentici: gli americani e i comunisti. In Argentina la giunta militare aveva un’ideologia da difendere contro i rivoluzionari. Alcuni militari addetti alla tortura adoravano, tra una seduta e l’altra, spiegare ai prigionieri – soprattutto agli intellettuali – le motivazioni e l’importanza della loro battaglia. Oggi l’alterità non è più presa in considerazione: si pretende che un terrorista si sia radicalizzato per ragioni unicamente psicologiche. Quando i giudici sono venuti a chiedermi un parere sulla questione della radicalizzazione, per progettare un cammino di deradicalizzazione, ho risposto che occorreva forse tener anche conto della variabile ideologica, e non considerare la cosa unicamente come un semplice sintomo. Un ‘gilet giallo’ contestatore è oggi trattato allo stesso modo: lo si delegittima riducendolo a un insieme di sintomi da trattare. La conclusione è che non si tollera nessun conflitto, si vuole unicamente lo scontro. L’altro è un Barbaro, e contro il Barbaro posso applicare la barbarie.

[…]

Che rapporto intercorre tra l’assenza di conflittualità nelle nostre società e l’intelligenza artificiale?

L’applicazione della ‘tolleranza zero’ nei confronti del conflitto è confortata dalla macchina. La macchina è vista come rigorosamente giusta, ma gli umani non sono mai rigorosamente giusti! Una macchina, per definizione, non può comprendere le logiche ‘sfumate’, non nette: può calcolare, ad esempio, che 4 è il doppio di 2, ma non può sapere, ad esempio, se un’abitazione è ‘grande’, perché questa è ‘grande’ in rapporto a cosa? C’è nel vivente una dimensione di soggettività che sfugge alla macchina. Allo stesso modo, a livello giuridico, la macchina non può tener conto di ciò che è ‘legittimo’ per una società, eppure tale legittimità è il cemento della società. Ciò che è legittimo non coincide con ciò che è legale e, se si riduce il legittimo al legale, la società diventa invivibile. Il vero problema della governamentalità algoritmica non è che un giorno la macchina possa funzionare male; il problema è piuttosto che essa determini degli orientamenti sociali invivibili, privi di faglie. Se un giudice si trova di fronte un uomo che ha rubato in un supermercato, oltre a informarsi su cosa è stato rubato, terrà in considerazione molti altri elementi, tra i quali, ad esempio, la povertà dell’uomo. Terrà conto della biografia e della soggettività di questa persona. Terrà conto del fatto che in ogni atto reprensibile rimangono comunque punti oscuri. La macchina non può tener conto di tutto ciò.

Ma allora, come agire?

Come si è visto, la governamentalità algoritmica fa in modo che, di fronte alla crisi delle società e delle culture, si sia delegata la razionalità umana alla macchina. In questo nuovo contesto, l’agire è compromesso. Siamo inoltre di fronte a una situazione catastrofica sul piano economico, demografico, ecologico… D’altronde, se pensiamo in termini di sistemi complessi, ci si rende conto che l’Uomo non è il solo attore nel mondo. Heisenberg diceva che, ovunque l’Uomo posi lo sguardo, non vede che l’Uomo… In realtà non è vero. L’agire degli umani deve tener conto di molti altri elementi attivi non-umani. Ogni agire umano, in politica come in medicina, deve tener conto che l’agire intenzionale non è che un vettore in un insieme non-calcolabile di altri vettori, la cui regolazione non è prevedibile. Ci sarà una regolazione autonoma della natura, se vogliamo, ma gli umani non saranno più presenti per fare da testimoni.

Non è facile conservare la speranza in questo tipo di mondo…

Sì, occorre davvero sapere come vivere in un mondo privo di promesse e anche dell’idea di provvidenza. L’idea di provvidenza suppone che vediamo il male, anche nella sua forma peggiore, e non lo comprendiamo, ma nonostante tutto pensiamo che ciò ci condurrà a un bene superiore che trionferà. La modernità ha prodotto la propria visione della provvidenza: è la teleologia, di cui lo storicismo è una delle incarnazioni. La teleologia presuppone una dialettica ascendente e una finalità che risolverà i problemi incontrati lungo il percorso. Oggi la novità è che non abbiamo né provvidenza, né teleologia, né promesse.

Ma in che modo la nostra epoca ci impedisce di pensare il nostro agire nel mondo?

Siamo piombati in un’epoca nuova, in cui il nostro modo di agire abituale non funziona più. La complessità è diventata dominante un po’ ovunque. Prendiamo come esempio il caso degli antibiotici. Questo tipo di medicina è stato creato all’interno di un modello lineare del vivente come luogo di battaglia e di conquista. L’idea era che esistono agenti patogeni e altri che fortificano il sistema immunitario, e quest’ultimo è come una fortezza che consente agli umani di battersi contro gli invasori. In certa misura, è vero. Ma, assunti in misura massiccia, a livello individuale e collettivo, gli antibiotici hanno effetti iatrogeni e deteriorano il sistema immunitario, cosa che non era stata prevista. Ciò illustra bene come non si possa pensare l’agire unicamente nei termini di causa ed effetto relativo alla causa. La scienza odierna non è più una scienza limitata all’esattezza. Deve potersi confrontare con un certo grado di incertezza.

Ciononostante, nella nostra vita quotidiana, tutto sembra ancora confermare l’attualità della razionalità antica e dell’esistenza di sistemi lineari. Se prendo la metropolitana, ho tutte le chance di arrivare nel luogo in cui ho previsto di recarmi. Ma, se certi livelli di realtà funzionano ancora in base a un modello lineare (è il livello della realtà sensibile, legato allo spazio geometrico e alla nostra corporeità), non è più così in altri casi. In effetti, a un altro livello (quello delle informazioni ‘non immediate’) siamo sommersi dai dati senza poter determinare a colpo sicuro una risultante. L’esperienza mostra che esiste una correlazione tra il fatto di fumare quotidianamente e lo sviluppo di un cancro, ma cosa riserva il futuro a un fumatore che per ora non ha il cancro? Contrarrà davvero tale malattia? In effetti, oggi, siamo di fronte alla tentazione e alla deriva di una gestione dei rischi disciplinari mediante le tecnologie digitali, il cui linguaggio pseudo-razionale è in realtà allo stesso livello di quello di una qualunque chiromante. La grande sfida attuale è comprendere questa complessità: a livello sanitario, ecologico, demografico, economico.

da qui