martedì 13 febbraio 2018

Algoritmi e la nuova Algocrazia

Un algoritmo è un modello matematico che racchiude istruzioni per risolvere un problema o effettuare delle attività. L’Intelligenza Artificiale (IA) non è altro che un insieme di algoritmi, ciò che vediamo sul social network è frutto del lavoro degli algoritmi, persino le notizie cui accediamo da web o mobile sono il lavoro della selezione fatta da modelli matematici ‘tradotti’ in codice informatico. La maggior parte delle transazioni finanziarie avviene per mezzo degli algoritmi, gli assistenti vocali che utilizziamo ormai quotidianamente funzionano grazie ad essi, così come i sistemi di riconoscimento facciale che ci permettono di ‘tenere in ordine’ le nostre foto (e di fare molto altro come, per esempio, controllare l’identità delle persone) o quelli che costruiscono automobili o le guidano autonomamente sulle nostre strade. Sono strumenti per lo più invisibili ma in grado di aiutare ed ‘aumentare’ le nostre vite supportandoci nella quotidianità, nel lavoro, nel business. Il rovescio della medaglia è che in quella che già oggi molti chiamano l’età degli algoritmi, il mondo potrebbe essere governato dall’intelligenza artificiale concentrando ‘il potere’ (sociale, economico e politico) nelle mani di coloro che sono in grado di modellare e controllare gli algoritmi. Diventa quindi prioritario, in questa delicata fase evolutiva dell’informatica e della storia umana, studiare e capire quali sono non solo le potenzialità e le opportunità che questi sistemi offrono, indubbiamente innumerevoli, ma anche gli impatti macroeconomici, sociali, politici, organizzativi per arrivare a definire una nuova cultura (basata sul codice) e le regole entro le quali questa può espandersi.
Sono gli algoritmi, oggi, a decidere cosa dobbiamo sapere durante le nostre ricerche online – con l’algoritmo di Google a farla da padrone – cosa dobbiamo leggere (il NewsFeed di Facebook, esempio più evidente di quelle che Eli Pariser chiama “filter bubble” o “eco chamber”, “camere dell’eco” che proponendoci cose culturalmente ed ideologicamente consone alla nostra visione del mondo, la rafforzano tenendo fuori dalla nostra conoscenza tutte le opinioni differenti) e a consigliarci quali acquisti potrebbero interessarci nei nostri shop online e quale candidato votare. Scriveva Pariser in un articolo pubblicato nel 2011 su Internazionale.
A. Aneesh, professore associato presso la cattedra di sociologia dell’Università statunitense del Wisconsin-Milwaukee, definisce questo sistema come una vera e propria “algocrazia”, guidata in regime di segretezza dalle imprese della Silicon Valley e di Wall Street, che hanno invece pieno accesso ai nostri dati e, dunque, alle nostre vite. Una delle tante sfaccettature di quella che Frank Pasquale – professore di legge all’Università del Maryland – ha definito in un suo libro pubblicato dalla Harvard University Press nel 2015 “black box society”, nella quale siamo tenuti all’oscuro delle modalità in cui vengono prese le decisioni che ci riguardano.
Esponendo la malattia, nel suo libro Pasquale individua anche alcune possibilità di cura, come il miglioramento delle legislazioni sull’uso dei dati personali o la necessità di rendere più chiari i contratti e i loro termini di utilizzo, peraltro al centro di un interessante documentario realizzato da Cullen Hoback nel 2013 dal titolo “Terms and Conditions May Apply” (o “Zero Privacy” nella versione in italiano) e lavorare per una trasparenza “qualificata”, che rispetti cioè gli interessi delle persone coinvolte senza trasformare la trasparenza in una nuova ideologia religiosa.
In questo contesto, ciò che dovrebbe farci riflettere, secondo Aneesh (i cui studi si sono sempre prevalentemente concentrati sull’analisi dei nuovi modelli organizzativi e della burocrazia che si viene a ‘disegnare’ mediante la tecnologia) è il fatto che il linguaggio di programmazione (il codice) sembra essere di per sé “la struttura organizzativa chiave dietro questa nuova migrazione virtuale”. Per capire esattamente cosa intenda il professore dobbiamo fare un salto indietro. “Era il 1999 quando, cercando una software company in India, rimasi colpito dal fatto che la maggior parte delle applicazioni che utilizzavamo non erano mai state create ‘in un unico posto’. La maggior parte del software veniva (e viene tuttora) sviluppata in più luoghi contemporaneamente: team diversi, ‘seduti’ in continenti e paesi differenti lavorano allo stesso progetto. Conoscevo la ‘letteratura’ riguardante l’avvento dei grandi sistemi gestionali centrali (gli Erp) quale elemento cruciale per il coordinamento delle ‘enormi’ attività burocratiche delle organizzazioni aziendali – spiega Aneesh -, ma nel caso dello sviluppo software globale non è mai stato possibile avere una sorta di ‘middle managerial layer’ per il coordinamento centralizzato dei team e dei diversi ‘regimi’ di lavoro dei differenti paesi del globo”.
Scenario ancor più evidente se si pensa allo sviluppo di codice open source dove le community di sviluppatori presenti in tutto il mondo si coordinano ‘semplicemente’ con modello di autogestione.
Qualche tempo dopo queste prime considerazioni, un giorno seduto accanto ad un programmatore, guardando lo schermo sul quale stava lavorando, Aneesh ha avuto un’intuizione: “è il software stesso a fare da direttore dei lavori!”. Aneesh aveva notato così tanti controlli di accesso integrati nella piattaforma software su cui stava lavorando il programmatore “che non c’era alcun bisogno di un manager umano a dirigere i lavori”, aveva pensato. Quando nel 1998, durante la scuola di specializzazione, Aneesh scrisse il suo primo ‘paper’ sul tema dell’hyper-bureaucracy (pubblicato l’anno dopo) per descrivere un sistema iper-burocratico ‘fuori controllo’, ancora non aveva compreso del tutto che il codice – nella sua teoria – è esso stesso ‘organizzazione’, visione che gli è apparsa più chiara dopo aver visto all’opera il programmatore. “In mancanza di un vocabolo migliore ho coniato il termine ‘algocracy’ per identificare ‘le regole del codice’ (o di un algoritmo) quale modello di organizzazione che può sostituire le ‘regole di un ufficio’ (la burocrazia di un’azienda o di un sistema economico)”, descrive Aneesh. “L’algocrazia tende ad appiattire tutte le gerarchie burocratiche perché non necessita di alcun livello di gestione intermedio o centralizzato che sia”.
Per dettagliare ancora meglio in che modo la nostra società ed i nostri modelli organizzativi, non solo lavorativi ma anche sociali ed economici, possono essere modificati dalle tecnologie, in generale, dagli algoritmi nello specifico, Aneesh fa un esempio molto semplice riguardante il controllo del traffico e delle violazioni degli automobilisti. “Il controllo mediante l’utilizzo dei semafori implica per gli automobilisti il rispetto di alcune regole (per esempio, fermarsi in presenza del rosso) le cui violazioni possono essere rilevate direttamente dalla polizia stradale”, spiega Aneesh. “Questo modello organizzativo/comportamentale funziona per due motivi: l’interiorizzazione delle regole da parte degli automobilisti, che orientano le loro azioni, e la minaccia della pena come conseguenza di un’azione errata”.
Questo primo modello rappresenta un’organizzazione burocratica (seguire il rosso, arancione o verde equivale a seguire le regole di un’azienda o di una società civile) ma, fa presente Aneesh, “quanti automobilisti ci sono che non rispettano lo stop o il rosso senza essere ‘beccati’ dalla polizia?”.
C’è poi un secondo metodo di controllo, basato sull’utilizzo delle videocamere che riprendono il traffico e potenzialmente catturano tutte le violazioni degli automobilisti. “Le regole sono ovviamente le medesime del modello precedente ma, con questo tipo di organizzazione, ad ogni violazione rilevata viene emessa una multa recapitata al trasgressore con una fotografia come prova dell’illecito”, spiega Aneesh. “Un sistema tecnologico di questo tipo, impiegato nella sua massima capacità è in grado di rilevare tutte le violazioni e la notifica diventa la conseguenza dell’azione ‘fuori regola’ di una persona”. In questo caso, il modello organizzativo viene identificato come panottico.
Infine, c’è il modello algocratico che, nell’esempio di Aneesh, diventa un sistema di auto-controllo del traffico basato non su delle regole ma su come vengono costruite le strade: “pensiamo ad una infrastruttura stradale che, per via di come sono state asfaltate le corsie, impediscono agli automobilisti di svoltare a destra o a sinistra o di sostare in un punto se non ‘progettato’ dagli ingegneri della strada. In questo modello non ho bisogno di essere inseguito dalla polizia o di ricevere una multa via posta, se ‘violo’ il modello mi schianto e distruggo l’auto”.
Aneesh non si sbilancia in alcun giudizio personale circa questi tre differenti modelli di governance, dice semplicemente che “tutti e tre hanno delle potenzialità e dei limiti, funzionano in modo differente: i semafori possono rompersi, la targa fotografata da una videocamera potrebbe risultare illeggibile, un veicolo sportivo potrebbe essere in grado di superare le barriere fisiche del controllo del traffico…”.
Ma dopo l’analisi preliminare sul ‘potere’ degli algoritmi è evidente che il futuro di una possibile società algocratica cattura la mia attenzione. “Mentre le burocrazie sfruttano il modello di ‘orientamento all’azione’ (orientano le nostre personalità verso determinate norme), le algocrazie predeterminano l’azione verso determinati risultati”, spiega Aneesh. “Facendo un esempio pratico attuale, non conosciamo gli algoritmi di Google o Facebook anche se definiscono a priori il nostro possibile campo d’azione. Un effetto dell’algocrazia che oggi vediamo applicarsi anche sulle identità: le identità finanziarie (i punteggi di credito, per esempio), le identità di shopping (che ‘inquadrano’ un comportamento di acquisto) e addirittura le identità mediche (che raggruppano le persone a seconda di patologie o cure), sono tutte costruite algoritmicamente da diversi sistemi senza la nostra approvazione o coinvolgimento”.
Gli algoritmi decidono, quindi, i risultati dei motori di ricerca, le pubblicità che appaiono quando visitiamo un sito, le notizie a cui viene data rilevanza su Facebook, il programma più adatto per la lavatrice, ma anche le priorità nelle liste d’attesa per un trapianto, chi viene sottoposto a verifiche e controlli, ad es. fiscali o negli aeroporti, e molto altro. Gli algoritmi fanno parte di quasi tutti gli aspetti della vita quotidiana dove c’è tecnologia.
Sono anche alla base di decisioni politiche e amministrative che ci riguardano direttamente come cittadini ma che non sempre sono documentate e trasparenti.




Sitografia di riferimento:

Verso un mondo governato dagli algoritmi - Nicoletta Boldrini
Algocrazia: il potere politico degli algoritmi - di Andrea Intonti
Algocrazia - di Licia Corbolante


Nessun commento:

Posta un commento