Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia

No MASS DESTRUCTION ma MATH DESTRUCTION, sì, corretto, avete letto bene e per fortuna il correttore automatico non l’ha modificato… correttori automatici, pensati e programmati da noi umani per facilitarci la vita, per risparmiare tempo, per non sbagliare.

L’autrice però in questo caso non ha sbagliato; il gioco di parole in italiano non riesce altrettanto bene come in lingua inglese; potrebbe rendere l’idea ARMI di DISTRUZIONI di MATE dove “MATE” però ricorda più le verifiche scritte e le interrogazioni della prof di matematica delle medie o delle superiori e non è di quella matematica che tratta il libro.

L’autrice Cathy O’Neil invece scrive della matematica complessa dei BIG DATA che ha studiato con passione nel suo PhD ad Harvard, insegnato poi per alcuni anni al Barnard College e che ha messo in pratica lavorando nel settore privato degli hedge fund fino a quando ne è stata capace, fino a quando ha preso coscienza del fatto che la sua bravura nella gestione dei numeri messa al servizio esclusivo di obiettivi finanziari poteva essere fonte di diseguaglianze e arrivare a minacciare la democrazia.

Proprio così, lo sostiene con determinazione in ogni sua riga; tutto parte dai modelli, quelli che sono alla base degli algoritmi di calcolo. L’autrice li descrive nella parte iniziale del libro con un esempio banale: lo sport del baseball, un mondo fatto di giocatori che giocando ottengono determinati risultati osservabili e analizzabili in modo oggettivo perché all’interno di un sistema di regole definite, trasparenti e conosciute a tutti.

La trasparenza delle regole è indispensabile quando ci si immagina un modello e il relativo algoritmo capace di misurare e interpretare le prestazioni di un settore, di un’azienda, di un sistema, di un gruppo o di una singola persona.
Occorre fare molta attenzione quando arriviamo a trarre conclusioni attraverso l’impiego di algoritmi in merito alle prestazioni di un insegnante, all’identificazione di futuri criminali, alla selezione del candidato per una nuova posizione aperta perché le regole del gioco sono estremamente complesse, non sono dichiarate in modo trasparente e diventa così facile e probabile facciano la loro comparsa le proxies, approssimazioni; si tratta di quelle scelte soggettive fatte per velocizzare, risparmiare tempo, essere più efficienti in una valutazione, una selezione, una previsione, etc. etc., scelte personali che hanno lo scopo di decidere cosa sia rilevante e sufficiente e cosa del tutto irrilevante da considerare.

(…) I modelli sono espressione e riflesso di obiettivi e ideologie e per questo dobbiamo chiederci chi è il “designer” o l’azienda che lo ha progettato e soprattutto cosa vuole raggiungere; dobbiamo ricordare sempre che i modelli sono delle opinioni a cui noi siamo soliti riconoscere un valore di imparzialità a prescindere solo perché supportati da numeri “oggettivi” ma in realtà è più corretto considerare i modelli come dei “portatori sani” di soggettività.

(…)

Diventa sempre più importante ricordarci che questi modelli nascono da scelte personali che cominciano dal decidere quali siano i dati da considerare e quali da non considerare; sono scelte che sono strettamente correlate e vanno ad influenzare tematiche come morale, valori umani, bene comune, uguaglianza sociale a cui dobbiamo dare però la precedenza anche a scapito di un sacrificio di efficienza e profitto perché i modelli matematici devono essere sì gli strumenti di oggi e del prossimo futuro ma non devono mai finire per trasformarsi nei nostri maestri.

Recensione di Alessio Cuccu