ALGORITMI CHE DECIDONO

in Community

di Mario Fierli | del 21/11/2016 |commenta

ALGORITMI CHE DECIDONO
Il problema delle decisioni delegate ad algoritmi è oggetto di molte discussioni e polemiche, ma merita uno sforzo di comprensione e ragionamento. Questo articolo propone allo scopo alcune considerazioni, anche nell’ottica dell’educazione. Giustamente i profili culturali e le indicazioni di dei vari ordini di scuola, richiamano alla necessità di formare alla consapevolezza delle conseguenze sociali e culturali dell’uso delle nuove tecnologie.

Ci sono decisioni che vengono affidate ad algoritmi (cioè ai programmi che li codificano). Un programma del sistema informativo del MIUR decide, poniamo, che un insegnante di Catania per entrare in ruolo deve prendere servizio a Udine. Un tecnico spaziale ha detto recentemente che Schiaparelli si è schiantato su Marte perché il programma di controllo del modulo spaziale “ha deciso” di spegnere i motori un minuto prima del previsto. Nei Sistemi di Supporto alle Decisioni, aziendali o economico-sociali, sono le persone a decidere mentre i programmi presentano dati in modo ben strutturato, offrono alternative e calcolano le conseguenze delle decisioni. Anche alcuni servizi di uso corrente, per esempio la prenotazione di alberghi o viaggi, sono sistemi molto semplici di supporto alle decisioni. Altri ancora producono una decisione, ma danno all’operatore umano gli strumenti per cambiarla: funzionano così, per esempio, molti programmi per la confezione di orari scolastici.

Abbiamo imparato ad accettare una grande quantità di decisioni algoritmiche. Le abbiamo metabolizzate senza quasi più percepirle quando ci aiutano nella vita e nel lavoro: la scelta di un posto in treno, l’algoritmo che ci corregge una parola mentre scriviamo un messaggio ecc. Ma diventiamo subito critici per quelle che ci rendono la vita scomoda. Esagerando un po’ il regista Herzog ha detto a un giornalista: “nessuno si chiederebbe se l’elettricità è cattiva, tranne nel momento in cui si trovasse sulla sedia elettrica”. Certo se la cosa non ci interessa personalmente è più facile permetterci il lusso della speculazione. In ogni caso per valutare razionalmente le decisioni di un algoritmo è necessario anzitutto chiarire qual è il contesto e la finalità della decisione e, successivamente, spostare il punto di vista dal personale al generale, cioè considerare i vantaggi e gli svantaggi di tutte le persone coinvolte. Naturalmente il giudizio è facile se l’algoritmo-decisore nuoce a tutti o non nuoce a nessuno. Ma le cose non sono così semplici: è possibile, addirittura che anche la migliore soluzione possibile di un problema lasci insoddisfatti tutti. Uno studio di alcuni anni fa dimostrò che un programma per la produzione di orari scolastici che ottimizzava al 90% la soddisfazione complessiva delle richieste dei docenti in realtà lasciava tutti insoddisfatti. E questo è ovvio perché per ciascuno c’era un residuo di aspettative deluse.

Il dibattito si focalizza spesso sul fatto che le decisioni siano o no “neutrali” o imparziali. Uno slogan per mettere in discussione l’oggettività degli algoritmi è che i programmi sono scritti da persone e che quindi in essi c’è sempre un elemento di soggettività. Se il criterio nasce da una chiara regola sociale e organizzativa o da un principio condiviso c’è poco da discutere perché l’algoritmo, salvo errori materiali, ne è solo, come è stato detto, la traduzione matematica. Ma se sono la regola e il principio a non essere condivisi è inutile prendersela con l’algoritmo, con chi l’ha scritto e con chi lo usa. Quindi è tutto così semplice? Non sempre. Intanto perché talvolta le regole non sono esaustive ed è possibile che si introducano criteri non dichiarati. L’assegnazione di un posto in treno, per fare un esempio facile, segue alcune regole trasparenti e condivisibili: la classe dipende dalla spesa, la posizione finestrino/corridoio e le prossimità di persone che viaggiano insieme vengono soddisfatte al meglio a seconda delle disponibilità, viene rispettato l’ovvio principio del prima arrivato prima servito ecc. Poi quando saliamo in treno capita di vedere che le carrozze 11 e 12 sono strapiene mentre la 8 è semivuota. E’ evidente che c’è un criterio non dichiarato (e per la verità mai capito da chi scrive). I criteri sono spesso una semplificazione della realtà e, per questo, non prevedono alcuni eventi critici. Sembra che questo sia stato il caso dell’assegnazione di sedi ai docenti. Ma spesso il problema è tanto complesso che la semplificazione taglia inevitabilmente variabili e quindi delude aspettative: il caso dell’orario scolastico è tipico.

Il rifiuto di certe decisioni algoritmiche, dunque, può avere delle buone ragioni. Ma talvolta il rifiuto riguarda l’algoritmizzazione in generale, come una forma di disumanizzazione. Più specificamente c’è il rimpianto per le decisioni transazionali, nelle quali il problema delle variabili nascoste e dei casi-limite è risolto, come sanno bene i vecchi vicepresidi che facevano gli orari scolastici a mano, proprio nella transazione. Ma come sanno bene gli stessi non tutte le transazioni erano innocenti. Per inciso la produzione algoritmica degli orari potrebbe essere un bel tema di dibattito in classe.

Riprendiamo un momento la questione della soggettività introdotta dall’autore del programma. Qui c’è una sorpresa. Nel caso di problemi molto complessi a volte il programmatore semplicemente non c’è. Si tratta di quelli che Weizembaum, nel suo libro Computer Power and Human Reason, chiamava programmi complessi e incomprensibili. Sono composti di migliaia o milioni di righe di codice prodotti in un tempo lungo da molte persone diverse con un processo fatto di stratificazioni, assemblaggi di sottoprogrammi, aggiornamenti, correzioni di bugs e “rammendi” ah hoc. Tutto meno che la pura trasposizione matematica di un procedimento. E nonostante i volumi di documentazione via via prodotti spesso si deve ricorre a metodi empirici: il collaudo, il rodaggio e la richiesta agli utilizzatori del favore di segnalare gli errori.

Questo aprirebbe un altro discorso sul pregiudizio deterministico che consegna le tecnologie informatiche al mondo delle certezze assolute. E sulla superficialità del rinchiudere l’uso di questa, come delle altre tecnologie, nell’alternativa del tutto bene o tutto male.

Nickname Titolo commento Scrivi commento

Scrivete i vostri commenti dentro il riquadro senza copiare il testo da Word o da altri programmi.

Con la sottoscrizione delle condizioni generali di contratto l'Utente si è assunto ogni più ampia responsabilità civile, penale e amministrativa relativa all'invio e alla pubblicazione del materiale trasmesso garantendo ogni più ampia manleva. L'utente riconosce a RCS Libri e/o a società ad essa collegate e/o ai suoi aventi causa il diritto di conservare, riprodurre, diffondere e cancellare il materiale trasmesso. L'utente dichiara e garantisce il pacifico godimento di tutti i diritti relativi al materiale inviato. Pertanto, con l'invio del materiale, l'Utente cede e trasferisce a titolo gratuito e definitivo, senza limiti di spazio e di tempo, tutti i diritti di sfruttamento economico e commerciale relativi al materiale inviato.
Il tuo commento verrà pubblicato solo dopo l'approvazione da parte della Redazione. Non verranno pubblicati commenti che violano le leggi sulla stampa, diffamatori, offensivi o che chiamano in causa terze persone per fatti non accertati. Non saranno pubblicati messaggi fuori tema o pretestuosi, o scritti con linguaggio non adeguato o irrispettoso per i lettori.

Condizioni generali del servizio

Gli Speciali

In un unico file il meglio di education 2.0 da scaricare.

pdf

Scarica le raccolte dei nostri articoli piu belli, i commenti piu interessanti, i contributi della community, i saggi.

Testata registrata presso il Tribunale di Milano, registrazione n. 262 del 3 giugno 2009. Copyright 2016 © Rizzoli Libri S.p.A. Sede Legale via Bianca di Savoia, 12 - 20122 Milano - Capitale Sociale € 42.405.000 - Registro Imprese e Codice Fiscale / Partita IVA n. 05877160159 - R.E.A. 1045223 - Soggetta ad attività di direzione e coordinamento di Arnoldo Mondadori Editore S.p.A. | | Per la pubblicità su Education 2.0 scrivi a redazione@educationduepuntozero.it - Gruppo Mondadori | Cookie policy e privacy

64807714-afcf-11e6-addd-3eef3743ab97