Si sente sempre più spesso parlare degli algoritmi come fossero vere e proprie “intelligenze artificiali”, capaci di decidere i nostri destini in modo opaco e distopico. Di esempi concreti ce ne sono a bizzeffe. Molti di voi ricorderanno il caso di qualche anno fa dell’algoritmo utilizzato per allocare i docenti alle scuole sul territorio nazionale, e che in vari casi ha portato persone a doversi spostare di centinaia di km. Per non parlare degli algoritmi che, proprio in questi giorni, portano a colorare le diverse regioni e provincie d’Italia in base all’andamento della pandemia di COVID-19.
Il problema è in realtà molto più ampio. La nostra storia recente abbonda di situazioni in cui gli algoritmi hanno “mostrato comportamenti scorretti o poco etici”: algoritmi di riconoscimento facciale che confondono persone e gorilla, algoritmi per decidere sui prestiti bancari che “preferiscono” gli uomini alle donne, algoritmi per l’analisi dei carcerati che indicano genericamente le persone di colore come più tendenti a recidivare nei propri crimini.
In tutti questi esempi, torna di nuovo un riferirsi agli algoritmi come esseri senzienti, dotati di “preferenze”, “potere decisionale” e, non per ultimi, “preconcetti”.
Cercheremo, nei prossimi numeri della nostra rubrica, di fare un’opera di chiarezza su questi fantomatici algoritmi, cercando di ristabilire un po’ di ordine e di sano equilibrio. Lo faremo utilizzando esempi concreti, con un triplice scopo. In primis, ricorderemo da dove proviene il termine “algoritmo”, e cosa sia davvero un algoritmo. In secondo luogo, distingueremo tra gli algoritmi che vengono utilizzati per risolvere problemi, e quelli che vengono utilizzati per imparare dai dati. Da ultimo, ci soffermeremo, come già molte volte abbiamo fatto, sulla natura di questi dati: chi li ha prodotti, chi li consegna agli algoritmi. Con un tema di fondo sempre presente: quello della responsabilità e dell’importanza di responsabilizzarsi.
Autore: Marco Montali