Nell\u2019ultimo numero della \u201cCitt\u00e0 digitale\u201d ci eravamo lasciati con questo intento: digitare nei traduttori online la coppia di frasi \u201cDorme e mangia con suo pap\u00e0. Stira e mangia con suo pap\u00e0\u201d, per vedere come vengono tradotte in inglese. Il punto, come avrete immaginato, \u00e8 capire il genere del soggetto: si tratta di un \u201clui\u201d? O di una \u201clei\u201d? Non lo sappiamo: il testo \u00e8 ambiguo. Quello che si riscontra, per\u00f2, usando questi software, \u00e8 che in molti casi \u201cdecidono\u201d di indicare in un \u201clui\u201d (\u201che\u201d) il soggetto della prima frase, e in una \u201clei\u201d (\u201cshe\u201d) il soggetto della seconda. Questo tipo di output \u00e8 stato spesso commentato parlando dei preconcetti (in inglese, \u201cbias\u201d) degli algoritmi\u2026 come se gli algoritmi possano anche solo avere un intento discriminatorio. \u00c8 su questo punto centrale che termina la nostra serie sugli algoritmi.\u00a0
Come \u00e8 possibile che un algoritmo decida autonomamente che chi dorme \u00e8 uomo, mentre chi stira \u00e8 donna? La spiegazione \u00e8 molto semplice, e viene, di nuovo, dai dati. Abbiamo gi\u00e0 scritto che questi algoritmi di ultima generazione vengono \u201callenati\u201d su una vastissima mole di dati, ed \u00e8 su questa mole di dati che plasmano il proprio comportamento. Se in quei dati, statisticamente, quando si parla di \u201cstirare\u201d si trovano spesso soggetti femminili, l\u2019algoritmo imparer\u00e0, implicitamente, a collegare questi due concetti. Non decide, semplicemente si adegua ai dati. La domanda seguente a questo punto \u00e8: perch\u00e9 si riscontra questa statistica nei dati? Perch\u00e9 \u00e8 l\u2019umanit\u00e0 stessa (o meglio, quell\u2019umanit\u00e0 che produce dati per il mondo digitale) ad associare questi due concetti: i testi che parlano di \u201cstirare\u201d spesso si riferiscono a soggetti femminili, questi testi diventano dati per l\u2019apprendimento degli algoritmi, e gli algoritmi ricostruiscono, indirettamente, gli stessi preconcetti (o distribuzioni statistiche che dir si voglia) presenti negli uomini e donne che quei dati li hanno generati. Non sta a noi qui dibattere sull\u2019opportunit\u00e0 o meno di questo collegamento, n\u00e9 sul funzionamento di questi servizi di traduzione (anche se forse basterebbe, per sciogliere il nodo, che l\u2019algoritmo chiedesse all\u2019utente umano, invece di decidere autonomamente…). Ci preme semplicemente sensibilizzare i lettori su questo tema: a chi darete la \u201ccolpa\u201d la prossima volta che vi troverete ad aver a che fare con un algoritmo che \u201cnon si comporta bene\u201d?<\/p>\n\n\n\n
Autore: Marco Montali<\/em><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Nell\u2019ultimo numero della \u201cCitt\u00e0 digitale\u201d ci eravamo lasciati con questo intento: digitare nei traduttori online la coppia di frasi \u201cDorme e mangia con suo pap\u00e0. Stira e mangia con suo pap\u00e0\u201d, per vedere come vengono tradotte in inglese. Il punto, come avrete immaginato, \u00e8 capire il genere del soggetto: si tratta di un \u201clui\u201d? O […]<\/p>\n","protected":false},"author":3,"featured_media":2749,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[18],"tags":[24],"class_list":["post-2748","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-rubriche","tag-rubriche-la-citta-digitale"],"_links":{"self":[{"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/posts\/2748","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/comments?post=2748"}],"version-history":[{"count":1,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/posts\/2748\/revisions"}],"predecessor-version":[{"id":2750,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/posts\/2748\/revisions\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/media\/2749"}],"wp:attachment":[{"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/media?parent=2748"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/categories?post=2748"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.quimedia.it\/redazione\/wp-json\/wp\/v2\/tags?post=2748"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}