Qualche tempo fa avevamo discusso qui su HTML.it le possibili conseguenze legate al cosiddetto problema dell\u2019AI Bias<\/a><\/strong>. Si tratta, in sostanza, di un comportamento errato di un algoritmo di machine learning<\/strong>, legato ad un dataset mal bilanciato, che spesso finisce per generare comportamenti errati ed imprevisti, che possono essere interpretati come discriminatori<\/strong>. <\/p>\n L\u2019errata definizione del dataset non \u00e8 per\u00f2 necessariamente l\u2019unico motivo che pu\u00f2 portare ad un\u2019interpretazione discriminatoria di un algoritmo. Ed un esempio potrebbe essere quello che ha recentemente notato un utente di Twitter, quando ha deciso di allegare ad un tweet<\/a> le due foto seguenti, con il preciso scopo di valutare se l\u2019algoritmo che le avrebbe ritagliate per la visualizzazione in anteprima fosse \u201csessista\u201d o meno:<\/p>\n Nonostante le due immagini fossero composte da due foto identiche, ma posizionate in posizioni diverse, l\u2019algoritmo che stabilisce l\u2019area di cropping ha selezionato sempre l\u2019uomo, come si vede dal seguente screenshot del tweet summenzionato:<\/p>\n Questo strano comportamento dell\u2019algoritmo di cropping, unitamente alla provocazione dell\u2019utente summenzionato, ha fatto partire una lunga discussione sull\u2019argomento. Alcuni utenti hanno semplicemente sdrammatizzato, altri invece hanno preso la questione in maniera molto seria. <\/p>\n Ma \u00e8 giusto considerare l\u2019algoritmo \u201csessista\u201d?<\/strong> Rispondere a tale domanda non \u00e8 semplice, e con ogni probabilit\u00e0 non lo \u00e8 nemmeno la soluzione di questo problema. Per capire quanto sia complesso l\u2019argomento, citiamo un secondo test, sempre dello stesso utente di Twitter, che ha modificato luminosit\u00e0 e contrasto dell\u2019immagine della donna, riprovando a twittare le due foto modificate<\/a>. Il risultato del cropping, stavolta, ha selezionato solo la donna:<\/p>\n Verrebbe da pensare, quindi, che l\u2019algoritmo tutto sommato non ha nulla di veramente discriminatorio. Eppure, la dipendenza da luminosit\u00e0, contratto e, pi\u00f9 in generale, dai colori dei volti, implicherebbe anche una dipendenza dal colore della pelle<\/strong>. Verrebbe quindi da chiedersi se lo stesso algoritmo possa rischiare di preferire foto di persone che hanno un certo colore delle pelle, a quelle di chi ha una carnagione diversa.<\/p>\n La domanda a questo punto si sposta dal sessismo al razzismo<\/strong>, ma il discorso \u00e8 pressoch\u00e9 identico. Questo algoritmo \u00e8 discriminatorio?<\/p>\n La vera risposta non possiamo saperla, ma \u00e8 verosimile che non ci sia nulla di intenzionale in queste scelte. Semmai, quello fin qui discusso \u00e8 un ottimo esempio che mostra come affidare una scelta, seppur apparentemente banale, ad una sorta di \u201cblack box\u201d come buona parte degli algoritmo di machine learning, rischia di produrre conseguenze inattese e potenzialmente gravi<\/strong>.<\/p>\n \u00c8 quindi importante prestare molta attenzione alle applicazioni dell\u2019intelligenza artificiale e del machine learning in tutti i contesti, valutando in modo molto oculato i possibili problemi che ne possono derivare, e magari anticipandoli con lo sviluppo di soluzioni che ne riducano l\u2019occorrenza.<\/p>\n Fonte<\/em>: Twitter<\/span><\/a><\/p>\n<\/div>\n![\"\"\/](\"https:\/\/tbm-html.s3.amazonaws.com\/app\/uploads\/2020\/10\/imgs.png\")
<\/a><\/div>\n![\"\"\/](\"https:\/\/tbm-html.s3.amazonaws.com\/app\/uploads\/2020\/10\/tweet.png\")
<\/a><\/div>\nL\u2019algoritmo di Twitter \u00e8 sessista?<\/h2>\n
![\"\"\/](\"https:\/\/tbm-html.s3.amazonaws.com\/app\/uploads\/2020\/10\/index2.jpg\")
<\/a><\/div>\nL\u2019algoritmo di Twitter \u00e8 razzista?<\/h2>\n