Solo qualche tempo fa vi avevamo raccontato il motivo per il quale Disney+ ha deciso di vietare ai minori di sette anni la visione di alcuni titoli storici della casa di produzione (‘Gli Aristogatti’, ‘Dumbo’ e ‘Peter Pan’). “Contenuti razzisti” è la motivazione che si legge anche nella nota sulla piattaforma. Ora anche YouTube entra nel mirino per il medesimo motivo e la decisione ugualmente fa discutere.
Un canale dedicato al mondo degli scacchi è stato, infatti, oscurato con l’accusa di promuovere forme di razzismo. La ragione per la quale è avvenuto il blocco riguarda l’utilizzo di certe parole che fanno parte della terminologia specifica del gioco. Frasi come “il bianco attacca il nero” hanno, dunque, scatenato la censura di Agadmator, seguito in tutto il mondo dagli scacchisti più appassionati.
Espressioni come quella citata, infatti, sono state intercettate dall’Intelligenza Artificiale di YouTube che le ha catalogate come discriminatorie senza valutarne il contesto. Cosa che, evidentemente, sfugge agli algoritmi come gli stessi ricercatori hanno evidenziato. La chiusura dell’account è durata solo ventiquattro ore ma ha acceso il dibattito, come riferisce anche l’Independent.
Gli studiosi Ashique R. KhudaBukhsh e Rupak Sarkar della Carnegie Mellon University hanno approfondito i meccanismi secondo i quali lavora l’AI. Termini come “bianco”, “nero”, “attacco”, “blocco”, “minaccia”, “cattura” e “contrattacco” sarebbero stati individuati dal sistema come potenzialmente pericolosi e causato l’oscuramento del canale.
A dimostrazione della loro teoria, KhudaBukhsh e Sarkar hanno utilizzato due software dedicati e vi hanno caricato centinaia di migliaia di commenti da diversi account YouTube sempre legati agli scacchi. Dei circa mille segnalati, esattamente l’82% dei contenuti non aveva alcun tipo di riferimento razzista ma si trattava solo di termini legati al gioco.
