Il software di riconoscimento delle immagini integrato in Google Photos pare notare senza farsi problemi di politicamente corretto le ‘somiglianze’. Del resto si basa su algoritmi. E’ pura matematica.

Se includi l’immagine di un cane o un albero, ‘lui’ li mette automaticamente in un gruppo con tutte le altre immagini di cani o alberi. E’ un sistema di riconoscimento automatico che si basa puramente sul raffronto visivo.

Ed ecco quindi la notizia pubblicata dai media americani: le foto dei neri le etichetta come “Gorilla”. E le include automaticamente nella cartelle con foto di scimmie. Algoritmo ‘rassista’.

E’ successo ad esempio a Jacky Alcine, un nero che vive a Brooklyn, NY, che si è visto inserire le foto sue e di un amico nella cartella generata automaticamente in base alle somiglianza e denominata “Gorilla”.

“Siamo sconvolti e sinceramente dispiaciuti che questo si accaduto”, ha detto un rappresentante di Google a Yahoo Tech.

Avranno picchiato l’algoritmo?

Ma Vox è curioso. E ha voluto fare un esperimento. Visto il recente processo intentato da Kyenge a Calderoli per averla indicata come ‘somigliante a scimpanzé’, ci siamo chiesti cosa ne pensasse l’algoritmo puramente asettico e matematico di Google:

Pare che ora, l’algoritmo, dopo una sorta di ‘rieducazione’ , non sia più in grado di riconoscere le somiglianze. A meno così ha comunicato Google.

Gli algoritmi sono come i bambini, hanno il vizio di dire la verità.

Forse, la procura di ‘non ricordiamo dove’, guidata da ‘non ricordiamo chi’, potrebbe indagare l’algoritmo e sbatterlo in una galera fatta di bit. Chiamatelo ‘algoritmo Calderoli’.

E’ triste, il mondo nel quale un algoritmo ha più libertà di un umano nel poter descrivere il mondo che lo circonda. E’ il mondo distopico nel quale viviamo.