El algoritmo de la aplicación Google Photos confundió de manera desafortunada a dos personas de raza negra y los etiquetó como 'gorilas'.
Jacky Alcine, una programadora originaria de Nueva York, reveló que mientras revisaba sus fotos en la aplicación de Google se dio cuenta que varias imágenes que ella se había tomado junto a un amigo en el año 2013 se almacenaron de manera errónea en una carpeta con la etiqueta 'Gorilas'.
Google Photos, y'all fucked up. My friend's not a gorilla. http://pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) June 29, 2015
Ella demostró su lógico descontento en redes sociales y fue de esta manera que el arquitecto en jefe de Google Plus, Yonatan Zunger, la contactó para tratar de arreglar el problema.
@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone's target market. This is 100% Not OK.
— Yonatan Zunger (@yonatanzunger) June 29, 2015
Zunger posteriormente le pidió permiso a Alcine para que los ingenieros de Google analizaran su cuenta con el fin de investigar lo sucedido. Él reveló que el algoritmo tuvo problemas para ajustarse con el contraste de la foto, la iluminación y la tonalidad de piel.
El arquitecto además, reconoció que a varias personas de tez blanca con ciertas tonalidades de piel se las ha etiquetado erróneamente como perros y/o focas.
Por otro lado, un representante de Google compartió con Yahoo Tech el sentimiento de la compañía hacia este hecho:
Estamos horrorizados y realmente sentimos lo que sucedió [...] Estamos tomando medidas inmediatas para evitar que este tipo de resultados aparezcan. Todavía hay claramente mucho trabajo que hacer con el etiquetado automático de las imágenes y estamos viendo la manera de prevenir que este tipo de errores se repitan en el futuro.
Esperemos que Google arregle pronto los algoritmos de Google Photos para evitar este tipo de malentendidos que podrían desembocar en comentarios y acciones de carácter racista.
No hay comentarios:
Publicar un comentario