epelpad

Google Fotos, en el ojo del huracán

Google Fotos, en el ojo del huracán tras etiquetar a dos personas de raza negra como “gorilas”



El programa de reconocimiento de imágenes integrado en Google Photos es impresionante. Ante una foto donde aparece la Torre Eiffel sabe indicar que fue tomada en París. Haz una foto de un perro o de un árbol y la guardará automáticamente en una carpeta junto a otras fotos de perros o árboles que hayas tomado.
Sin embargo, el programa está lejos de ser infalible. Y cuando falla lo hace de manera estrepitosa. Recientemente procesó una foto de dos amigos negros y los etiquetó como “gorilas”.
Google Fotos, en el ojo del huracán
(Foto: Jacky Alcine, @jackyalcine)
Ayer por la noche, Jacky Alcine, un programador de 21 años que vive en Brooklyn, Nueva York, estaba revisando su cuenta de Google Photos cuando observó que la aplicación había creado automáticamente una carpeta llamada “Gorilas”. Contenía fotos de una amiga suya y él tomadas en 2013.
Una vez notificado el error, Google solucionó el problema en cuestión de horas e inmediatamente emitió un comunicado pidiendo disculpas.

“Estamos consternados y sentimos lo sucedido”, comunicó un representante de Google aYahoo Tech.
“Estamos tomando medidas de forma inmediata para que no vuelvan a ocurrir este tipo de fallos. Es evidente que aún queda mucho trabajo por hacer en la función de etiquetado automático de imágenes. Estamos buscando la manera de evitar que este tipo de errores se repitan en el futuro”, añadió el portavoz.
Mientras revisaba su colección de fotos, Alcine se dio cuenta del error al encontrarse con una carpeta llamada “Gorilas” que tenía imágenes de su amiga y él, los dos son personas de color. Notificó el problema a Google mediante Twitter.
A los pocos minutos, el ingeniero encargado de la cuenta de Google en la red social, Yonatan Zunger, le mandó un tuit a Alcine pidiéndole permiso en nombre de Google para acceder a su cuenta y ver dónde estaba el error. Unas horas más tarde, Google le comunicó que el problema había sido solucionado. 
Alcine señaló que el error ya estaba prácticamente arreglado el lunes por la noche, aunque observó que “todavía había problemas con algunas fotos, cuando los rostros se veían oscurecidos por la sombra de sus manos. Esas fotos conservaban la etiqueta “gorila”. También estaban clasificadas bajo la etiqueta “Chimp” (aunque no chimpancé)”.
Para Alcine la causa de esta metedura de pata fue un defecto en un algoritmo implementado por Google. Pero aclaró que “podría haberse evitado con una descripción más precisa y completa de las personas de color, prestando particular atención a las personas con un tono de piel más oscuro como el de mi amiga y el mío”.
Por otro lado, un representante de Google afirmó: “Estamos probando nuestros sistemas de reconocimiento de imágenes en personas de todas las etnias y colores de piel”.
No es la primera vez que un programa de reconocimiento facial desarrollado por una empresa tecnológica presenta problemas a la hora de identificar personas de color.
En 2009, el software de reconocimiento facial de HP no pudo detectar el rostro de una persona de color mientras que identificó y localizó el rostro de una persona blanca sin inconveniente alguno.
Es evidente que tanto Google como HP no tenían malas intenciones, pero ambos casos demuestran que en la tecnología de reconocimiento facial y de imágenes aún hay mucho trabajo por hacer.
Actualización: Flickr tenía un problema similar con su algoritmo de etiquetado automático. En mayo, muchos usuarios se quejaron del etiquetado automático de personas de color y blancas bajo las etiquetas “animal” y mono”.

2 comentarios - Google Fotos, en el ojo del huracán