El algoritmo de Facebook confunde a los negros con los monos

El caso es más que vergonzoso para Facebook. Uno de sus algoritmos de recomendación preguntó a los usuarios si querían ver a otros. «Vídeos de primates» bajo un video de la prensa sensacionalista británica que muestra a personas negras, le New York Times Viernes.

el video de Correo diario, más de un año, tiene derecho «Un hombre blanco llama a la policía contra los negros en la marina». Muestra solo personas, no monos.

A continuación, la pregunta «¿Ves más videos de primates?» « con opciones «Sí / Rechazar» apareció en las pantallas de algunos usuarios, según una captura de pantalla publicada en Twitter por Darci Groves, ex diseñador del gigante de las redes sociales. «Es escandaloso», comentó, llamando a sus ex colegas de Facebook para escalar el tema.

«Este es claramente un error inaceptable», reaccionó un portavoz de Facebook, solicitado por Agence France-Presse. “Pedimos disculpas a todos los que vieron estas recomendaciones insultantes. « El grupo californiano ha desactivado la herramienta de recomendación sobre el tema «En cuanto nos dimos cuenta de lo que estaba pasando para investigar las causas del problema y evitar que vuelva a suceder», aclaró.

Los límites de la inteligencia artificial

«Como dijimos, aunque hemos mejorado nuestros sistemas de inteligencia artificial, sabemos que no son perfectos y que tenemos algunos avances por hacer»., ella continuó.

El caso destaca los límites de las tecnologías de inteligencia artificial, que la plataforma destaca regularmente en sus esfuerzos por crear un feed personalizado para cada uno de sus casi 3 mil millones de usuarios mensuales. La red social también lo usa mucho en la moderación de contenido, para identificar y bloquear mensajes e imágenes problemáticos antes de que se vean.

Facebook, al igual que sus competidores, es acusado regularmente de no luchar lo suficiente contra el racismo y otras formas de odio y discriminación. El tema despierta aún más tensión ya que muchas organizaciones de la sociedad civil acusan a las redes sociales y sus algoritmos de contribuir a la división de American Society, en el contexto de las manifestaciones del movimiento «Black Lives Matter» luchar por los derechos de los negros.