Aurélie Jean – La ciencia de los algoritmos no es maniquea

OPerdimos la cuenta de la cantidad de libros, documentales y artículos de prensa que nos informan correctamente sobre las amenazas algorítmicas a la sociedad, como los riesgos de sesgos tecnológicos y la manipulación de opinión en las redes sociales. Los escándalos de los últimos tres años explican este prisma distópico generalizado. El caso de Cambridge Analytica en 2018 marcó el comienzo de una era de desconfianza hacia la ciencia algorítmica, una disciplina relativamente nueva, con el uso ilegal de datos de millones de usuarios de Facebook. Y sin embargo, no debemos entrar en un mundo maniqueo, todo es bueno o todo es malo: la realidad es más sutil.

Muchos científicos e ingenieros se están organizando para advertir sobre las desviaciones de los algoritmos que son inofensivos cuando se usan bien o se aplican de manera diferente. Las herramientas de reconocimiento facial son particularmente aterradoras. Son en gran parte controvertidos, ya que existe un alto riesgo de sesgo algorítmico y estas herramientas no reconocen (o menos) a las personas de color o vigilancia masiva de los ciudadanos. Eso es exactamente lo que las científicas Joy Buolamwini, Cathy O’Neil y Meredith Broussard destacan en el documental. Sesgo codificado. Estas tecnologías de reconocimiento facial se basan en algoritmos de identificación de imágenes que se utilizan en otros lugares en el contexto de muchas otras aplicaciones inofensivas. La identificación en foto o video del grado de madurez de una fruta en una línea de producción es una de ellas.