OPerdimos la cuenta de la cantidad de libros, documentales y artículos de prensa que nos informan correctamente sobre las amenazas algorítmicas a la sociedad, como los riesgos de sesgos tecnológicos y la manipulación de opinión en las redes sociales. Los escándalos de los últimos tres años explican este prisma distópico generalizado. El caso de Cambridge Analytica en 2018 marcó el comienzo de una era de desconfianza hacia la ciencia algorítmica, una disciplina relativamente nueva, con el uso ilegal de datos de millones de usuarios de Facebook. Y sin embargo, no debemos entrar en un mundo maniqueo, todo es bueno o todo es malo: la realidad es más sutil.
Muchos científicos e ingenieros se están organizando para advertir sobre las desviaciones de los algoritmos que son inofensivos cuando se usan bien o se aplican de manera diferente. Las herramientas de reconocimiento facial son particularmente aterradoras. Son en gran parte controvertidos, ya que existe un alto riesgo de sesgo algorítmico y estas herramientas no reconocen (o menos) a las personas de color o vigilancia masiva de los ciudadanos. Eso es exactamente lo que las científicas Joy Buolamwini, Cathy O’Neil y Meredith Broussard destacan en el documental. Sesgo codificado. Estas tecnologías de reconocimiento facial se basan en algoritmos de identificación de imágenes que se utilizan en otros lugares en el contexto de muchas otras aplicaciones inofensivas. La identificación en foto o video del grado de madurez de una fruta en una línea de producción es una de ellas.
LEER TAMBIÉNAurélie Jean – Gafam: somos su talón de Aquiles
El efecto burbuja
Los algoritmos de categorización consisten en clasificar a los individuos por clase según similitudes estadísticas sobre su comportamiento y / o sus datos personales. Es más probable que a alguien en una categoría le guste el contenido que le gusta a los estudiantes. Puede ser una serie en un sitio de videos a pedido, una prenda de vestir en un sitio de comercio electrónico o una publicación de Twitter. Mal usados, estos algoritmos pueden construir clases rígidas que atrapan a los usuarios en círculos opacos de observación y opinión del mundo. Nunca más volveremos a ver lo que ven, gustan o consumen personas extremadamente diferentes a nosotros. El activista estadounidense Eli Pariser habla sobre un efecto burbuja.
En el documental Dilema social, el ingeniero Tristan Harris comparte su propia experiencia en Google, creyendo que los algoritmos amenazan la democracia. Pero estos algoritmos, cuando se utilizan correctamente, también le permiten evaluar el porcentaje de éxito del tratamiento médico de un paciente o enviar artículos relevantes al sitio web de su revista.
Si bien es fundamental y de interés público continuar advirtiendo sobre los peligros algorítmicos, también es importante expresar lo que se puede hacer bien con estas herramientas. Es por ello que el próximo reglamento europeo sobre estas materias debe alejarse de una posición conservadora y maniquea en esta ciencia. Y convertirse en un referente mundial según una visión matizada y realista … no distópica.
“Propensa a ataques de apatía. Evangelista de la cerveza. Café incurable. Experto en Internet”.