Cuando, a mediados de mayo de 2019, la ciudad de San Francisco tomó la decisión oficial de dejar de usar herramientas de reconocimiento facial, especialmente para su departamento de policía, el caso generó controversia. El 8 de junio de 2020, IBM está haciendo aún más ruido al anunciar simplemente que dejará de trabajar en estas tecnologías.
Líder de IBM pide debate nacional
El CEO Arvind Krishna se dirige a una carta (publicado en el sitio web de IBM) al Congreso de Estados Unidos explicando que su grupo estaba dispuesto a trabajar con los parlamentarios para definir cuáles deben ser los buenos usos de este tipo de herramientas, en qué áreas, cómo evitar las desigualdades. El líder llama a un debate nacional y especifica en particular que será necesario decidir si la policía y los servicios policiales pueden utilizarlo o no.
Mientras tanto, IBM ya no vende ningún software relacionado con el reconocimiento facial y la carta del CEO agrega que el gigante informático “Se opone firmemente a cualquier tecnología de reconocimiento facial, incluidas las de otros proveedores, y no respaldará ningún uso destinado a la vigilancia masiva, la discriminación racial, las violaciones de los derechos humanos y las libertades más básicas”.
Respaldo para la detección de objetos
El grupo pretende recurrir a la detección visual de objetos, en lugar de rostros, en un entorno industrial, por ejemplo.
El reconocimiento facial ha sido objeto de tensos debates durante algún tiempo, principalmente en Estados Unidos, tanto por su efectividad, su potencial discriminatorio como por la forma en que no siempre es transparente. Varios estudios y pruebas han revelado los sesgos que padecen las tecnologías de cada una. Me gusta un estudio del Instituto Nacional de Estándares y Tecnología (NIST), otro del instituto AI Now u otro de la ACLU (Unión Estadounidense de Libertades Civiles) que muestra que la tecnología Rekognition de Amazon, ampliamente utilizada por las fuerzas policiales en los Estados Unidos, podría confundir a los funcionarios electos del Congreso con los criminales…
En Francia, estos debates estuvieron vigentes hasta principios de año. Se realizó una prueba a tamaño real en la calle en Niza durante el Carnaval 2019 con autorización de la Comisión Nacional de Informática y Libertades (Cnil). Sin embargo, el informe no satisfizo a la Comisión. Que también tiene rechazó un experimento de reconocimiento facial de la esclusa de aire en dos escuelas secundarias de la región de Provenza-Alpes-Costa Azul en el mismo año.
Es en este contexto que la CNIL solicitó en noviembre de 2019 llevar a cabo, en Francia, un debate, incluso si el reconocimiento facial ya se rige por reglas biométricas. Unos meses más tarde, en febrero de 2020, el secretario de Estado de Digital Cédric O pidió un experimento limitado. En lo que se refiere a la indefinición (ante una posible reconfiguración), las cosas siguen en las declaraciones de intenciones.
“Propensa a ataques de apatía. Evangelista de la cerveza. Café incurable. Experto en Internet”.