Los rostros creados por IA ya no son detectables a simple vista (y eso son malas noticias)

Puedes conocer el sitio “whatfaceisreal.com”. Creado en 2019, presenta dos caras y depende de ti detectar cuál es generada por un algoritmo. Lo cual, sinceramente, no es demasiado difícil. Después de algunos intentos, aprende a concentrarse en áreas que a menudo carecen de acabado, como la boca, las orejas, los ojos o las nalgas. Y cada vez, encontramos al intruso.

Pero desde entonces, los algoritmos han hecho un gran progreso. Según un estudio realizado por investigadores de la Universidad de Texas, la síntesis facial por inteligencia artificial está en camino de volverse lo suficientemente perfecto como para no ser detectable a simple vista. Presentaron 128 rostros a 315 participantes. En promedio, la tasa de detección fue solo del 48 %, lo que es peor que una elección aleatoria. Luego presentaron 128 imágenes a 219 participantes que fueron entrenados para identificar caras falsas. La tasa de detección aumenta al 59%, que tampoco es enorme. “Los motores de síntesis han pasado por el valle del extraño y son capaces de crear imágenes que son indistinguibles de los rostros reales”.dicen los investigadores.

Las caras medianas inspiran más confianza

Esto no es muy sorprendente, me dirás. Era de esperar que la inteligencia artificial tarde o temprano corrigiera sus errores de renderizado. Sin embargo, lo más sorprendente es el resultado del tercer experimento de los investigadores, durante el cual 223 participantes vieron 128 caras y tuvieron que juzgar si la persona representada era confiable, en una escala del 1 al 7, con una puntuación de confiabilidad promedio de 4,82. .. en comparación con 4,48 para caras reales. Este desequilibrio no puede explicarse por la expresión facial, ya que, en promedio, los rostros reales sonreían más que los falsos. Entonces porque ? “Esto podría deberse a que las caras sintetizadas tienden a parecerse más a las caras promedio que se consideran más confiables”sugieren los investigadores.

Para los usuarios de Internet, esto es obviamente una mala noticia. Estos rostros artificiales perfectos se pueden utilizar para crear perfiles falsos en la Red y servir como vectores de fraude o desinformación. Por lo tanto, los investigadores recomiendan restringir el acceso a estas tecnologías sintéticas tanto como sea posible e incluir marcas de agua en las imágenes generadas. Sin embargo, es poco probable que estos diques de protección se mantengan a largo plazo. Habrá que acostumbrarse, por tanto, a convivir con falsos humanos en las redes…

Fuente: Informe científico