La tecnología Captcha lleva más de una década acompañándonos cuando interactuamos en la web. Este método permite esquivar a los bots y, de paso, entrenar a sistemas de reconocimiento de texto o imágenes. Ahora ha aparecido una nueva y singular versión.
¿Qué es un Yoko? En Vice cuentan cómo recientemente la gente que quería usar Discord se encontró con un desafío. Un nuevo Captcha les pedía que identificaran imágenes que contuvieran un "Yoko". Al mostrar la imagen de referencia aparecía un objeto que era una especie de mezcla entre un yo-yo y un caracol. Si no te suena ese objeto, es normal. No existe.
Creado por IA. Resulta que el sistema hCaptcha —que ya conocíamos— utilizado en estos "acertijos de autenticación" había usado un objeto creado por un modelo de inteligencia artificial generativa. Lo singular no es solo eso: el resto de imágenes que aparecían en la matriz de este hCaptcha también habían sido generadas por IA, así que en esencia nos enfrentaba a un conjunto de imágenes de objetos que en realidad no existían.
Discord se explica. En declaraciones a ese medio, los responsables de Discord explicaban que "la tecnología que genera estos mensajes es propiedad de nuestro socio externo y Discord no determina directamente lo que se presenta a los usuarios". El sistema hCaptcha genera cientos de millones de usuarios, y reconocían que la aparición del objeto llamado "Yoko" había formado parte de una "breve prueba que vio un pequeño número de usuarios", pero lo extraño de ese objeto hizo que algunos compartieran esa experiencia en redes como Twitter.
Cómo funciona hCaptcha. El sistema hCaptcha nació en 2017, pero ha evolucionado en estos años y según sus creadores ahora está totalmente enfocado en ofrecer una plataforma de seguridad. Sus peticiones, indican, se generan para clientes que buscan respuestas de alta calidad de usuarios humanos "para sus necesidades de aprendizaje automático".
Un Captcha que entrena IA. Todo ello significa que los captchas que se muestran ayudan a entrenar sistemas de aprendizaje automático y redes generativas antagónicas. Se prevé que la aparición de este tipo de matrices de imágenes generadas por IA —algunas de ellas, de objetos no existentes— se produzcan con cada vez mayor frecuencia.
Críticas. Sin embargo, las críticas sobre este tipo de imágenes son numerosas entre usuarios que simplemente no han logrado "acertar" con el sistema porque la propia IA debe esperar una respuesta que los seres humanos no proporcionamos. Un usuario de Reddit se quehaba de cómo en un Captcha que pedía que identificásemos a un robot, no quedaba claro cuál de esas imágenes lo representaba (como se puede ver en la imagen.
Imagen | Xataka con Midjourney
En Xataka | El test de Turing ya no sirve: siete pruebas alternativas para comprobar que una IA no es un humano
via Robótica e IA - Xataka https://ift.tt/Ebg9Ni0
No hay comentarios:
Publicar un comentario