Stephen Fry es uno de las leyendas de la comedia, pero seguramente no le haga ni pizca de gracia lo que ha descubierto estos días. Es algo que de hecho deja clara la amenaza de la IA como herramienta, porque alguien, sencillamente, le ha robado la voz.
Yo no soy el de ese documental. Así lo cuentan en Deadline, indicando cómo el veterano actor, escritor y comediante británico —66 años— ha descubierto que alguien le ha robado la voz. Lo contó en el CogX Festival de Londres, cuando la voz de Fry sonaba como la narradora en un clip de un documental. Pero él no había hecho tal cosa.
Todo gracias a (o por culpa de) Harry Potter. "No he dicho ni una de esas palabras", explicaba el actor. "Fue una máquina. Y sí, me dejó asombrado. Han usado mi lectura de los siete volúmenes de Harry Potter, y a partir de ese conjunto de datos se ha creado una IA de mi voz y ha hecho esa nueva narración".
(Peligrosos) Deepfakes a medida. El propio actor quiso aclarar a la audiencia este tipo de tecnología. "Lo que habéis oído no es el resultado de una mezcla, esto viene de una voz artificial flexible en la que las palabras se modulan para encajar en el significado de cada frase". Como él reconocía, su voz podría usarse para cualquier cosa, "desde una llamada para asaltar el parlamento hasta la pornografía explícita, todo sin mi conocimiento y sin mi permiso".
Desconocimiento. Otra de las sorpresas para Fry fue que este tipo de tecnología y lo que es capaz de hacer fuera bastante desconocida en la industria. Sus propios agentes desconocían su capacidad. En cuanto se enterí, dijo, "se lo envié a mis agentes a ambos lados del Atlántico y se pusieron como locos: no tenían ni idea de que algo así fuera posible".
Y la cosa irá a más. El problema no es solo del audio, sino de como bien señalaba Stephen Fry, después llegará también el vídeo y una oleada de deepfakes preocupantes. "No tardaremos mucho hasta que los vídeos deepfake sean igual de convincentes". Para él el estado actual de la tecnología es comparable a la del primer automóvil: "impresionante, pero no el producto final". Lo que tenemos no es lo que será, añadía.
El peligro de los usos fraudulentos. Lo que ha ocurrido con la voz de Stephen Fry es igualmente factible para otras muchas personas cuyas voces pueden ser recolectadas, descargadas y usadas para entrenar alucinantes sistemas de inteligencia artificial. Pronto llegará un momento en el que probablemente no debamos creernos nada de lo que oigamos... por si acaso. Y después tampoco podremos creernos nada de lo que veamos.
Imagen | Marco Raaphorst
via Robótica e IA - Xataka https://ift.tt/wnISWhY
No hay comentarios:
Publicar un comentario