lunes, 29 de julio de 2024

Elon Musk ha difundido un deepfake de Kamala Harris. El CEO de X ha violado las reglas de X

Elon Musk ha difundido un deepfake de Kamala Harris. El CEO de X ha violado las reglas de X

Elon Musk, propietario y CEO de X, difundió en su cuenta de X un deepfake de la vicepresidenta Kamala Harris. Es una violación potencial de las políticas de la propia X sobre este tipo de contenido sintético.

Por qué es importante. Este incidente reaviva las preocupaciones sobre los deepfakes generados por IA y su potencial para difundir desinformación. Especialmente a medida en que se acercan las elecciones presidenciales de EEUU de 2024.

En perspectiva. Los deepfakes usan IA para crear audios o vídeos convincentes, aunque falsos, de personas reales. Representan una amenaza creciente para la confianza pública en la información, la propagación de bulos y la integridad electoral.

  • En Xataka hablamos de esto en 2018 a cuento de un deepfake de Barack Obama, anticipando que en el futuro sería más fácil y rápido hacerlos, y que sus consecuencias para la desinformación serían importantes.

Los detalles:

  • El vídeo sintético recrea la voz de Kamala Harris, pero poniendo palabras falsas en su boca.
  • En él, Harris dice que Biden está senil, que son marionetas de las profundidades del Estado y que su elección ha sido "por diversidad".
  • "Soy mujer y de color, así que si criticas algo de lo que digo, eres sexista y racista", añade el vídeo falso.
  • Fue publicado originalmente como una parodia, pero Musk lo compartió sin ningún tipo de advertencia adjunta. Solo dijo un ambiguo "Esto es increíble".
  • Lleva más de 128 millones de reproducciones, y subiendo.
  • Las imágenes que usa son las del anuncio real de la campaña de Harris.

Entre líneas. La política de uso de X prohíbe compartir material manipulado que pueda engañar o confundir a las personas, y atribuye a quien lo difunde toda la responsabilidad.

La publicación de Musk encaja en esta prohibición, pero sigue sin ser eliminada ni etiquetada.

Más contexto.

  • Musk ha respaldado a Donald Trump para las elecciones de 2024.
  • X permite "memes y sátira" siempre y cuando no lleven a confusión.
  • La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico.

La cara B. Harris ha criticado en su campaña las "mentiras" y las "manipulaciones" de su rival Donald Trump, pero también de Elon Musk.

Ahora quedan las interrogantes sobre cómo se va a abordar el uso de IA para crear vídeos manipulados pero convincentes de forma masiva.

En resumen. A medida que las herramientas de IA son cada vez más rápidas, eficaces y accesibles, crece el potencial de las campañas de desinformación y de la interferencia electoral.

Antes o después habrá, presumiblemente, legislaciones mucho más severas contra la difusión de este tipo de material haciéndose pasar por real.

En Xataka | La IA ha avanzado tanto que el problema no son solo los deepfakes. Es que desconfiamos incluso de las fotos reales

Imagen destacada | Xataka con Midjourney



via Robótica e IA - Xataka https://ift.tt/1u5IOnX

No hay comentarios:

Publicar un comentario