Grok ahora genera imágenes y no parece tener ningún tipo de censura. Ya hay gente creando imágenes bestiales con él

Grok, el chatbot de X, ha introducido un generador de imágenes. Cualquier suscriptor de X Premium puede usarlo y ya estamos comprobando que no parece tener la censura habitual que tienen Midjourney, DALL·E y compañía.

Por qué es importante. Un generador de imágenes sin restricciones éticas ni legales, disponible para cualquiera que pague una suscripción de unos pocos dólares al mes, es un arma delicada, tanto para la integridad de las personas como para el riesgo de la desinformación y el contenido ofensivo en X.

El contexto. xAI, la empresa de IA de Elon Musk, ha lanzado una actualización de Grok que permite generar imágenes a partir de texto y publicarlas directamente en X.

Imagen: Xataka con Grok.

Los usuarios están poniendo a prueba los límites de Grok con peticiones cada vez más polémicas:

• Políticos en situaciones comprometidas. Trump vestido de nazi, Obama consumiendo drogas...
• Celebridades sexualizadas. Como Taylor Swift en lencería.
• Escenas violentas. Como manifestantes antifascistas agrediendo a policías. O como Bill Gates empuñando un arma, como en la imagen superior.
• Iconos en situaciones absurdas. Como Mickey Mouse con la gorra MAGA ('Make America Great Again', el eslogan electoral de Trump) mientras fuma.

En Xataka

ChatGPT y sus rivales son unos sosainas. Y convertirlos en chatbots graciosos no va a ser nada fácil

Entre líneas. Si se le pregunta, Grok dice que tiene reglas éticas. En la práctica parece estar aceptando prácticamente cualquier petición, por polémica que sea.

Sus rivales niegan las peticiones al detectar que generen imágenes de personas reales en situaciones comprometidas, violencia explícita o montajes que puedan llevar a la desinformación.

Lo próximo. Esta ausencia de límites puede traer problemas legales y regulatorios a X.

• La Comisión Europea ya está investigando a X por una posible violación de la Ley de Servicios Digitales.
• En Estados Unidos hay propuestas en marcha para regular la generación de deepfakes sexuales y la desinformación usando IA.

En resumen. Grok, siguiendo la estela habitual de Musk, parece apostar por una libertad total en la generación de imágenes. Las consecuencias que eso pueda tener de cara a la desinformación o el impacto en la integridad de los afectados por los montajes puede ser otra cuestión.

En Xataka | Elon Musk enciende el "clúster de IA más potente del mundo". Uno con 100.000 GPUs NVIDIA H100

Imagen destacada | Xataka con Grok

via Robótica e IA - Xataka https://ift.tt/R1XCzuG