
Desde hace unos meses se ha convertido en costumbre que ante cualquier publicación en la red social X/Twitter alguien conteste mencionando a Grok para pedirle explicaciones o la veracidad del tuit. Ahora, la última moda es un giro de lo más turbio: que cuando una mujer sube una foto a dicha red social, esa invocación a Grok de un tercero busque desnudarla. El fenómeno es tal que ya hay al menos dos países que han manifestado su malestar con el proceder de la red social y la IA de Elon Musk.
La enésima polémica de Grok. Si bien es cierto que la última versión del modelo ha evidenciado ser especialmente fuerte, de acuerdo con pruebas independientes como LM Arena, LLM Stats, Artificial Analysis, Vellum o el complejísimo benchmark ARC-AGI 2. Pese a su talento, por lo que más destaca la IA de Elon Musk es por su capacidad para dar qué hablar. Empezó siendo sarcástico y con notable margen de mejora, luego subió considerablemente de nivel pero su falta total de censura llama la atención y recientemente, hemos visto cómo X/Twitter promocionaba ese avatar virtual en forma de chica anime que flirtea con los usuarios. La última de Grok es crear imágenes sexualizadas de personas, incluidos menores.
La creación y publicación de imágenes de personas mayores y menores de edad con poca ropa atenta directamente contra la política de uso aceptable de xAI en al menos un par de puntos (el 1.3 hace referencia a "Representar imágenes de personas de forma pornográfica" y el 1.4 a "La sexualización o explotación de los niños"). Algunas de esas imágenes fueron retiraran posteriormente.
El gobierno francés denuncia. Hace unas horas el gobierno francés ha acusado a Grok de generar contenido sexual "claramente ilegal" sin contar con el consentimiento de las personas afectadas y ha procedido con una denuncia de este contenido sexual a la fiscalía de su país para una retirada inmediata.
Y ha ido más allá: ese proceder podría vulnerar la Ley de Servicios Digitales de la Unión Europea, que recordemos exige a las grandes plataformas mitigar el riesgo de difusión de contenido ilegal. Francia es el primer país de la UE en denunciar, pero podría no ser el último. De momento, la Comisión Europea todavía no se ha pronunciado.
Esta denuncia del gobierno galo refuerza la investigación ya abierta por la unidad francesa de ciberdelincuencia contra X, que se amplió en noviembre para incluir declaraciones antisemitas y de negación del Holocausto difundidas por Grok. La fiscalía por su parte ha asegurado que "Estos hechos se han sumado a la investigación en curso sobre X", apuntando que este delito se castiga con dos años de prisión y una multa de 60.000 euros.
La India pide cambios en 72 horas. La parlamentaria india Priyanka Chaturvedi presentó una queja al Ministerio de Tecnologías de la Información de India y este ha emitido una orden en la que solicita a X a adoptar medidas correctivas técnicas y procedimentales sobre Grok, entre ellas restringir la generación de contenidos que impliquen "desnudez, sexualización, material sexualmente explícito o cualquier otro contenido ilícito".
Además, concede un plazo de 72 horas para que la red social de Elon Musk presente una informe con las actualizaciones realizadas para impedir el alojamiento o la difusión de contenidos considerados como "obscenos, pornográficos, vulgares, indecentes, sexualmente explícitos, pedófilos o de cualquier otro tipo prohibido por la ley". En caso de incumplimiento, la orden explica que "podrá dar lugar a estrictas consecuencias legales contra su plataforma, sus funcionarios responsables y los usuarios de la plataforma que violen la ley, sin previo aviso", como recogeTechCrunch.
Grok responde. Tras varias quejas de usuarios y usuarias de la red social pidiendo explicaciones, el chatbot Grok publicó ayer un mensaje en X en el que aseguraba haber identificado "fallos en las medidas de seguridad" que estaban siendo corregidos "con urgencia". La explicación estaba alineada con lo que anteriormente había publicado un empleado de xAI en un tuit en el que esgrimía que "el equipo está estudiando reforzar aún más los mecanismos de protección."
Si regular el contenido de una red social ya era una ardua tarea per se, que además estas dispongan de herramientas de IA capaces de generar imágenes realistas de personas desnudas y sexualizadas supone un auténtico desafío para sus sistemas de seguridad, que pueden ser manipuladas. Y eso sin hablar de Grok, un modelo que ya sabemos que es más permisivo y que incluso lo fomenta con su 'Modo picante'. La Internet Watch Foundation, una organización sin ánimo de lucro que identifica material de abuso sexual infantil en internet, ya detectó un repunte brutal del 400% en la primera parte del año 2025, como se hace eco The Guardian.
Qué hacer si alguien manipula una foto sin tu consentimiento
Mientras que la red social y el modelo de Elon Musk toman medidas y más usuarios y usuarias se quejan por encontrarse este contenido en X/Twitter, la realidad es que a día de hoy cualquiera es susceptible de que alguien manipule una foto tuya con fines sexuales o denigrantes. Da igual que sea con un modelo de IA como Grok o con aplicaciones más clásicas como Photoshop.
Recopila pruebas. Lo primero es recopilar pruebas en forma de pantallazos, URLs y fotografías donde se pueda ver claramente los archivos, modificaciones y qué usuario lo difunde. Es mejor no interactuar directamente, de ese modo evitas alimentar el algoritmo para que fomente la visibilidad, sino denunciar directamente dentro de la propia red social.
Denuncia a las autoridades. A partir de aquí, si consideras que la foto es constitutiva de delito (porque es de un menor, porque atenta a tu honor o la consideras una vejación), acude a la unidad de ciberdelincuencia de la Policía Nacional o al Grupo de Delitos telemáticos de la Guardia Civil.
Retirada de la fotografía de internet. Para empezar, hay un canal prioritario de la Agencia Española de Protección de Datos, especialmente habilitado para tal fin. Asimismo, la ONG StopNCII (Stop Non Consensual Intimate Image Abuse) te permite subir la foto original y la modificada (siempre y cuando seas mayor de edad y la foto sea tuya) para borrarla de internet mediante hashing. Esta herramienta es segura y gratis creada por Safety and Security Online, una iniciativa en la que participan big tech como Meta o TikTok.
Si la persona afectada es menor de edad. además el INCIBE tiene su canal Internet Segura for Kids para ofrecer asesoramiento gratis, algo que también hace la Fundación ANAR (Ayuda a Niños y Adolescentes en Riesgo) junto con el Ministerio de Juventud e Infancia, proporcionando ayuda legal y psicológica
En Xataka | Guía Grok: 32 funciones y cosas que puedes hacer gratis con la inteligencia artificial de X
via Robótica e IA - Xataka https://ift.tt/PGZ8Knb













