Los spammers llevan años creando sitios web falsos que disfrazan de productos y servicios de nicho y que suelen estar dirigidos a generar ingresos por publicidad o para impulsar que otros sitios web ganen reputación y posicionamiento en Google. El problema estaba detectado, pero ahora acaba de agravarse, y la culpa la tiene ChatGPT.
Que escriba la máquina. Como explicaba el investigador Henk van Ess, el uso de esta herramienta para propósitos como este "era inevitable". Van Ess ha probado una de las primeras herramientas que lo permite, que cuesta nueve dólares y que genera pequeños textos a partir de un título y de algunas palabras clave. Basta elegir un nicho de mercado y esa herramienta creará contenido que se ajuste a lo que queremos en apenas unos segundos.
ChatGPT como copywriter. En realidad es posible usar directamente ChatGPT o el nuevo Bing con ChatGPT integrado de la misma forma. El investigador pidió al motor de OpenAI "escribir la parte principal de un sitio web y sugerencia de fotos sobre qué visitar en Arizona cuando tienes un presupuesto ajustado, no tienes ingresos y no puedes conducir". Con eso basta para que se genere un contenido que luego podemos integrar en una web en apenas unos segundos y luego pasar a insertar anuncios o enlaces al sitio que realmente queremos promocionar.
Indetectable. Este investigador quiso comprobar si las herramientas de detección de textos generados por IA eran capaces de detectar este tipo de sitios web, y al probar con la herramienta Writer. Al copiar y pegar el texto generado por ChatGPT, Writer indicó que ese texto estaba generado por humanos con un 100% de probabilidad. Ups. Tampoco pudo detectarlo la recién lanzada herramienta de OpenAI, lo que deja claro que desvelar este tipo de trucos se vuelve ahora mucho más complejo incluso para los algoritmos que teóricamente deberían facilitar la tarea.
Esto irá a más. La adopción de este tipo de herramientas parece ciertamente inevitable, y a la aparición de ChatGPT Plus se le suman por ejemplo los plugins que ya existen para WordPress y que generan texto con ChatGPT. "Si el tema es amplio y de dominio público", explicaba van Hess, "a menudo uno no puede decir si ese texto fue escrito por una máquina".
It was inevitable. Spammers use #ChatGPT to create fake websites using natural language processing. It allows malicious actors to quickly generate bogus sites that generate revenue from ads or other malicious content. Next few tweets: how is it done? (1/4) pic.twitter.com/Q1Ybd1ODdt
— 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) February 12, 2023
Trampas por doquier. El problema ya se detectó en el ámbito académico. El uso de ChatGPT para escribir por ejemplo trabajos provocó que algunas instituciones prohibieran su uso.
El debate sobre "el fin de los deberes" hizo que comenzaran a aparecer herramientas que tratan de detectar textos generados por IA, pero la precisión de esas opciones es muy limitada. Lo que ha sucedido entre los estudiantes va camino de convertirse, como demuestran estos sitios web generados por IA, en una tendencia muy real en el futuro.
Un desafío para Google (y otros). El gigante de las búsquedas tiene aquí un gran problema a la vista: la lucha contra sitios web de spam ya era difícil, pero con la popularización de ChatGPT la detección de estos contenidos se vuelve más y más complicada. La propia empresa indicaba hace unos días cómo no prohibirá estos contenidos a no ser que violen sus políticas de spam. Rastrear una web plagada de este tipo de contenidos y lidiar con su relevancia será probablemente uno de los grandes retos del motor de Google y de otros motores de búsqueda.
via Robótica e IA - Xataka https://ift.tt/Mn62GRA
No hay comentarios:
Publicar un comentario