martes, 7 de marzo de 2023

"No podía irme a dormir viendo que crecía tanto": hablamos con el creador de Abbreviame, el bot viral basado en ChatGPT

Para el donostiarra Jordi Martí, desarrollador de software en Lifull Connect, ganar mucho dinero no fue la principal motivación tras la creación de Abbrevia.me, un bot cuya popularidad ha estallado en España durante estos últimos días.

Este bot es bastante simple por dentro: una persona introduce su nombre de usuario de Twitter, la API de esta red proporciona sus últimos setenta tuits, y el motor de ChatGPT los analiza para generar una descripción de un párrafo hablando de dicho usuario: cómo es, qué tono uso, de qué temas habla, qué le interesa... Un clásico caso de resultado muy compartible con otros, lo cual ayuda a su difusión.

Y aunque llevaba publicado unas semanas, el primer fin de semana de marzo fue cuando se disparó. El sábado 4 registró más de 4.000 consultas. El domingo 5, casi 43.000. Y subiendo.

Cinco instrucciones en la API y un resultado compartible

"El prompt que paso al motor de ChatGPT es la salsa secreta de este bot", explica Jordi. "No es muy complejo, son cuatro o cinco instrucciones, pero están muy optimizadas, ha habido que afinarlo mucho. Al principio, por ejemplo, se obsesionaba con los emojis, así que puse una instrucción clara para que no mencionase nada de los emojis".

Jordimarti

Los setenta tuits que extrae tienen una razón de ser: el motor de ChatGPT tiene un límite de 10.000 caracteres a analizar. O 4.096 tokens. Inicialmente, este bot usaba la API de GPT, pero aparte de ser algo distinta, costaba mucho más. Cuando OpenAI lanzó la API de ChatGPT, que redujo los costes a diez veces menos, las posibilidades se ampliaron. Y Abbrevia.me, que estaba enfocado a mero hobby para amigos cercanos, se hizo público para que cualquiera lo utilizase.

Hasta entonces, a Jordi cada consulta de Abbrevia.me le costaba 6 centavos de dólar. A mediados de febrero facilitó a alguien el enlace al bot por Twitter, en público. Se fue a dormir. Cuando despertó, el bot llevaba mil consultas. Es decir, una factura de 60 euros. Sin esperarlo.

Con el cambio de precios de OpenAI que abarataba el uso de su bot, lo difundió más, y sobre todo, lo difundieron otros, como Carlos Santana (127.000 seguidores), divulgador de Inteligencia Artificial. A partir de ahí, la bola de nieve empezó a crecer y arrastró incluso a la revista Jot Down (290.000 seguidores).

A partir de ahí, las cuentas se volvieron un poco más complicadas.

0,006 centavos por 43.000 consultas...

Aunque los costes se hubiesen cercenado hasta los 0,006 dólares por consulta, era peligroso un crecimiento exponencial que pudiera acabar suponiendo una factura difícil de asumir para alguien que había hecho este bot por simple diversión, sin siquiera intención de monetizarlo. "En el peor de los casos, lo hubiese cerrado, dando las gracias, etc. Tuve que empezar a hacer que la gente entendiese que esto tiene un coste".

Entonces apareció la figura de David Bonilla, CEO y fundador de Manfred. Jordi le escribió para proponerle que fuese su empresa quien se hiciera cargo de los gastos a cambio de colocar en Abbrevia.me un agradecimiento y un enlace a su web. David aceptó de inmediato. "Es que no podía irme a dormir viendo que el bot estaba creciendo tanto. ¿Y si al despertarme me he gastado un dineral porque esto ha estallado aún más? No quiero ganar dinero con esto, pero tampoco perder demasiado".

Para el domingo, Jordi llevaba unos 250 euros gastados. Muy aproximadamente. Porque ese acumulado lo hizo a partir de su propia estimación, ya que el contador en tiempo real de OpenAI no funcionaba por un bug. Más tensión.

Sin embargo, no solo fue la aparición de Manfred lo que le tranquilizó, sino las donaciones que le hicieron algunos como muestra de apoyo al proyecto. "Quiero hacer un agradecimiento especial a las cincuenta personas que han donado entre uno y veinte euros, haciendo que recuperara prácticamente el coste de los primeros días Y por supuesto, también a Manfred". Jordi, por cierto, va teniendo al tanto a David del coste acumulado.

"El juego termina aquí"

Quizás uno, viendo el tirón que ha ganado el proyecto, piense en opciones para monetizarlo más, o replicarlo en otra red social u otro tipo de entorno para orientar la idea hacia un modelo de negocio. No es la idea de Jordi.

"El juego termina aquí. Realmente empezó porque a principios de año vi una herramienta que, en base a tus tuits, te decía cuáles podrían ser tus propósitos de año nuevo. Asumí que estaba hecha con GPT, quería ver hasta qué punto GPT facilita poder escanear a una persona y sintetizarla en tiempo real. Tengo mi trabajo y estoy contento con él, solo haría crecer esto si viese una oportunidad clarísima a la que no pudiera negarme".

"Esto es algo que nos trae un ámbito completamente nuevo, como en su día lo trajeron las tecnologías de desarrollo móvil. Hace quince años desarrollábamos para web, y de repente llegaron iOS y Android y tuvimos muchas nuevas posiiblidades de desarrollo. Con esta tecnología ha vuelto a ocurrir algo así, nos permite hacer lo que hasta ahora era inimaginable", comenta Jordi.

Sobre la privacidad en el uso de esta herramienta, su creador explica que hay poco que explicar. "No se usa ningún dato para nada que no sea lo que dice la web: obtener una descripción abreviada de un perfil de Twitter hecha por una IA". Ni siquiera usa la API de Twitter que pide acceso completo, contraseña mediante, al perfil de quien lo usa, simplemente lee perfiles públicos.

En el caso de Jordi, su experimento, salvo giro inesperado de los acontecimientos, se quedará aquí. Las APIs que han permitido crearlo, eso sí, seguirán al alcance de cualquiera.



via Robótica e IA - Xataka https://ift.tt/2fSsPmg

No hay comentarios:

Publicar un comentario