jueves, 14 de marzo de 2024

El CEO de una empresa de IA intentó fichar a un empleado de Meta. Pero no tenía suficientes GPUs para convencerle

El CEO de una empresa de IA intentó fichar a un empleado de Meta. Pero no tenía suficientes GPUs para convencerle

Las empresas dedicadas a trabajar con modelos de inteligencia artificial se enfrentan a un montón de retos, pero hay uno especialmente delicado: atraer talento y contratar nuevos empleados.

Me da igual que tu empresa sea prometedora. Eso ha quedado muy patente tras los comentarios de Aravind Srinivas, CEO de Perplexity AI. Su empresa desarrolla un popular chatbot que compite con ChatGPT, Copilot y Gemini, pero ni siquiera esas credenciales son suficientes.

Si no tienes 10.000 GPUs, nada. Srinivas contaba en el podcast 'Invest Like the Best' cómo se entrevistó con un investigador sénior de Meta al que estaba interesado en contratar para Perplexity. Al hacerlo, ese empleado le dijo "vuelve a contactar conmigo cuando tengas 10.000 GPUs HG100".

Potencia para investigar. Lo que demandaba ese candidato era básicamente recursos ingentes para poder investigar en el ámbito de la IA. Los modelos actuales son entrenados gracias al uso de miles de tarjetas gráficas especializadas, y las más populares son las H100 de NVIDIA.

Contar con miles de ellas hace posible avanzar más rápido a la hora de entrenar y afinar todo tipo de modelos de IA, y esos recursos parecen ser ahora un requisito importante para atraer talento en empresas de este sector. La demanda de estas tarjetas es absolutamente excepcional.

Problemas para las startups. Esas gráficas no son precisamente baratas, y como indicaba el CEO de Perplexity, esas gráficas "costarían miles de millones y tardaríamos entre cinco y diez años en conseguirlas de NVIDIA".

Sin esa capacidad, las startups que tratan de competir en este mercado lo tienen difícil y dependen de las grandes. Perplexity, por ejemplo, basa su servicio en GPT-4. "Hay que ofrecer unos incentivos increíbles y una disponibilidad inmediata de la computación. Y no estamos hablando de pequeños clústeres informáticos", explicaba.

La pescadilla que se muerde la cola. El problema además no hace más que acrecentarse, porque como explicaba Srinivas, "Para cuando hayas esperado, conseguido el dinero, reservado el cluster y comprarlo, los chicos que trabajan en esto ya habrán creado el modelo [LLM] de nueva generación". Y entonces el hipotético empleado ya no le pedirá 10.000 H100s. "Esta vez, contacta conmigo cuando tengas 20.000 H100s".

El talento escasea. El auge de la inteligencia artificial generativa ha hecho que los expertos en el tema sean muy demandados en el mercado. Empresas como Amazon, Netflix o Meta ofrecen salarios de hasta 900.000 dólares al año.

Para Srinivas esos profesionales deben saber adaptarse a los problemas que se generan al ofrecer un producto de IA —como por ejemplo, reducir los errores que cometen los chatbots—, y precisamente plantear modelos más precisos es el objetivo al que dirige sus esfuerzos el CEO de Perplexity.

En Xataka | La tecnología de transistores que hará posible la IA general está en el horno. Y cambiará drásticamente el hardware



via Robótica e IA - Xataka https://ift.tt/RyxnmGa

No hay comentarios:

Publicar un comentario