Sam Altman, CEO de OpenAI, está adoptando la estrategia de "muévete rápido y rompe cosas" que popularizó Mark Zuckerberg en los inicios de Facebook. En realidad lleva años haciéndolo y hasta queda constatado por sus propios tuits del pasado, pero en estas últimas semanas se ha hecho especialmente evidente.
Qué ocurre. Por un lado, se ha disculpado por varias decisiones de estos últimos meses, como el uso no autorizado de una voz intencionalmente similar a la de Scarlett Johansson o las cláusulas abusivas en los contratos de sus empleados que dijo desconocer (las firmó él). Por otro lado, sigue acelerando con el desarrollo de GPT-5, su próximo LLM.
Es un enfoque que premia la velocidad sobre la cautela, pero que con la IA entraña riesgos potenciales.
Por qué es importante. La IA tiene un potencial transformador, pero también destructivo. No hace falta ser catastrofista, pero tampoco es saludable obviar riesgos. Como ocurría con las redes sociales hace quince años, pero a un nivel mucho más peligroso a largo plazo.
Repetir la estrategia que llevó a Facebook a conectar el mundo a costa de polarizarlo y desinformarlo puede tener consecuencias nefastas si se aplica al desarrollo de la IA. Como dijo Axios: la industria sigue premiando a quien pide perdón en lugar de permiso.
La filosofía de Altman. En 2021 tuiteó "Muévete más rápido. La lentitud en cualquier parte justifica la lentitud en todas partes". Otro aforismo firmado por él fue "El ímpetu lo es todo en una startup. Las que ganan siguen ganando, las que pierden siguen perdiendo".
- Lo de ponerse al frente del comité de seguridad de OpenAI es el equivalente en IA a poner al zorro a cuidar del gallinero, dicho desde el cariño.
- Ambos CEOs comparten tanto optimismo por el potencial positivo de sus empresas como ingenuidad deliberada sobre sus externalidades.
Maniobrando al estilo Zuckerberg. Mark lleva disculpándose por los errores e imprecisiones de Facebook / Meta desde sus inicios. pero nunca ha frenado sus planes. Lo hizo con el feed de noticias, las configuraciones de privacidad, las fake news, el escándalo de Cambridge Analytica, los abusos a menores...
Facebook e Instagram siempre continuaron creciendo en usuarios, engagement y beneficios. Altman esta repitiendo el patrón: se disculpa por las polémicas mientras presenta nuevas demos, anuncia el desarrollo de GPT-5 y liquida el equipo que controla la seguridad de ese desarrollo.
Los riesgos de las prisas. Desde las alucinaciones a las que ya nos hemos acostumbrado hasta algunas primeras versiones grotescas. El inicio de la IA de Bing basada en GPT también fue un sainete.
La carrera de la IA generativa, en especial entre Microsoft, OpenAI y Google, nos está dejando productos que buscan impactar y cuyos riesgos e imprecisiones ya iremos descubriendo sobre la marcha. Todo en aras de adelantarse.
Lecciones no aprendidas. Zuckerberg dio por muerto su viejo mantra tras el escándalo de Cambridge Analytica, pero ese mantra, aunque ahora las tecnológicas sean tan grandes que se han hecho mastodónticas y mas cautelosas, sigue vivo en la industria.
El gran problema: la disrupción de la IA puede tener un alcance mucho mayor y más dañino que lo visto con las redes sociales en estos tres últimos lustros. Este enfoque puede dar a OpenAI una ventaja competitiva, pero entraña el riesgo de repetir o agraviar los grandes errores de la era dorada de las redes sociales.
En Xataka | OpenAI tiene claro cómo lograr que ChatGPT Plus triunfe: usando ChatGPT como anzuelo
Imagen destacada | Xataka con Midjourney
via Robótica e IA - Xataka https://ift.tt/fBTaq8s
No hay comentarios:
Publicar un comentario