miércoles, 22 de noviembre de 2023

El culebrón de Sam Altman en OpenAI sigue sin resolver el misterio más importante: por qué le despidieron

El culebrón de Sam Altman en OpenAI sigue sin resolver el misterio más importante: por qué le despidieron

El desenlace de la crisis de OpenAI (al menos de momento), con Altman volviendo a ser su CEO, ha sido el de un final feliz para sus empleados, los usuarios, el propio Altman, que regresa reforzadísimo, y quizás hasta para Microsoft, que ha visto cómo este ha sido capaz de terminar de alinearse con sus intereses. No es poco para la startup con mayor potencial del mundo.

Final feliz para todos menos, paradojas de la vida, para el consejo de administración que decidió largarle como muestra de autoridad y acabó haciendo un ridículo espantoso, diciéndole que ya sé que ayer te dejé pero que tenemos que volver a hablar de lo nuestro, que ya le he hecho arrumacos a Murati y a Shear pero que si quieres rollo podemos ser novios otra vez.

Mientras tanto, la mayor incógnita del caso sigue sin despejarse: qué ocurrió exactamente para que Altman fuese despedido.

Un paper, un apoyo a Anthropic  y una disputa previa

El comunicado de su despido explicaba que un proceso de revisión "concluyó que no fue consistentemente sincero en sus comunicaciones con la junta, lo que obstaculizó su capacidad para ejercer sus responsabilidades", añadiendo que la junta había dejado de confiar en su capacidad para liderar OpenAI.

Rápidamente empezaron a circular otras teorías. Una explicaba que Ilya Sutskever, jefe científico y cofundador de OpenAI, había liderado una campaña interna contra Altman debido a que consideraba que este estaba priorizando el crecimiento de la empresa, mientras que él priorizaba más la seguridad.

No era solo una cuestión de Sutskever: esas tensiones reflejaban un debate más amplio en la comunidad de la IA: ¿debe priorizarse el crecimiento rápido bajo la mirada optimista de que siempre vaya a tener un impacto positivo en la sociedad, o debe primar el desarrollo responsable y la prevención de amenazas?

Sutskever es uno de los grandes nombres de la Inteligencia Artificial que se han mostrado preocupados respecto a la AGI (Inteligencia Artificial General): la posibilidad de que esta supere las capacidades humanas y se convierta en una amenaza para el mundo. A medidados de octubre grabó una charla TED sobre este tema. Fue publicada esa misma semana, y da alas a la teoría de que su planteamiento chocaba con el del CEO.

El temor a que el enfoque de Altman derivase en amenazas como esta le hizo respaldar el despido... y arrepentirse unas pocas horas después, haciendo público su apoyo a Altman.

No sabemos quién más estuvo su favor en la junta en la idea del despido, pero parece factible que principalmente fuese Helen Toner, otra miembro de la junta con quien Altman había mantenido una disputa en las semanas anteriores y que había hecho movimientos extraños.


Por un lado, Toner era la coautora de un paper sobre IA, 'Decoding Intentions', publicado por la Universidad de Georgetown. Altman, según The New York Times, se quejó de que en ese paper había críticas a los esfuerzos de OpenAI por mantener sus tecnologías libres de amenazas, mientras que elogiaba la postura de Anthropic, una empresa rival de OpenAI fundada por algunos de sus exempleados que ya en 2021 trataron de expulsar a Altman del consejo de administración. Anthropic tiene un producto similar a ChatGPT, Claude.

Altman entendió que Toner y él estaban demasiado desalineados respecto a una publicación con impacto negativo para OpenAI, especialmente en un momento sensible: en plena investigación de la FTC sobre los datos utilizados para construir su tecnología.

Esto motivó discusiones sobre si Toner debía ser expulsada de la consejo de administración... que derivaron en el sorprendente (y efímero) cambio de postura de Sutskever, que se puso del lado de Toner y otros miembros de la junta favorables al despido de Altman, consumado el viernes pasado.

Unas horas después llegaron los arrepentimientos, aunque no el de Toner. No obstante, Toner, al igual que Sutskever, son historia, porque ya no están en el consejo. Tampoco lo está Tasha McCauley, cofundadora de la empresa de robótica Fellow Robots. Una forma de evitar sorpresas similares  a las de los últimos días.

Tampoco Sam Altman ni Greg Brockman regresarán de momento al consejo. Brockman era presidente de OpenAI hasta que se enteró del despido de Altman, cuando decidió renunciar. Antes de que su regreso al consejo sea una opción se hará una investigación interna. Su objetivo, aclarar lo que ocurrió durante los cinco días frenéticos que estuvieron a punto de inmolar la empresa que está liderando el desarrollo de Inteligencia Artificial generativa.

En Xataka | Cronología de la crisis de OpenAI: todo lo que ha pasado desde el despido de Sam Altman hasta hoy.

Imagen destacada | Reuters.



via Robótica e IA - Xataka https://ift.tt/nf7idVZ

No hay comentarios:

Publicar un comentario