En mayo supimos que OpenAI estaba remodelando su comité de seguridad para poner al frente a Sam Altman. Dicho de otro modo, Altman sería el máximo responsable de vigilar la seguridad de los desarrollos de Altman. No parecía una gran idea y no tranquilizaría a los críticos.
Cuatro meses después, el CEO está deshaciendo los pasos y ha abandonado el comité de seguridad junto a Bret Taylor, quien la presidía hasta ahora, según ha publicado Axios.
Por qué es importante. Esta reestructuración busca una mayor independencia y credibilidad al comité encargado de supervisar aspectos críticos para la seguridad en el desarrollo de productos de OpenAI.
Los hechos:
- El comité ahora estará formado únicamente por miembros independientes de la junta directiva.
- El nuevo presidente es Zico Kolter, profesor de la Universidad Carnegie Mellon.
- Entre el resto de miembros están el CEO de Quora, Adam D'Angelo; el general retirado Paul Nakasone y la exconsejera general de Sony, Nicole Seligman.
El contexto. OpenAI creó este comité en mayo, tras la salida de varios empleados que manifestaron inquietudes o directamente acusaciones en torno a la seguridad de los desarrollos. Llegaron a decir que OpenAI estaba anteponiendo el lanzamiento de productos brillantes a la seguridad.
La presencia de Altman en este comité echó por tierra la intención de transmitir que la seguridad era prioritaria. No tenía sentido que peso y contrapeso fueran ejercidos por la misma persona.
Entre líneas. La salida de Altman puede interpretarse como un intento por apaciguar críticas y mostrar externamente un mayor compromiso por la seguridad. OpenAI ha cambiado mucho en dos años, y parte de ese cambio lo marca un escrutinio mucho mayor.
Los incentivos comerciales han crecido al son del éxito de ChatGPT y han sido avivados por las enormes cantidades de dinero que necesita la empresa para seguir entrenando sus modelos, muy por encima del ritmo de ingresos.
En perspectiva. Esta reestructuración llega en medio de las filtraciones sobre la empresa negociando una ronda de financiación que dispararía su valoración y el capital disponible.
La misión original de OpenAI, desarrollar IA en beneficio de la humanidad, se ha ido cuestionando cada vez más a medida que los objetivos comerciales iban subiendo de nivel. Ahora queda ver si esta renovación del comité es un cambio cosmético o un convencimiento estratégico.
Imagen destacada | Xataka con Midjourney
En Xataka | Los pilares del éxito profesional según Sam Altman: los principios que han guiado su carrera hacia el éxito
via Robótica e IA - Xataka https://ift.tt/QDz8YU3
No hay comentarios:
Publicar un comentario