Sam Altman liderará el comité de seguridad de OpenAI que vigila los desarrollos de Sam Altman. No parece una gran idea

Tras disolver su equipo de "súperalineación", centrado en afrontar los riesgos existenciales de la IA hace unas semanas, OpenAI ha creado un nuevo comité de seguridad y protección.

El resumen es que el equipo encargado de vigilar los desarrollos de Sam Altman es uno liderado por Sam Altman.

Por qué es importante. La seguridad de los sistemas de IA es crucial y el escrutinio al que van a estar sometidas las grandes empresas que los desarrollan va a ir a más. En OpenAI esa seguridad parece estar pasando a un segundo plano frente a la presión por lanzar productos espectaculares, como dijo Leike, quien ha fichado por Anthropic.

La disolución mencionada y la salida de altos cargos clave genera dudas sobre el compromiso real de OpenAI con un desarrollo responsable de la IA. Que Altman lidere este comité no transmite la mayor confianza.

En Xataka

Quién es Jakub Pachocki, el nuevo científico jefe de OpenAI que releva a Ilya Sutskever

Qué sabemos. El nuevo comité estará liderado por Altman y tres consejeros: Bret Taylor, Adam d'Angelo y Nicole Seligman. Su primera tarea será evaluar y desarrollar los procesos y las salvaguardas de OpenAI durante 90 días.

Tras ese plazo presentará sus recomendaciones al consejo, quien decidirá cómo implementarlas. El comité también contará con técnicos y expertos en ciberseguridad y políticas relacionadas.

Señales. Hay motivos para preocuparse. Una recapitulación:

• La disolución del equipo de "súperalineación".
• La dimisión de sus dos líderes.
• La frase de Leike al marcharse: "la cultura y los procesos de seguridad han pasado a un segundo plano frente a productos brillantes".
• El intento de Sutskever para destituir a Altman por su falta de honestidad. Hoy Sutskever está fuera de la empresa.
• Otras salidas de investigadores apuntan a discrepancias con el rumbo de openAI, cada vez más comercial.
• La empresa tuvo que recular ante su política de retirar el equity a los exempleados que no firmasen un NDA muy restrictivo para evitar críticas.

Entre líneas. El anuncio del nuevo comité llega en esa sucesión de escándalos y noticias preocupantes. Que su líder sea Altman no ayuda a apaciguar los ánimos ni a descartar las suspicacias. Y no hemos incluido el episodio de la voz de Scarlett Johansson.

Poner a Altman al frente de la seguridad no despeja dudas sobre si habrá un cambio real de prioridades en la empresa más influyente del mundo de la IA o si solo es un intento por lavar su imagen que no sale bien. Y todo con GPT-5 empezando a asomar en el horizonte.

En Xataka | Seis meses después entendemos mejor la crisis de OpenAI. Puede que la junta tuviera razón sobre la falta de honestidad de Altman

Imagen destacada | Xataka con Midjourney

via Robótica e IA - Xataka https://ift.tt/hvGy9j5