Trabajadores de OpenAI alertaron sobre el hallazgo de una IA que amenaza a la humanidad días antes del despido de Altman

Unos días antes de que la junta de OpenAI , la empresa de inteligencia artificial (IA) detrás del robot conversacional ChatGPT , tomase la decisión de despedir al recién restituido como CEO Sam Altman , varios investigadores de la compañía le enviaron una carta en la que afirmaban que habían realizado un descubrimiento relacionado con la IA que podría, directamente, amenazar a la humanidad. Así lo señala ' Reuters ', agencia que, afirma, ha podido hablar con dos fuentes familiarizadas con el hallazgo. De acuerdo con 'Reuters', la recepción de esta carta por parte de la junta directiva fue decisiva para que, el pasado viernes, se decidiese despedir a Altman de forma sorpresiva y sin dar tiempo de reacción a inversores y empleados. Sin embargo, desde OpenAI lo niegan en declaraciones a ' The Verge '. Asimismo, este medio apunta que, de acuerdo con una fuente consultada, la junta nunca recibió dicha carta. Sea como fuere, la recepción, o no, de la carta, no habría sido el único detonante del despido de Altman. 'Reuters', a este respecto, apunta a una larga lista de desencuentros y a la preocupación sobre la comercialización de avances relacionados con la IA antes de comprender bien sus potenciales consecuencias. Y es que, mientras que buena parte de la junta directiva -laminada el día de ayer en su práctica totalidad- abogaba por un desarrollo más cauteloso y seguro de las soluciones, los planes del CEO pasaban, precisamente, por todo lo contrario. Lo que el ejecutivo quiere es darse prisa y poner tecnología de vanguardia en la calle a disposición de particulares y empresas, para que saquen provecho y puedan ayudar a la sociedad. Esto se pudo ver perfectamente el pasado noviembre, cuando la empresa lanzó al mercado ChatGPT sin pestañear y sin haber puesto, si quiera, a disposición de los usuarios una herramienta capaz de detectar de forma fiable el contenido generado por la máquina del creado por un humano. Una herramienta que, por cierto, sigue sin llegar. En busca de la AGI Esta carta, en principio, está relacionada con el trabajo de la empresa ChatGPT en un proyecto conocido con el nombre en clave Q que, sobre el papel, podría suponer un importante paso adelante en el desarrollo de la inteligencia artificial general, a la que OpenAI llama AGI . Este futurista algoritmo, que podría llegar «pronto o en un futuro lejano», según la startup, tendría conocimientos superiores a cualquier humano independientemente de su oficio o capacidades. OpenAI cree que la AGI podría ser sumamente beneficioso para la humanidad. Evidentemente, no estaría exenta de peligros; pero, al menos, desde el punto de vista de Altman, merecería la pena que todos corriésemos el riesgo. «Debido a que las ventajas de la AGI son tan grandes, no creemos que sea posible o deseable que la sociedad detenga su desarrollo para siempre; en cambio, la sociedad y los desarrolladores de AGI tienen que descubrir cómo hacerlo bien», explicaba el recién reinstaurado CEO en una publicación realizada el pasado mes de febrero. Según señaló una fuente con conocimientos de la investigación Reuters, Q es capaz de resolver algunos problemas matemáticos. Aunque solo alcanzaría actualmente el nivel de los estudiantes de escuela primaria, los investigadores de OpenAI están muy esperanzados por sus posibilidades de cara al futuro.

via Tecnología https://ift.tt/0BqAoSL