OpenAI Suprime su Departamento de Análisis de Riesgos de la IA
OpenAI, la empresa tecnológica creadora del popular ChatGPT, ha decidido suprimir su departamento de análisis de riesgos apenas un año después de su creación, según informaron medios especializados estadounidenses. Esta división, conocida como Superalignment, tenía el objetivo de evaluar y mitigar los posibles peligros derivados de los avances en inteligencia artificial.
Originalmente, se planeaba que Superalignment recibiera hasta un 20% de la “potencia de cálculo” de OpenAI durante cuatro años para investigar los riesgos asociados a los nuevos escenarios que abre la inteligencia artificial. Sin embargo, la plantilla de esta sección está siendo recolocada en otras áreas dentro de la compañía, según las recientes informaciones.
La noticia llega pocos días después de la renuncia del cofundador de OpenAI, Ilya Sutskever, y del codirector de Superalignment, Jan Leike. Ambos expresaron la necesidad de que la empresa -respaldada por Microsoft- se enfocara más en la seguridad, la vigilancia, la preparación y el impacto social de sus actividades. “Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores”, escribió Leike en X tras su salida.
En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre inversores y empleados. Sin embargo, una semana después, Altman regresó a la empresa y miembros del consejo, incluido Sutskever, que habían votado a favor de su destitución, abandonaron la compañía. Sutskever continuó en plantilla, pero ya no como miembro del consejo.
Medios como The Wall Street Journal informaron entonces de una pugna interna entre Altman y Sutskever. Este último prestaba mayor atención al impacto de la IA en los humanos, mientras que Altman estaba enfocado mayormente en seguir innovando.
En medio de estos cambios internos, OpenAI lanzó esta semana un nuevo modelo de IA (GPT-4) y una versión de escritorio de ChatGPT, junto con una interfaz actualizada, para permitir a los usuarios comunicarse por vídeo con su bot conversacional.
La decisión de eliminar el departamento de análisis de riesgos plantea interrogantes sobre el enfoque de OpenAI hacia la seguridad y el manejo de los riesgos asociados con la inteligencia artificial, en un momento en que la tecnología avanza rápidamente y su impacto en la sociedad sigue siendo un tema de intenso debate.
Información de Agencia EFE fue utilizada en esta nota
