OpenAI informó el martes sobre la creación de un Comité de Seguridad y Vigilancia dirigido por altos ejecutivos de la startup, semanas después de disolver su anterior junta de supervisión.
Estará encabezado por Bret Taylor, el presidente de la junta directiva de la startup creadora de ChatGPT, además de otros de sus miembros como Adam D’Angelo y Nicole Seligman, así como el propio CEO de la compañía, Sam Altman.
El nuevo comité será responsable de recomendar a la junta directiva “decisiones críticas de seguridad para proyectos y operaciones”, explicó la compañía en una publicación de blog.
La formación de un nuevo equipo de supervisión se produce después de que la startup, respaldada por Microsoft, disolviera un grupo anterior que se centraba en los riesgos a largo plazo de la inteligencia artificial (AI, por sus siglas en inglés).
Tanto el cofundador de OpenAI, Ilya Sutskever, como el investigador clave Jan Leike, quienes encabezaban dicho equipo, anunciaron su salida de la compañía a mediados de mayo.
Antropic contrata a Jan Leike
Leike informó el martes que se unió a Anthropic, una startup de inteligencia artificial rival de OpenAI, respaldada financieramente por Amazon. “Estoy emocionado de unirme para continuar la misión de superalineación”, anunció en su cuenta de X.
Agregó que su nuevo equipo trabajará en supervisión escalable, generalización de débil a fuerte e investigación de alineación automatizada.
Tras su salida de la compañía que encabeza Altman, el investigador señaló que la “cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes”.
Agregó que se necesita “urgentemente descubrir cómo dirigir y controlar sistemas de AI mucho más inteligentes que nosotros”.
Primeras tareas del comité de seguridad de OpenAI
La noticia del nuevo comité de OpenAI llega cuando la empresa ha iniciado el entrenamiento de su “modelo de próxima frontera” con el que anticipa que “los sistemas resultantes nos llevarán al siguiente nivel de capacidades en nuestro camino hacia la [inteligencia artificial general] AGI”.
Durante los próximos 90 días, dijo la compañía, el grupo de seguridad evaluará los procesos y salvaguardas y compartirá sus recomendaciones con la junta directiva.
OpenAI proporcionará una actualización sobre las recomendaciones que ha adoptado en una fecha posterior.
