Publicado:
Miles Brundage cree que teniendo más independencia podrá ser más “eficiente” en ayudar al mundo a prepararse para “gestionar de manera eficaz” las capacidades de la IA, cada vez más potentes.
Miles Brundage, jefe del equipo de OpenAI encaminado a lograr una inteligencia artificial general (AGI, por sus siglas en inglés), renunció a su cargo, según anunció la semana pasada. En un artículo de su autoría, publicado el 23 de octubre, Brundage reveló en detalle sus razones y señaló que, con su salida, la división de investigación que supervisaba se disolvería y sus miembros se distribuirían en otras divisiones de la empresa.
“Decidí que quiero influir en el desarrollo de la IA desde fuera de la industria y no desde dentro”, escribió Brundage, que confiesa que dejar su “trabajo soñado” después de seis años no fue una decisión fácil. El académico asesoró a OpenAI sobre cómo prepararse para el surgimiento de la AGI, una IA que busca tecnologías que igualen o superen el intelecto humano en una amplia gama de tareas.
Brundage afirmó que la empresa ha sesgado de alguna u otra forma su investigación y esto le ha dificultado ser imparcial sobre el futuro de las políticas de la IA. “Las restricciones ya son demasiadas. Quiero ser más imparcial […] Creo que es fundamental tener más voces independientes a la industria en la conversación sobre políticas de las que hay hoy, y planeo ser una de ellas”, dijo.
Ni OpenAI ni el mundo están preparados
Además de pensar que el costo de las oportunidades en OpenAI se ha vuelto “muy alto”, considera que su investigación tendrá un mayor impacto desde afuera. Planea crear su propia organización sin fines de lucro, o unirse a una ya existente, para centrarse en la investigación y la promoción de políticas de IA. “Es poco probable que la IA sea tan segura y beneficiosa como sea posible sin un esfuerzo concertado para lograrlo”.
Brundage cree que teniendo más independencia y libertad podrá ser más “eficiente” en ayudar al mundo a prepararse para “gestionar de manera eficaz” las capacidades de la IA, que son cada vez más potentes. “Ni OpenAI ni ningún otro laboratorio de vanguardia están preparados, y el mundo tampoco está preparado”, subraya. Cabe destacar que aunque el experto sigue pensando que la AGI puede traer grandes beneficios, no lo hará automáticamente y requiere que los humanos la gestionen y la regulen.
En declaraciones a TechCrunch, un portavoz de OpenAI dijo que la compañía “apoya plenamente” la decisión de Brundage y está “profundamente agradecida” por sus contribuciones. “El plan de dedicarse por completo a la investigación independiente sobre políticas de IA le brinda la oportunidad de tener un impacto a mayor escala, y estamos entusiasmados por aprender de su trabajo y seguir su impacto”, comentó el vocero sin revelar quién asumirá el cargo vacante.
Brundage es el último investigador de alto perfil que abandona OpenAI. En mayo, la empresa disolvió su equipo centrado en los riesgos de la superinteligencia artificial, tras la marcha de sus dos líderes. En los últimos meses su directora de tecnología, su director de investigación y su vicepresidente de investigación, dejaron sus cargos.
