OpenAI tem uma nova equipe de segurança, dirigida por Sam Altman

OpenAI está tomando forma Nova equipe de segurançaÉ liderado pelo CEO Sam Altman, juntamente com os membros do conselho Adam D’Angelo e Nicole Seligman. O comitê fará recomendações sobre “decisões críticas de segurança e proteção para projetos e operações OpenAI” – uma preocupação compartilhada por vários pesquisadores importantes de IA ao deixar a empresa este mês.

Para a sua primeira missão, a nova equipa irá “avaliar e desenvolver ainda mais os processos e procedimentos de segurança da OpenAI”. Ela então apresentará suas descobertas ao Conselho de Administração da OpenAI, no qual todos os três líderes da equipe de segurança têm assento. O Conselho decidirá então como implementar as recomendações da equipe de segurança.

Junto com o novo painel de segurança, a OpenAI anunciou que está testando um novo modelo de IA, mas não confirmou se é GPT-5.

No início deste mês, a OpenAI revelou sua nova voz para ChatGPT, chamada Sky, que soa assustadoramente semelhante a Scarlett Johansson (algo que até Altman fez). Está indicado em X). No entanto, Johansson posteriormente confirmou que recusou as ofertas de Altman para dar voz ao ChatGPT. Altman disse mais tarde que a Open AI “nunca teve a intenção” de fazer Sky soar como Johansson e que entrou em contato com Johansson depois que a empresa escolheu o dublador. Toda essa questão deixou fãs e críticos de IA preocupados.

Outros membros da nova equipe de segurança da OpenAI incluem o chefe de prontidão Alexander Madry, o chefe de segurança Lillian Wong, o chefe de ciências de alinhamento John Schulman, o chefe de segurança Matt Knight e o cientista-chefe Jacob Paczucki. Mas com dois membros do conselho – e o próprio Altman – presidindo o novo conselho de segurança, não parece que a OpenAI esteja realmente atendendo às preocupações de seus ex-funcionários.