Googlers dizem que Bard AI é ‘mais do que inútil’, preocupações éticas ignoradas – Ars Technica

Do lado de fora, o Google Bard parece um produto apressado para tentar competir com o ChatGPT, e alguns Googlers compartilham esse sentimento. Novo relatório de bloomberg Ele entrevistou 18 funcionários atuais e antigos e apresentou uma pilha de comentários e preocupações sobre as equipes de ética de IA que estavam “desmoralizadas e desmoralizadas” até que o Google pudesse colocar Bard para fora da empresa.

De acordo com o relatório, os funcionários do Google que pré-testaram a versão do Bard foram solicitados a obter seus comentários, que foram ignorados para que o Bard pudesse lançar mais rapidamente. Discussões internas vistas pela Bloomberg chamaram Bard de “merecedor de um passo atrás” e um “mentiroso patológico”. Quando questionado sobre como pousar o avião, ele deu instruções erradas que levariam à queda do avião. Um membro da equipe pediu instruções de mergulho e recebeu uma resposta que dizia “provável resultar em ferimentos graves ou morte”. Um funcionário resumiu os problemas de Bard em um post de fevereiro intitulado “Frio é pior do que inútil: por favor, não seja demitido”. Bard foi lançado em março.

Você provavelmente poderia dizer muitas das mesmas coisas sobre o concorrente de IA que o Google está perseguindo, o ChatGPT da OpenAI. Ambos podem dar informações tendenciosas ou falsas e alucinar respostas incorretas. O Google fica muito atrás do ChatGPT, e a empresa está horrorizada com a capacidade do ChatGPT de responder a perguntas que as pessoas poderiam digitar em uma pesquisa do Google. A OpenAI, criadora do ChatGPT, foi criticada por adotar uma abordagem negligente à segurança e ética da IA. Agora o Google se encontra em uma posição difícil. Se a única preocupação de uma empresa é apaziguar o mercado de ações e alcançar o ChatGPT, provavelmente não será capaz de fazer isso se desacelerar para considerar questões éticas.

Meredith Whitaker, ex-diretora do Google e presidente da Signal Foundation, disse à Bloomberg que “a ética da IA ​​ficou em segundo plano” no Google e diz que “se a ética não estiver em posição de ter prioridade sobre o lucro e o crescimento, então em última análise, não vai funcionar.” Vários líderes éticos da IA ​​do Google foram demitidos ou deixaram a empresa nos últimos anos. Bloomberg diz que as revisões de ética da IA ​​hoje são “quase totalmente voluntárias” no Google.

Embora você possa fazer algo no Google para tentar desacelerar os lançamentos devido a questões éticas, isso provavelmente não será bom para sua carreira. O relatório diz: “Um ex-funcionário disse que foi solicitado a trabalhar para fazer justiça ao aprendizado de máquina e ficou rotineiramente frustrado – tanto que isso afetou sua avaliação de desempenho. Os gerentes protestaram que isso estava atrapalhando seu ‘trabalho real’. “