Tecnologia

Google promete mudanças na supervisão da pesquisa após revolta interna

Google

O Google, da Alphabet Inc, mudará os procedimentos antes de julho para revisar o trabalho de seus cientistas, de acordo com uma gravação da prefeitura, parte de um esforço para conter o tumulto interno sobre a integridade de sua pesquisa de inteligência artificial (IA).

Em comentários em uma reunião de equipe na sexta-feira passada, executivos do Google Research disseram que estavam trabalhando para reconquistar a confiança depois que a empresa demitiu duas mulheres proeminentes e rejeitou seu trabalho, de acordo com uma gravação de uma hora, cujo conteúdo foi confirmado por duas fontes.

As equipes já estão testando um questionário que avaliará os riscos dos projetos e ajudará os cientistas a navegar pelas análises, disse a diretora operacional da unidade de pesquisa Maggie Johnson na reunião. Essa mudança inicial será implementada no final do segundo trimestre, e a maioria dos documentos não exigirá verificação extra, disse ela.

A Reuters relatou em dezembro que o Google havia apresentado uma revisão de “tópicos sensíveis” para estudos envolvendo dezenas de questões, como China ou preconceito em seus serviços. Revisores internos exigiram que pelo menos três artigos sobre IA sejam modificados para evitar colocar a tecnologia do Google em uma luz negativa, informou a Reuters.

Jeff Dean, vice-presidente sênior do Google que supervisiona a divisão, disse na sexta-feira que a análise de “tópicos delicados” “é e era confusa” e que ele encarregou um diretor sênior de pesquisa, Zoubin Ghahramani, de esclarecer as regras, de acordo com a gravação.

Ghahramani, um professor da Universidade de Cambridge que ingressou no Google em setembro vindo da Uber Technologies Inc, disse durante a prefeitura: “Precisamos estar confortáveis ​​com o desconforto” da pesquisa autocrítica.

O Google se recusou a comentar sobre a reunião de sexta-feira.

Um e-mail interno, visto pela Reuters, ofereceu novos detalhes sobre as preocupações dos pesquisadores do Google, mostrando exatamente como o departamento jurídico do Google modificou um dos três documentos de IA, chamado “Extraindo dados de treinamento de grandes modelos de linguagem”. 

O e-mail, datado de 8 de fevereiro, de um co-autor do jornal, Nicholas Carlini, foi enviado a centenas de colegas, buscando chamar sua atenção para o que ele chamou de edições “profundamente insidiosas” de advogados de empresas.

“Vamos ser claros aqui”, dizia o e-mail de aproximadamente 1.200 palavras. “Quando nós, como acadêmicos, escrevemos que temos uma ‘preocupação’ ou encontramos algo ‘preocupante’ e um advogado do Google exige que mudemos para um som mais agradável, isso é muito mais um Big Brother intervindo.”

As edições necessárias, de acordo com seu e-mail, incluíam trocas de “negativo para neutro”, como alterar a palavra “preocupações” para “considerações” e “perigos” para “riscos”. Os advogados também exigiram a exclusão de referências à tecnologia do Google; a descoberta dos autores de que a AI vazou conteúdo protegido por direitos autorais; e as palavras “violação” e “sensível”, dizia o e-mail.

Carlini não respondeu aos pedidos de comentários. O Google, em resposta a perguntas sobre o e-mail, contestou sua alegação de que os advogados estavam tentando controlar o tom do jornal. A empresa disse que não teve problemas com os tópicos investigados pelo jornal, mas encontrou alguns termos jurídicos usados ​​de forma imprecisa e conduziu uma edição completa como resultado.

AUDITORIA DE EQUIDADE RACIAL

Na semana passada, o Google também nomeou Marian Croak, uma pioneira em tecnologia de áudio na Internet e uma das poucas vice-presidentes Black do Google, para consolidar e gerenciar 10 equipes que estudam questões como preconceito racial em algoritmos e tecnologia para deficientes físicos.

Croak disse na reunião de sexta-feira que levaria tempo para tratar das preocupações entre os pesquisadores de ética em IA e mitigar os danos à marca do Google.

“Por favor, considere-me totalmente responsável por tentar reverter essa situação”, disse ela na gravação.

Johnson acrescentou que a organização AI está contratando uma empresa de consultoria para uma ampla avaliação do impacto da equidade racial. A auditoria inédita para o departamento levaria a recomendações “que serão muito difíceis”, disse ela.

As tensões na divisão de Dean se aprofundaram em dezembro, depois que o Google deixou Timnit Gebru, co-líder de sua equipe de pesquisa ética em IA, após sua recusa em retirar um artigo sobre IA geradora de linguagem. Gebru, que é negra, acusou a empresa na época de avaliar seu trabalho de forma diferente por causa de sua identidade e de marginalizar funcionários de origens sub-representadas. Quase 2.700 funcionários assinaram uma carta aberta em apoio à Gebru. ( bit.ly/3us5kj3 )

Durante a prefeitura, Dean elaborou qual bolsa de estudos a empresa apoiaria.

“Queremos IA responsável e investigações éticas de IA”, disse Dean, dando o exemplo de estudar os custos ambientais da tecnologia. Mas é problemático citar dados “por quase um fator de cem” enquanto ignora estatísticas mais precisas, bem como os esforços do Google para reduzir as emissões, disse ele. Dean já havia criticado o artigo de Gebru por não incluir descobertas importantes sobre o impacto ambiental.

Gebru defendeu a citação de seu jornal. “É uma péssima aparência para o Google sair tão defensivamente contra um jornal que foi citado por tantas de suas instituições semelhantes”, disse ela à Reuters.

Os funcionários continuaram a postar sobre suas frustrações no último mês no Twitter, enquanto o Google investigava e, em seguida, demitia a co-líder de IA ética Margaret Mitchell por mover arquivos eletrônicos para fora da empresa. Mitchell disse no Twitter que agiu “para levantar preocupações sobre a desigualdade de raça e gênero e falar sobre a problemática demissão do Dr. Gebru pelo Google”.

Mitchell colaborou no artigo que motivou a saída de Gebru e em uma versão publicada online no mês passado sem afiliação ao Google chamada “Shmargaret Shmitchell” como coautor. Solicitado a comentar, Mitchell expressou, por meio de um advogado, desapontamento com a crítica de Dean ao jornal e disse que seu nome foi removido por ordem da empresa.

Voltar ao Topo