17 Junho 2024

Trabalhadores da OpenAI e Google DeepMind Alertam Sobre Riscos da Indústria de IA em Carta Aberta

3 min read

Um grupo de funcionários atuais e antigos de empresas de inteligência artificial (IA) proeminentes publicou, na terça-feira, uma carta aberta que alerta sobre a falta de supervisão de segurança na indústria e pede por maiores proteções para denunciantes.

A carta, que pede um “direito de alertar sobre a inteligência artificial”, é uma das declarações mais públicas sobre os perigos da IA, feita por funcionários de uma indústria que geralmente é sigilosa. Onze funcionários atuais e antigos da OpenAI assinaram a carta, junto com dois funcionários atuais ou antigos da Google DeepMind – um dos quais trabalhou anteriormente na Anthropic.

“As empresas de IA possuem informações substanciais não públicas sobre as capacidades e limitações de seus sistemas, a adequação de suas medidas de proteção e os níveis de risco de diferentes tipos de danos”, afirma a carta. “No entanto, atualmente, elas têm apenas obrigações fracas de compartilhar algumas dessas informações com governos e nenhuma com a sociedade civil. Não achamos que todas possam ser confiáveis para compartilhar essas informações voluntariamente.”

A OpenAI defendeu suas práticas em uma declaração, dizendo que possui canais como uma linha direta para relatar problemas na empresa e que não lança novas tecnologias até que haja salvaguardas adequadas. A Google não respondeu imediatamente a um pedido de comentário.

“Estamos orgulhosos do nosso histórico de fornecer os sistemas de IA mais capazes e seguros e acreditamos na nossa abordagem científica para abordar riscos. Concordamos que um debate rigoroso é crucial, dada a importância desta tecnologia, e continuaremos a nos engajar com governos, sociedade civil e outras comunidades ao redor do mundo,” disse um porta-voz da OpenAI.

A preocupação com os potenciais danos da inteligência artificial existe há décadas, mas o boom da IA nos últimos anos intensificou esses medos e deixou os reguladores lutando para acompanhar os avanços tecnológicos. Embora as empresas de IA tenham declarado publicamente seu compromisso com o desenvolvimento seguro da tecnologia, pesquisadores e funcionários alertam sobre a falta de supervisão, à medida que as ferramentas de IA exacerbam danos sociais existentes ou criam novos.

A carta dos funcionários atuais e antigos das empresas de IA, que foi reportada pela primeira vez pelo New York Times, pede maiores proteções para trabalhadores em empresas de IA avançada que decidam expressar preocupações sobre segurança. Ela pede um compromisso com quatro princípios em torno de transparência e responsabilização, incluindo uma provisão que as empresas não forcem os funcionários a assinar acordos de não-difamação que proíbam levantar questões relacionadas a riscos da IA e um mecanismo para que os funcionários possam compartilhar anonimamente preocupações com membros do conselho.

“Enquanto não houver uma supervisão governamental eficaz dessas corporações, funcionários atuais e antigos estão entre as poucas pessoas que podem responsabilizá-las perante o público,” afirma a carta. “No entanto, acordos amplos de confidencialidade nos impedem de expressar nossas preocupações, exceto para as próprias empresas que podem estar falhando em resolver esses problemas.”

Empresas como a OpenAI também adotaram táticas agressivas para impedir que os funcionários falem livremente sobre seu trabalho, com o Vox relatando na semana passada que a OpenAI fez os funcionários que deixaram a empresa assinarem documentos extremamente restritivos de não-difamação e não-divulgação ou perderiam toda sua participação acionária adquirida. Sam Altman, CEO da OpenAI, pediu desculpas após o relatório, dizendo que mudaria os procedimentos de desligamento.

A carta chega após a saída de dois funcionários importantes da OpenAI, o cofundador Ilya Sutskever e o pesquisador chave de segurança Jan Leike, da empresa no mês passado. Após sua saída, Leike alegou que a OpenAI havia abandonado uma cultura de segurança em favor de “produtos brilhantes”.

A carta aberta de terça-feira ecoou algumas das declarações de Leike, dizendo que as empresas não demonstram nenhuma obrigação de serem transparentes sobre suas operações