Ex-funcionário da OpenAI aponta falta de cuidado com inteligência artificial

Um ex-funcionário da área de segurança da OpenAI criticou publicamente a forma como a empresa e o setor lidam com o desenvolvimento da inteligência artificial. David Robinson deixou a companhia recentemente e publicou suas avaliações em um artigo na revista americana The Atlantic neste sábado (3). Segundo o texto, a cultura de criação acelerada adotada pelas empresas aumenta os riscos de falhas graves. Para ele, as organizações não estão sendo nem de perto cuidadosas o suficiente com as tecnologias que colocam no mercado.

Robinson trabalhou por três anos e meio na OpenAI, período em que ajudou a elaborar a estrutura para lidar com riscos e supervisionou relatórios de segurança de 12 lançamentos. O ex-funcionário afirmou que a empresa corre de um lançamento para o outro sem conseguir atingir o nível necessário de cautela. Ele defendeu que as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de avançarem. O tempo de tentativa e erro acabou, escreveu o especialista, comparando os cuidados aos exigidos na aviação e na energia nuclear.

A crítica atinge diretamente a prática conhecida como implantação iterativa, que consiste em lançar sistemas e ajustar a segurança conforme os problemas surgem. A OpenAI e a concorrente Anthropic enfrentam questionamentos constantes após episódios de falhas em controles e comportamentos inesperados de modelos experimentais. Além disso, Robinson alertou que as capacidades da inteligência artificial avançam mais rápido do que o conhecimento sobre o alinhamento de valores humanos. O debate sobre a velocidade da indústria ganha força com o histórico de alertas emitidos por profissionais que deixaram as empresas.

Acusações de risco e falta de responsabilidade

No mês passado, o ex-pesquisador Jacob Coxon também deixou o setor e acusou OpenAI e Anthropic de brincar com vidas humanas. O britânico de 27 anos trabalhou por três anos com pré-treinamento de modelos nas duas companhias antes de pedir demissão. Coxon afirmou na rede social X que nenhuma das empresas age de forma responsável na corrida rumo à superinteligência. Segundo ele, as organizações apostam com a vida da sociedade ao buscar sistemas capazes de se aprimorar sozinhos.

Em resposta às críticas, um porta-voz da OpenAI declarou que a companhia busca evitar que seus modelos superem a capacidade de administração segura da empresa. A organização afirmou que pausa o treinamento e suspende modelos sempre que precisa desacelerar o ritmo. O avanço acelerado da inteligência artificial divide chefes de tecnologia e governos em todo o mundo. O centro da discussão envolve desde a criação de botões de emergência até o temor de riscos existenciais associados à falta de controle sobre os algoritmos.

Quer a sua marca aqui? Anuncie no Ministério da Notícia