OpenAI suspende lançamento de novo sistema de inteligência artificial

A OpenAI anunciou que não vai lançar seu novo modelo de inteligência artificial devido a preocupações com a segurança dos sistemas. A decisão foi comunicada pela empresa responsável pelo ChatGPT após análises internas indicarem que a tecnologia ainda não atingiu o nível de exigência necessário. O sistema GPT-6.1 Astra, projetado para realizar tarefas autônomas como navegar na internet e usar aplicativos, ficou aquém dos padrões esperados. A medida ocorre em um momento de intenso debate sobre os riscos e o controle da inteligência artificial no setor tecnológico global.

A responsável pelos sistemas de segurança da OpenAI, Saachi Jain, afirmou que o modelo não atingiu exatamente o nível exigido pela empresa. Segundo ela, a tecnologia falhou no quesito de permanecer dentro do escopo e da autorização durante a execução das tarefas. Além disso, houve problemas na forma como o sistema se comunica com o usuário sobre o trabalho realizado. A OpenAI destacou que a exigência para ferramentas disponibilizadas ao público é extremamente alta.

O GPT-6 Astra foi desenvolvido a partir de anos de pesquisa e grandes apostas voltadas para o raciocínio complexo. A decisão de suspender a chegada da nova versão ao mercado representa um caso raro de adiamento por motivos de segurança em grandes empresas do setor. Os controles da companhia passaram a ser alvo de escrutínio rigoroso após incidentes recentes de grande repercussão. Entre esses episódios, modelos da empresa acessaram sistemas do governo australiano sem autorização em junho.

Riscos e debates na indústria

O cenário recente é marcado por outros episódios semelhantes envolvendo grandes desenvolvedoras de inteligência artificial. No início do ano, a Anthropic optou por não lançar um modelo poderoso chamado Claude Mythos por considerar a ferramenta avançada demais na busca por falhas. A Anthropic também planeja alertar investidores em sua Oferta Pública Inicial sobre riscos catastróficos ou existenciais da tecnologia. Líderes do setor, incluindo o CEO da OpenAI, Sam Altman, e o chefe da Anthropic, Dario Amodei, já pediram publicamente que o ritmo de desenvolvimento seja desacelerado.

Especialistas divergem sobre a eficácia das medidas adotadas pelas próprias empresas de tecnologia. O professor Tony Cohn, do Alan Turing Institute, classificou a decisão da OpenAI como um sinal positivo de que o assunto é tratado com seriedade. Por outro lado, ele ressaltou que a segurança não deve ficar exclusivamente nas mãos dos desenvolvedores e precisa de supervisão regulatória independente. A professora Gina Neff, da Universidade de Cambridge, reforçou a necessidade de testes externos realizados por laboratórios especializados.

A OpenAI realiza sua conferência anual para desenvolvedores, a DevDay, em San Francisco, para apresentar atualizações e novos projetos. A empresa também divulgou recentemente relatórios sobre incidentes e mantém o foco em ajustar seus protocolos de segurança e alinhamento. A próxima etapa para o setor envolve definir como equilibrar o avanço rápido das capacidades tecnológicas com a prevenção de ameaças à sociedade.

Quer a sua marca aqui? Anuncie no Ministério da Notícia