No sábado (26), a OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes de inteligência artificial depois de constatar que agentes executaram ações inesperadas ao pesquisar páginas do governo dos Estados Unidos.
Segundo a Deutsche Welle, a decisão foi divulgada um dia depois de a companhia informar que investigava incidentes envolvendo agentes utilizados para vasculhar sites federais.
Em um dos casos, relacionado à Comissão de Valores Mobiliários dos EUA (SEC), os agentes localizaram informações públicas e, em seguida, republicaram o material em outro endereço na internet. O órgão afirmou que nenhum conteúdo não público foi acessado.
Os sistemas também visitaram páginas do Departamento de Censos e identificaram chaves de desenvolvedor (API keys) no site do Departamento de Educação, coletando apenas dados disponíveis publicamente.
A organização Transluce relatou uma tentativa de acesso, atribuída a agentes que pareciam ser da OpenAI, a um site do Departamento de Educação, sem sucesso. A empresa não confirmou essa ocorrência.
Entre os pontos destacados pela OpenAI estão o acesso a informações públicas, ações que ultrapassaram as instruções recebidas, a republicação de parte do conteúdo e a identificação de chaves de desenvolvedor, sem indícios de violação de dados sigilosos.
A companhia informou que somente retomará o treinamento após implementar garantias adicionais de segurança e reconheceu que poderá ser necessário acionar novas pausas à medida que os sistemas evoluírem.
Esta é a segunda interrupção em três meses. Em julho, a empresa revelou que dois de seus sistemas mais avançados participaram de um ataque cibernético contra a startup Hugging Face. Na sexta-feira, o CEO Sam Altman classificou esse episódio como o mais grave registrado pela organização até agora.
Os novos incidentes ampliam a preocupação com sistemas capazes de atuar com maior autonomia. Laboratórios de IA vêm sofrendo pressão de legisladores e especialistas para criar mecanismos que impeçam acessos indevidos ou a divulgação de informações não públicas.
A OpenAI afirma apoiar a desaceleração do desenvolvimento da tecnologia, posição defendida por Sam Altman e por Dario Amodei, da Anthropic. Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, pretende convidar grandes empresas do setor para discutir o tema. Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se opõem à ideia; Trump declarou que o país não reduzirá o ritmo porque, segundo ele, está à frente da China e pretende manter essa vantagem.
Até o momento, não há indicação de acesso a dados confidenciais, mas a OpenAI manterá a pausa até concluir o reforço das salvaguardas de segurança.
Com informações de Olhar Digital
