A OpenAI apresentou nesta segunda-feira (21) uma proposta para que os Estados Unidos conduzam um esforço global destinado a estabelecer padrões técnicos de segurança para sistemas de inteligência artificial de fronteira, incluindo tecnologias capazes de aprimoramento recursivo de suas próprias capacidades.
O documento foi divulgado enquanto chefes de Estado participam da Assembleia Geral das Nações Unidas. A empresa defende a criação de mecanismos que integrem normas nacionais e internacionais, métricas comuns e protocolos unificados de comunicação de incidentes, com o objetivo de facilitar a comparação de evidências, a avaliação de riscos e a resposta coordenada a eventuais problemas.
Entre os pontos centrais está o aprimoramento recursivo, processo em que sistemas de IA assumem etapas do desenvolvimento de novas gerações de IA. A companhia ressalta que um modelo totalmente autônomo desse tipo não ocorre no momento e não deve ser buscado antes de existirem condições de segurança adequadas. Para a OpenAI, a evolução nessa área depende da manutenção do controle humano e de decisões democráticas informadas sobre benefícios e perigos, sob pena de perda de supervisão prática e de compreensão dos próprios processos de pesquisa.
Na avaliação da empresa, padrões internacionais de segurança para IA de fronteira são tão importantes quanto os estudos de alinhamento. O texto aponta três desafios principais que justificam coordenação internacional: possível fragmentação regulatória, riscos de resultados indesejados decorrentes de ações individuais de países e desigualdade de capacidades técnicas entre nações. Esses obstáculos, segundo a OpenAI, atingem tanto modelos de código aberto quanto fechados.
A organização sugere que laboratórios responsáveis por pesquisa automatizada adotem práticas seguras apoiadas em legislações já vigentes. Propõe ainda o aproveitamento da rede de institutos nacionais de segurança em IA existente na Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas instituições, aliadas ao Center for AI Standards and Innovation e a órgãos nacionais do setor, poderiam auxiliar na definição de parâmetros voltados a modelos de fronteira e ao gerenciamento de riscos e benefícios associados ao aprimoramento recursivo.
Os padrões sugeridos serviriam de base técnica para mensurar capacidades, analisar riscos e verificar a suficiência de salvaguardas. A OpenAI esclarece que não se trataria de licenças ou revisões obrigatórias pré-lançamento; caberia a cada governo definir como incorporar as diretrizes ao respectivo arcabouço jurídico. O processo, de acordo com a empresa, deve consultar criadores de modelos abertos e fechados, especialistas independentes e universidades, e ocorrer de forma transparente, sem favorecer empresas, países ou modelos de negócio específicos.
A proposta também contempla medições e protocolos comuns para comunicação de incidentes, como avaliação do avanço relacionado ao aprimoramento recursivo, mensuração de pesquisa autônoma dentro de empresas, regras de supervisão humana, identificação de processos que exijam revisão imediata, classificação de incidentes e definição de graus de gravidade.
A OpenAI defende que governos e operadores de infraestrutura crítica estabeleçam canais seguros para compartilhar preocupações de segurança nacional, vulnerabilidades, ameaças emergentes e boas práticas, citando o diálogo entre Estados Unidos e China como oportunidade de avanço. A companhia argumenta que a liderança norte-americana é justificada pelo estágio tecnológico de sua indústria de IA e pela posição do país em finanças, comércio, defesa, tecnologia e sistemas de informação. Para a entidade, assumir esse papel agora ajudaria a evitar um cenário fragmentado e desigual.
A iniciativa surge em meio a debates internacionais sobre como acompanhar o ritmo de desenvolvimento de sistemas cada vez mais avançados. A OpenAI destaca que a ideia de pacing não implica definir velocidade predeterminada para a evolução da tecnologia, mas garantir que as pesquisas de alinhamento e sua aplicação se mantenham à frente das capacidades dos sistemas.
Com informações de Olhar Digital
