EUA e mais 17 países definem diretrizes para desenvolvimento seguro da IA

Documento contou com participação de Google, Microsoft e OpenAI. Acordo estipula que segurança deve ser prioridade dos projetos.

Giovanni Santa Rosa
Por
Inteligência artificial
Inteligência artificial (Imagem: Vitor Pádua / Tecnoblog)

EUA, Reino Unido e mais 16 países publicaram um acordo para definir diretrizes para a criação de sistemas de inteligência artificial que sejam “seguros por design”. O documento tem 20 páginas e foi anunciado como a primeira iniciativa internacional para prevenir o uso dessa tecnologia por agentes mal-intencionados.

O acordo é não-vinculante, o que significa que ele não será transformado em uma regulamentação. As recomendações são gerais, como monitorar os sistemas de IA para evitar abusos, proteger dados de tentativas de adulteração e verificar fornecedores de software.

“A abordagem dá ênfase à destinação dos benefícios de segurança aos usuários, promove de maneira radical a transparência e a responsabilidade, e estabelece estruturas organizacionais em que o design seguro é a prioridade”, diz a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) em seu comunicado para a imprensa.

“Esta é a primeira vez que vimos uma declaração de que essas características não devem ser tratadas apenas como diferenciais” diz Jen Easterly, diretora da CISA, à Reuters. Para ela, o acordo define que a segurança é a parte importante da fase de design de um sistema de IA.

Joe Biden, presidente dos EUA (Imagem: Reprodução/Facebook/The White House)
Joe Biden, presidente dos EUA (Imagem: Reprodução/Facebook/The White House)

O documento está alinhado a iniciativas anteriores dos EUA, como a ordem executiva assinada em outubro pelo presidente Joe Biden.

Entre os tópicos, estão questões sobre como evitar que hackers invadam plataformas de inteligência artificial e recomendações para só liberar os modelos após testes de segurança adequados.

Questões como usos apropriados de ferramentas desse tipo ou coleta de dados para treinamento dos modelos não são abordadas pelo acordo.

Documento é assinado por 18 países

A lista completa de signatários do acordo inclui os seguintes países: EUA, Austrália, Canadá, Nova Zelândia, Chile, República Tcheca, Estônia, França, Alemanha, Israel, Itália, Japão, Nigéria, Noruega, Polônia, Coreia do Sul e Singapura.

O documento contou com contribuições de empresas e organizações. Entre elas, estão Amazon, Anthropic, Google, Hugging Face, IBM, Microsoft e OpenAI.

Com informações: Reuters, The Hacker News

Receba mais sobre EUA na sua caixa de entrada

* ao se inscrever você aceita a nossa política de privacidade
Newsletter
Giovanni Santa Rosa

Giovanni Santa Rosa

Repórter

Giovanni Santa Rosa é formado em jornalismo pela ECA-USP e cobre ciência e tecnologia desde 2012. Foi editor-assistente do Gizmodo Brasil e escreveu para o UOL Tilt e para o Jornal da USP. Cobriu o Snapdragon Tech Summit, em Maui (EUA), o Fórum Internacional de Software Livre, em Porto Alegre (RS), e a Campus Party, em São Paulo (SP). Atualmente, é autor no Tecnoblog.

Canal Exclusivo

Relacionados