EUA e mais 17 países definem diretrizes para desenvolvimento seguro da IA
Documento contou com participação de Google, Microsoft e OpenAI. Acordo estipula que segurança deve ser prioridade dos projetos.
EUA, Reino Unido e mais 16 países publicaram um acordo para definir diretrizes para a criação de sistemas de inteligência artificial que sejam “seguros por design”. O documento tem 20 páginas e foi anunciado como a primeira iniciativa internacional para prevenir o uso dessa tecnologia por agentes mal-intencionados.
O acordo é não-vinculante, o que significa que ele não será transformado em uma regulamentação. As recomendações são gerais, como monitorar os sistemas de IA para evitar abusos, proteger dados de tentativas de adulteração e verificar fornecedores de software.
“A abordagem dá ênfase à destinação dos benefícios de segurança aos usuários, promove de maneira radical a transparência e a responsabilidade, e estabelece estruturas organizacionais em que o design seguro é a prioridade”, diz a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) em seu comunicado para a imprensa.
“Esta é a primeira vez que vimos uma declaração de que essas características não devem ser tratadas apenas como diferenciais” diz Jen Easterly, diretora da CISA, à Reuters. Para ela, o acordo define que a segurança é a parte importante da fase de design de um sistema de IA.
O documento está alinhado a iniciativas anteriores dos EUA, como a ordem executiva assinada em outubro pelo presidente Joe Biden.
Entre os tópicos, estão questões sobre como evitar que hackers invadam plataformas de inteligência artificial e recomendações para só liberar os modelos após testes de segurança adequados.
Questões como usos apropriados de ferramentas desse tipo ou coleta de dados para treinamento dos modelos não são abordadas pelo acordo.
Documento é assinado por 18 países
A lista completa de signatários do acordo inclui os seguintes países: EUA, Austrália, Canadá, Nova Zelândia, Chile, República Tcheca, Estônia, França, Alemanha, Israel, Itália, Japão, Nigéria, Noruega, Polônia, Coreia do Sul e Singapura.
O documento contou com contribuições de empresas e organizações. Entre elas, estão Amazon, Anthropic, Google, Hugging Face, IBM, Microsoft e OpenAI.
Com informações: Reuters, The Hacker News
