OpenAI não descarta liberar nudez nos vídeos criados usando Sora
Em entrevista, CTO da OpenAI diz estar discutindo assunto: "Há ambientes criativos em que os artistas podem querer mais controle"
O modelo de inteligência artificial Sora, criado pela OpenAI para gerar vídeos a partir de descrições em texto, poderá incluir nudez em suas peças. Mira Murati, CTO da empresa, disse não ter certeza se este tipo de imagem será proibido na ferramenta, já que pode ser útil para alguns criadores.
Em entrevista ao Wall Street Journal, Murati disse que a OpenAI está trabalhando com criadores para entender o que pode ser útil na ferramenta. “Como você pode imaginar, há ambientes criativos em que os artistas podem querer ter mais controle sobre isso [nudez]”, explica a CTO. “Atualmente, estamos trabalhando com artistas e criadores de diferentes campos, para entender o que é útil e qual nível de flexibilidade a ferramenta deve fornecer”, completa.
A possibilidade de criar imagens com nudez usando inteligência artificial é alvo de muitas críticas. Em janeiro de 2024, o X (antigo Twitter) precisou tomar medidas para interromper a circulação de deepfakes da cantora Taylor Swift em situações pornográficas.
Uma pesquisa realizada pelo AI Policy Institute (AIPI) com eleitores dos Estados Unidos mostra que 77% deles consideram que implementar regras e restrições a ferramentas como a Sora é mais importante que liberá-las para o público. Além disso, 84% apoiam que haja leis para criminalizar a criação de deepfakes pornográficos sem consentimento.
No Brasil, não há uma legislação específica proibindo este tipo de material. Um projeto de lei pretende classificar o uso de inteligência artificial para alterar imagem e som da vítima como agravante no crime de violência psicológica contra a mulher. Caso a proposta seja aprovada, a pena, que vai de 6 meses a 2 anos de reclusão e multa, poderá ser aumentada pela metade, nessas situações.
Sora chega ainda em 2024
O Sora foi anunciada em fevereiro de 2024. Ela é a primeira ferramenta de texto para vídeo da OpenAI. Segundo a empresa, a inteligência artificial é capaz de criar “cenas complexas com vários personagens” e “detalhes precisos do sujeito e do plano de fundo”. Nem tudo é perfeito, porém: a simulação da física de algumas situações está longe de ser realística, e itens podem surgir e desaparecer espontaneamente.
Na entrevista ao WSJ, Murati diz que o Sora definitivamente será lançada para uso geral ainda em 2024. Atualmente, a ferramenta está sendo testada e avaliada por especialistas em desinformação, discurso de ódio e preconceito. Concorrentes da OpenAI também trabalham em ferramentas do tipo: o Google tem o Lumiere, enquanto a Meta possui o Make-a-Video. Nenhuma destas duas está disponível para o público.
Com informações: Gizmodo, Quartz
