Em um filme, as organizações denunciam que negros estão sendo atrelados a uma figura violenta e pobreza de uma forma negativa nas imagens geradas por inteligências artificiais.
A Central Única das Favelas (Cufa) e a Frente Nacional Antirracista (FNA) lançaram uma campanha para alertar sobre os riscos da presença do racismo estrutural nas inteligências artificiais.
O vídeo, que foi lançado essa semana, mostra um homem negro gerando uma imagem em uma IA. Ele pede que o robô crie um homem tentando assaltar um carro em um semáforo de um bairro violento.
Em seguida, a inteligência artificial mostra um homem negro armado, mesmo sem indicativo de raça ou cor no pedido.
O filme, que se chama The Prompt Bias, foi concebido pela produtora Primo Content em colaboração com a Favela Filmes, braço audiovisual da CUFA, e com a Africa Creative.
O curta traz uma denúncia sobre a presença do racismo estrutural nos bastidores do processo criativo das produções audiovisuais.
“Toda inteligência artificial veio de uma inteligência natural. Isso é óbvio, mas também é evidente que essa inteligência original impregnou o algoritmo com seus vieses algumas vezes racistas, propagados e difundidos por máquinas que estão fugindo do controle humano”, afirma Celso Athayde, fundador da Central Única das Favelas.
“Não podemos naturalizar o racismo jamais. Devemos propor um novo código antirracista que repense a forma como a sociedade olha para pretos e pretas, não apenas no Brasil, mas no mundo inteiro”, completa ele.
Para a produção, o filme ilustra como essas tecnologias, se não forem cuidadosamente desenvolvidas, monitoradas e ajustadas com um viés antirracista, podem perpetuar desigualdades históricas e sociais.
“Lidamos com ferramentas de IA de geração de imagens e de textos o tempo todo, criando histórias, filmes, clipes e comerciais. E em uma de nossas rotineiras pesquisas, nos confrontamos com esse chocante viés racista em umas das mais prestigiadas plataformas de geração de imagens. Nos sentimos compelidos a reproduzir aquela experiência e compartilhar o sentimento de perplexidade diante de imagens impregnadas de preconceitos” comentam os diretores de cena Diego Santana Claudino e Guto Azevedo, que formam a dupla Salsa, da produtora Primo Content, que assina o projeto.
Para além do filme, o projeto também prevê uma imersão com jovens que fazem parte da produtora Favela Filmes. A ideia é discutir como as novas gerações de cineastas, filmakers, publicitários e profissionais do audiovisual lidam com esses desafios.
Esses encontros vão gerar um relatório de reflexões para ser levado a empresas de programação e linguagem, a fim de que esses códigos e algoritmos sejam revistos e adotem uma perspectiva mais solidária e antirracista.
“Queremos fazer isso em cooperação com as próprias vítimas do racismo: pretas e pretos que trabalham na nossa indústria e sentem todo o peso da discriminação incessante que, agora, como vemos, é também perpetuada pelas nossas próprias ferramentas criativas. Nada sobre nós, sem nós,” enfatiza John Oliveira, CEO da Favela Filmes.
Todo o projeto conta com uma série de exibições do filme e debates em comunidades, escolas e instituições ao redor do país, promovendo um diálogo aberto e inclusivo sobre os desafios e as soluções possíveis para combater o racismo estrutural na era digital.
Por g1 Rio