As autoridades brasileiras prenderam quatro suspeitos envolvidos em um esquema fraudulento online, marcado como a primeira grande ação do país no combate ao uso de ferramentas de inteligência artificial que manipulam imagens e vídeos de celebridades para cometer fraudes. O grupo criminoso utilizava deepfakes de celebridades brasileiras, incluindo a modelo Gisele Bundchen, para promover seus esquemas nas redes sociais, especialmente no Instagram, conforme reportado pela Reuters.
Não perca nenhuma notícia importante da atualidade de tecnologia eacompanhe tudo em tek.sapo.pt
Durante a operação, as autoridades congelaram ativos em cinco Estados do Brasil, além de fundos monetários que ultrapassam 20 milhões de reais (aproximadamente 3,3 milhões de euros), identificados pela agência federal de combate à lavagem de dinheiro, COAF.
A investigação e a operação das autoridades brasileiras ocorreram menos de dois meses após o governo de Lula da Silva ter elaborado uma legislação que responsabiliza as redes sociais por toda a comunicação falsa que circula em suas plataformas. Isso significa que plataformas como Instagram, Facebook e X se tornarão responsáveis e poderão ser penalizadas por violações de direitos que ocorram nesses espaços online. A nova regulamentação busca estabelecer limites à liberdade de expressão e definir consequências para quando esses limites forem ultrapassados, com um foco especial na proteção de crianças e jovens.
Citado pela Reuters, a Meta, proprietária do Instagram, afirmou que suas políticas de utilização proíbem anúncios que utilizem figuras públicas para enganar as pessoas em esquemas fraudulentos. Esses anúncios são removidos assim que são detectados. A empresa de Mark Zuckerberg ressaltou que tem sistemas especializados na detecção do uso indevido de celebridades, investe na formação e treinamento de suas equipes de revisão, compartilha dicas para evitar fraudes e oferece ferramentas para que potenciais violações possam ser reportadas.
Um porta-voz da equipe da supermodelo brasileira alertou também os consumidores para que tenham cuidado com descontos incomuns em anúncios com celebridades. As pessoas devem sempre verificar a autenticidade das ofertas através dos canais oficiais da marca e dos protagonistas dos anúncios e, ao identificar um esquema, devem reportá-los às autoridades.
A investigação teve início no Estado do Rio Grande do Sul em atrássto de 2024, após uma vítima ter relatado ter sido enganada por um anúncio no Instagram que mostrava um vídeo deepfake de Gisele Bundchen promovendo um produto para tratamento da pele. A modelo também foi utilizada em outros esquemas, como sorteios relacionados a malas, onde os usuários pagavam os custos de transporte de itens que nunca chegavam ao seu destino.
Um dado relevante sobre as fraudes, durante a investigação da lavagem de dinheiro, é que a maioria das vítimas perdeu quantias pequenas, abaixo de 100 reais (16 euros), e por isso nunca relataram os crimes. “Eles criaram uma situação perversa, em que os criminosos desfrutam de uma espécie de imunidade estatística. Sabiam que a maioria das pessoas não os denunciaria, por isso operavam em larga escala sem temor”.
Vale lembrar que em junho, o Supremo Tribunal Federal do Brasil já tinha decidido que as plataformas digitais são responsáveis pelos conteúdos gerados pelos seus usuários. A nova regulamentação estará alinhada com essa decisão, buscando definir limites para a liberdade de expressão e as consequências para quando esses limites forem violados, com uma atenção especial à proteção de crianças e jovens.
“Liberdade de expressão não é perturbar a vida dos outros, não é mentir, não é fazer provocações ou propagandear ódio”, enfatizou Lula, sublinhando a importância de criar regras que ajudem as democracias a se organizarem e a garantir que os direitos de todos sejam preservados.
