Meta lucra R$ 250 milhões com golpes com deepfakes no Facebook

O Facebook está se tornando um terreno fértil para golpes com deepfakes que utilizam rostos de personalidades famosas em anúncios falsos, resultando em prejuízos financeiros para os usuários e lucros milionários para a Meta. Um relatório recente revela que a empresa de Mark Zuckerberg tem fechado os olhos para essa prática fraudulenta que já movimentou mais de US$ 49 milhões nos últimos sete anos.

Uma investigação conduzida pelo The New York Times descobriu que anúncios na plataforma utilizaram imagens manipuladas de Karoline Leavitt, secretária de imprensa da Casa Branca, falsamente prometendo aos americanos um auxílio de US$ 5 mil. Ao clicar nos links, os usuários eram redirecionados para um site chamado Get Covered Today, parte de uma elaborada armadilha digital.

O caso está longe de ser isolado. No Brasil, Gisele Bündchen teve sua imagem utilizada em anúncios fraudulentos para produtos de beleza. Nos Estados Unidos, figuras políticas como os senadores Bernie Sanders e Elizabeth Warren também foram vítimas desses golpes com deepfakes, que se multiplicam rapidamente devido à evolução das tecnologias de inteligência artificial.

Meta lucra R$ 250 milhões com golpes com deepfakes no Facebook 4

Segundo a ONG Tech Transparency Project, essas propagandas falsas são uma fonte significativa de receita para o Facebook, o que explicaria a lentidão da Meta em combater o problema. “A Meta está muito ciente desses tipos de golpe. Eles simplesmente não se importam”, afirmou Katie A. Paul, diretora da organização, em entrevista ao New York Times.

Dimensão alarmante do problema

A investigação da Tech Transparency Project revelou números preocupantes sobre a proliferação desses anúncios fraudulentos. Foram identificados 63 anunciantes utilizando práticas enganosas ou fraudulentas que, juntos, compraram aproximadamente 150 mil anúncios falsos na plataforma.

O investimento total desses golpistas chegou a US$ 49 milhões (cerca de R$ 260 milhões) distribuídos ao longo dos últimos sete anos. O mais alarmante é que parte considerável desses anúncios continua no ar, mesmo violando claramente as políticas oficiais do Facebook.

Meta tem faturado milhões com anúncios falsos no Facebook, escapando de ações rápidas contra a fraude, segundo investigação do Tech Transparency Project.

A senadora Elizabeth Warren não poupou críticas à empresa: “A única coisa pior do que esses vídeos deepfakes de IA é o fato de que a Meta ganha dezenas de milhões de dólares com esses anúncios fraudulentos”, declarou ao New York Times.

Contradições nas políticas da Meta

Oficialmente, as regras da Meta proíbem “práticas enganosas ou ilusórias” em suas plataformas, incluindo explicitamente golpes destinados a extrair dinheiro ou informações pessoais dos usuários. As políticas também vedam a falsificação de identidade, exatamente o que ocorre nesses casos de deepfakes.

Em resposta às acusações, a empresa afirmou estar investindo “na construção de novas defesas técnicas”, mas reconheceu que os golpistas estão constantemente desenvolvendo táticas mais sofisticadas para evitar a detecção dos sistemas de segurança.

Facebook e Instagram, plataformas da Meta, continuam a ser usadas para anúncios falsos, apesar de declarações oficiais da empresa.

A contradição mais gritante, no entanto, veio no ano passado, quando a Meta declarou oficialmente “não ter o dever para com os usuários” de impedir que conteúdos fraudulentos circulem em suas plataformas. Esta postura está atraindo pressões regulatórias em diversos países.

Em Singapura, por exemplo, o governo está exigindo que a empresa reprima esses anúncios fraudulentos sob pena de uma multa inicial de US$ 770 mil (aproximadamente R$ 4,1 milhões), valor que pode aumentar diariamente caso a Meta não cumpra a determinação.

Pesquisadores da Tech Transparency Project são enfáticos ao afirmar que a Meta teria plena capacidade de “fazer mais para limitar anúncios e ser mais transparente sobre a aplicação de suas próprias regras”. Em vez disso, observa-se o contrário: a empresa tem reduzido suas equipes de segurança e diminuído os esforços de moderação de conteúdo político, justamente quando os golpes com deepfakes se tornam mais sofisticados e prejudiciais.

Fonte: The New York Times

Você também pode gostar dos artigos abaixo:

Meta vai usar dados das conversas com IA para personalizar anúncios a partir de dezembro

Ex-chefe de segurança do WhatsApp acusa Meta de encobrir falhas e compara culturada empresa a um ‘culto’