Meta e o dilema dos golpes com deepfakes de celebridades

Ultimamente muitos casos de DeepFake circulou pelas redes sociais da Meta, dona do Facebook, Whatsapp e Instagram.

Por exemplo um vídeo falso do ex-jogador Ronaldo Fenômeno, feito com tecnologia de deepfake, circulou no Facebook promovendo um suposto jogo de cassino chamado Plinko.

Mesmo com várias denúncias de fraude, a Meta só removeu o conteúdo depois que o Comitê de Supervisão da própria empresa decidiu intervir diretamente.

O episódio escancara um problema estrutural: a plataforma evita agir de imediato para não correr o risco de remover conteúdos legítimos de figuras públicas.

Isso faz com que apenas equipes internas altamente especializadas tenham poder de decisão, tornando o processo lento e permitindo que golpes se espalhem com facilidade.

O Comitê de Supervisão recomendou mudanças nas regras de moderação, incluindo treinamentos específicos para que os revisores consigam identificar sinais de manipulação por inteligência artificial, como falhas entre áudio e imagem ou rastros digitais que revelam adulterações.

A Meta, por sua vez, contestou, respondendo que já está investindo em novas tecnologias antifraude, como sistemas de reconhecimento facial voltados para identificar golpes que usam a imagem de celebridades.

Ainda assim, especialistas e o próprio Comitê consideram que a resposta é insuficiente diante da velocidade com que deepfakes estão se popularizando e sendo usados em fraudes.

E o problema vai além de anúncios enganosos, DeepFakes estão sendo utilizados em golpes mais sofisticados, como fraudes financeiras e até videochamadas falsas.

Há registros de empresas que chegaram a perder milhões de dólares após funcionários receberem instruções de transferência diretamente de um “executivo” que, na verdade, era apenas uma criação de inteligência artificial.

Esse cenário mostra que estamos diante de um desafio que mistura tecnologia, segurança digital e responsabilidade das grandes plataformas.

O avanço dos DeepFakes traz riscos reais, e a forma como empresas como a Meta lidam com esse problema terá impacto direto na proteção de usuários e na confiança do público em ambientes digitais.