O avanço da inteligência artificial trouxe ferramentas impressionantes para edição de imagem, criação de vídeos e produção de conteúdo. Mas junto com essa revolução tecnológica, cresce também um problema que preocupa especialistas em segurança digital, psicólogos, juristas e autoridades em diversos países: o uso criminoso de deepfakes para humilhar, sexualizar, manipular e atacar pessoas reais.

📸 Crédito da imagem: Pexels / ShotPot

O alerta voltou a ganhar força após o caso investigado pela Polícia Civil de São Paulo envolvendo o influenciador Jefferson de Souza, acusado de utilizar inteligência artificial para manipular imagens de jovens evangélicas e criar vídeos de cunho sexual sem autorização. Segundo o g1, pelo menos duas adolescentes de 17 anos já registraram boletins de ocorrência contra o influenciador, que nega intenção criminosa e afirma que os vídeos tinham “caráter de humor”.

O caso reacendeu um debate mundial: até onde a inteligência artificial pode ser usada antes de ultrapassar limites éticos, psicológicos e até criminais?

A tecnologia conhecida como “deepfake” utiliza algoritmos avançados capazes de alterar rostos, vozes e movimentos corporais com um nível de realismo assustador. Em poucos minutos, uma pessoa pode ser colocada digitalmente em situações que nunca aconteceram. E o problema é que, muitas vezes, o vídeo parece verdadeiro demais para ser facilmente identificado como falso.

Especialistas afirmam que esse tipo de manipulação já virou uma das maiores ameaças da era digital. Não apenas por espalhar desinformação, mas porque pode destruir vidas reais em questão de horas.

Nos últimos anos, casos envolvendo deepfake cresceram de forma explosiva no mundo inteiro. Empresas de cibersegurança como a Kaspersky, a Norton e a McAfee alertaram recentemente que criminosos estão usando IA para criar golpes cada vez mais convincentes, incluindo clonagem de voz, vídeos falsos de familiares pedindo dinheiro e montagens íntimas feitas sem consentimento.

O problema se tornou tão sério que governos começaram a discutir leis específicas para combater esse tipo de conteúdo.

Nos Estados Unidos, diversos estados aprovaram medidas contra pornografia falsa criada por IA. Na União Europeia, a nova Lei de Inteligência Artificial passou a exigir transparência em conteúdos manipulados digitalmente. Já no Brasil, juristas defendem atualizações urgentes no Código Penal diante da velocidade com que essas ferramentas evoluem.

E o impacto psicológico costuma ser devastador.

Psicólogos explicam que vítimas de deepfakes frequentemente enfrentam crises de ansiedade, vergonha pública, medo social, isolamento e até sintomas depressivos. Em muitos casos, mesmo após a remoção do conteúdo, o dano emocional permanece por muito tempo.

O problema se agrava porque as redes sociais aceleram a viralização. Um vídeo falso pode alcançar milhares — ou milhões — de pessoas antes mesmo que a vítima consiga reagir.

Especialistas em direito digital também alertam que muitos usuários ainda acreditam que “brincadeiras com IA” são inofensivas. Mas quando imagens reais são usadas sem autorização, principalmente envolvendo sexualização, menores de idade ou difamação, o caso pode ultrapassar o limite moral e entrar diretamente na esfera criminal.

Segundo investigadores ouvidos por veículos nacionais, o crescimento dos aplicativos de geração automática de vídeo tornou o acesso à manipulação extremamente fácil. Hoje, praticamente qualquer pessoa com um celular consegue produzir conteúdos falsos convincentes usando plataformas disponíveis gratuitamente na internet.

Ao mesmo tempo, especialistas reforçam que a inteligência artificial não deve ser tratada apenas como uma vilã. A própria IA também vem sendo usada para combater deepfakes, identificar montagens e rastrear conteúdos manipulados.

Empresas de tecnologia já desenvolvem sistemas capazes de detectar alterações digitais em vídeos, identificar clonagem de voz e analisar inconsistências faciais invisíveis ao olho humano.

O desafio atual, segundo pesquisadores, é equilibrar inovação tecnológica com responsabilidade.

A discussão ficou ainda mais intensa porque o fenômeno já ultrapassou celebridades e políticos. Antes concentradas em figuras públicas, as manipulações agora atingem adolescentes, trabalhadores comuns, estudantes, professores e até famílias inteiras.

Outro ponto que preocupa especialistas é o impacto religioso e social de casos como o investigado em São Paulo. A utilização de imagens de jovens em ambientes religiosos para produzir conteúdos sexualizados gerou indignação justamente por atingir diretamente a honra, a imagem pessoal e a fé das vítimas.

Enquanto isso, plataformas digitais enfrentam pressão crescente para agir com mais rapidez. TikTok, YouTube e Meta afirmam possuir políticas contra exploração sexual e conteúdos manipulados nocivos, mas críticos afirmam que a remoção ainda é lenta diante da velocidade de compartilhamento nas redes.

Especialistas em segurança digital orientam alguns cuidados básicos para reduzir riscos:

Evitar deixar perfis totalmente públicos sem necessidade;
Ter atenção às fotos e vídeos compartilhados;
Desconfiar de conteúdos virais extremamente realistas;
Denunciar imediatamente montagens falsas;
Guardar provas e registrar boletim de ocorrência em casos de exposição indevida.

Mais do que um problema tecnológico, o avanço dos deepfakes já é tratado como um desafio humano, social e psicológico da nova era digital.

A tecnologia evoluiu rápido. E a sociedade agora tenta correr atrás para entender como conviver com uma realidade em que nem sempre os olhos conseguem distinguir o que é verdadeiro.

Crédito: g1, CNN Brasil, BBC News Brasil, Kaspersky, Norton, McAfee, Reuters
Adaptação: Rádio Centro Cajazeiras