Como a Inteligência Artificial Ajuda a Identificar Vídeos Falsos

A inteligência artificial oferece uma série de benefícios para empresas, pesquisas e pessoas, mas também pode contribuir para disseminar discursos de ódio e mentiras, manipular vídeos e áudios, além de implementar os mais diversos golpes. Para reduzir o impacto negativo que a IA pode trazer, pesquisadores da UC Riverside e cientistas do Google criaram um sistema que identifica modificações, como troca de rostos e fala alterada.

Com a evolução das deepfakes, as pessoas criam vídeos cada vez mais realistas. Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering, e Amit Roy-Chowdhury, professor de engenharia elétrica e computação e co-diretor do Instituto de Pesquisa e Educação em Inteligência Artificial (RAISE) na mesma instituição, junto com a equipe do Google, criaram o Universal Network for Identifying Tampered and SynthEtic Videos (UNITE). O sistema examina rostos, quadros de vídeo, como fundos e padrões de movimento, para detectar vídeos adulterados que não se limitam unicamente à troca de rostos.

Como as Deepfakes Evoluíram

As deepfakes evoluíram e não se limitam mais a trocas de rostos. As pessoas estão criando vídeos totalmente falsos, de rostos e locais, utilizando modelos generativos poderosos.

Facilidade na Criação de Vídeos com Inteligência Artificial

Os sistemas de inteligência artificial generativa disponíveis atualmente tornam a criação de vídeos acessível para todos os usuários, permitindo o desenvolvimento de conteúdos manipulados e altamente convincentes. É assustador como essas ferramentas se tornaram acessíveis. Qualquer pessoa com habilidades moderadas pode gerar vídeos realistas de figuras públicas dizendo coisas que nunca disseram e contornar filtros de segurança.

Kundu explica que detectores de deepfake só conseguem identificar manipulações basicamente em sinais faciais, não conseguindo detectar mudanças no fundo de uma cena que também podem distorcer a verdade. Para superar esse obstáculo, o UNITE utiliza um modelo de aprendizado profundo que identifica inconsistências sutis em elementos espaciais e temporais.

O que é o UNITE?

O UNITE é um sistema que sinaliza as mais diferentes falsificações, desde trocas faciais simples até produções mais complexas, que não são baseadas em filmagens reais. A arquitetura, metodologia e descobertas do sistema foram apresentadas durante a Conferência sobre Visão Computacional e Reconhecimento de Padrões (CVPR) e contou com a coautoria de Hao Xiong, Vishal Mohanty e Athula Balachandra, pesquisadores do Google.

Com acesso a grandes conjuntos de dados e recursos computacionais, o sistema foi treinado com texto e imagens estáticas. Isso inclui vídeos gerados a partir de textos ou imagens que normalmente confundem os detectores de fraudes existentes.

Como Identificar Deepfakes

Enquanto o sistema UNITE ainda não está disponível para os usuários, existem algumas maneiras de ajudar a identificar deepfakes:

• Preste atenção aos detalhes no rosto, como mudanças no tom da pele, sombras e rugas.
• Fique atento às expressões, principalmente movimentos bruscos e não naturais.
• Observe o movimento dos olhos, como piscadas exageradas ou de baixa frequência.
• Analise o movimento do corpo para identificar movimentos mecanizados.
• Foque na sincronia entre o movimento dos lábios e as palavras.

Siga nosso canal @canalsegredosdodigital no Instagram e TikTok para dicas diárias sobre IA, automações e marketing digital.

Perguntas Frequentes sobre a ferramenta

Como usar essa ferramenta de IA no dia a dia?
Você pode aplicá-la para verificar a autenticidade de vídeos em suas redes sociais ou em reportagens, ajudando a evitar a disseminação de informações falsas.

Essa plataforma é gratuita ou paga?
Ainda não há informações sobre a liberação da ferramenta para o público geral, incluindo detalhes sobre custos.

Qual a principal vantagem dessa ferramenta?
Ela proporciona uma identificação mais precisa de deepfakes, abordando manipulações que vão além das simples trocas de rostos.

Palavras-chave: identificação de deepfakes, inteligência artificial, vídeos falsos, reconhecimento de padrões, combate a fraudes digitais.

Categoria: IA de Video