Deepfakes cada vez mais indistinguíveis, alertam especialistas

Deepfakes cada vez mais indistinguíveis, alertam especialistas

Profissionais especializados em tecnologia das empresas OpenAI e Meta divulgaram avisos durante reunião realizada em Boston alertando que os deepfakes — vídeos e áudios falsificados através de inteligência artificial — apresentam crescente dificuldade em serem diferenciados de materiais genuínos. A constatação foi feita durante sessão do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, monitorada pela Reuters, que examina há três anos as implicações dos deepfakes nos processos judiciais.

Inteligência artificial generativa amplifica o desafio

Os avanços tecnológicos na chamada inteligência artificial generativa — sistema capaz de produzir conteúdos diversificados como imagens, vídeos e áudios mediante instruções específicas — tornaram consideravelmente mais complexa a identificação de fraudes tanto por indivíduos quanto por algoritmos computacionais. Segundo os especialistas presentes na reunião, a qualidade das imagens geradas por IA alcançou níveis que comprometem significativamente a verificação de autenticidade.

Shira Anderson, consultora de políticas da OpenAI, expressou preocupação direta sobre o futuro: "As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las". Esta declaração evidencia a magnitude do desafio enfrentado por pesquisadores e desenvolvedores na criação de mecanismos efetivos de detecção.

Impacto nos tribunais americanos

O avanço da tecnologia de deepfakes representa preocupação particular para o sistema judiciário norte-americano. A verificação de provas apresentadas em julgamentos pode ser comprometida pela impossibilidade de confirmar a autenticidade de materiais audiovisuais. Desde 2023, o comitê discute procedimentos para validar conteúdos suspeitos de serem deepfakes e estabelecer critérios de confiabilidade equivalentes aos exigidos para outras categorias de evidência.

Apesar das preocupações levantadas pelos especialistas, registram-se ainda poucos casos práticos envolvendo deepfakes nos tribunais americanos. Pesquisa realizada em março pelo Centro Federal do Judiciário, órgão de investigação do Poder Judiciário dos EUA, constatou que apenas 15 dos 931 juízes consultados haviam enfrentado situação na qual uma das partes contestasse prova sob suspeita de ser deepfake.

O juiz federal Jesse Furman, de Manhattan, que preside o comitê, comentou sobre a lacuna entre previsões e realidade: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo".

Perspectivas da indústria sobre o risco futuro

Não obstante a reduzida incidência atual, especialistas de setores diversos — indústria, academia e governo — sustentam que os riscos não são meramente teóricos. Suas análises indicam crescimento progressivo na dificuldade de identificação de provas fabricadas através de inteligência artificial nos ambientes judiciais.

Devin Norder, diretor de gestão de produtos da Meta, comunicou à Reuters que conteúdos criados pelos modelos de IA mais sofisticados já conseguem atingir nível de indistinguibilidade em relação a mídias autênticas quando observados por seres humanos. Norder também ressaltou aspecto crítico: a produção desse material exige investimento mínimo de tempo e recursos financeiros, tornando a ameaça mais acessível.

Esforços de verificação e marcas d'água

OpenAI e Meta integram o conjunto de grandes empresas tecnológicas que desenvolvem ferramentas e serviços destinados a auxiliar na verificação de autenticidade de conteúdos visuais. A preocupação corporativa reflete o reconhecimento das implicações dessa tecnologia para plataformas digitais e ecossistema informativo global.

Legislações recentes em jurisdições estratégicas, como Califórnia e União Europeia, incorporaram exigências de implementação de marcas-d'água para identificar materiais falsificados por IA. Essas marcas consistem em sinais incorporados ao conteúdo digital que indicam origem ou facilitam identificação de elementos manipulados.

Contudo, Anderson da OpenAI alertou sobre limitações desse mecanismo: nenhum método universal existe capaz de identificar com segurança todas essas marcas ou confirmar com certeza absoluta a autenticidade de conteúdo visual. Como cada empresa tecnológica utiliza sistema próprio de marcação, a verificação permanece sujeita a restrições significativas.

Perspectivas futuras e desafios contínuos

A consultora de políticas da OpenAI ofereceu perspectiva moderada sobre evoluções esperadas: "Minha impressão é que isso certamente continuará melhorando". Porém, sua ressalva é importante: "Não acho que algum dia será à prova de falhas". Esta posição reconhece que a defesa permanente contra deepfakes permanecerá como desafio contínuo na sociedade digital contemporânea, requerendo aprimoramentos constantes em metodologias de detecção e regulação específica.