O YouTube, plataforma de vídeos do Google, anunciou nesta terça-feira (10) a implementação de uma nova ferramenta destinada à detecção de deepfakes, vídeos falsos gerados por inteligência artificial (IA). Este recurso será disponibilizado a autoridades e candidatos políticos brasileiros, permitindo-lhes verificar se foram alvo de manipulações digitais. A iniciativa inclui uma lista de figuras públicas cujos nomes não foram revelados, uma decisão que, conforme a empresa, visa preservar a privacidade dos participantes do programa.
Denominado “likeness detection”, o sistema já operava desde o ano passado para criadores de conteúdo e influenciadores digitais, mas foi expandido nesta semana para abarcar um escopo mais amplo, incluindo autoridades governamentais, jornalistas e, crucialmente, candidatos políticos. Esta ampliação estratégica surge em resposta direta à recente aprovação, pelo Tribunal Superior Eleitoral (TSE), de novas diretrizes regulatórias para o emprego de inteligência artificial durante o período eleitoral de 2026. As novas normas eleitorais proíbem expressamente o uso de deepfakes com o intuito de prejudicar ou favorecer candidaturas, bem como a publicação de qualquer material sintético nas 72 horas que antecedem o pleito.
As novas regulamentações do TSE estabelecem que plataformas digitais poderão ser responsabilizadas caso não promovam a remoção de conteúdos gerados por IA que transgridam as diretrizes estabelecidas. Os indivíduos que aderirem ao programa de detecção de deepfakes do YouTube serão contatados diretamente pela plataforma. O processo de verificação exige que os participantes comprovem suas identidades junto ao YouTube, que reiterou o compromisso de não utilizar tais informações para o treinamento de seus próprios modelos de inteligência artificial. Após a validação, os usuários poderão realizar buscas estritamente pessoais para verificar se suas imagens foram recriadas sinteticamente no serviço, sendo importante ressaltar que a ferramenta se limita à detecção de elementos visuais e não abrange o áudio.
A identificação de deepfakes representa um dos maiores desafios tecnológicos da atualidade. A criação de sistemas de checagem universal, capazes de discernir criações sintéticas originadas por diversos modelos de IA, demanda um esforço contínuo de construção e atualização de vastos bancos de dados. Detectores abrangentes frequentemente exibem menor eficácia quando confrontados com imagens geradas por modelos que não integraram seu treinamento inicial. Este cenário reflete uma dinâmica de “gato e rato”, impulsionada pela evolução incessante da tecnologia de inteligência artificial. No contexto do programa do YouTube, a tecnologia empregada guarda semelhança com o sistema “ContentID”, amplamente utilizado para identificar violações de direitos autorais. A plataforma expressou a intenção de, futuramente, expandir este recurso para todos os seus usuários, destacando que já opera para criadores de canais monetizados desde o ano anterior.
Contudo, a mera detecção de um deepfake não implica em sua remoção automática e imediata. A empresa esclareceu que cada ocorrência será minuciosamente analisada antes de qualquer decisão. Em um comunicado oficial, o YouTube reforçou seu compromisso com a proteção da liberdade de expressão e do conteúdo de interesse público, incluindo a salvaguarda de materiais como paródias e sátiras, mesmo quando estes são empregados para criticar figuras proeminentes. Além da avaliação sobre a natureza sintética do conteúdo, a plataforma considerará o nível de realismo da representação, a presença de rótulos que indiquem ser material sintético, e se o propósito é claramente de paródia ou sátira para enriquecer o debate público. Fatores como a representação da pessoa cometendo crimes ou endossando candidatos ou produtos também serão cruciais para a análise final.
Fonte: ECONOMIA – InfoMoney