Parte dos políticos e jornalistas do Brasil passará a ter acesso a uma ferramenta do YouTube que rastreia, com base na aparência da pessoa, conteúdos publicados na plataforma em que seu rosto apareça e tenham sido potencialmente alterados ou criados com inteligência artificial.
Apesar de o intuito ser o combate a conteúdos como deepfakes, que estão cada vez mais realistas, o próprio texto do YouTube sobre a ferramenta afirma que, por estar em fase de testes, o recurso pode detectar também vídeos que mostram os rostos reais dessas pessoas.
A partir dessa varredura inicial feita pela plataforma, a figura pública poderá revisar os conteúdos listados e solicitar a remoção daqueles gerados ou alterados por IA. De acordo com a empresa, a retirada não será automática e dependerá de análise e critérios definidos em suas diretrizes de privacidade.
Segundo comunicado do YouTube, o acesso será dado a um “grupo piloto de autoridades governamentais, jornalistas e candidatos políticos”. Não será publicizada, porém, a lista de pessoas que poderão se cadastrar para usar a ferramenta. Conforme a empresa, por questões de privacidade.
No Brasil, a ferramenta deve ser apresentada ao TSE (Tribunal Superior Eleitoral) como parte dos esforços do YouTube relacionados às eleições. Ela passa a estar disponível, a partir desta terça-feira (10), a políticos que forem contactados pela plataforma no país. Esse grupo deve ser expandido progressivamente, mas não há mais detalhes a respeito.
Aqueles que aceitarem se inscrever precisarão enviar um documento de identidade oficial, assim como gravar um vídeo curto do seu rosto, como uma selfie. É preciso ter um canal registrado na YouTube -ainda que sem uso- para viabilizar o uso da ferramenta.
Em entrevista coletiva, representantes da empresa foram questionados, por exemplo, se o presidente dos Estados Unidos, Donald Trump, teria acesso ao recurso -o que não foi informado.
Tampouco foi divulgado em quais outros países políticos e jornalistas passariam a ter acesso à ferramenta nessa primeira rodada de expansão. Nessa entrevista, estiveram presentes, além da Folha de S.Paulo, apenas jornalistas dos EUA.
Na semana passada, o TSE aprovou novas regras sobre propaganda eleitoral e conteúdo político nas redes. Entre outros itens, manteve a proibição de deepfake tanto para prejudicar quanto para favorecer candidaturas e proibiu a publicação desde 72 horas antes da eleição de conteúdos com IA.
A resolução sobre o tema prevê também a responsabilização solidária das redes sociais caso elas não removam conteúdos considerados “de risco”, sendo um deles o de divulgação de conteúdo gerado ou alterado por IA que esteja em desacordo com as vedações eleitorais.
Por ora, a ferramenta do YouTube inclui apenas imagem, não áudio. Ela funcionará de modo semelhante à Content ID, conhecida por rastrear conteúdo protegido por direitos autorais na plataforma, mas buscando imagens que pareçam ser do rosto da pessoa que se registrou.
“É uma maneira de a gente ter mais pessoas controlando, de alguma forma, a sua imagem, tendo mais gerência, mais autonomia para fazer essa fiscalização”, diz Alana Rizzo, líder de políticas públicas do YouTube Brasil. “Essa ferramenta faz essa busca e detecção em grande escala e depois comunica o detentor daquele canal, daquela imagem.”
Apenas casos que se enquadrem como violação às diretrizes de privacidade poderão ser denunciados por esse mecanismo, não incluindo outras práticas, como desinformação.
Segundo as regras, entre os fatores considerados pelo YouTube para avaliar o pedido de remoção, está se o conteúdo é sintético ou alterado, se é realista, ou se o material mostra uma figura pública ou pessoa conhecida praticando “atividades sensíveis, como crimes, atos de violência e endossos a produtos ou candidatos políticos”. Além disso, se apresenta paródia, sátira ou outro aspecto de interesse público.
“Se um vídeo de um líder mundial é claramente uma paródia, é provável que permaneça no ar”, afirmou Leslie Miller, vice-presidente de assuntos governamentais e políticas públicas.
A reportagem questionou em que medida o YouTube consegue, a partir de sua análise, afirmar que um conteúdo é de fato sintético ou alterado por IA, de modo a evitar que vídeos reais sejam removidos sob essa alegação. Alana Rizzo afirmou que cada vídeo é estudado caso a caso. Acrescentou ainda que a empresa aprimora suas tecnologias e políticas de análise de conteúdo constantemente.
Lançada no ano passado, a ferramenta de detecção de semelhanças tinha sido disponibilizada até então para os canais do YouTube que fazem parte de seu programa de parcerias, número que estaria em cerca de 4 milhões de criadores no mundo (entre os critérios para ingressar neste grupo, que pode monetizar seus vídeos, há número mínimo de conteúdo publicado e de inscritos no canal). É possível, portanto, que políticos e jornalistas do Brasil que se enquadrem nesses critérios já tenham ativado o recurso de detecção.
Segundo Amjad Hanif, vice-presidente de produtos para criadores do YouTube, a intenção é expandir o acesso além do grupo piloto, mas com foco em governantes e jornalistas. Ele também destacou que cada país envolve questões diferentes a serem resolvidas, ligadas ao processamento de dados pessoais.
O risco de haver uso desses dados biométricos pelo Google para treinar sistemas de IA foi alvo de questionamentos na imprensa dos Estados Unidos no ano passado, à época do lançamento para donos de canais. A empresa negou tal utilização e afirmou que deixaria a redação mais clara.
O YouTube disse à reportagem que os dados fornecidos para registro são usados “estritamente para fins de verificação de identidade e para o recurso de detecção de imagem” e que “eles não são utilizados para treinar os modelos de IA generativa do Google”.
Na página sobre a ferramenta consta que, ao se inscrever, a pessoa poderá “permitir que o YouTube use seus modelos de rosto e voz para desenvolver e aprimorar os modelos” de detecção. De acordo com a empresa, o modelo de detecção não envolve IA generativa.
