A linha entre o que é real e o que é fabricado está ficando muito confusa atualmente e o YouTube tem uma solução.
O YouTube, o local ideal para assistir a quase tudo, está adotando novas regras para garantir que possamos perceber a diferença.
Eles sabem, como todos nós, que a forma como a inteligência artificial pode criar vídeos é incrível e um pouco assustadora.
Iniciativa de transparência do YouTube
O problema é que a IA pode ser usada para criar vídeos que confundem os limites entre o real e o falso. Deepfakes, onde a imagem e a voz de alguém são manipuladas, podem ser ferramentas prejudiciais de falsificação de identidade. Vozes sintéticas podem narrar vídeos com informações enganosas, e até mesmo vídeos aparentemente genuínos podem conter edições sutis assistidas por IA. O potencial de uso indevido é muito real.
Pense nisso: a IA pode trocar o rosto e a voz de alguém em um vídeo, fazendo-o dizer e fazer coisas que nunca fez. Essa é toda a coisa do deepfake e se torna perturbador rapidamente. Depois, há aquelas vozes feitas por computador que parecem tão reais que você poderia jurar que está ouvindo uma pessoa real… até perceber que é apenas um programa jorrando mentiras. Mesmo os vídeos “normais” podem ter edições furtivas de IA que mudam toda a história.
Para combater isso, o YouTube está pedindo aos criadores que divulguem quando seus vídeos apresentam elementos gerados por IA que não são imediatamente óbvios. Isso pode incluir adicionar informações à descrição do vídeo
Adicionalmente, vídeos abordando temas delicados assuntos como política ou saúde podem receber um rótulo diretamente no próprio player de vídeo para contexto extra.
O YouTube também é provavelmente desenvolvendo sistemas para detectar vídeos automaticamente que podem conter elementos de IA não divulgados. Isto é crucial porque uma revisão humana de cada upload simplesmente não é viável. Essas ferramentas de detecção de IA procurariam padrões e anomalias que indiquem manipulação digital. Isso pode variar desde a análise da consistência dos padrões de voz de um locutor até a detecção de falhas visuais sutis introduzidas pela tecnologia deepfake.
No entanto, também representa um desafio – à medida que as técnicas de geração de IA avançam, os sistemas de detecção também devem evoluir constantemente, criando uma espécie de corrida armamentista tecnológica.
Manipulação vs. expressão criativa
Há uma diferença entre vídeos enganosos destinados a prejudicar e criadores de conteúdo que usam IA para fins artísticos. Pense naqueles videoclipes fantásticos onde tudo se transforma e se transforma – obviamente não é real, mas é incrível de assistir. Ou cineastas usando IA para criar mundos que de outra forma não poderíamos imaginar.
Onde nós desenhamos a linha entre o engano prejudicial e novas formas excitantes de entretenimento e narrativa?
Honestidade é a melhor política
Ok, claro, às vezes é divertido assistir aqueles deepfakes bobos de políticos cantando músicas pop. Mas quando se trata de coisas sérias, saber o que é real é muito importante.
A desinformação se espalha como um incêndio (lembre-se daqueles Vídeos de caminhão a diesel TikTok pegando fogo?), e se as pessoas acreditam em algo só porque está em um vídeo, isso é um problema. Além disso, pense na pessoa cujo rosto está estampado em algum vídeo em que ela nunca quis aparecer – simplesmente não está certo. É aí que a transparência protege a nós, como espectadores, e às pessoas que podem acabar sendo alvo de um vídeo enganoso de IA.
A tomada de posição do YouTube é um bom começo, mas não podemos ficar complacentes. A tecnologia muda rapidamente e aqueles que tentam nos enganar também ficarão mais espertos. Cabe a nós, espectadores, mantermos nossos pensamentos.
Questione o que você vênão faça apenas um vídeo pelo valor nominal e esteja sempre disposto a se aprofundar para descobrir se algo é real.
Crédito da imagem em destaque: Grátis.
