O recente escândalo de vídeo de Megan Thee Stallion AI, que deixou a rapper emocionalmente perturbada durante uma apresentação, serve como mais um lembrete gritante dos perigos crescentes da tecnologia deepfake. À medida que a inteligência artificial continua a avançar a um ritmo sem precedentes, também aumenta o potencial de utilização indevida, com os deepfakes a tornarem-se cada vez mais sofisticados e difíceis de distinguir do conteúdo autêntico.
No caso de Megan Thee Stallion, um vídeo explícito gerado por IA com a imagem dela circulou online, causando angústia significativa e provocando uma onda de assédio online.
A rapper corajosamente abordou o assunto durante sua Turnê de verão Hot Girldesatando a chorar ao denunciar os perpetradores e suas intenções maliciosas.
O vídeo de Megan Thee Stallion AI é apenas um entre muitos
Este incidente está longe de ser isolado. Inúmeras celebridades foram vítimas de tecnologia deepfake, com imagens e vídeos gerados por IA frequentemente usados para espalhar desinformação, difamar reputações ou até mesmo alimentar campanhas de assédio. Bobbi Althoffpor exemplo, enfrentou uma provação semelhante quando uma imagem deepfake explícita apareceu nas redes sociais, solicitando uma ação rápida da plataforma para remover o conteúdo.
O vídeo de Megan Thee Stallion AI obteve uma resposta do rapper de sucesso com as seguintes palavras em sua conta X, @o garanhão:
É realmente doentio como vocês se esforçam para me machucar quando me veem ganhando. Vocês estão indo longe demais, merda falsa. Só saiba que hoje foi seu último dia brincando comigo e estou falando sério.
-TINA SNOW (@theestallion) 8 de junho de 2024
Após o escândalo do vídeo Megan Thee Stallion AI, tem havido apelos por estruturas legais mais rígidas para abordar a criação e distribuição de deepfakes. Alguns especialistas defendem que a criação de deepfakes não consensuais seja considerada crime, enquanto outros propõem o desenvolvimento de soluções tecnológicas para detectar e sinalizar tal conteúdo, assim como o TikTok faz.
Os deepfakes são ilegais?
A legalidade dos deepfakes é uma questão complexa e em evolução que varia de acordo com a jurisdição e o contexto em que a tecnologia é usada. Deepfakes, que envolvem o uso de inteligência artificial para criar imagens, vídeos ou gravações de áudio de pessoas realistas, mas falsos, podem ser empregados para uma ampla gama de propósitos, tanto benignos quanto maliciosos.
1. Compreendendo os deepfakes
Deepfakes usam técnicas avançadas de IA, particularmente aprendizado profundo, para manipular ou gerar conteúdo de áudio, visual e vídeo e foi assim que o vídeo Megan Thee Stallion AI foi gerado. Embora a tecnologia possa ser utilizada para fins criativos e educacionais, também tem sido associada a atividades mais nefastas, como desinformação, difamação e pornografia não consensual.
2. Quadro jurídico geral
A legalidade dos deepfakes depende em grande parte de como e para que finalidade são usados. Existem várias áreas principais onde os deepfakes se cruzam com a lei:
- Difamação e desinformação: Se um deepfake for usado para criar conteúdo que prejudique a reputação de uma pessoa ao apresentar informações falsas como verdadeiras, ele poderá estar sujeito a leis de difamação.
- Violações de privacidade: Criar e distribuir conteúdo deepfake sem o consentimento do sujeito, especialmente se envolver informações confidenciais ou privadas, pode levar a violações de privacidade.
- Pornografia não consensual: Deepfakes têm sido notoriamente usados para criar conteúdo explícito sem o consentimento da pessoa retratada. Isto é muitas vezes ilegal e pode ser processado ao abrigo de leis contra a pornografia de vingança e outras formas de exploração sexual.
3. Legislação em diferentes jurisdições
- Estados Unidos: Alguns estados promulgaram leis específicas abordando deepfakes. Por exemplo, a Califórnia e o Texas têm leis que tornam ilegal a criação ou distribuição de vídeos deepfake que possam interferir nas eleições ou a criação de deepfakes pornográficos não consensuais.
- União Europeia: A UE possui leis rígidas de privacidade sob o Regulamento Geral de Proteção de Dados (GDPR), que podem ser aplicadas a deepfakes. O uso não autorizado da imagem de alguém pode resultar em multas significativas.
- China: Em 2019, a China introduziu regulamentos que exigem que o conteúdo deepfake seja claramente rotulado como tal, com o objetivo de reduzir a desinformação e proteger o público.
4. Desafios na regulamentação
A regulamentação dos deepfakes apresenta vários desafios:
- Detecção: Identificar deepfakes pode ser tecnicamente desafiador, e ficar à frente de técnicas cada vez mais sofisticadas exige inovação constante.
- Discurso livre: As leis contra deepfakes devem equilibrar a necessidade de prevenir danos com a proteção da liberdade de expressão. Regulamentações excessivamente amplas poderiam sufocar a expressão legítima.
- Jurisdição: A natureza global da Internet significa que o conteúdo deepfake criado num país pode facilmente espalhar-se para outro, complicando a aplicação das leis locais.
5. Exemplos de casos jurídicos
Houve vários casos legais de alto perfil envolvendo deepfakes:
- Pornografia de vingança: Vítimas de pornografia deepfake não consensual processaram com sucesso criadores e distribuidores de acordo com as leis existentes sobre pornografia de vingança e assédio, e esse pode ser o caso do vídeo Megan Thee Stallion AI.
- Manipulação política: Houve casos em que a tecnologia deepfake foi usada para manipular resultados políticos, levando a pedidos de regulamentações mais rigorosas em vários países.
Uma questão que é simplesmente inegável
Independentemente da abordagem específica, é claro que devem ser tomadas medidas para mitigar os riscos associados à tecnologia deepfake. Isto inclui educar o público sobre os perigos dos deepfakes, aumentar a conscientização sobre o potencial de uso indevido e promover práticas responsáveis de desenvolvimento de IA.
O vídeo Megan Thee Stallion AI serve como um alerta para a indústria do entretenimento, plataformas de mídia social e também para os legisladores. A hora de agir é agora, antes que os danos causados pelos deepfakes se tornem irreparáveis. Ao trabalharmos em conjunto para resolver esta questão, podemos garantir que a tecnologia da IA é utilizada para o bem, e não como uma ferramenta para exploração e danos.
Crédito da imagem em destaque: Garanhão de Megan Thee/Instagram
