Um juiz federal o invalidou menos de duas semanas depois que o governador da Califórnia, Gavin Newsom, assinou sua nova lei de deepfake de IA. O AB 2839 pretendia impedir a propagação de deepfakes politicamente espetados, incluindo o vídeo gerado por IA da vice-presidente Kamala Harris, redistribuído por Elon Musk. A decisão do tribunal de que a lei provavelmente viola as proteções da Primeira Emenda é um golpe nos esforços da Califórnia para usar a IA para combater a desinformação eleitoral.
No mês passado, a AB 2839, sancionada, pretendia responsabilizar as pessoas pela disseminação de deepfakes politicamente enganosos que poderiam enganar os eleitores. Não policiou as plataformas de redes sociais, mas permitiu que os juízes ordenassem que as pessoas removessem o conteúdo que elas próprias escreveram, gerado por inteligência artificial. Seguiu-se às preocupações crescentes sobre o aumento da desinformação política gerada pela IA, uma grande preocupação antes das próximas eleições.
O deepfake viral de Kamala Harris e suas implicações
A ação que contesta a lei foi movida pelo YouTuber Christopher Kohls, conhecido online como “Sr. Reagan”, que postou o vídeo de Kamala Harris manipulado por IA. O deepfake foi defendido por sua equipe jurídica, que argumentou que a Primeira Emenda era uma sátira política. O juiz distrital dos EUA, John Mendez, concordou e emitiu uma liminar impedindo a aplicação da lei. Mendez disse que a lei era muito ampla e poderia facilmente ser abusada para esmagar discursos protegidos constitucionalmente, como sátira e paródia.
“Quase qualquer conteúdo alterado digitalmente, quando deixado para um indivíduo arbitrário na internet, pode ser considerado prejudicial”,
Mendez afirmou. Ele disse que a lei empregava uma linguagem ampla e subjetiva que colocava em risco a liberdade de expressão. Embora o Estado tenha interesse na integridade eleitoral, disse Mendez, esta lei, tal como foi escrita, infringe injustamente a expressão política protegida pela Primeira Emenda.
Pouco depois da decisão judicial de 12 de dezembro, Elon Muskque zombou da nova lei depois de postar o tweet deepfake de Harris, tuitou no X (antigo Twitter): ‘O tribunal encerra a lei inconstitucional da Califórnia que invadiu sua liberdade de expressão.’ Yay!” Sua postagem se tornou viral desde então, e a luta on-line sobre o entre e/ou só esquentou ainda mais em relação ao equilíbrio entre a liberdade de expressão e a regulamentação do conteúdo gerado por IA.
Como naquela vez em que Streisand processou alguém por revelar seu endereço super óbvio em Malibu. Isso realmente manteve o controle sobre isso, lmao. https://t.co/Av5CDlRtJ4
-Elon Musk (@elonmusk) 18 de setembro de 2024
A liminar é temporária e não está claro se esse tipo de bloqueio vai durar. O Gabinete do Governador Newsom expressou que o estado está confiante de que poderá regular os deepfakes de IA no futuro. Um porta-voz defendeu a lei dizendo: “Estamos confiantes de que os tribunais defenderão a capacidade do estado de regular esses tipos de deepfakes perigosos e enganosos, ao mesmo tempo que garantem que esses direitos de liberdade de expressão possam continuar a existir”.
A própria decisão enfatiza o amor pelo movimento entre a nova tecnologia de IA e as salvaguardas constitucionais consagradas pelo tempo, à medida que as falsificações se tornam cada vez mais inteligentes e mais difíceis de diferenciar. O resultado desta batalha legal poderá moldar a forma como os estados regulam o conteúdo gerado pela IA no período que antecede as eleições.
Crédito da imagem em destaque: Emre Çıtak/Ideograma IA