A Dinamarca está propondo uma nova legislação para alterar sua lei de direitos autorais digitais, abordando a crescente ameaça de fagos DeepFakes gerados pela IA. As mudanças propostas buscam proteger os direitos individuais sobre suas identidades digitais em resposta ao aumento Deepfake Ataques, que resultaram em perdas financeiras significativas e na disseminação da desinformação.
A DeepFakes utiliza inteligência artificial para produzir imagens, vídeos e gravações de áudio realistas. A tecnologia foi empregada de várias maneiras, desde a criação de conteúdo humorístico até a perpetração de fraudes financeiras e a divulgação de informações enganosas. O Fórum Econômico MundialA Coalizão Global de Segurança Digital está trabalhando para promover a cooperação pública-privada para combater o conteúdo on-line prejudicial, incluindo DeepFakes, e para aprimorar a alfabetização da mídia digital.
A emenda do governo dinamarquês, considerado um esforço pioneiro na Europa, visa proteger o controle dos indivíduos sobre suas identidades, especificamente sua aparência e voz. O governo pretende enviar a emenda no outono, indicando a urgência com a qual vê o problema. A proposta obteve apoio entre partes, sugerindo um consenso sobre a necessidade de enfrentar os desafios relacionados à DeepFake.
DeepFakes Aproveite a tecnologia IA, especificamente “aprendizado profundo”, para criar conteúdo manipulado ou totalmente fabricado. Essa tecnologia pode alterar o conteúdo existente, conforme ilustrado substituindo o rosto de um ator por outro em clipes de filme. Também pode gerar novos conteúdos, representando indivíduos dizendo ou fazendo coisas que nunca fizeram. Enquanto alguns usos, como a troca de rosto nas cenas do cinema, podem parecer inofensivos, eles levantam preocupações com o direito do indivíduo à sua imagem.
Em 2023, os atores dos EUA entraram em greve para defender o controle sobre o uso de suas imagens pela IA. A greve levou a produções de filmes e TV. Os atores garantiram um compromisso do setor de que qualquer uso futuro da IA de suas imagens exigiria seu consentimento explícito. Este evento destaca a crescente consciência e preocupação com relação ao uso da IA para manipular ou replicar a semelhança dos indivíduos sem permissão.
Uma ameaça significativa representada por DeepFakes é seu uso na divulgação de notícias falsas. Instâncias incluem DeepFakes do ex -presidente dos EUA Joe Biden e presidente ucraniano Volodymyr Zelenskyy. Ao criar a aparência que as mensagens se originam de fontes confiáveis, os deepfakes podem dar credibilidade a informações falsas, potencialmente influenciando a opinião pública e o discurso político.
Assemble.aiA pesquisa indica que a fraude financeira e o crime cibernético representam áreas de crescimento substanciais para aplicações de DeepFake. Enquanto 41% De metas de Deepfake são figuras públicas, incluindo celebridades, políticos e líderes empresariais, 34% são indivíduos particulares, predominantemente mulheres e crianças. Organizações são responsáveis por 18% daqueles direcionados por DeepFakes.
A empresa de engenharia do Reino Unido Arup experimentou um golpe de Deepfake que resultou em uma perda financeira de US $ 25 milhões. Os cibercriminosos utilizaram um clone gerado pela IA de um gerente sênior para convencer um funcionário financeiro a transferir os fundos durante uma videochamada. Esta instância ilustra o potencial de os deepfakes para facilitar crimes financeiros sofisticados.
Uma tentativa de fraude segmentando Ferrari envolveu o uso de uma voz gerada pela IA do CEO Benedetto Vigna. Um funcionário frustrou a tentativa fazendo uma pergunta de que apenas o CEO real poderia responder. UM BBC Jornalista demonstrou o potencial de clonagem de voz ignorando o sistema de identificação de voz de seu banco usando uma versão sintética de sua própria voz. Esses exemplos ressaltam a crescente sofisticação e acessibilidade da tecnologia DeepFake para fins maliciosos.
Assemble.aiRelatório de segurança de Deepfake para Q2 2025 revelou um aumento significativo nos ataques de DeepFake divulgados publicamente. O relatório documentado 487 tais ataques, representando um Aumento de 41% comparado ao trimestre anterior e um Aumento de 300% ano a ano. As descobertas da empresa também indicaram que perdas financeiras diretas resultantes de golpes de Deepfake chegaram quase US $ 350 milhões. Assemble.ai Também observou que os ataques de Deepfake estão dobrando a cada seis meses, destacando a natureza crescente da ameaça.
Assemble.ai Indica que a fraude do DeepFake é uma questão global, particularmente prevalente em regiões tecnologicamente avançadas. Enquanto os EUA levam os incidentes relatados, os casos de DeepFake também são generalizados na Ásia -Pacífico e na Europa, com um rápido aumento observado na África. Essa distribuição global ressalta a necessidade de cooperação internacional ao enfrentar os desafios apresentados por DeepFakes.
Os EUA implementaram a Lei de Take It Down, exigindo a remoção de fagos de Deepfates nocivos dentro 48 horas e impor penalidades criminais federais por sua distribuição. A lei também exige que sites públicos e aplicativos móveis estabeleçam procedimentos de relatórios e quedas. Os legisladores estaduais no Tennessee, Louisiana e Flórida promulgaram suas próprias leis de DeepFake, demonstrando uma abordagem multifacetada para resolver a questão.
A Lei de Serviços Digitais (DSA) da União Europeia, que entrou em vigor em 2024, visa evitar atividades ilegais e prejudiciais on -line, incluindo a disseminação de desinformação. O DSA colocou os provedores de serviços on-line sob maior escrutínio, e várias investigações formais para não conformidade já estão em andamento. O Reino Unido adotou uma abordagem semelhante à Lei de Segurança Online, implementada no início de 2025.
A emenda dinamarquesa em consideração permite que indivíduos afetados pelo conteúdo do DeepFake solicitem sua remoção. Os artistas podem exigir compensação pelo uso não autorizado de sua imagem. O direito de compensação se estenderia para 50 anos além da morte do artista. Plataformas on -line como Meta e X podem enfrentar multas substanciais se a conta alterada for aprovada conforme proposto. O projeto estabeleceria as fundações legais para buscar danos sob a lei dinamarquesa, embora não preveja diretamente compensação ou acusações criminais.
Com a Dinamarca mantendo a presidência do Conselho da União Europeia, ele pretende priorizar a mídia e a cultura na democracia européia por meio de iniciativas como o Escudo da Democracia Européia. A emenda à lei de direitos autorais domésticos deve enviar fortes sinais políticos para Bruxelas e para a UE em geral. Essa ação reflete o compromisso da Dinamarca em enfrentar os desafios apresentados pelos DeepFakes e promover um ambiente on -line mais seguro.
O Fórum Econômico MundialA Coalizão Global de Segurança Digital da Promover Cooperação Inter-Regional para Segurança Online. Isso inclui acelerar a colaboração pública -privada para abordar o conteúdo nocivo, incluindo DeepFakes. A coalizão também facilita a troca de melhores práticas na regulamentação de segurança on -line e apóia os esforços para melhorar a alfabetização da mídia digital. Ao promover a colaboração e o compartilhamento de conhecimento, a coalizão visa aprimorar os esforços globais para combater os deepfakes e promover um ambiente digital mais seguro.
