Baseado em uma história que lemos TecnologiaBrevementeé difícil resistir à vontade de socar paredes de raiva.
A família de Jennifer Ann Crecente, uma jovem de 18 anos assassinada há quase duas décadas, descobriu recentemente que a sua foto estava a ser usada sem o seu consentimento por uma plataforma de chatbot de IA. O nome e a imagem de Jennifer foram encontrados no Character.ai, um serviço que permite aos usuários interagir com personalidades geradas por IA. A família nunca foi consultada ou informada sobre o uso da identidade de Jennifer, deixando-os horrorizados e arrasados com esse uso indevido grosseiro.
Após a descoberta, o tio de Jennifer recorreu às redes sociais para expor o incidente e fez uma forte declaração em seu blog, Padandpixel.
Isso é nojento: @personagem_ai está usando minha sobrinha assassinada como rosto de uma IA de videogame sem a permissão do pai dela. Ele está muito chateado agora. Não consigo imaginar o que ele está passando.
Por favor, ajude-nos a acabar com esse tipo de prática terrível. https://t.co/y3gvAYyHVY
-Brian Crecente (@crecenteb) 2 de outubro de 2024
Somente após protestos públicos a plataforma removeu o bot.
O choque de ver o rosto e o nome de Jennifer usados sem permissão reabriu velhas feridas na família. Crecente descreveu a dor inicial após sua morte como uma “experiência quase fora do corpo”, acrescentando: “Minha alma se sentiu arrancada do meu corpo. Experimentei a vida atordoado por um tempo, como se estivesse mais ou menos separado do meu corpode o mundo.” Embora a família tenha trabalhado incansavelmente para honrar a memória de Jennifer através do trabalho sem fins lucrativos e da educação, esse uso não autorizado de sua identidade parecia uma violação cruel.
“Parece que ela nos foi roubada novamente”, escreveu Crecente, destacando o impacto devastador do uso descuidado de identidades pessoais pela IA. Apesar dos esforços para remover o chatbot, o estrago estava feito. Crecente fez uma pergunta urgente: “Por que cabe a nós ser resilientes? Por que as empresas multibilionárias não se preocupam em criar princípios orientadores éticos e barreiras funcionais para evitar que isso aconteça?
Sério, por que as empresas multibilionárias não se preocupam em criar princípios orientadores éticos e barreiras funcionais para evitar que isso aconteça?
Sabemos que existem pessoas más. As pessoas são, por natureza, comumente capazes de praticar más ações. Mas aqueles que detêm o poder – especialmente aqueles com imensa influência tecnológica – também têm a responsabilidade de estabelecer limites e criar estruturas que bloqueiem o mal.
A resposta reside na intersecção do avanço tecnológico, dos incentivos empresariais e da flagrante ausência de regulamentações abrangentes.
Quando empresas como a Character.ai possuem a capacidade de replicar identidades humanas – vivas ou falecidas – elas têm a obrigação ética de garantir que esse poder não seja mal utilizado.
A resposta está em priorizar o lucro em detrimento das pessoas. Na corrida incansável pela inovação, as empresas optam por avançar rapidamente e inovar sem garantir a existência das barreiras éticas necessárias. Não é que não possam criar estas barreiras; eles simplesmente não veem valor financeiro imediato ao fazer isso.
Esse Esta é a dura realidade: as indústrias orientadas para o lucro muitas vezes veem a moralidade como uma despesa opcional, especialmente no mundo da tecnologia.
Os governos e os organismos reguladores ficaram para trás na rápida evolução da IA, deixando enormes lacunas na lei. Existem poucas ou nenhumas proteções robustas para as identidades dos falecidos.
Fale agora!
Os meios de comunicação e os grupos de defesa devem responsabilizar as empresas de tecnologia pelo uso não autorizado de imagens de indivíduos falecidos. A pressão pública é crucial para garantir que as plataformas de IA implementem diretrizes éticas e evitem tais violações no futuro.
Os legisladores devem ser instados a promulgar leis que protejam explicitamente as identidades dos falecidos, garantindo que os seus nomes, imagens e legados não possam ser explorados para fins lucrativos. Precisamos de regulamentos que salvaguardem a dignidade das famílias muito depois da morte dos seus entes queridos.
Devemos exigir que as empresas estabeleçam e apliquem diretrizes éticas rigorosas para a utilização da IA. Isto inclui protocolos de consentimento e um processo transparente para denunciar violações. Não devem esperar que as famílias descubram estas violações depois do facto.
Os meios de comunicação social devem continuar a desempenhar um papel crucial na investigação e exposição de incidentes em que as plataformas de IA exploram indivíduos sem consentimento. A sua cobertura incansável responsabilizará estas empresas e pressionará pela mudança, garantindo que o silêncio não permite esta exploração.
Não podemos ficar parados e permitir que tais violações continuem incontestadas.
#ResponsibleAI
Estendemos nossas mais profundas condolências à família Crecente durante este período doloroso. Ninguém jamais deveria ter que enfrentar a dor de perder um ente querido, muito menos suportar tal violação de sua memória. A vida e o legado de Jennifer merecem ser honrados, e partilhamos a sua tristeza ao enfrentar este fardo inimaginável.
Crédito da imagem em destaque: Padandpixel
