A IA generativa está democratizando a fraude no comércio eletrônico, com os golpistas usando cada vez mais imagens geradas por IA para garantir reembolsos de itens que eles nunca devolvem. De acordo com Com fioas plataformas de compras online – que há muito dependem de fotos enviadas pelos clientes para validar pedidos de reembolso – estão lutando para distinguir entre reclamações de danos reais e fabricadas.
A questão tornou-se particularmente aguda nas plataformas de mídia social chinesas como Nota Vermelha e Douyin. A Wired destaca um caso recente envolvendo um comerciante de caranguejos chamado Gao Jing, que recebeu um pedido de reembolso acompanhado por um vídeo de caranguejos “mortos”. A fraude foi exposta quando o vendedor percebeu inconsistências biológicas nas filmagens: os caranguejos tinham o número errado de patas e o sexo dos caranguejos mudava entre os clipes. A investigação policial confirmou que o vídeo foi gerado por IA, levando à detenção do comprador.
O problema vai além dos golpistas individuais. Michael Reitblat, CEO da empresa de detecção de fraudes Fortedisse à Wired que os pedidos de reembolso manipulados por IA aumentaram em mais de 15% globalmente desde o início do ano. Grupos do crime organizado estão alegadamente a utilizar estas ferramentas para automatizar fraudes em grande escala, utilizando endereços IP rotativos para inundar os retalhistas com reclamações falsas sobre bens domésticos “danificados”. Embora alguns comerciantes estejam a implementar as suas próprias ferramentas de IA para detetar imagens adulteradas, a tecnologia continua imperfeita, forçando os retalhistas a considerar políticas de devolução mais rigorosas que podem incomodar os compradores honestos.
Em um desenvolvimento mais leve do mesmo relatório, a Wired observa o sucesso viral de “Yichang Beer”. Apesar de sua marca apresentar caracteres chineses e imagens de dragão, a cerveja é fabricada em Cazaquistão e foi originalmente vendido nos mercados de língua russa. O rótulo do produto afirma que ele é fabricado desde 1858 – décadas antes de a cerveja ser introduzida na China. Ironicamente, depois de se tornar viral nas redes sociais chinesas pela sua herança “falsa”, a cerveja está agora a ser importada e vendida na própria cidade de Yichang.
