Uma investigação de Michael Lones, professor da Universidade Heriot-Watt, alerta que a incorporação de IA generativa em sistemas de aprendizagem automática pode aumentar significativamente os riscos, como ataques cibernéticos e violações de dados, ao mesmo tempo que perpetua o preconceito contra grupos sub-representados.
O estudo, publicado na revista Patterns, descreve os danos não intencionais associados à IA generativa, apesar dos seus potenciais benefícios em termos de custo e eficiência. Lones enfatiza a necessidade dos desenvolvedores equilibrarem as melhorias na capacidade com os possíveis perigos envolvidos.
Lones afirmou: “Os desenvolvedores de aprendizado de máquina precisam estar cientes dos riscos do uso da Gen AI no aprendizado de máquina e encontrar um equilíbrio sensato entre melhorias na capacidade e os riscos que podem advir disso”. Ele advertiu que só porque existe uma capacidade não significa que ela deva ser usada.
A IA generativa está sendo cada vez mais utilizada em todos os setores para projetar, construir e operar sistemas de aprendizado de máquina. Lones identificou quatro aplicações principais de IA generativa neste contexto: como componentes em pipelines de aprendizado de máquina, para projetar e codificar esses pipelines, sintetizar dados de treinamento e analisar resultados. No entanto, cada aplicação acarreta riscos inerentes.
Ele observou que o uso de grandes modelos de linguagem (LLMs) para múltiplas tarefas ou em funções autônomas aumenta esses riscos. Imprecisões e informações fabricadas podem surgir dos LLMs, complicando a avaliação do seu desempenho. Lones destacou os desafios colocados pelas operações não transparentes dos LLMs, especialmente em sectores como a medicina e as finanças, que exigem uma tomada de decisões fiável e explicável.
Como explicou Lones, “Em áreas como medicina ou finanças, existem leis sobre a capacidade de mostrar que o sistema de aprendizado de máquina é confiável e que você pode explicar como ele toma decisões. Assim que você começa a usar LLMs, isso fica muito difícil, porque eles são muito opacos.” Ele alertou que, embora as empresas possam utilizar IA generativa para melhorar as experiências dos utilizadores e cortar custos, tais implementações podem levar a resultados negativos, incluindo preconceitos e injustiças.
