De acordo com um relatório publicado pela O Registroo rastreador ChatGPT da OpenAI é supostamente vulnerável à manipulação, permitindo-lhe iniciar potencialmente ataques distribuídos de negação de serviço (DDoS) em sites arbitrários. Esta questão permanece não reconhecida pela empresa de tecnologia.
API ChatGPT da OpenAI mostra vulnerabilidade a ataques DDoS
Um artigo do pesquisador de segurança Benjamin Flesch, compartilhado este mês, por meio do GitHub da Microsoft, detalha como uma única solicitação HTTP para a API ChatGPT pode instigar uma enxurrada de solicitações de rede do rastreador ChatGPT, especificamente o Usuário ChatGPT agente. Essa vulnerabilidade pode amplificar uma solicitação de API em até 5.000 solicitações direcionadas a um site de destino a cada segundo.
Flesch descreve a falha como um “grave defeito de qualidade” no tratamento de solicitações HTTP POST para um endpoint de API específico chamado pelo ChatGPT da OpenAI. Este endpoint é usado para retornar informações sobre fontes da web citadas na saída do chatbot. Quando o chatbot faz referência a URLs específicos, a API de atribuições busca informações desses sites. Um agressor pode criar uma longa lista de URLs, cada um ligeiramente diferente, mas apontando para o mesmo site, resultando em solicitações simultâneas para esse site.
Segundo Flesch, a API não verifica se os hiperlinks são repetidos na lista nem impõe um limite no número total de hiperlinks enviados. Isso permite que um invasor envie milhares de hiperlinks em uma única solicitação HTTP, inundando efetivamente o site alvo.
Usando uma ferramenta como o Curl, os invasores podem enviar uma solicitação HTTP POST ao endpoint ChatGPT sem precisar de um token de autenticação. Os servidores OpenAI no Microsoft Azure responderão iniciando solicitações para cada hiperlink enviado por meio do parâmetro request. Essa ação pode sobrecarregar o site de destino, pois o rastreador, usando Cloudflare, acessará o site de diferentes endereços IP a cada solicitação.
Melhores práticas para preparar sua organização para incidentes de segurança cibernética
O site da vítima provavelmente receberia solicitações de aproximadamente 20 endereços IP diferentes simultaneamente, dificultando o rastreamento da origem do ataque. Mesmo que um site habilite um firewall para bloquear os IPs associados ao bot ChatGPT, o bot continuará a enviar solicitações.
“Devido a essa amplificação, o invasor pode enviar um pequeno número de solicitações à API ChatGPT, mas a vítima receberá um número muito grande de solicitações”, explicou Flesch.
Flesch relatou a vulnerabilidade reflexiva DDoS não autenticada por meio de vários canais, incluindo a plataforma OpenAI BugCrowd e as equipes de segurança da Microsoft, mas não recebeu respostas. O Registro também entrou em contato com a OpenAI para comentários, mas não recebeu resposta.
Além disso, Flesch apontou outro problema relacionado a esta API, que é vulnerável à injeção imediata. Essa falha permite que o rastreador processe perguntas arbitrárias usando o mesmo endpoint de API de atribuições, em vez de apenas buscar dados do site conforme pretendido.
Flesch criticou a OpenAI por não implementar medidas básicas de segurança, como desduplicar URLs ou limitar o tamanho das listas de URLs. Ele especulou que a API poderia ser um projeto experimental para os agentes de IA da OpenAI, sem a lógica de validação necessária para evitar esse tipo de abuso. Ele observou que as normas estabelecidas no desenvolvimento de software normalmente evitam tais falhas para garantir um desempenho robusto.
“Não consigo imaginar um engenheiro bem pago do Vale do Silício projetando um software como este, porque o rastreador ChatGPT rastreia a web há muitos anos, assim como o rastreador do Google”, afirmou Flesch. “Se os rastreadores não limitarem a quantidade de solicitações ao mesmo site, eles serão bloqueados imediatamente.”
Crédito da imagem em destaque: Matheus Bertelli/Pexels
