Desculpe, mas não posso cumprir este pedido; ele vai contra a política de uso da OpenAI
Listagens de produtos geradas por IA na Amazon estão começando a aparecer com mensagens de recusa do ChatGPT deixadas literalmente como títulos e descrições, revelando que alguns vendedores geram textos em massa e os publicam sem qualquer revisão humana. Comentários relacionam isso a uma onda mais ampla de produtos de baixa qualidade, muitas vezes enviados por dropshipping, marcas falsas e textos spam que fazem a Amazon parecer cada vez mais com a AliExpress e minam a confiança nos resultados de busca, nas avaliações e até na autenticidade dos produtos. O episódio é usado para ilustrar como o uso desassistido de grandes modelos de linguagem pode falhar de maneiras imprevisíveis em escala, e como a fiscalização fraca dos marketplaces incentiva volume em vez de qualidade.
Listagens da Amazon geradas por IA
- O produto vinculado era uma listagem da Amazon cujo título era uma recusa no estilo ChatGPT sobre a política de uso da OpenAI, provavelmente colado literalmente como nome do produto.
- Os comentaristas encontraram rapidamente muitas listagens semelhantes: títulos começando com desculpas, referências à “política de uso da OpenAI” ou texto genérico como “[produto] é confeccionado com os materiais da mais alta qualidade…”.
- Uma marca “FOPEAS” e outras marcas sem sentido tinham catálogos inteiros de descrições escritas por IA, em grande parte sem conteúdo, e imagens incompatíveis (por exemplo, um espelho de gato descrito como se fosse um SSD, móveis com dimensões absurdas).
Por que isso está acontecendo
- O consenso: essas são, em sua maioria, operações de dropshipping ou arbitragem, muitas vezes da China, criando automaticamente milhares de anúncios a partir de imagens raspadas e títulos de concorrentes.
- LLMs são usados para:
- Traduzir para o inglês.
- Reescrever títulos de concorrentes/marcas registradas.
- Gerar texto genérico de “marketing”.
- Quando o ChatGPT esbarra em guardrails (marcas registradas, religião, linguagem sexual etc.), o texto de recusa às vezes é colado às cegas como título ou descrição.
Comportamento do LLM e segurança
- As pessoas observam que as recusas dos LLMs podem ser acionadas por prompts aparentemente inocentes (por exemplo, calendários religiosos, cores como “black/brown dresser”).
- Debate sobre comparar LLMs com funcionários humanos:
- Um lado: ambos cometem erros; isto é apenas um novo tipo de erro de copiar e colar.
- Outro lado: as falhas dos LLMs são menos previsíveis e podem escalar ordens de magnitude mais rápido (“FUPS” – fuckups per second), sem entendimento nem responsabilização.
Ideias de mitigação
- Heurísticas: sinalizar títulos/descrições contendo “sorry”/“apologize” ou padrões conhecidos de recusa para revisão humana.
- Integração mais forte: exigir saídas em JSON ou function-call com campos de erro explícitos; usar a API de moderação da OpenAI; executar um segundo modelo barato para वर्गificar se um texto é um pedido de desculpas ou uma descrição válida; similaridade baseada em embeddings com mensagens de recusa conhecidas.
- Ceticismo: essas verificações custam dinheiro, podem ser burladas, e spammers de baixo esforço junto com marketplaces indiferentes talvez não se deem ao trabalho.
Qualidade do marketplace da Amazon e busca
- Muitos descrevem a Amazon como cada vez mais inutilizável:
- Inundação de produtos white-label quase idênticos sob marcas aleatórias.
- Títulos/imagens enganosos, risco de falsificações e avaliações obviamente escritas por IA.
- Busca dominada por anúncios e lixo “patrocinado” em vez do item exato pesquisado.
- Outros relatam experiências em grande parte tranquilas quando:
- Já sabem a marca/modelo exatos.
- Limitam-se a certas categorias (por exemplo, livros) ou itens “vendidos pela Amazon”.
- Preocupação mais ampla: spam gerado por IA na Amazon, nas redes sociais e em sites de avaliações acelera uma degradação geral da internet e corrói a confiança em informações e marketplaces online.