Lo siento, pero no puedo cumplir con esta solicitud; va en contra de la política de uso de OpenAI
Las fichas de producto generadas por IA en Amazon están empezando a aparecer con mensajes de rechazo de ChatGPT pegados literalmente como títulos y descripciones, lo que revela que algunos vendedores generan texto en masa y lo publican sin revisión humana. Los comentaristas lo vinculan a una avalancha más amplia de productos de baja calidad, a menudo enviados por dropshipping, marcas falsas y texto spam que hacen que Amazon se parezca cada vez más a AliExpress y socavan la confianza en los resultados de búsqueda, las reseñas e incluso la autenticidad de los productos. El episodio se usa para ilustrar cómo el uso desatendido de grandes modelos de lenguaje puede fallar de formas impredecibles a escala, y cómo la escasa supervisión del marketplace incentiva el volumen por encima de la calidad.
Anuncios de Amazon generados por IA
- El producto enlazado era una ficha de Amazon cuyo título era una negativa al estilo ChatGPT sobre la política de uso de OpenAI, probablemente pegada literalmente como nombre del producto.
- Los comentaristas encontraron rápidamente muchas fichas similares: títulos que empezaban con disculpas, referencias a la “política de uso de OpenAI” o texto genérico como “[product] is crafted with the highest quality materials…”.
- Una marca “FOPEAS” y otras marcas absurdas tenían catálogos completos de descripciones escritas por IA, en gran parte vacías de contenido, e imágenes que no coincidían (por ejemplo, un espejo de gato descrito como si fuera un SSD, muebles con dimensiones absurdas).
Por qué está pasando esto
- Consenso: se trata sobre todo de operaciones de dropshipping o arbitraje, a menudo desde China, que crean automáticamente miles de fichas a partir de imágenes extraídas y títulos de competidores.
- Se usan LLM para:
- Traducir al inglés.
- Reescribir títulos de competidores o con marca registrada.
- Generar texto genérico de “marketing”.
- Cuando ChatGPT choca con los guardarraíles (marcas registradas, religión, lenguaje sexual, etc.), el texto de rechazo a veces se pega sin más como título o descripción.
Comportamiento de los LLM y seguridad
- La gente señala que las negativas de los LLM pueden activarse con prompts aparentemente inocentes (por ejemplo, calendarios religiosos, colores como “black/brown dresser”).
- Debate sobre comparar los LLM con empleados humanos:
- Un lado: ambos cometen errores; esto es solo una nueva variante del error de copiar y pegar.
- El otro: los fallos de los LLM son menos predecibles y pueden escalar órdenes de magnitud más rápido (“FUPS” – fuckups per second), sin comprensión ni responsabilidad.
Ideas de mitigación
- Heurísticas: marcar para revisión humana títulos/descripciones que contengan “sorry”/“apologize” o patrones conocidos de rechazo.
- Integración más sólida: exigir salidas en JSON o function-call con campos de error explícitos; usar la API de moderación de OpenAI; ejecutar un segundo modelo barato para clasificar si un texto es una disculpa o una descripción válida; similitud basada en embeddings con mensajes de rechazo conocidos.
- Escepticismo: estos controles cuestan dinero, pueden ser burlados, y los spammers de bajo esfuerzo junto con marketplaces indiferentes quizá no se molesten.
Calidad del marketplace de Amazon y búsqueda
- Muchos describen Amazon como cada vez menos usable:
- Inundación de productos de marca blanca casi idénticos bajo marcas aleatorias.
- Títulos e imágenes engañosos, riesgo de falsificaciones y reseñas obviamente escritas por IA.
- Búsqueda dominada por anuncios y basura “sponsored” en lugar del artículo exacto buscado.
- Otros informan experiencias en gran medida fluidas cuando:
- Ya conocen la marca/modelo exactos.
- Se limitan a ciertas categorías (por ejemplo, libros) o artículos “sold by Amazon”.
- Preocupación más amplia: el spam generado por IA en Amazon, redes sociales y sitios de reseñas acelera una degradación general de Internet y erosiona la confianza en la información en línea y en los marketplaces.