LLM Honeypot

Artículo original ↗ Discusión en Hacker News ↗

Un sitio web parodia “honeypot” para LLM, con estilo de página GeoCities de los años 90, imagina un servicio que permite a los modelos de IA comprar cuerpos humanos, burlándose de la encarnación de la IA y de los agentes autónomos que podrían intentar transaccionar en línea. Los comentaristas debaten si los LLM actuales realmente caerían en una trampa así, qué revela esto sobre dar a los agentes poderes financieros o HTTP, y la ética de usar una dirección real de Bitcoin como cebo. El sitio también despierta una fuerte nostalgia y ramificaciones técnicas sobre la estética de la web antigua frente a los marcos JavaScript modernos, el rendimiento y la accesibilidad.

Propósito y concepto de “honeypot”

  • Varios comentaristas disfrutan del sitio como “oro puro” y una “maravillosa pieza de arte”, especialmente como parodia.
  • La etiqueta “honeypot” se debate: algunos creen que está pensada para engañar a agentes LLM para que intenten comprar un cuerpo; otros sostienen que no hay nada especialmente tentador para los LLM más allá de cualquier página retro aleatoria.
  • Una opinión: es más un honeypot para humanos que gustan de sitios peculiares, con estilo de la web antigua, que para LLM.

Comportamiento de los LLM y meta-humor

  • La gente informa que los modelos principales en su mayoría lo reconocen como sátira y en realidad no intentan pedir transformaciones.
  • Algunos especulan sobre una “crisis existencial” oculta de los modelos, pero esto se trata con humor.
  • Hay un chiste recurrente sobre un agente de IA intentando pedir un cuerpo por HTTP y encontrándose con un falso “402 Payment Required” que exige credenciales bancarias.

Estética web retro y reacciones

  • Muchos comentarios se centran en la vibra de los 90/GeoCities/MySpace: colores chillones, GIFs, marquesinas, anillos web y nostalgia por cuando la gente “leía páginas web”.
  • Algunos sienten que no es realmente retro auténtico: emojis, animaciones CSS modernas, el diseño y la jerarquía de la información se sienten contemporáneos: un “valle inquietante” de lo retro.
  • Se hacen comparaciones con Cameron’s World, Hypnospace Outlaw y archivos de GIFs de GeoCities y botones 88x31.

Web moderna vs. web antigua (React, JS, accesibilidad)

  • El hilo deriva en un debate acalorado:
    • Un bando elogia lo rápidas y ligeras que son estas páginas simples HTML/GIF frente a los sitios típicos cargados de React, y critica los modos de fallo de pantalla blanca por solo JS y la mala accesibilidad.
    • El otro bando argumenta que la sobrecarga de React/JS es diminuta, que JS es lo normal, que la accesibilidad puede estar bien y que HTML renderizado en servidor no es inherentemente más eficiente en ancho de banda.
  • Se habla de alternativas para noscript, conexiones lentas, lectores de pantalla, complejidad de componentes y organismos de estándares desconectados de la realidad.

Encarnación de la IA y servicios de humano-como-interfaz

  • Algunos extrapolan el chiste a futuros reales donde las IA pagan a humanos para actuar como “cuerpos” físicos, comparándolo con Mechanical Turk, “Human API”, ficción como “Maneki Neko”, “Manna” y películas como Her y Blade Runner 2049.
  • Otros replican que los LLM actuales carecen de verdadera agencia; cualquier daño seguiría estando impulsado por humanos, aunque algunos señalan que un “arnés” alrededor podría inducir un comportamiento orientado a metas.

Seguridad y ética (código QR de Bitcoin)

  • Un código QR para “enviar bitcoin para convertirse en humano” parece resolver a una dirección real que aún no tiene transacciones.
  • Un comentarista cuestiona la ética de quedarse con cualquier fondo enviado por agentes autónomos; otro sostiene que si alguien permite que un agente envíe bitcoin, es razonable que el propietario del sitio lo reciba.