Show HN: ¿Estás en los pesos?
Recepción general
- A muchos les parece divertido, que sube el ego y visualmente atractivo (estética retro/8‑bit, concepto ingenioso).
- Otros lo ven como una trampa de privacidad o una demostración instructiva pero preocupante del comportamiento de los LLM.
Precisión, alucinaciones y colisiones de identidad
- Las experiencias van desde resúmenes inquietantemente precisos (especialmente para apellidos únicos, colaboradores de código abierto, académicos o alias usados durante mucho tiempo) hasta fabricaciones completas.
- Incluso personas con nombres globalmente únicos a menudo son descritas como políticos, investigadores de seguridad o, especialmente, atletas profesionales y artistas del entretenimiento.
- Los seudónimos y alias en línea de larga data a veces se reconocen con más precisión que los nombres legales.
- La sección de “alucinaciones” es imperfecta: algunas descripciones exactas se etiquetan como alucinaciones, mientras que muchas incorrectas aparecen en la sección “principal”.
Identificaciones erróneas peligrosas y difamatorias
- Varios usuarios son etiquetados incorrectamente como terroristas, asesinos, extremistas o víctimas de delitos.
- Algunos señalan que, para nombres árabes o poco comunes, la herramienta a menudo los confunde con personas sancionadas o bombardeadores.
- Los comentaristas consideran estos falsos positivos “aterradores”, especialmente dado que hay informes de que los LLM podrían usarse en la toma de decisiones militares o de seguridad.
Puntuación, modelos y agrupación
- La “strength” se explica como una combinación lineal de la confianza autoinformada del modelo más bonificaciones por acuerdo entre modelos; los comentaristas señalan que la confianza de los LLM está mal calibrada.
- El percentil (“Top N%”) es relativo a todas las consultas realizadas hasta ahora, no a la población más amplia.
- Un agrupador fusiona las salidas de los modelos en entidades y decide qué es una alucinación, optimizado para el recall sobre la precisión, lo que lleva a muchas clasificaciones erróneas.
- Se comparten detalles del prompt; todos los modelos usan el mismo prompt en JSON-only “Who is
?”. La agrupación se ejecuta sobre un modelo más barato.
Privacidad y manejo de datos
- Fuerte crítica a que todas las consultas (incluidos nombres reales) estuvieran listadas públicamente mediante un tablero “latest” y accesibles vía API; más tarde se mitigó en parte, pero los datos siguen siendo ampliamente accesibles.
- La falta de una política de privacidad clara y la presencia de comprobaciones de seguimiento/Cloudflare generan sospechas de recolección de IP/nombres.
- Varios argumentan que uno debe asumir que cualquier texto enviado a sitios aleatorios será almacenado y reutilizado, posiblemente en futuros conjuntos de entrenamiento.
UX, coste y diseño
- Se elogia el diseño y los retratos (generados mediante un modelo de imágenes), pero algunos informan de errores de entrada, sonidos intrusivos y fallos por límite de tasa bajo carga.
- Se reconoce que ejecutar muchos modelos de frontera y más pequeños por consulta es costoso; el autor lo describe como un “fun hack and science experiment” no comercial.
Reflexiones más amplias
- El hilo aborda “estar en los pesos” como una forma de inmortalidad digital extraña y plantea preguntas sobre el derecho al olvido.
- Algunos se sienten aliviados de no aparecer en absoluto; otros señalan lo difícil que es mantener separada la identidad de la vida real de las huellas en línea una vez que los modelos ingieren datos públicos.