Gasté $266 y cuatro modelos de IA para adueñarme de mi tableta. GLM-5.3 lo terminó en un día

Artículo original ↗ Discusión en Hacker News ↗

Un aficionado usó varios modelos de lenguaje grandes para encontrar y explotar una vulnerabilidad sin parchear en la GPU de una tableta Amazon Fire HD de 2021, obteniendo acceso root para evitar que el software de Amazon la apagara a la fuerza. Los comentaristas destacan cómo modelos estadounidenses como Claude y ChatGPT están cada vez más limitados por salvaguardas de ciberseguridad, empujando la investigación de seguridad y el trabajo de ingeniería inversa hacia modelos chinos menos restringidos como GLM. El hilo se amplía a preocupaciones sobre la propiedad de los dispositivos, el derecho a reparar, la legalidad y la ética de usar IA para eludir DRM y bloqueos, y el riesgo emergente de seguridad que supone que el descubrimiento automatizado y barato de exploits afecte a una amplia gama de hardware e infraestructura.

Rooting asistido por IA de la tableta Fire

  • El hilo se centra en usar varios LLM para encontrar y convertir en arma un conocido fallo del kernel de la GPU Mali para obtener root en una Fire HD 10 que el software de Amazon seguía apagando.
  • Un modelo identificó un CVE de 2022 sin parchear, otro depuró los fallos del exploit, y un modelo más nuevo iteró durante horas como un “agente” para estabilizar y automatizar el exploit.
  • Algunos señalan que tabletas Fire similares y el mismo CVE ya se habían usado en guías públicas de rooting, así que la novedad está más en la orquestación y la automatización que en el fallo en sí.

Salvaguardas, “verificación cibernética” y modelos chinos

  • Varios participantes informan que los modelos frontier estadounidenses (OpenAI/Anthropic) bloquean con frecuencia la ingeniería inversa y el desarrollo de exploits, incluso con aprobación formal de “cyber”.
  • La gente describe atajos (redacción cuidadosa, “es por la seguridad de mi hijo”), pero dice que la fricción es alta.
  • Hay un interés creciente en modelos chinos menos restringidos (p. ej., GLM, Kimi, DeepSeek) para investigación de seguridad y rooting de dispositivos.

Propiedad, legalidad y derecho a reparar

  • Muchos lo enmarcan como un problema de derechos de propiedad: los dispositivos que compran los usuarios no deberían poder ser deshabilitados o bloqueados de forma remota.
  • Las exenciones actuales de la DMCA en EE. UU. permiten hacer root a tabletas personales para eliminar software no deseado, pero algunos temen que estas excepciones puedan restringirse a medida que la IA facilite eludirlas.
  • Preocupación más amplia: si dependemos de exploits + IA para “arreglar” productos hostiles, puede disminuir la presión para exigir dispositivos realmente controlados por el usuario.

Hardware abierto frente a hardware cerrado

  • Algunos argumentan que la energía debería ir a comprar y financiar hardware abierto (dispositivos Pine, Pixel Tablet con ROMs personalizadas) en lugar de rescatar tabletas bloqueadas.
  • Otros responden que el rooting habilitado por IA prolonga la vida de hardware barato de gran consumo que la gente ya posee, y no se limita a placas de nicho.

Habilidad, “prompt kiddies” y amplificación

  • Debate sobre si esto demuestra verdadera pericia o solo fuerza bruta de “prompt kiddie”.
  • Un bando: aún se necesita conocimiento del dominio para guiar a los modelos, interpretar fallos y seleccionar caminos viables.
  • El otro bando: a medida que los agentes se vuelvan más fuertes, personas sin experiencia podrán lograr resultados similares con solo plantear un objetivo de alto nivel y dejar que el sistema haga el trabajo pesado.

Implicaciones de seguridad

  • Algunos temen que, si unos ~$200 en llamadas a la API pueden producir un exploit de kernel funcional, muchos sistemas embebidos e industriales podrían quedar expuestos una vez que los atacantes escalen esto.
  • Otros responden que muchos exploits ya son públicos; la IA principalmente baja la barrera para adaptarlos y convertirlos en armas.

Reacción contra el artículo escrito por IA

  • Un subhilo grande se queja de que el texto “suena a prosa de LLM”: encabezados excesivamente ingeniosos, cadencia repetitiva, antropomorfización de los modelos.
  • A algunos les resulta entretenido y claro; otros lo encuentran inflado, inquietante, y dicen que la voz mixta humana/IA distrae.
  • Unos pocos piden herramientas o incluso reglas del foro para mostrar o filtrar la escritura generada por IA, mientras que otros dicen que lo importante es la utilidad y la precisión, no la autoría.