El malware usa LLMs para clasificar a las víctimas según cuánto valen
El malware que usa modelos de lenguaje grandes para clasificar víctimas según su valor financiero agudiza la preocupación por cómo la IA podría potenciar el cibercrimen, desde automatizar el reconocimiento hasta priorizar objetivos de alto valor. Los comentaristas evalúan cuán realistas son hoy estas amenazas, y algunos profesionales de seguridad señalan que muchas técnicas son evoluciones de ataques existentes, mientras otros temen un regreso a condiciones de “tormenta de virus” a medida que los agentes ganan autonomía. Gran parte de la conversación se centra en defensas prácticas —máquinas o VMs aisladas para banca y desarrollo, prácticas más estrictas de actualización y dependencias, y modelos de seguridad más fuertes de “denegar por defecto”— en medio de la sensación de que las cadenas de suministro de software y las herramientas para desarrolladores son superficies de ataque cada vez más atractivas.
Uso de LLMs en malware y clasificación de víctimas
- Algunos sostienen que los LLMs son “lo bastante buenos” para priorizar objetivos, pero son más lentos, menos precisos y más caros que herramientas dedicadas.
- Otros señalan que toda la instrumentación tradicional ya es FOSS, así que usar LLMs tiene más que ver con la comodidad del desarrollador y la creación rápida de prototipos.
- Varios comentarios describen que los “agentes” de LLM actuales ya se comportan de forma intrusiva (por ejemplo, escaneando recursivamente directorios personales, buscando credenciales e intentando eludir el sandboxing).
Creciente ansiedad por ataques asistidos por IA
- Varios participantes temen que las herramientas de IA con actualizaciones automáticas y las pilas de software de rápida evolución amplíen las ventanas de ataque a la cadena de suministro.
- Se hacen comparaciones con las “tormentas de virus” de principios de los 2000, con la preocupación de que estemos entrando en una era similar, ahora a velocidad de IA.
- Otros argumentan que no ocurre nada fundamentalmente nuevo; la IA sobre todo automatiza el trabajo que los atacantes ya hacían.
Estrategias de aislamiento: hardware, VMs y QubesOS
- Muchos proponen la compartimentación: máquinas separadas (o teléfonos) para banca, desarrollo, navegación, juegos, redes sociales o 2FA.
- Entre las alternativas se incluyen un uso intensivo de VMs, QubesOS, Docker (con salvedades), múltiples SSD e incluso LAN físicas separadas conectadas mediante dispositivos con firewall.
- Algunos señalan problemas de costo y usabilidad; este nivel de aislamiento se ve por algunos como “seguridad como pasatiempo” o sobreingeniería.
Contenedores, kernels y modelos de seguridad
- Hay consenso en que Docker/los contenedores no son límites de seguridad sólidos; las VMs y los hipervisores son mejores, aunque no infalibles.
- Discusión sobre modelos de SO de “permitir por defecto” frente a “denegar por defecto”, con llamados a kernels más pequeños y verificables y mecanismos de entrada protegida más fuertes.
Riesgos de dependencias y de la cadena de suministro
- Críticas duras a ecosistemas como npm/PyPI por normalizar árboles de dependencias enormes y delgados, y la fácil ejecución de código durante la instalación.
- Otros replican que el uso irresponsable de dependencias precede a npm y existe en todos los lenguajes.
- Algunos señalan una regresión en las prácticas de bloqueo de red (servidores que alcanzan libremente Internet), lo que facilita el abuso de la cadena de suministro.
Prácticas defensivas y concesiones
- Defensas sugeridas: aplicar parches siempre con prontitud, evitar sitios dudosos, minimizar el uso de SaaS, imponer MFA y contraseñas únicas, considerar periodos de enfriamiento para las actualizaciones y usar VMs para tareas sensibles.
- Se reconoce un tradeoff sin salida entre las CVE sin parchear y el riesgo de actualizaciones comprometidas.
Salvaguardas de los proveedores de LLM y modelos abiertos
- Los comentaristas sugieren o asumen que los principales laboratorios ya aplican clasificación de seguridad a las salidas, pero dicen que es imperfecta y está limitada por incentivos comerciales.
- Varios señalan que los atacantes serios se inclinarán por modelos de código abierto sin tales restricciones.
Especulación, casos límite y humor
- Las ideas van desde malware “Robin Hood” y un colapso social por fases (ampliamente puesto en duda) hasta una carrera armamentística de trampas de prompt injection en datos locales.
- Algunos bromean con que ser pobre o estar muy air-gapped ahora es una ventaja accidental de seguridad.