Goldman Sachs está retirando Claude Code de sus banqueros y traders

Goldman Sachs está restringiendo Claude Code de Anthropic y GitHub Copilot a los ingenieros de software, bloqueando su uso por traders y banqueros por preocupaciones de seguridad, cumplimiento y riesgo operativo. Los comentaristas destacan los peligros de que los “agentes de codificación” se ejecuten en máquinas del parqué con acceso a datos sensibles y sistemas de producción, señalando problemas como la inyección de prompts, la exfiltración de datos, la exposición a uso de información privilegiada y que herramientas de “vibe coding” sin revisión se conviertan en infraestructura crítica. La medida se ve como parte de una lucha más amplia dentro de las grandes firmas para capturar las ganancias de productividad de la IA sin acabar con sistemas opacos y difíciles de gobernar, especialmente incómodo dada la participación de Goldman en la próxima OPV de Anthropic.

Alcance del cambio de Goldman

  • La guía interna ahora restringe Claude Code y GitHub Copilot a los ingenieros; traders/banqueros pierden el acceso directo.
  • El asistente de IA interno de la firma (no destinado a codificación) sigue estando ampliamente disponible.
  • Algunos comentaristas señalan restricciones similares anteriores por región (por ejemplo, mesas de Hong Kong).

Riesgo, cumplimiento y la “tríada letal”

  • La principal preocupación: los agentes de código en máquinas principales de trading/ banca combinan tres riesgos: acceso a datos sensibles, capacidad de ejecutar código y conectividad de red.
  • La gente destaca riesgos de filtración (datos de clientes, modelos internos, flujo de operaciones), preocupaciones por uso de información privilegiada y comunicación cruzada no supervisada entre banca y trading.
  • Varios sospechan que un incidente operativo (una mala operación, una filtración de datos o una infracción de cumplimiento) probablemente desencadenó la medida, no el coste de los tokens.

Programación por no ingenieros y paso a producción

  • Patrón de larga data: personal de front office creando herramientas frágiles (hojas de cálculo, macros, ahora aplicaciones generadas por IA) y empujando a los ingenieros a “llevarlas a producción”.
  • Los ingenieros informan que estas herramientas a menudo son inutilizables más allá de prototipos básicos y pueden convertirse en sistemas críticos sin soporte.
  • Algunos piensan que permitir que personal no técnico cree aplicaciones sin revisión es en sí mismo un problema de cumplimiento.

Ingeniería agéntica y el debate sobre “vibe coding”

  • Un sector sostiene que hay que ir “a por todas” con la ingeniería agéntica: patrones sólidos, barandillas, linters, arquitectura y un “armazón empresarial” gestionado para que casi cualquiera pueda construir con seguridad.
  • Los escépticos lo ven como un deseo irreal; dicen que los agentes son malos aplicando normas, que la inyección de prompts sigue sin resolverse y que el código de IA sin revisión es inherentemente arriesgado.

Arquitecturas de seguridad y propuestas de sandbox

  • Muchos argumentan que los agentes deberían ejecutarse en VMs fuertemente aisladas, espacios de trabajo remotos o “puertas de enlace de IA” internas con federación fuerte, control de acceso y DLP, no en los escritorios de los traders.
  • Otros señalan que el aislamiento es difícil en la práctica; las políticas corporativas a menudo desactivan la virtualización, e incluso se ha logrado escapar de sandboxes.

Coste, gobernanza y adopción más amplia de IA

  • Algunas organizaciones están recortando o desplazando el uso de IA debido a la facturación impredecible de las API y a controles empresariales de coste débiles.
  • Los comentaristas esperan una ola de productos de gobernanza de IA: plataformas centralizadas, capas MCP/conectores y entornos de “desarrollador ciudadano” aplicando políticas.
  • Las opiniones divergen sobre el impacto: algunos lo ven como una gestión prudente del riesgo en finanzas; otros como un paso atrás que podría dejar a los traders menos competitivos.