Los modelos frontera de OpenAI y Codex ya están disponibles en AWS

Artículo original ↗ Discusión en Hacker News ↗

Precios y economía

  • Los modelos de OpenAI en AWS Bedrock son ~10% más caros que el precio directo de OpenAI; los usuarios de GovCloud reportan ~30% extra encima.
  • Las explicaciones ofrecidas: primas por inferencia solo en EE. UU. / residencia de datos, margen para descuentos empresariales y el hecho de que muchas empresas aceptarán costes más altos de AWS para evitar añadir un nuevo proveedor.
  • Algunos ven esto como “relleno de la factura de AWS”, pero aun así racional para empresas que ya viven en AWS y se preocupan más por la simplicidad de compras que por el coste marginal.

Adquisiciones empresariales y gobernanza

  • A muchas grandes empresas les resulta extremadamente difícil aprobar nuevos proveedores; deben superar obstáculos de infosec, legal, contratos con clientes y auditoría.
  • Usar OpenAI a través de Bedrock evita añadir otro proveedor, otra revisión de seguridad y otro procesador de datos; también simplifica la facturación y el chargeback interno.
  • La idea de “a nadie le despidieron por comprar AWS”: seguir con un proveedor de nube existente se ve como seguro para la carrera, aunque no sea lo más barato ni lo ideal.
  • Bedrock suele ser la única forma realista de desplegar LLMs en entornos corporativos fuertemente controlados.

Privacidad de datos, residencia y riesgo legal

  • Bedrock ejecuta los modelos en infraestructura controlada por AWS; los proveedores de modelos no ven los prompts de los clientes, lo que es un gran argumento de venta para datos sensibles.
  • Muchos comentaristas confían en el historial de AWS, los contratos, las auditorías y los incentivos reputacionales para no usar indebidamente los datos; otros responden con escepticismo sobre confiar en cualquier gran proveedor de EE. UU.
  • Algunos señalan implicaciones de la US CLOUD Act: aunque los datos se almacenen en una región no estadounidense, una empresa de EE. UU. aún puede ser obligada a entregarlos, lo que supone un bloqueo para ciertos casos de uso de la UE/control de exportaciones.

Impacto competitivo y de ecosistema

  • Esto se ve como algo enorme para OpenAI y potencialmente preocupante para Anthropic, que antes tenía una ventaja importante como el principal modelo de alta gama en Bedrock.
  • Varios esperan que esto perjudique a Azure, dada la exclusividad anterior y los problemas percibidos de fiabilidad/escala.
  • Algunos critican el retraso de Bedrock en soportar modelos abiertos más nuevos, mientras que otros celebran una mayor elección de modelos y competencia.

Observaciones más amplias

  • Los proveedores de nube se ven como las nuevas plataformas empresariales “inamovibles”, de forma similar a IBM/Oracle históricamente.
  • Sigue el debate sobre el progreso futuro de la IA dada la cantidad finita de datos públicos de alta calidad y los crecientes “firewalls” de datos en las empresas.