Los empleados de Google que crearon los transformers

Papel de I+D, impuestos e incentivos corporativos

• Varios comentarios sostienen que una I+D “sobredimensionada” es socialmente valiosa; los grandes avances suelen surgir de proyectos sin ingresos inmediatos.
• Debate sobre si la I+D está realmente “libre de impuestos”: distinción entre deducciones normales de gastos frente a créditos fiscales por I+D y normas de amortización.
• Algunos ven las estructuras fiscales de I+D como subsidios para las grandes tecnológicas; otros rechazan el encuadre de “libre de impuestos”.

Inmigración, diversidad y concentración de talento

• Muchos destacan que el equipo de transformers estaba abrumadoramente formado por inmigrantes de primera generación o hijos de inmigrantes.
• Algunos ven esto como evidencia de que EE. UU. (y California en particular) atrae eficazmente talento global.
• Otros señalan que los sistemas de inmigración y visados de EE. UU. no son especialmente acogedores en comparación con algunos países, y que la diversidad es mayor en los programas de posgrado que en la población general.

La oportunidad perdida de Google y la crítica a la gestión

• Tema recurrente: Google tenía las personas, los artículos y la infraestructura para ser “OpenAI”, pero no logró convertir agresivamente los transformers en producto.
• Explicaciones ofrecidas: miedo a la reacción pública, impacto en Search/Assistant, política interna, control de acceso por seguridad en IA, y conservadurismo del CEO y la junta.
• Algunos ven el clásico “dilema del innovador”: proteger un negocio de anuncios que podría verse interrumpido por los chatbots.
• Otros argumentan que Google puede simplemente adquirir a los ganadores más tarde, aunque otros dicen que la dinámica moderna de VC hace irrealista el “simplemente comprarlos”.

Impacto en Search y los anuncios

• Algunos usuarios ya han trasladado muchas consultas (especialmente técnicas) de Google Search a los LLMs.
• Una visión: los LLMs canibalizan los ingresos publicitarios futuros de Google y amenazan el ecosistema web.
• Contraargumento: actualmente los LLMs absorben consultas de búsqueda de hechos no rentables; la intención comercial sigue favoreciendo la búsqueda tradicional y las redes publicitarias.

Qué cuenta como “IA moderna” y el papel de los transformers

• Desacuerdo con los titulares que afirman que los transformers “inventaron la IA moderna”.
• Partidarios: los transformers son la arquitectura central detrás del actual auge de los LLMs y permitieron los sistemas de hoy.
• Escépticos: el progreso es acumulativo: la atención, las redes profundas, los grandes datos, las GPU, los modelos de difusión y trabajos anteriores también importan; la “IA moderna” es anterior a los transformers.
• Algunos enfatizan el escalado al estilo de la “lección amarga” con arquitecturas simples; otros sostienen que las direcciones futuras pueden apoyarse más en modelos del mundo, memoria y estructuras más deterministas.

Conducción autónoma y transformers

• Algunos esperaban que la conducción autónoma definiera la “IA moderna” en lugar de los chatbots.
• Otros creen que los transformers multimodales acabarán siendo centrales para una competencia de conducción de nivel superior, especialmente para casos raros o extremos, pero señalan los límites actuales de computación y seguridad.

Arte previo y asignación de crédito

• Varios mensajes se quejan de narrativas que atribuyen en exceso el mérito a una sola empresa o artículo, dado el extenso arte previo en atención y modelos de secuencia.
• Se hacen comparaciones con cómo la historia a veces simplifica demasiado el crédito (por ejemplo, en física o CRISPR).

Industria vs. academia y computación

• La discusión señala que los grandes laboratorios industriales, no las universidades, impulsaron gran parte del progreso de la última década debido a la computación y los salarios.
• Algunos lamentan que muchos contribuyentes fundamentales (por ejemplo, matemáticos y primeros investigadores de ML) sigan siendo en gran medida invisibles en los relatos populares.

Colaboración, oficina y cultura

• Los comentaristas señalan que los autores de transformers estaban ubicados juntos en una misma oficina; algunos toman esto como apoyo a la colaboración presencial con oficinas privadas y tiempo para trabajo profundo.
• Otros responden que las oficinas abiertas típicas socavan la concentración y abogan por un enfoque equilibrado o híbrido.