Google Gemini Pro API Disponible a través de AI Studio

Artículo original ↗ Discusión en Hacker News ↗

Google ha abierto su modelo de lenguaje grande Gemini Pro a desarrolladores a través de AI Studio y un generoso nivel gratuito, lo que ha despertado interés por sus precios, funciones y lo fácilmente que puede reemplazar o complementar las API GPT de OpenAI. Los comentaristas señalan límites atractivos (hasta 60 consultas gratuitas por minuto), soporte multimodal y llamada a funciones, pero muchos informan de una UX deficiente, restricciones de acceso regionales y un rendimiento aproximadamente comparable al de GPT‑3.5 más que al de GPT‑4, especialmente en tareas de razonamiento. También hay preocupación por el uso por parte de Google de los datos del nivel gratuito para mejorar modelos, posibles subidas de precios futuras y el impacto más amplio de herramientas como los creadores automáticos de entradas de blog en la calidad de la web.

Acceso y disponibilidad

  • Gemini Pro está disponible a través de Google AI Studio / MakerSuite y mediante Vertex AI, con soporte para muchos países e idiomas.
  • Varios usuarios informan “Access restricted”, “internal error” o problemas de permisos de Early Access, incluso cuando la configuración de administrador parece correcta.
  • Algunos solo pueden acceder a MakerSuite mediante una VPN de EE. UU.; según informes, Gemini aún no está disponible en la UE, y Bard allí podría seguir ejecutándose sobre PaLM 2.
  • Los usuarios de Firefox ven grandes cantidades de ventanas emergentes bloqueadas en el sitio de AI Studio / MakerSuite.

Precios y nivel gratuito

  • El nivel gratuito permite hasta 60 consultas por minuto, lo que muchos consideran muy generoso y un fuerte incentivo para experimentar.
  • Hay sospechas de que esto es una oferta de pérdida, con preocupaciones sobre subidas de precios posteriores similares a las de Google Maps.
  • Los datos del nivel gratuito se usan para mejorar el producto.
  • El precio de pago es por carácter; comparaciones aproximadas sugieren paridad de coste general con GPT‑3.5 Turbo al tener en cuenta caracteres frente a tokens.

Calidad del modelo y comparaciones

  • Varios acertijos sencillos de razonamiento (libros en una casa, hermanos, naranja bajo un plato) muestran errores lógicos frecuentes en Gemini Pro, aproximadamente comparables a GPT‑3.5 y más débiles que GPT‑4 y algunos modelos abiertos más nuevos en estas pruebas.
  • La visión de Gemini Pro comete errores notables (por ejemplo, identificar un pulgar arriba como pulgar abajo con una explicación grandilocuente).
  • Varios usuarios describen Bard/Gemini como decepcionante; el entusiasmo se centra sobre todo en el precio y el acceso, no en la capacidad.
  • Gemini Ultra (posicionado por Google como competidor de GPT‑4) aún no se ha lanzado.

UX e incorporación

  • Quejas comunes sobre flujos confusos entre AI Studio, MakerSuite y GCP/Vertex, botones de volver rotos, ventanas emergentes y errores en la creación de claves API.
  • Crítica más amplia a la UX de la nube de Google, al manejo de idiomas/locale y a los incentivos organizativos que relegan el pulido de la incorporación.

Diseño de API e integración

  • La API se ve como un sustituto fácil de la chat API de OpenAI: “messages” → “content”, roles ligeramente distintos (sin rol explícito de system), además de controles de moderación integrados.
  • La llamada a funciones, embeddings, recuperación semántica e inputs multimodales están disponibles; Qdrant tiene documentación de ejemplo para embeddings.
  • Existe cierta confusión sobre diferencias menores entre los ejemplos de Node.js y del SDK web; se aclaró como problemas de documentación/sobrecargas.

Privacidad y anuncios

  • Preocupación de que las consultas a Bard/Gemini influyeran de inmediato en anuncios personalizados en propiedades de Google; se contrasta con el uso de ChatGPT, que según observó un usuario no hizo eso.

Contenido y calidad web

  • Un ejemplo de plantilla de prompt “blog post creator” se ve como una legitimación del spam web generado por IA.
  • El contrapunto es que la generación estructurada de texto (por ejemplo, comunicados de prensa) puede ser un uso válido, aunque algunos prefieren listas de hechos en bruto antes que prosa de relleno.

Marca y nomenclatura

  • Algunos señalan la colisión del nombre con el protocolo de internet Gemini existente; otros sostienen que “Gemini” es genérico y que el uso de Google hace referencia al programa espacial y a la estructura del equipo interno.