Explorando GPTs: ChatGPT num sobretudo?

Os novos “GPTs” da OpenAI — bots personalizáveis baseados no ChatGPT que podem receber instruções, ferramentas e bases de conhecimento privadas — são vistos como um passo poderoso, mas desigual, rumo a tornar agentes de IA acessíveis a usuários não técnicos. Comentadores os comparam à Assistants API, debatem o quanto realmente oferecem além de engenharia de prompts engenhosa e apontam problemas práticos como desempenho fraco de recuperação, prompts ocultos opacos e integração desajeitada com dados externos e OAuth. Muitos ainda veem a principal inovação como UX e distribuição: os GPTs reduzem a barreira para criar e compartilhar agentes especializados, ao mesmo tempo em que levantam novas preocupações sobre coleta de dados, controle corporativo e a IA mediando mais interações pessoais e de atendimento ao cliente.

GPTs vs Assistants API / Diferenças Técnicas

  • Muitos veem GPTs como “ChatGPT com um pré-prompt”, isto é, instruções de sistema personalizadas mais ferramentas e arquivos opcionais.
  • A Assistants API é descrita como de nível mais baixo: mais controle sobre threads, inicialização de contexto e UI, mas você precisa construir o frontend e lidar com polling.
  • Alguns relatam apenas um controle extra modesto com Assistants na prática; a OpenAI ainda conduz o fluxo conversacional.
  • Uma diferença notada: múltiplos Assistants podem ser anexados a um único thread, enquanto GPTs são de modelo único.

Actions, Function Calling e Auth

  • GPTs podem chamar APIs externas via “actions” apoiadas por specs OpenAPI, funcionalmente semelhantes a function calling.
  • OAuth está disponível para ações de GPT, mas é limitado por regras de domínio; a configuração pode ser complicada.
  • Ações POST frequentemente exigem “Allow/Deny” repetidos; um cabeçalho especial (isConsequential: false) pode reduzir os prompts.

RAG / “Knowledge” e Manipulação de Arquivos

  • O “knowledge” de GPT é, na prática, RAG: os arquivos são fragmentados, embedados e armazenados em um banco de dados vetorial (provavelmente Qdrant para alguns fluxos, embora outros mencionem serviços Azure).
  • O comportamento parece depender do tamanho: arquivos pequenos podem ser incorporados diretamente nos prompts; coleções grandes muitas vezes funcionam melhor quando unificadas em um único arquivo de texto.
  • Vários usuários relatam qualidade de recuperação ruim ou inconsistente, controle de citações e falhas de indexação, especialmente com muitos arquivos ou arquivos grandes.
  • Arquivos de texto simples tendem a funcionar melhor do que formatos complexos; PDFs/Markdown são imprevisíveis.

Transparência e Controle do Prompt

  • Há um forte desejo por uma opção de “ver o código-fonte” para prompts e configuração de GPT; muitos desconfiam de instruções ocultas e APIs desconhecidas.
  • Usuários observam que prompts de GPT frequentemente podem ser vazados com consultas inteligentes; tentativas de escondê-los muitas vezes são derrotadas.
  • Alguns argumentam que “ver o código-fonte” serviria principalmente para usuários avançados, mas poderia impulsionar melhorias orientadas pela comunidade.

Casos de Uso e Impressões de UX

  • Os usos relatados incluem: consoles de jogos retrô, analistas específicos de domínio, automação de treinamento/oficinas, RAG sobre documentos técnicos, assistentes pessoais e experimentação com JavaScript Code Interpreter.
  • GPTs são elogiados como um enorme ganho de UX para usuários não técnicos que têm dificuldade com prompts de sistema e instruções personalizadas.
  • Outros os consideram “brinquedos” desnecessários em comparação com o uso direto do modelo base via prompt.

Riscos, Dados e Preocupações de Negócio

  • As preocupações incluem: conteúdo shovelware, desvio de clientes no atendimento ao cliente corporativo, eficiência desumanizante e a OpenAI coletando documentos enviados e a criatividade dos usuários como uma vantagem competitiva.
  • Para alguns, não está claro se os documentos enviados aos GPTs são usados para treinamento de modelo; diz-se que os uploads via API não são.