API 和 ChatGPT 出现错误激增

原文 ↗ Hacker News 讨论 ↗

OpenAI 的 API 和 ChatGPT 频繁宕机与变慢，恰逢新功能上线和近期公司动荡，引发了付费用户和在该平台上构建产品的开发者对可靠性的担忧。评论者争论快速创新是否值得服务不稳定，呼吁更清晰的 SLA 或“stable vs. preview”分层，并分享 Azure OpenAI、本地模型以及 Phind 等竞争对手作为替代方案。OpenAI 员工承认了这次事件，将其归因于面对巨大需求时的扩容挑战，并承诺发布事后复盘。

宕机与可见症状

  • 用户报告 OpenAI API 和 ChatGPT 出现故障，表现为内部服务器错误、登出、登录失败，以及通用的“请求出现问题”提示。
  • 一些人看到新的“ChatGPT Alpha”/“alpha models”下拉菜单，似乎与实验性功能有关，这进一步增加了困惑。
  • 11 月的状态页正常运行时间图表被认为表现很差。

可靠性、扩容与声称的原因

  • 许多人认为这次故障与 Dev Day 之后的流量激增以及免费语音聊天的上线有关。
  • 一位代表 OpenAI 发言的人表示，这与语音上线和最近的管理层风波都无关，而是归因于面对庞大用户群时常见的扩容挑战。
  • 另一些人仍然不信服，指出自 Dev Day 以来，尤其是 GPT‑4 和 gpt-4-1106-preview 经常出现宕机和变慢。

对付费用户和 API 开发者的影响

  • 人们强烈不满，认为付费用户和 API 工作负载却因面向免费用户的发布而受影响。
  • 集成 Assistants API 和 GPT‑4 模型的开发者强调，需要优雅降级和更好的可靠性。
  • 讨论还涉及退款和 SLA；另一位评论者指出条款明确声明不保证服务不中断。

速度与稳定性，以及产品策略

  • 观点分歧明显：有人重视快速迭代，即使伴随宕机；也有人希望有“stable”与“preview”端点，并更明确地标注“这是 beta”。
  • 有人将其与 GitHub、Gmail 和其他类似基础设施的服务作比较，用户通常期待它们具有极高可靠性。

新功能与模型的体验

  • Assistants API 总体上受到喜爱，但在工具调用准确性方面存在问题，有时还会忽略提供的文件。
  • कई人觉得新的 preview 模型很强大，但“慢得离谱”，影响可用性。

替代方案与备用选项

  • 被建议的替代品包括 Azure OpenAI（被认为更稳定）、Bing Chat、Phind、Claude、Pi、本地模型通过 Ollama（Mistral、Code Llama、OpenChat）、带有 Llama 2 的 Bedrock 等。
  • 一些人表示 Phind 和某些开源模型表现出人意料地好，尤其是在编程方面。

依赖、生产力与更广泛的反思

  • 许多人意识到自己已经非常依赖 ChatGPT 来编程、写作和做笔记；宕机会显著打乱工作流。
  • 一位患有 ADHD 的评论者称它比药物更有帮助；其他人则担心过度依赖以及失去独立解决问题的能力。

语气：幽默与焦虑

  • 讨论串混合了对 OpenAI 稳定性的严肃担忧和玩笑（HTTP 错误梗、科幻抢劫场景、“404 CEO NOT FOUND”）。
  • 这一事件放大了人们对公司治理和长期可靠性的既有担忧，即便用户仍然称赞该产品的能力。