API और ChatGPT पर बढ़ी हुई त्रुटियाँ

मूल लेख ↗ Hacker News चर्चा ↗

OpenAI की API और ChatGPT में बार-बार होने वाले outages और धीमापन, नए feature rollouts और हालिया corporate turmoil के साथ, प्लेटफ़ॉर्म पर निर्माण करने वाले paying users और developers दोनों के बीच reliability को लेकर चिंताएँ बढ़ा रहे हैं। टिप्पणीकार बहस करते हैं कि क्या तेज innovation service instability को उचित ठहराती है, स्पष्ट SLAs या “stable vs. preview” tiers की मांग करते हैं, और Azure OpenAI, local models, तथा Phind जैसे प्रतिस्पर्धियों सहित विकल्प साझा करते हैं। OpenAI staff इस घटना को स्वीकार करते हैं, इसे भारी मांग के साथ scaling challenges बताते हैं, और postmortem का वादा करते हैं.

आउटेज और दिखाई देने वाले लक्षण

  • उपयोगकर्ता रिपोर्ट कर रहे हैं कि OpenAI API और ChatGPT डाउन हैं, जिनमें internal server errors, लॉगआउट, failed logins, और सामान्य “problem with your request” संदेश शामिल हैं।
  • कुछ लोगों को नया “ChatGPT Alpha” / “alpha models” dropdown दिख रहा है, जो apparently experimental features से जुड़ा है, और इससे भ्रम और बढ़ रहा है।
  • November के लिए status page uptime graphs खराब माने जा रहे हैं।

विश्वसनीयता, स्केलिंग, और बताए गए कारण

  • कई लोग मानते हैं कि यह outage Dev Day के बाद traffic spikes और free voice chat के rollout से जुड़ा है।
  • OpenAI की ओर से बोलने वाला एक व्यक्ति कहता है कि इसका संबंध न तो voice rollout से है और न ही हाल की leadership drama से, और इसे बहुत बड़े user base के साथ सामान्य scaling challenges का परिणाम बताता है।
  • अन्य लोग अब भी आश्वस्त नहीं हैं, और Dev Day के बाद से बार-बार होने वाले outages और slowdowns की ओर इशारा करते हैं, खासकर GPT‑4 और gpt-4-1106-preview के लिए।

भुगतान करने वाले उपयोगकर्ताओं और API developers पर प्रभाव

  • इस बात पर कड़ी नाराज़गी है कि free users के लिए launches के कारण paid users और API workloads बाधित हो रहे हैं।
  • Assistants API और GPT‑4 models को integrate करने वाले developers graceful degradation और बेहतर reliability की आवश्यकता पर ज़ोर देते हैं।
  • refunds और SLAs को लेकर सवाल उठते हैं; एक और commenter नोट करता है कि terms स्पष्ट रूप से uninterrupted service से इनकार करती हैं।

Speed बनाम Stability, और Product Strategy

  • मतभेद हैं: कुछ लोग outages के बावजूद तेज iteration को महत्व देते हैं, जबकि अन्य “stable” बनाम “preview” endpoints और अधिक स्पष्ट “this is beta” messaging चाहते हैं।
  • GitHub, Gmail, और अन्य infrastructure-like services से तुलना की जाती है, जिनसे उपयोगकर्ता अत्यधिक reliable होने की अपेक्षा करते हैं।

नई features और models के साथ अनुभव

  • Assistants API आम तौर पर पसंद की जाती है, हालांकि tool-calling accuracy और कभी-कभी दिए गए files को ignore करने की समस्याएँ हैं।
  • कई लोगों को नए preview models शक्तिशाली लगते हैं लेकिन “insanely slow,” जिससे उपयोगिता प्रभावित होती है।

विकल्प और fallback options

  • सुझाए गए substitutes में Azure OpenAI (जिसे अधिक stable माना जाता है), Bing Chat, Phind, Claude, Pi, Ollama के माध्यम से local models (Mistral, Code Llama, OpenChat), Bedrock with Llama 2, और अन्य शामिल हैं।
  • कुछ लोग बताते हैं कि Phind और कुछ open models आश्चर्यजनक रूप से अच्छा प्रदर्शन कर रहे हैं, खासकर coding के लिए।

निर्भरता, उत्पादकता, और व्यापक विचार

  • कई लोगों को एहसास होता है कि coding, writing, और note-taking के लिए वे ChatGPT पर कितने निर्भर हो गए हैं; outages workflows को काफी बाधित करते हैं।
  • ADHD वाला एक commenter इसे medication से भी अधिक सहायक बताता है; अन्य लोग over-reliance और स्वतंत्र problem-solving के नुकसान को लेकर चिंतित हैं।

स्वर: हास्य और चिंता

  • थ्रेड में OpenAI की stability को लेकर गंभीर चिंता के साथ jokes भी मिलते हैं (HTTP error gags, sci-fi heist scenarios, “404 CEO NOT FOUND”).
  • यह घटना कंपनी के governance और दीर्घकालिक reliability को लेकर मौजूदा चिंताओं को और बढ़ाती है, भले ही उपयोगकर्ता उत्पाद की क्षमताओं की प्रशंसा करते हों।