मेरी AI लागत $100 से घटकर $1/दिन से भी कम हो गई: GPT4 के साथ Mixtral को fine-tune करना
एक AI founder बताता है कि उसने GPT‑4 का उपयोग करके training data बनाकर और फिर open model (Mixtral) को fine-tune करके अपनी दैनिक लागत को लगभग $100 से घटाकर $1 से भी कम कर दिया, ताकि production में OpenAI की API की जगह ली जा सके। टिप्पणीकार बहस करते हैं कि क्या यह OpenAI की सेवा शर्तों का उल्लंघन है और छोटे companies के लिए वास्तविक कानूनी या व्यावहारिक जोखिम क्या हैं, खासकर OpenAI की अपनी विवादास्पद data sourcing को देखते हुए। अन्य लोग तकनीकी और नैतिक trade-offs पर सवाल उठाते हैं, यह नोट करते हुए कि distilled models अक्सर GPT‑4 से कमज़ोर होते हैं, यदि उन्हें चुपचाप बदला जाए तो वे user-hostile हो सकते हैं, और संकीर्ण tasks के लिए उच्च-गुणवत्ता वाला training data हाथ से बनाना अधिक सस्ता हो सकता है.
OpenAI की सेवा शर्तें और वैधता
- कई टिप्पणीकारों का तर्क है कि वर्णित workflow (GPT‑4 के output का उपयोग करके Mixtral को fine-tune करना) OpenAI की ToS के स्पष्ट रूप से खिलाफ है, जो कुछ विशिष्ट internal use cases को छोड़कर, output का उपयोग प्रतिस्पर्धी AI models विकसित करने के लिए करने पर रोक लगाती हैं।
- अन्य लोग सवाल उठाते हैं कि क्या कोई niche, application-specific model वास्तव में OpenAI के products से “प्रतिस्पर्धा” करता है, और सुझाव देते हैं कि यह clause शायद generic LLM APIs और ChatGPT-style सेवाओं को निशाना बनाता है।
- कुछ लोग note करते हैं कि academic या गैर-productized काम संभवतः अधिक सुरक्षित है, लेकिन commercialize होते ही वह ToS action के प्रति अधिक संवेदनशील हो जाता है।
प्रवर्तन जोखिम और कानूनी अनिश्चितता
- कई लोगों का मानना है कि OpenAI का सबसे यथार्थवादी उपाय API access काट देना है, मुकदमा करना नहीं, खासकर छोटे users के लिए।
- कई लोग बताते हैं कि court challenges (जैसे चल रहे media lawsuits) अंततः यह तय कर सकते हैं कि training या output restrictions वास्तव में enforceable हैं भी या नहीं।
- अन्य लोग जोर देते हैं कि भले ही कोई नैतिक रूप से खुद को सही माने, court में test case बनना या API access खो देना business को बर्बाद कर सकता है या acquisition prospects को जटिल बना सकता है।
नैतिकता, निष्पक्षता, और “पाइरेसी”
- एक मजबूत थीम: OpenAI ने कथित तौर पर अन्य platforms की ToS के खिलाफ और बिना consent के content पर training की, इसलिए कुछ लोग इसे “चोर से चोरी” करना नैतिक रूप से स्वीकार्य मानते हैं।
- अन्य लोग इसका विरोध करते हैं, “hacker spirit” और अनैतिक व्यवहार में फर्क करते हुए, और contractual obligations पर जोर देते हैं, भले ही वे उन्हें पसंद न करें।
- जो लोग information freedom को प्राथमिकता देते हैं और जो legal/contractual prudence को प्राथमिकता देते हैं, उनके बीच तनाव है।
तकनीकी दृष्टिकोण और मॉडल की गुणवत्ता
- कुछ लोग इस method की प्रशंसा करते हैं, इसे एक संकीर्ण domain के लिए GPT‑4 behavior का अनुमान लगाने का स्मार्ट, सस्ता तरीका मानते हैं।
- संशयवादी argue करते हैं कि fine-tuned छोटे models stress के तहत फिर भी noticeably कमजोर रहेंगे, और सीमित domains के लिए कोई सरलता से data को हाथ से craft या hand-label कर सकता है।
- इस बात पर चर्चा है कि LLMs से synthetic data का अत्यधिक उपयोग हो रहा है, और manual labeled data कभी-कभी तेज, सस्ता, और अधिक consistent हो सकता है।
व्यावसायिक मॉडल, लागत, और “bait-and-switch”
- टिप्पणीकार note करते हैं कि कई companies पहले ही GPT‑4 को open models में distill करती हैं, उन्हें proprietary के रूप में brand करती हैं, और AI leadership का दावा करती हैं।
- कुछ लोग इस पैटर्न को इस तरह देखते हैं: GPT‑4 पर launch करना, फिर users के फँस जाने के बाद चुपचाप एक सस्ते in-house model पर swap कर देना, जिसे वे user-hostile “enshittification” कहते हैं।
- अन्य लोग economics पर चर्चा करते हैं: OpenAI की pricing बढ़ सकती है; margins के लिए self-hosted या open models आवश्यक हो सकते हैं, लेकिन fine-tuning और infra मुफ्त नहीं हैं और expertise की मांग कर सकते हैं।
ऐप-विशिष्ट चिंताएँ
- प्रदर्शित app की आलोचना की जाती है कि उसमें ToS, privacy policy, और pricing transparency की कमी है, जबकि यह विस्तृत personal data एकत्र कर रहा है, जिसे कुछ लोग “shady” कहते हैं।
- निर्माता इन मुद्दों को स्वीकार करता है और मानता है कि उन्हें स्पष्ट policies और transparency चाहिए।