खाता, बिलिंग और सेटिंग्स
TeachFORGE.ai
खाता, बिलिंग & सेटिंग्स / आपका अपना GPU
अपना GPU कनेक्ट करें
आपका ब्राउज़र सीधे आपके GPU से बात करता है। कुछ भी TeachForge के सर्वरों से नहीं गुज़रता।
आपका हार्डवेयर, आपका मॉडल, आपका डेटा, कोई बिल नहीं।
यह क्या करता है
आपका अपना GPU TeachForge को आपके द्वारा चलाए जा रहे किसी OpenAI-कम्पैटिबल एंडपॉइंट की ओर इशारा करता है — vLLM, Ollama या इसी तरह का कुछ। पैनल इस व्यवस्था के बारे में स्पष्ट है: आपका ब्राउज़र इसे सीधे कॉल करता है, GPU आपकी मशीन से कभी बाहर नहीं जाता, और कोई भी रिक्वेस्ट TeachForge के सर्वरों से नहीं गुज़रती।
यह वह प्राइवेसी विशेषता है जिसे समझना ज़रूरी है। प्रॉम्प्ट आपके ब्राउज़र से आपकी अपनी मशीन तक जाता है। TeachForge वही नतीजा देखता है जिसे आप सेव करना चुनते हैं, ट्रैफ़िक नहीं।
इसे स्टैंडर्ड या उससे ऊँचे की ज़रूरत है, और साइट के लिए किसी प्रशासक ने 'अपना खुद AI लाओ' चालू किया होना चाहिए। जब यह उपलब्ध नहीं होता, तो पैनल बताता है कि इन दोनों में से कौन-सा गायब है।
इसे सेट अप करना
ब्राउज़र एक्सेस के लिए vLLM सेट अप करें हर ऑपरेटिंग सिस्टम के लिए एक चरण-दर-चरण गाइड को लिंक करता है — Ubuntu डेस्कटॉप, Windows और macOS. अपनी मशीन के लिए वाली गाइड फ़ॉलो करें; ब्राउज़र-एक्सेस वाला हिस्सा वह जगह है जहाँ लोग अटकते हैं, और गाइड इसे कवर करती हैं।
फिर, इस टैब पर: स्विच करें चालू करें ऑन, दर्ज करें GPU बेस URL और मॉडल, और दबाएं कनेक्शन जांचें. सफल होने पर लिखा होता है जुड़ गया — n मॉडल मिले, मॉडलों की सूची के साथ।
दो बातें जो पैनल स्पष्ट रूप से बताता है, फिर भी लोग चूक जाते हैं। URL का अंत इससे होना चाहिए /v1. और जब GPU उसी कंप्यूटर पर चलता है, तो लूपबैक एड्रेस का उपयोग करें — यह लाइव सुरक्षित साइट पर भी काम करता है, क्योंकि लूपबैक मिक्स्ड-कंटेंट ब्लॉकिंग से मुक्त है। किसी मशीन के नाम या लोकल नेटवर्क एड्रेस के साथ ऐसा नहीं होगा।
इनफ़रेंस ओवरराइड
एक वैकल्पिक इनफ़रेंस ओवरराइड सेक्शन लेता है तापमान, मैक्स टोकन, टॉप P, कॉन्टेक्स्ट विंडो, टाइमआउट (सेकंड) और थिंकिंग बजट (टोकन), और साथ ही JSON स्कीमा लागू करें (गाइडेड डिकोडिंग)।
शुरुआत में इन्हें ऐसे ही छोड़ दें। जिन दो को छूना समझ में आता है वे हैं कॉन्टेक्स्ट विंडो, अगर लंबे प्रॉम्प्ट कट रहे हैं, और टाइमआउट, अगर कोई बड़ा जनरेशन पूरा होने से पहले कट जाता है।
एक VRAM & कॉन्टेक्स्ट — मोटा अनुमान डिस्क्लोज़र लगभग 8 GB से ऊपर के बैंड देता है, जो यह अंदाज़ा लगाने का सबसे तेज़ तरीका है कि कोई मॉडल डाउनलोड करने से पहले फ़िट होगा या नहीं।
चलते समय
आपका ब्राउज़र ही GPU से बात करता है, इसलिए पूरे जनरेशन के दौरान टैब को खुला रखना पड़ता है। AI पैनल यही बताते हैं, और यही इस मोड और प्लेटफ़ॉर्म-होस्टेड मोड के बीच का फ़र्क है।
बाकी सब कुछ एक जैसा है: वही कंपाइल किया गया प्रॉम्प्ट, वही टास्क डिफ़ॉल्ट, वही वैलिडेशन जो वापस आता है।