اکاؤنٹ، بلنگ اور ترتیبات
TeachFORGE.ai
اکاؤنٹ، بلنگ & ترتیبات / آپ کا اپنا GPU
اپنا GPU جوڑیں
آپ کا براؤزر براہ راست آپ کے GPU سے بات کرتا ہے۔ TeachForge سرورز سے کچھ نہیں گزرتا۔
آپ کا ہارڈ ویئر، آپ کا ماڈل، آپ کا ڈیٹا، کوئی بل نہیں۔
یہ کیا کرتا ہے
آپ کا اپنا GPU TeachForge کو آپ کے چلائے OpenAI موافق اینڈ پوائنٹ کی طرف لگاتا ہے — vLLM، Ollama یا ملتا جلتا۔ پینل بندوبست میں مخصوص ہے: براؤزر براہ راست کال کرتا ہے، GPU کبھی مشین نہیں چھوڑتا، اور کوئی درخواست TeachForge سرورز سے نہیں گزرتی۔
یہی پرائیویسی خاصیت سمجھنے کے لائق ہے۔ پرامپٹ آپ کے براؤزر سے آپ کی مشین جاتا ہے۔ TeachForge وہ نتیجہ دیکھتا ہے جو آپ محفوظ کرنے چنیں، ٹریفک نہیں۔
اسٹینڈرڈ یا اعلیٰ درکار، اور منتظم نے سائٹ کے لیے اپنا AI فعال کیا ہو۔ پینل بتاتا ہے دونوں میں سے کون سا غائب جب دستیاب نہ ہو۔
سیٹ اپ
براؤزر رسائی کے لیے vLLM سیٹ اپ کریں ہر آپریٹنگ سسٹم کے لیے قدم بہ قدم گائیڈ لنک کرتا ہے — Ubuntu ڈیسک ٹاپ، Windows اور macOS۔ اپنی مشین والا فالو کریں؛ براؤزر رسائی حصہ لوگوں کو پھنساتا ہے اور گائیڈز کور کرتے ہیں۔
پھر، اس ٹیب پر: سوئچ فعال کریں آن، داخل کریں GPU بیس URL اور ماڈل، اور دبائیں کنکشن ٹیسٹ کریں۔ کامیابی پڑھتی ہے منسلک — n ماڈل ملے، ماڈلز فہرست کے ساتھ۔
دو تفصیلات پینل کھولتا ہے اور لوگ پھر بھی چھوڑتے ہیں۔ URL ختم ہونا چاہیے /v1پر۔ اور جب GPU اسی کمپیوٹر پر چلے، لوپ بیک پتہ استعمال کریں — لائیو محفوظ سائٹ پر بھی کام کرتا ہے، کیونکہ لوپ بیک مخلوط مواد بلاکنگ سے مستثنیٰ ہے۔ مشین نام یا مقامی نیٹ ورک پتہ نہیں ہوگا۔
Inference اوور رائیڈز
اختیاری Inference اوور رائیڈز حصہ لیتا ہے درجہ حرارت، زیادہ سے زیادہ ٹوکنز، Top P، سیاق ونڈو، ٹائم آؤٹ (سیکنڈ) اور سوچ بجٹ (ٹوکنز)، نیز JSON اسکیمہ نافذ کریں (گائیڈڈ ڈی کوڈنگ)۔
شروع میں انہیں چھوڑ دیں۔ پہنچنے کے لائق دو سیاق ونڈو ہیں، اگر لمبے پرامپٹس کاٹے جا رہے ہوں، اور ٹائم آؤٹ، اگر بڑی تیاری ختم سے پہلے کٹ رہی ہو۔
ایک VRAM & سیاق — موٹا رہنما افشا تقریباً 8 GB سے اوپر بینڈ دیتا ہے، جو ڈاؤن لوڈ سے پہلے ماڈل فٹ ہوگا جانچنے کا تیز ترین طریقہ ہے۔
جب چل رہا ہو
آپ کا براؤزر GPU سے بات کرتا ہے، اس لیے پوری تیاری کے لیے ٹیب کھلا رہنا چاہیے۔ AI پینلز کہتے ہیں، اور یہ فرق ہے اس موڈ اور پلیٹ فارم ہوسٹڈ کے درمیان۔
باقی سب ایک جیسا: ایک ہی مرتب پرامپٹ، ایک ہی ٹاسک ڈیفالٹس، واپسی کی ایک ہی تصدیق۔