حساب کاربری، صورتحساب و تنظیمات
TeachFORGE.ai
حساب کاربری، صورتحساب & تنظیمات / GPU خودتان
اتصال GPU شخصی خودتان
مرورگر شما مستقیماً با GPU شما صحبت میکند. هیچچیز از سرورهای TeachForge عبور نمیکند.
سختافزار شما، مدل شما، دادههای شما، بدون صورتحساب.
این حالت چه میکند
GPU شخصی خودتان TeachForge را به سمت یک اندپوینت سازگار با OpenAI که خودتان اجرا میکنید هدایت میکند — vLLM، Ollama یا مشابه. پنل درباره این ترتیب مشخص است: مرورگر شما مستقیماً آن را فرا میخواند، GPU هرگز دستگاه شما را ترک نمیکند، و هیچ درخواستی از سرورهای TeachForge عبور نمیکند.
این همان ویژگی حریم خصوصی است که ارزش درککردن دارد. پرامپت از مرورگر شما به دستگاه خودتان میرود. TeachForge نتیجهای را میبیند که شما انتخاب میکنید ذخیره کنید، نه ترافیک را.
به استاندارد یا بالاتر نیاز دارد، و یک مدیر باید «هوش مصنوعی خودتان بیاورید» را برای سایت فعال کرده باشد. پنل میگوید کدامیک از این دو وقتی در دسترس نباشد، گم شده.
راهاندازی آن
راهاندازی vLLM برای دسترسی مرورگر یک راهنمای گامبهگام برای هر سیستمعامل پیوند می‌دهد — دسکتاپ Ubuntu, Windows و macOS. همان مورد مربوط به دستگاه خودتان را دنبال کنید؛ بخش دسترسی مرورگر همان قسمتی است که مردم را غافلگیر میکند و راهنماها آن را پوشش میدهند.
سپس، در این تب: کلید فعالسازی را روشن کنید، وارد کنید URL پایه GPU و مدل، و بزنید آزمایش اتصال. موفقیت نشان می‌دهد متصل شد — n مدل پیدا شد، با مدلهای فهرستشده.
دو جزئیات که پنل بهطور کامل بیان میکند و مردم همچنان از دستشان میدهند. URL باید به /v1ختم شود. و وقتی GPU روی همان کامپیوتر اجرا میشود، از آدرس loopback استفاده کنید — حتی روی سایت زنده و امن هم کار میکند، چون loopback از مسدودسازی محتوای مخلوط معاف است. یک نام دستگاه یا آدرس شبکهٔ محلی اینطور نیست.
بازنویسیهای استنتاج
یک بخش اختیاری بازنویسیهای استنتاج میگیرد دما, حداکثر توکن, Top P, پنجرهٔ زمینه, زمان انتظار (ثانیه) و بودجهٔ تفکر (توکن)، بههمراه الزام شمای JSON (کدگشایی هدایتشده).
برای شروع، آنها را دستنخورده بگذارید. دو موردی که ارزش دستبردن دارند پنجرهٔ زمینه است، اگر پرامپتهای بلند کوتاه میشوند، و زمان انتظار، اگر یک تولید بزرگ پیش از تمامشدن قطع میشود.
یک VRAM & زمینه — راهنمای تقریبی افشا، باندهایی از حدود 8 گیگابایت به بالا می‌دهد، که سریعترین راه برای قضاوت اینکه آیا یک مدل جا میشود پیش از دانلود آن است.
در حین اجرا
مرورگر شما همان چیزی است که با GPU صحبت میکند، پس تب باید در طول کل تولید باز بماند. پنلهای هوش مصنوعی همین را میگویند، و این تفاوت میان این حالت و حالت میزبانیشده توسط پلتفرم است.
همهچیز دیگر یکسان است: همان پرامپت گردآوریشده، همان پیشفرضهای وظیفه، همان اعتبارسنجی آنچه برمیگردد.