অ্যাকাউন্ট, বিলিং ও সেটিংস
TeachFORGE.ai
অ্যাকাউন্ট, বিলিং & সেটিংস / আপনার নিজের GPU
আপনার নিজের GPU সংযুক্ত করুন
আপনার ব্রাউজার সরাসরি আপনার GPU-এর সাথে কথা বলে। TeachForge-এর সার্ভারের মধ্য দিয়ে কিছুই যায় না।
আপনার হার্ডওয়্যার, আপনার মডেল, আপনার ডেটা, কোনো বিল নেই।
এটি কী করে
আপনার নিজের GPU TeachForge-কে আপনার চালানো একটি OpenAI-কম্প্যাটিবল এন্ডপয়েন্টের দিকে নির্দেশ করে — vLLM, Ollama বা একই ধরনের। প্যানেলটি ব্যবস্থাপনা নিয়ে সুনির্দিষ্ট: আপনার ব্রাউজার সরাসরি এটিকে কল করে, GPU কখনো আপনার মেশিন ছেড়ে যায় না, এবং কোনো রিকোয়েস্ট TeachForge-এর সার্ভারের মধ্য দিয়ে যায় না।
এটি বোঝার মতো প্রাইভেসি বৈশিষ্ট্য। প্রম্পটটি আপনার ব্রাউজার থেকে আপনার নিজের মেশিনে যায়। TeachForge শুধু আপনি সেভ করতে বেছে নেওয়া ফলাফল দেখে, ট্রাফিক নয়।
এর Standard বা তার বেশি প্রয়োজন, এবং একজন অ্যাডমিনিস্ট্রেটরকে সাইটের জন্য bring-your-own AI চালু করতে হয়েছে। এটি অনুপলব্ধ হলে প্যানেলটি বলে দুটির মধ্যে কোনটি অনুপস্থিত।
এটি সেট আপ করা
ব্রাউজার অ্যাক্সেসের জন্য vLLM সেট আপ করুন প্রতিটি অপারেটিং সিস্টেমের জন্য একটি ধাপে-ধাপে গাইড লিঙ্ক করে — Ubuntu ডেস্কটপ, Windows এবং macOS। আপনার মেশিনের জন্য উপযুক্তটি অনুসরণ করুন; ব্রাউজার-অ্যাক্সেস অংশটাই মানুষকে আটকে দেয়, এবং গাইডগুলো এটি কভার করে।
তারপর, এই ট্যাবে: স্যুইচ করুন চালু করুন চালু করুন, প্রবেশ করুন GPU বেস URL এবং মডেল, এবং চাপুন সংযোগ পরীক্ষা করুন। সফল হলে লেখা থাকে সংযুক্ত — n মডেল পাওয়া গেছে, মডেলগুলো তালিকাভুক্ত-সহ।
প্যানেলটি স্পষ্টভাবে বলে এমন দুটি বিস্তারিত বিষয় যা মানুষ তবুও মিস করে। URL-টি শেষ হতে হবে /v1। এবং GPU একই কম্পিউটারে চললে, লুপব্যাক অ্যাড্রেস ব্যবহার করুন — এটি লাইভ সিকিউর সাইটেও কাজ করে, কারণ লুপব্যাক মিক্সড-কনটেন্ট ব্লকিং থেকে মুক্ত। একটি মেশিনের নাম বা লোকাল নেটওয়ার্ক অ্যাড্রেস হবে না।
ইনফারেন্স ওভাররাইড
একটি অপশনাল ইনফারেন্স ওভাররাইড সেকশন নেয় তাপমাত্রা, Max tokens, Top P, কনটেক্সট উইন্ডো, টাইমআউট (সেকেন্ড) এবং চিন্তার বাজেট (টোকেন), এবং JSON স্কিমা বলবৎ করুন (গাইডেড ডিকোডিং)।
শুরুতে এগুলো স্পর্শ না করাই ভালো। যে দুটির দিকে যাওয়ার মতো তা হলো কনটেক্সট উইন্ডো, দীর্ঘ প্রম্পট কেটে যাচ্ছে হলে, এবং টাইমআউট, একটি বড় জেনারেশন শেষ হওয়ার আগে কেটে যাচ্ছে হলে।
একটি VRAM & কনটেক্সট — মোটামুটি গাইড ডিসক্লোজারটি প্রায় 8 GB থেকে ওপরের ব্যান্ড দেয়, যা একটি মডেল ফিট হবে কিনা তা ডাউনলোড করার আগে বিচার করার সবচেয়ে দ্রুত উপায়।
এটি চলার সময়
আপনার ব্রাউজারই GPU-এর সাথে কথা বলে, তাই সম্পূর্ণ জেনারেশনের জন্য ট্যাবটি খোলা রাখতে হয়। AI প্যানেলগুলো এটি বলে, এবং এটাই এই মোড ও প্ল্যাটফর্ম-হোস্টেড মোডের মধ্যে পার্থক্য।
বাকি সবকিছু অভিন্ন: একই কম্পাইল করা প্রম্পট, একই টাস্ক ডিফল্ট, যা ফিরে আসে তার একই যাচাইকরণ।