கணக்கு, கட்டணம் மற்றும் அமைப்புகள்
TeachFORGE.ai
கணக்கு, கட்டணம் & அமைப்புகள் / உங்கள் சொந்த GPU
உங்கள் சொந்த GPU-ஐ இணைக்கவும்
உங்கள் உலாவி உங்கள் GPU-வுடன் நேரடியாகப் பேசுகிறது. TeachForge சர்வர்கள் வழியாக எதுவும் செல்லாது.
உங்கள் ஹார்ட்வேர், உங்கள் மாடல், உங்கள் தரவு, கட்டணம் இல்லை.
இது என்ன செய்கிறது
உங்கள் சொந்த GPU நீங்கள் இயக்கும் OpenAI-இணக்கமான எண்ட்பாயிண்டை — vLLM, Ollama அல்லது ஒத்தவை — TeachForge சுட்டிக்காட்டுகிறது. பேனல் அமைப்பைப் பற்றிக் குறிப்பிட்டது: உங்கள் உலாவி நேரடியாக அழைக்கிறது, GPU உங்கள் இயந்திரத்தை விட்டு வெளியேறாது, எந்தக் கோரிக்கையும் TeachForge சர்வர்கள் வழியாகச் செல்லாது.
புரிந்துகொள்ளத் தகுந்த தனியுரிமைப் பண்பு இதுதான். தூண்டுதல் உங்கள் உலாவியிலிருந்து உங்கள் சொந்த இயந்திரத்திற்குச் செல்கிறது. TeachForge நீங்கள் சேமிக்கத் தேர்ந்தெடுக்கும் முடிவைக் காண்கிறது, போக்குவரத்தை அல்ல.
நிலையானது அல்லது அதற்கு மேல் தேவை, மேலும் தளத்திற்கு ஒரு நிர்வாகி bring-your-own AI-ஐ இயக்கியிருக்க வேண்டும். கிடைக்காதபோது இரண்டில் எது காணாமல் இருக்கிறது என்று பேனல் கூறுகிறது.
அதை அமைத்தல்
உலாவி அணுகலுக்கு vLLM அமைக்கவும் ஒவ்வொரு இயக்க முறைமைக்கும் படிப்படியான வழிகாட்டியை இணைக்கிறது — Ubuntu மேசைக்கணினி, Windows மற்றும் macOS. உங்கள் இயந்திரத்திற்கானதைப் பின்பற்றுங்கள்; உலாவி-அணுகல் பகுதிதான் மக்களைத் தடுப்பது, வழிகாட்டிகள் அதை உள்ளடக்குகின்றன.
பிறகு, இந்த டேபில்: மாற்றுங்கள் இயக்கு இயக்க, உள்ளிடுங்கள் GPU அடிப்படை URL மற்றும் மாதிரி, மற்றும் அழுத்துங்கள் இணைப்பைச் சோதி. வெற்றி படிக்கும் இணைக்கப்பட்டது — n மாதிரி(s) கண்டறியப்பட்டது, மாடல்கள் பட்டியலிடப்பட்டு.
பேனல் விவரிக்கும் ஆனால் மக்கள் இன்னும் தவறவிடும் இரண்டு விவரங்கள். URL இதில் முடிய வேண்டும் /v1. மேலும் GPU அதே கணினியில் இயங்கும்போது, திரும்பு சுழற்சி முகவரியைப் பயன்படுத்துங்கள் — நேரடி பாதுகாப்பான தளத்திலும் வேலை செய்யும், ஏனெனில் திரும்பு சுழற்சி கலப்பு-உள்ளடக்கத் தடுப்பிலிருந்து விலக்கு. ஒரு இயந்திரப் பெயர் அல்லது உள்ளூர் நெட்வொர்க் முகவரி இருக்காது.
அனுமானம் மேலெழுதல்கள்
ஒரு விருப்பமான அனுமானம் மேலெழுதல்கள் பிரிவு எடுக்கும் வெப்பநிலை, Max டோக்கன்கள், Top P, சூழல் window, நேர முடிவு (seconds) மற்றும் சிந்தனை ஒதுக்கீடு (டோக்கன்கள்), கூடுதலாக அமல்படுத்து JSON திட்டவமைப்பு (guided decoding).
தொடங்க அவற்றைத் தனியாக விடுங்கள். நீண்ட தூண்டுதல்கள் துண்டிக்கப்பட்டால் சூழல் window, பெரிய உருவாக்கம் முடியும் முன் வெட்டப்பட்டால் நேர முடிவு — அடையத் தகுந்த இரண்டு இவை.
ஒரு VRAM & சூழல் — தோராயமான வழிகாட்டி வெளிப்படுத்தல் சுமார் 8 GB முதல் பட்டைகள் தருகிறது, பதிவிறக்கும் முன் ஒரு மாடல் பொருந்துமா என்று தீர்ப்பளிக்க வேகமான வழி இது.
அது இயங்கும்போது
GPU-வுடன் பேசுவது உங்கள் உலாவி, எனவே முழு உருவாக்கத்திற்கும் டேப் திறந்தே இருக்க வேண்டும். AI பேனல்கள் அவ்வாறு கூறுகின்றன, இந்த முறைக்கும் பிளாட்ஃபார்ம்-புரவனிடப்பட்ட ஒன்றுக்கும் இடையிலான வேறுபாடு இதுதான்.
மற்ற எல்லாம் ஒரே மாதிரி: அதே தொகுக்கப்பட்ட தூண்டுதல், அதே பணி இயல்புநிலைகள், திரும்புவதைச் சரிபார்க்கும் அதே சரிபார்ப்பு.