Cont, facturare și setări
TeachFORGE.ai
Cont, Facturare & Setări / Propriul GPU
Conectează-ți propriul GPU
Browserul tău vorbește direct cu GPU-ul tău. Nimic nu trece prin serverele TeachForge.
Hardware-ul tău, modelul tău, datele tale, fără factură.
Ce face
Propriul tău GPU îndreaptă TeachForge către un endpoint compatibil OpenAI pe care îl rulezi — vLLM, Ollama sau similar. Panoul e specific despre aranjament: browserul tău îl apelează direct, GPU-ul nu părăsește niciodată mașina ta și nicio cerere nu trece prin serverele TeachForge.
Aceasta e proprietatea de confidențialitate care merită înțeleasă. Promptul merge din browserul tău pe propria mașină. TeachForge vede rezultatul pe care alegi să-l salvezi, nu traficul.
Are nevoie de Standard sau mai sus și un administrator trebuie să fi activat AI bring-your-own pentru site. Panoul spune care dintre cele două lipsește când e indisponibil.
Configurarea
Configurează vLLM pentru acces din browser leagă un ghid pas cu pas pentru fiecare sistem de operare — Ubuntu desktop, Windows și macOS. Urmează-l pe cel pentru mașina ta; partea de acces din browser e cea care îi prinde pe oameni și ghidurile o acoperă.
Apoi, pe această filă: comută Activează pornit, introdu URL-ul de bază al GPU și Modelși apasă Testează conexiunea. Succesul apare ca Conectat — n model(e) găsit(e), cu modelele listate.
Două detalii pe care panoul le spune clar și oamenii tot le ratează. URL-ul trebuie să se termine cu /v1. Iar când GPU-ul rulează pe același computer, folosește adresa de loopback — funcționează chiar pe site-ul live securizat, pentru că loopback e exceptat de la blocarea conținutului mixt. Un nume de mașină sau o adresă de rețea locală nu vor fi.
Suprascrieri de inferență
O secțiune opțională Suprascrieri de inferență ia Temperatură, Tokenuri maxime, Top P, Fereastră de context, Timeout (secunde) și Buget de gândire (tokenuri), plus Impune schema JSON (decodare ghidată).
Lasă-le în pace la început. Cele două care merită atinse sunt fereastra de context, dacă prompturile lungi sunt trunchiate, și timeout-ul, dacă o generare mare e tăiată înainte să se termine.
Un VRAM & context — ghid aproximativ dezvăluirea dă benzile de la aproximativ 8 GB în sus, care e cel mai rapid fel de a judeca dacă un model încape înainte să-l descarci.
Cât timp rulează
Browserul tău e ce vorbește cu GPU-ul, deci tab-ul trebuie să rămână deschis pe toată generarea. Panourile AI spun asta și e diferența dintre acest mod și cel găzduit de platformă.
Tot restul e identic: același prompt compilat, aceleași valori implicite ale sarcinii, aceeași validare a ce vine înapoi.