Konto, fakturering och inställningar
TeachFORGE.ai
Konto, fakturering & Inställningar / Din egen GPU
Anslut din egen GPU
Din webbläsare pratar med din GPU direkt. Ingenting går via TeachForge:s servrar.
Din hårdvara, din modell, din data, ingen räkning.
Vad den gör
Din egen GPU pekar TeachForge mot en OpenAI-kompatibel slutpunkt du kör — vLLM, Ollama eller liknande. Panelen är specifik om arrangemanget: din webbläsare anropar den direkt, GPU:n lämnar aldrig din maskin, och ingen begäran går via TeachForge:s servrar.
Det är integritetsegenskapen värd att förstå. Prompten går från din webbläsare till din egen maskin. TeachForge ser resultatet du väljer att spara, inte trafiken.
Den behöver Standard eller högre, och en administratör måste ha aktiverat bring-your-own-AI för sajten. Panelen säger vilken av de två som saknas när den är otillgänglig.
Att ställa in den
Ställ in vLLM för webbläsaråtkomst länkar en steg-för-steg-guide för varje operativsystem — Ubuntu desktop, Windows och macOS. Följ den för din maskin; webbläsaråtkomst-delen är biten som snärjer folk och guiderna täcker den.
Sedan, på den här fliken: växla Aktivera på, ange GPU-bas-URL och Modell, och tryck Testa anslutning. Framgång läser Ansluten — n modell(er) hittade, med modellerna listade.
Två detaljer panelen stavar ut och folk ändå missar. URL:en måste sluta på /v1. Och när GPU:n körs på samma dator, använd loopback-adressen — den fungerar även på den live säkra sajten, eftersom loopback undantas från mixed-content-blockering. Ett maskinnamn eller en lokal nätverksadress gör det inte.
Inferensåsidosättningar
En valfri Inferensåsidosättningar sektion tar Temperatur, Max tokens, Top P, Kontextfönster, Timeout (sekunder) och Thinking budget (tokens), plus Tvinga JSON-schema (guidad avkodning).
Lämna dem ifred till att börja med. De två värda att nå efter är kontextfönstret, om långa promptar kapas, och timeout, om en stor generering kapas innan den avslutas.
En VRAM & kontext — ungefärlig guide disclosure ger band från ungefär 8 GB och uppåt, vilket är det snabbaste sättet att bedöma om en modell får plats innan du laddar ner den.
Medan den kör
Din webbläsare är det som pratar med GPU:n, så fliken måste förbli öppen under hela genereringen. AI-panelerna säger det, och det är skillnaden mellan det här läget och det plattforms-hostade.
Allt annat är identiskt: samma kompilerade prompt, samma uppgiftsstandarder, samma validering av det som kommer tillbaka.