Účet, platby a nastavení
TeachFORGE.ai
Účet, platby & Nastavení / Vlastní GPU
Připojte vlastní GPU
Váš prohlížeč komunikuje s vaším GPU přímo. Nic neprochází přes servery TeachForge.
Váš hardware, váš model, vaše data, žádný účet.
Co dělá
Vaše vlastní GPU namíří TeachForge na endpoint kompatibilní s OpenAI, který provozujete vy — vLLM, Ollama nebo podobný. Panel je k uspořádání konkrétní: váš prohlížeč ho volá přímo, GPU nikdy neopustí váš stroj a žádný požadavek neprochází přes servery TeachForge.
To je vlastnost soukromí, kterou se vyplatí chápat. Prompt jde z vašeho prohlížeče na váš vlastní stroj. TeachForge vidí výsledek, který se rozhodnete uložit, ne provoz.
Vyžaduje plán Standard nebo vyšší, a administrátor musí pro danou stránku povolit vlastní AI. Panel uvede, co ze dvou chybí, když je nedostupné.
Nastavení
Nastavit vLLM pro přístup z prohlížeče odkazuje na podrobný návod pro každý operační systém — Ubuntu desktop, Windows a macOS. Postupujte podle návodu pro váš stroj; přístup z prohlížeče je ta část, na které lidé nejčastěji zaseknou, a návody ji popisují.
Pak na této kartě: zapněte Enable , zadejte GPU base URL a v Model, a stiskněte Test connection. Úspěch se zobrazí jako Připojeno — nalezeno n modelů, s vypsanými modely.
Dva detaily, které panel jasně uvádí, a lidé je stejně přehlédnou. URL musí končit na /v1. A když GPU běží na stejném počítači, použijte adresu loopback — funguje i na živé zabezpečené stránce, protože loopback je vyňat z blokování smíšeného obsahu. Název stroje nebo adresa lokální sítě fungovat nebudou.
Přepsání inference
Nepovinná Přepsání inference sekce obsahuje Teplota, Max tokens, Top P, Context window, Timeout (sekundy) a Thinking budget (tokeny), a navíc Vynutit JSON schéma (guided decoding).
Zpočátku je nechte tak, jak jsou. Dva, které se vyplatí upravit, jsou context window, pokud se dlouhé prompty zkracují, a timeout, pokud se velké generování přeruší dřív, než skončí.
VRAM & kontext — hrubý odhad rozbalovací poznámka uvádí pásma zhruba od 8 GB výše, což je nejrychlejší způsob, jak posoudit, zda se model vejde, ještě než ho stáhnete.
Během běhu
S GPU komunikuje váš prohlížeč, takže karta musí zůstat otevřená po celou dobu generování. Panely AI to uvádějí, a je to rozdíl mezi tímto režimem a tím hostovaným platformou.
Všechno ostatní je identické: stejný sestavený prompt, stejné výchozí hodnoty úlohy, stejné ověření toho, co se vrátí.