Konto, rozliczenia i ustawienia
TeachFORGE.ai
Konto, rozliczenia & Ustawienia / Własny GPU
Podłącz własny GPU
Twoja przeglądarka rozmawia z GPU bezpośrednio. Nic nie przechodzi przez serwery TeachForge.
Twój sprzęt, Twój model, Twoje dane, bez rachunku.
Co robi
Twój własny GPU kieruje TeachForge na punkt końcowy zgodny z OpenAI, który uruchamiasz — vLLM, Ollama lub podobny. Panel precyzuje układ: przeglądarka wywołuje go bezpośrednio, GPU nigdy nie opuszcza maszyny, a żadne żądanie nie przechodzi przez serwery TeachForge.
To właściwość prywatności warta zrozumienia. Prompt idzie z przeglądarki na Twoją maszynę. TeachForge widzi wynik, który zdecydujesz się zapisać, nie ruch.
Potrzebuje Standard lub wyżej, a administrator musi włączyć bring-your-own AI dla witryny. Panel mówi, którego z dwóch brakuje, gdy jest niedostępne.
Konfiguracja
Skonfiguruj vLLM do dostępu z przeglądarki linkuje przewodnik krok po kroku dla każdego systemu — pulpit Ubuntu, Windows oraz macOS. Postępuj według tego dla swojej maszyny; część o dostępie z przeglądarki to ta, która łapie ludzi, a przewodniki ją obejmują.
Potem na tej karcie: przełącz Włącz na włączone, wpisz Bazowy URL GPU i Modeli naciśnij Testuj połączenie. Sukces czyta się Połączono — znaleziono n modeli, z wymienionymi modelami.
Dwa szczegóły, które panel rozpisuje, a ludzie i tak pomijają. URL musi kończyć się na /v1. A gdy GPU działa na tym samym komputerze, użyj adresu loopback — działa nawet na żywej bezpiecznej witrynie, bo loopback jest zwolniony z blokady mixed-content. Nazwa maszyny lub lokalny adres sieciowy — nie.
Nadpisania inferencji
Opcjonalna sekcja Nadpisania inferencji przyjmuje Temperatura, Maks. tokenów, Top P, Okno kontekstu, Limit czasu (sekundy) oraz Budżet myślenia (tokeny), oraz Wymuś schemat JSON (guided decoding).
Na początek zostaw je w spokoju. Dwa warte sięgnięcia to okno kontekstu, jeśli długie prompty są obcinane, oraz limit czasu, jeśli duże generowanie jest ucinane przed końcem.
VRAM & kontekst — przybliżony przewodnik ujawnienie daje pasma od około 8 GB w górę — najszybszy sposób ocenić, czy model się zmieści, zanim go pobierzesz.
Podczas działania
Twoja przeglądarka rozmawia z GPU, więc karta musi zostać otwarta przez całe generowanie. Panele AI o tym mówią i to różnica między tym trybem a hostowanym na platformie.
Wszystko inne jest identyczne: ten sam skompilowany prompt, te same domyślności zadania, ta sama walidacja tego, co wraca.