Account, fatturazione e impostazioni
TeachFORGE.ai
Account, Fatturazione & Impostazioni / La tua GPU
Collega la tua GPU personale
Il browser parla direttamente alla tua GPU. Nulla passa dai server di TeachForge.
Il tuo hardware, il tuo modello, i tuoi dati, nessun conto.
Cosa fa
La tua GPU personale punta TeachForge a un endpoint compatibile OpenAI che esegui tu — vLLM, Ollama o simili. Il pannello è specifico sull'assetto: il browser lo chiama direttamente, la GPU non lascia mai la tua macchina, e nessuna richiesta passa dai server di TeachForge.
Questa è la proprietà di privacy da capire. Il prompt va dal browser alla tua macchina. TeachForge vede il risultato che scegli di salvare, non il traffico.
Serve Standard o superiore, e un amministratore deve aver abilitato l'AI porta-la-tua per il sito. Il pannello dice quale delle due manca quando non è disponibile.
Configurarla
Configura vLLM per l'accesso dal browser collega una guida passo passo per ciascun sistema operativo — Ubuntu desktop, Windows e macOS. Segui quella per la tua macchina; la parte sull'accesso dal browser è quella che fa inciampare le persone e le guide la coprono.
Poi, in questa scheda: attiva Abilita , inserisci l' URL di base della GPU e nel Modello, e premi Prova connessione. Il successo legge Connesso — n modello/i trovato/i, con i modelli elencati.
Due dettagli che il pannello spiega e che le persone saltano comunque. L'URL deve terminare con /v1. E quando la GPU gira sullo stesso computer, usa l'indirizzo di loopback — funziona anche sul sito sicuro live, perché il loopback è esente dal blocco mixed-content. Un nome macchina o un indirizzo di rete locale no.
Override di inferenza
Una sezione facoltativa Override di inferenza prende Temperatura, Max token, Top P, Finestra di contesto, Timeout (secondi) e Budget di ragionamento (token), più Applica schema JSON (decodifica guidata).
Lasciali stare all'inizio. I due a cui vale la pena arrivare sono la finestra di contesto, se i prompt lunghi vengono troncati, e il timeout, se una generazione grande viene interrotta prima di finire.
Un VRAM & contesto — guida approssimativa il riquadro dà fasce da circa 8 GB in su, che è il modo più rapido per giudicare se un modello ci starà prima di scaricarlo.
Mentre gira
Il browser è ciò che parla alla GPU, quindi la scheda deve restare aperta per tutta la generazione. I pannelli AI lo dicono, ed è la differenza tra questa modalità e quella ospitata dalla piattaforma.
Tutto il resto è identico: lo stesso prompt compilato, le stesse predefinite del compito, la stessa validazione di ciò che torna.