Compte, facturation et paramètres
TeachFORGE.ai
Compte, Facturation & Paramètres / Votre propre GPU
Connecter votre propre GPU
Votre navigateur parle directement à votre GPU. Rien ne passe par les serveurs de TeachForge.
Votre matériel, votre modèle, vos données, aucune facture.
Ce que ça fait
Votre propre GPU dirige TeachForge vers un point de terminaison compatible OpenAI que vous exécutez — vLLM, Ollama ou similaire. Le panneau est précis sur l'organisation : votre navigateur l'appelle directement, le GPU ne quitte jamais votre machine, et aucune requête ne passe par les serveurs de TeachForge.
C'est la propriété de confidentialité qu'il faut comprendre. Le prompt va de votre navigateur à votre propre machine. TeachForge voit le résultat que vous choisissez d'enregistrer, pas le trafic.
Cela nécessite Standard ou plus, et un administrateur doit avoir activé l'IA apportée par vous-même pour le site. Le panneau indique lequel des deux manque lorsque c'est indisponible.
Le configurer
Configurer vLLM pour l'accès navigateur renvoie vers un guide pas à pas pour chaque système d'exploitation — Ubuntu bureau, Windows et macOS. Suivez celui correspondant à votre machine ; la partie sur l'accès navigateur est celle qui pose problème et les guides la couvrent.
Ensuite, sur cet onglet : activez Activer , saisissez l' URL de base du GPU et le Modèle, et appuyez sur Tester la connexion. En cas de succès, il est affiché Connecté — n modèle(s) trouvé(s), avec la liste des modèles.
Deux détails que le panneau précise et que l'on manque encore. L'URL doit se terminer par /v1. Et lorsque le GPU s'exécute sur le même ordinateur, utilisez l'adresse de bouclage — elle fonctionne même sur le site sécurisé en production, car le bouclage est exempté du blocage de contenu mixte. Un nom de machine ou une adresse réseau locale ne le sera pas.
Substitutions d'inférence
Une section Substitutions d'inférence facultative accepte Température, Jetons maximum, Top P, Fenêtre de contexte, Délai d'expiration (secondes) et Budget de réflexion (jetons), plus Imposer le schéma JSON (décodage guidé).
Laissez-les tranquilles pour commencer. Les deux qui valent la peine d'être ajustés sont la fenêtre de contexte, si de longs prompts sont tronqués, et le délai d'expiration, si une génération volumineuse est interrompue avant sa fin.
Un VRAM & contexte — guide approximatif le volet donne des tranches à partir d'environ 8 Go, ce qui est le moyen le plus rapide de juger si un modèle conviendra avant de le télécharger.
Pendant l'exécution
C'est votre navigateur qui parle au GPU, donc l'onglet doit rester ouvert pendant toute la génération. Les panneaux IA le précisent, et c'est la différence entre ce mode et celui hébergé par la plateforme.
Tout le reste est identique : le même prompt compilé, les mêmes valeurs par défaut de tâche, la même validation de ce qui revient.