Cuenta, facturación y configuración
TeachFORGE.ai
Cuenta, Facturación & Configuración / Tu propia GPU
Conecta tu propia GPU
Tu navegador se comunica directamente con tu GPU. Nada pasa por los servidores de TeachForge.
Tu hardware, tu modelo, tus datos, sin factura.
Qué hace
Tu propia GPU dirige TeachForge hacia un endpoint compatible con OpenAI que ejecutas tú: vLLM, Ollama o similar. El panel es concreto sobre esta disposición: tu navegador lo llama directamente, la GPU nunca sale de tu equipo, y ninguna solicitud pasa por los servidores de TeachForge.
Esa es la propiedad de privacidad que conviene entender. El prompt va de tu navegador a tu propio equipo. TeachForge ve el resultado que decides guardar, no el tráfico.
Necesita el plan Standard o superior, y un administrador tiene que haber habilitado la opción de traer tu propia IA para el sitio. El panel indica cuál de las dos falta cuando no está disponible.
Configurarla
Configurar vLLM para acceso desde el navegador enlaza a una guía paso a paso para cada sistema operativo — Ubuntu de escritorio, Windows y macOS. Sigue la que corresponda a tu equipo; la parte del acceso desde el navegador es lo que suele pillar a la gente desprevenida, y las guías la cubren.
Después, en esta pestaña: activa Activar , introduce la URL base de la GPU y el Modelo, y pulsa Probar conexión. El éxito se muestra como Conectado: n modelo(s) encontrado(s), con los modelos listados.
Dos detalles que el panel explica con todo detalle y que la gente sigue pasando por alto. La URL debe terminar en /v1. Y cuando la GPU se ejecuta en el mismo equipo, usa la dirección de bucle local: funciona incluso en el sitio seguro en producción, porque el bucle local está exento del bloqueo de contenido mixto. El nombre de un equipo o una dirección de red local no lo estarán.
Anulaciones de inferencia
Una sección opcional de Anulaciones de inferencia acepta Temperatura, Tokens máximos, Top P, Ventana de contexto, Tiempo de espera (segundos) y Presupuesto de razonamiento (tokens), además de Forzar el esquema JSON (decodificación guiada).
Déjalos tal cual para empezar. Los dos que merece la pena tocar son la ventana de contexto, si se están truncando prompts largos, y el tiempo de espera, si una generación grande se corta antes de terminar.
Un VRAM & contexto: guía aproximada el desplegable ofrece rangos desde unos 8 GB en adelante, que es la forma más rápida de juzgar si un modelo entrará antes de descargarlo.
Mientras se ejecuta
Es tu navegador el que se comunica con la GPU, así que la pestaña tiene que permanecer abierta durante toda la generación. Los paneles de IA lo indican, y es la diferencia entre este modo y el alojado por la plataforma.
Todo lo demás es idéntico: el mismo prompt compilado, los mismos valores predeterminados de la tarea, la misma validación de lo que se recibe.