Аккаунт, тарифы и настройки
TeachFORGE.ai
Аккаунт, тарифы & Настройки / Свой GPU
Подключить свой GPU
Браузер разговаривает с вашим GPU напрямую. Ничего не идёт через серверы TeachForge.
Ваше железо, ваша модель, ваши данные, без счёта.
Что он делает
Ваш собственный GPU направляет TeachForge на совместимый с OpenAI endpoint, который вы запускаете — vLLM, Ollama или подобное. Панель конкретна: браузер вызывает его напрямую, GPU не покидает машину, и ни один запрос не идёт через серверы TeachForge.
Это свойство конфиденциальности, которое стоит понять. Промпт идёт из браузера на вашу машину. TeachForge видит результат, который вы решите сохранить — не трафик.
Нужен Standard или выше, и администратор должен разрешить собственный AI для сайта. Панель говорит, чего из двух не хватает, когда недоступно.
Настройка
Настроить vLLM для доступа из браузера ссылается на пошаговое руководство для каждой ОС — рабочий стол Ubuntu, Windows и macOS. Следуйте тому, что для вашей машины; часть про доступ из браузера — то, на чём спотыкаются, и руководства её покрывают.
Затем на этой вкладке: включите Включить , введите Базовый URL GPU и Модельи нажмите Проверить соединение. Успех читается Подключено — найдено n модель(ей), со списком моделей.
Две детали, которые панель расписывает и которые всё равно пропускают. URL должен заканчиваться на /v1. И когда GPU на том же компьютере — используйте адрес loopback: работает даже на живом защищённом сайте, потому что loopback освобождён от блокировки смешанного контента. Имя машины или адрес локальной сети — нет.
Переопределения параметров вывода
Необязательный раздел Переопределения параметров вывода принимает Температура, Макс. токенов, Top P, Окно контекста, Таймаут (секунды) и Бюджет мышления (токены), плюс Принудительная JSON-схема (управляемое декодирование).
Сначала оставьте их. Два, к которым стоит тянуться — окно контекста, если длинные промпты обрезаются, и таймаут, если большая генерация обрывается до конца.
Переключатель VRAM & контекст — ориентир раскрытие даёт полосы примерно от 8 ГБ вверх — самый быстрый способ судить, влезет ли модель, до загрузки.
Пока идёт
Браузер разговаривает с GPU — вкладка должна оставаться открытой на всю генерацию. Панели AI так и говорят; в этом отличие от режима, размещённого платформой.
Всё остальное идентично: тот же скомпилированный промпт, те же параметры задачи, та же проверка ответа.