Обліковий запис, оплата та налаштування
TeachFORGE.ai
Обліковий запис, оплата & Налаштування / Власний GPU
Підключити власний GPU
Ваш браузер говорить із GPU напряму. Нічого не йде через сервери TeachForge.
Ваше обладнання, ваша модель, ваші дані, без рахунку.
Що він робить
Ваш власний GPU спрямовує TeachForge на сумісний із OpenAI endpoint, який ви запускаєте — vLLM, Ollama або подібне. Панель конкретна щодо устрою: браузер викликає його напряму, GPU ніколи не залишає вашу машину, і жоден запит не йде через сервери TeachForge.
Це властивість приватності, яку варто зрозуміти. Підказка йде з браузера на вашу машину. TeachForge бачить результат, який ви вирішите зберегти, а не трафік.
Потрібен Стандартний або вище, і адміністратор має ввімкнути власний AI для сайту. Панель каже, якого з двох бракує, коли недоступно.
Налаштування
Налаштувати vLLM для доступу з браузера посилає на покроковий посібник для кожної операційної системи — Ubuntu desktop, Windows і macOS. Дотримуйтесь того, що для вашої машини; частина про доступ із браузера — те, на чому люди спотикаються, і посібники це покривають.
Потім на цій вкладці: увімкніть Увімкнути , введіть Базовий URL GPU і Модельі натисніть Перевірити з’єднання. Успіх читається Підключено — знайдено n модель(ей), з переліком моделей.
Дві деталі, які панель розписує, а люди все одно пропускають. URL має закінчуватися на /v1. І коли GPU на тому самому комп’ютері — використовуйте адресу loopback: вона працює навіть на живому захищеному сайті, бо loopback звільнений від блокування змішаного вмісту. Ім’я машини чи адреса локальної мережі — ні.
Перевизначення висновку
Необов’язковий розділ Перевизначення висновку приймає Температура, Макс. токенів, Top P, Вікно контексту, Тайм-аут (секунди) і Бюджет мислення (токени), плюс Примусово JSON-схема (кероване декодування).
Спочатку лишіть їх. Два варті уваги — вікно контексту, якщо довгі підказки обрізаються, і тайм-аут, якщо велика генерація обривається до завершення.
VRAM & контекст — орієнтовний посібник розкриття дає смуги приблизно від 8 ГБ вгору — найшвидший спосіб оцінити, чи модель вміститься, перш ніж завантажувати.
Поки працює
Браузер — те, що говорить із GPU, тож вкладка має лишатися відкритою всю генерацію. Панелі AI так і кажуть — і це різниця між цим режимом і тим, що на хостингу платформи.
Усе інше однакове: та сама зібрана підказка, ті самі типові параметри задачі, та сама перевірка відповіді.