账户、账单与设置
TeachFORGE.ai
账户、账单 & 设置 / 你自己的 GPU
连接你自己的 GPU
你的浏览器直接与 GPU 通信。不经过 TeachForge 的服务器。
你的硬件、你的模型、你的数据,没有账单。
它做什么
你自己的 GPU 把 TeachForge 指向你运行的 OpenAI 兼容端点——vLLM、Ollama 或类似。面板对安排说得很具体:浏览器直接调用它,GPU 从不离开你的机器,且没有请求经过 TeachForge 的服务器。
这是值得理解的隐私属性。提示从你的浏览器到你自己的机器。TeachForge 看到的是你选择保存的结果,而不是流量。
它需要标准或以上,且管理员须已为站点启用自带 AI。不可用时,面板会说明两者中缺哪一个。
如何设置
为浏览器访问设置 vLLM 链接各操作系统的分步指南—— Ubuntu 桌面, Windows 与 macOS。按你的机器跟随;浏览器访问部分是人们常卡住的地方,指南涵盖了它。
然后在此标签:打开 启用 ,输入 GPU 基址 URL 与 模型,并按 测试连接。成功显示 已连接 — 找到 n 个模型,并列出模型。
面板写明却仍常被错过的两点。URL 必须以 /v1结尾。当 GPU 在同一台电脑上运行时,使用回环地址——即使在线上安全站点也可用,因为回环免于混合内容阻止。机器名或本地网络地址则不行。
推理覆盖
可选的 推理覆盖 部分接受 温度, 最大令牌数, Top P, 上下文窗口, 超时(秒) 与 思考预算(令牌),外加 强制 JSON 结构(引导解码)。
开始时先别动它们。值得先动的两个是:长提示被截断时的上下文窗口,以及大生成被提前切断时的超时。
一个 显存 & 上下文 — 粗略指南 披露给出大约从 8 GB 起的区间,是下载前判断模型是否装得下的最快方式。
运行期间
你的浏览器是与 GPU 通信的一方,因此整个生成期间标签页必须保持打开。AI 面板会说明,这也是此模式与平台托管模式的差别。
其他一切相同:相同的编译提示、相同的任务默认、对返回内容相同的校验。