帳戶、計費與設定
TeachFORGE.ai
帳戶、計費 & 設定 / 你自己的 GPU
連線你自己的 GPU
你的瀏覽器直接與 GPU 通訊。不經過 TeachForge 的伺服器。
你的硬體、你的模型、你的資料,沒有帳單。
它做什麼
你自己的 GPU 把 TeachForge 指向你執行的 OpenAI 相容端點——vLLM、Ollama 或類似。面板對安排說得很具體:瀏覽器直接呼叫它,GPU 從不離開你的機器,且沒有請求經過 TeachForge 的伺服器。
這是值得理解的隱私屬性。提示從你的瀏覽器到你自己的機器。TeachForge 看到的是你選擇儲存的結果,而不是流量。
它需要標準或以上,且管理員須已為站點啟用自帶 AI。不可用時,面板會說明兩者中缺哪一個。
如何設定
為瀏覽器訪問設定 vLLM 連結各作業系統的分步指南—— Ubuntu 桌面, Windows 與 macOS。按你的機器跟隨;瀏覽器訪問部分是人們常卡住的地方,指南涵蓋了它。
然後在此標籤:開啟 啟用 ,輸入 GPU 基址 URL 與 模型,並按 測試連線。成功顯示 已連線 — 找到 n 個模型,並列出模型。
面板寫明卻仍常被錯過的兩點。URL 必須以 /v1結尾。當 GPU 在同一臺電腦上執行時,使用迴環地址——即使線上上安全站點也可用,因為迴環免於混合內容阻止。機器名或本地網路地址則不行。
推理覆蓋
可選的 推理覆蓋 部分接受 溫度, 最大令牌數, Top P, 上下文視窗, 超時(秒) 與 思考預算(令牌),外加 強制 JSON 結構(引導解碼)。
開始時先別動它們。值得先動的兩個是:長提示被截斷時的上下文視窗,以及大生成被提前切斷時的超時。
一個 視訊記憶體 & 上下文 — 粗略指南 披露給出大約從 8 GB 起的區間,是下載前判斷模型是否裝得下的最快方式。
執行期間
你的瀏覽器是與 GPU 通訊的一方,因此整個生成期間標籤頁必須保持開啟。AI 面板會說明,這也是此模式與平臺託管模式的差別。
其他一切相同:相同的編譯提示、相同的任務預設、對返回內容相同的校驗。