Tài khoản, Thanh toán & Cài đặt
TeachFORGE.ai
Tài khoản, Thanh toán & Cài đặt / GPU của bạn
Kết nối GPU của riêng bạn
Trình duyệt của bạn nói chuyện trực tiếp với GPU. Không gì đi qua máy chủ TeachForge.
Phần cứng của bạn, model của bạn, dữ liệu của bạn, không hóa đơn.
Nó làm gì
GPU của riêng bạn trỏ TeachForge tới endpoint tương thích OpenAI bạn chạy — vLLM, Ollama hoặc tương tự. Bảng cụ thể về sắp xếp: trình duyệt của bạn gọi trực tiếp, GPU không bao giờ rời máy bạn, và không yêu cầu nào đi qua máy chủ TeachForge.
Đó là thuộc tính riêng tư đáng hiểu. Lời nhắc đi từ trình duyệt tới máy của bạn. TeachForge thấy kết quả bạn chọn lưu, không phải lưu lượng.
Nó cần Standard trở lên, và quản trị viên phải đã bật AI mang-của-riêng cho trang. Bảng nói cái nào trong hai cái thiếu khi không sẵn.
Thiết lập
Thiết lập vLLM cho truy cập trình duyệt liên kết hướng dẫn từng bước cho mỗi hệ điều hành — Máy tính để bàn Ubuntu, Windows và macOS. Làm theo cái cho máy bạn; phần truy cập trình duyệt là chỗ khiến người ta vướng và hướng dẫn phủ điều đó.
Rồi, trên tab này: bật Bật , nhập URL cơ sở GPU và Model, và nhấn Kiểm kết nối. Thành công đọc Đã kết nối — tìm thấy n model, với các model được liệt kê.
Hai chi tiết bảng nêu rõ và người ta vẫn bỏ sót. URL phải kết thúc bằng /v1. Và khi GPU chạy trên cùng máy, dùng địa chỉ loopback — nó hoạt động cả trên trang bảo mật sống, vì loopback được miễn chặn nội dung hỗn hợp. Tên máy hoặc địa chỉ mạng cục bộ thì không.
Ghi đè suy luận
Một mục Ghi đè suy luận tùy chọn nhận Nhiệt độ, Token tối đa, Top P, Cửa sổ ngữ cảnh, Hết giờ (giây) và Ngân sách suy nghĩ (token), cộng Ép lược đồ JSON (giải mã có hướng dẫn).
Hãy để yên lúc bắt đầu. Hai cái đáng với tới là cửa sổ ngữ cảnh, nếu lời nhắc dài bị cắt, và hết giờ, nếu lần tạo lớn bị cắt trước khi xong.
Một VRAM & ngữ cảnh — hướng dẫn thô phần tiết lộ đưa các dải từ khoảng 8 GB trở lên — cách nhanh nhất để phán model có vừa trước khi tải xuống.
Trong khi nó chạy
Trình duyệt của bạn là thứ nói chuyện với GPU, nên tab phải mở suốt lần tạo. Các bảng AI nói vậy, và đó là khác biệt giữa chế độ này và chế độ nền tảng lưu trữ.
Mọi thứ khác giống hệt: cùng lời nhắc đã biên dịch, cùng mặc định tác vụ, cùng xác thực những gì trả về.