บัญชี การเรียกเก็บเงิน และตั้งค่า
TeachFORGE.ai
บัญชี การเรียกเก็บเงิน & ตั้งค่า / GPU ของคุณเอง
เชื่อมต่อ GPU ของคุณเอง
เบราว์เซอร์ของคุณคุยกับ GPU ของคุณโดยตรง ไม่มีอะไรผ่านเซิร์ฟเวอร์ของ TeachForge
ฮาร์ดแวร์ของคุณ โมเดลของคุณ ข้อมูลของคุณ ไม่มีบิล
มันทำอะไร
GPU ของคุณเอง ชี้ TeachForge ไปยังปลายทางที่เข้ากันกับ OpenAI ที่คุณรัน — vLLM, Ollama หรือคล้ายกัน แผงระบุการจัด: เบราว์เซอร์ของคุณเรียกโดยตรง GPU ไม่เคยออกจากเครื่องคุณ และไม่มีคำขอผ่านเซิร์ฟเวอร์ของ TeachForge
นั่นคือคุณสมบัติความเป็นส่วนตัวที่คุ้มเข้าใจ พรอมต์ไปจากเบราว์เซอร์ของคุณไปยังเครื่องของคุณเอง TeachForge เห็นผลที่คุณเลือกบันทึก ไม่ใช่ทราฟฟิก
ต้องการมาตรฐานหรือสูงกว่า และผู้ดูแลต้องเปิด AI ของตัวเองสำหรับไซต์ แผงบอกว่าอันไหนในสองอันขาดเมื่อใช้ไม่ได้
การตั้งค่า
ตั้งค่า vLLM สำหรับการเข้าถึงจากเบราว์เซอร์ ลิงก์คู่มือทีละขั้นสำหรับแต่ละระบบปฏิบัติการ — เดสก์ท็อป Ubuntu, Windows และ macOS ตามอันสำหรับเครื่องของคุณ ส่วนการเข้าถึงจากเบราว์เซอร์คือส่วนที่จับคนได้และคู่มือครอบคลุม
แล้ว บนแท็บนี้: สลับ เปิดใช้ เป็นเปิด ใส่ URL ฐาน GPU และ โมเดล แล้วกด ทดสอบการเชื่อมต่อ สำเร็จอ่านว่า เชื่อมต่อแล้ว — พบ n โมเดล พร้อมรายการโมเดล
สองรายละเอียดที่แผงระบุและคนยังพลาด URL ต้องจบด้วย /v1 และเมื่อ GPU รันบนคอมพิวเตอร์เครื่องเดียวกัน ใช้ที่อยู่ลูปแบ็ก — มันทำงานแม้บนไซต์ปลอดภัยที่ใช้งานจริง เพราะลูปแบ็กได้รับการยกเว้นจากการบล็อกเนื้อหาผสม ชื่อเครื่องหรือที่อยู่เครือข่ายท้องถิ่นจะไม่ใช่
การทับการอนุมาน
ส่วน การทับการอนุมาน ที่ไม่บังคับรับ อุณหภูมิ, โทเค็นสูงสุด, Top P, หน้าต่างบริบท, หมดเวลา (วินาที) และ งบคิด (โทเค็น) พร้อม บังคับ JSON schema (guided decoding).
ปล่อยไว้ก่อน สองอันที่คุ้มเอื้อมคือหน้าต่างบริบท หากพรอมต์ยาวถูกตัด และหมดเวลา หากการสร้างใหญ่ถูกตัดก่อนจบ
VRAM & บริบท — คู่มือคร่าว ๆ การเปิดเผยให้แถบจากประมาณ 8 GB ขึ้นไป ซึ่งเป็นวิธีเร็วที่สุดที่จะตัดสินว่าโมเดลจะพอดีก่อนดาวน์โหลด
ขณะที่มันรัน
เบราว์เซอร์ของคุณคือสิ่งที่คุยกับ GPU ดังนั้นแท็บต้องเปิดตลอดการสร้างทั้งหมด แผง AI บอกเช่นนั้น และเป็นความต่างระหว่างโหมดนี้กับอันที่แพลตฟอร์มโฮสต์
อย่างอื่นเหมือนกันทั้งหมด: พรอมต์ที่คอมไพล์แล้วเดียวกัน ค่าเริ่มต้นของงานเดียวกัน การตรวจสอบสิ่งที่กลับมาเหมือนกัน