Λογαριασμός, Χρέωση & Ρυθμίσεις
TeachFORGE.ai
Λογαριασμός, Χρεώσεις & Ρυθμίσεις / Το δικό σας GPU
Συνδέστε τη δική σας GPU
Το πρόγραμμα περιήγησής σας μιλά απευθείας με το GPU σας. Τίποτα δεν περνάει από τους διακομιστές του TeachForge.
Το δικό σας υλικό, το δικό σας μοντέλο, τα δικά σας δεδομένα, καμία χρέωση.
Τι κάνει
Η δική σας GPU κατευθύνει το TeachForge σε ένα τελικό σημείο συμβατό με OpenAI που εκτελείτε εσείς — vLLM, Ollama ή παρόμοιο. Το πάνελ είναι συγκεκριμένο για τη διάταξη: το πρόγραμμα περιήγησής σας το καλεί απευθείας, το GPU δεν φεύγει ποτέ από το μηχάνημά σας, και κανένα αίτημα δεν περνάει από τους διακομιστές του TeachForge.
Αυτή είναι η ιδιότητα απορρήτου που αξίζει να κατανοήσετε. Το prompt πηγαίνει από το πρόγραμμα περιήγησής σας στο δικό σας μηχάνημα. Το TeachForge βλέπει το αποτέλεσμα που επιλέγετε να αποθηκεύσετε, όχι την κίνηση.
Χρειάζεται Standard ή υψηλότερο, και ένας διαχειριστής πρέπει να έχει ενεργοποιήσει το δικό σας AI για τον ιστότοπο. Το πάνελ λέει ποιο από τα δύο λείπει όταν δεν είναι διαθέσιμο.
Ρύθμισή του
Ρύθμιση vLLM για πρόσβαση μέσω προγράμματος περιήγησης συνδέει έναν βήμα-προς-βήμα οδηγό για κάθε λειτουργικό σύστημα — Ubuntu desktop, Windows και macOS. Ακολουθήστε αυτόν για το μηχάνημά σας· το κομμάτι της πρόσβασης μέσω προγράμματος περιήγησης είναι αυτό που μπερδεύει τον κόσμο και οι οδηγοί το καλύπτουν.
Μετά, σε αυτή την καρτέλα: μεταβείτε το Ενεργοποίηση σε ενεργό, εισάγετε το Βασικό URL GPU και το Μοντέλο, και πατήστε Δοκιμή σύνδεσης. Η επιτυχία αναγράφει Συνδέθηκε — βρέθηκαν n μοντέλο/α, με τα μοντέλα να αναφέρονται.
Δύο λεπτομέρειες που το πάνελ εξηγεί ρητά και ο κόσμος συνεχίζει να τις χάνει. Το URL πρέπει να τελειώνει σε /v1. Και όταν το GPU τρέχει στον ίδιο υπολογιστή, χρησιμοποιήστε τη διεύθυνση loopback — λειτουργεί ακόμα και στον ζωντανό ασφαλή ιστότοπο, γιατί το loopback εξαιρείται από τον αποκλεισμό μεικτού περιεχομένου. Ένα όνομα μηχανήματος ή μια διεύθυνση τοπικού δικτύου δεν θα λειτουργήσουν.
Παρακάμψεις συμπερασμού
Μια προαιρετική Παρακάμψεις συμπερασμού ενότητα δέχεται Θερμοκρασία, Μέγιστα tokens, Top P, Παράθυρο περιεχομένου, Χρονικό όριο (δευτερόλεπτα) και Προϋπολογισμός σκέψης (tokens), καθώς και Επιβολή σχήματος JSON (καθοδηγούμενη αποκωδικοποίηση).
Αφήστε τα ως έχουν στην αρχή. Τα δύο που αξίζει να προσαρμόσετε είναι το παράθυρο περιεχομένου, αν μεγάλα prompts περικόπτονται, και το χρονικό όριο, αν μια μεγάλη δημιουργία διακόπτεται πριν ολοκληρωθεί.
Ένα VRAM & περιεχόμενο — πρόχειρος οδηγός αποκάλυψη δίνει ζώνες από περίπου 8 GB και πάνω, που είναι ο ταχύτερος τρόπος να κρίνετε αν ένα μοντέλο θα χωρέσει πριν το κατεβάσετε.
Όσο εκτελείται
Το πρόγραμμα περιήγησής σας είναι αυτό που μιλά με το GPU, οπότε η καρτέλα πρέπει να παραμείνει ανοιχτή για όλη τη δημιουργία. Τα πάνελ AI το αναφέρουν, και είναι η διαφορά ανάμεσα σε αυτή τη λειτουργία και τη φιλοξενούμενη από την πλατφόρμα.
Όλα τα υπόλοιπα είναι πανομοιότυπα: το ίδιο μεταγλωττισμένο prompt, οι ίδιες προεπιλογές εργασίας, η ίδια επικύρωση αυτού που επιστρέφει.