Πώς να εγκαταστήσετε το μοντέλο AI OpenAI GPT-OSS στα Windows 11

• Για να εγκαταστήσετε το μοντέλο GPT-OSS AI στα Windows 11, ανοίξτε πρώτα τη Γραμμή εντολών (admin) και εκτελέστε την winget install --id Ollama.Ollamaεντολή.
• Δεύτερον, πρέπει να επιλέξετε την gpt-oss:20bεπιλογή από τη λίστα και να υποβάλετε μια ερώτηση για να ενεργοποιήσετε τη λήψη.
• Εναλλακτικά, μπορείτε να χρησιμοποιήσετε το εργαλείο γραμμής εντολών Ollama με τη Γραμμή εντολών (admin) και να χρησιμοποιήσετε την ollama pull gpt-oss:20b εντολή για να κατεβάσετε και να εγκαταστήσετε (για παράδειγμα) το GPT-OSS τοπικά στον υπολογιστή σας.

Στα Windows 11 , μπορείτε να εγκαταστήσετε και να εκτελέσετε το πιο πρόσφατο μοντέλο τεχνητής νοημοσύνης GPT-OSS (Λογισμικό Ανοιχτού Κώδικα) από το OpenAI τοπικά στον υπολογιστή σας και σε αυτόν τον οδηγό θα περιγράψω τα βήματα για την ολοκλήρωση αυτής της διαμόρφωσης.

Το GPT-OSS είναι ένα μοντέλο που βασίζεται σε κείμενο από την οικογένεια μοντέλων μεγάλης γλώσσας ανοιχτού βάρους της OpenAI. Προς το παρόν, διαθέτουμε δύο εκδόσεις, συμπεριλαμβανομένης της gpt-oss-20b (με περίπου 21B παραμέτρους) και της gpt-oss-120b (με περίπου 117B παραμέτρους), οι οποίες έχουν κυκλοφορήσει με την άδεια Apache 2.0, επιτρέποντας σε οποιονδήποτε να τις κατεβάσει, να τις εκτελέσει, να τις τροποποιήσει και να τις αναδιανείμει ελεύθερα.

• gpt-oss-20b: Αρκετά συμπαγές για να λειτουργεί σε κανονικό υλικό με ελάχιστη μνήμη 16 GB (για παράδειγμα, φορητούς υπολογιστές, ισχυρά τηλέφωνα) και υπερέχει σε τοπικές εργασίες χαμηλής καθυστέρησης.
• gpt-oss-120b: Είναι το μεγαλύτερο μοντέλο, σχεδιασμένο για ισχυρές εργασίες συλλογισμού, λειτουργεί σε ρυθμίσεις υψηλής τεχνολογίας, όπως μία μόνο GPU 80GB και προσφέρει απόδοση σχεδόν O4-mini.

Αυτά τα μοντέλα υποστηρίζουν συλλογισμό αλυσίδας σκέψης, χρήση εργαλείων, μεγάλα παράθυρα περιβάλλοντος και προσφέρουν διαμορφώσιμα επίπεδα συλλογισμού, όπως χαμηλό, μεσαίο και υψηλό, για ευελιξία.

Τι μπορώ να κάνω με το GPT-OSS ως κανονικός χρήστης;

Αν είστε χρήστης, προγραμματιστής ή λάτρης της τεχνολογίας, τα νέα μοντέλα OpenAI σάς επιτρέπουν να εκτελείτε το chatbot τοπικά στον υπολογιστή σας χωρίς συνδρομή και να έχετε πλήρη έλεγχο των δεδομένων σας.

Αν είστε σε θέση να το κάνετε, μπορείτε να πειραματιστείτε, να προσαρμόσετε και να βελτιώσετε το μοντέλο, καθώς διαθέτει άδεια χρήσης Apache 2.0.

Συνήθως, θα χρησιμοποιούσατε το GPT-OSS για βοήθεια στον προγραμματισμό, επίλυση σύνθετων προβλημάτων, συνομιλίες και ροές εργασίας με πρακτορεία . Επιπλέον, μπορείτε να το χρησιμοποιήσετε εκτός σύνδεσης χωρίς σύνδεση στο διαδίκτυο. 

Ποιο είναι το κοινό-στόχος για το OpenAI GPT-OSS;

Αυτά τα μοντέλα τεχνητής νοημοσύνης είναι προσαρμοσμένα για προγραμματιστές, ερευνητές, ακαδημαϊκούς και άτομα με τεχνολογικές γνώσεις.

Αν θέλετε να εκτελέσετε αυτά τα μοντέλα τεχνητής νοημοσύνης τοπικά (ανεξάρτητα από το cloud) στον υπολογιστή σας, η ευκολότερη μέθοδος είναι να χρησιμοποιήσετε το Ollama , το οποίο είναι ένα εργαλείο ανοιχτού κώδικα που σας επιτρέπει να εκτελείτε μοντέλα μεγάλων γλωσσών απευθείας στον τοπικό σας υπολογιστή που εκτελεί Windows 11, 10 ή άλλη πλατφόρμα.

Παρόλο που είναι καλύτερο να εγκαθιστάτε και να εκτελείτε μοντέλα AI σε συσκευές με NPU (Μονάδα Νευρωνικής Επεξεργασίας) , όπως ένας υπολογιστής Copilot+ με επεξεργαστή Snapdragon, μπορείτε να εκτελέσετε αυτά τα μοντέλα σχεδόν σε οποιοδήποτε υλικό. Η Ollama συνεργάζεται επίσης με την Nvidia για την επιτάχυνση του GPT-OSS σε GPU GeForce RTX και RTX Pro . 

Η μόνη μου επισήμανση είναι ότι χωρίς NPU ή GPU με δυνατότητα, το chatbot με τεχνητή νοημοσύνη μπορεί να χρειαστεί πολύ χρόνο για να απαντήσει σε μια απλή ερώτηση.

Σε αυτόν τον οδηγό , θα περιγράψω τα βήματα για τη ρύθμιση των μοντέλων Gemma AI στα Windows 11.

• Εγκατάσταση GPT-OSS σε Windows 11 με το Ollama (μέθοδος GUI)
• Εγκατάσταση GPT-OSS σε Windows 11 με το Ollama (μέθοδος CLI)

Εγκατάσταση GPT-OSS σε Windows 11 με το Ollama (μέθοδος GUI)

Για να εγκαταστήσετε το GPT-OSS ή το 3n τοπικά στα Windows 11, ακολουθήστε τα εξής βήματα:

1. Ανοίξτε την Έναρξη στα Windows 11.

    

    

2. Αναζητήστε τη Γραμμή εντολών (ή Τερματικό ), κάντε δεξί κλικ στο επάνω αποτέλεσμα και επιλέξτε την επιλογή Εκτέλεση ως διαχειριστής  .

3. Πληκτρολογήστε αυτήν την εντολή για να εγκαταστήσετε το επίσημο εργαλείο Ollama και πατήστε Enter :

   εγκατάσταση winget --id Ollama.Ollama

   

4. Κάντε κλικ στο κουμπί Τέλος για να ολοκληρώσετε την εγκατάσταση.

5. Ανοίξτε την εφαρμογή Ollama από το μενού Έναρξη, εάν δεν ξεκίνησε αυτόματα.

6. Κάντε κλικ στο μενού του μοντέλου AI και επιλέξτε την επιλογή «GPT-OSS:20b» .

   

7. Συντάξτε και υποβάλετε μια ερώτηση για να ξεκινήσει η λήψη του μοντέλου OpenAI GPT.

   

Μόλις ολοκληρώσετε τα βήματα, μπορείτε να ξεκινήσετε να χρησιμοποιείτε το μοντέλο GPT-OSS AI μέσω της διεπαφής γραμμής εντολών.

Εάν έχετε λογαριασμό Ollama , μπορείτε να συνδεθείτε για να χρησιμοποιήσετε την ενσωματωμένη αναζήτηση ιστού, ώστε να συνδυάσετε τις δυνατότητες του μοντέλου με τις πιο πρόσφατες πληροφορίες που είναι διαθέσιμες στο διαδίκτυο.

Σε περίπτωση που αναρωτιέστε, η επιλογή Turbo είναι μια υπηρεσία που βασίζεται στο cloud από την Ollama και σας επιτρέπει να εκτελείτε μεγάλα μοντέλα τεχνητής νοημοσύνης χρησιμοποιώντας υλικό επιπέδου κέντρου δεδομένων. Έχει σχεδιαστεί για να παρέχει υψηλή απόδοση και ταχύτητα για μοντέλα που μπορεί να είναι πολύ μεγάλα ή πολύ αργά για να εκτελούνται σε τοπικό υπολογιστή. Η μηνιαία συνδρομή κοστίζει 20 $.

Η εφαρμογή Ollama δεν προσφέρει την επιλογή προ-λήψης των διαθέσιμων μοντέλων τεχνητής νοημοσύνης. Ωστόσο, μπορείτε να ολοκληρώσετε αυτήν την εργασία από το εργαλείο γραμμής εντολών.

Εγκατάσταση GPT-OSS σε Windows 11 με το Ollama (μέθοδος CLI)

Για να εγκαταστήσετε το OpenAI GPT-OSS τοπικά στα Windows 11, ακολουθήστε τα εξής βήματα:

1. Άνοιγμα Έναρξης .

2. Αναζητήστε τη Γραμμή εντολών (ή Τερματικό ), κάντε δεξί κλικ στο επάνω αποτέλεσμα και επιλέξτε την επιλογή Εκτέλεση ως διαχειριστής  .

3. Πληκτρολογήστε αυτήν την εντολή για να εγκαταστήσετε το επίσημο εργαλείο Ollama και πατήστε Enter :

   εγκατάσταση winget --id Ollama.Ollama

   

4. Κάντε κλικ στο κουμπί Τέλος για να ολοκληρώσετε την εγκατάσταση.

5. (Επιλογή 1) Πληκτρολογήστε αυτήν την εντολή για να εγκαταστήσετε τοπικά το μικρότερο μοντέλο GPT-OSS AI και πατήστε Enter :

   ollama pull gpt-oss:20b

   

   Γρήγορη σημείωση: Αυτή η εντολή κατεβάζει το αρχείο gpt-oss:20b, το οποίο περιλαμβάνει 20 δισεκατομμύρια παραμέτρους. Ωστόσο, μπορείτε επίσης να χρησιμοποιήσετε την gpt-oss:latestεπιλογή για να κατεβάσετε το πιο πρόσφατο μοντέλο που είναι διαθέσιμο εκείνη τη στιγμή.

6. (Επιλογή 2) Πληκτρολογήστε αυτήν την εντολή για να εγκαταστήσετε τοπικά το μεγαλύτερο μοντέλο GPT-OSS AI και πατήστε Enter :

   ollama pull gpt-oss:120b

7. (Προαιρετικά) Πληκτρολογήστε αυτήν την εντολή για να επιβεβαιώσετε ότι το μοντέλο AI έχει εγκατασταθεί και πατήστε Enter :

   λίστα ολλάμα

8. (Προαιρετικά) Πληκτρολογήστε αυτήν την εντολή για να εμφανίσετε λεπτομέρειες (για παράδειγμα) του μικρότερου μοντέλου GPT-OSS, όπως διαμόρφωση και παραμέτρους, και πατήστε Enter :

   Εμφάνιση ollama gpt-oss:20b

   

9. Πληκτρολογήστε αυτήν την εντολή για να εκτελέσετε (για παράδειγμα) το μοντέλο GTP-OSS και πατήστε Enter :

   Το ollama εκτελεί gpt-oss:20b

Μόλις ολοκληρώσετε τα βήματα, μπορείτε να ξεκινήσετε να χρησιμοποιείτε το πιο πρόσφατο μοντέλο GPT AI ανοιχτού κώδικα από το OpenAI μέσω της διεπαφής γραμμής εντολών.

Εκτός από τη χρήση του Windows Package Manager (winget) για την εγκατάσταση αυτού του εργαλείου, μπορείτε πάντα να κατεβάσετε το πρόγραμμα εγκατάστασης Ollama από την επίσημη σελίδα του ή από αυτήν τη σελίδα GitHub . 

Μπορείτε επίσης να χρησιμοποιήσετε την ollama --helpεντολή για να δείτε άλλες διαθέσιμες εντολές και την ollama run --helpεντολή για να παραθέσετε τις εντολές που είναι διαθέσιμες για ένα συγκεκριμένο μοντέλο.

Αν σκοπεύετε να εκτελέσετε ένα από αυτά τα μοντέλα τεχνητής νοημοσύνης στον υπολογιστή σας, θα πρέπει να επιλέξετε το μοντέλο gpt-oss-20b λόγω του μεγέθους του και των απαιτήσεων υλικού.

Αν θέλετε να χρησιμοποιήσετε το μοντέλο gpt-oss-120b , θα χρειαστείτε πολύ ικανό υλικό, όπως μια GPU NVIDIA με τουλάχιστον 80 GB VRAM, επεξεργαστή επιπέδου διακομιστή (για παράδειγμα, AMD EPYC ή Intel Xeon), τουλάχιστον 256 GB μνήμης και SSD υψηλής ταχύτητας NVMe με τουλάχιστον 500 GB ελεύθερα για βάρη μοντέλων και προσωρινά αρχεία.