Как да инсталирате OpenAI GPT-OSS AI модел на Windows 11

• За да инсталирате GPT-OSS AI модела на Windows 11, първо отворете командния ред (администратор) и изпълнете командата winget install --id Ollama.Ollama.
• Второ, трябва да изберете опцията gpt-oss:20bот списъка и да изпратите въпрос, за да задействате изтеглянето.
• Като алтернатива, можете да използвате инструмента за команден ред Ollama с командния ред (администратор) и да използвате командата, ollama pull gpt-oss:20b за да изтеглите и инсталирате (например) GPT-OSS локално на вашия компютър.

В Windows 11 можете да инсталирате и стартирате локално на вашия компютър най-новия GPT-OSS (софтуер с отворен код) AI модел от OpenAI, а в това ръководство ще опиша стъпките за завършване на тази конфигурация.

GPT-OSS е текстово-базиран модел от семейството на OpenAI с отворени големи езици. В момента имаме две версии, включително gpt-oss-20b (с около 21B параметри) и gpt-oss-120b (с около 117B параметри), и те са издадени под лиценза Apache 2.0, което позволява на всеки да ги изтегля, изпълнява, променя и разпространява свободно.

• gpt-oss-20b: Достатъчно компактен, за да работи на обикновен хардуер с минимум 16GB памет (например лаптопи, мощни телефони) и се справя отлично с локални задачи с ниска латентност.
• gpt-oss-120b: Това е по-големият модел, проектиран за мощни задачи за разсъждение, работи на висок клас конфигурации, като например един 80GB GPU, и предлага производителност, близка до O4-mini.

Тези модели поддържат разсъждения във верига от мисли, използване на инструменти, дълги контекстни прозорци и предлагат конфигурируеми нива на разсъждение, като ниско, средно и високо, за по-голяма гъвкавост.

Какво мога да правя с GPT-OSS като обикновен потребител?

Ако сте технологично грамотен потребител, разработчик или ентусиаст, новите модели на OpenAI ви позволяват да стартирате чатбота локално на вашия компютър без абонамент и пълен контрол върху вашите данни.

Ако сте готови за задачата, можете да експериментирате, персонализирате и настройвате модела, тъй като той има лиценз за Apache 2.0.

Обикновено бихте използвали GPT-OSS за помощ с кодиране, решаване на сложни проблеми, разговори и работни процеси на агенти . Освен това можете да го използвате офлайн без интернет връзка. 

Коя е целевата аудитория за OpenAI GPT-OSS?

Тези модели на изкуствен интелект са пригодени за разработчици, изследователи, академици и технологично грамотни хора.

Ако искате да стартирате тези AI модели локално (независимо от облака) на вашия компютър, най-лесният метод е да използвате Ollama , инструмент с отворен код , който ви позволява да стартирате Large Language Models директно на вашия локален компютър с Windows 11, 10 или друга платформа.

Въпреки че е най-добре да инсталирате и стартирате AI модели на устройства с NPU (Neural Processing Unit) , като например Copilot+ PC с процесор Snapdragon, можете да стартирате тези модели на почти всеки хардуер. Ollama също така си партнира с Nvidia за ускоряване на GPT-OSS на графични процесори GeForce RTX и RTX Pro . 

Единственото ми предупреждение е, че без NPU или подходящ GPU, AI чатботът може да отнеме много време, за да отговори на прост въпрос.

В това ръководство ще опиша стъпките за настройване на моделите Gemma AI в Windows 11.

• Инсталиране на GPT-OSS на Windows 11 с Ollama (GUI метод)
• Инсталиране на GPT-OSS на Windows 11 с Ollama (CLI метод)

Инсталиране на GPT-OSS на Windows 11 с Ollama (GUI метод)

За да инсталирате GPT-OSS или 3n локално на Windows 11, изпълнете следните стъпки:

1. Отворете „Старт“ в Windows 11.

    

    

2. Потърсете „Команден ред“ (или „Терминал“ ), щракнете с десния бутон върху горния резултат и изберете опцията „ Изпълни като администратор“  .

3. Въведете тази команда, за да инсталирате официалния инструмент Ollama и натиснете Enter :

   winget install --id Ollama.Ollama

   

4. Щракнете върху бутона Finish , за да завършите инсталацията.

5. Отворете приложението Ollama от менюто „Старт“, ако не се стартира автоматично.

6. Щракнете върху менюто на AI модела и изберете опцията „GPT-OSS:20b“ .

   

7. Съставете и изпратете въпрос, за да започнете изтеглянето на OpenAI GPT модела.

   

След като изпълните стъпките, можете да започнете да използвате GPT-OSS AI модела чрез интерфейса на командния ред.

Ако имате акаунт в Ollama , можете да влезете, за да използвате вграденото уеб търсене, за да комбинирате възможностите на модела с най-новата информация, налична онлайн.

В случай, че се чудите, опцията Turbo е облачна услуга от Ollama, която ви позволява да стартирате големи AI модели, използвайки хардуер от клас на център за данни. Тя е проектирана да осигури висока производителност и скорост за модели, които може да са твърде големи или твърде бавни, за да работят на локален компютър. Месечният абонамент е на цена от $20.

Приложението Ollama не предлага опция за предварително изтегляне на наличните AI модели. Можете обаче да изпълните тази задача от инструмента за команден ред.

Инсталиране на GPT-OSS на Windows 11 с Ollama (CLI метод)

За да инсталирате OpenAI GPT-OSS локално на Windows 11, следвайте тези стъпки:

1. Отворете „Старт“ .

2. Потърсете „Команден ред“ (или „Терминал“ ), щракнете с десния бутон върху горния резултат и изберете опцията „ Изпълни като администратор“  .

3. Въведете тази команда, за да инсталирате официалния инструмент Ollama и натиснете Enter :

   winget install --id Ollama.Ollama

   

4. Щракнете върху бутона Finish , за да завършите инсталацията.

5. (Опция 1) Въведете тази команда, за да инсталирате локално по-малкия GPT-OSS AI модел и натиснете Enter :

   оллама издърпа gpt-oss:20b

   

   Бърза бележка: Тази команда изтегля gpt-oss:20b, който включва 20 милиарда параметъра. Можете обаче да използвате опцията gpt-oss:latestза изтегляне на най-новия наличен модел към момента.

6. (Вариант 2) Въведете тази команда, за да инсталирате локално по-големия GPT-OSS AI модел и натиснете Enter :

   оллама издърпа gpt-oss:120b

7. (По избор) Въведете тази команда, за да потвърдите, че AI моделът е инсталиран, и натиснете Enter :

   списък с олама

8. (По избор) Въведете тази команда, за да покажете подробности за (например) по-малкия GPT-OSS модел, като например конфигурация и параметри, и натиснете Enter :

   ollama показва gpt-oss:20b

   

9. Въведете тази команда, за да стартирате (например) GTP-OSS модела и натиснете Enter :

   ollama run gpt-oss:20b

След като изпълните стъпките, можете да започнете да използвате най-новия GPT AI модел с отворен код от OpenAI чрез интерфейса на командния ред.

В допълнение към използването на Windows Package Manager (winget) за инсталиране на този инструмент, винаги можете да получите инсталатора на Ollama от официалната му страница или от тази страница в GitHub . 

Можете също да използвате ollama --helpкомандата , за да видите други налични команди, и ollama run --helpкомандата , за да изброите командите, налични за конкретен модел.

Ако планирате да използвате един от тези AI модели на вашия компютър, трябва да изберете модела gpt-oss-20b поради неговите изисквания за размер и хардуер.

Ако искате да използвате модела gpt-oss-120b , ще ви е необходим много мощен хардуер, като например NVIDIA GPU с поне 80 GB VRAM, процесор от сървърен клас (например AMD EPYC или Intel Xeon), поне 256 GB памет и високоскоростен NVMe SSD с поне 500 GB свободно място за теглото на модела и временни файлове.