Како инсталирати OpenAI GPT-OSS AI модел на Windows 11

• Да бисте инсталирали GPT-OSS AI модел на Windows 11, прво отворите командну линију (администратор) и покрените winget install --id Ollama.Ollamaкоманду.
• Друго, потребно је да изаберете gpt-oss:20bопцију са листе и поставите питање да бисте покренули преузимање.
• Алтернативно, можете користити алатку командне линије Ollama са командном линијом (admin) и користити команду ollama pull gpt-oss:20b за преузимање и инсталирање (на пример) GPT-OSS локално на вашем рачунару.

На оперативном систему Windows 11 можете локално на рачунару инсталирати и покренути најновији GPT-OSS (софтвер отвореног кода) AI модел компаније OpenAI, а у овом водичу ћу описати кораке за завршетак ове конфигурације.

GPT-OSS је текстуални модел из OpenAI породице модела отворених великих језика. Тренутно имамо две верзије, укључујући gpt-oss-20b (са око 21 милијарде параметара) и gpt-oss-120b (са око 117 милијарди параметара), а објављени су под Apache 2.0 лиценцом, што омогућава свима да их слободно преузму, покрећу, мењају и редистрибуирају.

• gpt-oss-20b: Довољно компактан да ради на обичном хардверу са најмање 16 ГБ меморије (на пример, лаптопови, моћни телефони) и истиче се у локалним задацима са ниском латенцијом.
• gpt-oss-120b: То је већи модел, дизајниран за моћне задатке расуђивања, ради на врхунским подешавањима попут једног графичког процесора од 80 ГБ и нуди перформансе скоро O4-mini.

Ови модели подржавају резоновање по низу мисли, коришћење алата, дуге контекстуалне прозоре и нуде подесиве нивое резоновања, као што су низак, средњи и висок, ради флексибилности.

Шта могу да урадим са GPT-OSS као обичан корисник?

Ако сте технолошки поткован корисник, програмер или ентузијаста, нови OpenAI модели вам омогућавају да покренете четбот локално на рачунару без претплате и потпуне контроле над вашим подацима.

Ако сте спремни за задатак, можете експериментисати, прилагођавати и фино подешавати модел јер има Apache 2.0 лиценцу.

Обично бисте користили GPT-OSS за помоћ око кодирања, решавање сложених проблема, разговоре и агентске токове рада . Поред тога, можете га користити ван мреже без интернет везе. 

Ко је циљна публика за OpenAI GPT-OSS?

Ови модели вештачке интелигенције су прилагођени програмерима, истраживачима, академицима и технолошки поткованим појединцима.

Ако желите да покренете ове вештачке интелигенције (AI моделе) локално (независно од облака) на свом рачунару, најлакши метод је да користите Ollama , што је алат отвореног кода који вам омогућава да покрећете Large Language Models директно на локалном рачунару са оперативним системом Windows 11, 10 или неком другом платформом.

Иако је најбоље инсталирати и покретати AI моделе на уређајима са NPU (Neural Processing Unit) , као што је Copilot+ рачунар са Snapdragon процесором, ове моделе можете покретати на практично било ком хардверу. Ollama такође сарађује са Nvidia како би убрзала GPT-OSS на GeForce RTX и RTX Pro графичким процесорима . 

Моја једина напомена је да без NPU-а или способног GPU-а, AI четботу може требати веома дуго да одговори на једноставно питање.

У овом водичу , описаћу кораке за подешавање Gemma AI модела на Windows 11.

• Инсталирајте GPT-OSS на Windows 11 помоћу Ollama-е (GUI метод)
• Инсталирајте GPT-OSS на Windows 11 помоћу Ollama-е (CLI метода)

Инсталирајте GPT-OSS на Windows 11 помоћу Ollama-е (GUI метод)

Да бисте локално инсталирали GPT-OSS или 3n на Windows 11, пратите ове кораке:

1. Отворите Старт у оперативном систему Windows 11.

    

    

2. Потражите „Командна линија“ (или „Терминал“ ), кликните десним тастером миша на горњи резултат и изаберите опцију „ Покрени као администратор“  .

3. Унесите ову команду да бисте инсталирали званични алат Ollama и притисните Enter :

   вингет инсталл --ид Оллама.Оллама

   

4. Кликните на дугме Заврши да бисте завршили инсталацију.

5. Отворите апликацију Оллама из менија Старт ако се није покренула аутоматски.

6. Кликните на мени AI модела и изаберите опцију „GPT-OSS:20b“ .

   

7. Саставите и пошаљите питање да бисте започели преузимање OpenAI GPT модела.

   

Када завршите кораке, можете почети да користите GPT-OSS AI модел путем интерфејса командне линије.

Ако имате Ollama налог , можете се пријавити да бисте користили уграђену веб претрагу и комбиновали могућности модела са најновијим информацијама доступним на мрежи.

У случају да се питате, Турбо опција је услуга заснована на облаку од компаније Оллама која вам омогућава да покрећете велике вештачке интелигенције користећи хардвер нивоа дата центра. Дизајнирана је да пружи високе перформансе и брзину за моделе који би могли бити превелики или преспори за покретање на локалном рачунару. Месечна претплата кошта 20 долара.

Апликација Ollama не нуди опцију за претходно преузимање доступних AI модела. Међутим, овај задатак можете да обавите из алатке командне линије.

Инсталирајте GPT-OSS на Windows 11 помоћу Ollama-е (CLI метода)

Да бисте локално инсталирали OpenAI GPT-OSS на Windows 11, пратите ове кораке:

1. Отворите Старт .

2. Потражите „Командна линија“ (или „Терминал“ ), кликните десним тастером миша на горњи резултат и изаберите опцију „ Покрени као администратор“  .

3. Унесите ову команду да бисте инсталирали званични алат Ollama и притисните Enter :

   вингет инсталл --ид Оллама.Оллама

   

4. Кликните на дугме Заврши да бисте завршили инсталацију.

5. (Опција 1) Унесите ову команду да бисте локално инсталирали мањи GPT-OSS AI модел и притисните Ентер :

   оллама пул гпт-осс:20б

   

   Кратка напомена: Ова команда преузима gpt-oss:20b, која садржи 20 милијарди параметара. Међутим, можете користити и опцију gpt-oss:latestза преузимање најновијег доступног модела у том тренутку.

6. (Опција 2) Унесите ову команду да бисте локално инсталирали већи GPT-OSS AI модел и притисните Ентер :

   оллама пул гпт-осс:120б

7. (Опционо) Унесите ову команду да бисте потврдили да је AI модел инсталиран и притисните Enter :

   Олама листа

8. (Опционо) Унесите ову команду да бисте приказали детаље (на пример) мањег GPT-OSS модела, као што су конфигурација и параметри, и притисните Ентер :

   оллама прикажи гпт-осс:20б

   

9. Укуцајте ову команду да бисте покренули (на пример) GTP-OSS модел и притисните Enter :

   оллама покрени гпт-осс:20б

Када завршите кораке, можете почети да користите најновији GPT AI модел отвореног кода од OpenAI-а путем интерфејса командне линије.

Поред коришћења Windows Package Manager-а (winget) за инсталирање овог алата, увек можете добити инсталер Ollama-е са његове званичне странице или ове GitHub странице. 

Такође можете користити ollama --helpкоманду да бисте видели друге доступне команде и ollama run --helpкоманду да бисте навели команде доступне за одређени модел.

Ако планирате да покренете један од ових вештачких интелигенција на свом рачунару, требало би да изаберете модел gpt-oss-20b због његових захтева за величином и хардвером.

Ако желите да користите модел gpt-oss-120b , биће вам потребан веома моћан хардвер, као што је NVIDIA GPU са најмање 80 GB VRAM-а, процесор серверског нивоа (на пример, AMD EPYC или Intel Xeon), најмање 256 GB меморије и брзи NVMe SSD са најмање 500 GB слободног простора за тежине модела и привремене датотеке.