Jak nainstalovat model umělé inteligence OpenAI GPT-OSS ve Windows 11

• Chcete-li nainstalovat model AI GPT-OSS ve Windows 11, nejprve otevřete Příkazový řádek (správce) a spusťte příkaz winget install --id Ollama.Ollama.
• Za druhé, musíte vybrat gpt-oss:20bmožnost ze seznamu a odeslat otázku, abyste spustili stahování.
• Alternativně můžete použít nástroj příkazového řádku Ollama s oprávněním správce a pomocí tohoto ollama pull gpt-oss:20b příkazu stáhnout a nainstalovat (například) GPT-OSS lokálně do počítače.

Ve Windows 11 si můžete lokálně na svém počítači nainstalovat a spustit nejnovější model umělé inteligence GPT-OSS (Open Source Software) od OpenAI. V této příručce popíšu kroky k dokončení této konfigurace.

GPT-OSS je textový model z rodiny modelů OpenAI s otevřenou váhou pro velké jazyky. V současné době máme dvě verze, včetně gpt-oss-20b (s přibližně 21 miliardami parametrů) a gpt-oss-120b (s přibližně 117 miliardami parametrů), a byly vydány pod licencí Apache 2.0, což umožňuje komukoli je volně stahovat, spouštět, upravovat a dále šířit.

• gpt-oss-20b: Dostatečně kompaktní pro běh na běžném hardwaru s minimálně 16 GB paměti (například notebooky, výkonné telefony) a vyniká v lokálních úlohách s nízkou latencí.
• gpt-oss-120b: Jedná se o větší model, určený pro náročné úlohy uvažování, běží na špičkových sestavách, jako je jedna 80GB GPU, a nabízí výkon blížící se O4-mini.

Tyto modely podporují uvažování typu myšlení, používání nástrojů, dlouhá kontextová okna a pro větší flexibilitu nabízejí konfigurovatelné úrovně uvažování, jako je nízká, střední a vysoká.

Co můžu dělat s GPT-OSS jako běžný uživatel?

Pokud jste technicky zdatný uživatel, vývojář nebo nadšenec, nové modely OpenAI vám umožňují spouštět chatbota lokálně na vašem počítači bez předplatného a s plnou kontrolou nad vašimi daty.

Pokud se na to máte, můžete model experimentovat, přizpůsobovat a dolaďovat, protože má licenci Apache 2.0.

GPT-OSS byste obvykle používali pro pomoc s kódováním, řešení složitých problémů, konverzace a agentské pracovní postupy . Kromě toho jej můžete používat offline bez připojení k internetu. 

Kdo je cílovou skupinou pro OpenAI GPT-OSS?

Tyto modely umělé inteligence jsou přizpůsobeny vývojářům, výzkumníkům, akademikům a technicky zdatným jednotlivcům.

Pokud chcete tyto modely umělé inteligence spouštět lokálně (nezávisle na cloudu) na svém počítači, nejjednodušší metodou je použít Ollamu , což je open-source nástroj , který umožňuje spouštět modely velkých jazyků (LLR) přímo na vašem lokálním počítači se systémem Windows 11, 10 nebo jinou platformou.

Ačkoli je nejlepší instalovat a spouštět modely umělé inteligence na zařízeních s NPU (neuronovou procesorovou jednotkou) , jako je například počítač Copilot+ s procesorem Snapdragon, tyto modely můžete spustit prakticky na jakémkoli hardwaru. Ollama také spolupracuje se společností Nvidia na akceleraci GPT-OSS na grafických procesorech GeForce RTX a RTX Pro . 

Moje jediná výhrada je, že bez NPU nebo vhodného GPU může chatbotovi s umělou inteligencí trvat velmi dlouho, než odpoví na jednoduchou otázku.

V této příručce nastíním kroky k nastavení modelů Gemma AI ve Windows 11.

• Instalace GPT-OSS ve Windows 11 pomocí Ollamy (GUI metoda)
• Instalace GPT-OSS ve Windows 11 pomocí Ollamy (metoda CLI)

Instalace GPT-OSS ve Windows 11 pomocí Ollamy (GUI metoda)

Chcete-li nainstalovat GPT-OSS nebo 3n lokálně v systému Windows 11, postupujte takto:

1. Otevřete Start ve Windows 11.

    

    

2. Vyhledejte „Příkazový řádek“ (nebo „Terminál“ ), klikněte pravým tlačítkem myši na první výsledek a vyberte možnost Spustit jako správce  .

3. Zadejte tento příkaz pro instalaci oficiálního nástroje Ollama a stiskněte Enter :

   instalace wingetu --id Ollama.Ollama

   

4. Kliknutím na tlačítko Dokončit dokončete instalaci.

5. Pokud se aplikace Ollama nespustila automaticky, otevřete ji z nabídky Start.

6. Klikněte na nabídku modelu umělé inteligence a vyberte možnost „GPT-OSS:20b“ .

   

7. Vytvořte a odešlete otázku, abyste zahájili stahování modelu OpenAI GPT.

   

Jakmile dokončíte kroky, můžete začít používat model umělé inteligence GPT-OSS prostřednictvím rozhraní příkazového řádku.

Pokud máte účet Ollama , můžete se přihlásit a použít vestavěné webové vyhledávání, které kombinuje funkce modelu s nejnovějšími informacemi dostupnými online.

Pokud vás to zajímá, možnost Turbo je cloudová služba od společnosti Ollama, která vám umožňuje spouštět rozsáhlé modely umělé inteligence s využitím hardwaru datových center. Je navržena tak, aby poskytovala vysoký výkon a rychlost pro modely, které by mohly být příliš velké nebo příliš pomalé pro spuštění na lokálním počítači. Měsíční předplatné stojí 20 dolarů.

Aplikace Ollama nenabízí možnost předběžného stažení dostupných modelů umělé inteligence. Tuto úlohu však můžete provést pomocí nástroje příkazového řádku.

Instalace GPT-OSS ve Windows 11 pomocí Ollamy (metoda CLI)

Chcete-li lokálně nainstalovat OpenAI GPT-OSS v systému Windows 11, postupujte takto:

1. Otevřete Start .

2. Vyhledejte „Příkazový řádek“ (nebo „Terminál“ ), klikněte pravým tlačítkem myši na první výsledek a vyberte možnost Spustit jako správce  .

3. Zadejte tento příkaz pro instalaci oficiálního nástroje Ollama a stiskněte Enter :

   instalace wingetu --id Ollama.Ollama

   

4. Kliknutím na tlačítko Dokončit dokončete instalaci.

5. (Možnost 1) Zadejte tento příkaz pro lokální instalaci menšího modelu AI GPT-OSS a stiskněte klávesu Enter :

   ollama pull gpt-oss:20b

   

   Rychlá poznámka: Tento příkaz stáhne soubor gpt-oss:20b, který obsahuje 20 miliard parametrů. Můžete však také použít možnost gpt-oss:lateststažení nejnovějšího aktuálně dostupného modelu.

6. (Možnost 2) Zadejte tento příkaz pro lokální instalaci většího modelu AI GPT-OSS a stiskněte klávesu Enter :

   ollama pull gpt-oss:120b

7. (Volitelné) Zadejte tento příkaz pro potvrzení instalace modelu AI a stiskněte klávesu Enter :

   seznam ollam

8. (Volitelné) Zadejte tento příkaz pro zobrazení podrobností (například) o menším modelu GPT-OSS, jako je konfigurace a parametry, a stiskněte klávesu Enter :

   ollama zobrazit gpt-oss:20b

   

9. Zadejte tento příkaz pro spuštění (například) modelu GTP-OSS a stiskněte Enter :

   ollama run gpt-oss:20b

Jakmile dokončíte kroky, můžete začít používat nejnovější model GPT AI s otevřeným zdrojovým kódem od OpenAI prostřednictvím rozhraní příkazového řádku.

Kromě použití Správce balíčků systému Windows (winget) k instalaci tohoto nástroje můžete instalační program Ollama vždy stáhnout z jeho oficiální stránky nebo z této stránky  GitHubu .

Příkaz můžete také použít ollama --helpk zobrazení dalších dostupných příkazů a ollama run --helppříkaz k zobrazení seznamu příkazů dostupných pro konkrétní model.

Pokud plánujete na svém počítači provozovat jeden z těchto modelů umělé inteligence, měli byste zvolit model gpt-oss-20b kvůli jeho rozměrům a hardwarovým požadavkům.

Pokud chcete použít model gpt-oss-120b , budete potřebovat velmi výkonný hardware, jako je grafická karta NVIDIA s alespoň 80 GB VRAM, procesor serverové úrovně (například AMD EPYC nebo Intel Xeon), alespoň 256 GB paměti a vysokorychlostní NVMe SSD s alespoň 500 GB volného místa pro váhy modelů a dočasné soubory.