Slik installerer du OpenAI GPT-OSS AI-modellen på Windows 11

• For å installere GPT-OSS AI-modellen på Windows 11, åpner du først ledeteksten (admin) og kjører kommandoen winget install --id Ollama.Ollama.
• For det andre må du velge gpt-oss:20balternativet fra listen og sende inn et spørsmål for å utløse nedlastingen.
• Alternativt kan du bruke kommandolinjeverktøyet Ollama med ledetekst (admin), og bruke kommandoen ollama pull gpt-oss:20b til å laste ned og installere (for eksempel) GPT-OSS lokalt på datamaskinen din.

På Windows 11 kan du installere og kjøre den nyeste GPT-OSS (Open Source Software) AI-modellen fra OpenAI lokalt på datamaskinen din, og i denne veiledningen vil jeg skissere trinnene for å fullføre denne konfigurasjonen.

GPT-OSS er en tekstbasert modell fra OpenAIs familie av åpne språkmodeller for store språk. For øyeblikket har vi to versjoner, inkludert gpt-oss-20b (med rundt 21 milliarder parametere) og gpt-oss-120b (med rundt 117 milliarder parametere), og de har blitt utgitt under Apache 2.0-lisensen, som lar alle laste ned, kjøre, endre og distribuere dem fritt.

• gpt-oss-20b: Kompakt nok til å kjøre på vanlig maskinvare med minimum 16 GB minne (for eksempel bærbare datamaskiner, kraftige telefoner) og utmerker seg ved lokale oppgaver med lav latens.
• gpt-oss-120b: Det er den større modellen, designet for kraftige resonneringsoppgaver, og den kjører på avanserte oppsett som et enkelt 80 GB GPU og tilbyr ytelse som nesten O4-mini.

Disse modellene støtter tankekjederesonnement, verktøybruk, lange kontekstvinduer og tilbyr konfigurerbare resonnementsnivåer, som lav, middels og høy, for fleksibilitet.

Hva kan jeg gjøre med GPT-OSS som vanlig bruker?

Hvis du er en teknologikyndig bruker, utvikler eller entusiast, lar de nye OpenAI-modellene deg kjøre chatboten lokalt på datamaskinen din uten abonnement og full kontroll over dataene dine.

Hvis du er klar for oppgaven, kan du eksperimentere, tilpasse og finjustere modellen siden den har en Apache 2.0-lisens.

Vanligvis ville du brukt GPT-OSS til kodehjelp, kompleks problemløsning, samtaler og agentiske arbeidsflyter . I tillegg kan du bruke det offline uten internettforbindelse. 

Hvem er målgruppen for OpenAI GPT-OSS?

Disse AI-modellene er skreddersydd for utviklere, forskere, akademikere og teknologikyndige individer.

Hvis du vil kjøre disse AI-modellene lokalt (uavhengig av skyen) på datamaskinen din, er den enkleste metoden å bruke Ollama , som er et åpen kildekode-verktøy som lar deg kjøre store språkmodeller direkte på den lokale datamaskinen din som kjører Windows 11, 10 eller en annen plattform.

Selv om det er best å installere og kjøre AI-modeller på enheter med en NPU (Neural Processing Unit) , for eksempel en Copilot+ PC med en Snapdragon-prosessor, kan du kjøre disse modellene på så å si all maskinvare. Ollama samarbeider også med Nvidia for å akselerere GPT-OSS på GeForce RTX- og RTX Pro-GPU-er . 

Min eneste ansvarsfraskrivelse er at uten en NPU eller en kapabel GPU kan det ta veldig lang tid for AI-chatboten å svare på et enkelt spørsmål.

I denne veiledningen vil jeg skissere trinnene for å konfigurere Gemma AI-modellene på Windows 11.

• Installer GPT-OSS på Windows 11 med Ollama (GUI-metode)
• Installer GPT-OSS på Windows 11 med Ollama (CLI-metode)

Installer GPT-OSS på Windows 11 med Ollama (GUI-metode)

For å installere GPT-OSS eller 3n lokalt på Windows 11, følg disse trinnene:

1. Åpne Start i Windows 11.

    

    

2. Søk etter Kommandoprompt (eller Terminal ), høyreklikk på det øverste resultatet, og velg alternativet Kjør som administrator  .

3. Skriv inn denne kommandoen for å installere det offisielle Ollama-verktøyet og trykk Enter :

   winget install --id Ollama.Ollama

   

4. Klikk på Fullfør -knappen for å fullføre installasjonen.

5. Åpne Ollama -appen fra Start-menyen hvis den ikke startet automatisk.

6. Klikk på menyen for AI-modellen og velg alternativet «GPT-OSS:20b» .

   

7. Skriv og send inn et spørsmål for å starte nedlastingen av OpenAI GPT-modellen.

   

Når du har fullført trinnene, kan du begynne å bruke GPT-OSS AI-modellen via kommandolinjegrensesnittet.

Hvis du har en Ollama-konto , kan du logge på for å bruke det innebygde nettsøket for å kombinere modellens funksjoner med den nyeste informasjonen som er tilgjengelig på nettet.

Hvis du lurer, er Turbo-alternativet en skybasert tjeneste fra Ollama som lar deg kjøre store AI-modeller ved hjelp av maskinvare i datasenterkvalitet. Den er designet for å gi høy ytelse og hastighet for modeller som kan være for store eller for trege til å kjøre på en lokal datamaskin. Månedsabonnementet koster $20.

Ollama-appen tilbyr ikke et alternativ for å forhåndsnedlaste de tilgjengelige AI-modellene. Du kan imidlertid fullføre denne oppgaven fra kommandolinjeverktøyet.

Installer GPT-OSS på Windows 11 med Ollama (CLI-metode)

For å installere OpenAI GPT-OSS lokalt på Windows 11, følg disse trinnene:

1. Åpne Start .

2. Søk etter Kommandoprompt (eller Terminal ), høyreklikk på det øverste resultatet, og velg alternativet Kjør som administrator  .

3. Skriv inn denne kommandoen for å installere det offisielle Ollama-verktøyet og trykk Enter :

   winget install --id Ollama.Ollama

   

4. Klikk på Fullfør -knappen for å fullføre installasjonen.

5. (Alternativ 1) Skriv inn denne kommandoen for å installere den mindre GPT-OSS AI-modellen lokalt, og trykk Enter :

   ollama pull gpt-oss:20b

   

   Kort merknad: Denne kommandoen laster ned gpt-oss:20b, som inkluderer 20 milliarder parametere. Du kan imidlertid også bruke alternativet gpt-oss:latestfor å laste ned den nyeste modellen som er tilgjengelig på det tidspunktet.

6. (Alternativ 2) Skriv inn denne kommandoen for å installere den større GPT-OSS AI-modellen lokalt, og trykk Enter :

   ollama pull gpt-oss:120b

7. (Valgfritt) Skriv inn denne kommandoen for å bekrefte at AI-modellen er installert, og trykk Enter :

   ollama-listen

8. (Valgfritt) Skriv inn denne kommandoen for å vise detaljer om (for eksempel) den mindre GPT-OSS-modellen, for eksempel konfigurasjon og parametere, og trykk Enter :

   ollama-show gpt-oss:20b

   

9. Skriv inn denne kommandoen for å kjøre (for eksempel) GTP-OSS-modellen og trykk Enter :

   ollama løp gpt-oss:20b

Når du har fullført trinnene, kan du begynne å bruke den nyeste GPT AI-modellen med åpen kildekode fra OpenAI via kommandolinjegrensesnittet.

I tillegg til å bruke Windows Package Manager (winget) til å installere dette verktøyet, kan du alltid få tak i Ollama-installasjonsprogrammet fra den offisielle siden eller denne GitHub- siden. 

Du kan også bruke ollama --helpkommandoen til å vise andre tilgjengelige kommandoer, og ollama run --helpkommandoen til å liste opp kommandoene som er tilgjengelige for en bestemt modell.

Hvis du planlegger å kjøre en av disse AI-modellene på datamaskinen din, bør du velge gpt-oss-20b -modellen på grunn av dens størrelse og maskinvarekrav.

Hvis du vil bruke gpt-oss-120b- modellen, trenger du svært kapabel maskinvare, for eksempel en NVIDIA GPU med minst 80 GB VRAM, en prosessor i serverkvalitet (for eksempel AMD EPYC eller Intel Xeon), minst 256 GB minne og en høyhastighets NVMe SSD med minst 500 GB ledig plass til modellvekter og midlertidige filer.