Sådan installeres OpenAI GPT-OSS AI-modellen på Windows 11

• For at installere GPT-OSS AI-modellen på Windows 11 skal du først åbne kommandoprompten (admin) og køre kommandoen winget install --id Ollama.Ollama.
• For det andet skal du vælge gpt-oss:20bindstillingen på listen og indsende et spørgsmål for at udløse download.
• Alternativt kan du bruge kommandolinjeværktøjet Ollama med kommandoprompten (admin) og bruge kommandoen ollama pull gpt-oss:20b til at downloade og installere (for eksempel) GPT-OSS lokalt på din computer.

I Windows 11 kan du installere og køre den nyeste GPT-OSS (Open Source Software) AI-model fra OpenAI lokalt på din computer, og i denne vejledning vil jeg skitsere trinnene til at fuldføre denne konfiguration.

GPT-OSS er en tekstbaseret model fra OpenAI's familie af åbne sprogmodeller til store sprog. I øjeblikket har vi to versioner, herunder gpt-oss-20b (med omkring 21 milliarder parametre) og gpt-oss-120b (med omkring 117 milliarder parametre), og de er blevet udgivet under Apache 2.0-licensen, der giver alle mulighed for at downloade, køre, ændre og videredistribuere dem frit.

• gpt-oss-20b: Kompakt nok til at køre på almindelig hardware med mindst 16 GB hukommelse (f.eks. bærbare computere, kraftfulde telefoner) og udmærker sig ved lokale opgaver med lav latenstid.
• gpt-oss-120b: Det er den større model, designet til kraftfulde logiske opgaver, og den kører på avancerede opsætninger som en enkelt 80 GB GPU og tilbyder næsten O4-mini-ydeevne.

Disse modeller understøtter tankekæder, værktøjsbrug, lange kontekstvinduer og tilbyder konfigurerbare ræsonnementsniveauer, såsom lav, medium og høj, for fleksibilitet.

Hvad kan jeg gøre med GPT-OSS som almindelig bruger?

Hvis du er en teknologikyndig bruger, udvikler eller entusiast, giver de nye OpenAI-modeller dig mulighed for at køre chatbotten lokalt på din computer uden abonnement og fuld kontrol over dine data.

Hvis du er klar til opgaven, kan du eksperimentere, tilpasse og finjustere modellen, da den har en Apache 2.0-licens.

Normalt ville du bruge GPT-OSS til kodningshjælp, kompleks problemløsning, samtaler og agentiske arbejdsgange . Derudover kan du bruge det offline uden en internetforbindelse. 

Hvem er målgruppen for OpenAI GPT-OSS?

Disse AI-modeller er skræddersyet til udviklere, forskere, akademikere og teknologikyndige individer.

Hvis du vil køre disse AI-modeller lokalt (uafhængigt af skyen) på din computer, er den nemmeste metode at bruge Ollama , som er et open source-værktøj , der giver dig mulighed for at køre store sprogmodeller direkte på din lokale computer, der kører Windows 11, 10 eller en anden platform.

Selvom det er bedst at installere og køre AI-modeller på enheder med en NPU (Neural Processing Unit) , såsom en Copilot+ PC med en Snapdragon-processor, kan du køre disse modeller på stort set al hardware. Ollama samarbejder også med Nvidia for at accelerere GPT-OSS på GeForce RTX- og RTX Pro-GPU'er . 

Min eneste ansvarsfraskrivelse er, at uden en NPU eller en kompatibel GPU kan det tage meget lang tid for AI-chatbotten at besvare et simpelt spørgsmål.

I denne vejledning vil jeg skitsere trinnene til at konfigurere Gemma AI-modellerne på Windows 11.

• Installer GPT-OSS på Windows 11 med Ollama (GUI-metode)
• Installer GPT-OSS på Windows 11 med Ollama (CLI-metode)

Installer GPT-OSS på Windows 11 med Ollama (GUI-metode)

Følg disse trin for at installere GPT-OSS eller 3n lokalt på Windows 11:

1. Åbn Start i Windows 11.

    

    

2. Søg efter Kommandoprompt (eller Terminal ), højreklik på det øverste resultat, og vælg indstillingen Kør som administrator  .

3. Skriv denne kommando for at installere det officielle Ollama-værktøj, og tryk på Enter :

   winget install --id Ollama.Ollama

   

4. Klik på knappen Udfør for at fuldføre installationen.

5. Åbn Ollama -appen fra Start-menuen, hvis den ikke startede automatisk.

6. Klik på AI-modellens menu, og vælg indstillingen "GPT-OSS:20b" .

   

7. Skriv og indsend et spørgsmål for at starte download af OpenAI GPT-modellen.

   

Når du har gennemført trinnene, kan du begynde at bruge GPT-OSS AI-modellen via kommandolinjegrænsefladen.

Hvis du har en Ollama-konto , kan du logge ind for at bruge den indbyggede websøgning til at kombinere modellens funktioner med de nyeste oplysninger, der er tilgængelige online.

Hvis du skulle være i tvivl, er Turbo-muligheden en cloudbaseret tjeneste fra Ollama, der giver dig mulighed for at køre store AI-modeller ved hjælp af hardware i datacenterkvalitet. Den er designet til at give høj ydeevne og hastighed til modeller, der kan være for store eller for langsomme til at køre på en lokal computer. Det månedlige abonnement koster $20.

Ollama-appen tilbyder ikke en mulighed for at foruddownloade de tilgængelige AI-modeller. Du kan dog udføre denne opgave fra kommandolinjeværktøjet.

Installer GPT-OSS på Windows 11 med Ollama (CLI-metode)

For at installere OpenAI GPT-OSS lokalt på Windows 11 skal du følge disse trin:

1. Åbn Start .

2. Søg efter Kommandoprompt (eller Terminal ), højreklik på det øverste resultat, og vælg indstillingen Kør som administrator  .

3. Skriv denne kommando for at installere det officielle Ollama-værktøj, og tryk på Enter :

   winget install --id Ollama.Ollama

   

4. Klik på knappen Udfør for at fuldføre installationen.

5. (Mulighed 1) Skriv denne kommando for at installere den mindre GPT-OSS AI-model lokalt, og tryk på Enter :

   ollama pull gpt-oss:20b

   

   Kort bemærkning: Denne kommando downloader gpt-oss:20b, som indeholder 20 milliarder parametre. Du kan dog også bruge muligheden gpt-oss:latestfor at downloade den nyeste tilgængelige model på det tidspunkt.

6. (Mulighed 2) Skriv denne kommando for at installere den større GPT-OSS AI-model lokalt, og tryk på Enter :

   ollama pull gpt-oss:120b

7. (Valgfrit) Skriv denne kommando for at bekræfte, at AI-modellen er installeret, og tryk på Enter :

   ollama-liste

8. (Valgfrit) Skriv denne kommando for at vise detaljer om (for eksempel) den mindre GPT-OSS-model, såsom konfiguration og parametre, og tryk på Enter :

   ollama show gpt-oss:20b

   

9. Skriv denne kommando for at køre (for eksempel) GTP-OSS-modellen, og tryk på Enter :

   ollama løb gpt-oss:20b

Når du har gennemført trinnene, kan du begynde at bruge den nyeste open source GPT AI-model fra OpenAI via kommandolinjegrænsefladen.

Udover at bruge Windows Pakkehåndtering (winget) til at installere dette værktøj, kan du altid hente Ollama-installationsprogrammet fra dets officielle side eller denne GitHub- side. 

Du kan også bruge ollama --helpkommandoen til at se andre tilgængelige kommandoer og ollama run --helpkommandoen til at liste de kommandoer, der er tilgængelige for en bestemt model.

Hvis du planlægger at køre en af ​​disse AI-modeller på din computer, bør du vælge gpt-oss-20b -modellen på grund af dens størrelse og hardwarekrav.

Hvis du vil bruge gpt-oss-120b- modellen, skal du bruge meget kapabel hardware, såsom en NVIDIA GPU med mindst 80 GB VRAM, en server-grade processor (f.eks. AMD EPYC eller Intel Xeon), mindst 256 GB hukommelse og en High-Speed ​​NVMe SSD med mindst 500 GB ledig plads til modelvægte og midlertidige filer.