Kaip įdiegti „Ollama“, kad būtų galima paleisti vietinius dirbtinio intelekto modelius sistemoje „Windows 11“

• Norėdami įdiegti „Ollama“ sistemoje „Windows 11“, atidarykite komandų eilutę kaip administratorius ir paleiskite winget install --id Ollama.Ollamakomandą.
• Įdiegę, naudokite ollama pull komandą, kad atsisiųstumėte ir paleistumėte LLM, pvz., „Gemma“, „LLaMA“ ir „DeepSeek“, vietoje.
• Arba galite paleisti „Ollama“ programėlę, kad įdiegtumėte ir paleistumėte norimus modelius.
• „Ollama“ veikia nepriklausomai nuo debesies ir palaiko modelių paleidimą per komandinės eilutės sąsają arba pasirinktinę sąsają.

ATNAUJINTA 2025-08-21: „Windows 11“ sistemoje galite įdiegti „Ollama“, kad galėtumėte atsisiųsti ir paleisti kelis dirbtinio intelekto modelius lokaliai savo kompiuteryje, o šiame vadove aprašysiu šios konfigūracijos atlikimo veiksmus.

Nors „Windows 11“ turi daug integruotų dirbtinio intelekto modelių, skirtų konkrečiai aparatinei įrangai, pvz., „Copilot+“ kompiuteriams, jie paprastai yra maži ir specializuoti modeliai. Todėl pagrindinis būdas sąveikauti su dirbtinio intelekto didelių kalbų modeliais (LLM) yra per internetinius pokalbių robotus, pvz., „Microsoft Copilot“, „OpenAI ChatGPT “ ir „Google Gemini“ .

Šių LLM naudojimo trūkumas yra tas, kad jie apdoroja visas užklausas debesyje, o tai nėra tai, ko nori visi. Būtent čia „Ollama“ tampa vertingu įrankiu.

„Ollama“ yra atvirojo kodo įrankis , leidžiantis paleisti didelius kalbos modelius tiesiogiai vietiniame kompiuteryje, kuriame veikia „Windows 11“, „10“ arba kitos palaikomos operacinės sistemos, naudojant komandinę eilutę arba grafinę sąsają. Jis sukurtas tam, kad atskiriems vartotojams, kūrėjams ir tyrėjams būtų paprasta atsisiųsti, paleisti ir valdyti šiuos dirbtinio intelekto modelius.

Šiame vadove aprašysiu veiksmus, kaip nustatyti vieną iš paprasčiausių įrankių, skirtų LLMs vykdyti lokaliai jūsų kompiuteryje.

• Įdiekite „Ollama“ sistemoje „Windows 11“, kad galėtumėte vietiniu būdu paleisti dirbtinio intelekto modelius
• Įdiekite ir paleiskite AI LLM su „Ollama“ sistemoje „Windows 11“ (CLI metodas)
• Įdiekite ir paleiskite AI LLM su „Ollama“ sistemoje „Windows 11“ (GUI metodas)

Įdiekite „Ollama“ sistemoje „Windows 11“, kad galėtumėte vietiniu būdu paleisti dirbtinio intelekto modelius

Norėdami įdiegti „Ollama“ lokaliai sistemoje „Windows 11“, atlikite šiuos veiksmus:

1. Atidarykite „Pradėti“ sistemoje „Windows 11“.

    

    

2. Ieškokite komandinės eilutės (arba terminalo ), dešiniuoju pelės mygtuku spustelėkite viršutinį rezultatą ir pasirinkite parinktį „ Vykdyti administratoriaus teisėmis“ .

3. (1 variantas) Įveskite šią komandą, kad įdiegtumėte oficialų „Ollama“ įrankį, ir paspauskite „Enter“ :

   winget įdiegti --id Ollama.Ollama

   

4. Spustelėkite mygtuką „ Baigti“ .

5. (2 parinktis) Įveskite šią komandą, kad pašalintumėte „Ollama“ iš „Windows 11“, ir paspauskite „Enter“ :

   winget uninstall – id Ollama.Ollama

   Trumpas patarimas: prieš šalinant „Ollama“, rekomenduojama pašalinti bet kokį dirbtinio intelekto modelį iš kompiuterio.

Kai atliksite veiksmus, „Ollama“ veiks fone, o tada galėsite ollama su ja sąveikauti naudodami komandinę eilutę arba „PowerShell“.

Be „Windows“ paketų tvarkyklės („winget“) įdiegimo šiam įrankiui, „Ollama“ diegimo programą visada galite gauti iš oficialaus puslapio arba šio „GitHub“ puslapio. 

Įdiekite ir paleiskite AI LLM su „Ollama“ sistemoje „Windows 11“

Prieš pradėdami diegimą, atidarykite „Ollama“ bibliotekos puslapį ir nuspręskite, kurį dirbtinio intelekto modelį norite įdiegti.

Puslapyje rasite galimų „DeepSeek“ , „Google“ (gemma), „Meta“ (llama) ir kitų modelių sąrašą.

Taip pat pastebėsite, kad kiekvienas modelis turi tokius žymėjimus kaip 1b, 4b, 12b ir kt., kurie nurodo parametrų skaičių milijardais. Didesnis parametrų skaičius rodo didesnį ir potencialiai pajėgesnį modelį. Tačiau jiems taip pat reikės pajėgesnės aparatinės įrangos.

Jei tik pradedate, turėtumėte atsisiųsti mažiausią įmanomą versiją (pvz., „1b“).

Norėdami įdiegti dirbtinio intelekto modelį naudodami „Ollama“ sistemoje „Windows 11“, atlikite šiuos veiksmus:

1. Atidaryti Pradžia .

2. Ieškokite komandinės eilutės (arba terminalo ), dešiniuoju pelės mygtuku spustelėkite viršutinį rezultatą ir pasirinkite parinktį „ Vykdyti administratoriaus teisėmis“ .

3. (Pasirinktinai) Įveskite šią komandą, kad patikrintumėte „Ollama“ versiją, ir paspauskite „Enter“ :

   ollama --versija

   

4. (Pasirinktinai) Įveskite šią komandą, kad patvirtintumėte, jog „Ollama“ veikia, ir paspauskite „Enter“ :

   garbanoti http://localhost:11434

5. (1 parinktis) Įveskite šią komandą, kad įdiegtumėte ir paleistumėte dirbtinio intelekto modelį lokaliai savo kompiuteryje, ir paspauskite „Enter“ :

   būti traukti gemma3:1b

   

   Trumpa pastaba: ši komanda atsisiunčia „Google Gemma“ 3 versiją, kurioje yra vienas milijardas parametrų. Savo komandoje atnaujinkite gemma3:1b pagal modelio pavadinimą ir versiją, kurią norite įdiegti, pvz. deepseek-r1:1.5b, .

6. (Pasirinktinai) Įveskite šią komandą, kad peržiūrėtumėte įdiegtus modelius, ir paspauskite „Enter“ :

   ollamų sąrašas

7. (2 parinktis) Įveskite šią komandą, kad pašalintumėte dirbtinio intelekto modelį iš kompiuterio, ir paspauskite „Enter“ :

   ollama rm gemma3:1b

8. Įveskite šią komandą, kad patvirtintumėte, jog modelio nebėra jūsų kompiuteryje, ir paspauskite „Enter“ :

   ollamų sąrašas

9. Įveskite šią komandą, kad paleistumėte dirbtinio intelekto modelį, įdiegtą naudojant „Ollama“, ir paspauskite „Enter“ :

   ollama run gemma3:1b

   

   Komandoje patvirtinkite modelį, kurį norite pradėti naudoti su „Ollama“.

10. (Pasirinktinai) Įveskite šią komandą, kad būtų rodomi visi „Ollama“ veikiantys procesai, ir paspauskite „Enter“ :

    ollama ps

11. (Pasirinktinai) Įveskite šią komandą, kad būtų rodoma konkretaus modelio informacija, pvz., konfigūracija ir parametrai, ir paspauskite „Enter“ :

    ollama šou gemma3:1b

    

    Komandoje patvirtinkite modelį, kurį norite pradėti naudoti su „Ollama“.

Atlikę veiksmus, galite pradėti naudoti LLM per komandinės eilutės sąsają.

Taip pat galite naudoti ollama --helpkomandą, norėdami peržiūrėti kitas galimas komandas, o ollama run --helpkomandą – norėdami pateikti konkrečiam modeliui galimų komandų sąrašą.

Įdiekite ir paleiskite AI LLM su „Ollama“ sistemoje „Windows 11“ (GUI metodas)

Norėdami įdiegti dirbtinio intelekto modelį naudodami „Ollama GUI“ programą sistemoje „Windows 11“, atlikite šiuos veiksmus:

1. Atidarykite „Ollama“ programėlę iš meniu Pradėti, jei ji nepaleista automatiškai po įdiegimo.

2. Spustelėkite dirbtinio intelekto modelio meniu ir pasirinkite modelį, kurį norite atsisiųsti. Pavyzdžiui, parinktį „GPT-OSS:20b“ .

   

3. Parašykite ir pateikite klausimą, kad pradėtumėte „OpenAI GPT“ modelio atsisiuntimą.

   

Kai atliksite veiksmus, dirbtinio intelekto modelis bus atsisiųstas į jūsų kompiuterį per grafinę vartotojo sąsają.

Jei turite „Ollama“ paskyrą , galite prisijungti ir naudoti integruotą žiniatinklio paiešką, kad sujungtumėte modelio galimybes su naujausia internete prieinama informacija.

„Turbo“ parinktis yra „Ollama“ debesijos pagrindu sukurta paslauga, skirta dideliems dirbtinio intelekto modeliams paleisti naudojant duomenų centro lygio įrangą. Ji sukurta siekiant užtikrinti didelį našumą ir greitį modeliams, kurie gali būti per dideli arba per lėti, kad veiktų vietiniame kompiuteryje. Mėnesio prenumeratos kaina yra 20 USD.

„Ollama“ programėlėje nėra galimybės iš anksto atsisiųsti galimų dirbtinio intelekto modelių. Tačiau šią užduotį galite atlikti naudodami komandinės eilutės įrankį, kaip aprašyta aukščiau.

DUK apie „Ollama“ sistemoje „Windows 11“

Jei vis dar turite klausimų apie „Ollama“, toliau pateikti DUK padės jums išsiaiškinti įvairius šio įrankio aspektus. Visada galite užduoti savo klausimus komentaruose apačioje.

Ar jums reikia specialios dirbtinio intelekto įrangos, kad paleistumėte „Ollama“?

Ne, pagrindinius dirbtinio intelekto modelius, kuriuos įsigijote naudodami „Ollama“, galite paleisti naudodami gana modernią įrangą ir jums nereikia neuroninio procesoriaus (NPU). „Ollama“ taip pat gali veikti tiesiai procesoriuje, tačiau labai rekomenduojama naudoti vaizdo plokštę.

Tačiau, norint paleisti skirtingus dirbtinio intelekto modelius, priklausomai nuo jų parametrų, jums reikės specifinės aparatinės įrangos. Pavyzdžiui, „ gpt-oss-20b “ modelį galite paleisti su įprasta, pajėgia modernia aparatine įranga, bet jei norite naudoti „ gpt-oss-120b“ modelį, jums reikės labai pajėgios aparatinės įrangos, tokios kaip „NVIDIA“ GPU su bent 80 GB vaizdo atminties, serverio lygio procesorius (pvz., „AMD EPYC“ arba „Intel Xeon“), bent 256 GB atminties ir didelės spartos „NVMe SSD“ su bent 500 GB laisvos vietos modelių svoriams ir laikiniesiems failams.

Kokie yra „Ollama“ sistemos reikalavimai, skirti „Windows 11“?

Sistemos reikalavimai norint įdiegti „Ollama“ sistemoje „Windows 11“ arba „10“ yra vidutiniai:

• Procesorius: Intel arba AMD x86-64.
• Atmintis: 8 GB, bet rekomenduojama 16 GB ir daugiau.
• Saugykla: 10 GB laisvos vietos.
• Grafika: integruota arba dedikuota GPU.

Nors reikalavimai nėra reikšmingi, rekomenduoju modernų kelių branduolių procesorių, bent 32 GB RAM, daugiau nei 256 GB laisvos vietos SSD diske (pageidautina NVMe) ir vaizdo plokštę, pvz., „Nvidia“ RTX 30xx serijos. Tačiau visada galite naudoti lygiavertę AMD Radeon GPU.

Taip pat pažangesniems modeliams rekomenduojama naudoti bent 4 GB vaizdo atminties.

Kuo didesnis modelis, tuo daugiau išteklių reikės, o tai reiškia, kad įrenginiui reikės tvirtesnės įrangos.

Ar „Ollama“ naudoja virtualizaciją, kad veiktų „Windows 11“ sistemoje?

Ne, „Ollama“ pati nesukuria virtualios mašinos. Tačiau sistemoje ji sukuria izoliuotą aplinką, skirtą LLM vykdymui. Šioje aplinkoje yra visi reikalingi komponentai, pvz., modelio svoriai (iš anksto apmokyti duomenys) ir konfigūracijos failai.

Svarbu pažymėti, kad „Ollama“ nebereikia WSL2 . Ji veikia natūraliai naujausioje „Windows 11“ arba „10“ versijoje.

Atnaujinimas 2025 m. rugpjūčio 21 d.: Šis vadovas buvo atnaujintas siekiant užtikrinti tikslumą ir atspindėti proceso pakeitimus.