Kā instalēt Ollama, lai palaistu lokālos AI modeļus operētājsistēmā Windows 11

• Lai instalētu Ollama operētājsistēmā Windows 11, atveriet komandu uzvedni kā administrators un palaidiet winget install --id Ollama.Ollamakomandu.
• Pēc instalēšanas izmantojiet ollama pull komandu, lai lokāli lejupielādētu un palaistu LLM, piemēram, Gemma, LLaMA un DeepSeek.
• Varat arī palaist Ollama lietotni, lai instalētu un palaistu vēlamos modeļus.
• Ollama darbojas neatkarīgi no mākoņa un atbalsta modeļu palaišanu, izmantojot komandrindas saskarni vai pielāgotu saskarni.

ATJAUNINĀTS 21.08.2025.: Operētājsistēmā Windows 11 varat instalēt Ollama, lai lejupielādētu un lokāli palaistu vairākus mākslīgā intelekta modeļus savā datorā, un šajā rokasgrāmatā es izklāstīšu darbības, kas jāveic, lai pabeigtu šo konfigurāciju.

Lai gan operētājsistēmā Windows 11 ir daudz iebūvētu mākslīgā intelekta modeļu konkrētai aparatūrai, piemēram, Copilot+ datoriem, tie parasti ir mazi un specializēti modeļi. Tāpēc galvenais veids, kā mijiedarboties ar mākslīgā intelekta lielvalodu modeļiem (LLM), ir tiešsaistes tērzēšanas robotprogrammatūras, piemēram, Microsoft Copilot, OpenAI ChatGPT un Google Gemini .

Šo LLM izmantošanas trūkums ir tāds, ka tie apstrādā visus pieprasījumus mākonī, ko ne visi vēlas darīt. Šeit Ollama kļūst par vērtīgu rīku.

Ollama ir atvērtā pirmkoda rīks , kas ļauj palaist lielus valodu modeļus tieši lokālajā datorā, kurā darbojas operētājsistēma Windows 11, 10 vai citas atbalstītas operētājsistēmas, izmantojot komandrindas pieredzi vai grafisko saskarni. Tas ir izstrādāts, lai vienkāršotu šo mākslīgā intelekta modeļu lejupielādes, palaišanas un pārvaldības procesu atsevišķiem lietotājiem, izstrādātājiem un pētniekiem.

Šajā rokasgrāmatā es aprakstīšu darbības, lai iestatītu vienu no vienkāršākajiem rīkiem LLM palaišanai lokāli datorā.

• Instalējiet Ollama operētājsistēmā Windows 11, lai lokāli palaistu mākslīgā intelekta modeļus
• Instalējiet un palaidiet AI LLM ar Ollama operētājsistēmā Windows 11 (CLI metode)
• Instalējiet un palaidiet AI LLM ar Ollama operētājsistēmā Windows 11 (GUI metode)

Instalējiet Ollama operētājsistēmā Windows 11, lai lokāli palaistu mākslīgā intelekta modeļus

Lai lokāli instalētu Ollama operētājsistēmā Windows 11, veiciet tālāk norādītās darbības.

1. Atveriet Sākt operētājsistēmā Windows 11.

    

    

2. Meklējiet komandu uzvedni (vai termināli ), ar peles labo pogu noklikšķiniet uz augšējā rezultāta un izvēlieties opciju Palaist kā administratoram .

3. (1. variants) Ierakstiet šo komandu, lai instalētu oficiālo Ollama rīku, un nospiediet taustiņu Enter :

   winget install --id Ollama.Ollama

   

4. Noklikšķiniet uz pogas Pabeigt .

5. (2. variants) Ierakstiet šo komandu, lai atinstalētu Ollama no Windows 11, un nospiediet taustiņu Enter :

   winget atinstalēšana — id Ollama.Ollama

   Ātrs padoms: pirms Ollama noņemšanas ieteicams atinstalēt jebkuru mākslīgā intelekta modeli no datora.

Kad esat pabeidzis šīs darbības, Ollama darbosies fonā, un pēc tam jūs varēsiet izmantot komandrindu ollama , lai mijiedarbotos ar to no komandrindas vai PowerShell.

Papildus Windows pakotņu pārvaldnieka (winget) izmantošanai šī rīka instalēšanai Ollama instalētāju vienmēr varat iegūt no tā oficiālās lapas vai šīs GitHub lapas. 

Instalējiet un palaidiet AI LLM ar Ollama operētājsistēmā Windows 11

Pirms instalēšanas uzsākšanas atveriet Ollama bibliotēkas lapu , lai izlemtu, kuru mākslīgā intelekta modeli vēlaties instalēt.

Lapā atradīsiet pieejamo modeļu sarakstu no DeepSeek , Google (gemma), Meta (llama) un citiem.

Jūs arī ievērosiet, ka katram modelim ir apzīmējumi, piemēram, 1b, 4b, 12b utt., kas norāda parametru skaitu miljardos. Lielāks parametru skaits norāda uz lielāku un potenciāli jaudīgāku modeli. Tomēr tiem būs nepieciešama arī jaudīgāka aparatūra.

Ja jūs tikai sākat, jums vajadzētu lejupielādēt mazāko pieejamo versiju (piemēram, “1b”).

Lai instalētu mākslīgā intelekta modeli, izmantojot Ollama operētājsistēmā Windows 11, veiciet tālāk norādītās darbības.

1. Atvērt Sākt .

2. Meklējiet komandu uzvedni (vai termināli ), ar peles labo pogu noklikšķiniet uz augšējā rezultāta un izvēlieties opciju Palaist kā administratoram .

3. (Pēc izvēles) Ievadiet šo komandu, lai pārbaudītu Ollama versiju, un nospiediet taustiņu Enter :

   ollama --versija

   

4. (Pēc izvēles) Ievadiet šo komandu, lai apstiprinātu, ka Ollama darbojas, un nospiediet taustiņu Enter :

   čokurošanās http://localhost:11434

5. (1. variants) Ievadiet šo komandu, lai instalētu un palaistu mākslīgā intelekta modeli lokāli savā datorā, un nospiediet taustiņu Enter :

   ollama pull gemma3:1b

   

   Ātra piezīme: Šī komanda lejupielādē Google Gemma 3. versiju, kurā ir iekļauts viens miljards parametru. Savā komandā atjauniniet gemma3:1b modeļa nosaukumu un versiju, kuru vēlaties instalēt, piemēram deepseek-r1:1.5b, .

6. (Pēc izvēles) Ievadiet šo komandu, lai skatītu instalētos modeļus, un nospiediet taustiņu Enter :

   ollama saraksts

7. (2. variants) Lai atinstalētu mākslīgā intelekta modeli no datora, ierakstiet šo komandu un nospiediet taustiņu Enter :

   ollama rm gemma3:1b

8. Ievadiet šo komandu, lai apstiprinātu, ka modelis vairs neatrodas jūsu datorā, un nospiediet taustiņu Enter :

   ollama saraksts

9. Ierakstiet šo komandu, lai palaistu mākslīgā intelekta modeli, kas instalēts, izmantojot Ollama, un nospiediet taustiņu Enter :

   ollama run gemma3:1b

   

   Komandā apstipriniet modeli, kuru vēlaties sākt lietot ar Ollama.

10. (Pēc izvēles) Ierakstiet šo komandu, lai parādītu visus Ollama darbojošos procesus, un nospiediet taustiņu Enter :

    ollama ps

11. (Pēc izvēles) Ierakstiet šo komandu, lai parādītu konkrēta modeļa informāciju, piemēram, konfigurāciju un parametrus, un nospiediet taustiņu Enter :

    ollama šovs gemma3:1b

    

    Komandā apstipriniet modeli, kuru vēlaties sākt lietot ar Ollama.

Pēc darbību veikšanas varat sākt lietot LLM, izmantojot komandrindas saskarni.

Komandu var izmantot arī ollama --help, lai skatītu citas pieejamās komandas, un ollama run --helpkomandu, lai uzskaitītu komandas, kas pieejamas konkrētam modelim.

Instalējiet un palaidiet AI LLM ar Ollama operētājsistēmā Windows 11 (GUI metode)

Lai instalētu AI modeli, izmantojot Ollama GUI lietojumprogrammu operētājsistēmā Windows 11, veiciet tālāk norādītās darbības.

1. Atveriet lietotni Ollama no izvēlnes Sākt, ja tā pēc instalēšanas netika palaista automātiski.

2. Noklikšķiniet uz mākslīgā intelekta modeļa izvēlnes un atlasiet lejupielādējamo modeli. Piemēram, opciju “GPT-OSS:20b” .

   

3. Sastādiet un iesniedziet jautājumu, lai sāktu OpenAI GPT modeļa lejupielādi.

   

Kad būsiet veicis šīs darbības, mākslīgā intelekta modelis tiks lejupielādēts jūsu datorā, izmantojot grafisko lietotāja saskarni.

Ja jums ir Ollama konts , varat pieteikties, lai izmantotu iebūvēto tīmekļa meklēšanu un apvienotu modeļa iespējas ar jaunāko tiešsaistē pieejamo informāciju.

Turbo opcija ir Ollama mākonī balstīts pakalpojums lielu mākslīgā intelekta modeļu darbināšanai, izmantojot datu centra līmeņa aparatūru. Tā ir izstrādāta, lai nodrošinātu augstu veiktspēju un ātrumu modeļiem, kas varētu būt pārāk lieli vai pārāk lēni , lai darbotos lokālā datorā. Mēneša abonementa cena ir 20 USD.

Ollama lietotnē nav iespējas iepriekš lejupielādēt pieejamos mākslīgā intelekta modeļus. Tomēr šo uzdevumu var veikt no komandrindas rīka, kā aprakstīts iepriekš.

Bieži uzdotie jautājumi par Ollama operētājsistēmā Windows 11

Ja jums joprojām ir jautājumi par Ollama, tālāk sniegtie bieži uzdotie jautājumi palīdzēs jums noskaidrot dažādus šī rīka aspektus. Jūs vienmēr varat publicēt savus jautājumus komentāros zemāk.

Vai Ollama darbināšanai ir nepieciešama īpaša mākslīgā intelekta aparatūra?

Nē, pamata mākslīgā intelekta modeļus, ko ieguvāt, izmantojot Ollama, var darbināt, izmantojot relatīvi modernu aparatūru, un jums nav tieši nepieciešama neironu procesora vienība (NPU). Ollama var darboties arī tieši procesorā, taču ļoti ieteicama ir grafikas karte.

Tomēr, lai palaistu dažādus mākslīgā intelekta modeļus atkarībā no to parametriem, jums būs nepieciešama īpaša aparatūra. Piemēram, jūs varat palaist gpt-oss-20b modeli ar parastu, spējīgu modernu aparatūru, bet, ja vēlaties izmantot gpt-oss-120b modeli, jums būs nepieciešama ļoti spējīga aparatūra, piemēram, NVIDIA GPU ar vismaz 80 GB VRAM, servera līmeņa procesors (piemēram, AMD EPYC vai Intel Xeon), vismaz 256 GB atmiņas un ātrdarbīgs NVMe SSD ar vismaz 500 GB brīvas vietas modeļu svariem un pagaidu failiem.

Kādas ir Ollama sistēmas prasības operētājsistēmai Windows 11?

Sistēmas prasības Ollama instalēšanai operētājsistēmā Windows 11 vai 10 ir mērenas:

• Procesors: Intel vai AMD x86-64.
• Atmiņa: 8 GB, bet ieteicams 16 GB un vairāk.
• Krātuve: 10 GB brīvas vietas.
• Grafika: integrēta vai speciāla GPU.

Lai gan prasības nav būtiskas, es iesaku modernu vairāku kodolu procesoru, vismaz 32 GB RAM, vairāk nekā 256 GB brīvas vietas SSD diskā (ieteicams NVMe) un grafikas karti, piemēram, Nvidia RTX 30xx sērijas. Tomēr vienmēr var izmantot līdzvērtīgu AMD Radeon GPU.

Tāpat uzlabotiem modeļiem ieteicams vismaz 4 GB VRAM.

Jo lielāks modelis, jo vairāk resursu būs nepieciešams, kas nozīmē, ka ierīcei būs nepieciešama izturīgāka aparatūra.

Vai Ollama izmanto virtualizāciju, lai darbotos operētājsistēmā Windows 11?

Nē, Ollama pati neveido virtuālo mašīnu. Tomēr tā izveido sistēmā izolētu vidi LLM darbināšanai. Šī vide ietver visus nepieciešamos komponentus, piemēram, modeļa svarus (iepriekš apmācītos datus) un konfigurācijas failus.

Ir svarīgi atzīmēt, ka Ollama vairs neprasa WSL2 . Tā darbojas dabiski jaunākajā Windows 11 vai 10 versijā.

Atjauninājums 2025. gada 21. augustā: Šī rokasgrāmata ir atjaunināta, lai nodrošinātu precizitāti un atspoguļotu izmaiņas procesā.