Kako instalirati Ollamu za pokretanje lokalnih AI modela na Windowsima 11

• Za instalaciju Ollame na Windows 11, otvorite naredbeni redak kao administrator i pokrenite winget install --id Ollama.Ollamanaredbu.
• Nakon instalacije, upotrijebite ollama pull naredbu za lokalno preuzimanje i pokretanje LLM-ova poput Gemme, LLaMA i DeepSeek.
• Alternativno, možete pokrenuti aplikaciju Ollama za instalaciju i pokretanje željenih modela.
• Ollama radi neovisno o oblaku i podržava pokretanje modela putem sučelja naredbenog retka ili prilagođenog sučelja.

AŽURIRANO 21.8.2025.: Na Windowsima 11 možete instalirati Ollamu za preuzimanje i pokretanje više AI modela lokalno na računalu, a u ovom ću vodiču opisati korake za dovršetak ove konfiguracije.

Iako Windows 11 dolazi s mnogim ugrađenim AI modelima za specifični hardver, poput Copilot+ računala, to su obično mali i specijalizirani modeli. Stoga je primarni način povezivanja s AI modelima velikih jezičnih jezika (LLM) putem online chatbotova, kao što su Microsoft Copilot, OpenAI ChatGPT i Google Gemini , između ostalih.

Nedostatak korištenja ovih LLM-ova je taj što oni obrađuju sve zahtjeve u oblaku, što nije nešto što svatko želi. Tu Ollama postaje vrijedan alat.

Ollama je alat otvorenog koda koji vam omogućuje pokretanje velikih jezičnih modela izravno na vašem lokalnom računalu sa sustavom Windows 11, 10 ili drugim podržanim operativnim sustavima pomoću naredbenog retka ili grafičkog sučelja. Osmišljen je kako bi proces preuzimanja, pokretanja i upravljanja tim AI modelima bio jednostavan za pojedinačne korisnike, razvojne programere i istraživače.

U ovom ću vodiču opisati korake za postavljanje jednog od najjednostavnijih alata za lokalno pokretanje LLM-ova na vašem računalu.

• Instalirajte Ollamu na Windows 11 za lokalno pokretanje AI modela
• Instalirajte i pokrenite AI LLM-ove s Ollamom na Windowsima 11 (CLI metoda)
• Instalirajte i pokrenite AI LLM-ove s Ollamom na Windowsima 11 (GUI metoda)

Instalirajte Ollamu na Windows 11 za lokalno pokretanje AI modela

Za lokalnu instalaciju Ollame na Windows 11, slijedite ove korake:

1. Otvorite Start u sustavu Windows 11.

    

    

2. Potražite Naredbeni redak (ili Terminal ), desnom tipkom miša kliknite gornji rezultat i odaberite opciju Pokreni kao administrator .

3. (Opcija 1) Upišite ovu naredbu za instalaciju službenog alata Ollama i pritisnite Enter :

   winget install --id Ollama.Ollama

   

4. Kliknite gumb Završi .

5. (Opcija 2) Upišite ovu naredbu za deinstalaciju Ollame iz sustava Windows 11 i pritisnite Enter :

   winget uninstall--id Ollama.Ollama

   Brzi savjet: Preporučuje se deinstalacija bilo kojeg AI modela s računala prije uklanjanja Ollame.

Nakon što dovršite korake, Ollama će se pokrenuti u pozadini, a zatim možete koristiti ollama naredbeni redak za interakciju s njim iz naredbenog retka ili PowerShella.

Osim korištenja Windows Package Managera (winget) za instalaciju ovog alata, uvijek možete dobiti Ollama instalacijski program s njegove službene stranice ili ove GitHub stranice. 

Instalirajte i pokrenite AI LLM-ove s Ollamom na Windowsima 11

Prije nego što krenete u instalaciju, otvorite stranicu Ollama biblioteke kako biste odlučili koji AI model želite instalirati.

Na stranici ćete pronaći popis dostupnih modela tvrtki DeepSeek , Google (gemma), Meta (llama) i drugih.

Također ćete primijetiti da svaki model ima oznake poput 1b, 4b, 12b itd., koje označavaju broj parametara u milijardama. Veći broj parametara označava veći i potencijalno sposobniji model. Međutim, također će zahtijevati sposobniji hardver.

Ako tek počinjete, trebali biste preuzeti najmanju dostupnu verziju (na primjer, "1b").

Za instalaciju AI modela pomoću Ollame na Windows 11, slijedite ove korake:

1. Otvorite Start .

2. Potražite Naredbeni redak (ili Terminal ), desnom tipkom miša kliknite gornji rezultat i odaberite opciju Pokreni kao administrator .

3. (Neobavezno) Upišite ovu naredbu za provjeru verzije Ollame i pritisnite Enter :

   ollama --verzija

   

4. (Neobavezno) Upišite ovu naredbu kako biste potvrdili da Ollama radi i pritisnite Enter :

   curl http://localhost:11434

5. (Opcija 1) Upišite ovu naredbu za lokalnu instalaciju i pokretanje AI modela na računalu i pritisnite Enter :

   ollama pull gemma3:1b

   

   Kratka napomena: Ova naredba preuzima Google Gemma verziju 3, koja uključuje milijardu parametara. U svojoj naredbi ažurirajte gemma3:1b naziv modela i verziju koju želite instalirati, kao što je deepseek-r1:1.5b.

6. (Neobavezno) Upišite ovu naredbu za pregled instaliranih modela i pritisnite Enter :

   popis ollama

7. (Opcija 2) Upišite ovu naredbu za deinstalaciju AI modela s računala i pritisnite Enter :

   ollama rm gemma3:1b

8. Upišite ovu naredbu kako biste potvrdili da model više nije na vašem računalu i pritisnite Enter :

   popis ollama

9. Upišite ovu naredbu za pokretanje AI modela instaliranog pomoću Ollame i pritisnite Enter :

   ollama run gemma3:1b

   

   U naredbi potvrdite model koji želite početi koristiti s Ollamom.

10. (Neobavezno) Upišite ovu naredbu za prikaz svih pokrenutih procesa Ollame i pritisnite Enter :

    ollama ps

11. (Neobavezno) Upišite ovu naredbu za prikaz detalja određenog modela, kao što su konfiguracija i parametri, a zatim pritisnite Enter :

    ollama show gemma3:1b

    

    U naredbi potvrdite model koji želite početi koristiti s Ollamom.

Nakon što dovršite korake, možete početi koristiti LLM putem sučelja naredbenog retka.

Također možete koristiti ollama --helpnaredbu za pregled drugih dostupnih naredbi i ollama run --helpnaredbu za popis naredbi dostupnih za određeni model.

Instalirajte i pokrenite AI LLM-ove s Ollamom na Windowsima 11 (GUI metoda)

Za instalaciju AI modela pomoću Ollama GUI aplikacije na Windows 11, slijedite ove korake:

1. Otvorite aplikaciju Ollama iz izbornika Start ako se nije automatski pokrenula nakon instalacije.

2. Kliknite izbornik AI modela i odaberite model za preuzimanje. Na primjer, opciju „GPT-OSS:20b“ .

   

3. Sastavite i pošaljite pitanje kako biste započeli preuzimanje OpenAI GPT modela.

   

Nakon što dovršite korake, AI model će se preuzeti na vaše računalo putem grafičkog korisničkog sučelja.

Ako imate Ollama račun , možete se prijaviti kako biste koristili ugrađenu web-pretragu i kombinirali mogućnosti modela s najnovijim informacijama dostupnim na mreži.

Turbo opcija je usluga tvrtke Ollama u oblaku za pokretanje velikih AI modela pomoću hardvera podatkovnog centra. Dizajnirana je za pružanje visokih performansi i brzine za modele koji bi mogli biti preveliki ili prespori za pokretanje na lokalnom računalu. Mjesečna pretplata iznosi 20 USD.

Aplikacija Ollama ne nudi mogućnost prethodnog preuzimanja dostupnih AI modela. Međutim, taj zadatak možete dovršiti pomoću alata naredbenog retka kao što je gore opisano.

Često postavljana pitanja o Ollami u sustavu Windows 11

Ako i dalje imate pitanja o Ollami, sljedeća često postavljana pitanja pomoći će vam da razjasnite različite aspekte ovog alata. Svoja pitanja uvijek možete objaviti u komentarima ispod.

Trebate li poseban AI hardver za pokretanje Ollame?

Ne, osnovne AI modele koje ste stekli pomoću Ollame možete pokrenuti koristeći relativno moderni hardver i ne trebate baš neuronsku procesorsku jedinicu (NPU). Ollama se također može pokrenuti izravno u procesoru, ali se toplo preporučuje grafička kartica.

Međutim, trebat će vam specifičan hardver za pokretanje različitih AI modela ovisno o njihovim parametrima. Na primjer, model gpt-oss-20b možete pokrenuti s normalno sposobnim modernim hardverom, ali ako želite koristiti model gpt-oss-120b , trebat će vam vrlo sposoban hardver, kao što je NVIDIA GPU s najmanje 80 GB VRAM-a, procesor poslužiteljske klase (na primjer, AMD EPYC ili Intel Xeon), najmanje 256 GB memorije i brzi NVMe SSD s najmanje 500 GB slobodnog prostora za težine modela i privremene datoteke.

Koji su Ollama sistemski zahtjevi za Windows 11?

Sistemski zahtjevi za instalaciju Ollame na Windows 11 ili 10 su umjereni:

• Procesor: Intel ili AMD x86-64.
• Memorija: 8 GB, ali preporučuje se 16 GB i više.
• Pohrana: 10 GB slobodnog prostora.
• Grafika: Integrirana ili namjenska grafička kartica.

Iako zahtjevi nisu značajni, preporučujem moderni višejezgreni procesor, barem 32 GB RAM-a, više od 256 GB slobodnog prostora na SSD-u (poželjno NVMe) i grafičku karticu poput Nvidijine RTX 30xx serije. Međutim, uvijek možete koristiti ekvivalentnu AMD Radeon GPU.

Također, za napredne modele preporučuje se minimalno 4 GB VRAM-a.

Što je model veći, to će biti potrebno više resursa, što znači da će stroju trebati robusniji hardver.

Koristi li Ollama virtualizaciju za rad na Windowsima 11?

Ne, Ollama ne stvara virtualni stroj sam po sebi. Međutim, stvara izolirano okruženje na sustavu za pokretanje LLM-ova. Ovo okruženje uključuje sve potrebne komponente, kao što su težine modela (prethodno obučeni podaci) i konfiguracijske datoteke.

Važno je napomenuti da Ollama više ne zahtijeva WSL2 . Izvorno radi na najnovijoj verziji sustava Windows 11 ili 10.

Ažuriranje 21. kolovoza 2025.: Ovaj je vodič ažuriran kako bi se osigurala točnost i odrazile promjene u postupku.