Ollaman asentaminen paikallisten tekoälymallien suorittamiseksi Windows 11:ssä

• Asentaaksesi Ollaman Windows 11:een, avaa komentokehote järjestelmänvalvojana ja suorita winget install --id Ollama.Ollamakomento.
• Kun se on asennettu, käytä ollama pull komentoa ladataksesi ja suorittaaksesi paikallisesti LLM-ohjelmia, kuten Gemman, LLaMA:n ja DeepSeekin.
• Vaihtoehtoisesti voit käynnistää Ollama-sovelluksen asentaaksesi ja käyttääksesi haluamiasi malleja.
• Ollama toimii pilvestä riippumatta ja tukee mallien suorittamista komentorivikäyttöliittymän tai mukautetun käyttöliittymän kautta.

PÄIVITETTY 21.8.2025: Windows 11: ssä voit asentaa Ollaman ladataksesi ja suorittaaksesi useita tekoälymalleja paikallisesti tietokoneellasi. Tässä oppaassa esittelen vaiheet tämän määrityksen suorittamiseksi.

Vaikka Windows 11:ssä on useita sisäänrakennettuja tekoälymalleja tietyille laitteistoille, kuten Copilot+-tietokoneille, nämä ovat tyypillisesti pieniä ja erikoistuneita malleja. Siksi ensisijainen tapa olla yhteydessä tekoälyn laajoihin kielimalleihin (LLM) on verkkopohjaisten chatbottien, kuten Microsoft Copilotin, OpenAI ChatGPT:n ja Google Gemini :n , kautta.

Näiden oikeustieteen maisteriohjelmien (LLM) käytön haittapuolena on, että ne käsittelevät kaikki pyynnöt pilvessä, mikä ei ole kaikkien mieleen. Tässä kohtaa Ollamasta tulee arvokas työkalu.

Ollama on avoimen lähdekoodin työkalu , jonka avulla voit suorittaa laajoja kielimalleja suoraan paikallisella tietokoneellasi, jossa on Windows 11, 10 tai muu tuettu käyttöjärjestelmä, komentoriviltä tai graafisen käyttöliittymän kautta. Se on suunniteltu tekemään näiden tekoälymallien lataamisesta, suorittamisesta ja hallinnasta yksinkertaista yksittäisille käyttäjille, kehittäjille ja tutkijoille.

Tässä oppaassa esittelen vaiheet, joilla voit määrittää yhden helpoimmista työkaluista LLM-ohjelmien suorittamiseen paikallisesti tietokoneellasi.

• Asenna Ollama Windows 11:een tekoälymallien suorittamiseksi paikallisesti
• Asenna ja suorita tekoälyllä toteutettuja LLM-ohjelmia Ollaman avulla Windows 11:ssä (CLI-menetelmä)
• Asenna ja suorita tekoälyyn perustuvia LLM-ohjelmia Ollaman avulla Windows 11:ssä (käyttöliittymämenetelmä)

Asenna Ollama Windows 11:een tekoälymallien suorittamiseksi paikallisesti

Asentaaksesi Ollaman paikallisesti Windows 11:ssä, toimi seuraavasti:

1. Avaa Käynnistä Windows 11:ssä.

    

    

2. Etsi komentokehote (tai Pääte ), napsauta hiiren kakkospainikkeella ylintä tulosta ja valitse Suorita järjestelmänvalvojana -vaihtoehto.

3. (Vaihtoehto 1) Kirjoita tämä komento asentaaksesi virallisen Ollama-työkalun ja paina Enter-näppäintä :

   winget install --id Ollama.Ollama

   

4. Napsauta Valmis- painiketta.

5. (Vaihtoehto 2) Kirjoita tämä komento poistaaksesi Ollama Windows 11:stä ja paina Enter :

   winget uninstall - id Ollama.Ollama

   Pikavinkki: On suositeltavaa poistaa kaikki tekoälymallit tietokoneelta ennen Ollaman poistamista.

Kun olet suorittanut vaiheet, Ollama toimii taustalla, ja voit sitten käyttää komentoriviä ollama vuorovaikutukseen sen kanssa komentokehotteesta tai PowerShellistä.

Windowsin pakettienhallinnan (winget) käyttämisen lisäksi tämän työkalun asentamiseen voit aina ladata Ollama-asennusohjelman sen viralliselta sivulta tai tältä GitHub- sivulta. 

Asenna ja suorita tekoälyyn perustuvia LLM-ohjelmia Ollaman avulla Windows 11:ssä

Ennen asennuksen aloittamista avaa Ollama -kirjastosivu ja päätä, minkä tekoälymallin haluat asentaa.

Sivulta löydät luettelon saatavilla olevista malleista DeepSeekiltä , ​​Googlelta (gemma), Metalta (llama) ja muilta.

Huomaat myös, että jokaisella mallilla on merkinnät, kuten 1b, 4b, 12b jne., jotka osoittavat parametrien määrän miljardeina. Suurempi parametrien määrä osoittaa suurempaa ja mahdollisesti tehokkaampaa mallia. Ne kuitenkin vaativat myös tehokkaampaa laitteistoa.

Jos olet vasta aloittamassa, sinun kannattaa ladata pienin saatavilla oleva versio (esimerkiksi ”1b”).

Asentaaksesi tekoälymallin Ollaman avulla Windows 11:ssä, toimi seuraavasti:

1. Avaa Käynnistä .

2. Etsi komentokehote (tai Pääte ), napsauta hiiren kakkospainikkeella ylintä tulosta ja valitse Suorita järjestelmänvalvojana -vaihtoehto.

3. (Valinnainen) Kirjoita tämä komento tarkistaaksesi Ollama-version ja paina Enter-näppäintä :

   ollama --versio

   

4. (Valinnainen) Vahvista Ollaman toiminnalla kirjoittamalla tämä komento ja painamalla Enter-näppäintä :

   curl http://localhost:11434

5. (Vaihtoehto 1) Kirjoita tämä komento asentaaksesi tekoälymallin ja suorittaaksesi sen paikallisesti tietokoneellasi ja paina Enter-näppäintä :

   ollama pull gemma3:1b

   

   Pikahuomautus: Tämä komento lataa Google Gemman version 3, joka sisältää miljardi parametria. Päivitä komennossa gemma3:1b asennettavan mallin nimi ja versio, kuten deepseek-r1:1.5b.

6. (Valinnainen) Kirjoita tämä komento nähdäksesi asennetut mallit ja paina Enter-näppäintä :

   ollama-lista

7. (Vaihtoehto 2) Kirjoita tämä komento poistaaksesi tekoälymallin tietokoneeltasi ja paina Enter-näppäintä :

   ollama rm gemma3:1b

8. Kirjoita tämä komento vahvistaaksesi, että mallia ei enää ole tietokoneellasi, ja paina Enter-näppäintä :

   ollama-lista

9. Kirjoita tämä komento suorittaaksesi Ollamalla asennetun tekoälymallin ja paina Enter-näppäintä :

   ollama run gemma3:1b

   

   Vahvista komennossa malli, jota haluat alkaa käyttää Ollaman kanssa.

10. (Valinnainen) Kirjoita tämä komento näyttääksesi kaikki Ollaman käynnissä olevat prosessit ja paina Enter-näppäintä :

    ollama ps

11. (Valinnainen) Kirjoita tämä komento näyttääksesi tietyn mallin tiedot, kuten kokoonpanon ja parametrit, ja paina Enter-näppäintä :

    ollama show gemma3:1b

    

    Vahvista komennossa malli, jota haluat alkaa käyttää Ollaman kanssa.

Kun olet suorittanut vaiheet, voit aloittaa LLM:n käytön komentorivikäyttöliittymän kautta.

Voit myös käyttää ollama --helpkomentoa tarkastellaksesi muita käytettävissä olevia komentoja ja ollama run --helpkomentoa luetteloidaksesi tietylle mallille käytettävissä olevat komennot.

Asenna ja suorita tekoälyyn perustuvia LLM-ohjelmia Ollaman avulla Windows 11:ssä (käyttöliittymämenetelmä)

Asentaaksesi tekoälymallin Ollama GUI -sovelluksella Windows 11:ssä, toimi seuraavasti:

1. Avaa Ollama- sovellus Käynnistä-valikosta, jos se ei käynnistynyt automaattisesti asennuksen jälkeen.

2. Napsauta tekoälymallin valikkoa ja valitse ladattava malli. Esimerkiksi ”GPT-OSS:20b” -vaihtoehto.

   

3. Kirjoita ja lähetä kysymys aloittaaksesi OpenAI GPT -mallin latauksen.

   

Kun olet suorittanut vaiheet, tekoälymalli latautuu tietokoneellesi graafisen käyttöliittymän kautta.

Jos sinulla on Ollama-tili , voit kirjautua sisään käyttääksesi sisäänrakennettua verkkohakua yhdistääksesi mallin ominaisuudet uusimpiin verkossa saatavilla oleviin tietoihin.

Turbo - vaihtoehto on Ollaman pilvipohjainen palvelu, jolla voidaan ajaa suuria tekoälymalleja datakeskustason laitteistolla. Se on suunniteltu tarjoamaan korkeaa suorituskykyä ja nopeutta malleille, jotka saattavat olla liian suuria tai liian hitaita ajettaviksi paikallisella tietokoneella. Kuukausitilauksen hinta on 20 dollaria.

Ollama-sovellus ei tarjoa vaihtoehtoa saatavilla olevien tekoälymallien esilataukseen. Voit kuitenkin suorittaa tämän tehtävän komentorivityökalulla yllä kuvatulla tavalla.

Usein kysytyt kysymykset Ollamasta Windows 11:ssä

Jos sinulla on vielä kysyttävää Ollamasta, seuraavat usein kysytyt kysymykset auttavat sinua selventämään työkalun eri puolia. Voit aina lähettää kysymyksesi alla oleviin kommentteihin.

Tarvitsetko Ollaman käyttämiseen erityistä tekoälylaitteistoa?

Ei, voit ajaa Ollamalla hankkimiasi tekoälymalleja suhteellisen modernilla laitteistolla, etkä varsinaisesti tarvitse erillistä neuroprosessoria (NPU). Ollama voi toimia myös suoraan prosessorissa, mutta näytönohjaimen käyttö on erittäin suositeltavaa.

Tarvitset kuitenkin tietynlaista laitteistoa eri tekoälymallien suorittamiseen niiden parametrien mukaan. Voit esimerkiksi suorittaa gpt-oss-20b -mallin normaalilla, tehokkaalla laitteistolla, mutta jos haluat käyttää gpt-oss-120b -mallia, tarvitset erittäin tehokkaan laitteiston, kuten NVIDIA-näytönohjaimen, jossa on vähintään 80 Gt VRAM-muistia, palvelintason prosessorin (esimerkiksi AMD EPYC tai Intel Xeon), vähintään 256 Gt muistia ja nopean NVMe SSD -levyn, jossa on vähintään 500 Gt vapaata tilaa mallien painoille ja väliaikaisille tiedostoille.

Mitkä ovat Ollaman järjestelmävaatimukset Windows 11:lle?

Ollaman asentamisen järjestelmävaatimukset Windows 11:ssä tai 10:ssä ovat kohtuulliset:

• Prosessori: Intel tai AMD x86-64.
• Muisti: 8 Gt, mutta suositellaan vähintään 16 Gt.
• Tallennustila: 10 Gt vapaata tilaa.
• Näytönohjain: Integroitu tai erillinen näytönohjain.

Vaikka vaatimukset eivät ole merkittäviä, suosittelen modernia moniydinprosessoria, vähintään 32 Gt RAM-muistia, yli 256 Gt vapaata tilaa SSD-levyllä (suositellaan NVMe-levyä) ja näytönohjainta, kuten Nvidian RTX 30xx -sarjaa. Voit kuitenkin aina käyttää vastaavaa AMD Radeon -näytönohjainta.

Edistyneemmille malleille suositellaan myös vähintään 4 Gt:n VRAM-muistia.

Mitä suurempi malli, sitä enemmän resursseja tarvitaan, mikä tarkoittaa, että kone tarvitsee vankemman laitteiston.

Käyttääkö Ollama virtualisointia toimiakseen Windows 11:ssä?

Ei, Ollama ei luo itse virtuaalikonetta. Se luo kuitenkin järjestelmään erillisen ympäristön LLM-mallien suorittamiseksi. Tämä ympäristö sisältää kaikki tarvittavat komponentit, kuten mallin painot (esikoulutetut tiedot) ja konfiguraatiotiedostot.

On tärkeää huomata, että Ollama ei enää vaadi WSL2:ta . Se toimii natiivisti Windows 11:n tai 10:n uusimmassa versiossa.

Päivitys 21. elokuuta 2025: Tätä opasta on päivitetty tarkkuuden varmistamiseksi ja prosessin muutosten huomioon ottamiseksi.