Az Ollama telepítése helyi AI-modellek futtatásához Windows 11 rendszeren

• Az Ollama telepítéséhez Windows 11 rendszerre nyissa meg a Parancssort rendszergazdaként, és futtassa a winget install --id Ollama.Ollamaparancsot.
• A telepítés után a ollama pull paranccsal töltsd le és futtasd helyben az olyan LLM-eket, mint a Gemma, az LLaMA és a DeepSeek.
• Alternatív megoldásként elindíthatja az Ollama alkalmazást a kívánt modellek telepítéséhez és futtatásához.
• Az Ollama a felhőtől függetlenül működik, és támogatja a modellek futtatását parancssori felületen vagy egyéni felületen keresztül.

FRISSÍTVE 2025.08.21.: Windows 11 rendszeren telepítheti az Ollama alkalmazást, hogy több MI-modellt töltsön le és futtasson helyileg a számítógépén, és ebben az útmutatóban felvázolom a konfiguráció befejezésének lépéseit.

Bár a Windows 11 számos beépített MI-modellel rendelkezik bizonyos hardverekhez, például a Copilot+ PC-khez, ezek jellemzően kicsi és specializált modellek. Ezért a nagynyelvi modellekhez (LLM) való MI-kapcsolat elsődleges módja az online chatbotok, például a Microsoft Copilot, az OpenAI ChatGPT és a Google Gemini .

Ezen LLM-ek használatának egyik hátránya, hogy minden kérést a felhőben dolgoznak fel, ami nem mindenkinek tetszik. Itt válik értékes eszközzé az Ollama.

Az Ollama egy nyílt forráskódú eszköz , amely lehetővé teszi nagy nyelvi modellek futtatását közvetlenül a helyi, Windows 11, 10 vagy más támogatott operációs rendszert futtató számítógépen parancssori élmény vagy grafikus felület használatával. Úgy tervezték, hogy egyszerűvé tegye ezen mesterséges intelligencia modellek letöltését, futtatását és kezelését az egyes felhasználók, fejlesztők és kutatók számára.

Ebben az útmutatóban felvázolom azokat a lépéseket, amelyekkel beállíthatod az egyik legegyszerűbb eszközt az LLM-ek helyi futtatásához a számítógépeden.

• Telepítse az Ollama alkalmazást Windows 11 rendszerre AI-modellek helyi futtatásához
• AI LLMs telepítése és futtatása Ollama segítségével Windows 11 rendszeren (CLI módszer)
• AI LLMs telepítése és futtatása Ollama segítségével Windows 11 rendszeren (grafikus felhasználói felülettel)

Telepítse az Ollama alkalmazást Windows 11 rendszerre AI-modellek helyi futtatásához

Az Ollama helyi telepítéséhez Windows 11 rendszeren kövesse az alábbi lépéseket:

1. Nyissa meg a Start menüt a Windows 11 rendszeren.

    

    

2. Keresse meg a Parancssor (vagy Terminál ) kifejezést, kattintson a jobb gombbal a legfelső találatra, és válassza a Futtatás rendszergazdaként lehetőséget.

3. (1. lehetőség) Írja be ezt a parancsot a hivatalos Ollama eszköz telepítéséhez, majd nyomja meg az Enter billentyűt :

   winget install --id Ollama.Ollama

   

4. Kattintson a Befejezés gombra.

5. (2. lehetőség) Írja be ezt a parancsot az Ollama eltávolításához a Windows 11 rendszerből, és nyomja meg az Enter billentyűt :

   winget uninstall -- id Ollama.Ollama

   Gyors tipp: Javasoljuk, hogy az Ollama eltávolítása előtt távolítsa el a mesterséges intelligencia modelljét a számítógépről.

Miután elvégezte a lépéseket, az Ollama a háttérben fog futni, majd ollama a parancssorból vagy a PowerShellből is használhatja a parancssort.

A Windows Csomagkezelő (winget) használata mellett a telepítéshez az Ollama telepítőjét mindig letöltheti a hivatalos oldaláról vagy erről a GitHub oldalról. 

Telepítse és futtassa az AI LLMs-t az Ollama segítségével Windows 11 rendszeren

Mielőtt belevágnál a telepítésbe, nyisd meg az Ollama könyvtár oldalát, és válaszd ki, melyik MI-modellt szeretnéd telepíteni.

Az oldalon megtalálod a DeepSeek , a Google (gemma), a Meta (llama) és mások elérhető modelljeinek listáját.

Azt is észreveheted, hogy minden modellhez olyan jelölések tartoznak, mint az 1b, 4b, 12b stb., amelyek a paraméterek számát jelzik milliárdokban. A nagyobb paraméterszám nagyobb és potenciálisan hatékonyabb modellt jelöl. Ezekhez azonban hatékonyabb hardverre is szükség lesz.

Ha most kezded, akkor a legkisebb elérhető verziót (például az „1b”) kell letöltened.

Ha Windows 11 rendszeren Ollama használatával szeretne MI-modellt telepíteni, kövesse az alábbi lépéseket:

1. Nyissa meg a Start menüt .

2. Keresse meg a Parancssor (vagy Terminál ) kifejezést, kattintson a jobb gombbal a legfelső találatra, és válassza a Futtatás rendszergazdaként lehetőséget.

3. (Választható) Írja be ezt a parancsot az Ollama verziójának ellenőrzéséhez, majd nyomja meg az Enter billentyűt :

   ollama --verzió

   

4. (Választható) Írja be ezt a parancsot az Ollama futása megerősítéséhez, majd nyomja meg az Enter billentyűt :

   curl http://localhost:11434

5. (1. lehetőség) Írja be ezt a parancsot a mesterséges intelligencia modell telepítéséhez és helyi futtatásához a számítógépén, majd nyomja meg az Enter billentyűt :

   ollama pull gemma3:1b

   

   Gyors megjegyzés: Ez a parancs letölti a Google Gemma 3-as verzióját, amely egymilliárd paramétert tartalmaz. A parancsban frissítse gemma3:1b a telepíteni kívánt modell nevét és verzióját, például deepseek-r1:1.5b.

6. (Választható) Írja be ezt a parancsot a telepített modellek megtekintéséhez, majd nyomja meg az Enter billentyűt :

   ollama lista

7. (2. lehetőség) Írja be ezt a parancsot egy AI-modell eltávolításához a számítógépéről, majd nyomja meg az Enter billentyűt :

   ollama rm gemma3:1b

8. Írja be ezt a parancsot annak megerősítéséhez, hogy a modell már nincs a számítógépén, majd nyomja meg az Enter billentyűt :

   ollama lista

9. Írja be ezt a parancsot az Ollama segítségével telepített AI-modell futtatásához, majd nyomja meg az Enter billentyűt :

   ollama run gemma3:1b

   

   A parancsban erősítse meg azt a modellt, amelyet használni szeretne az Ollama-val.

10. (Választható) Írja be ezt a parancsot az Ollama összes futó folyamatának megjelenítéséhez, majd nyomja meg az Enter billentyűt :

    ollama ps

11. (Választható) Írja be ezt a parancsot egy adott modell részleteinek, például a konfigurációnak és a paramétereknek a megjelenítéséhez, majd nyomja meg az Enter billentyűt :

    ollama show gemma3:1b

    

    A parancsban erősítse meg azt a modellt, amelyet használni szeretne az Ollama-val.

A lépések elvégzése után elkezdheti használni az LLM-et a parancssori felületen keresztül.

A ollama --helpparancs segítségével megtekintheti a többi elérhető parancsot, a ollama run --helpparancs pedig egy adott modellhez elérhető parancsok listázását teszi lehetővé.

AI LLMs telepítése és futtatása Ollama segítségével Windows 11 rendszeren (grafikus felhasználói felülettel)

Ha AI-modellt szeretne telepíteni az Ollama GUI alkalmazással Windows 11 rendszeren, kövesse az alábbi lépéseket:

1. Nyisd meg az Ollama alkalmazást a Start menüből, ha az nem indult el automatikusan a telepítés után.

2. Kattintson a mesterséges intelligencia modell menüjére, és válassza ki a letölteni kívánt modellt. Például a „GPT-OSS:20b” lehetőséget.

   

3. Írj és küldj be egy kérdést az OpenAI GPT modell letöltésének megkezdéséhez.

   

Miután elvégezte a lépéseket, az AI-modell letöltődik a számítógépére a grafikus felhasználói felületen keresztül.

Ha van Ollama fiókod , bejelentkezhetsz a beépített webes kereséshez, hogy a modell képességeit a legfrissebb online információkkal kombináld.

A Turbo opció az Ollama felhőalapú szolgáltatása, amely nagyméretű MI-modelleket futtat adatközpont-szintű hardverek használatával. Úgy tervezték, hogy nagy teljesítményt és sebességet biztosítson azoknak a modelleknek, amelyek túl nagyok vagy túl lassúak lehetnek ahhoz, hogy egy helyi számítógépen futtassanak. A havi előfizetés ára 20 dollár.

Az Ollama alkalmazás nem kínál lehetőséget az elérhető MI-modellek előzetes letöltésére. Ezt a feladatot azonban a fent leírtak szerint elvégezheti a parancssori eszközből.

Gyakran ismételt kérdések az Ollama alkalmazással kapcsolatban Windows 11 rendszeren

Ha további kérdései vannak az Ollama eszközzel kapcsolatban, az alábbi GYIK segít tisztázni az eszköz különböző aspektusait. Kérdéseit bármikor felteheti az alábbi megjegyzésekben.

Szükséged van speciális AI hardverre az Ollama futtatásához?

Nem, az Ollama segítségével megszerzett alapvető MI-modelleket viszonylag modern hardverrel is futtathatod, és nincs igazán szükséged neurális feldolgozó egységre (NPU). Az Ollama közvetlenül a processzorban is futtatható, de egy grafikus kártya erősen ajánlott.

A különböző MI-modellek futtatásához azonban speciális hardverekre lesz szükséged, azok paramétereitől függően. Például a gpt-oss-20b modellt futtathatod normál, modern hardverrel, de ha a gpt-oss-120b modellt szeretnéd használni , akkor nagyon hatékony hardverre lesz szükséged, például egy NVIDIA GPU-ra legalább 80 GB VRAM-mal, szerver szintű processzorra (például AMD EPYC vagy Intel Xeon), legalább 256 GB memóriára, valamint egy nagy sebességű NVMe SSD-re legalább 500 GB szabad tárhellyel a modell súlyainak és az ideiglenes fájloknak.

Mik az Ollama rendszerkövetelményei Windows 11-hez?

Az Ollama Windows 11 vagy 10 rendszerre történő telepítésének rendszerkövetelményei mérsékeltek:

• Processzor: Intel vagy AMD x86-64.
• Memória: 8 GB, de 16 GB vagy több ajánlott.
• Tárhely: 10 GB szabad tárhely.
• Grafika: Integrált vagy dedikált GPU.

Bár a követelmények nem jelentősek, egy modern, többmagos processzort, legalább 32 GB RAM-ot, több mint 256 GB szabad tárhelyet SSD-n (NVMe előnyben részesítve), és egy grafikus kártyát, például az Nvidia RTX 30xx sorozatát ajánlom. Azonban mindig használhatsz egyenértékű AMD Radeon GPU-t is.

Fejlettebb modellekhez legalább 4 GB VRAM ajánlott.

Minél nagyobb a modell, annál több erőforrásra lesz szükség, ami azt jelenti, hogy a gépnek robusztusabb hardverre lesz szüksége.

Az Ollama virtualizációt használ a Windows 11 rendszeren való futtatáshoz?

Nem, az Ollama nem hoz létre virtuális gépet. Azonban létrehoz egy elszigetelt környezetet a rendszeren az LLM-ek futtatásához. Ez a környezet tartalmazza az összes szükséges komponenst, például a modell súlyait (az előre betanított adatokat) és a konfigurációs fájlokat.

Fontos megjegyezni, hogy az Ollama már nem igényli a WSL2-t . Natívan fut a Windows 11 vagy 10 legújabb verzióján.

Frissítés 2025. augusztus 21-én: Ez az útmutató frissült a pontosság biztosítása és a folyamatban bekövetkezett változások tükrözése érdekében.