Як встановити модель штучного інтелекту OpenAI GPT-OSS на Windows 11

• Щоб встановити модель GPT-OSS AI у Windows 11, спочатку відкрийте командний рядок (адміністратор) і виконайте команду winget install --id Ollama.Ollama.
• По-друге, вам потрібно вибрати опцію gpt-oss:20bзі списку та надіслати запитання, щоб розпочати завантаження.
• Або ж ви можете скористатися інструментом командного рядка Ollama з командним рядком (адміністратор) і використати команду ollama pull gpt-oss:20b для завантаження та встановлення (наприклад) GPT-OSS локально на вашому комп’ютері.

У Windows 11 ви можете встановити та запустити найновішу модель штучного інтелекту GPT-OSS (програмне забезпечення з відкритим вихідним кодом) від OpenAI локально на своєму комп’ютері, і в цьому посібнику я опишу кроки для завершення цієї конфігурації.

GPT-OSS — це текстова модель із сімейства моделей великих мов програмування OpenAI з відкритою вагою. Наразі існує дві версії, зокрема gpt-oss-20b (з приблизно 21 млрд параметрів) та gpt-oss-120b (з приблизно 117 млрд параметрів), і вони були випущені під ліцензією Apache 2.0, що дозволяє будь-кому вільно завантажувати, запускати, змінювати та поширювати їх.

• gpt-oss-20b: Достатньо компактний для роботи на звичайному обладнанні з мінімум 16 ГБ пам'яті (наприклад, ноутбуки, потужні телефони) та чудово справляється з локальними завданнями з низькою затримкою.
• gpt-oss-120b: Це більша модель, розроблена для потужних завдань мислення, вона працює на високопродуктивних системах, таких як один 80-гігабайтний графічний процесор, і пропонує продуктивність, близьку до O4-mini.

Ці моделі підтримують міркування за ланцюжком думок, використання інструментів, довгі контекстні вікна та пропонують налаштовувані рівні міркувань, такі як низький, середній та високий, для гнучкості.

Що я можу робити з GPT-OSS як звичайний користувач?

Якщо ви технічно підкований користувач, розробник або ентузіаст, нові моделі OpenAI дозволяють вам запускати чат-бота локально на вашому комп’ютері без підписки та з повним контролем над вашими даними.

Якщо ви готові до цього завдання, ви можете експериментувати, налаштовувати та точно налаштовувати модель, оскільки вона має ліцензію Apache 2.0.

Зазвичай GPT-OSS використовується для допомоги з кодуванням, вирішення складних проблем, розмов та агентських робочих процесів . Крім того, ви можете використовувати його офлайн без підключення до Інтернету. 

Хто є цільовою аудиторією для OpenAI GPT-OSS?

Ці моделі штучного інтелекту адаптовані для розробників, дослідників, науковців та технічно підкованих людей.

Якщо ви хочете запускати ці моделі штучного інтелекту локально (незалежно від хмари) на своєму комп'ютері, найпростіший спосіб — використовувати Ollama , інструмент з відкритим кодом , який дозволяє запускати великі мовні моделі безпосередньо на вашому локальному комп'ютері під керуванням Windows 11, 10 або іншої платформи.

Хоча найкраще встановлювати та запускати моделі штучного інтелекту на пристроях з нейронним процесором (NPU) , таких як ПК Copilot+ з процесором Snapdragon, ви можете запускати ці моделі практично на будь-якому обладнанні. Ollama також співпрацює з Nvidia для прискорення GPT-OSS на графічних процесорах GeForce RTX та RTX Pro . 

Моє єдине застереження полягає в тому, що без нейронного процесора або відповідного графічного процесора, чат-бот зі штучним інтелектом може дуже довго відповідати на просте запитання.

У цьому посібнику я опишу кроки для налаштування моделей Gemma AI у Windows 11.

• Встановлення GPT-OSS на Windows 11 за допомогою Ollama (графічний інтерфейс користувача)
• Встановлення GPT-OSS на Windows 11 за допомогою Ollama (метод CLI)

Встановлення GPT-OSS на Windows 11 за допомогою Ollama (графічний інтерфейс користувача)

Щоб встановити GPT-OSS або 3n локально у Windows 11, виконайте такі дії:

1. Відкрийте меню «Пуск» у Windows 11.

    

    

2. Знайдіть «Командний рядок» (або «Термінал» ), клацніть правою кнопкою миші на першому результаті та виберіть опцію «Запуск від імені адміністратора»  .

3. Введіть цю команду, щоб встановити офіційний інструмент Ollama, і натисніть Enter :

   winget install --id Ollama.Ollama

   

4. Натисніть кнопку «Готово» , щоб завершити встановлення.

5. Відкрийте програму Ollama з меню «Пуск», якщо вона не запустилася автоматично.

6. Клацніть меню моделі штучного інтелекту та виберіть опцію «GPT-OSS:20b» .

   

7. Складіть та надішліть запитання, щоб розпочати завантаження моделі OpenAI GPT.

   

Після виконання цих кроків ви можете почати використовувати модель штучного інтелекту GPT-OSS через інтерфейс командного рядка.

Якщо у вас є обліковий запис Ollama , ви можете увійти, щоб скористатися вбудованим веб-пошуком, який поєднує можливості моделі з найновішою інформацією, доступною в Інтернеті.

Якщо вам цікаво, варіант Turbo — це хмарний сервіс від Ollama, який дозволяє запускати великі моделі штучного інтелекту, використовуючи обладнання для центрів обробки даних. Він розроблений для забезпечення високої продуктивності та швидкості для моделей, які можуть бути занадто великими або занадто повільними для запуску на локальному комп’ютері. Щомісячна підписка коштує 20 доларів.

Додаток Ollama не пропонує опції попереднього завантаження доступних моделей ШІ. Однак ви можете виконати це завдання за допомогою інструмента командного рядка.

Встановлення GPT-OSS на Windows 11 за допомогою Ollama (метод CLI)

Щоб встановити OpenAI GPT-OSS локально у Windows 11, виконайте такі дії:

1. Відкрийте Пуск .

2. Знайдіть «Командний рядок» (або «Термінал» ), клацніть правою кнопкою миші на першому результаті та виберіть опцію «Запуск від імені адміністратора»  .

3. Введіть цю команду, щоб встановити офіційний інструмент Ollama, і натисніть Enter :

   winget install --id Ollama.Ollama

   

4. Натисніть кнопку «Готово» , щоб завершити встановлення.

5. (Варіант 1) Введіть цю команду, щоб локально встановити меншу модель штучного інтелекту GPT-OSS, і натисніть Enter :

   ollama pull gpt-oss:20b

   

   Коротке зауваження: Ця команда завантажує gpt-oss:20b, який містить 20 мільярдів параметрів. Однак, ви також можете скористатися опцією gpt-oss:latestзавантаження останньої доступної на той момент моделі.

6. (Варіант 2) Введіть цю команду, щоб локально встановити більшу модель штучного інтелекту GPT-OSS, і натисніть Enter :

   Оллама витягує gpt-oss:120b

7. (Необов’язково) Введіть цю команду, щоб підтвердити встановлення моделі штучного інтелекту, і натисніть Enter :

   список оллама

8. (Необов’язково) Введіть цю команду, щоб відобразити деталі (наприклад) меншої моделі GPT-OSS, такі як конфігурація та параметри, і натисніть Enter :

   Оллама показує gpt-oss:20b

   

9. Введіть цю команду, щоб запустити (наприклад) модель GTP-OSS, і натисніть Enter :

   ollama запустити gpt-oss:20b

Після виконання цих кроків ви можете почати використовувати найновішу модель GPT AI з відкритим кодом від OpenAI через інтерфейс командного рядка.

Окрім використання диспетчера пакетів Windows (winget) для встановлення цього інструменту, ви завжди можете отримати інсталятор Ollama з його офіційної сторінки або з цієї сторінки  GitHub .

Ви також можете використовувати ollama --helpкоманду для перегляду інших доступних команд, а ollama run --helpкоманду — для перегляду списку команд, доступних для певної моделі.

Якщо ви плануєте запустити одну з цих моделей штучного інтелекту на своєму комп'ютері, вам слід вибрати модель gpt-oss-20b через її розмір та вимоги до обладнання.

Якщо ви хочете використовувати модель gpt-oss-120b , вам знадобиться дуже потужне обладнання, таке як відеокарта NVIDIA з щонайменше 80 ГБ відеопам'яті, процесор серверного класу (наприклад, AMD EPYC або Intel Xeon), щонайменше 256 ГБ пам'яті та високошвидкісний твердотільний накопичувач NVMe з щонайменше 500 ГБ вільного місця для ваг моделей та тимчасових файлів.