Чи варто вмикати агентні функції штучного інтелекту у Windows 11? Ні, це ризик для безпеки, ось чому

• Функції агентного штучного інтелекту у Windows 11 запроваджують автоматизацію на системному рівні, яка дозволяє операційній системі клацати, друкувати та виконувати дії від вашого імені.
• Хоча ці функції є потужними, вони все ще експериментальні та створюють значні ризики для безпеки та конфіденційності.
• Для більшості користувачів вмикання агентного ШІ сьогодні не рекомендується.

Microsoft починає тестувати «агентський ШІ» в Windows 11 – нову функцію системного рівня, яка дозволяє штучному інтелекту діяти від вашого імені, натискаючи, друкуючи та переміщаючись між програмами, як це робить людина. Це одна з найамбітніших змін, які операційна система зробила за останні десятиліття. І хоча вона обіцяє потужну автоматизацію, поточна реалізація створює ризики для безпеки та конфіденційності, з якими більшість користувачів не готові впоратися.

Якщо ви бачите новий перемикач «Експериментальні агентські функції» в додатку «Налаштування», ви можете задатися питанням, чи варто його вмикати за таку зручність. Коротка відповідь – ні. Принаймні, поки що ні. Сама Microsoft не може гарантувати безпеку , і компанія стверджує, що безпека – це не «одноразова функція», а «постійне зобов’язання», що означає, що помилки та проблеми будуть вирішуватися в міру їх виникнення.

Іншими словами, наразі для типових користувачів активація агентного ШІ сьогодні відкриває двері до ризиків, які переважують будь-яку перевагу економії часу.

Штучний інтелект, який може діяти за вас, також може діяти проти вас.

У Windows 11 найважливішою зміною є те, що штучний інтелект більше не обмежується генеруванням відповідей. Агентські функції дозволяють системі виконувати завдання в окремому сеансі операційної системи, відомому як «робоче середовище агента». Це означає, що агент може відкривати програми, керувати файлами та виконувати багатоетапні операції, поки ви продовжуєте працювати в основному сеансі робочого столу.

Це потужний засіб, але водночас створює нову форму атаки. На відміну від чат-бота, агент штучного інтелекту може вносити зміни до вашої системи. Якщо щось піде не так (неправильна інструкція, помилка користувача або підроблена підказка), наслідки вплинуть на ваші файли та програми, а не лише на вікно розмови.

Важливо зазначити, що робоче середовище агента спочатку працює в окремому системному сеансі. Однак у майбутніх випусках Microsoft планує розгортати робочі середовища агентів як легкі та безпечні віртуальні середовища з різними дозволами та можливостями.

Перехресне введення речовини є реальною загрозою

Microsoft називає новий клас атак, який називається перехресним впровадженням команд (cross-prompt injection ), за якого прихований текст на веб-сторінках, у документах або інтерфейсах програм може порушити потік інструкцій агента. Шкідливий веб-сайт може вбудовувати інструкції, які непомітно повідомляють агенту про завантаження шкідливого програмного забезпечення. Оскільки агент має дозвіл на виконання системних дій, цей тип атаки має більший потенційний вплив, ніж традиційне маніпулювання командами.

Це не теоретичний ризик. Це відома слабкість агентних систем, яку дослідники неодноразово демонстрували. А Windows 11 лише починає вирішувати питання захисту.

Агент має доступ до ваших особистих папок

Після ввімкнення цієї функції облікові записи агентів автоматично отримають доступ для читання та запису ваших файлів у папках «Документи», «Завантаження», «Робочий стіл», «Зображення», «Відео» та «Музика».

Це необхідно для виконання завдань агентом, але це також означає, що будь-яка помилка з боку агента, неправильне тлумачення або скомпрометована інструкція можуть вплинути на персональні дані. Випадково впорядкувати неправильну папку – це одне. Випадкове видалення або переміщення великих наборів файлів – це зовсім інше.

Багато користувачів не готові до наслідків автономної роботи штучного інтелекту з їхніми локальними даними.

Галюцинації стають помилками системного рівня

Моделі штучного інтелекту все ще галюцинують та неправильно інтерпретують інструкції. Зазвичай це нешкідливо, але з увімкненими агентними діями галюцинація може призвести до запуску неправильної програми, ненавмисного зміни або видалення файлів, переходу на небезпечні веб-сайти або виконання неправильних кроків у робочому процесі.

Коли штучний інтелект отримує фізичний контроль над операційною системою, навіть невеликі помилки можуть мати значні наслідки.

Він працює у фоновому режимі, навіть коли ви забуваєте

Наразі, у цій першій попередній версії, є кілька відомих проблем. Наприклад, якщо активна функція «Дії Copilot» , система може відмовитися переходити в режим сну або вимикатися. Ви навіть можете побачити попередження про те, що «хтось інший все ще використовує цей ПК».

Той факт, що агент продовжує працювати у фоновому режимі без явної видимості, може призвести до плутанини, зупинки оновлень або затримки процесів, які тривають довго після того, як користувач вважає, що вони зупинилися.

Ваш пристрій стає багатокористувацькою системою, навіть якщо ви цього не усвідомлюєте

Агентський ШІ у Windows 11 – це захоплива ідея. Вона являє собою майбутнє, де комп’ютери зможуть автоматизувати повсякденні завдання, оптимізувати робочі процеси та діяти радше як інтелектуальні помічники, ніж як пасивні пристрої. Однак у своєму нинішньому вигляді ця функція є незавершеною, експериментальною, слабо захищеною та вразливою до нових типів атак.

Це не та комбінація, яка підходить для основного персонального комп'ютера.

Висновок

Якщо ви розробник, дослідник безпеки або хтось, хто навмисно експериментує з передовими досягненнями штучного інтелекту, можливо, варто дослідити ввімкнення агентних функцій у контрольованому середовищі. Якщо ви звичайний користувач, особливо якщо ви зберігаєте особисті або робочі файли на своєму комп’ютері, не вимикайте перемикач.

Ризики реальні, захист ще не досконалий, а переваги все ще обмежені. Windows 11 закладає основу для того, що може стати потужним рівнем автоматизації, але зараз цій технології потрібен більше часу, перш ніж вона буде готова для широких користувачів.