Трябва ли да активирам агентни функции за изкуствен интелект в Windows 11? Не, това е риск за сигурността, ето защо

• Функциите за агентен изкуствен интелект в Windows 11 въвеждат автоматизация на системно ниво, която позволява на операционната система да кликва, въвежда и извършва действия от ваше име.
• Въпреки че тези функции са мощни, те все още са експериментални и въвеждат значителни рискове за сигурността и поверителността.
• За повечето потребители активирането на агентен ИИ днес не се препоръчва.

Microsoft започва да тества „агентски изкуствен интелект“ в Windows 11 , нова системна функция, която позволява на изкуствения интелект да действа от ваше име, като кликва, пише и навигира в приложения, както би направил човек. Това е една от най-амбициозните промени, които операционната система е направила от десетилетия. И макар че обещава мощна автоматизация, настоящата имплементация въвежда рискове за сигурността и поверителността, с които повечето потребители не са готови да се справят.

Ако видите новия превключвател „Експериментални агентски функции“ в приложението „Настройки“, може би се чудите дали си струва удобството да го включите. Краткият отговор е „не“. Поне не засега. Самата Microsoft не може да гарантира безопасността му и компанията казва, че сигурността не е „еднократна функция“, а „непрекъснат ангажимент“, което означава, че грешките и проблемите ще бъдат обработвани веднага щом възникнат.

С други думи, в момента, за типичните потребители, активирането на агентен ИИ днес отваря вратата към рискове, които надвишават всякаква полза от спестяване на време.

Изкуственият интелект, който може да действа вместо вас, е и изкуствен интелект, който може да действа срещу вас.

В Windows 11 най-значителната промяна е, че изкуственият интелект вече не се ограничава само до генериране на отговори. Агентските функции позволяват на системата да изпълнява задачи в отделна сесия на операционната система, известна като „работно пространство на агент“. Това означава, че агентът може да отваря приложения, да управлява файлове и да извършва многоетапни операции, докато вие продължавате да работите в основната си сесия на работния плот.

Това е мощно средство, но също така създава нова форма на атака. За разлика от чатбот, агент с изкуствен интелект може да прави промени във вашата система. Ако нещо се обърка (неправилна инструкция, потребителска грешка или манипулирано подканване), последствията засягат вашите файлове и приложения, а не само прозореца за разговор.

Важно е да се отбележи, че работното пространство на агента първоначално се изпълнява в отделна системна сесия. В бъдещи издания обаче Microsoft планира да внедри работните пространства на агентите като леки и сигурни виртуални среди с отделни разрешения и възможности.

Кръстосаното инжектиране е реална заплаха

Microsoft посочва нов клас атаки, наречени „cross-prompt injection“ , при които скрит текст в уеб страници, документи или интерфейси на приложения може да открадне потока от инструкции на агента. Злонамерен уебсайт може да вгради инструкции, които тихомълком казват на агента да изтегли зловреден софтуер. Тъй като агентът има разрешение да предприема системни действия, този тип атака има по-голямо потенциално въздействие от традиционната манипулация на промпти.

Това не е теоретичен риск. Това е известна слабост в агентните системи, която изследователите многократно са демонстрирали. А Windows 11 е едва в началото на процеса на разработване на защитни механизми.

Агентът има достъп до личните ви папки

След като активирате функцията, акаунтите на агенти автоматично получават достъп за четене и запис до вашите файлове в папките „Документи“, „Изтегляния“, „Работен плот“, „Картини“, „Видеоклипове“ и „Музика“.

Това е необходимо, за да може агентът да изпълнява задачи, но също така означава, че всяка грешка от страна на агента, неправилно тълкуване или компрометирана инструкция може да повлияе на личните данни. Случайното организиране на грешна папка е едно. Случайното изтриване или преместване на големи набори от файлове е съвсем друго.

Много потребители не са подготвени да управляват последствията от автономните действия на изкуствения интелект върху локалните им данни.

Халюцинациите се превръщат в грешки на системно ниво

Моделите с изкуствен интелект все още халюцинират и интерпретират погрешно инструкциите. Обикновено това е безобидно, но при активирани агентни действия, халюцинацията може да доведе до стартиране на грешно приложение, неволно променяне или изтриване на файлове, навигиране до опасни уебсайтове или извършване на неправилни стъпки в работен процес.

Когато изкуственият интелект получи физически контрол над операционната система, дори малки грешки могат да имат значителни последици.

Работи във фонов режим, дори когато забравите

В момента, в този първи преглед, има няколко известни проблема. Например, ако Copilot Actions е активен, системата може да откаже да заспи или да се изключи. Може дори да видите предупреждения, че „някой друг все още използва този компютър“.

Фактът, че агентът продължава да работи във фонов режим без видимост, може да доведе до объркване, забавени актуализации или забавени процеси, които продължават дълго след като потребителят смята, че са спрели.

Устройството ви се превръща в многопотребителска система, без да го осъзнавате

Agentic AI в Windows 11 е вълнуваща идея. Тя представлява бъдеще, в което компютрите могат да автоматизират ежедневните задачи, да рационализират работните процеси и да действат по-скоро като интелигентни асистенти, отколкото като пасивни устройства. В сегашния си вид обаче функцията е недовършена, експериментална, слабо защитена и уязвима за нови видове атаки.

Това не е комбинация, която е подходяща за основен персонален компютър.

Заключение

Ако сте разработчик, изследовател по сигурността или някой, който целенасочено експериментира с най-съвременните технологии в изкуствения интелект, включването на агентните функции може да си струва да се проучи в контролирана среда. Ако сте обикновен потребител, особено някой, който съхранява лични или служебни файлове на компютъра си, оставете превключвателя изключен.

Рисковете са реални, защитите не са достатъчно зрели, а ползите са все още ограничени. Windows 11 полага основите за това, което би могло да се превърне в мощен слой за автоматизация, но в момента тази технология се нуждае от повече време, преди да е готова за масовите потребители.