Trebam li omogućiti agentske AI značajke u sustavu Windows 11? Ne, to je sigurnosni rizik, evo zašto

• Značajke agentske umjetne inteligencije u sustavu Windows 11 uvode automatizaciju na razini sustava koja omogućuje operativnom sustavu da klika, tipka i izvršava radnje u vaše ime.
• Iako su ove značajke moćne, još uvijek su eksperimentalne i predstavljaju značajne sigurnosne i privatnosne rizike.
• Za većinu korisnika, omogućavanje agentske umjetne inteligencije danas se ne preporučuje.

Microsoft počinje testirati „agentsku umjetnu inteligenciju“ unutar Windowsa 11 , novu mogućnost na razini sustava koja omogućuje umjetnoj inteligenciji da djeluje u vaše ime klikanjem, tipkanjem i navigacijom kroz aplikacije kao što bi to činio čovjek. To je jedna od najambicioznijih promjena koje je operativni sustav napravio u desetljećima. I dok obećava snažnu automatizaciju, trenutna implementacija uvodi sigurnosne i privatne rizike s kojima većina korisnika nije spremna nositi se.

Ako vidite novi prekidač "Eksperimentalne agentske značajke" unutar aplikacije Postavke, možda se pitate isplati li se njegovo uključivanje zbog praktičnosti. Kratak odgovor je ne. Barem ne još. Sam Microsoft ne može jamčiti njegovu sigurnost , a tvrtka kaže da sigurnost nije "jednokratna značajka", već "kontinuirana obveza", što znači da će se pogreške i problemi rješavati kako se događaju.

Drugim riječima, trenutno, za tipične korisnike, omogućavanje agentske umjetne inteligencije danas otvara vrata rizicima koji nadmašuju bilo kakvu korist od uštede vremena.

Umjetna inteligencija koja može djelovati za vas ujedno je i umjetna inteligencija koja može djelovati protiv vas

U sustavu Windows 11, najznačajnija promjena je ta što umjetna inteligencija više nije ograničena na generiranje odgovora. Agentske značajke omogućuju sustavu izvršavanje zadataka u zasebnoj sesiji operativnog sustava poznatoj kao "radni prostor agenta". To znači da agent može otvarati aplikacije, upravljati datotekama i dovršavati operacije u više koraka dok vi nastavljate raditi u svojoj glavnoj sesiji na računalu.

Ovo je moćno, ali također stvara novi oblik napada. Za razliku od chatbota, AI agent može unositi promjene u vaš sustav. Ako nešto pođe po zlu (netočna uputa, korisnička pogreška ili manipulirani upit), posljedice utječu na vaše stvarne datoteke i aplikacije, a ne samo na prozor za razgovor.

Važno je napomenuti da se radni prostor agenta u početku izvodi u zasebnoj sistemskoj sesiji. Međutim, u budućim izdanjima Microsoft planira implementirati radne prostore agenata kao lagana i sigurna virtualna okruženja s različitim dozvolama i mogućnostima.

Unakrsno injektiranje je stvarna prijetnja

Microsoft ističe novu klasu napada nazvanu cross-prompt injection , u kojoj skriveni tekst unutar web stranica, dokumenata ili sučelja aplikacija može omesti tijek instrukcija agenta. Zlonamjerna web stranica mogla bi ugraditi instrukcije koje tiho govore agentu da preuzme zlonamjerni softver. Budući da agent ima dopuštenje za poduzimanje sistemskih radnji, ova vrsta napada ima veći potencijalni utjecaj od tradicionalne manipulacije promptom.

Ovo nije teoretski rizik. To je poznata slabost u agentskim sustavima koju su istraživači više puta pokazali. A Windows 11 je tek na početku otkrivanja obrane.

Agent ima pristup vašim osobnim mapama

Nakon što omogućite značajku, računi agenata automatski dobivaju pristup za čitanje i pisanje vaših datoteka u mapama Dokumenti, Preuzimanja, Radna površina, Slike, Videozapisi i Glazba.

To je agentu potrebno za dovršetak zadataka, ali to također znači da svaka pogreška agenta, pogrešno tumačenje ili kompromitirana uputa mogu utjecati na osobne podatke. Slučajno organiziranje pogrešne mape je jedno. Slučajno brisanje ili premještanje velikih skupova datoteka je nešto sasvim drugo.

Mnogi korisnici nisu spremni upravljati posljedicama autonomnog djelovanja umjetne inteligencije na njihove lokalne podatke.

Halucinacije postaju pogreške na razini sustava

AI modeli i dalje haluciniraju i pogrešno tumače upute. Obično je to bezopasno, ali s omogućenim agentskim radnjama, halucinacija može dovesti do pokretanja pogrešne aplikacije, nenamjernog mijenjanja ili brisanja datoteka, navigacije do nesigurnih web stranica ili izvođenja netočnih koraka u tijeku rada.

Kada umjetna inteligencija stekne fizičku kontrolu nad operativnim sustavom, čak i male pogreške mogu imati značajne posljedice.

Radi u pozadini, čak i kada zaboravite

Trenutno, u ovom prvom pregledu, postoji nekoliko poznatih problema. Na primjer, ako je Copilot Actions aktivan, sustav može odbiti spavanje ili se isključiti. Možda ćete čak vidjeti upozorenja da „netko drugi još uvijek koristi ovo računalo“.

Činjenica da agent nastavlja raditi u pozadini bez očite vidljivosti može dovesti do zbrke, zastoja u ažuriranjima ili dugotrajnih procesa koji traju dugo nakon što korisnik misli da su zaustavljeni.

Vaš uređaj postaje višekorisnički sustav, a da toga niste ni svjesni.

Agentic AI na Windowsima 11 je uzbudljiva ideja. Predstavlja budućnost u kojoj računala mogu automatizirati svakodnevne zadatke, pojednostaviti tijekove rada i ponašati se više kao inteligentni asistenti nego kao pasivni uređaji. Međutim, u svom trenutnom obliku, značajka je nedovršena, eksperimentalna, slabo zaštićena i ranjiva na nove vrste napada.

To nije kombinacija koja pripada primarnom osobnom računalu.

Zaključak

Ako ste programer, istraživač sigurnosti ili netko tko namjerno eksperimentira s najnovijom umjetnom inteligencijom, uključivanje agentskih značajki možda bi bilo vrijedno istražiti u kontroliranom okruženju. Ako ste svakodnevni korisnik, posebno netko tko pohranjuje osobne ili poslovne datoteke na računalu, isključite prekidač.

Rizici su stvarni, zaštite nisu zrele, a koristi su još uvijek ograničene. Windows 11 postavlja temelje za ono što bi mogao postati snažan sloj automatizacije, ali trenutno ovoj tehnologiji treba više vremena prije nego što bude spremna za opće korisnike.