Ar turėčiau įjungti agentines dirbtinio intelekto funkcijas sistemoje „Windows 11“? Ne, tai kelia saugumo riziką, štai kodėl

• „Windows 11“ agentinės dirbtinio intelekto funkcijos pristato sistemos lygio automatizavimą, kuris leidžia operacinei sistemai spustelėti, rašyti ir atlikti veiksmus jūsų vardu.
• Nors šios funkcijos yra galingos, jos vis dar yra eksperimentinės ir kelia reikšmingų saugumo bei privatumo pavojų.
• Daugumai vartotojų šiandien nerekomenduojama įjungti agentinio dirbtinio intelekto.

„Microsoft“ pradeda testuoti „agentinį dirbtinį intelektą“ sistemoje „Windows 11“ – naują sistemos lygio funkciją, leidžiančią dirbtiniam intelektui veikti jūsų vardu spustelint, rašant ir naršant programose kaip žmogus. Tai vienas ambicingiausių operacinės sistemos pakeitimų per pastaruosius dešimtmečius. Ir nors jis žada galingą automatizavimą, dabartinis įdiegimas kelia saugumo ir privatumo grėsmių, su kuriomis dauguma vartotojų nėra pasirengę susidoroti.

Jei „Nustatymų“ programėlėje matote naują jungiklį „Eksperimentinės agentinės funkcijos“ , galite susimąstyti, ar verta jį įjungti dėl tokio patogumo. Trumpas atsakymas – ne. Bent jau kol kas. Pati „Microsoft“ negali garantuoti savo saugumo , o bendrovė teigia, kad saugumas nėra „vienkartinė funkcija“, o „nuolatinis įsipareigojimas“, o tai reiškia, kad klaidos ir problemos bus sprendžiamos joms įvykus.

Kitaip tariant, šiuo metu įprastiems vartotojams agentinio dirbtinio intelekto įjungimas atveria duris į riziką, kuri nusveria bet kokią laiko taupymo naudą.

Dirbtinis intelektas, kuris gali veikti jūsų vardu, taip pat gali veikti prieš jus

„Windows 11“ sistemoje svarbiausias pokytis yra tas, kad dirbtinis intelektas nebeapsiriboja atsakymų generavimu. Agento funkcijos leidžia sistemai atlikti užduotis atskirame operacinės sistemos seanse, vadinamame „agento darbo sritimi“. Tai reiškia, kad agentas gali atidaryti programas, tvarkyti failus ir atlikti kelių žingsnių operacijas, kol jūs dirbate pagrindiniame darbalaukio seanse.

Tai galinga, bet kartu sukuria naują atakos formą. Skirtingai nuo pokalbių roboto, dirbtinio intelekto agentas gali atlikti pakeitimus jūsų sistemoje. Jei kas nors negerai (neteisinga instrukcija, vartotojo klaida ar manipuliuojama raginimas), pasekmės paveikia jūsų failus ir programas, o ne tik pokalbio langą.

Svarbu atkreipti dėmesį, kad agento darbo sritis iš pradžių veikia atskiroje sistemos sesijoje. Tačiau būsimose versijose „Microsoft“ planuoja diegti agento darbo sritis kaip lengvas ir saugias virtualias aplinkas su skirtingais leidimais ir galimybėmis.

Kryžminė injekcija yra reali grėsmė

„Microsoft“ išskiria naują atakų klasę, vadinamą kryžminiu raginimų įterpimu (cross-prompt injection ), kai paslėptas tekstas tinklalapiuose, dokumentuose ar programų sąsajose gali užgrobti agento instrukcijų srautą. Kenkėjiška svetainė gali įterpti instrukcijas, kurios tyliai nurodo agentui atsisiųsti kenkėjišką programą. Kadangi agentas turi leidimą atlikti sistemos veiksmus, šio tipo ataka gali turėti didesnį poveikį nei tradicinis raginimų manipuliavimas.

Tai nėra teorinė rizika. Tai žinomas agentinių sistemų trūkumas, kurį tyrėjai ne kartą įrodė. O „Windows 11“ tik pradeda kurti apsaugos priemones.

Agentas turi prieigą prie jūsų asmeninių aplankų

Įjungus šią funkciją, agentų paskyros automatiškai gauna skaitymo ir rašymo prieigą prie jūsų failų, esančių aplankuose „Dokumentai“, „Atsisiuntimai“, „Darbalaukis“, „Paveikslėliai“, „Vaizdo įrašai“ ir „Muzika“.

Tai būtina, kad agentas galėtų atlikti užduotis, tačiau tai taip pat reiškia, kad bet kokia agento klaida, neteisingas aiškinimas ar pažeista instrukcija gali paveikti asmens duomenis. Atsitiktinis netinkamo aplanko sutvarkymas yra viena. Atsitiktinis didelių failų rinkinių ištrynimas ar perkėlimas – visai kas kita.

Daugelis vartotojų nėra pasirengę valdyti dirbtinio intelekto autonominio veikimo jų vietiniuose duomenyse pasekmių.

Haliucinacijos tampa sisteminėmis klaidomis

Dirbtinio intelekto modeliuose vis dar haliucinuojama ir neteisingai interpretuojamos instrukcijos. Paprastai tai nekenksminga, tačiau įjungus agentinius veiksmus, haliucinacija gali lemti netinkamos programos paleidimą, netyčinį failų modifikavimą ar ištrynimą, naršymą nesaugiose svetainėse arba neteisingų veiksmų atlikimą darbo eigoje.

Kai dirbtinis intelektas fiziškai kontroliuoja operacinę sistemą, net ir mažos klaidos gali turėti reikšmingų pasekmių.

Veikia fone, net kai pamirštate

Šiuo metu šioje pirmojoje peržiūroje yra keletas žinomų problemų. Pavyzdžiui, jei aktyvūs „Copilot Actions“ , sistema gali atsisakyti užmigti arba išsijungti. Galite net matyti įspėjimus, kad „kažkas kitas vis dar naudoja šį kompiuterį“.

Tai, kad agentas toliau dirba fone be akivaizdaus matomumo, gali sukelti painiavą, užstrigti atnaujinimai arba užsitęsusius procesus, kurie tęsiasi ilgai po to, kai vartotojas mano, kad jie sustojo.

Jūsų įrenginys tampa daugiavartotoja sistema, jums to net nesuvokiant

Agentinis dirbtinis intelektas sistemoje „Windows 11“ yra įdomi idėja. Ji simbolizuoja ateitį, kai kompiuteriai gali automatizuoti kasdienes užduotis, supaprastinti darbo eigas ir veikti labiau kaip išmanūs asistentai, o ne pasyvūs įrenginiai. Tačiau dabartine forma ši funkcija yra nebaigta, eksperimentinė, menkai apsaugota ir pažeidžiama naujų tipų atakų.

Tai nėra derinys, kuris turėtų būti pagrindiniame asmeniniame kompiuteryje.

Išvada

Jei esate kūrėjas, saugumo tyrėjas ar kas nors, sąmoningai eksperimentuojantis su pažangiausiomis dirbtinio intelekto technologijomis, agentinių funkcijų įjungimas kontroliuojamoje aplinkoje gali būti vertas bandymo. Jei esate kasdienis vartotojas, ypač tas, kuris kompiuteryje saugo asmeninius ar su darbu susijusius failus, palikite šį perjungiklį išjungtą.

Rizika reali, apsaugos priemonės dar neišbaigtos, o nauda vis dar ribota. „Windows 11“ kloja pamatus tam, kas galėtų tapti galingu automatizavimo sluoksniu, tačiau šiuo metu šiai technologijai reikia daugiau laiko, kol ji bus paruošta paprastiems vartotojams.