Ar turėčiau įjungti agentines dirbtinio intelekto funkcijas sistemoje „Windows 11“? Ne, tai kelia saugumo riziką, štai kodėl

  • „Windows 11“ agentinės dirbtinio intelekto funkcijos pristato sistemos lygio automatizavimą, kuris leidžia operacinei sistemai spustelėti, rašyti ir atlikti veiksmus jūsų vardu.
  • Nors šios funkcijos yra galingos, jos vis dar yra eksperimentinės ir kelia reikšmingų saugumo bei privatumo pavojų.
  • Daugumai vartotojų šiandien nerekomenduojama įjungti agentinio dirbtinio intelekto.

„Microsoft“ pradeda testuoti „agentinį dirbtinį intelektą“ sistemoje „Windows 11“ – naują sistemos lygio funkciją, leidžiančią dirbtiniam intelektui veikti jūsų vardu spustelint, rašant ir naršant programose kaip žmogus. Tai vienas ambicingiausių operacinės sistemos pakeitimų per pastaruosius dešimtmečius. Ir nors jis žada galingą automatizavimą, dabartinis įdiegimas kelia saugumo ir privatumo grėsmių, su kuriomis dauguma vartotojų nėra pasirengę susidoroti.

Jei „Nustatymų“ programėlėje matote naują jungiklį „Eksperimentinės agentinės funkcijos“ , galite susimąstyti, ar verta jį įjungti dėl tokio patogumo. Trumpas atsakymas – ne. Bent jau kol kas. Pati „Microsoft“ negali garantuoti savo saugumo , o bendrovė teigia, kad saugumas nėra „vienkartinė funkcija“, o „nuolatinis įsipareigojimas“, o tai reiškia, kad klaidos ir problemos bus sprendžiamos joms įvykus.

Kitaip tariant, šiuo metu įprastiems vartotojams agentinio dirbtinio intelekto įjungimas atveria duris į riziką, kuri nusveria bet kokią laiko taupymo naudą.

 

Dirbtinis intelektas, kuris gali veikti jūsų vardu, taip pat gali veikti prieš jus

„Windows 11“ sistemoje svarbiausias pokytis yra tas, kad dirbtinis intelektas nebeapsiriboja atsakymų generavimu. Agento funkcijos leidžia sistemai atlikti užduotis atskirame operacinės sistemos seanse, vadinamame „agento darbo sritimi“. Tai reiškia, kad agentas gali atidaryti programas, tvarkyti failus ir atlikti kelių žingsnių operacijas, kol jūs dirbate pagrindiniame darbalaukio seanse.

Tai galinga, bet kartu sukuria naują atakos formą. Skirtingai nuo pokalbių roboto, dirbtinio intelekto agentas gali atlikti pakeitimus jūsų sistemoje. Jei kas nors negerai (neteisinga instrukcija, vartotojo klaida ar manipuliuojama raginimas), pasekmės paveikia jūsų failus ir programas, o ne tik pokalbio langą.

Svarbu atkreipti dėmesį, kad agento darbo sritis iš pradžių veikia atskiroje sistemos sesijoje. Tačiau būsimose versijose „Microsoft“ planuoja diegti agento darbo sritis kaip lengvas ir saugias virtualias aplinkas su skirtingais leidimais ir galimybėmis.

Kryžminė injekcija yra reali grėsmė

„Microsoft“ išskiria naują atakų klasę, vadinamą kryžminiu raginimų įterpimu (cross-prompt injection ), kai paslėptas tekstas tinklalapiuose, dokumentuose ar programų sąsajose gali užgrobti agento instrukcijų srautą. Kenkėjiška svetainė gali įterpti instrukcijas, kurios tyliai nurodo agentui atsisiųsti kenkėjišką programą. Kadangi agentas turi leidimą atlikti sistemos veiksmus, šio tipo ataka gali turėti didesnį poveikį nei tradicinis raginimų manipuliavimas.

Tai nėra teorinė rizika. Tai žinomas agentinių sistemų trūkumas, kurį tyrėjai ne kartą įrodė. O „Windows 11“ tik pradeda kurti apsaugos priemones.

Agentas turi prieigą prie jūsų asmeninių aplankų

Įjungus šią funkciją, agentų paskyros automatiškai gauna skaitymo ir rašymo prieigą prie jūsų failų, esančių aplankuose „Dokumentai“, „Atsisiuntimai“, „Darbalaukis“, „Paveikslėliai“, „Vaizdo įrašai“ ir „Muzika“.

Tai būtina, kad agentas galėtų atlikti užduotis, tačiau tai taip pat reiškia, kad bet kokia agento klaida, neteisingas aiškinimas ar pažeista instrukcija gali paveikti asmens duomenis. Atsitiktinis netinkamo aplanko sutvarkymas yra viena. Atsitiktinis didelių failų rinkinių ištrynimas ar perkėlimas – visai kas kita.

Daugelis vartotojų nėra pasirengę valdyti dirbtinio intelekto autonominio veikimo jų vietiniuose duomenyse pasekmių.

Haliucinacijos tampa sisteminėmis klaidomis

Dirbtinio intelekto modeliuose vis dar haliucinuojama ir neteisingai interpretuojamos instrukcijos. Paprastai tai nekenksminga, tačiau įjungus agentinius veiksmus, haliucinacija gali lemti netinkamos programos paleidimą, netyčinį failų modifikavimą ar ištrynimą, naršymą nesaugiose svetainėse arba neteisingų veiksmų atlikimą darbo eigoje.

Kai dirbtinis intelektas fiziškai kontroliuoja operacinę sistemą, net ir mažos klaidos gali turėti reikšmingų pasekmių.

Veikia fone, net kai pamirštate

Šiuo metu šioje pirmojoje peržiūroje yra keletas žinomų problemų. Pavyzdžiui, jei aktyvūs „Copilot Actions“ , sistema gali atsisakyti užmigti arba išsijungti. Galite net matyti įspėjimus, kad „kažkas kitas vis dar naudoja šį kompiuterį“.

Tai, kad agentas toliau dirba fone be akivaizdaus matomumo, gali sukelti painiavą, užstrigti atnaujinimai arba užsitęsusius procesus, kurie tęsiasi ilgai po to, kai vartotojas mano, kad jie sustojo.

Jūsų įrenginys tampa daugiavartotoja sistema, jums to net nesuvokiant

Agentinis dirbtinis intelektas sistemoje „Windows 11“ yra įdomi idėja. Ji simbolizuoja ateitį, kai kompiuteriai gali automatizuoti kasdienes užduotis, supaprastinti darbo eigas ir veikti labiau kaip išmanūs asistentai, o ne pasyvūs įrenginiai. Tačiau dabartine forma ši funkcija yra nebaigta, eksperimentinė, menkai apsaugota ir pažeidžiama naujų tipų atakų.

Tai nėra derinys, kuris turėtų būti pagrindiniame asmeniniame kompiuteryje.

Išvada

Jei esate kūrėjas, saugumo tyrėjas ar kas nors, sąmoningai eksperimentuojantis su pažangiausiomis dirbtinio intelekto technologijomis, agentinių funkcijų įjungimas kontroliuojamoje aplinkoje gali būti vertas bandymo. Jei esate kasdienis vartotojas, ypač tas, kuris kompiuteryje saugo asmeninius ar su darbu susijusius failus, palikite šį perjungiklį išjungtą.

Rizika reali, apsaugos priemonės dar neišbaigtos, o nauda vis dar ribota. „Windows 11“ kloja pamatus tam, kas galėtų tapti galingu automatizavimo sluoksniu, tačiau šiuo metu šiai technologijai reikia daugiau laiko, kol ji bus paruošta paprastiems vartotojams.

Palikti komentarą

„Windows 11“ 26220.7344 (KB5070316) komponavimo versijoje pridėta nauja programų naujinimo sistema ir dirbtinio intelekto jungtys (kūrėjams, beta versija)

„Windows 11“ 26220.7344 (KB5070316) komponavimo versijoje pridėta nauja programų naujinimo sistema ir dirbtinio intelekto jungtys (kūrėjams, beta versija)

KB5070316 (26220.7344 versija) „Windows 11“ prideda MCP, UOP, MIDI paslaugas, „Open With“ atnaujinimus, „Quick Machine Recovery“ ir „Open With“ pakeitimus.

Kaip atnaujinti WSL branduolį sistemoje „Windows 11“

Kaip atnaujinti WSL branduolį sistemoje „Windows 11“

Norėdami atnaujinti WSL branduolį sistemoje „Windows 11“, atidarykite komandų eilutę (administratorius) ir paleiskite komandą wsl --update. Štai kaip.

Švarus „Windows 11“ diegimas „Copilot+“ kompiuteryje (ARM64)

Švarus „Windows 11“ diegimas „Copilot+“ kompiuteryje (ARM64)

Švariai įdiekite „Windows 11“ ARM64 „Copilot+“ kompiuteryje, įskaitant USB atmintinės sukūrimą, disko duomenų išvalymą, operacinės sistemos diegimą iš naujo ir sąrankos užbaigimą.

Nemokamai „Windows 10 ESU“ parinkčiai vis dar reikalinga „Microsoft“ paskyra Europoje

Nemokamai „Windows 10 ESU“ parinkčiai vis dar reikalinga „Microsoft“ paskyra Europoje

„Windows 10 ESU“ Europoje tampa nemokama dar metams, tačiau registracijai vis tiek reikalinga „Microsoft“ paskyra. Paaiškinti reikalavimai.

Kaip atnaujinti į „Windows 11 24H2“ naudojant diegimo asistentą

Kaip atnaujinti į „Windows 11 24H2“ naudojant diegimo asistentą

Norėdami atnaujinti į „Windows 11 24H2“, atsisiųskite ir paleiskite diegimo asistentą, spustelėkite „Accent“ ir įdiekite, tada spustelėkite mygtuką „Paleisti iš naujo“.

„Microsoft“ patvirtina, kad 25H2 versija neatneša naujų funkcijų į „Windows 11“

„Microsoft“ patvirtina, kad 25H2 versija neatneša naujų funkcijų į „Windows 11“

„Windows 11 25H2“ neturi jokių naujų funkcijų, nes „Microsoft“ patvirtino, kad ji identiška 24H2 versijai, todėl abiem atvejais yra naujų patobulinimų.

Kaip paleisti dvigubą „Windows 11“ (arba 10) ir „Linux Mint“ įkrovą

Kaip paleisti dvigubą „Windows 11“ (arba 10) ir „Linux Mint“ įkrovą

Norėdami paleisti „Linux Mint“ ir „Windows 11“ (arba 10) kartu, sukurkite USB diegimo diską, sumažinkite „Windows“ skaidinį ir įdiekite „Mint“ likusioje tuščioje vietoje.

„Windows 11“ skirta 27802 versija suteikia naujų funkcijų „Canary Channel“

„Windows 11“ skirta 27802 versija suteikia naujų funkcijų „Canary Channel“

„Windows 11“ 27802 versija atkeliauja į Kanarų kanalą su akumuliatoriaus, failų bendrinimo ir suasmeninimo pakeitimais.

„OpenAI“ paleidžia „ChatGPT Atlas“ naršyklę „macOS“ ir „Windows 11“ sistemose (po kurio laiko)

„OpenAI“ paleidžia „ChatGPT Atlas“ naršyklę „macOS“ ir „Windows 11“ sistemose (po kurio laiko)

„OpenAI“ sukurta „Atlas“ naršyklė jau paruošta atsisiuntimui, skirta „macOS“ ir „Windows 11“ (netrukus). Čia pateikiama pirmoji sąsajos ir patirties apžvalga.

Kaip pakeisti naujo meniu „Pradėti“ išdėstymo dydį sistemoje „Windows 11“

Kaip pakeisti naujo meniu „Pradėti“ išdėstymo dydį sistemoje „Windows 11“

Naujasis „Windows 11“ meniu „Pradėti“ yra per didelis mažuose ekranuose. Sužinokite, kaip pakeisti jo dydį naudojant „Windhawk“ ir atkurti pradinį kompaktišką išdėstymą.