Mám povoliť funkcie umelej inteligencie pre agentov v systéme Windows 11? Nie, je to bezpečnostné riziko, tu je dôvod

• Funkcie umelej inteligencie agentov vo Windowse 11 zavádzajú automatizáciu na úrovni systému, ktorá umožňuje operačnému systému klikať, písať a vykonávať akcie za vás.
• Hoci sú tieto funkcie výkonné, stále sú experimentálne a predstavujú významné riziká pre bezpečnosť a súkromie.
• Pre väčšinu používateľov sa v súčasnosti neodporúča povoliť agentickú umelú inteligenciu.

Spoločnosť Microsoft začína testovať „agent AI“ v systéme Windows 11 , novú funkciu na úrovni systému, ktorá umožňuje umelej inteligencii konať vo vašom mene klikaním, písaním a navigáciou v aplikáciách ako človek. Je to jedna z najambicióznejších zmien, ktoré operačný systém za posledné desaťročia urobil. A hoci sľubuje výkonnú automatizáciu, súčasná implementácia prináša bezpečnostné a súkromné ​​riziká, s ktorými väčšina používateľov nie je pripravená čeliť.

Ak v aplikácii Nastavenia uvidíte nový prepínač „Experimentálne agentické funkcie“ , možno vás zaujíma, či sa jeho zapnutie oplatí za to pohodlie. Stručná odpoveď je nie. Aspoň zatiaľ nie. Samotný Microsoft nemôže zaručiť jeho bezpečnosť a spoločnosť tvrdí, že zabezpečenie nie je „jednorazová funkcia“, ale „neustály záväzok“, čo znamená, že chyby a problémy sa budú riešiť hneď, ako sa vyskytnú.

Inými slovami, v súčasnosti pre typických používateľov otvára aktivácia agentickej umelej inteligencie dvere rizikám, ktoré prevažujú nad akýmkoľvek prínosom úspory času.

UI, ktorá môže konať za vás, je zároveň UI, ktorá môže konať proti vám.

V systéme Windows 11 je najvýznamnejšou zmenou to, že umelá inteligencia sa už neobmedzuje len na generovanie odpovedí. Funkcie agentov umožňujú systému vykonávať úlohy v samostatnej relácii operačného systému známej ako „pracovný priestor agenta“. To znamená, že agent môže otvárať aplikácie, spravovať súbory a vykonávať viackrokové operácie, zatiaľ čo vy pracujete v hlavnej relácii počítača.

Toto je silné riešenie, ale zároveň to vytvára novú formu útoku. Na rozdiel od chatbota môže agent s umelou inteligenciou vykonávať zmeny vo vašom systéme. Ak sa niečo pokazí (nesprávny pokyn, chyba používateľa alebo manipulovaná výzva), následky ovplyvnia vaše skutočné súbory a aplikácie, nielen okno konverzácie.

Je dôležité poznamenať, že pracovný priestor agenta sa spočiatku spúšťa v samostatnej systémovej relácii. V budúcich vydaniach však spoločnosť Microsoft plánuje nasadiť pracovné priestory agentov ako ľahké a bezpečné virtuálne prostredia s odlišnými povoleniami a možnosťami.

Krížová injekcia je skutočnou hrozbou

Spoločnosť Microsoft poukazuje na novú triedu útokov nazývanú cross-prompt injection , pri ktorej skrytý text na webových stránkach, v dokumentoch alebo v rozhraniach aplikácií môže narušiť tok inštrukcií agenta. Škodlivá webová stránka by mohla vložiť inštrukcie, ktoré agentovi potichu povedia, aby si stiahol malvér. Keďže agent má povolenie vykonávať systémové akcie, tento typ útoku má väčší potenciálny dopad ako tradičná manipulácia s promptmi.

Toto nie je teoretické riziko. Je to známa slabina v agentových systémoch, ktorú výskumníci opakovane preukázali. A Windows 11 je len na začiatku objavovania obranných mechanizmov.

Agent má prístup k vašim osobným priečinkom

Po povolení tejto funkcie agenti automaticky získajú prístup na čítanie a zápis k vašim súborom v priečinkoch Dokumenty, Stiahnuté súbory, Plocha, Obrázky, Videá a Hudba.

Toto je nevyhnutné na to, aby agent mohol dokončiť úlohy, ale znamená to aj to, že akákoľvek chyba na strane agenta, nesprávna interpretácia alebo ohrozenie pokynov by mohli ovplyvniť osobné údaje. Náhodné usporiadanie nesprávneho priečinka je jedna vec. Náhodné vymazanie alebo presunutie veľkých súborov súborov je vec druhá.

Mnoho používateľov nie je pripravených zvládnuť dôsledky autonómneho pôsobenia umelej inteligencie na ich lokálne dáta.

Halucinácie sa stávajú chybami na systémovej úrovni

Modely umelej inteligencie stále halucinujú a nesprávne interpretujú pokyny. Zvyčajne je to neškodné, ale pri povolených akciách agentov môžu halucinácie viesť k spusteniu nesprávnej aplikácie, neúmyselnej úprave alebo vymazaniu súborov, prechodu na nebezpečné webové stránky alebo vykonaniu nesprávnych krokov v pracovnom postupe.

Keď umelá inteligencia získa fyzickú kontrolu nad operačným systémom, aj malé chyby môžu mať značné následky.

Beží na pozadí, aj keď na to zabudnete

V tejto prvej ukážke je momentálne niekoľko známych problémov. Napríklad, ak je aktívna funkcia Copilot Actions , systém sa môže odmietnuť uspať alebo vypnúť. Môžu sa dokonca zobraziť upozornenia, že „tento počítač stále používa niekto iný“.

Skutočnosť, že agent pokračuje v práci na pozadí bez zjavnej viditeľnosti, môže viesť k zmätku, zastaveným aktualizáciám alebo pretrvávajúcim procesom, ktoré pretrvávajú dlho potom, čo si používateľ myslí, že sa zastavili.

Vaše zariadenie sa bez toho, aby ste si to uvedomovali, stane systémom pre viacerých používateľov

Agentická umelá inteligencia v systéme Windows 11 je vzrušujúci nápad. Predstavuje budúcnosť, v ktorej počítače dokážu automatizovať každodenné úlohy, zefektívniť pracovné postupy a fungovať skôr ako inteligentní asistenti než pasívne zariadenia. V súčasnej podobe je však táto funkcia nedokončená, experimentálna, slabo chránená a zraniteľná voči novým typom útokov.

To nie je kombinácia, ktorá patrí do primárneho osobného počítača.

Záver

Ak ste vývojár, bezpečnostný výskumník alebo niekto, kto zámerne experimentuje s najmodernejšou umelou inteligenciou, zapnutie agentických funkcií môže byť užitočné v kontrolovanom prostredí. Ak ste bežným používateľom, najmä ak si v počítači ukladáte osobné alebo pracovné súbory, nechajte prepínač vypnutý.

Riziká sú reálne, ochrany nie sú dostatočne vyvinuté a výhody sú stále obmedzené. Windows 11 kladie základy pre to, čo by sa mohlo stať výkonnou vrstvou automatizácie, ale v súčasnosti táto technológia potrebuje viac času, kým bude pripravená pre bežných používateľov.