Ali naj omogočim funkcije agentske umetne inteligence v sistemu Windows 11? Ne, to je varnostno tveganje, tukaj je razlog

• Funkcije agentske umetne inteligence v sistemu Windows 11 uvajajo avtomatizacijo na ravni sistema, ki operacijskemu sistemu omogoča klikanje, tipkanje in izvajanje dejanj v vašem imenu.
• Čeprav so te funkcije zmogljive, so še vedno eksperimentalne in predstavljajo pomembna tveganja za varnost in zasebnost.
• Za večino uporabnikov omogočanje agentske umetne inteligence danes ni priporočljivo.

Microsoft začenja testirati »agentno umetno inteligenco« v sistemu Windows 11 , novo zmogljivost na sistemski ravni, ki umetni inteligenci omogoča, da deluje v vašem imenu s klikanjem, tipkanjem in navigacijo po aplikacijah, kot bi to storil človek. Gre za eno najambicioznejših sprememb, ki jih je operacijski sistem uvedel v desetletjih. Čeprav obljublja zmogljivo avtomatizacijo, trenutna implementacija uvaja varnostna in zasebnostna tveganja, s katerimi se večina uporabnikov ni pripravljena spopasti.

Če v aplikaciji Nastavitve vidite novo stikalo »Eksperimentalne agentske funkcije« , se morda sprašujete, ali je vklop vreden udobja. Kratek odgovor je ne. Vsaj še ne. Microsoft sam ne more zagotoviti varnosti , podjetje pa pravi, da varnost ni »enkratna funkcija«, temveč »stalna zaveza«, kar pomeni, da se bodo napake in težave obravnavale sproti.

Z drugimi besedami, trenutno omogočanje agentne umetne inteligence za tipične uporabnike odpira vrata tveganjem, ki pretehtajo vse koristi prihranka časa.

Umetna inteligenca, ki lahko deluje namesto vas, je tudi umetna inteligenca, ki lahko deluje proti vam.

V sistemu Windows 11 je najpomembnejša sprememba ta, da umetna inteligenca ni več omejena na ustvarjanje odgovorov. Agentske funkcije omogočajo sistemu izvajanje nalog v ločeni seji operacijskega sistema, znani kot »delovni prostor agenta«. To pomeni, da lahko agent odpira aplikacije, upravlja datoteke in izvaja večstopenjske operacije, medtem ko vi še naprej delate v glavni seji namizja.

To je močno, vendar ustvarja tudi novo obliko napada. Za razliko od klepetalnega robota lahko agent umetne inteligence spreminja vaš sistem. Če gre kaj narobe (napačno navodilo, uporabniška napaka ali manipuliran poziv), posledice vplivajo na vaše dejanske datoteke in aplikacije, ne le na okno za pogovor.

Pomembno je omeniti, da se delovni prostor agenta sprva izvaja v ločeni sistemski seji. Vendar pa Microsoft v prihodnjih izdajah načrtuje uvedbo delovnih prostorov agentov kot lahka in varna virtualna okolja z različnimi dovoljenji in zmogljivostmi.

Navzkrižno injiciranje je resnična grožnja

Microsoft opozarja na nov razred napadov, imenovanih navzkrižno vbrizgavanje pozivov , pri katerem lahko skrito besedilo na spletnih straneh, v dokumentih ali vmesnikih aplikacij ugrabi tok navodil agenta. Zlonamerno spletno mesto lahko vdela navodila, ki agentu tiho naročijo, naj prenese zlonamerno programsko opremo. Ker ima agent dovoljenje za izvajanje sistemskih dejanj, ima ta vrsta napada večji potencialni vpliv kot tradicionalna manipulacija pozivov.

To ni teoretično tveganje. Gre za znano slabost agentnih sistemov, ki so jo raziskovalci že večkrat dokazali. In Windows 11 je šele na začetku odkrivanja obrambnih mehanizmov.

Agent ima dostop do vaših osebnih map

Ko omogočite funkcijo, bodo računi agentov samodejno pridobili dostop za branje in pisanje v vaše datoteke v mapah Dokumenti, Prenosi, Namizje, Slike, Videoposnetki in Glasba.

To je potrebno, da lahko agent dokonča naloge, vendar pomeni tudi, da lahko vsaka napaka, napačna razlaga ali ogrožena navodila na strani agenta vplivajo na osebne podatke. Nenamerno organiziranje napačne mape je ena stvar. Nenamerno brisanje ali premikanje velikih naborov datotek je nekaj drugega.

Mnogi uporabniki niso pripravljeni obvladovati posledic avtonomnega delovanja umetne inteligence na njihove lokalne podatke.

Halucinacije postanejo napake na sistemski ravni

Modeli umetne inteligence še vedno halucinirajo in napačno razlagajo navodila. Običajno je to neškodljivo, toda če so omogočena agentna dejanja, lahko halucinacija povzroči zagon napačne aplikacije, nenamerno spreminjanje ali brisanje datotek, navigacijo do nevarnih spletnih mest ali izvajanje napačnih korakov v delovnem procesu.

Ko umetna inteligenca pridobi fizični nadzor nad operacijskim sistemom, imajo lahko že majhne napake znatne posledice.

Deluje v ozadju, tudi ko pozabite

Trenutno je v tem prvem predogledu nekaj znanih težav. Če je na primer aktivna funkcija Copilot Actions , se sistem morda ne bo hotel preklopiti v stanje spanja ali se izklopiti. Morda boste celo videli opozorila, da »ta računalnik še vedno uporablja nekdo drug«.

Dejstvo, da agent še naprej deluje v ozadju brez očitne vidljivosti, lahko povzroči zmedo, zastoje pri posodabljanju ali dolgotrajne procese, ki trajajo še dolgo po tem, ko uporabnik meni, da so se ustavili.

Vaša naprava postane večuporabniški sistem, ne da bi se tega zavedali

Agentska umetna inteligenca v sistemu Windows 11 je vznemirljiva ideja. Predstavlja prihodnost, v kateri lahko računalniki avtomatizirajo vsakodnevna opravila, poenostavijo delovne procese in delujejo bolj kot inteligentni pomočniki kot pasivne naprave. Vendar pa je v trenutni obliki funkcija nedokončana, eksperimentalna, slabo zaščitena in ranljiva za nove vrste napadov.

To ni kombinacija, ki bi spadala na primarni osebni računalnik.

Zaključek

Če ste razvijalec, varnostni raziskovalec ali nekdo, ki namerno eksperimentira z najsodobnejšo umetno inteligenco, je morda vredno raziskati vklop agentnih funkcij v nadzorovanem okolju. Če ste vsakdanji uporabnik, še posebej nekdo, ki v računalnik shranjuje osebne ali službene datoteke, pustite stikalo izklopljeno.

Tveganja so resnična, zaščita še ni zrela in koristi so še vedno omejene. Windows 11 postavlja temelje za nekaj, kar bi lahko postalo zmogljiva plast avtomatizacije, vendar ta tehnologija trenutno potrebuje več časa, preden bo pripravljena za splošne uporabnike.