Vai man vajadzētu iespējot aģentu mākslīgā intelekta funkcijas operētājsistēmā Windows 11? Nē, tas ir drošības risks, lūk, kāpēc

• Windows 11 aģentu mākslīgā intelekta funkcijas ievieš sistēmas līmeņa automatizāciju, kas ļauj operētājsistēmai noklikšķināt, rakstīt un veikt darbības jūsu vārdā.
• Lai gan šīs funkcijas ir jaudīgas, tās joprojām ir eksperimentālas un rada ievērojamus drošības un privātuma riskus.
• Lielākajai daļai lietotāju aģentūru mākslīgā intelekta iespējošana mūsdienās nav ieteicama.

Microsoft sāk testēt “aģentūras mākslīgo intelektu” operētājsistēmā Windows 11 — jaunu sistēmas līmeņa iespēju, kas ļauj mākslīgajam intelektam rīkoties jūsu vārdā, noklikšķinot, rakstot un pārvietojoties lietojumprogrammās tāpat kā cilvēks. Tā ir viena no vērienīgākajām izmaiņām, ko operētājsistēma ir veikusi pēdējo gadu desmitu laikā. Lai gan tā sola jaudīgu automatizāciju, pašreizējā ieviešana rada drošības un privātuma riskus, ar kuriem lielākā daļa lietotāju nav gatavi tikt galā.

Ja lietotnē Iestatījumi redzat jauno slēdzi “Eksperimentālas aģentūru funkcijas” , jūs, iespējams, domājat, vai tā ieslēgšana ir ērtības vērta. Īsā atbilde ir nē. Vismaz pagaidām ne. Pats Microsoft nevar garantēt savu drošību , un uzņēmums apgalvo, ka drošība nav “vienreizēja funkcija”, bet gan “nepārtraukta apņemšanās”, kas nozīmē, ka kļūdas un problēmas tiks risinātas, tiklīdz tās notiks.

Citiem vārdiem sakot, pašlaik tipiskiem lietotājiem aģentūru mākslīgā intelekta iespējošana paver durvis riskiem, kas atsver jebkādu laika ietaupījuma ieguvumu.

Mākslīgais intelekts, kas var rīkoties jūsu vietā, var rīkoties arī pret jums

Operētājsistēmā Windows 11 visnozīmīgākā pārmaiņa ir tā, ka mākslīgais intelekts vairs neaprobežojas tikai ar atbilžu ģenerēšanu. Aģenta funkcijas ļauj sistēmai veikt uzdevumus atsevišķā operētājsistēmas sesijā, kas pazīstama kā “aģenta darba telpa”. Tas nozīmē, ka aģents var atvērt lietotnes, pārvaldīt failus un veikt vairāku soļu darbības, kamēr jūs turpināt strādāt savā galvenajā darbvirsmas sesijā.

Tas ir spēcīgs paņēmiens, taču tas rada arī jaunu uzbrukuma veidu. Atšķirībā no tērzēšanas robota, mākslīgā intelekta aģents var veikt izmaiņas jūsu sistēmā. Ja kaut kas noiet greizi (nepareiza instrukcija, lietotāja kļūda vai manipulēta uzvedne), sekas ietekmē jūsu faktiskos failus un lietotnes, ne tikai sarunas logu.

Ir svarīgi atzīmēt, ka aģenta darbvieta sākotnēji darbojas atsevišķā sistēmas sesijā. Tomēr turpmākajās versijās Microsoft plāno izvietot aģenta darbvietas kā vieglas un drošas virtuālās vides ar atšķirīgām atļaujām un iespējām.

Savlaicīga injekcija ir reāls drauds

Microsoft izceļ jaunu uzbrukumu klasi, ko sauc par starpuzvedņu injekciju , kurā slēpts teksts tīmekļa lapās, dokumentos vai lietotņu saskarnēs var nolaupīt aģenta instrukciju plūsmu. Ļaunprātīga vietne var iestrādāt instrukcijas, kas klusībā liek aģentam lejupielādēt ļaunprogrammatūru. Tā kā aģentam ir atļauja veikt sistēmas darbības, šāda veida uzbrukumam ir lielāka potenciālā ietekme nekā tradicionālajai uzvedņu manipulācijai.

Tas nav teorētisks risks. Tā ir zināma aģentūru sistēmu vājība, ko pētnieki ir atkārtoti pierādījuši. Un Windows 11 ir tikai aizsardzības mehānismu izstrādes sākumposmā.

Aģentam ir piekļuve jūsu personiskajām mapēm

Kad šī funkcija ir iespējota, aģentu konti automātiski iegūst lasīšanas un rakstīšanas piekļuvi jūsu failiem mapēs Dokumenti, Lejupielādes, Darbvirsma, Attēli, Video un Mūzika.

Tas ir nepieciešams, lai aģents varētu veikt uzdevumus, taču tas nozīmē arī to, ka jebkura aģenta kļūda, nepareiza interpretācija vai kompromitēta instrukcija var ietekmēt personas datus. Viena lieta ir nejauša nepareizas mapes sakārtošana. Cita lieta ir nejauša lielu failu kopu dzēšana vai pārvietošana.

Daudzi lietotāji nav gatavi pārvaldīt mākslīgā intelekta autonomas darbības sekas attiecībā uz viņu lokālajiem datiem.

Halucinācijas kļūst par sistēmas līmeņa kļūdām

Mākslīgā intelekta modeļi joprojām halucinē un nepareizi interpretē instrukcijas. Parasti tas ir nekaitīgi, taču, ja ir iespējotas aģentu darbības, halucinācijas var izraisīt nepareizas lietotnes palaišanu, netīšu failu modificēšanu vai dzēšanu, navigāciju uz nedrošām tīmekļa vietnēm vai nepareizu darbību veikšanu darbplūsmā.

Kad mākslīgais intelekts iegūst fizisku kontroli pār operētājsistēmu, pat nelielām kļūdām var būt būtiskas sekas.

Tas darbojas fonā, pat ja aizmirstat

Pašlaik šajā pirmajā priekšskatījumā ir dažas zināmas problēmas. Piemēram, ja ir aktīva Copilot Actions funkcija , sistēma var atteikties pāriet miega režīmā vai izslēgties. Var pat tikt parādīti brīdinājumi, ka “kāds cits joprojām izmanto šo datoru”.

Tas, ka aģents turpina strādāt fonā bez acīmredzamas redzamības, var radīt apjukumu, apturētus atjauninājumus vai ieilgušus procesus, kas turpinās ilgi pēc tam, kad lietotājs uzskata, ka tie ir apstājušies.

Jūsu ierīce kļūst par daudzlietotāju sistēmu, jums to neapzinoties

Aģentu mākslīgais intelekts operētājsistēmā Windows 11 ir aizraujoša ideja. Tā atspoguļo nākotni, kurā datori var automatizēt ikdienas uzdevumus, racionalizēt darbplūsmas un darboties vairāk kā inteliģenti asistenti, nevis pasīvas ierīces. Tomēr pašreizējā formā šī funkcija ir nepabeigta, eksperimentāla, vāji aizsargāta un neaizsargāta pret jauna veida uzbrukumiem.

Tā nav kombinācija, kas pieder galvenajam personālajam datoram.

Secinājums

Ja esat izstrādātājs, drošības pētnieks vai kāds, kas apzināti eksperimentē ar mākslīgā intelekta jaunākajām tehnoloģijām, aģentu funkciju ieslēgšana kontrolētā vidē varētu būt vērts izpētīt. Ja esat ikdienas lietotājs, īpaši tāds, kurš datorā glabā personiskus vai ar darbu saistītus failus, atstājiet šo slēdzi izslēgtā stāvoklī.

Riski ir reāli, aizsardzība nav pilnībā izstrādāta, un ieguvumi joprojām ir ierobežoti. Windows 11 liek pamatus tam, kas varētu kļūt par jaudīgu automatizācijas slāni, taču šobrīd šai tehnoloģijai ir nepieciešams vairāk laika, pirms tā būs gatava plašākai lietošanai.