Да ли треба да омогућим агентске вештачке интелигенције на Windows 11? Не, то је безбедносни ризик, ево зашто

• Функције агентске вештачке интелигенције у систему Windows 11 уводе аутоматизацију на нивоу система која омогућава оперативном систему да кликће, куца и извршава радње у ваше име.
• Иако су ове функције моћне, оне су и даље експерименталне и представљају значајне ризике по безбедност и приватност.
• За већину корисника, омогућавање агентске вештачке интелигенције данас се не препоручује.

Мајкрософт почиње да тестира „агентску вештачку интелигенцију“ унутар оперативног система Windows 11 , нову могућност на системском нивоу која омогућава вештачкој интелигенцији да делује у ваше име кликтањем, куцањем и навигацијом кроз апликације као што би то учинио човек. То је једна од најамбициознијих промена које је оперативни систем направио у последњих неколико деценија. И док обећава моћну аутоматизацију, тренутна имплементација уводи ризике по безбедност и приватност са којима већина корисника није спремна да се носи.

Ако видите нови прекидач „Експерименталне агентске функције“ у апликацији Подешавања, можда се питате да ли се исплати његово укључивање због погодности. Кратак одговор је не. Барем не још. Сам Мајкрософт не може да гарантује његову безбедност , а компанија каже да безбедност није „једнократна функција“, већ „континуирана посвећеност“, што значи да ће се грешке и проблеми решавати како се дешавају.

Другим речима, тренутно, за типичне кориснике, омогућавање агентске вештачке интелигенције данас отвара врата ризицима који надмашују било какву корист од уштеде времена.

Вештачка интелигенција која може да делује у ваше име је такође и вештачка интелигенција која може да делује против вас

У оперативном систему Windows 11, најзначајнија промена је то што вештачка интелигенција више није ограничена на генерисање одговора. Агентске функције омогућавају систему да обавља задатке у посебној сесији оперативног система познатој као „радни простор агента“. То значи да агент може да отвара апликације, управља датотекама и обавља вишестепене операције док ви настављате да радите у својој главној сесији на рачунару.

Ово је моћно, али такође ствара нови облик напада. За разлику од четбота, вештачка интелигенција (AI) агент може да направи измене у вашем систему. Ако нешто крене наопако (нетачна инструкција, грешка корисника или манипулисани упит), последице утичу на ваше стварне датотеке и апликације, а не само на прозор за разговор.

Важно је напоменути да се радни простор агента у почетку покреће у посебној системској сесији. Међутим, у будућим издањима, Microsoft планира да распореди радне просторе агента као лагана и безбедна виртуелна окружења са различитим дозволама и могућностима.

Унакрсна инјекција је стварна претња

Мајкрософт истиче нову класу напада названу „унакрсно убризгавање промптова“ , у којима скривени текст унутар веб страница, докумената или интерфејса апликација може да отме ток инструкција агента. Злонамерна веб страница може да угради инструкције које тихо говоре агенту да преузме злонамерни софтвер. Пошто агент има дозволу да предузима системске радње, ова врста напада има већи потенцијални утицај од традиционалне манипулације промптом.

Ово није теоријски ризик. То је позната слабост у агентским системима коју су истраживачи више пута показали. А Windows 11 је тек на почетку откривања одбране.

Агент има приступ вашим личним фасциклама

Када омогућите ову функцију, агентски налози аутоматски добијају приступ за читање и писање ваших датотека у фасциклама Документи, Преузимања, Радна површина, Слике, Видео снимци и Музика.

Ово је неопходно да би агент могао да заврши задатке, али то такође значи да свака грешка агента, погрешно тумачење или угрожена инструкција могу утицати на личне податке. Случајно организовање погрешне фасцикле је једна ствар. Случајно брисање или премештање великих скупова датотека је друга ствар.

Многи корисници нису спремни да управљају последицама аутономног деловања вештачке интелигенције на њихове локалне податке.

Халуцинације постају грешке на нивоу система

Модели вештачке интелигенције и даље халуцинирају и погрешно тумаче инструкције. Обично је ово безопасно, али када су омогућене агентске акције, халуцинација може довести до покретања погрешне апликације, ненамерног мењања или брисања датотека, навигације до небезбедних веб локација или извршавања погрешних корака у радном току.

Када вештачка интелигенција стекне физичку контролу над оперативним системом, чак и мале грешке могу имати значајне последице.

Ради у позадини, чак и када заборавите

Тренутно, у овој првој прегледној верзији, постоји неколико познатих проблема. На пример, ако је Copilot Actions активан, систем може одбити да пређе у режим спавања или да се искључи. Можда ћете чак видети и упозорења да „неко други и даље користи овај рачунар“.

Чињеница да агент наставља да ради у позадини без очигледне видљивости може довести до забуне, застоја у ажурирањима или застоја у процесима који трају дуго након што корисник верује да су заустављени.

Ваш уређај постаје систем за више корисника, а да тога нисте ни свесни.

Агентска вештачка интелигенција на Windows 11 је узбудљива идеја. Она представља будућност у којој рачунари могу аутоматизовати свакодневне задатке, поједноставити радне процесе и понашати се више као интелигентни асистенти него као пасивни уређаји. Међутим, у свом тренутном облику, функција је недовршена, експериментална, слабо заштићена и рањива на нове врсте напада.

То није комбинација која припада примарном персоналном рачунару.

Закључак

Ако сте програмер, истраживач безбедности или неко ко намерно експериментише са најсавременијом вештачком интелигенцијом, укључивање агентних функција може бити вредно истражити у контролисаном окружењу. Ако сте свакодневни корисник, посебно неко ко чува личне или пословне датотеке на рачунару, оставите прекидач искључен.

Ризици су стварни, заштита није зрела, а користи су и даље ограничене. Windows 11 поставља темеље за оно што би могао постати моћан слој аутоматизације, али тренутно овој технологији треба више времена пре него што буде спремна за опште кориснике.