Mám ve Windows 11 povolit funkce umělé inteligence pro agenty? Ne, je to bezpečnostní riziko, a zde je důvod.

• Funkce agentní umělé inteligence ve Windows 11 zavádějí automatizaci na úrovni systému, která umožňuje operačnímu systému klikat, psát a provádět akce za vás.
• I když jsou tyto funkce výkonné, stále jsou experimentální a představují významná rizika pro bezpečnost a soukromí.
• Pro většinu uživatelů se v současnosti nedoporučuje aktivovat agentní umělou inteligenci.

Společnost Microsoft začíná testovat „agentskou umělou inteligenci“ v systému Windows 11 , což je nová systémová funkce, která umožňuje umělé inteligenci jednat vaším jménem – klikat, psát a procházet aplikace jako člověk. Jde o jednu z nejambicióznějších změn, které operační systém za poslední desetiletí provedl. Ačkoli systém slibuje výkonnou automatizaci, současná implementace představuje bezpečnostní a soukromá rizika, se kterými většina uživatelů není připravena se vypořádat.

Pokud v aplikaci Nastavení uvidíte nový přepínač „Experimentální agentické funkce“ , možná vás zajímá, zda se jeho zapnutí vyplatí. Stručná odpověď zní ne. Alespoň zatím ne. Samotný Microsoft nemůže zaručit jeho bezpečnost a společnost tvrdí, že zabezpečení není „jednorázová funkce“, ale „průběžný závazek“, což znamená, že chyby a problémy budou řešeny, jakmile nastanou.

Jinými slovy, pro typické uživatele otevírá v současnosti aktivace agentní umělé inteligence dveře rizikům, která převažují nad jakýmikoli úsporami času.

Umělá inteligence, která může jednat za vás, je zároveň umělou inteligencí, která může jednat proti vám.

Ve Windows 11 je nejvýznamnější změnou to, že umělá inteligence se již neomezuje pouze na generování odpovědí. Agentské funkce umožňují systému provádět úkoly v samostatné relaci operačního systému, známé jako „pracovní prostor agenta“. To znamená, že agent může otevírat aplikace, spravovat soubory a provádět vícekrokové operace, zatímco vy můžete pokračovat v práci v hlavní relaci počítače.

To je sice mocné, ale zároveň to vytváří novou formu útoku. Na rozdíl od chatbota může agent s umělou inteligencí provádět změny ve vašem systému. Pokud se něco pokazí (nesprávný pokyn, chyba uživatele nebo zmanipulovaný výzva), následky ovlivní vaše skutečné soubory a aplikace, nejen okno konverzace.

Je důležité si uvědomit, že pracovní prostor agenta zpočátku běží v samostatné systémové relaci. V budoucích verzích však společnost Microsoft plánuje nasadit pracovní prostory agentů jako lehká a zabezpečená virtuální prostředí s odlišnými oprávněními a možnostmi.

Cross-prompt injection je skutečnou hrozbou

Společnost Microsoft upozorňuje na novou třídu útoků zvanou cross-prompt injection , při kterých skrytý text na webových stránkách, v dokumentech nebo rozhraních aplikací může narušit tok instrukcí agenta. Škodlivý web by mohl vložit instrukce, které agentovi tiše sdělí, aby si stáhl malware. Protože má agent oprávnění provádět systémové akce, má tento typ útoku větší potenciální dopad než tradiční manipulace s prompty.

Toto není teoretické riziko. Je to známá slabina agentních systémů, kterou vědci opakovaně prokázali. A Windows 11 je teprve na začátku hledání obranných mechanismů.

Agent má přístup k vašim osobním složkám

Jakmile tuto funkci povolíte, účty agentů automaticky získají přístup pro čtení a zápis k vašim souborům ve složkách Dokumenty, Stažení, Plocha, Obrázky, Videa a Hudba.

To je nezbytné pro to, aby agent mohl dokončit úkoly, ale také to znamená, že jakákoli chyba na straně agenta, nesprávná interpretace nebo ohrožení pokynů by mohly ovlivnit osobní data. Náhodné uspořádání nesprávné složky je jedna věc. Náhodné smazání nebo přesunutí velkých sad souborů je věc druhá.

Mnoho uživatelů není připraveno zvládat důsledky autonomního působení umělé inteligence na jejich lokální data.

Halucinace se stávají chybami na úrovni systému

Modely umělé inteligence stále halucinují a špatně interpretují pokyny. Obvykle je to neškodné, ale s povolenými agentními akcemi mohou halucinace vést ke spuštění nesprávné aplikace, neúmyslné úpravě nebo smazání souborů, přechodu na nebezpečné webové stránky nebo provedení nesprávných kroků v pracovním postupu.

Když umělá inteligence získá fyzickou kontrolu nad operačním systémem, i malé chyby mohou mít značné následky.

Běží na pozadí, i když na to zapomenete

V této první preview je aktuálně známo několik problémů. Například pokud je aktivní funkce Copilot Actions , systém se může odmítnout uspávat nebo vypnout. Mohou se dokonce zobrazit varování, že „tento počítač stále používá někdo jiný“.

Skutečnost, že agent pokračuje v práci na pozadí bez zjevné viditelnosti, může vést k nejasnostem, zastaveným aktualizacím nebo přetrvávajícím procesům, které přetrvávají dlouho poté, co si uživatel myslí, že se zastavily.

Vaše zařízení se stává systémem pro více uživatelů, aniž byste si to uvědomovali

Agentická umělá inteligence ve Windows 11 je vzrušující nápad. Představuje budoucnost, kde počítače mohou automatizovat každodenní úkoly, zefektivnit pracovní postupy a chovat se spíše jako inteligentní asistenti než pasivní zařízení. Ve své současné podobě je však tato funkce nedokončená, experimentální, málo chráněná a zranitelná vůči novým typům útoků.

To není kombinace, která by nepatří do primárního osobního počítače.

Závěr

Pokud jste vývojář, bezpečnostní výzkumník nebo někdo, kdo záměrně experimentuje s nejmodernější umělou inteligencí, může být vhodné prozkoumat zapnutí agentních funkcí v kontrolovaném prostředí. Pokud jste běžným uživatelem, zejména pokud si na počítači ukládáte osobní nebo pracovní soubory, nechte přepínač vypnutý.

Rizika jsou reálná, ochrany nejsou dostatečně vyvinuté a výhody jsou stále omezené. Windows 11 pokládá základy pro to, co by se mohlo stát výkonnou vrstvou automatizace, ale v současné době tato technologie potřebuje více času, než bude připravena pro běžné uživatele.