Pitäisikö minun ottaa agenttiset tekoälyominaisuudet käyttöön Windows 11:ssä? Ei, se on tietoturvariski, tässä syy

• Windows 11:n agenttiset tekoälyominaisuudet esittelevät järjestelmätason automaatiota, jonka avulla käyttöjärjestelmä voi napsauttaa, kirjoittaa ja suorittaa toimintoja puolestasi.
• Vaikka nämä ominaisuudet ovat tehokkaita, ne ovat vielä kokeellisia ja tuovat mukanaan merkittäviä tietoturva- ja yksityisyysriskejä.
• Useimmille käyttäjille agenttisen tekoälyn käyttöönottoa ei suositella tällä hetkellä.

Microsoft alkaa testata "agenttista tekoälyä" Windows 11: ssä . Kyseessä on uusi järjestelmätason ominaisuus, jonka avulla tekoäly voi toimia puolestasi napsauttamalla, kirjoittamalla ja navigoimalla sovelluksissa ihmisen tavoin. Se on yksi kunnianhimoisimmista muutoksista, joita käyttöjärjestelmä on tehnyt vuosikymmeniin. Ja vaikka se lupaa tehokasta automaatiota, nykyinen toteutus tuo mukanaan turvallisuus- ja yksityisyysriskejä, joita useimmat käyttäjät eivät ole valmiita käsittelemään.

Jos näet uuden ”Kokeelliset agenttiominaisuudet” -valinnan Asetukset-sovelluksessa, saatat miettiä, onko sen käyttöönotto kätevyyden arvoista. Lyhyt vastaus on ei. Ainakaan vielä. Microsoft itse ei voi taata turvallisuuttaan , ja yritys sanoo, että turvallisuus ei ole ”kertaluonteinen ominaisuus”, vaan ”jatkuva sitoutuminen”, mikä tarkoittaa, että virheisiin ja ongelmiin puututaan niiden tapahtuessa.

Toisin sanoen, agenttisen tekoälyn käyttöönotto avaa tällä hetkellä tyypillisille käyttäjille oven riskeille, jotka ovat suuremmat kuin ajansäästöhyödyt.

Tekoäly, joka voi toimia puolestasi, voi toimia myös sinua vastaan.

Windows 11:ssä merkittävin muutos on, että tekoäly ei enää rajoitu vastausten luomiseen. Agenttiominaisuudet mahdollistavat järjestelmän suorittaa tehtäviä erillisessä käyttöjärjestelmän istunnossa, jota kutsutaan "agentin työtilaksi". Tämä tarkoittaa, että agentti voi avata sovelluksia, hallita tiedostoja ja suorittaa monivaiheisia toimintoja samalla, kun sinä jatkat työskentelyä päätyöpöytäistunnossasi.

Tämä on tehokasta, mutta se luo myös uudenlaisen hyökkäysmuodon. Toisin kuin chatbot, tekoälyagentti voi tehdä muutoksia järjestelmääsi. Jos jokin menee pieleen (virheellinen ohje, käyttäjän virhe tai manipuloitu kehote), seuraukset vaikuttavat varsinaisiin tiedostoihisi ja sovelluksiisi, eivätkä vain keskusteluikkunaan.

On tärkeää huomata, että agenttityötila suoritetaan aluksi erillisessä järjestelmäistunnossa. Microsoft kuitenkin aikoo tulevissa julkaisuissa ottaa agenttityötilat käyttöön kevyinä ja turvallisina virtuaaliympäristöinä, joilla on erilliset käyttöoikeudet ja ominaisuudet.

Ristikkäisruiske on todellinen uhka

Microsoft tuo esiin uuden hyökkäystyypin, jota kutsutaan ristikehotteiden injektioksi . Siinä verkkosivujen, asiakirjojen tai sovellusten käyttöliittymien piilotettu teksti voi kaapata agentin käskyjen kulun. Haitallinen verkkosivusto voi upottaa ohjeita, jotka hiljaa käskevät agenttia lataamaan haittaohjelman. Koska agentilla on lupa suorittaa järjestelmätoimia, tämän tyyppisellä hyökkäyksellä on suurempi potentiaalinen vaikutus kuin perinteisellä kehotteiden manipuloinnilla.

Tämä ei ole teoreettinen riski. Se on agenttijärjestelmien tunnettu heikkous, jonka tutkijat ovat osoittaneet toistuvasti. Ja Windows 11 on vasta puolustusmekanismien selvittämisen alkuvaiheessa.

Agentilla on pääsy henkilökohtaisiin kansioihisi

Kun otat ominaisuuden käyttöön, agenttitilit saavat automaattisesti luku- ja kirjoitusoikeudet tiedostoihisi Tiedostot-, Lataukset-, Työpöytä-, Kuvat-, Videot- ja Musiikki-kansioissa.

Tämä on välttämätöntä, jotta agentti voi suorittaa tehtäviä, mutta se tarkoittaa myös sitä, että mikä tahansa agentin tekemä virhe, väärintulkinta tai vaarantunut ohje voi vaikuttaa henkilötietoihin. Väärän kansion järjestäminen vahingossa on yksi asia. Suurten tiedostojoukkojen poistaminen tai siirtäminen vahingossa on toinen asia.

Monet käyttäjät eivät ole valmiita hallitsemaan tekoälyn autonomisen toiminnan seurauksia heidän paikallisessa datassaan.

Hallusinaatioista tulee järjestelmätason virheitä

Tekoälymallit hallusinoivat ja tulkitsevat ohjeita väärin. Yleensä tämä on vaaratonta, mutta agenttitoimintojen ollessa käytössä hallusinaatio voi johtaa väärän sovelluksen suorittamiseen, tiedostojen tahattomaan muokkaamiseen tai poistamiseen, vaarallisille verkkosivustoille siirtymiseen tai virheellisten vaiheiden suorittamiseen työnkulussa.

Kun tekoäly saa käyttöjärjestelmän fyysisesti hallintaansa, pienilläkin virheillä voi olla merkittäviä seurauksia.

Se toimii taustalla, vaikka unohtaisitkin

Tässä ensimmäisessä esikatselussa on tällä hetkellä muutamia tunnettuja ongelmia. Esimerkiksi jos Copilot Actions on aktiivinen, järjestelmä ei välttämättä mene nukkumaan tai sammu. Saatat jopa nähdä varoituksia, joissa ilmoitetaan, että "joku muu käyttää edelleen tätä tietokonetta".

Se, että agentti jatkaa työskentelyä taustalla ilman selvää näkyvyyttä, voi johtaa sekaannukseen, päivitysten pysähtymiseen tai pitkittyneisiin prosesseihin, jotka jatkuvat pitkään sen jälkeen, kun käyttäjä uskoo niiden pysähtyneen.

Laitteestasi tulee huomaamattasi monen käyttäjän järjestelmä

Agenttinen tekoäly Windows 11:ssä on jännittävä idea. Se edustaa tulevaisuutta, jossa tietokoneet voivat automatisoida jokapäiväisiä tehtäviä, tehostaa työnkulkuja ja toimia enemmän älykkäiden avustajien kuin passiivisten laitteiden tavoin. Nykymuodossaan ominaisuus on kuitenkin keskeneräinen, kokeellinen, heikosti suojattu ja altis uudentyyppisille hyökkäyksille.

Tuo yhdistelmä ei kuulu ensisijaiseen henkilökohtaiseen tietokoneeseen.

Johtopäätös

Jos olet kehittäjä, tietoturvatutkija tai joku, joka kokeilee tarkoituksella tekoälyn huipputeknologiaa, agenttiominaisuuksien käyttöönottoa voi olla hyödyllistä tutkia valvotussa ympäristössä. Jos olet jokapäiväinen käyttäjä, erityisesti jos tallennat henkilökohtaisia ​​tai työhön liittyviä tiedostoja tietokoneellesi, jätä tämä kytkin pois päältä.

Riskit ovat todellisia, suojaukset eivät ole vielä kypsiä ja hyödyt ovat edelleen rajalliset. Windows 11 luo pohjaa sille, mistä voisi tulla tehokas automaatiokerros, mutta tällä hetkellä tämä teknologia tarvitsee lisää aikaa ennen kuin se on valmis yleiskäyttäjille.