Πρέπει να ενεργοποιήσω τις λειτουργίες τεχνητής νοημοσύνης των πρακτόρων στα Windows 11; Όχι, αποτελεί κίνδυνο ασφαλείας, δείτε γιατί

• Οι δυνατότητες της τεχνητής νοημοσύνης των Windows 11 εισάγουν αυτοματοποίηση σε επίπεδο συστήματος που επιτρέπει στο λειτουργικό σύστημα να κάνει κλικ, να πληκτρολογεί και να εκτελεί ενέργειες εκ μέρους σας.
• Ενώ αυτά τα χαρακτηριστικά είναι ισχυρά, βρίσκονται ακόμη σε πειραματικό στάδιο και εισάγουν σημαντικούς κινδύνους για την ασφάλεια και το απόρρητο.
• Για τους περισσότερους χρήστες, η ενεργοποίηση της τεχνητής νοημοσύνης πρακτόρων σήμερα δεν συνιστάται.

Η Microsoft αρχίζει να δοκιμάζει την «τεχνητή νοημοσύνη» (Agent AI) μέσα στα Windows 11 , μια νέα δυνατότητα σε επίπεδο συστήματος που επιτρέπει στην τεχνητή νοημοσύνη να ενεργεί για λογαριασμό σας κάνοντας κλικ, πληκτρολογώντας και πλοηγούμενη σε εφαρμογές όπως θα έκανε ένας άνθρωπος. Είναι μια από τις πιο φιλόδοξες αλλαγές που έχει κάνει το λειτουργικό σύστημα εδώ και δεκαετίες. Και ενώ υπόσχεται ισχυρό αυτοματισμό, η τρέχουσα εφαρμογή εισάγει κινδύνους για την ασφάλεια και το απόρρητο που οι περισσότεροι χρήστες δεν είναι προετοιμασμένοι να χειριστούν.

Αν δείτε τη νέα εναλλαγή «Πειραματικές λειτουργίες πρακτόρων» μέσα στην εφαρμογή «Ρυθμίσεις», ίσως αναρωτιέστε αν η ενεργοποίησή της αξίζει την ευκολία. Η σύντομη απάντηση είναι όχι. Τουλάχιστον όχι ακόμα. Η ίδια η Microsoft δεν μπορεί να εγγυηθεί την ασφάλειά της και η εταιρεία λέει ότι η ασφάλεια δεν είναι μια «εφάπαξ λειτουργία», είναι μια «συνεχής δέσμευση», που σημαίνει ότι τα λάθη και τα προβλήματα θα αντιμετωπίζονται καθώς συμβαίνουν.

Με άλλα λόγια, προς το παρόν, για τους τυπικούς χρήστες, η ενεργοποίηση της τεχνητής νοημοσύνης των πρακτόρων σήμερα ανοίγει την πόρτα σε κινδύνους που υπερτερούν οποιουδήποτε οφέλους εξοικονόμησης χρόνου.

Η Τεχνητή Νοημοσύνη που μπορεί να ενεργήσει για εσάς είναι επίσης Τεχνητή Νοημοσύνη που μπορεί να ενεργήσει εναντίον σας

Στα Windows 11, η πιο σημαντική αλλαγή είναι ότι η Τεχνητή Νοημοσύνη δεν περιορίζεται πλέον στη δημιουργία απαντήσεων. Οι λειτουργίες του Agentic επιτρέπουν στο σύστημα να εκτελεί εργασίες σε μια ξεχωριστή συνεδρία του λειτουργικού συστήματος, γνωστή ως «χώρος εργασίας του agent». Αυτό σημαίνει ότι ο agent μπορεί να ανοίγει εφαρμογές, να διαχειρίζεται αρχεία και να ολοκληρώνει λειτουργίες πολλαπλών βημάτων, ενώ εσείς συνεχίζετε να εργάζεστε στην κύρια συνεδρία της επιφάνειας εργασίας σας.

Αυτό είναι ισχυρό, αλλά δημιουργεί επίσης μια νέα μορφή επίθεσης. Σε αντίθεση με ένα chatbot, ένας πράκτορας τεχνητής νοημοσύνης μπορεί να κάνει αλλαγές στο σύστημά σας. Εάν κάτι πάει στραβά (μια λανθασμένη οδηγία, ένα λάθος χρήστη ή μια παραποιημένη προτροπή), οι συνέπειες επηρεάζουν τα ίδια τα αρχεία και τις εφαρμογές σας, όχι μόνο ένα παράθυρο συνομιλίας.

Είναι σημαντικό να σημειωθεί ότι ο χώρος εργασίας των εκπροσώπων εκτελείται αρχικά σε ξεχωριστή περίοδο λειτουργίας συστήματος. Ωστόσο, σε μελλοντικές εκδόσεις, η Microsoft σχεδιάζει να αναπτύξει χώρους εργασίας εκπροσώπων ως ελαφριά και ασφαλή εικονικά περιβάλλοντα με ξεχωριστά δικαιώματα και δυνατότητες.

Η διασταυρούμενη άμεση ένεση αποτελεί πραγματική απειλή

Η Microsoft παρουσιάζει μια νέα κατηγορία επιθέσεων που ονομάζεται cross-prompt injection , κατά την οποία το κρυφό κείμενο μέσα σε ιστοσελίδες, έγγραφα ή διεπαφές εφαρμογών μπορεί να παραβιάσει τη ροή εντολών του agent. Ένας κακόβουλος ιστότοπος θα μπορούσε να ενσωματώσει οδηγίες που λένε σιωπηλά στον agent να κατεβάσει κακόβουλο λογισμικό. Επειδή ο agent έχει άδεια να εκτελεί ενέργειες συστήματος, αυτός ο τύπος επίθεσης έχει μεγαλύτερο πιθανό αντίκτυπο από τον παραδοσιακό χειρισμό προτροπών.

Αυτό δεν είναι θεωρητικό ρίσκο. Είναι μια γνωστή αδυναμία στα συστήματα πρακτόρων που οι ερευνητές έχουν επανειλημμένα καταδείξει. Και τα Windows 11 βρίσκονται μόνο στην αρχή της κατανόησης των αμυντικών συστημάτων.

Ο εκπρόσωπος έχει πρόσβαση στους προσωπικούς σας φακέλους

Μόλις ενεργοποιήσετε τη λειτουργία, οι λογαριασμοί εκπροσώπων αποκτούν αυτόματα πρόσβαση ανάγνωσης και εγγραφής στα αρχεία σας στους φακέλους Έγγραφα, Λήψεις, Επιφάνεια εργασίας, Εικόνες, Βίντεο και Μουσική.

Αυτό είναι απαραίτητο για να ολοκληρώσει ο εκπρόσωπος εργασίες, αλλά σημαίνει επίσης ότι οποιοδήποτε λάθος, εσφαλμένη ερμηνεία ή παραβίαση οδηγιών από την πλευρά του εκπροσώπου θα μπορούσε να επηρεάσει τα προσωπικά δεδομένα. Η τυχαία οργάνωση λάθος φακέλου είναι ένα πράγμα. Η τυχαία διαγραφή ή μετακίνηση μεγάλων συνόλων αρχείων είναι κάτι άλλο.

Πολλοί χρήστες δεν είναι προετοιμασμένοι να διαχειριστούν τις συνέπειες της αυτόνομης δράσης της Τεχνητής Νοημοσύνης στα τοπικά τους δεδομένα.

Οι ψευδαισθήσεις γίνονται λάθη σε επίπεδο συστήματος

Τα μοντέλα τεχνητής νοημοσύνης εξακολουθούν να έχουν παραισθήσεις και να παρερμηνεύουν τις οδηγίες. Συνήθως, αυτό είναι ακίνδυνο, αλλά με ενεργοποιημένες τις ενέργειες των πρακτόρων, μια παραίσθηση μπορεί να οδηγήσει στην εκτέλεση λανθασμένης εφαρμογής, στην ακούσια τροποποίηση ή διαγραφή αρχείων, στην πλοήγηση σε μη ασφαλείς ιστότοπους ή στην εκτέλεση λανθασμένων βημάτων σε μια ροή εργασίας.

Όταν η Τεχνητή Νοημοσύνη αποκτά τον φυσικό έλεγχο του λειτουργικού συστήματος, ακόμη και μικρά λάθη μπορούν να έχουν σημαντικές συνέπειες.

Εκτελείται στο παρασκήνιο, ακόμα και όταν το ξεχάσετε

Αυτήν τη στιγμή, σε αυτήν την πρώτη προεπισκόπηση, υπάρχουν μερικά γνωστά προβλήματα. Για παράδειγμα, εάν οι Ενέργειες Copilot είναι ενεργές, το σύστημα ενδέχεται να αρνηθεί να τεθεί σε αναστολή λειτουργίας ή να τερματιστεί. Μπορεί ακόμη και να δείτε προειδοποιήσεις ότι «κάποιος άλλος εξακολουθεί να χρησιμοποιεί αυτόν τον υπολογιστή».

Το γεγονός ότι ο παράγοντας συνεχίζει να εργάζεται στο παρασκήνιο χωρίς εμφανή ορατότητα μπορεί να οδηγήσει σε σύγχυση, καθυστερημένες ενημερώσεις ή παρατεταμένες διαδικασίες που επιμένουν πολύ καιρό αφότου ο χρήστης πιστεύει ότι έχουν σταματήσει.

Η συσκευή σας γίνεται ένα σύστημα πολλαπλών χρηστών χωρίς να το καταλάβετε

Η Τεχνητή Νοημοσύνη (Agentic AI) στα Windows 11 είναι μια συναρπαστική ιδέα. Αντιπροσωπεύει ένα μέλλον όπου οι υπολογιστές μπορούν να αυτοματοποιούν καθημερινές εργασίες, να βελτιστοποιούν τις ροές εργασίας και να λειτουργούν περισσότερο σαν έξυπνοι βοηθοί παρά σαν παθητικές συσκευές. Ωστόσο, στην τρέχουσα μορφή της, η λειτουργία είναι ημιτελής, πειραματική, ελαφρώς προστατευμένη και ευάλωτη σε νέους τύπους επιθέσεων.

Αυτός δεν είναι ένας συνδυασμός που ανήκει σε έναν κύριο προσωπικό υπολογιστή.

Σύναψη

Εάν είστε προγραμματιστής, ερευνητής ασφάλειας ή κάποιος που πειραματίζεται σκόπιμα με την αιχμή της τεχνητής νοημοσύνης, η ενεργοποίηση των λειτουργιών των πρακτόρων μπορεί να αξίζει να εξερευνήσετε σε ένα ελεγχόμενο περιβάλλον. Εάν είστε καθημερινός χρήστης, ειδικά εάν αποθηκεύετε προσωπικά ή επαγγελματικά αρχεία στον υπολογιστή σας, αφήστε το διακόπτη απενεργοποιημένο.

Οι κίνδυνοι είναι πραγματικοί, οι προστασίες δεν είναι ώριμες και τα οφέλη είναι ακόμη περιορισμένα. Τα Windows 11 θέτουν τα θεμέλια για αυτό που θα μπορούσε να γίνει ένα ισχυρό επίπεδο αυτοματισμού, αλλά αυτή τη στιγμή, αυτή η τεχνολογία χρειάζεται περισσότερο χρόνο πριν είναι έτοιμη για το ευρύ κοινό.