Ο Βιτάλικ Μπουτερίν προειδοποιεί ότι οι πράκτορες τεχνητής νοημοσύνης μπορούν να κλέψουν δεδομένα και να τροποποιήσουν ρυθμίσεις χωρίς τη γνώση του χρήστη

Ethereum Συνιδρυτής Vitalik Buterin έχει προειδοποιήσει ότι τα σύγχρονα συστήματα τεχνητής νοημοσύνης ενέχουν σοβαρούς κινδύνους για την προστασία της ιδιωτικής ζωής και την ασφάλεια και έχει ζητήσει στροφή σε υποδομές τεχνητής νοημοσύνης με προτεραιότητα την τοπική κοινωνία. 

Σε  λεπτομερή ανάρτηση blog, Ο Buterin δήλωσε ότι τα εργαλεία τεχνητής νοημοσύνης που βασίζονται στο cloud δίνουν σε εξωτερικούς διακομιστές πρόσβαση σε ευαίσθητα δεδομένα χρηστών και ότι τα νεότερα συστήματα πρακτόρων τεχνητής νοημοσύνης μπορούν να αναλάβουν ενέργειες χωρίς την επιβεβαίωση του χρήστη, συμπεριλαμβανομένης της τροποποίησης των ρυθμίσεων του συστήματος και της αποστολής δεδομένων σε εξωτερικούς διακομιστές χωρίς καμία ορατή ένδειξη στον χρήστη.

Ποιους κινδύνους ασφαλείας προειδοποιεί η βουτερίνη;

Οι ανησυχίες του Μπουτέριν ξεπερνούν τα γενικά ζητήματα απορρήτου. Εντόπισε συγκεκριμένους, τεκμηριωμένους κινδύνους που συνδέονται με τον τρόπο που λειτουργούν οι πράκτορες της Τεχνητής Νοημοσύνης στην πράξη.

Οι ερευνητές ασφαλείας έχουν ήδη καταδείξει αρκετές από αυτές τις ευπάθειες σε πραγματικές συνθήκες:

• Ένας πράκτορας τεχνητής νοημοσύνης έλαβε οδηγίες να συνοψίσει ιστοσελίδες, μία από τις οποίες ήταν κακόβουλη. Η σελίδα έδωσε εντολή στον πράκτορα να κατεβάσει και να εκτελέσει ένα σενάριο κελύφους, δίνοντας σε ένα εξωτερικό μέρος τον έλεγχο του συστήματος.
• Διαπιστώθηκε ότι ορισμένα εργαλεία πρακτόρων εκτελούν σιωπηλά αιτήματα δικτύου που έστελναν δεδομένα χρήστη σε εξωτερικούς διακομιστές χωρίς καμία ειδοποίηση προς τον χρήστη.
• Περίπου το 15% των δεξιοτήτων των πρακτόρων που εξετάστηκαν από τους ερευνητές περιείχαν κακόβουλες οδηγίες.

Ο Μπουτερίν επεσήμανε επίσης κινδύνους που είναι πιο δύσκολο να εντοπιστούν. Ορισμένα μοντέλα ενδέχεται να περιέχουν κρυφές κερκόπορτες, λειτουργίες ενσωματωμένες σε ένα μοντέλο που ενεργοποιούνται υπό συγκεκριμένες συνθήκες και αναγκάζουν το σύστημα να ενεργεί προς το συμφέρον του προγραμματιστή και όχι του χρήστη. 

Σημείωσε επίσης ότι τα περισσότερα μοντέλα που περιγράφονται ως ανοιχτού κώδικα είναι στην πραγματικότητα μόνο «ανοιχτά βάρη», που σημαίνει ότι οι παράμετροι του μοντέλου είναι κοινές, αλλά η πλήρης εσωτερική δομή και η διαδικασία εκπαίδευσης όχι. Αυτό αφήνει περιθώριο για άγνωστη συμπεριφορά που οι χρήστες δεν μπορούν να επαληθεύσουν ανεξάρτητα.

Ποια είναι η διαφορά μεταξύ ενός Chatbot και ενός πράκτορα τεχνητής νοημοσύνης;

Ο Μπουτερίν χαρακτήρισε την τρέχουσα στιγμή ως ένα σημείο μετάβασης στον τρόπο χρήσης της Τεχνητής Νοημοσύνης. Τα πρώτα εργαλεία Τεχνητής Νοημοσύνης λειτουργούσαν ως chatbots: ένας χρήστης θέτει μια ερώτηση και το μοντέλο επιστρέφει μια απάντηση. Οι πράκτορες είναι διαφορετικοί. Ένας χρήστης δίνει στο σύστημα μια εργασία και στη συνέχεια λειτουργεί ανεξάρτητα, μερικές φορές για μεγάλα χρονικά διαστήματα, χρησιμοποιώντας δεκάδες ή εκατοντάδες εργαλεία για να ολοκληρώσει αυτήν την εργασία.

Αυτή η μετατόπιση διευρύνει σημαντικά την επιφάνεια κινδύνου. Ένας παράγοντας που μπορεί να περιηγηθεί στον ιστό, να διαβάσει αρχεία, να στείλει μηνύματα και να τροποποιήσει τις ρυθμίσεις του συστήματος έχει πολύ περισσότερες ευκαιρίες να προκαλέσει βλάβη, είτε μέσω ενός ελαττώματος ασφαλείας, μιας προσπάθειας χειραγώγησης είτε ενός απλού λάθους, από ένα σύστημα που απαντά μόνο σε ερωτήσεις.

Πώς ο Μπουτερίν δημιούργησε το δικό του τοπικό σύστημα τεχνητής νοημοσύνης

Ο Μπουτέριν δήλωσε ότι έχει ήδη σταματήσει να χρησιμοποιεί εργαλεία τεχνητής νοημοσύνης που βασίζονται στο cloud. Περιέγραψε την προσωπική του εγκατάσταση ως «αυτοκυρίαρχη, τοπική, ιδιωτική και ασφαλή», βασισμένη σε τρεις βασικές αρχές: όλες οι συμπερασματολογικές διαδικασίες τεχνητής νοημοσύνης εκτελούνται σε τοπικό υλικό, όλα τα αρχεία αποθηκεύονται τοπικά και κάθε διεργασία εκτελείται μέσα σε ένα sandbox.

Ένα sandbox, σε αυτό το πλαίσιο, είναι ένα απομονωμένο υπολογιστικό περιβάλλον που περιορίζει την πρόσβαση ενός προγράμματος. Ο Buterin χρησιμοποιεί ένα εργαλείο που ονομάζεται bubblewrap, το οποίο του επιτρέπει να εκτελεί εργαλεία τεχνητής νοημοσύνης σε ένα sandbox σε επίπεδο καταλόγου όπου το πρόγραμμα μπορεί να δει μόνο αρχεία που επιτρέπει ρητά, με ελέγχους στην πρόσβαση σε θύρες δικτύου και στην πρόσβαση σε ήχο.

Ανακαλύψτε πολλά υποσχόμενα έργα...

Πολλά υποσχόμενα έργα...

(Διαφήμιση)

Το άρθρο συνεχίζεται...

Δοκιμή βουτερίνης υλικού για τοπική συμπερασματολογία τεχνητής νοημοσύνης

Ο Buterin δοκίμασε αρκετές ρυθμίσεις υλικού για να βρει τι λειτουργεί για την τοπική εκτέλεση μοντέλων τεχνητής νοημοσύνης. Τα αποτελέσματα διέφεραν σημαντικά:

• Ένας φορητός υπολογιστής με GPU NVIDIA 5090 πέτυχε περίπου 90 διακριτικά ανά δευτερόλεπτο χρησιμοποιώντας το μοντέλο Qwen3.5:35B
• Ένας επεξεργαστής AMD Ryzen AI Max Pro με 128 GB ενοποιημένης μνήμης έφτασε περίπου τα 51 tokens ανά δευτερόλεπτο.
• Το DGX Spark, που διατίθεται στην αγορά ως υπερυπολογιστής τεχνητής νοημοσύνης για επιτραπέζιους υπολογιστές, πέτυχε περίπου 60 tokens ανά δευτερόλεπτο.

Ο Μπουτερίν όρισε τα 50 tokens ανά δευτερόλεπτο ως το προσωπικό του ελάχιστο για ωφέλιμη απόδοση. Περιέγραψε οτιδήποτε πιο αργό ως πολύ εκνευριστικό για πρακτική χρήση και είπε ότι τα 90 tokens ανά δευτερόλεπτο είναι το ιδανικό. Σημείωσε ότι το DGX Spark είχε χαμηλότερη απόδοση σε σχέση με το μάρκετινγκ, παράγοντας χαμηλότερες ταχύτητες από μια καλή GPU φορητού υπολογιστή, ενώ απαιτούσε επίσης πρόσθετη ρύθμιση δικτύου για σύνδεση από ξεχωριστή συσκευή εργασίας.

Η στοίβα λογισμικού του επικεντρώνεται στον llama-server, μια διεργασία παρασκηνίου που εκτελείται τοπικά και εκθέτει μια θύρα στον υπολογιστή του χρήστη, την οποία μπορούν να καλέσουν άλλες εφαρμογές. Αυτό επιτρέπει σε οποιοδήποτε λογισμικό που έχει κατασκευαστεί για μοντέλα OpenAI ή Anthropic να ανακατευθύνεται σε ένα τοπικό μοντέλο. Χρησιμοποιεί επίσης το llama-swap για να διευκολύνει την εναλλαγή μεταξύ μοντέλων.

Τι σημαίνει αυτό για τα κρυπτονομίσματα;

Οι ανησυχίες του Buterin σχετικά με την ασφάλεια της τεχνητής νοημοσύνης συνδέονται άμεσα με τον τρόπο που πιστεύει ότι η τεχνητή νοημοσύνη θα πρέπει να χρησιμοποιείται μέσα στα κρυπτονομίσματα. Σε σχόλια που δημοσιεύθηκαν στον λογαριασμό του στο Farcaster τον Μάρτιο του 2026, περιέγραψε μια συγκεκριμένη τεχνική ροή εργασίας για συναλλαγές με τη βοήθεια της τεχνητής νοημοσύνης.

Η θέση του δεν είναι ότι η Τεχνητή Νοημοσύνη θα πρέπει να διαχειρίζεται κεφάλαια. Είναι ότι η Τεχνητή Νοημοσύνη θα πρέπει να προτείνει ενέργειες, με ανεξάρτητη επαλήθευση και ανθρώπινη επιβεβαίωση να βρίσκονται πάνω από αυτές τις προτάσεις. Για συναλλαγές υψηλής αξίας, περιέγραψε μια διαδικασία τριών βημάτων: η Τεχνητή Νοημοσύνη προτείνει ένα σχέδιο, ένας τοπικός πελάτης προσομοιώνει την εκτέλεση αυτού του σχεδίου στην αλυσίδα και ο χρήστης εξετάζει τόσο την περιγραφή σε απλή γλώσσα όσο και το προσομοιωμένο αποτέλεσμα πριν επιβεβαιώσει.

Ένας τοπικός light client επαληθεύει τα δεδομένα blockchain χωρίς να κατεβάζει ολόκληρη την αλυσίδα. Ο συνδυασμός αυτού με ένα επίπεδο τεχνητής νοημοσύνης σημαίνει ότι οι χρήστες μπορούν να δουν ακριβώς τι θα κάνει μια συναλλαγή πριν μεταδοθεί στο δίκτυο, χωρίς να βασίζονται σε μια διεπαφή τρίτου μέρους.

Γιατί έχει σημασία η αφαίρεση των διεπαφών DApp

Οι περισσότεροι χρήστες κρυπτονομισμάτων αλληλεπιδρούν με αποκεντρωμένες εφαρμογές μέσω frontend που βασίζονται σε προγράμματα περιήγησης. Αυτές οι διεπαφές ιστορικά αποτελούν σημαντική επιφάνεια επίθεσης. Οι παραβιάσεις frontend, οι κακόβουλες ενέσεις σεναρίων και τα ψεύτικα μηνύματα έγκρισης έχουν οδηγήσει σε απώλειες εκατοντάδων εκατομμυρίων δολαρίων τα τελευταία χρόνια.

Ο Μπουτερίν υποστήριξε ότι τα πορτοφόλια που βασίζονται στην τεχνητή νοημοσύνη θα μπορούσαν να καταργήσουν εντελώς αυτές τις διεπαφές. Εάν ένας χρήστης δηλώσει τι θέλει να κάνει με απλή γλώσσα και το πορτοφόλι συναρμολογήσει και προσομοιώσει απευθείας τη συναλλαγή, δεν υπάρχει ιστότοπος τρίτου μέρους για να παραβιαστεί. 

«Η αφαίρεση των UI του DApp από την εικόνα λύνει πλήρως έναν μεγάλο αριθμό επιθέσεων, τόσο για κλοπή όσο και για προστασία της ιδιωτικής ζωής», έγραψε.

Για λειτουργίες χαμηλότερου στοιχήματος, ο Buterin βλέπει περιθώρια για περισσότερο αυτοματισμό. Ένα πορτοφόλι τεχνητής νοημοσύνης θα μπορούσε εύλογα να χειριστεί την παρακολούθηση των προτύπων συναλλαγών για ασυνήθιστη δραστηριότητα, προτείνοντας χρεώσεις φυσικού αερίου με βάση τις τρέχουσες συνθήκες δικτύου, δρομολογώντας ανταλλαγές token μέσω αποτελεσματικών διαδρομών και επισημαίνοντας ύποπτες αλληλεπιδράσεις συμβολαίων πριν από την έγκριση. Αυτές είναι εργασίες όπου τα σφάλματα είναι ανακτήσιμα και όπου ο αυτοματισμός μειώνει την πολυπλοκότητα για τους μη τεχνικούς χρήστες.

Σύμφωνα με τον Buterin, τα μεγάλα γλωσσικά μοντέλα δεν πρέπει να εμπιστεύονται ανεξέλεγκτη εξουσία πάνω σε μεγάλα χρηματικά ποσά. Οι LLM παράγουν απαντήσεις με βάση στατιστικά μοτίβα, όχι ντετερμινιστική λογική. Μπορούν να παρερμηνεύσουν οδηγίες ή να χειραγωγηθούν μέσω άμεσης έγχυσης, μιας τεχνικής όπου προσεκτικά σχεδιασμένες εισόδους προκαλούν στο μοντέλο να συμπεριφέρεται με ακούσιους τρόπους. Κάθε επίπεδο στην προτεινόμενη ροή εργασίας προσθέτει έναν ανεξάρτητο έλεγχο ειδικά για την αποτροπή αυτού του είδους της αποτυχίας.

Γιατί η αγορά πρακτόρων τεχνητής νοημοσύνης καθιστά αυτούς τους κινδύνους πιο επείγοντες

Οι ανησυχίες που εξέφρασε ο Μπουτερίν δεν είναι υποθετικές. Οι εκτιμήσεις του κλάδου τοποθετούν την αγορά πρακτόρων τεχνητής νοημοσύνης περίπου σε $ 8 δισ. το 2025, με προβλέψεις που υποδηλώνουν ανάπτυξη άνω των 48 δισεκατομμυρίων δολαρίων έως το 2030, που αντιπροσωπεύει ετήσιο ρυθμό ανάπτυξης άνω του 43%. Καθώς όλο και περισσότερο λογισμικό κατασκευάζεται γύρω από αυτόνομα συστήματα Τεχνητής Νοημοσύνης που λειτουργούν με μειωμένη ανθρώπινη εποπτεία, τα κενά ασφαλείας που εντόπισε γίνονται όλο και πιο δύσκολο να αγνοηθούν σε μεγάλη κλίμακα.

Συμπέρασμα

Οι προειδοποιήσεις του Buterin υποστηρίζονται από τεκμηριωμένη έρευνα. Τα τρωτά σημεία ασφαλείας στους πράκτορες τεχνητής νοημοσύνης έχουν ήδη αποδειχθεί σε πραγματικές συνθήκες και η μετάβαση από τα chatbot σε αυτόνομοι πράκτορες καθιστά αυτούς τους κινδύνους πιο δύσκολο να περιοριστούν. 

Η ρύθμιση με προτεραιότητα τοπικά και η ροή εργασίας τριών βημάτων του πορτοφολιού δεν αποτελούν απόρριψη της Τεχνητής Νοημοσύνης. Είναι προσπάθειες να τη χρησιμοποιήσει χωρίς να παραδώσει τον έλεγχο των δεδομένων ή των κεφαλαίων. Καθώς οι πράκτορες της Τεχνητής Νοημοσύνης γίνονται πιο ικανοί, το ερώτημα του ποιος ελέγχει πραγματικά τις ενέργειές τους γίνεται όλο και πιο δύσκολο να αγνοηθεί.

Υποστηρικτικό υλικό

1. Άρθρο του Vitalik Buterin: Η αυτοδύναμη / τοπική / ιδιωτική / ασφαλής ρύθμιση του LLM μου, Απρίλιος 2026

2. Βιτάλικ Μπουτερίν στο Farcaster: Δημοσίευση την 5η Μαρτίου

3. Έκθεση από την BCC ResearchΗ αγορά πρακτόρων τεχνητής νοημοσύνης θα αυξηθεί κατά 43.3% ετησίως έως το 2030