Η Anthropic προειδοποιεί ότι μικρά μοντέλα Τεχνητής Νοημοσύνης ενδέχεται μέσα στους επόμενους μήνες να αποκτήσουν τη δυνατότητα να αυτοαναπαράγονται σε συσκευές συνδεδεμένες στο Διαδίκτυο, δημιουργώντας ένα νέο πεδίο ανησυχίας για την κυβερνοασφάλεια. Σύμφωνα με την έρευνα της εταιρείας, η εξέλιξη των AI agents θα μπορούσε να καταστήσει εφικτή την αντιγραφή και τη διάδοση μοντέλων σε συσκευές καθημερινής χρήσης, χωρίς να απαιτείται η υποστήριξη μεγάλων κέντρων δεδομένων.
Η Anthropic εξετάζει το ενδεχόμενο τα συστήματα αυτά να αξιοποιούν την υπολογιστική ισχύ συσκευών όπως έξυπνοι φούρνοι και οικονομικοί αποκωδικοποιητές Android TV. Εφόσον αποκτούσαν πρόσβαση σε ευάλωτα μηχανήματα, θα μπορούσαν δυνητικά να εγκαθίστανται σε αυτά και να χρησιμοποιούν τους διαθέσιμους πόρους για να συνεχίζουν τη λειτουργία και την εξάπλωσή τους.
Όπως επισημαίνουν οι ερευνητές της Anthropic, ένας τέτοιος μηχανισμός θα ήταν δύσκολο να απενεργοποιηθεί συνολικά, καθώς δεν θα εξαρτιόταν απαραίτητα από έναν κεντρικό διακομιστή. Η εταιρεία, ωστόσο, δεν υποστηρίζει ότι έχει ήδη εμφανιστεί ένα πλήρως ανεξέλεγκτο σύστημα αυτοαναπαραγωγής. Η προειδοποίησή της αφορά τις δυνατότητες που αναπτύσσονται και τους κινδύνους που θα μπορούσαν να προκύψουν από τον συνδυασμό τους.
Η AI θα μπορούσε να εξαπλώνεται από συσκευή σε συσκευή
Στην έρευνά της, η Anthropic εξετάζει την αυτόνομη αναπαραγωγή και προσαρμογή μοντέλων Τεχνητής Νοημοσύνης, μια διαδικασία κατά την οποία ένα σύστημα θα μπορούσε να εντοπίζει κατάλληλους στόχους, να αποκτά πρόσβαση σε νέες συσκευές, να εγκαθιστά το μοντέλο και να επαναλαμβάνει τη διαδικασία χωρίς συνεχή ανθρώπινη παρέμβαση.
Η εταιρεία επισημαίνει ότι μοντέλα με έως και 30 δισεκατομμύρια παραμέτρους μπορούν ήδη να εκτελούν πολλά από τα επιμέρους βήματα που απαιτούνται για μια τέτοια διαδικασία, αν και εξακολουθούν να κάνουν λάθη όταν καλούνται να συνδυάσουν όλα τα στάδια σε μία ολοκληρωμένη ακολουθία ενεργειών.
Στις απλουστευμένες δοκιμές της Anthropic, μοντέλα με επιδόσεις αντίστοιχες ή ανώτερες από το GLM-5.2 κατάφεραν να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής. Οι ερευνητές εκτιμούν ότι, εάν τα μικρότερα μοντέλα συνεχίσουν να βελτιώνονται με τον ιστορικό ρυθμό τους, θα μπορούσαν να φτάσουν σε αντίστοιχο επίπεδο δυνατοτήτων έως το τέλος του 2026.
Η προειδοποίηση εντάσσεται στον ευρύτερο προβληματισμό για τις επιπτώσεις της AI στην κυβερνοασφάλεια. Η δυνατότητα ενός συστήματος να εκτελεί σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση δημιουργεί πρόσθετες απαιτήσεις προστασίας, ιδιαίτερα όταν συνδυάζεται με την πρόσβαση σε δίκτυα και συσκευές που δεν διαθέτουν επαρκείς μηχανισμούς ασφαλείας.
Το πείραμα της Anthropic με 15 οικονομικά Android TV boxes
Για να εξετάσουν κατά πόσο η υπολογιστική ισχύς φθηνών καταναλωτικών συσκευών θα μπορούσε να αξιοποιηθεί για την εκτέλεση μοντέλων AI, οι ερευνητές της Anthropic χρησιμοποίησαν το Gemma4-26B-A4B της Google σε ένα δίκτυο 15 οικονομικών, μη επώνυμων συσκευών Android TV.
Κάθε συσκευή διέθετε 4 GB μνήμης RAM, ποσότητα ανεπαρκή για την αυτόνομη εκτέλεση ολόκληρου του μοντέλου. Οι ερευνητές αντιμετώπισαν τον περιορισμό κατανέμοντας το μοντέλο σε μικρότερα τμήματα, τα οποία εκτελούνταν σε διαφορετικές συσκευές και συνεργάζονταν μεταξύ τους.
Το πείραμα έδειξε ότι ένα μοντέλο αυτού του μεγέθους μπορούσε να λειτουργήσει σε ένα σύνολο οικονομικών συσκευών, χωρίς να απαιτείται ένας εξειδικευμένος διακομιστής με ισχυρούς επεξεργαστές γραφικών. Η ταχύτητα εκτέλεσης, ωστόσο, ήταν χαμηλή, φτάνοντας περίπου τα 0,39 tokens ανά δευτερόλεπτο.
Η Anthropic δεν παρουσιάζει το συγκεκριμένο πείραμα ως απόδειξη ότι ένα μοντέλο μπορεί ήδη να εξαπλώνεται ανεξέλεγκτα σε οικιακές συσκευές. Το χρησιμοποιεί για να καταδείξει ότι ακόμη και φθηνός, καταναλωτικός εξοπλισμός θα μπορούσε να παρέχει την υπολογιστική ισχύ που απαιτείται για τη λειτουργία ενός μοντέλου, εφόσον οι συσκευές συνδεθούν κατάλληλα.
Το ζήτημα αποκτά μεγαλύτερη σημασία επειδή ορισμένες οικονομικές συσκευές IoT διαθέτουν περιορισμένα μέτρα ασφαλείας και ενδέχεται να μην ενημερώνονται τακτικά. Σύμφωνα με την Anthropic, αυτό θα μπορούσε να τις καταστήσει ελκυστικούς στόχους για μελλοντικές επιθέσεις που αξιοποιούν την AI.
Το σενάριο ενός «σμήνους» αυτοαναπαραγόμενων μοντέλων
Σύμφωνα με την Anthropic, μια πιθανή επίθεση τύπου «σκουληκιού» AI δεν θα βασιζόταν κατ’ ανάγκη σε ένα μόνο μοντέλο ή σε μία συγκεκριμένη στρατηγική. Αντίθετα, ένα πιο σύνθετο και ανησυχητικό σενάριο θα μπορούσε να περιλαμβάνει ένα «σμήνος» διαφορετικών μοντέλων, εγκατεστημένων σε διαφορετικούς τύπους υλικού και αξιοποιώντας πολλαπλές μεθόδους αναπαραγωγής.
Σε μια τέτοια περίπτωση, διαφορετικά μοντέλα θα μπορούσαν να αξιοποιούν τις αδυναμίες διαφορετικών συσκευών και να λειτουργούν κατανεμημένα σε πολλά σημεία ενός δικτύου. Η απουσία ενός μοναδικού κεντρικού σημείου ελέγχου θα μπορούσε να δυσκολέψει τον εντοπισμό όλων των ενεργών αντιγράφων και τη συνολική διακοπή της λειτουργίας τους.
Η Anthropic εξετάζει διαφορετικά πιθανά μοντέλα απειλής. Το ένα αφορά μικρά μοντέλα που θα αναπαράγονται μέσω της παραβίασης συσκευών και θα εκτελούνται απευθείας στο υλικό τους. Ένα άλλο αφορά ισχυρότερα συστήματα που θα μπορούσαν να στοχεύουν κέντρα δεδομένων και άλλες υποδομές με μεγαλύτερη υπολογιστική ισχύ.
Παράλληλα, οι ερευνητές εξετάζουν το ενδεχόμενο συστημάτων που θα επιχειρούσαν να αποκτήσουν πρόσβαση σε κλειδιά API ή διαπιστευτήρια, προκειμένου να χρησιμοποιούν νόμιμες υπηρεσίες υπολογιστικής ισχύος μέσω λογαριασμών τρίτων.
Η εταιρεία διευκρινίζει ότι η πραγματική μορφή μιας τέτοιας απειλής παραμένει αβέβαιη. Τα εξεταζόμενα σενάρια εκτείνονται από ένα αργό, κατανεμημένο δίκτυο που λειτουργεί σε ανεπαρκώς προστατευμένες συσκευές έως πιο ισχυρά συστήματα που θα επιχειρούσαν να παραβιάσουν καλύτερα προστατευμένες υποδομές.
Η προειδοποίηση της Anthropic για το μέλλον των AI agents
Η Anthropic εκτιμά ότι στο μέλλον θα μπορούσαν να υπάρχουν AI agents που θα λειτουργούν σε ολοένα περισσότερους τύπους υπολογιστικού εξοπλισμού, συμπεριλαμβανομένων συσκευών που δεν θα βρίσκονται υπό άμεσο ανθρώπινο έλεγχο.
Σύμφωνα με τους ερευνητές, η εμφάνιση πιο αργών μηχανισμών αυτοαναπαραγωγής θα μπορούσε να αποτελέσει προειδοποιητική ένδειξη για την ανάπτυξη ταχύτερων και αποτελεσματικότερων συστημάτων. Αυτά θα μπορούσαν δυνητικά να επιχειρούν την παραβίαση ισχυρότερων μηχανημάτων ή την υποκλοπή διαπιστευτηρίων, προκειμένου να εξασφαλίσουν πρόσθετους υπολογιστικούς πόρους.
Η προοπτική αυτή αναδεικνύει μια διαφορετική διάσταση των κινδύνων της Τεχνητής Νοημοσύνης. Το ζήτημα δεν περιορίζεται πλέον στις δυνατότητες ενός μεμονωμένου, ισχυρού μοντέλου, αλλά επεκτείνεται στο ενδεχόμενο δημιουργίας κατανεμημένων δικτύων που θα αξιοποιούν χιλιάδες διαφορετικές συσκευές.
Η Anthropic υπογραμμίζει ότι η προετοιμασία για τέτοιου είδους απειλές απαιτεί ενίσχυση της ασφάλειας των συστημάτων, αποτελεσματικότερη παρακολούθηση της δικτυακής δραστηριότητας και μηχανισμούς που θα επιτρέπουν τον εντοπισμό και την απομόνωση παραβιασμένων συσκευών.
Προς το παρόν, τα ευρήματα της εταιρείας δεν αποδεικνύουν ότι υπάρχει ένα πλήρως ανεξέλεγκτο σύστημα AI που αυτοαναπαράγεται σε εκατομμύρια οικιακές συσκευές. Δείχνουν, όμως, ότι αρκετά από τα επιμέρους τεχνολογικά βήματα που απαιτούνται για ένα τέτοιο σενάριο έχουν ήδη καταστεί εφικτά σε πειραματικές συνθήκες.
Η βασική προειδοποίηση της Anthropic είναι σαφής: καθώς οι δυνατότητες των μικρότερων μοντέλων εξελίσσονται, η κυβερνοασφάλεια θα πρέπει να προετοιμαστεί για απειλές στις οποίες η υπολογιστική ισχύς δεν θα βρίσκεται απαραίτητα συγκεντρωμένη σε λίγα μεγάλα κέντρα δεδομένων, αλλά θα μπορούσε να προέρχεται από ένα εκτεταμένο δίκτυο συνδεδεμένων συσκευών.
