Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να αποκτήσουν μέσα στους επόμενους μήνες τις δυνατότητες να αντιγράφουν εαυτόν από συσκευή σε συσκευή, αξιοποιώντας την υπολογιστική ισχύ οικιακού εξοπλισμού, προειδοποιεί η Anthropic.
Η εταιρεία περιγράφει ένα ενδεχόμενο στο οποίο μοντέλα θα μπορούσαν να εισχωρούν σε συσκευές συνδεδεμένες στο διαδίκτυο, να «αυτοαναπαράγονται» και να εξαπλώνονται χωρίς να χρειάζονται μεγάλα και δαπανηρά data centers.
Η Anthropic επισημαίνει ότι ένα τέτοιο σύστημα θα ήταν δύσκολο να απενεργοποιηθεί, καθώς δεν θα υπήρχε ένα κεντρικό σημείο από το οποίο θα μπορούσε να διακοπεί η λειτουργία του. Διευκρινίζει, πάντως, ότι δεν υπάρχει σήμερα πλήρως αυτόνομο μοντέλο που να μπορεί να αναπαράγεται ανεξέλεγκτα.
Πειράματα με οικονομικές συσκευές
Στο πλαίσιο της έρευνάς της, η εταιρεία δοκίμασε τις δυνατότητες αυτοαναπαραγωγής της ΤΝ, μεταξύ άλλων εκτελώντας το μικρό μοντέλο Gemma4-26B-A4B της Google σε δίκτυο 15 οικονομικών, μη επώνυμων συσκευών Android TV.
Σύμφωνα με την Anthropic, οι συσκευές αυτού του τύπου συχνά διαθέτουν αδύναμη ασφάλεια, γεγονός που θα μπορούσε να τις καταστήσει ευάλωτες. Ένα μοντέλο που δεν χωρά σε μία μόνο συσκευή θα μπορούσε να «σπάσει» σε μικρότερα τμήματα και να λειτουργεί κατανεμημένα σε πολλές συσκευές.
Η εταιρεία σημειώνει ότι μια τέτοια απειλή δεν θα περιοριζόταν κατ’ ανάγκη σε ένα μοντέλο ή σε μία στρατηγική. Ένα σμήνος διαφορετικών μοντέλων, σε ποικίλο εξοπλισμό και με διαφορετικούς τρόπους αναπαραγωγής, θα μπορούσε να αποτελέσει πιο ρεαλιστικό σενάριο επίθεσης.
«Δεν είναι ακόμη σαφές» πώς θα εξελιχθεί
Η Anthropic αναγνωρίζει ότι δεν είναι σαφές ποια μορφή θα μπορούσε να πάρει η αυτόνομη αυτοαναπαραγωγή μοντέλων. Περιγράφει ένα φάσμα πιθανών εξελίξεων: από ένα αργό και κατανεμημένο σύστημα που θα αξιοποιεί ευάλωτες συσκευές έως ένα ισχυρό μοντέλο κυβερνοεπιθέσεων που θα παραβιάζει γρήγορα data centers ή θα εξαπατά χρήστες για να αποκτήσει υπολογιστικούς πόρους.
Η εταιρεία εκτιμά ότι στο μέλλον θα μπορούσαν να λειτουργούν πράκτορες ΤΝ σε κάθε είδους συσκευή, ακόμη και σε εξοπλισμό που δεν βρίσκεται υπό ανθρώπινο έλεγχο. Προειδοποιεί επίσης ότι η εμφάνιση αργών συστημάτων αυτοαναπαραγωγής θα μπορούσε να αποτελεί ένδειξη για την ανάπτυξη ταχύτερων και πιο επιθετικών μοντέλων, ικανών να παραβιάζουν καλύτερα προστατευμένα συστήματα ή να υποκλέπτουν κλειδιά πρόσβασης σε ψηφιακές υπηρεσίες.
Οι επισημάνσεις εντάσσονται στην ευρύτερη συζήτηση για τους κινδύνους από την ταχεία πρόοδο της τεχνητής νοημοσύνης. Ερευνητές και στελέχη της Anthropic και της OpenAI έχουν επανειλημμένα ζητήσει ισχυρότερες δικλίδες ασφαλείας και μέτρα ελέγχου του ρυθμού ανάπτυξης της τεχνολογίας.
naftemporiki.gr
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου