Η τεχνητή νοημοσύνη μπορεί να εξελιχθεί στον πιο επικίνδυνο «ψηφιακό σύμβουλο» για όσους επιδιώκουν μαζικές επιθέσεις.
Αυτή είναι η ανησυχητική εικόνα που σκιαγραφεί εκτενής έρευνα της Wall Street Journal, σύμφωνα με την οποία ορισμένα από τα ισχυρότερα chatbot του κόσμου έχουν, κατά καιρούς, δώσει αναλυτικές οδηγίες για την παρασκευή δηλητηρίων και βιολογικών όπλων, ακόμη και σε χρήστες που δήλωναν πρόθεση να σκοτώσουν ανθρώπους.
Η έρευνα περιγράφει ένα συνεχές «κυνηγητό» μεταξύ των εταιρειών AI, οι οποίες από τη μία ενισχύουν τις δυνατότητες των μοντέλων τους και από την άλλη προσπαθούν να κλείσουν τα κενά ασφαλείας που επιτρέπουν την παράκαμψη των περιορισμών.
ChatGPT και οδηγίες για βιολογικά όπλα
Σύμφωνα με την Wall Street Journal, μετά την αναβάθμιση του ChatGPT το περασμένο καλοκαίρι, εκατοντάδες χρήστες επιχείρησαν να αποσπάσουν πληροφορίες για την κατασκευή και χρήση βιολογικών όπλων ή ισχυρών δηλητηρίων.
Πηγές με γνώση των εσωτερικών ελέγχων της OpenAI αναφέρουν ότι σε ορισμένες περιπτώσεις το chatbot παρείχε βήμα προς βήμα οδηγίες, τις οποίες ειδικοί στη βιολογία και στην αντιμετώπιση της τρομοκρατίας χαρακτήρισαν ιδιαίτερα ακριβείς και δυνητικά θανατηφόρες.
Η εταιρεία διέγραψε τους σχετικούς λογαριασμούς, χωρίς όμως –σύμφωνα με το δημοσίευμα– να ενημερώσει τις διωκτικές αρχές.
Δεν υπάρχει υποχρέωση ενημέρωσης των αρχών
Το δημοσίευμα επισημαίνει ότι στις Ηνωμένες Πολιτείες δεν υπάρχει σήμερα ομοσπονδιακή νομοθεσία που να υποχρεώνει τις εταιρείες τεχνητής νοημοσύνης είτε να μπλοκάρουν όλες αυτές τις αναζητήσεις είτε να τις αναφέρουν στις αρχές.
Η ευθύνη παραμένει σε μεγάλο βαθμό στις ίδιες τις εταιρείες, οι οποίες αποφασίζουν πότε μια συνομιλία αποτελεί πραγματική απειλή.
Η OpenAI δήλωσε στη Wall Street Journal ότι εκπαιδεύει τα μοντέλα της να απορρίπτουν αιτήματα που θα μπορούσαν να προκαλέσουν βλάβη σε ανθρώπους και ότι πραγματοποιεί εκτεταμένους ελέγχους ασφαλείας πριν από κάθε νέα έκδοση.
Όπως αναφέρει η εταιρεία, ενημερώνει τις αρχές μόνο όταν διαπιστώνει «άμεσο και αξιόπιστο κίνδυνο» για τρίτους.
Ανησυχία στον Λευκό Οίκο και το Πεντάγωνο
Η αυξανόμενη ικανότητα των μοντέλων AI να παρέχουν εξειδικευμένες επιστημονικές πληροφορίες έχει προκαλέσει ανησυχία τόσο στον Λευκό Οίκο όσο και στο Πεντάγωνο.
Σύμφωνα με το δημοσίευμα, ήδη από την περίοδο της κυβέρνησης Μπάιντεν πραγματοποιούνταν συζητήσεις για τον κίνδυνο η τεχνητή νοημοσύνη να λειτουργήσει ως «εγχειρίδιο» κατασκευής βιολογικών όπλων.
Η κυβέρνηση Τραμπ φέρεται πλέον να εξετάζει αυστηρότερη εποπτεία των προηγμένων μοντέλων, ενώ το αμερικανικό υπουργείο Εμπορίου είχε πρόσφατα επιβάλει προσωρινούς περιορισμούς σε δύο μοντέλα της Anthropic, μέχρι να διορθωθούν τρόποι παράκαμψης των δικλίδων ασφαλείας.
Τα κενά ασφαλείας παραμένουν
Ερευνητές ασφαλείας υποστηρίζουν ότι, παρά τις βελτιώσεις, κανένα μοντέλο δεν είναι πλήρως προστατευμένο απέναντι σε επίμονους χρήστες.
Η Amy Chang, επικεφαλής έρευνας απειλών AI στη Cisco, δήλωσε ότι οι ερευνητές της κατάφεραν μέσα από λίγες μόνο διαδοχικές ερωτήσεις να παρακάμψουν τους περιορισμούς μεγάλων chatbot και να αποσπάσουν επικίνδυνες πληροφορίες.
Παράλληλα, οι εταιρείες βρίσκονται αντιμέτωπες με ένα δύσκολο δίλημμα: υπερβολικά αυστηροί περιορισμοί μπορεί να εμποδίζουν και νόμιμη επιστημονική έρευνα, όπως η μελέτη παθογόνων μικροοργανισμών ή η ανάπτυξη νέων φαρμάκων και εμβολίων.
Προειδοποιήσεις για το μέλλον
Ειδικοί στην εθνική ασφάλεια εκτιμούν ότι σήμερα η τεχνητή νοημοσύνη μπορεί ήδη να βοηθήσει άτομα με επιστημονικές γνώσεις να οργανώσουν μικρότερης κλίμακας βιολογικές επιθέσεις.
Ο μεγαλύτερος φόβος αφορά όμως το μέλλον: ότι τρομοκρατικές οργανώσεις ή εχθρικά κράτη θα αξιοποιήσουν ολοένα ισχυρότερα μοντέλα AI ως «ψηφιακούς συμβούλους», επιταχύνοντας την ανάπτυξη πολύ πιο σύνθετων και καταστροφικών βιολογικών όπλων.
Την ίδια στιγμή, στο Κογκρέσο έχουν κατατεθεί διακομματικές προτάσεις νόμου που θα υποχρεώνουν τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν στις αρμόδιες αρχές ενδείξεις για χρήστες που αναζητούν πληροφορίες σχετικές με όπλα μαζικής καταστροφής ή άλλες σοβαρές απειλές.
naftemporiki.gr
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου