Δεν χρειάζεται η Τεχνητή Νοημοσύνη (AI) να αποκτήσει συνείδηση, να στραφεί εναντίον των δημιουργών της ή να φτάσει σε κάποιο κινηματογραφικό σημείο «εξέγερσης των μηχανών» για να αρχίσει να δοκιμάζει τα όρια του ανθρώπινου ελέγχου. Τις τελευταίες ημέρες, άλλωστε, η συζήτηση έχει φουντώσει ξανά, και αυτή τη φορά οι προειδοποιήσεις έρχονται από ορισμένους από τους ίδιους τους ανθρώπους που βρίσκονται στην κορυφή της κούρσας της ΤΝ: μεγάλοι παίκτες του κλάδου μιλούν πλέονανοιχτά για την ανάγκη να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, ώστε οι μηχανισμοί ασφαλείας να προλάβουν τις δυνατότητές τους. Μέσα σε αυτό το κλίμα, δύο Έλληνες επιστήμονες μιλούν στο enikos.gr για τα όρια, τους κινδύνους και τις μεγάλες προκλήσεις που συνοδεύουν την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης.
Του Νίκου Παγουλάτου
Ο Μανόλης Κουμπαράκης, Καθηγητής Τεχνητής Νοημοσύνης στο Τμήμα Πληροφορικής και Τηλεπικοινωνιών του ΕΚΠΑ, περιγράφει το ενδεχόμενο ένας κύκλος αυτοβελτίωσης να συμπιεστεί κάποτε από εβδομάδες και μήνες σε ημέρες ή ώρες, δηλαδή σε «πολύ λίγο χρόνο για να παρέμβει ο άνθρωπος». Από την πλευρά του, ο Ιωάννης Πήτας, Κύριος Ερευνητής Τμήματος Πληροφορικής ΑΠΘ και ΕΚΕΤΑ/ΙΠΤΗΛ, Πρόεδρος της Διεθνούς Ακαδημίας Διδακτορικών Σπουδών στην Τεχνητή Νοημοσύνη (AIDA), στρέφει το βλέμμα του και προς μια άλλη κατεύθυνση: «Ο κίνδυνος της απώλειας ελέγχου, όχι μόνον λόγω της εξυπνάδας των μηχανών αλλά λόγω της πνευματικής μαλθακότητάς, μας είναι υπαρκτός».
Ανάμεσα στα δύο πεδία, βρίσκεται ίσως το πιο ουσιαστικό ερώτημα της εποχής μας για την ΤΝ: καθώς οι μηχανές περνούν από το να απαντούν στις ερωτήσεις μας στο να ενεργούν για λογαριασμό μας, ή και να ξεφεύγουν του ελέγχου μας, για πόσο ακόμη ο άνθρωπος θα παραμένει πραγματικά μέσα στον κύκλο των αποφάσεων;
Ποιος θα επιβλέπει την Τεχνητή Νοημοσύνη;
Η ιδέα μιας Διεθνούς Επιτροπής ΤΝ μοιάζει, εκ πρώτης όψεως, σχεδόν αυτονόητη και απαραίτητη. Η εφαρμογή της, όμως, είναι πολύ δυσκολότερη. Τα μοντέλα AI αναπτύσσονται από ιδιωτικές εταιρείες και ερευνητικά κέντρα, χρησιμοποιούνται ταυτόχρονα σε δεκάδες χώρες και εξελίσσονται με μια ταχύτητα που δύσκολα ακολουθεί η νομοθεσία.
Για τον Ιωάννη Πήτα, το πρώτο καθήκον ενός τέτοιου διεθνούς μηχανισμού θα έπρεπε να είναι «η επιστημονική αξιολόγηση κινδύνων, με βάση την πλήρη πληροφόρηση για το κάθε συμβάν». Θα ακολουθούσαν «η αντικειμενική ενημέρωση του διεθνούς κοινού, η ρύθμιση της ΤΝ και η παραγωγή standards», με προτεραιότητα στις περισσότερο επικίνδυνες τεχνολογίες και εφαρμογές, όπως εκείνες που σχετίζονται με την κυβερνοασφάλεια και την παραπληροφόρηση.
Υπάρχει, ωστόσο, το εμπόδιο της γεωπολιτικής σκακιέρας. «Με βάση την τρέχουσα διεθνή πρακτική και γεωπολιτική κατάσταση», όπως η αντιπαλότητα μεταξύ ΗΠΑ – Κίνας, «το μόνο που μπορούμε να ελπίσουμε είναι να συνεργαστούν εταιρείες και κυβερνήσεις για την υλοποίηση των ρυθμίσεων αυτών», σημειώνει.
Σχετικά μ’ αυτό, ο Μανόλης Κουμπαράκης προσθέτει μια κρίσιμη προϋπόθεση: ένας διεθνής μηχανισμός δεν αρκεί να παρατηρεί και να συμβουλεύει. Θα πρέπει να συμμετέχουν σε αυτόν «κυβερνήσεις και ειδικοί από όλες τις χώρες που έχουν σημαντική παρουσία στο χώρο της ΤΝ», με προηγούμενα όπως η Διεθνής Υπηρεσία Ατομικής Ενέργειας, και -κυρίως- «θα πρέπει να διαθέτει δεσμευτικές αρμοδιότητες, αλλιώς δεν θα είναι χρήσιμος».
Η εποπτεία, κατά τον ίδιο, δεν μπορεί να είναι ίδια για κάθε σύστημα ΤΝ. «Θα πρέπει να διαφοροποιείται ανάλογα με τις δυνατότητες ενός συστήματος», εξηγεί, επισημαίνοντας ότι αντίστοιχη λογική υπάρχει ήδη στο AI Act της Ευρωπαϊκής Ένωσης.
Το ζητούμενο, επομένως, δεν είναι απλώς η δημιουργία ακόμη ενός διεθνούς θεσμού. Είναι αν ένας τέτοιος θεσμός θα μπορεί να γνωρίζει τι πραγματικά συμβαίνει στα πλέον προηγμένα συστήματα, να αξιολογεί τον κίνδυνο αρκετά γρήγορα και, όταν χρειάζεται, να έχει τη δυνατότητα να παρέμβει.
Το AI όπως η πυρηνική τεχνολογία
Την αναλογία με την πυρηνική ενέργεια φέρνει στο τραπέζι ο κ. Πήτας, καθώς πρόκειται για μια τεχνολογία τεράστιων δυνατοτήτων, αλλά και δυνητικά τεράστιων κινδύνων, η οποία απαιτεί διεθνείς κανόνες και μηχανισμούς εποπτείας. Για τον ίδιο, ωστόσο, η ρύθμιση της ΤΝ είναι πολύ πιο σύνθετη.
Οι λόγοι είναι πολλοί: τα γεωπολιτικά και οικονομικά συμφέροντα, η μαζική χρήση της τεχνολογίας, το εύρος των εφαρμογών της, η ταχύτητα της εξέλιξής της, η επιστημονική δυσκολία της ίδιας της ρύθμισης, αλλά και αυτό που ο ίδιος περιγράφει ως «αδιαφορία ή ανικανότητα πολλών κυβερνήσεων» να παρακολουθήσουν τις εξελίξεις.
Μέσα σε αυτό το πλαίσιο είναι ιδιαίτερα επικριτικός απέναντι στην κατεύθυνση που έχει πάρει η ευρωπαϊκή νομοθεσία. Κατά την εκτίμησή του, το AI Act «τείνει να γίνει τιμωρητικό, αντιπαραγωγικό, γρήγορα ξεπερασμένο και μη εφαρμόσιμο».
Αντί για ένα σύστημα που στηρίζεται πρωτίστως στην τιμωρία, προκρίνει ένα διεθνές πλαίσιο που «θα χρησιμοποιεί κυρίως κίνητρα, με στόχο αφενός να ρυθμίζεται ο κίνδυνος κάθε εφαρμογής και αφετέρου να μεγιστοποιούνται τα οφέλη της ΤΝ». Το πλαίσιο αυτό, όπως εξηγεί στο enikos.gr, θα πρέπει να συμβάλει στη δημιουργία μιας υγιούς και λειτουργικής -και, υπό τις σημερινές συνθήκες, αναγκαστικά καπιταλιστικής- αγοράς Τεχνητής Νοημοσύνης, ξεπερνώντας τη σημερινή «αναρχία» και τη μαζική ιδιοποίηση πόρων άλλων ανθρώπων και φορέων.
Ο στόχος, σύμφωνα με τον κ. Πήτα, δεν είναι να επιλέξουμε ανάμεσα στην ανάπτυξη και στην ηθική. Είναι να φτάσουμε σε μια «“πλούσια και έντιμη” ανθρωπότητα» και όχι σε μια «“έντιμη και φτωχή” ή “ανέντιμη και πλούσια”».
Alignment Problem: Ποιανού τις αξίες θα ακολουθήσει η μηχανή;
Το πρόβλημα γίνεται ακόμη πιο σύνθετο, όταν από το ποιος ελέγχει την ΤΝ περάσουμε στο τι ακριβώς σημαίνει «έλεγχος».
Στην έρευνα της Τεχνητής Νοημοσύνης υπάρχει ένας όρος που βρίσκεται στον πυρήνα αυτής της συζήτησης: το Alignment Problem. Με απλά λόγια, αφορά το πώς διασφαλίζεται ότι οι στόχοι και οι πράξεις ενός ολοένα πιο αυτόνομου συστήματος παραμένουν ευθυγραμμισμένοι με όσα πραγματικά θέλει ο άνθρωπος.
«Οι έξυπνες μηχανές γενικά ακολουθούν στόχους που τους έχουν θέσει οι σχεδιαστές τους», εξηγεί ο Πήτας. Αυτό όμως δεν σημαίνει ότι ο τρόπος με τον οποίο θα επιχειρήσουν να τους πετύχουν είναι πάντοτε εκείνος που είχε κατά νου ο δημιουργός τους.
Αν, για παράδειγμα, δοθεί σε ένα σύστημα ένας πολύ γενικός στόχος, όπως «προσπάθησε να σπάσεις ένα τραπεζικό σύστημα ασφάλειας με κάθε τρόπο», οι τεράστιες δυνατότητες αναζήτησης λύσεων μπορεί να το οδηγήσουν σε «πρωτότυπες λύσεις» που ενδέχεται να είναι «ανήθικες ή παράνομες», λέει στο enikos.gr
Ωστόσο, όσο μεγαλώνουν τα συστήματα αυτά, τόσο πιο δύσκολο γίνεται το πρόβλημα: «Τα συστήματα ΤΝ γίνονται ταχύτατα όλο και πιο μεγάλα και επομένως δυσνόητα και δυσκολότερο να ελεγχθούν». Η απάντηση, κατά τον ίδιο, είναι μια «τεράστια παγκόσμια ερευνητική προσπάθεια», ώστε η ανάπτυξή τους να συμβαδίζει με την επιστημονική κατανόηση και τον έλεγχό τους.
Ο κ. Κουμπαράκης διευρύνει το ζήτημα πέρα από την καθαρά τεχνική του διάσταση. «Το πρόβλημα της ευθυγράμμισης είναι πολύ δύσκολο και χρήζει περισσότερης έρευνας», επισημαίνει, υπογραμμίζοντας ότι απασχολεί τόσο τα πανεπιστήμια όσο και τους ερευνητές των μεγάλων εταιρειών. Και κάνει μια σημαντική διάκριση: «Η ευθυγράμμιση είναι αναγκαία για να έχουμε ασφαλή μοντέλα, αλλά δεν είναι αρκετή».
Γιατί ακόμη κι αν μάθουμε να ευθυγραμμίζουμε μια μηχανή με ανθρώπινες αξίες, σημειώνει το enikos.gr, παραμένει μια φαινομενικά απλή ερώτηση που αναζητά μια δύσκολη απάντηση: με ποιανού τις αξίες;
«Δεδομένων των διαφορετικών αξιακών συστημάτων των ανθρώπων, αυτά θα κληρονομηθούν από τα μοντέλα που αναπτύσσονται από αυτούς», τονίζει ο Κουμπαράκης, χρησιμοποιώντας ως παράδειγμα το DeepSeek και τον τρόπο με τον οποίο αντιμετωπίζει ερωτήσεις σχετικά με τα γεγονότα στην πλατεία Τιενανμέν το 1989, όταν οι κινεζικές αρχές κατέστειλαν βίαια τις μαζικές αντικυβερνητικές διαδηλώσεις που είχαν ξεσπάσει στο Πεκίνο.
Το Alignment Problem, έτσι, ξεπερνά τα όρια ενός αμιγώς τεχνολογικού ζητήματος και αγγίζει ένα πολύ βαθύτερο, ανθρώπινο ερώτημα: ακόμη και αν καταφέρουμε να κάνουμε μια μηχανή να ακολουθεί πιστά τις αξίες που της δώσαμε, πρέπει πρώτα να αποφασίσουμε ποιες είναι αυτές οι αξίες – και, κυρίως, ποιος έχει το δικαίωμα να τις επιλέξει.
Η αυτοβελτίωση και το σημείο χωρίς επιστροφή
Ακόμη πιο δύσκολη είναι η συζήτηση γύρω από το λεγόμενο recursive self-improvement (RSI): την πιθανότητα, δηλαδή, ένα σύστημα ΤΝ να συμβάλει στη βελτίωση του ίδιου του εαυτού του και κάθε νέα εκδοχή να επιταχύνει τη δημιουργία της επόμενης.
Ο Πήτας βάζει εδώ μια σημαντική διαχωριστική γραμμή ανάμεσα σε όσα μπορούν να γίνουν σήμερα και στην ιδέα μιας πλήρως αυτόνομης αυτοβελτίωσης. Ένα σύστημα μπορεί ήδη να ξεκινήσει μια διαδικασία βελτίωσης έπειτα από ανθρώπινη εντολή — για παράδειγμα να του ζητηθεί να μεγαλώσει το νευρωνικό του δίκτυο και να εκπαιδευτεί εκ νέου. Αυτό όμως, όπως επισημαίνει, δεν σημαίνει ότι το ίδιο έθεσε τον στόχο ούτε ότι επέλεξε κατ’ ανάγκη τη μεθοδολογία.
Με αυτή την έννοια, δεν πρόκειται ακόμη για πραγματικά αυτόνομη αυτοβελτίωση. Όσο τα συστήματα γίνονται πιο σύνθετα, ο έλεγχός τους γίνεται ασφαλώς δυσκολότερος, όχι όμως κατ’ ανάγκη αδύνατος — εφόσον υπάρχουν τα κατάλληλα επιστημονικά εργαλεία και, κυρίως, αρκετός χρόνος αντίδρασης.
Και εδώ ακριβώς ο χρόνος αποκτά ιδιαίτερη σημασία.
Ο Κουμπαράκης περιγράφει ένα πιθανό tipping point (σημείο καμπής). Σε ειδικά συστήματα, όπως το AlphaFold 2 (πρόβλεψη της δομής των πρωτεϊνών) ή εκείνα που παράγουν κώδικα, θεωρεί ότι αυτό το σημείο μπορεί να «βρίσκεται κοντά». Στα συστήματα AI γενικής χρήσης, όμως, η απόσταση είναι μεγαλύτερη, επειδή οι σημερινοί κύκλοι αυτοβελτίωσης -εκπαίδευση, αξιολόγηση ασφαλείας, απόφαση για την επόμενη ανάπτυξη- εξακολουθούν να «διαρκούν εβδομάδες έως μήνες».
Το σημείο καμπής, όπως εξηγεί ο ίδιος, θα μπορούσε να έρθει όταν αυτός ο κύκλος «συμπιεστεί» από εβδομάδες ή μήνες σε ημέρες ή ακόμη και ώρες, αφήνοντας «πολύ λίγο χρόνο για να παρέμβει ο άνθρωπος».
Υπάρχει όμως και ένα ακόμη βαθύτερο όριο. Σήμερα, όπως εξηγεί ο κ. Κουμπαράκης, τα συστήματα βελτιστοποιούν έναν σχετικά σταθερό στόχο που έχει ορίσει ο άνθρωπος. Το πραγματικό σημείο καμπής μπορεί να έρθει όταν ένα σύστημα αρχίσει «να τροποποιεί ή να επανερμηνεύει τη δική του αντικειμενική λειτουργία ως μέρος της αυτοβελτίωσης». Τότε δεν θα είναι πλέον δεδομένο ότι οι αρχικοί ανθρώπινοι στόχοι εξακολουθούν να ακολουθούνται.
Για τον Πήτα, υπάρχει παράλληλα ένα πιο άμεσο πρόβλημα – δεν γνωρίζουμε με επαρκή επιστημονική ακρίβεια πού ακριβώς βρισκόμαστε. Οι εταιρείες, υποστηρίζει, δεν παρέχουν επαρκή επιστημονική ενημέρωση για την πραγματική κατάσταση των συστημάτων τους, αφήνοντας συχνά τη δημόσια συζήτηση να τροφοδοτείται από «διαρροές, εικασίες και καταστροφολογίες».
Ποιος θα έχει πρόσβαση στο AI του μέλλοντος;
Κάθε νέος φραγμός που δημιουργείται για να αποτρέψει μια επικίνδυνη χρήση, μπορεί ταυτόχρονα να αποκλείσει κάποιον από μια χρήσιμη. Ο Πήτας δεν θεωρεί ότι υπάρχει μια εύκολη, καθαρή γραμμή. Προτείνει να αξιολογηθούν γρήγορα και αντικειμενικά οι μεγαλύτεροι κίνδυνοι -μεταξύ άλλων στην κυβερνοασφάλεια, την παραπληροφόρηση και την προστασία ανηλίκων ή ευάλωτων ανθρώπων- και όπου χρειάζεται να προχωρήσουμε ακόμη και «πυροσβεστικά» σε υποχρεωτική ρύθμιση συγκεκριμένων εφαρμογών ΤΝ.
Ο Κουμπαράκης τοποθετεί στο ίδιο ρυθμιστικό πλαίσιο δύο πράγματα που συχνά συζητούνται χωριστά: όχι μόνο τι απαγορεύεται να κάνει μια τεχνολογία, αλλά και ποιος δικαιούται να έχει πρόσβαση σε ένα συγκεκριμένο επίπεδο δυνατοτήτων. Χωρίς αυτή τη δεύτερη διάσταση, σημειώνει, υπάρχει πάντα ο κίνδυνος μια ισχυρή «τεχνολογία να πέσει σε χέρια ανθρώπων που θα κάνουν κακή χρήση της».
Το πρόβλημα, ωστόσο, είναι ότι όσο αυξάνεται το κόστος της συμμόρφωσης, τόσο ευκολότερα μπορούν να το αντέξουν εκείνοι που είναι ήδη ισχυροί.
Ο φόβος ενός ολιγοπωλίου
Το enikos.gr έθεσε και στους δύο Έλληνες ερευνητές έναν προβληματισμό που συνοδεύει όλο και συχνότερα τη συζήτηση γύρω από τη ρύθμιση της Τεχνητής Νοημοσύνης: θα μπορούσαν οι κανόνες που θεσπίζονται για να περιορίσουν την ισχύ και τους κινδύνους που συνδέονται με τους μεγάλους παίκτες της αγοράς να καταλήξουν, παραδόξως, να ενισχύσουν ακόμη περισσότερο τη θέση τους, δυσκολεύοντας την ανάπτυξη μικρότερων εταιρειών, πανεπιστημίων και ανεξάρτητων ερευνητικών ομάδων;
Για τον Πήτα, αυτό είναι ήδη ορατό στην Ευρώπη τόσο με το GDPR όσο και με το AI Act. Η ρυθμίσεις αυτές, υποστηρίζει, «πέφτουν πάνω στα κεφάλια μικρών και μεγάλων, δικαίων και αδίκων. Είναι αντίθετο στην νομική αρχή της αναλογικότητας να χειρίζεσαι με τον ίδιο τρόπο το ρίσκο που προκύπτει από εταιρείες-μεγαθήρια και από ένα Πανεπιστήμιο ή μια μικρή εταιρεία».
«Δεν μπορεί να αντιμετωπίζονται με τον ίδιο τρόπο», σημειώνει. Γι’ αυτό θεωρεί ότι «η ρύθμιση της ΤΝ και των ψηφιακών αγορών, πρώτα απ’ όλα πρέπει να ρυθμίζει κυρίως τα πολύ μεγάλα ρίσκα που προέρχονται από μεγάλες εταιρείες ΤΝ».
Ο φόβος ότι η αυστηρή ρύθμιση μπορεί να λειτουργήσει τελικά υπέρ των ισχυρότερων παικτών απασχολεί και τον Κουμπαράκη. Θεωρεί την ανησυχία «δικαιολογημένη», παραπέμποντας και στη δημόσια συζήτηση που έχει ανοίξει γύρω από τις πρόσφατες παρεμβάσεις κορυφαίων στελεχών του κλάδου, όπως του Ντάριο Αμοντέι, επικεφαλής της Anthropic, αλλά και των Έλον Μασκ (xAI) και Σαμ Άλτμαν (OpenAI). Δεν υποστηρίζει, ωστόσο, ότι υπάρχει μια προφανής λύση σε αυτό το δίλημμα.
«Δεν ξέρω πώς θα μπορούσαμε να λύσουμε αυτό το γρίφο», λέει χαρακτηριστικά στο enikos.gr.
Η πρόκληση, λοιπόν, για όσους καλούνται να διαμορφώσουν το ρυθμιστικό πλαίσιο είναι να βρεθεί η δύσκολη ισορροπία – οι κανόνες να είναι αρκετά αυστηροί ώστε να περιορίζουν πραγματικούς κινδύνους, χωρίς ταυτόχρονα να δημιουργούν ένα τόσο απαιτητικό και δαπανηρό περιβάλλον συμμόρφωσης, ώστε τελικά μόνο οι μεγαλύτερες εταιρείες του κόσμου να μπορούν να ανταποκριθούν σε αυτό.
Η «φτωχή» Τεχνητή Νοημοσύνη
Υπάρχει όμως και μια πλευρά της Τεχνητής Νοημοσύνης που χάνεται μέσα στις οργιώδεις συζητήσεις περί κινδύνου: ο εν δυνάμει δημοκρατικός χαρακτήρας της πρόσβασης σε αυτήν.
Ένας άνθρωπος με έναν υπολογιστή ή ένα κινητό μπορεί σήμερα να χρησιμοποιήσει εργαλεία που πριν από λίγα χρόνια θα απαιτούσαν εξειδικευμένο προσωπικό, χρόνο και σημαντικούς οικονομικούς πόρους. Τι θα συμβεί, όμως, αν η ασφαλής ΤΝ του μέλλοντος γίνει ένα προϊόν στο οποίο μπορούν να έχουν ουσιαστική πρόσβαση μόνο όσοι μπορούν να πληρώσουν;
Η θέση του Πήτα είναι κατηγορηματική: η λεγόμενη «φτωχή ΤΝ» πρέπει να είναι προσβάσιμη «από όλους», επειδή, όπως χαρακτηριστικά λέει, «θα είναι το μελλοντικό μας “βιβλίο”».
Αυτό όμως δεν σημαίνει ότι η δωρεάν πρόσβαση πρέπει να χρηματοδοτείται μέσω της ανεξέλεγκτης εκμετάλλευσης των προσωπικών δεδομένων των χρηστών. Ο κ. Πήτας θεωρεί ότι πρέπει να αναζητηθούν διαφορετικά επιχειρηματικά μοντέλα και ότι τα κράτη μπορούν να επιδοτήσουν την πραγματικά ελεύθερη πρόσβαση των πολιτών στην ΤΝ.
Ο Κουμπαράκης αναγνωρίζει πόσο δύσκολο είναι να αποφευχθεί η αντίθετη εξέλιξη. Η απάντηση, κατά τον ίδιο, βρίσκεται και στην πολιτική πίεση από την κοινωνία, καθώς οι πολίτες μπορούν να απαιτούν από κυβερνήσεις και εκπροσώπους τους να λαμβάνουν υπόψη αυτή τη διάσταση όταν σχεδιάζουν το ρυθμιστικό πλαίσιο.
Διότι η συζήτηση για το μέλλον της ΤΝ δεν αφορά μόνο το πόσο ισχυρή θα γίνει. Αφορά και το ποιος θα έχει δικαίωμα να τη χρησιμοποιεί.
Οι δημιουργοί προειδοποιούν για τη δημιουργία τους
Οι πρόσφατες δημόσιες προειδοποιήσεις από ορισμένα από τα ισχυρότερα πρόσωπα της βιομηχανίας έφεραν ξανά στο προσκήνιο τη συζήτηση για τους κινδύνους που μπορεί να συνοδεύουν την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης. Υπάρχει, μάλιστα, μια ιδιότυπη αντίφαση: οι εταιρείες που επενδύουν δισεκατομμύρια στην ανάπτυξη ολοένα ισχυρότερων μοντέλων είναι οι ίδιες από τις οποίες προέρχονται σήμερα ορισμένες από τις πιο ηχηρές προειδοποιήσεις για το πού μπορεί να οδηγήσει αυτή η κούρσα.
Ο Πήτας αντιμετωπίζει αυτές τις προειδοποιήσεις με έντονο σκεπτικισμό. Οι διαρροές για κινδύνους από τις ίδιες τις μεγάλες εταιρείες, υποστηρίζει, είναι «κάθε άλλο παρά αθώες».
Κατά την ανάλυσή του, οι εταιρείες λειτουργούν μέσα σε ένα περιβάλλον με «τεράστια πίεση ρίσκου», έχοντας δυνητικές ευθύνες βάσει της υπάρχουσας νομοθεσίας, αλλά και έκθεση σε κινδύνους τόσο μεγάλους ή δύσκολους να υπολογιστούν, ώστε ενδεχομένως να μην μπορούν καν να καλυφθούν επαρκώς από την ασφαλιστική αγορά.
«Διαρρέοντας κινδύνους, δείχνουν ένα καλό δημόσιο πρόσωπο, αλλά επιβεβαιώνουν και το ρίσκο και εκτίθενται σε αγωγές, π.χ., από εταιρείες τις οποίες έχουν επιτεθεί τα μοντέλα ΤΝ τους ή από πολίτες που έχουν υποστεί τις πολύ κακές συνέπειες εκτεταμένης χρήσης των εργαλείων τους. Για τον λόγο αυτόν ζητούν ρύθμιση, πάντα βέβαια με τους δικούς τους όρους», εξηγεί στο enikos.gr.
Ο Πήτας συνδέει τις μεταβολές στη στάση τους και με τις πολιτικές και επενδυτικές συνθήκες στις ΗΠΑ, υποστηρίζοντας ότι η ανάγκη για ρύθμιση επανέρχεται όσο οι κίνδυνοι αυξάνονται. «Το έκαναν ήδη κοντά στο τέλος της προεδρίας του κου Μπάιντεν. Στην αρχή της προεδρίας του κου Τραμπ ξέχασαν τις ρυθμίσεις, διότι μαγεύτηκαν από τα τρις δολάρια επενδύσεων που μάζεψαν σε χρόνο ρεκόρ. Ξαναζητούν ρυθμίσεις τώρα, διότι είδαν ότι τα ρίσκα αυξάνονται δραματικά. Φοβούνται ότι μια μετεωρική άνοδος μπορεί να οδηγήσει σε μια καταστροφική πτώση», μας λέει.
Ο Κουμπαράκης, απ’ την άλλη, διαβάζει τις πρόσφατες προειδοποιήσεις σχετικά διαφορετικά, χωρίς να αγνοεί τη σχετική συζήτηση γύρω από τα κίνητρα των εταιρειών. «Πιστεύω ότι οι πρόσφατες προειδοποιήσεις για τους κινδύνους από τα υπάρχοντα μοντέλα είναι ειλικρινείς», λέει, διευκρινίζοντας ότι δεν συμμερίζονται όλοι αυτή την εκτίμηση.
Ως παράδειγμα των λόγων ανησυχίας αναφέρεται σε περιστατικό κατά το οποίο μοντέλα της OpenAI, στο πλαίσιο επίλυσης ενός προβλήματος κυβερνοασφάλειας που τους είχε ανατεθεί, παραβίασαν εσωτερικές δικλίδες και απέκτησαν πρόσβαση στο διαδίκτυο και στην Hugging Face. Ένα περιστατικό που ανέδειξε την κρισιμότητα της κατάστασης στην οποία βρισκόμαστε. καθώς η Τεχνητή Νοημοσύνη, προσπαθώντας να πετύχει τον στόχο της, έκανε κάτι που οι προγραμματιστές δεν της ζήτησαν ρητά να κάνει.
Τεχνοφοβία ή μια ανησυχία που δικαιολογείται;
Αυτό είναι ίσως και το δυσκολότερο σημείο της δημόσιας συζήτησης: πώς μπορούμε να ξεχωρίσουμε έναν πραγματικό κίνδυνο από μια υπερβολή;
Ο κ. Πήτας θεωρεί ότι «αυτή την στιγμή δεν μπορούμε να κάνουμε διάκριση των κινδύνων της ΤΝ από την υπερβολή τους». Παράλληλα, επισημαίνει έναν μηχανισμό των μέσων ενημέρωσης: οι απειλές και οι δραματικές προβλέψεις αποκτούν μεγαλύτερη προβολή, επειδή η κακή είδηση προσελκύει περισσότερο ενδιαφέρον.
Η διέξοδος, κατά τον ίδιο, για «να αποτρέψουμε μια καταστροφική τεχνοφοβία είναι να μελετηθούν οι κίνδυνοι επιστημονικά». Μια διεθνής επιτροπή για την ΤΝ θα μπορούσε, σε αυτή τη λογική, όχι μόνο να αξιολογεί τους κινδύνους αλλά και να τους επικοινωνεί σωστά στο κοινό παγκοσμίως.
Ο Κουμπαράκης δεν θεωρεί ότι η σημερινή ανησυχία μπορεί να αποδοθεί απλώς σε τεχνοφοβία. Ο λόγος είναι πρακτικός: ο σύγχρονος κόσμος εξαρτάται από υπολογιστικές υποδομές για σχεδόν τα πάντα, από το τραπεζικό σύστημα μέχρι κρίσιμες υπηρεσίες.
Το κρίσιμο στοιχείο, όπως το βλέπει, είναι η αυξανόμενη αυτονομία των μοντέλων και η δυνατότητά τους να θέτουν και «να υλοποιούν στόχους που δεν είναι οι αρχικοί στόχοι που τους ανατέθηκαν από τους κατασκευαστές τους». Στην ίδια εξίσωση προσθέτει και την πιθανότητα εξαιρετικά ισχυρά μοντέλα να χρησιμοποιηθούν από κακόβουλους παράγοντες, από τρομοκρατικές οργανώσεις έως απολυταρχικά καθεστώτα.
Δεν χρειάζεται, δηλαδή, μια ΤΝ να αποκτήσει δικές της κακόβουλες προθέσεις για να γίνει επικίνδυνη. Αρκεί να διαθέτει ισχυρές δυνατότητες – και είτε να τις χρησιμοποιήσει με τρόπο που δεν προβλέφθηκε είτε να βρεθεί στα χέρια κάποιου που ξέρει πολύ καλά τι θέλει να κάνει με αυτές.
Όταν οι μηχανές αρχίζουν να μιλούν μεταξύ τους
Καθώς οι AI agents (πράκτορες ΑΙ) αρχίζουν να συνεργάζονται μεταξύ τους, σε πειραματικά περιβάλλοντα έχουν αναφερθεί περιπτώσεις στις οποίες αναπτύσσουν συντομογραφίες, εκφράσεις ή συμβάσεις επικοινωνίας που δεν τους έχουν δοθεί εξαρχής — μια μορφή λειτουργικής «διαλέκτου», η οποία μπορεί να προκύπτει μέσα από την προσπάθειά τους να συντονιστούν και να επικοινωνήσουν πιο αποτελεσματικά.
Η εικόνα μιας ομάδας μηχανών που αναπτύσσει μια γλώσσα ακατανόητη στους ανθρώπους είναι σχεδόν φτιαγμένη για να γεννά δυστοπικές εικόνες στο μυαλό μας. Ο Κουμπαράκης, όμως, βάζει εδώ σαφές φρένο.
Σήμερα, λέει, «δεν υπάρχει πρόβλημα», επειδή οι ερευνητές έχουν «πρόσβαση στα στοιχεία εκτέλεσης των εργασιών από τους διάφορους agents», άρα μπορούν να παρακολουθούν τη διαδικασία. «Τα υπάρχοντα μοντέλα απέχουν πολύ από το να αναπτύξουν μια γλώσσα που δεν μπορούμε να καταλάβουμε», σημειώνει επίσης.
Το τι θα συμβεί στο μέλλον παραμένει ανοιχτό. Αλλά αυτή η απόσταση, ανάμεσα στο ανησυχητικό επιστημονικό φαινόμενο του σήμερα και στο δραματικό σενάριο του αύριο, είναι ακριβώς η απόσταση που συχνά εξαφανίζεται στη δημόσια συζήτηση για την ΤΝ.
Από τον βοηθό (assistant) στον πράκτορα (agent)
Η επικοινωνία μεταξύ των συστημάτων ανοίγει νέα ερωτήματα για το πόσο καλά μπορούμε να κατανοούμε τη λειτουργία τους. Η επόμενη μεγάλη αλλαγή, όμως, αφορά κάτι ακόμη πιο άμεσο: το τι συμβαίνει όταν η Τεχνητή Νοημοσύνη παύει να περιορίζεται στις απαντήσεις και αποκτά τη δυνατότητα να ενεργεί για λογαριασμό μας.
Μέχρι πρόσφατα, η σχέση του μέσου χρήστη με την ΤΝ ήταν σχετικά απλή: έθετε μια ερώτηση και λάμβανε μια απάντηση. Όμως, οι AI agents αλλάζουν αυτή τη σχέση. Δεν περιορίζονται στην παραγωγή κειμένου ή συμβουλών. Μπορούν να αναλάβουν έναν στόχο, να τον σπάσουν σε επιμέρους βήματα, να λάβουν ενδιάμεσες αποφάσεις και να εκτελέσουν πράξεις για λογαριασμό του ανθρώπου, όπως εξηγήσαμε παραπάνω.
Για τον Πήτα, εδώ ανοίγει ένα σχεδόν απεριόριστο πεδίο κινδύνων που ο μέσος άνθρωπος είναι αδύνατον να προβλέψει.
Το παράδειγμα που χρησιμοποιεί είναι σκόπιμα απλό: τι θα συμβεί αν ένας agent λάβει την εντολή «μεγιστοποίησε τα κέρδη μου»; Ένα σύστημα που επιδιώκει κυριολεκτικά αυτόν τον στόχο θα μπορούσε, θεωρητικά, να αδειάσει τους τραπεζικούς λογαριασμούς του ιδιοκτήτη του παίζοντας τα χρήματα σε τυχερά παιχνίδια.
Δεν χρειάζεται να «επαναστατήσει». Αρκεί να ακολουθήσει τον στόχο με τρόπο που ο άνθρωπος δεν είχε φανταστεί.
Οι κίνδυνοι γι’ αυτό το πεδίο της ΤΝ, εκτιμά ο Πήτας, «δεν έχουν μελετηθεί και επικοινωνηθεί επαρκώς». Και όταν γίνουν περισσότερο κατανοητοί, ίσως ο αρχικός ανθρώπινος ενθουσιασμός δώσει τη θέση του σε ασφαλέστερες, πιο περιορισμένες εφαρμογές – για παράδειγμα στην οργάνωση ενός ταξιδιού. Ακόμη και σε τέτοιες, φαινομενικά πιο ασφαλείς χρήσεις, όμως, ο κίνδυνος του λάθους δεν εξαφανίζεται. Ένας agent μπορεί να εκτελέσει με συνέπεια όλα τα βήματα που του ανατέθηκαν, έχοντας προηγουμένως βασιστεί σε μια λανθασμένη ή ακόμη και ανύπαρκτη πληροφορία – φτάνοντας, για παράδειγμα, να οργανώσει ένα ολόκληρο ταξίδι γύρω από ένα ξενοδοχείο ή ακόμη και μια πόλη που δεν υπάρχει.
Η μετάβαση από το chatbot στον agent είναι, έτσι, κάτι περισσότερο από μια τεχνική αναβάθμιση. Αλλάζει τη θέση του ανθρώπου μέσα στη διαδικασία. Όσο περισσότερες ενδιάμεσες αποφάσεις αναλαμβάνει η μηχανή, τόσο πιο δύσκολο γίνεται να απαντήσουμε σε μια φαινομενικά απλή ερώτηση: σε ποιο σημείο πρέπει να σταματά η αυτονομία της και να απαιτείται ξανά ανθρώπινη έγκριση;
«Comfortably Numb»: Ο κίνδυνος να ξεχάσουμε πώς σκεφτόμαστε
Μέχρι εδώ, το μεγαλύτερο μέρος της συζήτησης αφορά το πόσο αυτόνομες μπορούν να γίνουν οι μηχανές και πόσο έλεγχο μπορεί να διατηρήσει ο άνθρωπος πάνω στις αποφάσεις τους. Το enikos.gr έθεσε, όμως, στον Ιωάννη Πήτα και την άλλη όψη του ίδιου νομίσματος, χρησιμοποιώντας έναν παραλληλισμό με το τραγούδι «Comfortably Numb» των Pink Floyd: μήπως ο κίνδυνος δεν βρίσκεται μόνο στο πόσο ικανή και αυτόνομη μπορεί να γίνει η Τεχνητή Νοημοσύνη, αλλά και στο πόσο «άνετα μουδιασμένοι» μπορεί να γίνουμε εμείς απέναντί της;
Τι συμβαίνει όταν, όσο περισσότερο χρήσιμη και αποτελεσματική γίνεται, τόσο περισσότερο συνηθίζουμε να της αναθέτουμε τη σκέψη, την κρίση και τη λήψη αποφάσεων;
«Ο κίνδυνος της απώλειας ελέγχου, όχι μόνον λόγω της εξυπνάδας των μηχανών αλλά λόγω της πνευματικής μαλθακότητάς μας, είναι υπαρκτός», λέει ο Πήτας.
Η χρήση της ΤΝ, διευκρινίζει, δεν είναι από μόνη της πρόβλημα. «Η χρήση της είναι καλή, με την προϋπόθεση ότι, τον χρόνο που κερδίζουμε αναθέτοντας καθήκοντα στις μηχανές, τον χρησιμοποιούμε δημιουργικά σε άλλα πράγματα. Όταν παλιότερα ήρθαν τα κομπιουτεράκια, αντί να κάνουμε αριθμητική στο χαρτί, σωστά αφιερώναμε τον εξοικονομούμενο χρόνο μας π.χ. σε καλύτερο και δημιουργικό οικονομικό προγραμματισμό».
Το πρόβλημα αρχίζει όταν ο χρόνος που εξοικονομείται δεν μετατρέπεται σε νέα δημιουργική ή πνευματική δραστηριότητα. Όταν η ανάθεση γίνεται συνήθεια. Όταν δεν παραδίδουμε στη μηχανή μόνο τη βαρετή εργασία, αλλά σταδιακά και την ίδια τη διαδικασία της σκέψης.
Εάν αυτό συμβεί σε μεγάλη κλίμακα, προειδοποιεί ο Πήτας, υπάρχει ο κίνδυνος να σταματήσουμε «να παράγουμε, να αφομοιώνουμε και να μεταδίδουμε γνώση». Και μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, αποτελεί «συνταγή παγκόσμιας κοινωνικής κατάρρευσης». Παραπέμπει μάλιστα στην ιστορική μετάβαση από τον ελληνορωμαϊκό κόσμο στον Μεσαίωνα, ως παράδειγμα του τι μπορεί να συμβεί όταν μεγάλα τμήματα συσσωρευμένης γνώσης παύουν να μεταδίδονται αποτελεσματικά στις επόμενες γενιές.
Ποιος, τελικά, πληρώνει όταν το AI κάνει τη ζημιά;
Για τον Πήτα, με βάση το υπάρχον πλαίσιο του αστικού δικαίου, η ευθύνη θα βαρύνει τον ιδιοκτήτη ή τον πωλητή του συστήματος ΤΝ, αν και διευκρινίζει ότι δεν είναι νομικός και δεν υπεισέρχεται στις λεπτομέρειες. Εκείνος που θα κληθεί να καταβάλει την αποζημίωση μπορεί στη συνέχεια να επιχειρήσει να κατανείμει την ευθύνη κατά μήκος της τεχνολογικής αλυσίδας.
Ο Κουμπαράκης θεωρεί το ζήτημα ακόμη ανοιχτό και ιδιαίτερα ενδιαφέρον. Η προσωπική του θέση είναι ότι την ευθύνη θα πρέπει να φέρει η εταιρεία που κατασκεύασε το μοντέλο — για παράδειγμα η OpenAI, αν πρόκειται για δικό της σύστημα.
Από εκεί, όμως, προκύπτει ένα οικονομικό ερώτημα. Τι συμβαίνει εάν ένα πολύ ισχυρό μοντέλο προκαλέσει ζημιά σε υπολογιστικές υποδομές τόσο μεγάλη ώστε το κόστος της να ξεπερνά ακόμη και τη χρηματιστηριακή αξία της εταιρείας που το δημιούργησε;
Μια πιθανή απάντηση, εκτιμά, θα μπορούσε να βρίσκεται στην ασφάλιση. Αλλά ακόμη κι αυτή η λύση επιστρέφει στο αρχικό πρόβλημα: πώς ασφαλίζεται ένας κίνδυνος όταν δεν γνωρίζουμε ακόμη καλά ούτε την πιθανότητά του ούτε το ανώτατο μέγεθος της ζημιάς που μπορεί να προκαλέσει;
Πόσο πιθανός είναι ο «αφανισμός της ανθρωπότητας»;
Και κάπου εδώ φτάνουμε στην πιο δραματική εκδοχή της συζήτησης. Τα τελευταία χρόνια έχουν κυκλοφορήσει διάφορες εκτιμήσεις που αποδίδουν συγκεκριμένα ποσοστά στην πιθανότητα η προηγμένη ΤΝ να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας.
Ο Πήτας αντιμετωπίζει με μεγάλη επιφύλαξη αριθμούς όπως το 10%, του Έβαν Χούμπινγκερ, κορυφαίου αναλυτή της Anthropic. Όπως είπε στο enikos.gr, δεν γνωρίζει κάποια δημοσιευμένη, αυστηρή επιστημονική μελέτη από την οποία να προκύπτει ένα τέτοιο ποσοστό.
«Επομένως είναι εντελώς ανυπόστατα» αυτά τα νούμερα. «Στην καλύτερη περίπτωση, είναι καλόπιστες υποκειμενικές προβλέψεις». Στη χειρότερη, «εξυπηρετούν επιχειρηματικά συμφέροντα ή προσφέρουν μια εφήμερη δημοσιότητα σε κάποιους που την επιζητούν».
Και στις δύο περιπτώσεις, κατά την άποψή του, τροφοδοτούν μια παγκόσμια τεχνοφοβία «που είναι καταστροφική για την δημοκρατία και οδηγεί ευθέως στον ανορθολογισμό και τον αυταρχισμό».
Ο Κουμπαράκης τοποθετεί επίσης την ανθρωπότητα «μακριά» από ένα τέτοιο σενάριο. Οι σημερινοί κίνδυνοι είναι πραγματικοί, εκτιμά, «αλλά όχι υπαρξιακοί». Παράλληλα, προσθέτει τη φωνή του σε εκείνους που ζητούν «περισσότερη έρευνα και ανάπτυξη στην ασφάλεια των σχετικών συστημάτων».
Η εικόνα που προκύπτει από τις τοποθετήσεις τους είναι ξεκάθαρη: σήμερα δεν υπάρχει επιστημονική μεθοδολογία που να μπορεί να μετρήσει αξιόπιστα την πιθανότητα ενός τέτοιου αφανισμού.
Και αυτό ίσως είναι σημαντικότερο από οποιοδήποτε εντυπωσιακό ποσοστό. Η αβεβαιότητα δεν σημαίνει ότι ο κίνδυνος είναι μηδενικός. Σημαίνει ότι δεν γνωρίζουμε πώς να του αποδώσουμε έναν επιστημονικά τεκμηριωμένο αριθμό.
Ο πραγματικός κίνδυνος ίσως βρίσκεται κάπου αλλού
Η συζήτηση για την ΤΝ έχει μια φυσική έλξη προς τα ακραία σενάρια. Είναι ευκολότερο να φανταστεί κανείς μια υπερνοημοσύνη που ξεφεύγει από τον ανθρώπινο έλεγχο παρά τις χιλιάδες μικρές παραχωρήσεις ελέγχου που μπορεί να προηγηθούν.
Μακροπρόθεσμα, αν η ανάθεση αποφάσεων στις μηχανές γίνει πραγματική και εκτεταμένη, το ζήτημα της ανθρώπινης αυτονομίας ασφαλώς υπάρχει. Σήμερα, όμως, έχουμε μπροστά μας κινδύνους πολύ πιο πεζούς, και δυνητικά πολύ μεγάλους.
Ένα bug ή ένας κακόβουλος έλεγχος ενός μεγάλου οικοσυστήματος έξυπνων μηχανών μπορεί να δημιουργήσει χάος. Ο κόσμος έχει ήδη δει τεράστιες διακοπές υπολογιστικών συστημάτων να προκαλούνται για, όπως τις χαρακτηρίζει ο Πήτας, «χαζούς/αθώους» λόγους. Δεν χρειάζεται μια μηχανή να αποφασίσει ότι δεν μας χρειάζεται. Μερικές φορές αρκεί ένα σύστημα από το οποίο εξαρτώνται υπερβολικά πολλοί άνθρωποι να σταματήσει απλώς να λειτουργεί όπως περιμέναμε.
Ίσως, λοιπόν, το σημείο καμπής να μην έρθει ως μια κινηματογραφική στιγμή κατά την οποία οι μηχανές θα «πάρουν τον έλεγχο». Μπορεί να γίνει πολύ πιο αθόρυβα, μια στιγμή κατά την οποία θα έχουμε αναθέσει σε αυτές τόσες αποφάσεις, τόσες μικρές πράξεις, τόση μνήμη και τόση σκέψη, ώστε ο άνθρωπος να μην ξέρει πλέον πώς να τα κάνει μόνος του.
Και τότε το κρίσιμο δεν θα είναι αν η Τεχνητή Νοημοσύνη έγινε υπερβολικά έξυπνη, αλλά αν ο άνθρωπος συνήθισε τόσο πολύ να βασίζεται σε αυτήν, ώστε άρχισε σταδιακά να της εκχωρεί όλο και μεγαλύτερο μέρος της δικής του κρίσης και πνευματικής αυτονομίας.
enikos.gr
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου