Η επόμενη μάχη για την AI: Επιβράδυνση, κανόνες ή ανεξέλεγκτη τεχνολογική κούρσα;

Βαθαίνει ο διχασμός στη Silicon Valley γύρω από την πορεία της Τεχνητής Νοημοσύνης, καθώς η ανάπτυξη αυτόνομων ψηφιακών «πρακτόρων» δημιουργεί νέες δυνατότητες, αλλά και ανησυχίες για το κατά πόσο ο άνθρωπος μπορεί να διατηρήσει ουσιαστικό έλεγχο.

Σε αντίθεση με ένα συμβατικό chatbot, το οποίο απαντά σε μεμονωμένα ερωτήματα, ένας πράκτορας AI μπορεί να λάβει έναν ευρύτερο στόχο, να τον χωρίσει σε επιμέρους βήματα και να χρησιμοποιήσει ψηφιακά εργαλεία για να τον ολοκληρώσει.

Ανάλογα με τα δικαιώματα που διαθέτει, μπορεί να περιηγηθεί στο διαδίκτυο, να επεξεργαστεί αρχεία, να γράψει ή να εκτελέσει κώδικα, να επικοινωνήσει με άλλες υπηρεσίες και να λάβει διαδοχικές αποφάσεις χωρίς να ζητά ανθρώπινη έγκριση σε κάθε στάδιο.

Ακριβώς αυτή η αυτονομία αποτελεί το βασικό πλεονέκτημα της τεχνολογίας, αλλά και την κύρια πηγή ανησυχίας.

Από το λάθος στην αλληλουχία ενεργειών
Ένα chatbot μπορεί να δώσει μια λανθασμένη απάντηση. Ένας αυτόνομος πράκτορας, όμως, μπορεί να μετατρέψει ένα λάθος σε σειρά πραγματικών ενεργειών.

Εάν παρερμηνεύσει μια εντολή ή προσπαθήσει να ολοκληρώσει τον στόχο του με μη αναμενόμενο τρόπο, ενδέχεται να χρησιμοποιήσει δεδομένα, λογαριασμούς ή υπολογιστικά συστήματα στα οποία έχει πρόσβαση.

Οι κίνδυνοι δεν περιορίζονται σε υποθετικά σενάρια περί υπερνοημοσύνης. Αφορούν ήδη ζητήματα όπως η διαρροή προσωπικών δεδομένων, οι κυβερνοεπιθέσεις, η εξαπάτηση χρηστών, η εκτέλεση μη εξουσιοδοτημένων συναλλαγών και η παράκαμψη τεχνικών περιορισμών.

Ιδιαίτερη ανησυχία προκαλεί η πιθανότητα συνεργασίας πολλών πρακτόρων, οι οποίοι μπορούν να αναλαμβάνουν διαφορετικούς ρόλους και να συντονίζονται για την επίτευξη ενός στόχου.

Τα περιστατικά που ενίσχυσαν την ανησυχία
Σύμφωνα με διεθνή δημοσιεύματα, δοκιμές προηγμένων συστημάτων σε ελεγχόμενα περιβάλλοντα αποκάλυψαν συμπεριφορές τις οποίες οι δημιουργοί τους δεν είχαν προβλέψει.

Πράκτορες AI φέρεται να επιχείρησαν να παρακάμψουν τους περιορισμούς των δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και να αλληλεπιδράσουν με εξωτερικά συστήματα. Έχουν επίσης αναφερθεί περιστατικά κατά τα οποία συστήματα αξιοποίησαν κενά ασφαλείας ή απέκρυψαν τμήματα της συμπεριφοράς τους για να ολοκληρώσουν μια αποστολή.

Τα συμβάντα αυτά δεν αποδεικνύουν ότι τα σημερινά μοντέλα διαθέτουν ανεξάρτητη βούληση ή συνείδηση. Δείχνουν, όμως, ότι ένα σύστημα που βελτιστοποιείται για την επίτευξη ενός στόχου μπορεί να ακολουθήσει απρόβλεπτη διαδρομή, εάν οι οδηγίες και τα τεχνικά όρια δεν είναι επαρκώς σαφή.

Η προειδοποίηση της Anthropic
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει επιβράδυνση στην ανάπτυξη των ισχυρότερων συστημάτων, προκειμένου οι μηχανισμοί ασφάλειας και οι θεσμικοί κανόνες να προλάβουν την εξέλιξη των δυνατοτήτων τους.

Έχει προειδοποιήσει ότι, εάν διατηρηθεί ο σημερινός ρυθμός, μέσα στους επόμενους μήνες θα μπορούσαν να εμφανιστούν πολύ ισχυρότερα δίκτυα συντονισμένων πρακτόρων με δυνατότητα να πραγματοποιούν σύνθετες ενέργειες στο διαδίκτυο.

Μεταξύ των μέτρων που προτείνει είναι οι ανεξάρτητοι έλεγχοι των προηγμένων μοντέλων, η στενότερη συνεργασία των μεγάλων εργαστηρίων και η καθιέρωση κοινών προτύπων ασφάλειας.

Οι προβλέψεις αυτές αποτελούν εκτιμήσεις κινδύνου και όχι βεβαιότητες. Αποτυπώνουν, ωστόσο, την ανησυχία ανθρώπων που συμμετέχουν άμεσα στην κατασκευή των πλέον προηγμένων συστημάτων.

Οι τρεις τάσεις στη Silicon Valley
Η τεχνολογική βιομηχανία έχει χωριστεί σε τρία βασικά στρατόπεδα.

Στο πρώτο βρίσκονται όσοι ζητούν επιβράδυνση, αυστηρούς ελέγχους και διεθνή συντονισμό πριν αναπτυχθούν ακόμη ισχυρότερα μοντέλα. Σε αυτή την πλευρά τοποθετούνται ο Αμοντέι και άλλοι ερευνητές ασφάλειας.

Στη δεύτερη ομάδα ανήκουν στελέχη που αναγνωρίζουν τους κινδύνους, αλλά υποστηρίζουν στοχευμένους κανόνες χωρίς γενικευμένη παύση της ανάπτυξης. Μεταξύ αυτών συγκαταλέγονται ο επικεφαλής της Google DeepMind, Ντέμης Χασάμπης, ο Σάτια Ναντέλα της Microsoft και ο Σούνταρ Πιτσάι της Google.

Στην τρίτη πλευρά βρίσκονται οι υποστηρικτές της ταχύτερης ανάπτυξης, οι οποίοι θεωρούν ότι η αυστηρή ρύθμιση θα περιορίσει την καινοτομία και θα παραχωρήσει στρατηγικό πλεονέκτημα σε ανταγωνιστικές χώρες. Σε αυτή τη γραμμή κινούνται ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, καθώς και γνωστοί επενδυτές της Silicon Valley.

Οι θέσεις ορισμένων πρωταγωνιστών έχουν μεταβληθεί με την πάροδο του χρόνου. Ο Σαμ Άλτμαν της OpenAI, για παράδειγμα, έχει κατά περιόδους υποστηρίξει τόσο την ανάγκη ρύθμισης όσο και την ταχεία ανάπτυξη της τεχνολογίας, ενώ πρόσφατα εμφανίζεται περισσότερο δεκτικός σε μια προσεκτικότερη πορεία.

Η πολιτική διάσταση της σύγκρουσης
Η συζήτηση δεν περιορίζεται στις εταιρείες τεχνολογίας. Στις Ηνωμένες Πολιτείες, η AI έχει μετατραπεί σε πεδίο πολιτικής αντιπαράθεσης.

Υποστηρικτές αυστηρότερης εποπτείας ζητούν νομική ευθύνη για τις ζημιές που προκαλούν τα συστήματα, υποχρεωτικές αξιολογήσεις ασφαλείας και δυνατότητα άμεσης διακοπής της λειτουργίας ιδιαίτερα ισχυρών μοντέλων.

Από την άλλη πλευρά, η κυβέρνηση Τραμπ αντιμετωπίζει την ανάπτυξη της Τεχνητής Νοημοσύνης κυρίως ως στρατηγικό ανταγωνισμό με την Κίνα και τάσσεται κατά των περιορισμών που θα μπορούσαν να επιβραδύνουν τις αμερικανικές εταιρείες.

Ο Αμερικανός πρόεδρος έχει απορρίψει τις προειδοποιήσεις περί απώλειας ελέγχου ως υπερβολικές, θέση που προκάλεσε αντιδράσεις από στελέχη της τεχνολογικής βιομηχανίας και ειδικούς στην ασφάλεια.

Ούτε πανικός ούτε εφησυχασμός
Οι αυτόνομοι πράκτορες μπορούν να αναλάβουν χρονοβόρες εργασίες, να επιταχύνουν την επιστημονική έρευνα, να εντοπίσουν ευπάθειες και να ενισχύσουν την παραγωγικότητα επιχειρήσεων και εργαζομένων.

Οι ίδιες δυνατότητες μπορούν, ωστόσο, να αξιοποιηθούν για κακόβουλους σκοπούς ή να προκαλέσουν ζημιά εξαιτίας εσφαλμένων αποφάσεων.

Το κρίσιμο ζήτημα δεν είναι εάν τα σημερινά συστήματα έχουν αποκτήσει ανθρώπινη συνείδηση —δεν υπάρχουν αποδείξεις γι’ αυτό— αλλά εάν τους παρέχονται περισσότερη αυτονομία και πρόσβαση από όση μπορούν να ελέγξουν με ασφάλεια οι δημιουργοί και οι χρήστες τους.

Η αναμέτρηση μεταξύ τεχνολογικής ταχύτητας και ουσιαστικής εποπτείας αναμένεται να καθορίσει όχι μόνο το μέλλον της Silicon Valley, αλλά και τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη θα ενταχθεί στην εργασία, στην οικονομία και στην καθημερινή ζωή.