Anthropic: Το AI που αλλάζει όσα ξέραμε- Συναγερμός για κυβερνοεπιθέσεις, τι φοβούνται τράπεζες και Wall Street

Συναγερμό στην αμερικανική κυβέρνηση έχει προκαλέσει το νέο μοντέλο τεχνητής νοημοσύνης «Claude Mythos Preview» της Anthropic, με τον υπουργό Οικονομικών Σκοτ Μπέσεντ και τον πρόεδρο της Fed Τζερόμ Πάουελ να συγκαλούν επείγουσα σύσκεψη με επικεφαλής μεγάλων τραπεζών στην Ουάσιγκτον, προκειμένου να αξιολογηθούν οι πιθανοί κυβερνοκίνδυνοι και να ζητηθεί από τα χρηματοπιστωτικά ιδρύματα να θωρακίσουν εγκαίρως τα συστήματά τους.

Η αφορμή για αυτή την έκτακτη κινητοποίηση ήταν η ίδια η παραδοχή της Anthropic ότι το Mythos είναι τόσο ισχυρό, ώστε δεν μπορεί ακόμη να δοθεί στο ευρύ κοινό. Η εταιρεία ανακοίνωσε ότι ανέστειλε τη γενική διάθεσή του και το περιορίζει, προς το παρόν, σε ένα κλειστό σχήμα συνεργασίας με μεγάλες τεχνολογικές και χρηματοοικονομικές εταιρείες, μέχρι να διαπιστωθεί ποια προστατευτικά φίλτρα και ποιοι κανόνες ασφαλείας απαιτούνται πριν από οποιαδήποτε ευρύτερη κυκλοφορία.

Η κίνηση αυτή είναι από μόνη της ενδεικτική: μια από τις κορυφαίες εταιρείες του κλάδου δηλώνει δημοσίως ότι το νέο της μοντέλο είναι τόσο ισχυρό, ώστε η κανονική εμπορική διάθεση θα ήταν πρόωρη και δυνητικά επικίνδυνη.

Στην πράξη, το Mythos εντάχθηκε στο νέο «Project Glasswing», μια πρωτοβουλία της Anthropic με τη συμμετοχή εταιρειών όπως η Amazon Web Services, η Apple, η Microsoft, η Google, η Cisco, η Nvidia, η Palo Alto Networks, η CrowdStrike και η JPMorgan Chase.

Το σκεπτικό της πρωτοβουλίας είναι ότι οι οργανισμοί που διαχειρίζονται κρίσιμες ψηφιακές υποδομές θα αποκτήσουν πρώτοι πρόσβαση στο μοντέλο, ώστε να δοκιμάσουν τα δικά τους συστήματα, να εντοπίσουν ευπάθειες και να μοιραστούν τα συμπεράσματά τους πριν ένα τέτοιο εργαλείο περάσει σε χέρια που θα μπορούσαν να το χρησιμοποιήσουν επιθετικά.

Η ανησυχία δεν είναι θεωρητική. Η Anthropic έχει αναφέρει ότι, στις εσωτερικές δοκιμές της, το Mythos μπορούσε να εντοπίζει και στη συνέχεια να αξιοποιεί αδυναμίες «σε κάθε μεγάλο λειτουργικό σύστημα και σε κάθε μεγάλο web browser», όταν δεχόταν τη σχετική εντολή από χρήστη. Σε ορισμένες περιπτώσεις, το μοντέλο φέρεται να ανακάλυψε χιλιάδες σοβαρές ευπάθειες, ακόμη και παλαιά σφάλματα που είχαν διαφύγει από συμβατικά εργαλεία ελέγχου για χρόνια.

Βρήκε προβλήματα δεκαετιών που δεν είχε εντοπίσει κανείς
Η Anthropic δεν περιγράφει το Mythos με αόριστους όρους. Στην τεχνική της τεκμηρίωση αναφέρει ότι, στις εσωτερικές δοκιμές, το μοντέλο κατάφερε να εντοπίζει και να εκμεταλλεύεται zero-day ευπάθειες «σε κάθε μεγάλο λειτουργικό σύστημα και σε κάθε μεγάλο web browser», εφόσον λάμβανε τη σχετική οδηγία από χρήστη.

Επιπλέον, δεν περιορίστηκε σε απλές ή γνωστές τεχνικές: σε μία περίπτωση συνέθεσε browser exploit που συνέδεε τέσσερις διαφορετικές ευπάθειες, υπερβαίνοντας επίπεδα προστασίας τόσο του browser όσο και του λειτουργικού συστήματος. Σε άλλη περίπτωση εντόπισε 27 ετών bug στο OpenBSD, ένα λειτουργικό που φέρει ισχυρή φήμη ασφάλειας, ενώ βρήκε και 16 ετών ευπάθεια στο FFmpeg, βιβλιοθήκη που ελέγχεται εδώ και χρόνια εξαντλητικά με αυτοματοποιημένα εργαλεία.

Τι πραγματικά φοβούνται οι τράπεζες
Εδώ ακριβώς βρίσκεται η βαθύτερη ανησυχία της Ουάσιγκτον και του χρηματοπιστωτικού συστήματος.

Οι μεγάλες τράπεζες και οι αγορές δεν εξαρτώνται μόνο από «μοντέρνα» cloud συστήματα, αλλά και από τεράστια στρώματα legacy λογισμικού, browsers, endpoint περιβαλλόντων, middleware, αλυσίδων προμηθευτών και εφαρμογών που συνδέουν πληρωμές, trading, custody, data feeds και εσωτερική επικοινωνία. Ένα σύστημα σαν το Mythos δεν σημαίνει απλώς ότι μπορεί να βρεθεί μια νέα τρύπα.

Σημαίνει ότι συντομεύει δραματικά τον χρόνο ανάμεσα στην ανακάλυψη μιας αδυναμίας και στην επιχειρησιακή αξιοποίησή της. Με απλά λόγια, μειώνει το παράθυρο μέσα στο οποίο οι αμυνόμενοι μπορούν να προλάβουν να διορθώσουν το πρόβλημα πριν αυτό μετατραπεί σε πραγματική επίθεση. Αυτή είναι η διάσταση που εξηγεί γιατί το θέμα έφτασε κατευθείαν στο ΥΠΟΙΚ και στη Fed.

Η Anthropic υποστηρίζει ότι το Mythos δεν σχεδιάστηκε εξαρχής ως εργαλείο κυβερνοασφάλειας, αλλά ως μοντέλο γενικής χρήσης με εξαιρετικά προηγμένες ικανότητες στη λογική, στον προγραμματισμό και στην επίλυση σύνθετων προβλημάτων.

Ακριβώς όμως αυτές οι δυνατότητες είναι που, σύμφωνα με την εταιρεία, του επιτρέπουν να λειτουργεί και ως εξαιρετικά αποτελεσματικός μηχανισμός εντοπισμού ή και εκμετάλλευσης κενών ασφαλείας. Για τον λόγο αυτό, η εταιρεία έχει ήδη συζητήσει με αμερικανικές αρχές τις «επιθετικές και αμυντικές» κυβερνοδυνατότητες του μοντέλου, χωρίς να κατονομάζει ποιες υπηρεσίες συμμετείχαν στις επαφές.

Το μήνυμα που εκπέμπεται πλέον από την Ουάσιγκτον είναι ότι το θέμα ξεπερνά κατά πολύ τα όρια μιας εταιρικής ανακοίνωσης για νέο προϊόν τεχνητής νοημοσύνης. Η επείγουσα συνάντηση στο αμερικανικό ΥΠΟΙΚ, με τη συμμετοχή του ίδιου του Μπέσεντ και του Πάουελ, δείχνει ότι οι αμερικανικές οικονομικές αρχές βλέπουν στο Mythos μια πρόγευση της επόμενης μεγάλης απειλής: μοντέλα ΑΙ με τόσο προηγμένες δυνατότητες, ώστε να μπορούν να λειτουργήσουν ταυτόχρονα ως εργαλείο άμυνας και ως όπλο για κυβερνοεπιθέσεις σε μεγάλη κλίμακα.

Η Anthropic επιμένει ότι προσπαθεί να δώσει «προβάδισμα στους αμυνόμενους». Για τον λόγο αυτό, το Glasswing συνοδεύεται από 100 εκατ. δολάρια σε πιστώσεις χρήσης του μοντέλου για τους συμμετέχοντες, καθώς και επιπλέον χρηματοδότηση σε οργανισμούς ανοικτού λογισμικού και ασφάλειας, ενώ έχει δεσμευθεί ότι μέσα σε 90 ημέρες θα παρουσιάσει δημόσιο απολογισμό για τα ευρήματα, τις ευπάθειες που διορθώθηκαν και τα συμπεράσματα που μπορούν να κοινοποιηθούν χωρίς να δημιουργείται νέος κίνδυνος. Στόχος της εταιρείας είναι να διαμορφωθούν νέοι κανόνες για vulnerability disclosure, patching, software supply chain, secure-by-design πρακτικές και πρότυπα για ρυθμιζόμενους κλάδους.

Η υπόθεση έχει και μια δεύτερη ανάγνωση για την αγορά. Η Anthropic, που έχει ήδη βρεθεί στο επίκεντρο της παγκόσμιας κούρσας για ολοένα ισχυρότερα μοντέλα ΑΙ, επιχειρεί τώρα να χτίσει ένα προηγούμενο: πρώτα πρόσβαση στους «αμυνόμενους» και μετά στο κοινό. Το αν αυτή η λογική θα γίνει ο νέος κανόνας για τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης μένει να φανεί. Προς το παρόν, όμως, η Ουάσιγκτον και η Wall Street αντιμετωπίζουν το Mythos ως ένα τεχνολογικό άλμα που μπορεί να αλλάξει τους κανόνες του παιχνιδιού στην κυβερνοασφάλεια.

Στην κούρσα για την ανάπτυξη «υπερνοημοσύνης» και η Meta με το Muse Spark
Στην επίθεση στην κούρσα της τεχνητής νοημοσύνης περνά και η Meta, παρουσιάζοντας το νέο μοντέλο Muse Spark, προϊόν μιας δαπανηρής επένδυσης για την ανάπτυξη «υπερνοημοσύνης», δηλαδή AI που θα μπορεί να ξεπερνά τις ανθρώπινες γνωστικές ικανότητες. Το Muse Spark αποτελεί το πρώτο μοντέλο μιας νέας σειράς, γνωστής εσωτερικά ως Avocado.

Σε αντίθεση με τα προηγούμενα μοντέλα Llama, η Meta δεν προχωρά σε πλήρως ανοικτή διάθεση, αλλά προσφέρει αρχικά μόνο περιορισμένη πρόσβαση («private preview») σε επιλεγμένους συνεργάτες. Το μοντέλο θα είναι διαθέσιμο αρχικά μέσω της εφαρμογής Meta AI και σταδιακά θα ενσωματωθεί σε πλατφόρμες όπως WhatsApp, Instagram, Facebook και στα smart glasses της εταιρείας.

Σύμφωνα με τη Meta, το Muse Spark έχει σχεδιαστεί ώστε να είναι «μικρό και γρήγορο», αλλά ικανό να διαχειρίζεται σύνθετα ερωτήματα σε τομείς όπως επιστήμη, μαθηματικά και υγεία. Ανεξάρτητες αξιολογήσεις δείχνουν ότι το μοντέλο πλησιάζει τις επιδόσεις κορυφαίων ανταγωνιστών σε γλώσσα και οπτική κατανόηση, αλλά υστερεί σε προγραμματισμό και αφηρημένη σκέψη. Κατατάχθηκε στην τέταρτη θέση σε συνολικό δείκτη αξιολόγησης της Artificial Analysis.

Ο CEO της εταιρείας Μαρκ Ζούκερμπεργκ έχει ήδη προϊδεάσει για σταδιακή βελτίωση των επιδόσεων, επισημαίνοντας ότι τα πρώτα μοντέλα θα δείξουν κυρίως τη «γρήγορη τροχιά εξέλιξης» της Meta.