Η Anthropic αναστέλλει την πρόσβαση στα νέα μοντέλα τεχνητής νοημοσύνης της, τα Fable 5 και Mythos 5, κατόπιν οδηγίας της αμερικανικής κυβέρνησης η οποία επικαλέστηκε λόγους εθνικής ασφάλειας. Η πρόσβαση σε οποιοδήποτε άλλο, παλαιότερο μοντέλο της Anthropic, όπως το Claude Opus 4.8, δεν θα επηρεαστεί. Η κυβερνητική εντολή διέταξε την Anthropic να εμποδίσει αλλοδαπούς, τόσο εντός όσο και εκτός των ΗΠΑ, να χρησιμοποιούν τα μοντέλα. Η εταιρεία τεχνητής νοημοσύνης δήλωσε ότι, ως αποτέλεσμα, δεν είχε άλλη επιλογή από το να επεκτείνει την απαγόρευση σε όλους τους χρήστες. Η Anthropic ανέφερε ότι η κυβέρνηση δεν διευκρίνισε τον ακριβή λόγο της εντολής, αλλά πιστεύει ότι η οδηγία ενδέχεται να σχετίζεται με μια πιθανή μέθοδο για το «jailbreaking» του Fable 5. Το «jailbreaking» είναι μια τεχνική που χρησιμοποιείται για να εξαπατήσει τα μοντέλα τεχνητής νοημοσύνης ώστε να κάνουν πράγματα για τα οποία δεν έχουν προγραμματιστεί, για παράδειγμα, να παρέχουν οδηγίες για την κατασκευή εκρηκτικών. Από την πρώτη του περιορισμένη κυκλοφορία τον Απρίλιο με την κωδική ονομασία Project Glasswing, το μοντέλο Mythos της Claude έχει γίνει πρωτοσέλιδο για την ικανότητά του να εντοπίζει ευπάθειες σε λογισμικό και συστήματα, συμπεριλαμβανομένων προϊόντων όπως ο Firefox της Mozilla και, ενδεχομένως, το macOS της Apple. Μέχρι στιγμής, η Anthropic έχει περιορίσει την πρόσβαση στο Mythos 5 σε επιλεγμένους συνεργάτες με έδρα τις ΗΠΑ, εν μέσω ανησυχιών σχετικά με τις επιθετικές δυνατότητές του στον τομέα της κυβερνοασφάλειας, σε περίπτωση που χρησιμοποιηθεί από κακόβουλους χρήστες. Το Fable 5, το οποίο ήταν διαθέσιμο στο κοινό, χρησιμοποιεί την ίδια βασική τεχνολογία με το Mythos, αλλά διαθέτει μηχανισμούς προστασίας για τομείς υψηλού κινδύνου, όπως η κυβερνοασφάλεια και η βιολογία. Recommended by Our Editors Το AI μοντέλο Mythos της Anthropic «έσπασε» την ασφάλεια του macOS της Apple Η Anthropic δήλωσε ότι η μέθοδος jailbreak είναι «περιορισμένη» και «μη καθολική» και ότι έχει λάβει μόνο προφορικές ενδείξεις για την ύπαρξή της. Σύμφωνα με την επίσημη δήλωση της εταιρείας, η τεχνική περιλαμβάνει την εισαγωγή κώδικα στο μοντέλο και το αίτημα να τον ελέγξει για σφάλματα. Η Anthropic συμφώνησε ότι η κυβέρνηση θα πρέπει «να έχει τη δυνατότητα να εμποδίζει μη ασφαλείς εφαρμογές» μοντέλων τεχνητής νοημοσύνης, αλλά δήλωσε ότι «διαφωνεί με το ότι η ανακάλυψη ενός περιορισμένου πιθανού jailbreak θα πρέπει να αποτελεί λόγο ανάκλησης ενός εμπορικού μοντέλου που έχει εφαρμοστεί σε εκατοντάδες εκατομμύρια ανθρώπους». Δεν είναι η πρώτη φορά που η Anthropic έχει σοβαρές διαφωνίες με την κυβέρνηση των ΗΠΑ. Η εταιρεία χαρακτηρίστηκε ως κίνδυνος για την αλυσίδα εφοδιασμού τον Μάιο, γεγονός που οδήγησε σε νομικές ενέργειες. Εν τω μεταξύ, ο Πρόεδρος Τραμπ χαρακτήρισε την εταιρεία «αριστερούς τρελούς» σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης τον ίδιο μήνα. Η Microsoft επίσης απαγόρευσε στο προσωπικό της να χρησιμοποιεί το Claude Fable 5 νωρίτερα αυτή την εβδομάδα, επικαλούμενη ανησυχίες σχετικά με την πολιτική διατήρησης δεδομένων της εταιρείας.
