Οι AI-powered browsers υποτίθεται ότι είναι έξυπνοι. Ωστόσο, νέα έρευνα στον τομέα της ασφάλειας υποδηλώνει ότι μπορούν επίσης να χρησιμοποιηθούν ως όπλα για να χακάρουν χρήστες, μεταξύ άλλων κατά την ανάλυση εικόνων στο διαδίκτυο. Την ίδια μέρα που η OpenAI παρουσίασε το πρόγραμμα περιήγησης ChatGPT Atlas, η Brave Software δημοσίευσε λεπτομέρειες σχετικά με τον τρόπο με τον οποίο μπορεί να εξαπατηθεί ένα πρόγραμμα περιήγησης με τεχνητή νοημοσύνη ώστε να εκτελέσει κακόβουλες εντολές. Το πιθανό ελάττωμα είναι μια ακόμα επίθεση prompt injection, όπου ένας χάκερ τροφοδοτεί κρυφά ένα κακόβουλο prompt σε ένα AI chatbot, το οποίο μπορεί να περιλαμβάνει τη φόρτωση ενός επικίνδυνου ιστότοπου ή την προβολή του email ενός χρήστη. Η Brave, η οποία αναπτύσσει το πρόγραμμα περιήγησης Brave με έμφαση στην προστασία της ιδιωτικής ζωής, προειδοποιεί για τα μειονεκτήματα που συνεπάγεται η ενσωμάτωση αυτοματοποιημένων πρακτόρων AI στο λογισμικό. Την Τρίτη, ανέφερε μια επίθεση prompt injection που μπορεί να πραγματοποιηθεί στον browser Comet της Perplexity, ο οποίος λειτουργεί με τεχνητή νοημοσύνη, εάν χρησιμοποιηθεί για την ανάλυση μιας εικόνας, όπως ένα screenshot που έχει ληφθεί από τον ιστό. «Στην επίθεσή μας, καταφέραμε να κρύψουμε τις εντολές prompt injection σε εικόνες χρησιμοποιώντας ένα αχνό γαλάζιο κείμενο σε κίτρινο φόντο. Αυτό σημαίνει ότι οι κακόβουλες εντολές είναι ουσιαστικά κρυμμένες από τον χρήστη», έγραψε η Brave Software. Εάν ζητηθεί από τον browser Comet να αναλύσει την εικόνα, θα διαβάσει τις κρυφές κακόβουλες οδηγίες και ενδεχομένως θα τις εκτελέσει. Η Brave δημιούργησε ένα demo επίθεσης χρησιμοποιώντας την κακόβουλη εικόνα, το οποίο φαίνεται να έχει εξαπατήσει με επιτυχία τον browser Comet ώστε να εκτελέσει τουλάχιστον μερικές από τις κρυφές εντολές, συμπεριλαμβανομένης της αναζήτησης του email ενός χρήστη και της επίσκεψης σε έναν ιστότοπο που ελέγχεται από χάκερ. Η Brave ανακάλυψε επίσης μια παρόμοια επίθεση prompt injection για τον browser Fellou. Το demo της επίθεσης δείχνει ότι ο Fellou θα διαβάσει τις κρυφές εντολές στον ιστότοπο και θα τις εκτελέσει, συμπεριλαμβανομένης της ανάγνωσης του εισερχόμενου email του χρήστη και της διαβίβασης του τίτλου του πιο πρόσφατου email σε έναν ιστότοπο που ελέγχεται από χάκερ. Recommended by Our Editors
