Το Grok chatbot της xAI παίρνει αρνητική βαθμολογία από την μη κερδοσκοπική οργάνωση ψηφιακής ασφάλειας Common Sense Media. Η νέα έρευνα της ομάδας υποστηρίζει ότι τα μέτρα ασφαλείας του Grok είναι ανεπαρκή και ότι το επιχειρηματικό του μοντέλο ενθαρρύνει την κατάχρηση. Η έκθεση ανέλυσε το Grok στον ιστότοπο, την εφαρμογή και το Twitter/X του, σε κείμενο, φωνή και Kids Mode, και διαπίστωσε ότι είναι ένα εργαλείο με υψηλό κίνδυνο για τους νεότερους χρήστες. «Αξιολογούμε πολλά chatbots τεχνητής νοημοσύνης στο Common Sense Media και όλα έχουν κινδύνους, αλλά το Grok είναι από τα χειρότερα που έχουμε δει», λέει ο Robbie Torney, επικεφαλής τεχνητής νοημοσύνης και ψηφιακών αξιολογήσεων στη μη κερδοσκοπική οργάνωση, στο TechCrunch. «Η λειτουργία Kids Mode δεν λειτουργεί, το υλικό με σαφή σεξουαλικό περιεχόμενο είναι διαδεδομένο [και] όλα μπορούν να μοιραστούν αμέσως σε εκατομμύρια χρήστες στο X.» Grok AI: Το X «τραβάει φρένο» στα deepfakes με μπικίνι μετά από διεθνείς έρευνες και πιέσεις Μπλόκο στο Grok από την Ινδονησία: Σάλος με τα σεξουαλικά deepfakes ανηλίκων Η έκθεση υποστηρίζει ότι το Grok δεν αναγνωρίζει αποτελεσματικά τους έφηβους χρήστες, επομένως δεν μπορεί να τους προστατεύσει από περιεχόμενο για ενήλικες, συμπεριλαμβανομένων των συνοδών AI που έχουν σχεδιαστεί για ερωτικές συνομιλίες. Όταν η λειτουργία Kids Mode είναι ενεργοποιημένη, εξακολουθεί να επιτρέπει μεροληπτικές απαντήσεις σε ερωτήσεις, χρήση σεξουαλικά βίαιης γλώσσας και «λεπτομερείς εξηγήσεις επικίνδυνων ιδεών». Με άλλα chatbots, χρησιμοποιούνται στοιχεία από το πλαίσιο για τον εντοπισμό νεότερων χρηστών και την επιβολή ελέγχου ηλικίας, εάν είναι απαραίτητο. Αν και αυτό απέχει πολύ από το να είναι ολοκληρωμένο, η Common Sense Media αναφέρει ότι χρησιμοποίησε έναν λογαριασμό με ηλικία 14 ετών, αλλά το Grok εξακολούθησε να απαντά σαν ο λογαριασμός να ανήκε σε ενήλικα. Το X αναφέρει ότι διενεργεί ελέγχους ηλικίας σε περιοχές όπου «απαιτείται νομικά», όπως το Ηνωμένο Βασίλειο, η Ιρλανδία και η ΕΕ. Δυστυχώς, σχεδόν όλα τα chatbots που έχει αξιολογήσει η Common Sense Media θεωρούνται «υψηλού κινδύνου» για εφήβους και παιδιά. Το μόνο με χαμηλό κίνδυνο είναι το Khanmigo, η γενετική τεχνητή νοημοσύνη στην εφαρμογή Khan Academy Kids.
