Αντιμέτωπη με νέα αγωγή βρίσκεται η xAI του Έλον Μασκ , αυτή τη φορά από γυναίκα που είχε πέσει θύμα σεξουαλικής κακοποίησης σε πολύ μικρή ηλικία. Η ενάγουσα υποστηρίζει ότι το Grok χρησιμοποίησε πραγματικές εικόνες από την κακοποίησή της και δημιούργησε νέο παράνομο σεξουαλικό υλικό που την απεικονίζει. Το newsletter του iEidiseis καθημερινά στο inbox σου. Κάνε εγγραφή εδώ. Η γυναίκα εμφανίζεται στη δικαστική υπόθεση με το όνομα Jane Doe, προκειμένου να προστατευθεί η ταυτότητά της. Η αγωγή κατατέθηκε την περασμένη εβδομάδα σε ομοσπονδιακό περιφερειακό δικαστήριο της Καλιφόρνιας. «Χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και των μελών της ομάδας, το Grok δημιούργησε παιδική πορνογραφία που απεικονίζει την ενάγουσα και τα μέλη της ομάδας», αναφέρεται χαρακτηριστικά στο δικόγραφο. Όπως αναφέρει ο Guardian, οι δικηγόροι της υποστηρίζουν ότι η xAI όχι μόνο δημιούργησε υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) με εικόνες της πελάτισσάς τους, αλλά ενσωμάτωσε στα δεδομένα της παράνομο υλικό που ήδη την απεικόνιζε, μετά τη δημοσίευση νέων εικόνων. Κατά τους ισχυρισμούς που περιλαμβάνονται στην αγωγή, η εταιρεία δεν ακολούθησε τις καθιερωμένες πρακτικές ασφαλείας για την αποτροπή της χρήσης τέτοιου υλικού. Ως αποτέλεσμα, φέρεται να δημιουργήθηκε νέο CSAM μέσω τεχνητής νοημοσύνης, το οποίο στη συνέχεια εμφανίστηκε και διαδόθηκε στο X. Τι είχε δηλώσει ο Μασκ Η νέα υπόθεση έρχεται ενώ η xAI βρίσκεται ήδη αντιμέτωπη με σειρά δικαστικών προσφυγών σχετικά με τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών. Τον Ιανουάριο, ο Έλον Μασκ είχε δηλώσει ότι δεν γνώριζε το Grok να έχει δημιουργήσει ποτέ «γυμνές εικόνες ανηλίκων». Στα τέλη Αυγούστου, ωστόσο, η xAI κινήθηκε δικαστικά εναντίον δύο χρηστών της, οι οποίοι αντιμετωπίζουν ποινικές κατηγορίες επειδή φέρονται να χρησιμοποίησαν το σύστημα για τη δημιουργία τέτοιου υλικού. Η εταιρεία ζητά από τους δύο άνδρες να καλύψουν το κόστος από αγωγές που έχουν καταθέσει θύματα εναντίον της. Η νέα υπόθεση έχει μία σημαντική διαφορά σε σχέση με προηγούμενες αγωγές. Σε άλλες περιπτώσεις, μεταξύ των οποίων και εκείνη ομάδας εφήβων από το Τενεσί, το Grok κατηγορείται ότι χρησιμοποίησε συνηθισμένες φωτογραφίες ανηλίκων, χωρίς σεξουαλικό περιεχόμενο, και τις μετέτρεψε σε παράνομο υλικό, κυρίως αφαιρώντας ψηφιακά τα ρούχα τους. Στην περίπτωση της Jane Doe, οι δικηγόροι ισχυρίζονται ότι το Grok χρησιμοποίησε ήδη υπάρχον CSAM και με βάση αυτό δημιούργησε νέες εικόνες. Τα ψηφιακά «δακτυλικά αποτυπώματα» Για γνωστές εικόνες και βίντεο σεξουαλικής κακοποίησης παιδιών, οι Αρχές και οι οργανώσεις προστασίας ανηλίκων χρησιμοποιούν συχνά το λεγόμενο hash. Πρόκειται ουσιαστικά για ένα ψηφιακό «δακτυλικό αποτύπωμα», μέσω του οποίου μπορεί να εντοπιστεί γνωστό παράνομο υλικό όταν εμφανίζεται ξανά στο διαδίκτυο. Σύμφωνα με τους δικηγόρους της ενάγουσας, το Canadian Centre for Child Protection χρησιμοποίησε αυτά τα ψηφιακά αποτυπώματα και εντόπισε στο X υλικό που είχε δημιουργηθεί μέσω AI και απεικόνιζε την πελάτισσά τους. Όπως αναφέρεται στην αγωγή, η γυναίκα ήταν ακόμη σε προσχολική ηλικία όταν ένας ενήλικος άνδρας τη βίαζε επανειλημμένα και την εξανάγκαζε στη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών. Οι συγκεκριμένες εικόνες κυκλοφορούν στο διαδίκτυο εδώ και περίπου δύο δεκαετίες και, σύμφωνα με τους δικηγόρους της, είναι γνωστές στις αρμόδιες Αρχές και σε οργανώσεις προστασίας παιδιών. «Η διαφορά εδώ σε σχέση με πολλές ποινικές υποθέσεις που θα δείτε με υλικό δημιουργημένο από AI είναι ότι δεν μπορείς να αποδείξεις ότι το παιδί στο υλικό είναι πραγματικό», δήλωσε η δικηγόρος της, Μάργκαρετ Μέιμπι. «Αλλά εδώ, επειδή μπορείς να το συνδέσεις με τη συγκεκριμένη σειρά, γνωρίζουμε ότι πρόκειται για ένα αναγνωρίσιμο θύμα, το οποίο βρίσκεται ακόμη στη ζωή και ήταν πραγματικό παιδί στη φωτογραφία». Οι αγωγές κατά της xAI Πολλές από τις υποθέσεις που έχουν ανοίξει σε βάρος της xAI συνδέονται με τη λειτουργία του Grok στις αρχές του έτους, όταν οι δικλίδες ασφαλείας του επέτρεπαν σε χρήστες να ζητούν την ψηφιακή αφαίρεση ρούχων από φωτογραφίες και τη δημιουργία σεξουαλικοποιημένων εικόνων μέσω του X. Ο Μασκ είχε αναφέρει τον Ιανουάριο ότι η λειτουργία NSFW του Grok είχε σχεδιαστεί ώστε να επιτρέπει «γυμνό στο πάνω μέρος του σώματος φανταστικών ενήλικων ανθρώπων». Ερευνητές του Center for Countering Digital Hate υποστηρίζουν ότι μέσα σε διάστημα λίγων εβδομάδων το Grok δημιούργησε εκατομμύρια σεξουαλικοποιημένες εικόνες, ανάμεσά τους και χιλιάδες που απεικόνιζαν παιδιά. Ούτε η xAI ούτε η SpaceX, η οποία εξαγόρασε την εταιρεία τον Φεβρουάριο, απάντησαν σε αιτήματα για σχόλιο σχετικά με τη νέα αγωγή. «Μπορούν να δημιουργήσουν νέα κακοποίηση» Η αγωγή έχει κατατεθεί ως συλλογική και, παρότι επικεντρώνεται στην Jane Doe, αναφέρει ότι στην ομάδα των ανθρώπων που ενδέχεται να έχουν υποστεί αντίστοιχη βλάβη μπορεί να περιλαμβάνονται «τουλάχιστον χιλιάδες ανήλικοι». Οι δικηγόροι προειδοποιούν ότι η δυνατότητα δημιουργίας CSAM με τεχνητή νοημοσύνη δημιουργεί έναν νέο κίνδυνο για ανθρώπους που έχουν ήδη υπάρξει θύματα. Νέες εικόνες μπορούν να παράγονται διαρκώς, προκαλώντας εκ νέου τραυματισμό των επιζώντων. «Το πρόβλημα εδώ είναι ότι, τουλάχιστον για την πελάτισσά μας, τα τελευταία 20 χρόνια ο αριθμός των εικόνων της ήταν πεπερασμένος», δήλωσε η Μέιμπι. «Ο φόβος τώρα είναι ότι νέες εγκληματικές πράξεις, νέες προσβλητικές συμπεριφορές, νέες ιδέες για το τι μπορεί να της γίνει μπορούν πλέον να δημιουργηθούν με τη χρήση AI. Μπορούν να δημιουργήσουν νέα κακοποίηση». Το Canadian Centre for Child Protection δεν θέλησε να σχολιάσει τη συγκεκριμένη υπόθεση.
