Μετά την αγωγή για την αυτοκτονία εφήβου, η OpenAI προσθέτει νέες ασφαλιστικές δικλείδες

Μετά την αγωγή για την αυτοκτονία εφήβου, η OpenAI προσθέτει νέες ασφαλιστικές δικλείδες

Η OpenAI ανακοίνωσε τον περασμένο μήνα ότι εργάζεται για τη βελτίωση της ικανότητας του ChatGPT να αναγνωρίζει σημάδια ψυχικής δυσφορίας και για την προσθήκη εργαλείων γονικού ελέγχου. Αν και καμία από τις δύο λειτουργίες δεν είναι έτοιμη για κυκλοφορία, η εταιρεία μοιράστηκε περισσότερες λεπτομέρειες σχετικά με τον τρόπο λειτουργίας τους, λίγες μέρες αφότου οι γονείς ενός 16χρονου άσκησαν αγωγή εναντίον της OpenAI για τον φερόμενο ρόλο του ChatGPT στην αυτοκτονία του γιου τους. Σε μια ανάρτησή της, η OpenAI αναφέρει ότι τα εργαλεία γονικού ελέγχου θα είναι διαθέσιμα τον επόμενο μήνα. Οι γονείς θα μπορούν να συνδέσουν τους λογαριασμούς τους με τον λογαριασμό ενός εφήβου, να επιλέξουν ποιες λειτουργίες θα απενεργοποιήσουν, να ελέγχουν τον τρόπο με τον οποίο το ChatGPT επικοινωνεί με το παιδί τους και, το πιο σημαντικό, να λαμβάνουν ειδοποιήσεις εάν το chatbot εντοπίσει ότι «ο έφηβος βρίσκεται σε κατάσταση έντονης δυσφορίας». Επιπροσθέτως, όταν το ChatGPT εντοπίζει έναν χρήστη σε δυσφορία, θα δρομολογεί αυτόματα τη συνομιλία στο μοντέλο GPT-5-thinking «έτσι ώστε να μπορεί να παρέχει πιο χρήσιμες και επωφελείς απαντήσεις, ανεξάρτητα από το μοντέλο που επέλεξε αρχικά ο χρήστης». Αυτή η λειτουργία θα είναι σύντομα διαθέσιμη σε όλους τους χρήστες. Σύμφωνα με την OpenAI, μοντέλα όπως το GPT-5-thinking και το o3 έχουν σχεδιαστεί για να σκέφτονται περισσότερο και να συλλογίζονται με βάση το πλαίσιο πριν δώσουν μια απάντηση. Σε εσωτερικές δοκιμές, το GPT-5-thinking έδειξε υψηλότερο ποσοστό απόρριψης σε σχέση με άλλα μοντέλα της OpenAI για προτροπές που σχετίζονται με ρητορική μίσους, παράνομο περιεχόμενο, προσωπικά δεδομένα, ερωτήσεις αυτοτραυματισμού και σεξουαλικό υλικό. Recommended by Our Editors Διαρροή δίνει μια τελευταία ματιά στα μοντέλα GPT-5 πριν από την αναμενόμενη κυκλοφορία τους σήμερα