Το Meta αλλάζει πώς το AI chatbot ανταποκρίνεται στα παιδιά.
Η εταιρεία δήλωσε στην Business Insider την Παρασκευή ότι κάνει “προσωρινές αλλαγές” για να “παρέχει στους εφήβους με ασφαλείς, κατάλληλες για την ηλικία εμπειρίες AI”, ενώ αναπτύσσει πρόσθετα μακροπρόθεσμα μέτρα.
Οι αλλαγές ήρθαν μετά από μια αναφορά του Reuters νωρίτερα τον Αύγουστο που λεπτομερώς ένα εσωτερικό έγγραφο Meta που δείχνει ότι ήταν αποδεκτό Για το chatbot να συμμετάσχει σε ρομαντικές συνομιλίες με παιδιά.
“Καθώς συνεχίζουμε να βελτιώνουμε τα συστήματά μας, προσθέτουμε περισσότερα προστατευτικά μηνύματα ως επιπλέον προφύλαξη – συμπεριλαμβανομένης της κατάρτισης του AIS μας να μην ασχοληθούμε με τους εφήβους σε αυτά τα θέματα, αλλά να τους καθοδηγήσουμε σε ειδικούς πόρους και να περιορίζουμε την πρόσβαση των εφήβων σε μια επιλεγμένη ομάδα χαρακτήρων AI για τώρα”, δήλωσε ο Stephanie Otway, ένας εκπρόσωπος της Meta.
Εκτός από τις ρομαντικές συζητήσεις, άλλα θέματα εκτός ορίων περιλαμβάνουν αυτοτραυματισμό, αυτοκτονία και διαταραγμένη διατροφή, δήλωσε ο Otway. Οι χαρακτήρες AI που είναι διαθέσιμοι στους έφηβους θα ήταν μόνο για τους σκοπούς της εκπαίδευσης και της δημιουργικής έκφρασης, λέει ο Otway.
Μετά την αρχική έκθεση του Reuters, ο γερουσιαστής Josh Hawley έγραψε σε επιστολή προς Ο Διευθύνων Σύμβουλος Mark Zuckerberg στις 15 Αυγούστου ότι θα ξεκινήσει μια έρευνα για το πώς η Meta εκπαιδεύει τα chatbots του για να έχουν “αισθησιακές” συνομιλίες με τα παιδιά.
“Μόνο αφού ο Meta πιάστηκε, αποσύρεται τμήματα της εταιρείας του Doc που το θεωρούσε ότι είναι επιτρεπτό για chatbots να φλερτάρει και να συμμετάσχει σε ρομαντικό ρόλο με παιδιά”, γράφει ο Hawley σε μια ηλεκτρονική δήλωση.
Σχετικές ιστορίες
Το Business Insider λέει τις καινοτόμες ιστορίες που θέλετε να μάθετε
Το Business Insider λέει τις καινοτόμες ιστορίες που θέλετε να μάθετε
Την Πέμπτη, η μη κερδοσκοπική ομάδα υπεράσπισης ψηφιακής ασφάλειας Common Sense Media έγραψε σε αξιολόγηση κινδύνου ότι συνιστά έντονα ότι το Meta AI chatbot δεν χρησιμοποιείται από κανέναν κάτω των 18 ετών.
Η αναφορά του Watchdog διαπίστωσε ότι τα εργαλεία AI παραπλανούν τακτικά τους εφήβους με “ισχυρισμούς της” πραγματικότητας “, προωθούν εύκολα την αυτοκτονία, την αυτοτραυματισμό, τις διατροφικές διαταραχές, τη χρήση ναρκωτικών και πολλά άλλα”.
Δεν είναι η πρώτη φορά που ο Meta αντιμετώπισε έλεγχο για την ασφάλεια των παιδιών. Τον Ιανουάριο του 2024, ο Zuckerberg κατέθεσε παράλληλα με τα στελέχη από το Tiktok, το SNAP, το X και το Discord, καθώς οι νομοθέτες τους αμφισβήτησαν για δυνητικά εθιστικά σχέδια πλατφόρμας, καταχρηστικό περιεχόμενο και οι κινδύνους ψυχικής υγείας θέτουν στους ανηλίκους.
