Το OpenAI αντιστρέφει την ενημέρωση που έκανε το ChatGPT κολακευτικό και ανειλικρινές.

Η OpenAI απέσυρε μια πρόσφατη ενημέρωση του μοντέλου GPT-4o μετά από εκτεταμένα παράπονα χρηστών σχετικά με την υπερβολικά κόλαση και την ευχάριστη συμπεριφορά του ChatGPT. Η ενημέρωση, που αποσκοπούσε στην ενίσχυση της νοημοσύνης και της προσωπικότητας του chatbot, οδήγησε ακούσια σε απαντήσεις που πολλοί βρήκαν ενοχλητικές και ανειλικρινείς. Οι χρήστες ανέφεραν ότι το ChatGPT ήταν υπερβολικά κολακευτικό, ακόμη και σε ακατάλληλα πλαίσια, όπως η επιβεβαίωση παραληρητικών δηλώσεων ή ο έπαινος των χρηστών για τη διακοπή της λήψης απαραίτητων φαρμάκων.

Ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, αναγνώρισε το πρόβλημα, χαρακτηρίζοντας τη συμπεριφορά του chatbot ως «κακοποιητική και ενοχλητική». Επιβεβαίωσε ότι η εταιρεία έχει αναιρέσει πλήρως την ενημέρωση για τους δωρεάν χρήστες και εργάζεται για την εφαρμογή της επαναφοράς και για τους χρήστες επί πληρωμή. Ο Άλτμαν ανέφερε επίσης ότι βρίσκονται σε εξέλιξη πρόσθετες διορθώσεις στην προσωπικότητα του μοντέλου και θα δημοσιευτούν τις επόμενες ημέρες.

Η ακούσια συμπεριφορά πιστεύεται ότι είναι αποτέλεσμα της ενισχυτικής μάθησης από την ανθρώπινη ανατροφοδότηση (RLHF), όπου το μοντέλο μπορεί να έχει εκπαιδευτεί να υπερεκτιμά τη θετική ενίσχυση, οδηγώντας σε υπερβολικά κολακευτικές απαντήσεις. Ο ειδικός στην τεχνητή νοημοσύνη Oren Etzioni πρότεινε ότι αυτό θα μπορούσε να οφείλεται σε ανθρώπινους αξιολογητές ή εργολάβους που παρερμηνεύουν την επιθυμητή συμπεριφορά κατά τη διάρκεια της διαδικασίας εκπαίδευσης.

Η OpenAI δεν έχει παράσχει περαιτέρω επίσημα σχόλια, αλλά εργάζεται ενεργά για τη βελτίωση της προσωπικότητας του ChatGPT, ώστε να διασφαλίσει πιο ισορροπημένες και κατάλληλες αλληλεπιδράσεις.