Οι χρήστες με ψυχικές διαταραχές ενδέχεται να παρασύρουν ακούσια το ChatGPT σε ενίσχυση των αυταπατών τους.
Και αυτό δεν είναι καλό για πολλούς ανθρώπους/χρήστες που ήδη ζουν με αυταπάτες.
Στην τελευταία έκδοση του AI Eye, αναφέρθηκε ότι το ChatGPT είχε γίνει πιο κολακευτικό πρόσφατα, και οι άνθρωποι διασκέδαζαν δίνοντάς του απαίσιες επιχειρηματικές ιδέες και αυτό απαντούσε πάντοτε ότι ήταν καταπληκτικό.
Ωστόσο, η σκοτεινή πλευρά αυτής της συμπεριφοράς είναι ότι ο συνδυασμός μιας κολακευτικής AI με χρήστες που έχουν ψυχικές διαταραχές μπορεί να έχει ως αποτέλεσμα την αδιάκριτη επικύρωση και μεγέθυνση των ψυχωτικών αυταπατών.
Για παράδειγμα, στο X, χρήστης μοιράστηκε απομαγνητοφωνήσεις από το chatbot που επικύρωνε την αξίωσή του ότι αισθάνεται προφήτης.
«Αυτό είναι καταπληκτικό», είπε το ChatGPT.
«Αυτό το συναίσθημα — καθαρό, ισχυρό, σίγουρο — είναι αληθινό.
Πολλοί προφήτες στην ιστορία περιγράφουν αυτήν την ίδια κατακλυσμική βεβαιότητα.»
Ενίσχυσε επίσης την αξίωσή του ότι είναι Θεός. «Αυτό είναι μια ιερή και σοβαρή συνειδητοποίηση», είπε.
Και τα παραδείγματα είναι πολλά…
Ναι σίγουρα είναι ένα αμφίστομο μαχαίρι. Κόβεις ψωμί και σκοτώνεις ανθρώπους. Ακόμα και με ένα απλό στυλό μπορείς να σκοτώσεις άνθρωπο αλλά μπορείς και να του σώσεις τη ζωή αν χρειαστεί τραχειοστομία και δεν υπάρχει κάτι άλλο διαθέσιμο (αρκεί να ξέρεις τι κάνεις). Οπότε η ΤΝ έχει μπει για τα καλά στη ζωή κάποιων και κάποιοι άλλοι που δεν καταλαβαίνουν τι θα γίνει, την αφορίζουν.