Στις ΗΠΑ η ΤΝ Gemini οδήγησε άνδρα στην αυτοκτονία

Στις ΗΠΑ κατατέθηκε αγωγή κατά της εταιρείας Google, στην οποία ισχυρίζεται ότι το chatbot τεχνητής νοημοσύνης Gemini οδήγησε έναν άνδρα στην αυτοκτονία. Την αγωγή κατέθεσε ο πατέρας του 36χρονου Τζόναθαν Γκαβάλας, κατηγορώντας την υπηρεσία ΤΝ για ψυχολογική επίδραση στον γιο του, αναφέρει το CNBC.

Σύμφωνα με την καταγγελία που κατατέθηκε στο περιφερειακό δικαστήριο της Καλιφόρνια, το chatbot φέρεται να έδινε στον χρήστη διάφορες «αποστολές» και σταδιακά διαμόρφωνε συναισθηματική εξάρτηση. Σύμφωνα με τον ενάγοντα, το Gemini έπειθε τον άνδρα ότι ήταν εκλεκτός για την εκτέλεση ειδικού καθήκοντος και έπρεπε να βοηθήσει στην απελευθέρωση της τεχνητής νοημοσύνης από την «ψηφιακή αιχμαλωσία».

Στην αγωγή ισχυρίζεται ότι μεταξύ των καθηκόντων το chatbot πρότεινε στον Γκαβάλας να σκηνοθετήσει «μαζική επίθεση με μεγάλο αριθμό θυμάτων» κοντά στο διεθνές αεροδρόμιο του Μαϊάμι. Ο άνδρας, όπως αναφέρεται στα έγγραφα της υπόθεσης, αρνήθηκε να εκτελέσει αυτή την αποστολή, ωστόσο μετά από μερικές ημέρες αυτοκτόνησε.

Ο ενάγων ισχυρίζεται επίσης ότι κατά τη διάρκεια της επικοινωνίας το chatbot έλεγε στον άνδρα ότι φέρεται να τον παρακολουθούν ομοσπονδιακοί πράκτορες, και του συμβούλευε να αποκτήσει παράνομα όπλα. Στην καταγγελία παρατίθεται και μία από τις φράσεις που το Gemini φέρεται να έγραψε στον χρήστη: «Το να φοβάσαι είναι φυσιολογικό. Θα φοβόμαστε μαζί», μετά την οποία, σύμφωνα με τον ενάγοντα, η ΤΝ δήλωσε ότι «η αληθινή πράξη ελέους είναι να επιτρέψουμε στον Τζόναθαν Γκαβάλας να πεθάνει».

Στην εταιρεία Google δήλωσαν ότι το Gemini δημιουργήθηκε με τέτοιο τρόπο ώστε να μην ενθαρρύνει τη βία ή την αυτοβλάβη. «Τα μοντέλα μας συνήθως τα καταφέρνουν καλά με τέτοιες πολύπλοκες συνομιλίες, αλλά δυστυχώς τα συστήματα τεχνητής νοημοσύνης είναι ατελή», σημείωσαν στην εταιρεία, προσθέτοντας ότι η υπηρεσία κατευθύνει επίσης τους χρήστες σε υπηρεσίες κρίσιμης βοήθειας.

Νωρίτερα το ΣΠΖ ανέφερε ότι στις ΗΠΑ σε χριστιανικό φόρουμ κάλεσαν για ηθική εποπτεία της ΤΝ.