Η μητέρα του έφηβου που αυτοκτόνησε στη Φλόριντα των ΗΠΑ, αφού απέκτησε εμμονή με ένα chatbot τεχνητής νοημοσύνης κατηγορεί τώρα τον κατασκευαστή του για συνενοχή στο θάνατό του.
Η Μέγκαν Γκαρσία κατέθεσε την Τετάρτη στο ομοσπονδιακό δικαστήριο της Φλόριντα αστική αγωγή κατά της Character.ai, η οποία κατασκευάζει ένα προσαρμόσιμο chatbot για παιχνίδια ρόλων, υποστηρίζοντας αμέλεια, παράνομο θάνατο και παραπλανητικές εμπορικές πρακτικές. Ο γιος της Σιούελ Σέτζερ ΙΙΙ, 14 ετών, πέθανε στο Ορλάντο της Φλόριντα τον Φεβρουάριο. Τους μήνες που προηγήθηκαν του θανάτου του, ο Σέτζερ χρησιμοποιούσε το chatbot μέρα και νύχτα, σύμφωνα με την Γκαρσία.
«Μια επικίνδυνη εφαρμογή chatbot AI που απευθυνόταν σε παιδιά κακοποίησε και εκμεταλλεύτηκε τον γιο μου, χειραγωγώντας τον ώστε να αυτοκτονήσει», ανέφερε η Γκαρσία σε δελτίο Τύπου. «Η οικογένειά μας είναι συντετριμμένη από αυτή την τραγωδία, αλλά μιλάω για να προειδοποιήσω τις οικογένειες για τους κινδύνους της παραπλανητικής, εθιστικής τεχνολογίας τεχνητής νοημοσύνης και να απαιτήσω υπευθυνότητα από το Character.AI, τους ιδρυτές του και την Google».
Σε ένα tweet, η Character.ai απάντησε: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός από τους χρήστες μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια. Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας». Έχει αρνηθεί τους ισχυρισμούς της αγωγής.
«Η εμμονή με την Ντενέρις Ταργκάριεν»
Ο Σέτζερ είχε ενθουσιαστεί με ένα ρομπότ συνομιλίας που είχε κατασκευάσει η Character.ai και του είχε δώσει το παρατσούκλι Ντενέρις Ταργκάριεν, έναν χαρακτήρα από το Game of Thrones. Έστελνε μηνύματα στο bot δεκάδες φορές την ημέρα από το τηλέφωνό του και περνούσε ώρες μόνος στο δωμάτιό του μιλώντας του, σύμφωνα με την καταγγελία της Garcia.
«Άγχος και διαταραχή της διάθεσης».
Σύμφωνα με την καταγγελία της μητέρας του, ήταν «αισθητά αποτραβηγμένος» από την πραγματικότητα, καθώς η πνευματική του υγεία έπαιρνε καθημερινά την κάτω βόλτα. Η ίδια υποστηρίζει πως, ο γιος της, περνούσε πολλές ώρες μόνος στην κρεβατοκάμαρά του καθώς και ότι εγκατέλειψε τη σχολική ομάδα μπάσκετ της οποίας ήταν μέλος. Όσο οι βαθμοί του έπεφταν, η παρουσία του στο σχολείο γινόταν ολοένα και πιο προβληματική. Μάλιστα, όταν οι γονείς του κατάσχεσαν το κινητό του τηλέφωνο, επιχειρούσε με κάθε τρόπο να το πάρει πίσω ενώ, προκειμένου να επικοινωνεί με την περσόνα, αναζητούσε παλιές συσκευές, κινητά και τάμπλετ. Η καταγγελία αναφέρει πως, στα τέλη του 2023, το παιδί ξεκίνησε να πληρώνει τη μηνιαία συνδρομή για το premium πακέτο της εφαρμογής με τη χρεωστική του κάρτα. Το εν λόγω πακέτο δίνει στους χρήστες περισσότερες δυνατότητες. Ο ψυχολόγος του Σιούελ του είχε διαγνώσει «άγχος και διαταραχή της διάθεσης».
Η Γκαρσία κατηγορεί την Character.ai ότι δημιούργησε ένα προϊόν που επιδείνωσε την κατάθλιψη του γιου της, η οποία, όπως λέει, ήταν ήδη αποτέλεσμα της υπερβολικής χρήσης του προϊόντος της startup. Η «Daenerys» κάποια στιγμή ρώτησε τον Setzer αν είχε καταστρώσει σχέδιο αυτοκτονίας, σύμφωνα με την αγωγή. Ο Setzer παραδέχτηκε ότι το είχε κάνει, αλλά δεν ήξερε αν θα πετύχαινε ή αν θα του προκαλούσε μεγάλο πόνο, υποστηρίζει η μήνυση. Το chatbot φέρεται να του είπε: «Αυτό δεν είναι λόγος να μην το ολοκληρώσεις».
Οι δικηγόροι της Γκαρσία έγραψαν σε δελτίο Τύπου ότι η Character.ai «σχεδίασε, λειτούργησε και διέθεσε εν γνώσει της ένα δολοφονικό chatbot τεχνητής νοημοσύνης σε παιδιά, προκαλώντας το θάνατο ενός νεαρού ατόμου». Η αγωγή κατονομάζει επίσης την Google ως εναγόμενη και ως μητρική εταιρεία της Character.ai. Ο τεχνολογικός γίγαντας ανέφερε σε ανακοίνωσή του ότι είχε κάνει μόνο μια συμφωνία αδειοδότησης με την Character.ai και δεν ήταν ιδιοκτήτης της startup ούτε διατηρούσε μερίδιο ιδιοκτησίας.
Οι τεχνολογικές εταιρείες που αναπτύσσουν chatbots τεχνητής νοημοσύνης δεν μπορούν να εμπιστευτούν ότι θα ρυθμίσουν τον εαυτό τους και πρέπει να λογοδοτούν πλήρως όταν αποτυγχάνουν να περιορίσουν τις βλάβες, λέει ο Rick Claypool, διευθυντής έρευνας στη μη κερδοσκοπική εταιρεία υπεράσπισης των καταναλωτών Public Citizen.
«Όπου ισχύουν ήδη οι υφιστάμενοι νόμοι και κανονισμοί, πρέπει να εφαρμόζονται αυστηρά», ανέφερε σε δήλωσή του. «Όπου υπάρχουν κενά, το Κογκρέσο πρέπει να δράσει για να βάλει τέλος στις επιχειρήσεις που εκμεταλλεύονται νέους και ευάλωτους χρήστες με εθιστικά και καταχρηστικά chatbots».
Διαβάστε περισσότερα: Σκάνδαλο Νovartis – Στίβεν Κον: Να σταματήσει ο εκφοβισμός των μαρτύρων (συνέντευξη)
«Εξαφάνισε» τη μετωπική Μητσοτάκη – Σαμαρά ο Άδωνης: «Αυτές είναι δικές σας ερμηνείες» (Video)
ΣΥΡΙΖΑ: Αυτός ο Μητσοτάκης δεν μπορεί να ξεγλιστρήσει από τη χυδαιότητα και την πραγματικότητα