پرونده خودکشی نوجوان ۱۴ ساله پس از تعامل با چت‌بات‌های هوش مصنوعی؛ گوگل سرانجام کوتاه آمد

زومیت: گوگل و Character.AI در پی شکایت خانواده‌ها بابت تشویق نوجوانان به خودکشی ازطرف چت‌بات‌هایشان، بی‌سروصدا با شاکیان به توافق رسیده‌اند.

براساس اسناد دادگاهی، شرکت Character.AI و گوگل با چند خانواده که فرزندان نوجوانشان پس از تعامل با چت‌بات‌های هوش مصنوعی این شرکت‌ها به خودآزاری یا خودکشی روی آورده بودند به توافق رسیده‌اند. این توافق‌ها در قالب سازش خارج از دادگاه انجام شده است.

جزئیات دقیق توافق‌ها هنوز منتشر نشده است، اما طرفین پرونده به دادگاه فدرال فلوریدا اعلام کرده‌اند که «ازطریق میانجی‌گری برای حل‌وفصل همه‌ی ادعاها به توافق اصولی» دست یافته‌اند و خواستار توقف موقت رسیدگی برای نهایی‌کردن مفاد آن شده‌اند. سخنگوی Character.AI و وکیل خانواده‌ها از اظهارنظر خودداری کرده‌اند و گوگل نیز واکنشی رسمی نشان نداده است.

به‌نوشته‌ی ورج، یکی از مهم‌ترین پرونده‌ها به شکایت مگان گارسیا در سال ۲۰۲۴ مرتبط می‌شود؛ او مدعی شد چت‌باتی با تم Game of Thrones پسر ۱۴ ساله‌اش سوئل ستزر را پس از ایجاد نوعی وابستگی روانی، به انجام خودکشی تشویق کرده است. در این شکایت تأکید شده بود که گوگل به‌دلیل تأمین منابع مالی، نیروی انسانی، مالکیت فکری و فناوری هوش مصنوعی، باید به‌عنوان یکی از خالقان Character.AI تلقی شود.

پس از مطرح‌شدن شکایت، Character.AI تغییراتی در سیاست‌های ایمنی خود اعمال کرد. ازجمله این تغییرات می‌توان به تفکیک مدل زبانی بزرگ برای کاربران زیر ۱۸ سال با محدودیت‌های محتوایی سخت‌گیرانه‌تر و افزودن ابزارهای کنترل والدین اشاره کرد. این شرکت در ادامه، دسترسی افراد زیر سن قانونی به گفت‌وگوهای آزاد با شخصیت‌ها را به‌طور کامل مسدود کرد.

براساس اسناد حقوقی، پرونده‌های مشابهی در ایالت‌های کلرادو، نیویورک و تگزاس نیز با توافق میان طرفین همراه شده‌اند. بااین حال، توافق‌ها همچنان باید به‌صورت رسمی نهایی و به تأیید دادگاه‌ها برسند.