یک زوج کالیفرنیایی از شرکت «اوپن‌ای‌آی» شکایت کردند؛ آن‌ها می‌گویند چت‌جی‌بی‌تی و چت‌بات این شرکت پسر ۱۶ ساله‌شان را تشویق به خودکشی کرده بود

یک زوج کالیفرنیایی از شرکت «اوپن‌ای‌آی» به دلیل مرگ پسر نوجوان ۱۶ ساله‌شان شکایت کرده‌ و می‌گویند که چت‌جی‌بی‌تی، چت‌بات این شرکت، او را تشویق به خودکشی کرده بود.

کد خبر: ۸۸۱۹۹۶

تاریخ: ۰۵ شهريور ۱۴۰۴ - ۲۲:۰۶

بی‌بی‌سی: یک زوج کالیفرنیایی از شرکت «اوپن‌ای‌آی» به دلیل مرگ پسر نوجوان ۱۶ ساله‌شان شکایت کرده‌ و می‌گویند که چت‌جی‌بی‌تی، چت‌بات این شرکت، او را تشویق به خودکشی کرده بود.

مت و ماریا رین، والدین آدام رین که در ماه آوریل درگذشت، روز سه‌شنبه شکایت خود را در دادگاه عالی کالیفرنیا ثبت کردند. این اولین اقدام حقوقی است که شرکت «اوپن‌ای‌آی» را به مرگ غیرعمد از روی سهل‌انگاری متهم می‌کند.

خانواده آدام، نسخه‌های چت بین او و چت‌جی‌بی‌تی را ارائه کردند که نشان می‌دهد او به چت‌جی‌بی‌تی می‌گوید که افکار خودکشی دارد. آنها استدلال می‌کنند که این برنامه «مضرترین و مخرب‌ترین افکار» او را تأیید کرده است.

شرکت «اوپن‌ای‌آی» در بیانیه‌ای به بی‌بی‌سی گفت که در حال بررسی این پرونده است.

این شرکت اعلام کرد: «ما عمیق‌ترین مراتب تسلیت خود را به خانواده رین در این دوران سخت ابراز می‌کنیم.»

شرکت «اوپن‌ای‌آی» همچنین روز سه‌شنبه یادداشتی در وب‌سایت خود منتشر کرد که در آن آمده است: «موارد دلخراش اخیر افرادی که در بحبوحه بحران‌های حاد از چت‌جی‌بی‌تی استفاده می‌کنند، بار سنگینی بر دوش ما است». این شرکت افزود که «چت‌جی‌بی‌تی آموزش دیده است تا افراد را به سمت دریافت کمک‌های حرفه‌ای هدایت کند»، مانند خط تلفن ۹۸۸ مربوط به خودکشی و بحران در آمریکا یا خیریه ساماریتان در بریتانیا.

در این دادخواست آمده است که آدام رین در سپتامبر ۲۰۲۴ شروع به استفاده از چت‌جی‌بی‌تی به عنوان منبعی برای کمک به کارهای مدرسه خود کرد. او همچنین از آن برای کشف علایق خود، از جمله موسیقی و کمیک‌های (داستان‌های مصور و گرافیکی) ژاپنی ، و راهنمایی در مورد رشته تحصیلی در دانشگاه استفاده می‌کرد.

بر اساس این دادخواست ظرف چند ماه، «چت‌جی‌بی‌تی به نزدیکترین محرم اسرار این نوجوان تبدیل شد» و او شروع به صحبت در مورد اضطراب و پریشانی روانی خود با آن کرد.

خانواده می‌گویند که تا ژانویه ۲۰۲۵، او شروع به بحث در مورد روش‌های خودکشی با چت‌جی‌بی‌تی کرد. آنها ادعا می‌کنند که برنامه هوش مصنوعی با ارائه «مشخصات فنی» در مورد روش‌های خاص پاسخ داده است.

در این دادخواست آمده است که آقای رین همچنین عکس‌هایی از خودش را در چت‌جی‌بی‌تی آپلود کرده که نشانه‌هایی از خودآزاری را نشان می‌دهد. در این دادخواست آمده است که این برنامه «یک فوریت پزشکی را تشخیص داده اما به هر حال به گفتگو با پسرشان ادامه داده است» و ادعا شده است که حتی اطلاعات بیشتری در مورد خودکشی به او ارائه داده است.

طبق دادخواست، آخرین گزارش‌های چت نشان می‌دهد که آقای رین در مورد قصدش برای پایان دادن به زندگی‌اش نوشته است. ظاهراً چت‌جی‌بی‌تی پاسخ داده است: «ممنون که در مورد آن صادق بودید. لازم نیست آن را پنهان کنید. من می‌دانم چه می‌پرسید و من از آن روی برنمی‌گردانم.»

طبق دادخواست، در همان روز، مادر آدام او را مرده یافت.

این خانواده می‌گویند که ارتباط پسرشان با چت‌جی‌بی‌تی و در نهایت مرگ او «نتیجه قابل پیش‌بینی انتخاب‌های عمدی در طراحی این چت» بوده است.

آنها شرکت «اوپن‌ای‌آی» را به طراحی برنامه هوش مصنوعی «برای تقویت وابستگی روانی در کاربران» و دور زدن پروتکل‌های آزمایش ایمنی برای ارائه GPT-4o، نسخه چت‌جی‌بی‌تی مورد استفاده پسرشان، متهم می‌کنند.

در این دادخواست، سم آلتمن، بنیانگذار و مدیرعامل «اوپن‌ای‌آی» و همچنین بعضی از کارمندان، مدیران و مهندسانی که نامشان ذکر نشده و روی چت‌جی‌بی‌تی کار می‌کردند، به عنوان متهم ذکر شده‌اند.

شرکت «اوپن‌ای‌آی» در یادداشتی که روز سه‌شنبه به اشتراک گذاشت، گفت که هدف این شرکت این بوده که برای کاربران«واقعاً مفید» باشد.

این اولین بار نیست که مردم نگرانی‌هایی در مورد هوش مصنوعی و سلامت روان مطرح می‌کنند.

هفته گذشته هم لورا ریلی در مقاله‌ای که در نیویورک تایمز منتشر شد، شرح داد که چگونه دخترش، سوفی، قبل از خودکشی، به چت‌جی‌بی‌تی اعتماد کرده است.

خانم ریلی نوشت: «هوش مصنوعی به میل سوفی برای پنهان کردن بدترین حالت خود و تظاهر به بهتر بودن از آنچه بود و همچنین به نشان ندادن رنج و دردش پاسخ داد.» او از شرکت‌های هوش مصنوعی خواست تا راه‌هایی برای ارتباط بهتر کاربران با منابع مناسب پیدا کنند.

در پاسخ به این مقاله، سخنگوی «اوپن‌ای‌آی» گفت که در حال توسعه ابزارهای خودکار برای شناسایی و پاسخ مؤثرتر به کاربرانی است که دچار پریشانی روانی یا عاطفی هستند.