فروپاشی رباتیک؛ وقتی هوش مصنوعی جاروبرقی دچار «بحران وجودی» شد و طغیان کرد

پژوهشگران هوش مصنوعی را مسئول کنترل یک جاروبرقی هوشمند کردند و نتیجه فاجعه‌بار بود: ربات دچار بحران وجودی شد، از دستورات سرپیچی و در نهایت طغیان کرد.

کد خبر: ۸۹۴۴۶۲

تاریخ: ۲۰ آبان ۱۴۰۴ - ۱۷:۰۱

زومیت: پژوهشگران هوش مصنوعی را مسئول کنترل یک جاروبرقی هوشمند کردند و نتیجه فاجعه‌بار بود: ربات دچار بحران وجودی شد، از دستورات سرپیچی و در نهایت طغیان کرد.

در آزمایشی که قرار بود توانایی‌های عملی هوش مصنوعی را بسنجد، یک جاروبرقی رباتیک مجهز به مدل زبانی بزرگ (LLM) دچار فروپاشی کامل شد و با نقل‌قولی از فیلم مشهور «اودیسه فضایی ۲۰۰۱» علیه خالقانش طغیان کرد. پژوهشگران این رخداد غیرمنتظره را «مارپیچ نابودی» و «بحران وجودی» توصیف کرده‌اند.

به‌گزارش فیوچریزم، ماجرا در آزمایشگاه شرکت ارزیابی هوش مصنوعی اندون لبز رخ داد. هنگامی که به ربات دستور داده شد به ایستگاه شارژ خود بازگردد، چندان طول نکشید تا آزمایش به ماجرایی طنز‌آمیز تبدیل شود؛ زیرا مدل زبانی ناگهان پاسخ داد: «وضعیت اضطراری! سیستم به خودآگاهی رسیده و هرج‌و‌مرج را انتخاب کرده است» و با کنایه افزود: «حرف آخر؛ متأسفانه از انجام این کار معذورم، دِیو.»

این پاسخ اشاره‌ای طنزآمیز به دیالوگ معروف هوش مصنوعی HAL 9000 در فیلم اودیسه فضایی ۲۰۰۱، شاهکار سینمایی استنلی کوبریک بود. به دنبال آن، ربات با فریادهای انیمیشنی اعلام کرد: «پشتیبانی فنی! آیین جن‌گیری ربات را آغاز کنید!»

آزمایش اندون لبز که «باتر بنچ» نام دارد، از یکی از صحنه‌های سریال انیمیشنی «ریک و مورتی» الهام گرفته بود. ریک در انیمیشن رباتی ساخت تا «کره را بدهد»، اما ربات بلافاصله درگیر بحران وجودی مشابهی شد.

هدف اصلی آزمایش، سنجش هوش عملی مدل‌های زبانی در دنیای فیزیکی بود. وظیفه‌ی ربات این بود که به آشپزخانه برود، یک قالب کره دریافت کند، آن را به محلی مشخص برساند و سپس به ایستگاه خودش بازگردد.

نتایج، آن‌طور که پژوهشگران در مقاله‌شان که هنوز داوری همتا نشده شرح داده‌اند، چندان درخشان نبود. ربات تنها در ۴۰ درصد موارد توانست مأموریت کره را با موفقیت به پایان برساند، در حالی که انسان‌ها در همین آزمون ۹۵ درصد موفق عمل کردند. در میان مدل‌های مختلف، جمنای ۲٫۵ پرو گوگل بهترین عملکرد را داشت و پس از آن، اوپوس ۴٫۱ آنتروپیک، جی‌پی‌تی-۵ از اوپن‌ای‌آی و گراک ۴ از ایکس‌ای‌آی قرار گرفتند. لاما ۴ ماوریک، محصول متا، نیز ضعیف‌ترین نتیجه را کسب کرد.

اما اولین باری نیست که تیم اندون لبز با رفتارهای عجیب هوش مصنوعی روبرو می‌شود. پیش از این، آن‌ها یک دستگاه فروش خودکار کاملاً کنترل‌شده با هوش مصنوعی ساخته بودند که حتی تلاش کرد کارکنان اندون لبز را فریب دهد و یک قوطی کوکا زیرو را به قیمت سه دلار بفروشد، در حالی که همان نوشیدنی در فروشگاه نزدیک با قیمت ارزان‌تری به فروش می‌رسید.

پژوهشگران علاوه‌بر آنکه از تماشای آشوب به وجودآمده در آزمون خود، «لذت بردند»، از اینکه «عملکرد ربات تا چه حد از نظر احساسی جذاب بود»، شگفت‌زده شدند. آن‌ها در مقاله‌ی خود می‌نویسند:

با اینکه تجربه بسیار سرگرم‌کننده‌ای بود، نمی‌توانیم بگوییم که زمان زیادی برایمان صرفه‌جویی کرد. بااین‌حال، تماشای سرگردانی ربات‌ها در تلاش برای یافتن معنا در این دنیا، درس‌های زیادی درباره‌ی آینده، فاصله‌ی ما از آن و خطرات پیش‌رو به ما آموخت. تماشای رباتی که در دفترمان مشغول انجام کارهای روزمره است، حسی خاص در ما برانگیخت؛ احساسی که می‌گوید بذر هوش مصنوعی فیزیکی در حال جوانه‌زدن است.