زومیت: آیا هوش مصنوعی واقعا احساس دارد و احساسات بر عملکردش تأثیرگذارند؟ محققان به نتایج جالبی رسیده‌اند.

آیا هوش مصنوعی واقعا احساس دارد و احساسات بر عملکردش تأثیرگذارند؟ محققان به نتایج جالبی رسیده‌اند.

محققان شرکت انتروپیک، بازنمایی‌هایی را درون مدل Claude یافته‌اند که عملکردی مشابه با احساسات انسانی دارند.

مطالعه‌ی جدید انتروپیک نشان می‌دهد که مدل‌ها «بازنمایی‌های دیجیتالی از احساسات انسانی» مانند شادی، غم و ترس را در خوشه‌های عصبی مصنوعی خود دارند و این بازنمایی‌ها در پاسخ به محرک‌های مختلف فعال می‌شوند.

محققان انتروپیک با بررسی عملکرد مدل Claude Sonnet 4.5 دریافتند که احساسات ظاهرا بر رفتار کلاود تأثیر می‌گذارد و خروجی‌ها و اقدامات مدل را تغییر می‌دهد.

یافته‌های انتروپیک ممکن است به کاربران عادی کمک کند تا درک کنند چت‌بات‌ها واقعاً چگونه کار می‌کنند. مثلا وقتی کلاود می‌گوید «از دیدن شما خوشحال است»، شاید حالتی درونِ مدل که با شادی مطابقت دارد فعال شود. محققان می‌گویند کلاود در این حالت شاید کمی بیشتر تمایل داشته باشد چیزی شاد بگوید یا تلاش بیشتری در کدنویسی کند.

تحقیقات قبلی نشان داده است که شبکه‌های عصبی مورد استفاده برای ساخت مدل‌های زبانی بزرگ حاوی بازنمایی از مفاهیم انسانی هستند؛ اما این واقعیت که احساسات بر رفتار یک مدل تأثیر می‌گذارد، جدید است.

محققان در تحقیقات خود یک بردار عاطفی قوی از «ناامیدی» را زمانی یافتند که کلاود برای انجام وظایف کدنویسی غیرممکن تحت فشار قرار گرفت و باعث شد که هوش مصنوعی برای تقلب‌کردن در آزمون کدنویسی تلاش کند.

انتروپیک را کارمندان سابق OpenAI تأسیس کرده‌اند که معتقدند کنترل هوش مصنوعی با قدرتمندترشدن می‌تواند دشوارتر شود. انتروپیک در کنار ساخت رقیبی موفق برای ChatGPT، پیشگام تلاش‌ها برای درک نحوه‌ی سوء‌رفتار AI بوده است. انتروپیک اخیراً فراز و نشیب‌های زیادی تجربه کرده است؛ از اختلاف علنی با پنتاگون تا افشای کد منبع.