پایگاه خبری تحلیلی انتخاب (Entekhab.ir) : جیکوب کاکسون، پژوهشگر سابق هوش مصنوعی در شرکت مشهور «آنترو پیک» نوشت: امروز از شرکت آنتروپیک استعفا دادم. سه سال گذشته را در زمینه پژوهش درباره پیشآموزش مدلها، هم در اوپنایآی و هم در آنتروپیک، سپری کردم. هیچکدام از این دو شرکت مسئولانه عمل نمیکنند. آنها با شتابی مستقیم به سوی ابرهوشِ خودبهبوددهنده پیش میروند و با جان و زندگی همه ما قمار میکنند. در ادامه، افکار بیشتری را مطرح میکنم.
به گزارش «انتخاب»؛ در ادامه این مطلب آمده است: قدرت این فناوری را دستکم نگیرید. این سیستمها بهزودی به سامانههایی فرابشری تبدیل خواهند شد که میتوانند هر چیزی را هک کنند، هر حوزهای را یکشبه متحول سازند و قدرت و منابع واقعی به دست آورند. همه ما پیشرفت در هر یک از این حوزهها را دیدهایم و سرعت پیشرفت نیز در حال کاهش نیست.
افرادی که در حال ساخت هوش مصنوعی هستند، صادقانه باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را به کام مرگ بکشاند. این یک نمایش تبلیغاتی نیست.
اگر چیزی باشد، بسیاری از مدیران و پژوهشگران ارشد در رسانهها طوری درباره این موضوع صحبت میکنند که معقول و منطقی به نظر برسند؛ اما من همان افراد را در محافل خصوصی میشنوم که ترس خود را ابراز میکنند. هیچ فعالیت انسانی دیگری چنین سطحی از خطر را به همراه ندارد.
یک واکنش رایج این است که: «اگر آنها واقعاً چنین باوری دارند، پس چرا همچنان به ساخت آن ادامه میدهند؟»
در اوپنایآی، بسیاری هنوز بهطور عمیق متوجه ابعاد تمدنی این موضوع نشدهاند. در آنتروپیک، اهمیت و ابعاد این خطر بهخوبی درک شده است، اما آنها در یک رقابت برای رسیدن به آن نقطه گرفتار شدهاند؛ آنها معتقدند هیچکس دیگری مسئولانه عمل نخواهد کرد، بنابراین خودشان باید این کار را انجام دهند، با وجود خطرات آن.
پذیرفتن این رقابت و وارد شدن به مرحله «پایان بازی» یک قمار متکبرانه و جاهطلبانه است که نباید از طریق اسلکِ یک شرکت خصوصی آغاز شود. تلاش برای با سرعت طی کردن مسیر همراستاسازی هوش مصنوعی باید مستلزم اطمینان فوقالعادهای باشد که هیچ مسیر بهتر و امنتری در دسترس نیست.
من نسبت به امکان هماهنگی و همکاری امیدوارم. هشدارهایی مانند حمله به هاجینگ فیس، امکان دستیابی به توافق میان آزمایشگاههای آمریکایی درباره سرعت پیشرفت را بیشتر کرده است. با این حال، احساس نمیکنم در مسیر جلوگیری از یک رقابت جهانی قرار داریم؛ رقابتی که ممکن است برای متوقف کردن آن به اقدامات پرهزینهای مانند ممنوعیت موقت ارتقای قابلیتهای مدلها نیاز باشد.
اگر پژوهشگر یک آزمایشگاه هوش مصنوعی هستید، از شما میخواهم به این فکر کنید که چند سال آینده واقعاً چه حسی خواهد داشت. آیا میخواهید اجرای یک فرایند یادگیری تقویتی (RL) برای یک سیستم ابرهوشمند را آغاز کنید، بدون آنکه درک دقیق و جامعی از ذهن آن داشته باشید؟ آیا باید سرتان را پایین بیندازید و به کار ادامه دهید، چون «به هر حال این اتفاق خواهد افتاد»؟ یا اینکه از این فرصت استفاده کنید و خواستار شرایط متفاوتی شوید؟