هشدار پژوهشگران «اوپن‌ای‌آی»: هوش مصنوعی می‌تواند «بشریت» را تهدید کند

رویترز در گزارشی به نقل از دو منبع آگاه اعلام کرد که گروهی از پژوهش‌گران شرکت «اُپن‌ای آی» در نامه‌‌ای به هیئت مدیره از کشفی قدرتمند در حیطه هوش مصنوعی خبر داده‌اند که به گفته آنان می‌تواند بشریت را تهدید کند.

کد خبر: ۷۴۵۹۴۵

تاریخ: ۰۲ آذر ۱۴۰۲ - ۲۱:۰۴

پس از اخراج سم آلتمن، مدیرعامل شرکت «اُپن‌ای آی»، در روز ۳۰ آبان، شرکت مایکروسافت اعلام کرد که او و تیمش را برای ایجاد یک تیم تحقیقاتی جدید استخدام خواهد کرد. پیش از این بیش از ۷۰۰ کارمند این شرکت تهدید کرده بودند که در حمایت از مدیر اخراجی‌شان استعفا خواهند داد تا به مایکروسافت بپیوندند.

منابع آگاه به رویترز گفتند که این نامه یکی از موارد فهرست بلندبالایی از شکایت‌های هیئت‌مدیره بود که به اخراج آلتمن منجر شد. از موارد دیگر می‌توان به نگرانی از تجاری شدن پیشرفت‌ها پیش از درک پیامدهای آن‌ها اشاره کرد.

یکی از منابع آگاه می‌گوید که هفته گذشته «اُپن‌ای‌آی» در نامه‌ای داخلی به کارمندانش، که توسط مدیر اجرایی باسابقه شرکت میرا موراتی نوشته شده، آنان را از وجود پروژه‌ای به نام «کیو‌ استار» و نامه‌ای به هیئت مدیره آگاه کرده است.

به گفته این مقام آگاه کسانی در شرکت معتقدند که «کیو استار» می‌تواند نقطه عطفی در زمینه شناخت چیزهایی که «هوش مصنوعی عمومی» (ای‌جی‌آی) شناخته می‌شوند، محسوب شود. این شرکت «هوش مصنوعی عمومی» را سیستم‌های مستقلی تعریف می‌کند که می‌توانند در بسیاری از فعالیت‌های با ارزش اقتصادی از انسان‌ها پیشی بگیرند.

این مقام آگاه، که نخواست نامش فاش شود، گفت که «کیو استار» قادر به حل مسائل ریاضی خاصی است و گرچه آزمایش آن در سطح ریاضیات دبستان انجام شده، ولی محققان را به موفقیت‌های آتی بسیار خوشبین کرده است.

پژوهشگران ریاضیات را مرز توسعه هوش مصنوعی مولد می‌دانند. هوش مصنوعی مولد در حال حاضر در نوشتن و ترجمه و پیش‌بینی آماری کلمه بعدی – که می‌تواند شکل‌های گوناگون داشته باشد - خوب عمل می‌کند. ولی فتح قله انجام عملیات ریاضی – که در آن‌ها تنها یک پاسخ درست وجود دارد - مستلزم آن است که توانایی‌ استدلالی هوش مصنوعی مشابه هوش انسانی شود و چنین قابلیتی می‌تواند در پژوهش‌های علمی جدید اعمال شود.

بر خلاف یک ماشین‌حساب که توانایی عملیات محدودی را دارد، هوش مصنوعی می‌تواند درک کند، یاد‌بگیرد و کلی‌سازی کند.

مقامات آگاه بدون ذکر جزئيات گفتند که پژوهشگران در نامه‌شان به هیئت‌مدیره درباره قدرت و خطر احتمالی هوش مصنوعی هشدار داده‌اند. دانشمندان علوم رایانه پیش از این هم درباره خطر احتمالی ماشین‌هایی با توان هوشی بالا - از جمله این خطر که ماشین‌ها تصمیم بگیرند که علاقمندند بشریت را نابود کنند - هشدار داده بودند.

در این نامه همچنین درباره فعالیت‌های تیمی از دانشمندان هوش مصنوعی هشدار داده شده، که از ترکیب دو تیم قبلی «کُد جن» و «مت جن» تشکیل شده و روی مسئله بهبود استدلال و انجام کارهای علمی توسط هوش مصنوعی کار می‌کند و منابع متعددی وجود آن را تایید کرده‌اند.

آلتمن رهبری تلاش‌ها برای تبدیل «چت‌جی‌پی‌تی» به سریع‌الرشدترین نرم‌افزار تاریخ را بر عهده داشت و توانست برای نزدیک‌تر شدن به «هوش مصنوعی عمومی»، سرمایه و منابع کامپیوتری را از سوی شرکت مایکروسافت به «اُپن‌ای‌آی» جلب کند.

او که هفته گذشته توسط هیئت مدیره شرکت از کار برکنار شده بود، یک روز پیش از اخراجش در نشست همکاری‌های اقتتصادی آسیا-پاسیفیک گفته بود که به نظر او پیشرفت‌های عمده‌ای در پیش است. آلتمن گفت: «در دو‌ هفته گذشته، من در اتاقی بودم که ما در آن به نوعی پرده جهالت را کنار زدیم و مرز اکتشاف را جلو بردیم، و انجام چنین کاری افتخاری حرفه‌ای برای تمام عمر است.»

روز سه‌شنبه اعلام شد که او دوباره مدیرعامل «اُپن‌ای‌آی» خواهد بود و هیئت مدیره جدیدی شامل برت تیلور، مدیرعامل همراه، لری سامرز، وزیر سابق خزانه‌داری، و آدام دی‌انجلو، از اعضای هیئت مدیره سابق، سکان هدایت این شرکت را در دست خواهند گرفت.