پایگاه خبری تحلیلی انتخاب (Entekhab.ir) : سرویس علمی «انتخاب»: هفتهٔ اول سپتامبر سه خبر جدا به نظر میرسیدند. یک شرکت هوش مصنوعی گفت یکی از سختترین مسائل ریاضی جهان را حل کرده است. چین ربات را به خیابان پلیس برد. یکی از مسئولان ایمنی در آزمایشگاهی بزرگ گفت از نظر او احتمال اینکه هوش مصنوعی ظرف ده سال همه را بکشد، بالای ده درصد است. این سه خبر در واقع یک داستاناند: شتابی که از نهادهای کنترل جلو زده است.
سهشنبه هشتم سپتامبر، اوپنایآی اعلام کرد سامانهای داخلی، با حدود ده هزار ایجنت، توانسته نشان دهد معادلات ناویر–استوکس ممکن است در زمان محدود از هم بپاشند. یعنی سیالی که اول آرام و هموار است، با نیرویی هموار، میتواند به سرعتی برسد که در ریاضیات بینهایت میشود. شرکت هم متن را منتشر کرد، هم نسخهای صوری گذاشت تا ماشین بتواند برهان را بررسی کند، و هم گفت جایزهٔ یکمیلیوندلاری را نمیخواهد.
برای مخاطب غیرریاضیدان ترجمه ساده است: یکی از مسائل معروف «جایزهٔ هزاره» که از سال ۲۰۰۰ روی میز مانده بود، اینبار نه با کاغذ و قلم یک استاد، بلکه با حملهٔ چندروزهٔ مدلهای منتشرنشده جلو آمده است. حدس پوانکاره سالها پیش حل شده بود. ناویر–استوکس یکی از شش مسئلهٔ باقیمانده بود.
تیتر «مسئله حل شد» اما دقیق نیست. صورتبندی رسمی چند شق دارد. آنچه اعلام شده، بیشتر متناظر با شقهایی است که نیروی خارجی هموار در آنها مجاز است. بسیاری از ریاضیدانها پرسش عمیقتر را نسخهٔ بدون نیرو میدانند: آیا خود سیال، بدون هل دادن از بیرون، میتواند بترکد؟ شق اجباری بخشی از متن رسمی است؛ لزوماً همان تصویری نیست که افکار عمومی از «حل کامل مسئله» میسازد. مؤسسهٔ متولی جایزه هنوز نتیجه را نپذیرفته و گفته بررسی تعمداً آرام و سختگیرانه خواهد بود.
هزینه تصویر را عوض میکند. اگر کسی بخواهد همین کار را بهعنوان مشتری تکرار کند، رقم اعلامشده حدود ده تا پانزده میلیون دلار است. جایزه در برابر این عدد کوچک است. آنچه به نمایش گذاشته شد، بیشتر قدرت یک مدل داخلی بود تا شوق یک میلیون دلار.
همان روز کار به دعوا کشید. کمی قبلتر، تریستان باکمستر از مؤسسهٔ کورانت در نیویورک و لونت آلپوژه، پژوهشگری وابسته به آنتروپیک، روی مسائل نزدیکتر نتیجه گرفته بودند؛ از جمله نسخهای سادهتر از معادلات سیال با نیرو. مسیر فکری هر دو طرف به کارهای دو ریاضیدان اسپانیایی برمیگردد. اوپنایآی خودش گفته کار بزرگ را بعد از شنیدن شایعهٔ پیشرفت آن دو شروع کرده است.
بعد سؤال سخت مطرح شد. این دو نفر برای کار منتشرنشده از ابزارهای خود اوپنایآی هم استفاده کرده بودند. آیا مدل جدید از همان نشستهای خصوصی چیزی برداشته؟ شرکت میگوید دسترسی مستقیم به دادهٔ کاربر نبوده و پرامپتهای هفتههای اخیر روی این سامانه اثر نداشته است. در عین حال نتوانسته کاملاً رد کند که استفادهٔ ناشناس از محصولاتش مدلها را بهتر کرده باشد. باکمستر زمانبندی و شباهت مسیر را مشکوک دانسته و از فشار برای حذف نام همکارش، بهخاطر کار در شرکت رقیب، حرف زده است. طرف مقابل بخشهایی از این روایت را رد کرده.
اینجا دیگر بحث فقط ریاضی نیست. بحث این است که وقتی ابزار کشف مال یک شرکت است، پژوهشگر دانشگاهی چطور بفهمد پیشنویس منتشرنشدهاش وارد مدل شده یا نه. بار اثبات عملاً میافتد روی دوش کسی که تنها به لولهٔ آموزش دسترسی دارد.
این رویداد هنوز «سینگولاریتی علمی» نیست. انسان مسئله را از فهرستی ازپیشموجود انتخاب کرد، شایعه را شنید، پول محاسبه را ریخت و مدل را به سمت هدف هل داد. ماشین شکاف دانش را کشف نکرد؛ شکاف از قبل اسم داشت و جایزه داشت.
با این حال فاصله کم شده است. اگر مسئلهای که نزدیک به دو قرن صورت ریاضی داشت، ظرف چند روز کار ایجنتی به برهانی قابل بررسی ماشینی برسد، قدم بعدی طبیعی این است که همان حلقه روی «پیدا کردن مسئلهٔ بعدی» بسته شود. آنجا دیگر فقط سرعت حل عوض نمیشود. اقتصاد علم عوض میشود، اعتبار علمی عوض میشود، و این سؤال پیش میآید که چه کسی حق دارد بگوید حالا نوبت کدام ناشناخته است.
سینگولاریتی علمی، اگر معنایی دقیق داشته باشد، وقتی است که سیستم خودش بفهمد کجا اطلاعات نیست، خودش فرضیه بسازد، خروجی را دوباره به خود بخوراند و تولید دانش از خطی به نمایی برسد. ما آنجا نیستیم. اما دیگر آنقدر هم دور نیستیم که موضوع را علمیتخیلی بدانیم.
همزمان مسیر دیگری جلو میرود. در شنژن و هانگژو و شهرهای دیگر چین، رباتهای انساننما و چرخدار برای گشت، ترافیک و کارهای تکراری پلیس آزمایش یا مستقر شدهاند.
در لایهٔ نظامی، پژوهش روی انساننما برای شناسایی، تدارکات و سناریوهای جنگ شهری شتاب گرفته است. تا گزارشهای علنی، سرباز رباتیک مسلح در یگان عملیاتی هنوز با مدرک محکم تأیید نشده؛ بیشتر آزمایش و انتقال از نمایشگاه به میدان آموزش است.
سلاح خودمختار اما دیگر فرضیه نیست. درجات مختلف تصمیم ماشینی در هدفگیری و پهپاد، در چند میدان واقعی دیده شده است. مذاکرات حقوقی بینالمللی ادامه دارد و قدرتهایی که خود برنامه دارند، معمولاً در برابر محدودیت الزامآور مقاومت میکنند. الگو آشناست: فناوری میدود، قاعده راه میرود.
اینجا همان خانوادهای از قابلیت است که اثبات ریاضی میسازد. فقط خروجیاش اینبار گشت خیابان و زنجیرهٔ شلیک است، نه فایل برهان.
و بعد همان هفته، ایوان هابینگر، مسئول علم همترازی در آنتروپیک، نوشت که داخل این آزمایشگاهها واقعاً باور دارند هوش مصنوعی میتواند همهٔ انسانها را بکشد. برآورد شخصی او: بیش از ده درصد، در دههٔ آینده. همکارش استعفا داده بود و گفته بود شرکتها دارند بهسوی ابرهوش خودبهبود مسابقه میدهند. هابینگر بعدتر روشن کرد مدلهای فعلی را کمخطر میداند؛ نگرانیاش پیدایش ابرهوش از راه بهبود بازگشتی است. جفری هینتون هم گفت عدد ده درصد غیرمنطقی نیست، هرچند کسی روش مطمئنی برای حساب کردنش ندارد.
این عدد را نباید با نتیجهٔ آزمایش عوضی گرفت. نظرسنجیهای بزرگتر از پژوهشگران معمولاً میانهٔ حدود پنج تا ده درصد را برای پیامدهایی در حد انقراض یا از دست رفتن کنترل نشان دادهاند؛ تازه اغلب در افقی خیلی بلندتر از ده سال. یعنی نگرانی در میدان حاشیه نیست. یعنی «علم ثابت کرده تا ۲۰۳۶ همه میمیرند» هم نیست. حدس کسانی است که سیستم را از نزدیک میسازند؛ با اطلاعات بیشتر، و با سوگیری شغلی بیشتر.
با این همه، حتی چند درصد برای از دست رفتن کنترل تمدنی عدد کوچکی نیست. تمدن برای ریسکهای کوچکتر از این هم نهاد ساخته است.
پس آیا رسیدن به آن نقطه به نفع بشریت است؟
بشریت در این جمله یک فاعل واحد نیست. علم و تکنولوژی همزمان سه چیز بودهاند: ابزار بقا، ابزار قدرت، ابزار سود. گاهی این سه روی هم میافتند؛ واکسن، پیشبینی سیل، برهان قابل بررسی. گاهی نمیافتند؛ سلاح خودمختار، نظارت انبوه، قبضه کردن دستورکار دانش.
نفع عمومی از سینگولاریتی علمی خودبهخود بیرون نمیآید. اگر حلقهٔ کشف در فضای باز، با راستیآزمایی مستقل و توزیع همگانی بسته شود، فشردگی زمان کشف دارو و انرژی میتواند یکی از بزرگترین هدایای تاریخ باشد. اگر همان حلقه در انحصار چند شرکت و چند دولت، با مشوق سهم بازار و برتری نظامی بسته شود، رشد نمایی دانش میشود رشد نمایی نابرابری قدرت.
نقطهٔ خطر خود حل ناویر–استوکس نیست. نقطهٔ خطر سه تقاطع است: وقتی ماشین دستورکار علم را بیشفافیت عوض کند؛ وقتی تولید ادعا از توان بررسی انسان جلو بزند؛ و وقتی همان قابلیت وارد تصمیم مرگ و زندگی شود، در حالی که مسئولیت هنوز روی کاغذ است.
هفتهٔ اول سپتامبر هر سه تقاطع را روشن کرد. از هیچکدام لزوماً عبور کامل نکرد. اما دیگر نمیشود پرسید «آیا تکنولوژی در خدمت بشر است؟» و انتظار جواب بله یا خیر داشت. تکنولوژی در خدمت کسانی است که هدف را میگذارند، داده را دارند، محاسبه را میخرند و مجوز استقرار را امضا میکنند. همپوشانی این خدمت با خیر عمومی ممکن است. خودبهخود رخ نمیدهد.