اکونومیست:

هوش مصنوعی و جنگ / افزایش خطرات علیه انسان ها همزمان با قدرت گرفتن رایانه ها در جنگ

مسابقه بین چین و آمریکا، دو ابرقدرت جهان، دارای ابعاد مختلفی است، از کشمکش های مربوط به سهمیه های فلزی گرفته تا نزاع ها بر سر ویزای دانشجویی. یکی از نگران کننده ترین و کمتر دیده شده ترین ابعاد، مسابقه در خصوص جنگ با هوش مصنوعی است. هر دو کشور در حال سرمایه گذاری مبالغ زیادی در هوش مصنوعی نظامی هستند و از ربات های خودمختار تا نرم افزارهای هوشمند پیغام رسان به فرمانده جنگ را تولید می کنند.

کد خبر: ۴۹۹۷۹۵

تاریخ: ۱۵ شهريور ۱۳۹۸ - ۱۷:۰۵

به گزارش سرویس آی تی و فناوری انتخاب به نقل از اکونومیست، چین اعتراف می کند که آمریکا به لطف موفقیت های شرکت های غربی مانند موفقیت های آنها در بازی های استراتژی پیشرفته ، دارای برتری نسبی است. اما آمریکا نیز می ترسد که دولت چین از دسترسی آزاد به داده های فراوان برخوردار باشد و در نتیجه بتواند با سرعت هر چه بیشتر شرکت هایی محلی را برای توسعه هوش مصنوعی ایجاد کند. همانطور که جک شاناهان ، یک ژنرال که شخصیتی مهم در پنتاگون است ، ماه گذشته اظهار داشت: "آنچه که نمی خواهم ببینم آینده ای است که رقبای احتمالی ما نیرویی هوشمند و کاملاً فعال دارند و ما این قدرت را نداریم."

سلاحهای با قابلیت فعال سازی مدنظر وی ممکن است سرعت و دقت فوق بشری را ارائه دهند. اما آنها همچنین این توانایی را دارند که موازنه قدرت را بر هم بزنند. برای به دست آوردن یک مزیت نظامی ، وسوسه ارتش ها این خواهد بود که نه تنها به هوش مصنوعی توصیه کنند بلکه با هوش مصنوعی تصمیم بگیرند و دستور دهند. این می تواند عواقب نگران کننده ای داشته باشد. فراموش نکنیم که هوش مصنوعی قادر به تفکر سریعتر از انسانها  است و در نتیجه یک سیستم فرماندهی با قابلیت هوش مصنوعی ممکن است حملات موشکی به ناوگان هواپیما و پایگاههای هوایی را با سرعتی فراتر از حد تصور فرمانده جنگ ترتیب دهند. مهمتر از آن ، سیستم های مبتنی بر هوش مصنوعی می توانند هک شده و داده های دستکاری شده نیز می توانند کل سیستم را فریب دهند.

در طول قرن بیستم ، جهان سرانجام راهی برای مدیریت تغییر پارادایم در فناوری نظامی و ظهور بمب هسته ای پیدا کرد. درواقع از فاجعه جهانی با ترکیبی از سه رویکرد جلوگیری شد: بازدارندگی ، کنترل اسلحه و اقدامات ایمنی. اکنون بسیاری از افراد به دنبال این الگو برای هوش مصنوعی هستند. متأسفانه دستاوردها در این زمینه محدود است و این فقط به دلیل جدید بودن فناوری نیست.

بازدارندگی در حوزه های مثل حمله هسته ای سده تر بود چرا که مشخص است در صورت استفاده از بمبهای هسته ای ، آنها خطرات فاجعه آمیزی را برای هر دو طرف جنگ به همراه خواهند داشت. اما تهدیدی که توسط هوش مصنوعی صورت می گیرد کمتر روشن و بسیار مبهم است. بر خلاف سیلوهای موشکی ، نرم افزارها را نمی توان از ماهواره ها جاسوسی کرد.  در حالی که بدون كاهش توان آنها می توان از كلاهك ها استفاده کرد ، اما نشان دادن این الگوریتم به جهان خارج می تواند اثربخشی آن را به خطر اندازد. ممکن است همین روش انگیزه این باشد که طرفین بر علیه یکدیگر حمله ترتیب دهند. هنری کیسینجر ، که رهبری تلاش های تسلیحاتی آمریکا با اتحاد جماهیر شوروی را رهبری کرد ، می گوید: "ناآگاهی طرفین جنگ از پیکربندی های توسعه یافته به یک مزیت استراتژیک تبدیل می شود."

این آخرین حد کنترل ایمنی است. زرادخانه های هسته ای شامل سیستم های پیچیده ای هستند که خطر حوادث در آنها زیاد است. پروتکل هایی ساخته شده است تا اطمینان حاصل شود که مشکلی ایجاد نمی شود و مانند مکانیسم های ایمن بدون عیب، بمب در صورت انقراض زودرس منفجر نمی شود. اما در مورد چگونگی اعمال و اقدامات مشابه برای فناوری، بخصوص آنهایی که به نیروهای نظامی مخفی وابسته است هیچ پروتکل ایمنی و ضد انفجاری وجود ندارد.

اصولی که این قوانین باید به کار گیرند ، صریح است. هوش مصنوعی مجبور است ارزشهای انسانی مانند عدالت را منعکس کند و نسبت به تلاش برای فریب آن مقاومت کند. از لحاظ حیاتی ، برای امنیت ، سلاح های هوش مصنوعی باید تا حد امکان قابل توضیح باشند تا انسان بتواند نحوه تصمیم گیری در مورد این سلاح ها را بفهمد. بسیاری از شرکت های غربی هوش مصنوعی را برای اهداف تجاری توسعه می دهند ، از جمله اتومبیل های خودران و نرم افزار تشخیص چهره. اما سهم هوش مصنوعی در حوزه نظامی بیشتر است ، جایی که در اثر تقابل بین دو قدرت بزرگ جهان ، وسوسه سوء استفاده از هوش مصنوعی هر لحظه پررنگ تر می شود. گرچه مرکز هوش مصنوعی پنتاگون تا کنون اخلاقی عمل کرده اما هر لحظه ممکن است بروز یک جنگ فناوری همه چیز را تغییر دهد.