چرا غول‌های هوش مصنوعی این روزها فیلسوف استخدام می‌کنند؟

زومیت: تا چند سال پیش، اگر کسی می‌گفت بزرگ‌ترین شرکت‌های فناوری جهان به‌دنبال استخدام فیلسوف هستند، احتمالاً کمتر کسی حرفش را باور می‌کرد. در ذهن بسیاری از مردم، فلسفه رشته‌ای بود که بیشتر با دانشگاه، کتاب‌های قطور و بحث‌های انتزاعی سروکار داشت، نه با پیشرفته‌ترین فناوری‌های دنیا.

اما امروز شرایط تغییر کرده است. آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی مانند شرکت‌های اوپن‌اِی‌آی، گوگل دیپ‌مایند و انتروپیک در کنار برنامه‌نویسان، دانشمندان رایانه و متخصصان یادگیری ماشین، از فیلسوفان نیز برای همکاری دعوت می‌کنند. این اتفاق آن‌قدر فراگیر شده که مجله اکونومیست در گزارشی به این مسئله پرداخته است: چرا شرکت‌های بزرگ هوش مصنوعی تا این اندازه به متخصصان فلسفه علاقه‌مند شده‌اند.

شاید در نگاه اول این تصمیم عجیب به نظر برسد. مگر ساخت چت‌بات یا مدل هوش مصنوعی به ریاضیات، کدنویسی و سخت‌افزارهای قدرتمند وابسته نیست؟ فیلسوف چه کمکی می‌تواند به ساخت چنین سامانه‌هایی بکند؟

پاسخ این پرسش در تغییر بزرگی نهفته است که هوش مصنوعی درطول چند سال گذشته تجربه کرده است.

نسل‌های اولیه هوش مصنوعی معمولاً وظایف مشخصی داشتند. آن‌ها تصویر گربه را از سگ تشخیص می‌دادند، متن را ترجمه می‌کردند یا بهترین مسیر روی نقشه را پیدا می‌کردند. در چنین سامانه‌هایی، درست یا غلط بودن پاسخ تقریباً مشخص بود.

اما مدل‌های زبانی امروزی مانند چت‌جی‌پی‌تی، جمینای و کلود امروزه کارهای بسیار گسترده‌تری انجام می‌دهند. کاربران از آن‌ها درباره بیماری‌ها، روابط خانوادگی، مسائل حقوقی، مشکلات کاری، تربیت فرزند، سیاست، تاریخ و حتی پرسش‌های اخلاقی سؤال می‌کنند.

فرض کنید فردی از هوش مصنوعی بپرسد: «اگر گفتن حقیقت باعث آسیب دیدن یک نفر شود، باز هم باید حقیقت را گفت؟» یا بپرسد: «اگر میان نجات یک دوست و رعایت قانون مجبور به انتخاب باشم، کدام کار درست‌تر است؟»

برخلاف تصور رایج، فیلسوفانی که در شرکت‌های هوش مصنوعی مشغول به کار می‌شوند، قرار نیست ساعت‌ها درباره افلاطون یا ارسطو بحث کنند. وظیفه آن‌ها بسیار عملی‌تر است. آن‌ها به مهندسان کمک می‌کنند تا مشخص کنند هوش مصنوعی در موقعیت‌های دشوار چگونه پاسخ بدهد. برای مثال، اگر چند پاسخ ممکن وجود داشته باشد، کدام پاسخ منصفانه‌تر، محتاطانه‌تر یا مفیدتر است؟

یک مهندس می‌تواند الگوریتمی بسیار دقیق طراحی کند، اما تصمیم‌گیری درباره ارزش‌ها موضوع دیگری است. برای مثال، تصور کنید قرار است به هوش مصنوعی یاد بدهید که همیشه صادق باشد. در نگاه اول، این هدف کاملاً منطقی به نظر می‌رسد. اما اگر گفتن حقیقت جان یک انسان را به خطر بیندازد چه؟ یا اگر کاربری از هوش مصنوعی بخواهد اطلاعات شخصی فرد دیگری را فاش کند، آیا صداقت همچنان بهترین انتخاب است؟

پاسخ بسیاری از پرسش‌هایی که کاربران از هوش مصنوعی می‌پرسند، در ریاضیات پیدا نمی‌شود

چنین موقعیت‌هایی نشان می‌دهد قوانین ساده همیشه پاسخ‌گو نیستند. گاهی چند ارزش مختلف با یکدیگر در تضاد قرار می‌گیرند؛ مانند صداقت، حفظ حریم خصوصی، امنیت یا جلوگیری از آسیب.

فیلسوفان سال‌هاست درباره چنین تعارض‌هایی مطالعه می‌کنند و شرکت‌های هوش مصنوعی امیدوارند این تجربه بتواند به طراحی سامانه‌هایی مسئولانه‌تر کمک کند.

شاید عجیب باشد، اما بسیاری از پرسش‌هایی که امروز در آزمایشگاه‌های هوش مصنوعی مطرح می‌شوند، قرن‌ها پیش نیز ذهن فیلسوفان را مشغول کرده بودند. برای نمونه، آیا نتیجه یک عمل مهم‌تر است یا خود آن عمل؟ آیا همیشه باید حقیقت را گفت؟ چه چیزی یک تصمیم را عادلانه می‌کند؟ چگونه می‌توان میان دو انتخاب نامطلوب، گزینه بهتر را پیدا کرد؟

این پرسش‌ها از دوران یونان باستان تاکنون بارها بررسی شده‌اند. البته فیلسوفان پاسخ قطعی و مشترکی برای همه آن‌ها پیدا نکرده‌اند، اما شیوه فکر کردن درباره این مسائل را توسعه داده‌اند. اکنون همین شیوه‌های استدلال به کمک پژوهشگران هوش مصنوعی آمده است. به بیان دیگر، شرکت‌های فناوری به‌دنبال آن نیستند که هوش مصنوعی را به فیلسوف تبدیل کنند؛ آن‌ها می‌خواهند از تجربه فیلسوفان برای طراحی پاسخ‌های منطقی‌تر و مسئولانه‌تر استفاده کنند.

هوش مصنوعی احساس، وجدان یا درک واقعی از خوب و بد ندارد. این سامانه‌ها فقط الگوهایی را که در فرایند آموزش دریافت کرده‌اند، به کار می‌گیرند. به همین دلیل، پژوهشگران تلاش می‌کنند قوانین و دستورالعمل‌هایی طراحی کنند که احتمال تولید پاسخ‌های مضر را کاهش دهد.

هوش مصنوعی می‌تواند حجم عظیمی از اطلاعات را در چند ثانیه پردازش کند، اما هنوز نمی‌تواند مانند انسان معنای عدالت، مسئولیت یا همدلی را تجربه کند. به همین دلیل، ساخت سامانه‌های هوشمند تنها به پردازنده‌های سریع‌تر و مدل‌های بزرگ‌تر وابسته نیست؛ بلکه به دانشی نیاز دارد که قرن‌ها درباره نحوه اندیشیدن، استدلال و تصمیم‌گیری انسان شکل گرفته است.

احتمالاً در سال‌های آینده همکاری میان متخصصان علوم رایانه و علوم انسانی عمیق‌تر خواهد شد. هوش مصنوعی به‌تدریج وارد بخش‌های حساس‌تری مانند آموزش، پزشکی، قضاوت حقوقی و خدمات عمومی می‌شود و در چنین حوزه‌هایی، دقت فنی به‌تنهایی کافی نیست. تصمیم‌هایی که این سامانه‌ها می‌گیرند یا پیشنهاد می‌کنند، می‌توانند بر زندگی میلیون‌ها نفر تأثیر بگذارند.

به همین دلیل، حضور فیلسوفان در شرکت‌های بزرگ هوش مصنوعی را نباید نشانه کنار رفتن مهندسان دانست، بلکه باید آن را نشانه بلوغ این فناوری دانست. صنعت هوش مصنوعی به این نتیجه رسیده است که ساخت ماشین‌هایی که با انسان تعامل می‌کنند، فقط یک چالش مهندسی نیست؛ بلکه به شناخت بهتر انسان، ارزش‌های او و شیوه تصمیم‌گیری‌اش نیز نیاز دارد.

شاید مهم‌ترین درس این تحول آن باشد که با وجود همه پیشرفت‌های خیره‌کننده هوش مصنوعی، هنوز هم پاسخ بسیاری از مهم‌ترین پرسش‌ها را نمی‌توان تنها در کدهای رایانه‌ای پیدا کرد. گاهی برای ساخت فناوری آینده، باید به سراغ اندیشه‌هایی رفت که بیش از دو هزار سال پیش شکل گرفته‌اند.