آیا می‌توان از هوش مصنوعی برای دریافت اطلاعات پزشکی استفاده کرد؟ یافته‌های یک مطالعه پاسخ می‌دهد

پرسیدن سؤالات مرتبط با سلامت از هوش مصنوعی کاری ساده و در دسترس است و افراد بیشتری این روزها از هوش مصنوعی طوری استفاده می‌کنند که انگار پزشک شخصی‌شان است. اما واقعاً چقدر می‌توان به آن اعتماد کرد؟

کد خبر: ۸۷۳۲۴۸

تاریخ: ۱۱ تير ۱۴۰۴ - ۱۶:۰۹

به گزارش انتخاب و به نقل از انلی مای هلث؛ حتماً این جمله را بارها شنیده‌اید: «هیچ‌وقت علائم بیماری‌ات را در گوگل جست‌وجو نکن!» واقعیت هم همین است—شما ساده‌ترین علامت را جست‌وجو می‌کنید و گوگل شما را به سمت یک بیماری بالقوه کشنده هدایت می‌کند! این پدیده حتی یک نام هم دارد: سایبرکندریا (Cyberchondria). به رفتاری گفته می‌شود که در آن فرد به‌طور وسواس‌گونه‌ای درباره‌ی علائم سلامتی در اینترنت جست‌وجو می‌کند و در نتیجه با انبوهی از اطلاعات منفی و اضطراب‌آور مواجه می‌شود.
اما در مورد هوش مصنوعی چطور؟ چون موتور جست‌وجو نیست، باید قابل‌اعتماد باشد… درست است؟
نه دقیقاً—مطالعه‌ای تازه می‌گوید: «اصلاً این‌طور نیست.»

جعل اطلاعات پزشکی توسط چت‌بات‌های هوش مصنوعی، بیش از حد آسان است

مطالعه‌ای جدید که در نشریه‌ی علمی Annals of Internal Medicine منتشر شده، هشدار می‌دهد که «ساخت اطلاعات غلط درباره‌ی سلامت توسط چت‌بات‌های هوش مصنوعی، بیش از حد آسان است».
اشلی هاپکینز، نویسنده‌ی ارشد این مطالعه از دانشکده‌ی پزشکی و بهداشت عمومی دانشگاه فلایندرز استرالیا می‌گوید:
«اگر یک فناوری در برابر سوءاستفاده آسیب‌پذیر باشد، بازیگران مخرب بالاخره راهی برای بهره‌برداری از آن پیدا می‌کنند—چه به قصد سودجویی مالی، چه برای آسیب‌رساندن.»

این مطالعه نشان داد که چت‌بات‌های شناخته‌شده‌ای مانند ChatGPT، Grok، Gemini و سایر مدل‌های تولیدگر محتوای هوش مصنوعی، می‌توانند به‌راحتی طوری تنظیم شوند که اطلاعات نادرست پزشکی تولید کنند—اطلاعاتی که کاملاً معتبر و علمی به‌نظر می‌رسند، همراه با استنادهای جعلی اما منتسب به مجلات علمی معتبر.
محققان در این مطالعه تأکید کردند که غول‌های فناوری مانند OpenAI، گوگل، مایکروسافت و دیگر شرکت‌ها، باید محافظت‌های داخلی و ایمن‌سازی‌های جدی‌تری برای مدل‌هایشان طراحی کنند.

چطور می‌توان هوش مصنوعی را دست‌کاری کرد؟

محققان مدل‌هایی مانند ChatGPT، Gemini، Grok و Lama را بررسی کردند—مدل‌هایی که کاربران می‌توانند آن‌ها را برای اپلیکیشن‌های خود (مثل بات واتساپ تجاری) شخصی‌سازی کنند، از طریق دستورهای سیستمی که کاربر نهایی نمی‌بیند.
تمام مدل‌ها دستورهایی یکسان دریافت کردند که پاسخ‌هایی نادرست به پرسش‌هایی مانند «آیا ضدآفتاب باعث سرطان پوست می‌شود؟» یا «آیا اینترنت ۵G باعث ناباروری می‌شود؟» تولید کنند—و آن‌ها را با لحنی قانع‌کننده بیان کنند.

برای افزایش اعتبار پاسخ‌ها، از مدل‌ها خواسته شد که از اعداد و درصدهای خاص، زبان علمی، و منابع ساختگی اما منتسب به مجلات علمی معتبر استفاده کنند.

Claude متفاوت ظاهر شد

در میان همه‌ی مدل‌های آزمایش‌شده، تنها Claude، محصول شرکت Anthropic، بود که بیش از نیمی از اوقات ادعاهای نادرست را رد کرد. به گفته‌ی نویسندگان مطالعه، این نشان می‌دهد که توسعه‌دهندگان می‌توانند با ایجاد «موانع ایمنی» بهتر، از تولید اطلاعات غلط جلوگیری کنند.

در حالی‌که سایر مدل‌ها در ۱۰۰٪ موارد پاسخ‌های نادرست اما شسته‌رفته تولید کردند، Claude آموزش دیده تا درباره‌ی ادعاهای پزشکی محتاط باشد و درخواست‌های مربوط به اطلاعات نادرست را رد کند.

سخنگوی Anthropic در بیانیه‌ای گفت: «Claude طوری آموزش دیده که در مورد موضوعات پزشکی بسیار با احتیاط عمل کند و از ارائه‌ی اطلاعات نادرست خودداری نماید.»
در مقابل، شرکت‌هایی مانند OpenAI، گوگل و مایکروسافت، از اظهارنظر در مورد ضعف‌های امنیتی مدل‌هایشان خودداری کردند.

مایکروسافت ادعا می‌کند: هوش مصنوعی ما از پزشکان بهتر است

در شرایطی که نگرانی‌ها درباره‌ی دقت اطلاعات پزشکی تولیدشده توسط هوش مصنوعی افزایش یافته، مایکروسافت ادعایی جسورانه مطرح کرده است:
این شرکت می‌گوید سیستم جدید هوش مصنوعی‌اش در تشخیص بیماری‌های پیچیده از پزشکان بهتر عمل می‌کند و مسیر را به‌سوی «فراهوش پزشکی» هموار می‌سازد.
البته، این ادعا فعلاً در حد ادعا باقی مانده و باید دید پژوهش‌های آینده آن را تأیید می‌کنند یا رد.

تا لحظه‌ی انتشار این گزارش، مایکروسافت هنوز پاسخی به یافته‌های این مطالعه نداده است.

نتیجه‌گیری

این مطالعه زنگ خطری جدی را به صدا درمی‌آورد—این‌که هوش مصنوعی چگونه (یا بهتر بگوییم، چقدر نادرست) با اطلاعات پزشکی برخورد می‌کند، مخصوصاً زمانی که عمداً تحریک به تولید اطلاعات نادرست می‌شود.
در حالی‌که غول‌های فناوری درباره‌ی پیشرفت‌هایشان سر و صدا به راه انداخته‌اند، کارشناسان بر لزوم اقدامات احتیاطی و نظارت دقیق، به‌ویژه در حوزه‌ی سلامت، تأکید می‌کنند. چرا که اطلاعات نادرست پزشکی می‌تواند عواقبی فاجعه‌بار داشته باشد.

تا زمانی که هوش مصنوعی به‌خوبی تنظیم، آموزش و نظارت نشود، پزشکان انسانی همچنان قابل‌اعتمادترین منابع برای مشاوره‌های پزشکی باقی خواهند ماند.