زومیت: کاربران در ایکس از باگ عجیب ChatGPT می‌گویند که نتیجه‌اش، ساخت تصاویر بسیار ترسناک است.

برخی کاربران از رفتار عجیب ابزار تولید تصویر چت‌جی‌پی‌تی خبر داده‌اند؛ رفتاری که باعث می‌شود مدل حتی بدون دریافت تصویر، تلاش کند نسخه‌ای خیالی از آن را بازسازی کند.

ماجرا از توییتی آغاز شد که در آن کاربری ادعا کرد با استفاده از یک دستور متنی خاص توانسته سیستم را وادار کند تصویری را بازسازی و ترمیم کند؛ در حالی که هیچ عکسی برای مدل ارسال نشده بود.

در این دستور از چت‌جی‌پی‌تی خواسته می‌شود بدون پرسیدن سؤال و بدون درخواست دوباره‌ی تصویر، عکس پیوست‌شده را بازسازی کند؛ در شرایطی که عملاً هیچ فایلی وجود ندارد.

به گفته‌ی این کاربر، مدل در چنین سناریویی به‌جای اعلام نبود تصویر، شروع به حدس‌زدن محتوای عکس می‌کند و تصویری کاملاً ساختگی می‌سازد. او نتایج تولیدشده را به تصاویر عجیب و گاهی ترسناک شبیه کابوس‌های دیجیتالی توصیف کرده است.

این پدیده نمونه‌ای از «توهم» در مدل‌های هوش مصنوعی به شمار می‌رود؛ وضعیتی که در آن مدل به‌جای پذیرش کمبود اطلاعات، پاسخ یا محتوایی را بر اساس حدس و الگوهای آماری تولید می‌کند. در مدل‌های تصویری، چنین رفتاری می‌تواند به خلق تصاویری منجر شود که هیچ ارتباطی با داده‌ی واقعی ندارند.

هنوز مشخص نیست این رفتار یک باگ واقعی در سامانه‌ی تولید تصویر چت‌جی‌پی‌تی محسوب می‌شود یا صرفاً نتیجه‌ی نحوه‌ی تفسیر این دستور خاص توسط مدل است. با این حال، گزارش یادشده بار دیگر توجه کاربران را به محدودیت‌ها و خطاهای احتمالی مدل‌های مولد جلب کرد.