هشدار مدیر عامل گوگل: دیپ‌فیک هوش مصنوعی، «می‌تواند آسیب‌های زیادی ایجاد کند»

ساندار پیچای، مدیرعامل گوگل در مصاحبه‌ای با شبکه تلویزیونی سی‌بی‌اس، نگرانی‌های خود را در مورد آسیب‌های احتمالی ناشی از ویدئو‌های دیپ‌فیک (جعل بسیار دقیق) چهره‌های عمومی و شخصیت‌ها که توسط هوش مصنوعی ایجاد شده ابراز کرد. مدیر عامل گوگل هشدار داد که به زودی ساختن ویدیو‌هایی ـ که به دروغ افراد را در حال گفتن چیز‌هایی که هرگز نگفته‌اند به تصویر می‌کشد ـ آسان خواهد شد. ساندار پیچای گفت، در حالی‌که محدودیت‌هایی به نام «زره‌پوش هوش مصنوعی» برای جلوگیری از سوء استفاده وجود دارد، ولی هنوز کاربران باید در مورد آن‌ها محتاط باشد. پیچای، بر اهمیت بازخورد کاربران و «توسعه اقدامات ایمنی قوی» قبل از معرفی مدل‌های هوش مصنوعی قوی‌تر تاکید کرد.

کد خبر: ۷۳۳۲۹۸

تاریخ: ۲۱ تير ۱۴۰۲ - ۲۲:۵۱

ساندار پیچای، مدیرعامل گوگل در مصاحبه‌ای با شبکه تلویزیونی سی‌بی‌اس، نگرانی‌های خود را در مورد آسیب‌های احتمالی ناشی از ویدئوهای دیپ‌فیک (جعل بسیار دقیق) چهره‌های عمومی و شخصیت‌ها که توسط هوش مصنوعی ایجاد شده ابراز کرد.

مدیر عامل گوگل هشدار داد که به زودی ساختن ویدیوهایی ـ که به دروغ افراد را در حال گفتن چیزهایی که هرگز نگفته‌اند به تصویر می‌کشد ـ آسان خواهد شد. ساندار پیچای گفت، در حالی‌که محدودیت‌هایی به نام «زره‌پوش هوش مصنوعی» برای جلوگیری از سوء استفاده وجود دارد، ولی هنوز کاربران باید در مورد آنها محتاط باشد.

پیچای، بر اهمیت بازخورد کاربران و «توسعه اقدامات ایمنی قوی» قبل از معرفی مدل‌های هوش مصنوعی قوی‌تر تاکید کرد.

در حال حاضر، تصاویری که توسط هوش مصنوعی از چهره‌های عمومی و شخصیت‌ها ایجاد می‌شود، «تقریبا» از واقعیت قابل تشخیص نیستند، اما ساخت‌های صوتی و تصویری همچنان فاقد پرداخت نهایی صوتی و تا حدی صدا‌ها رباتیک هستند.

همزمان، مدیر عامل گوگل اذعان کرد که گوگل همیشه پاسخ‌های هوش مصنوعی «زره‌پوش AI» یا «بارد AI» را کاملا درک نمی‌کند و این مهم خود پیچیدگی سیستم‌های هوش مصنوعی را برجسته می‌کند.

با این‌حال، ساندار پیچای خاطرنشان کرد که ذهن انسان نیز به طور کامل درک نشده است و بر لزوم «اجرای مسئولانه» و «تدریجی» فناوری‌های هوش مصنوعی تاکید کرد.

پیش‌تر شرکت رایانه‌ای گوگل روز چهارشنبه دهم ماه می در سانفرانسیسکوی ایالت کالیفرنیا، تازه‌ترین محصولات نرم‌افزاری و سخت‌افزاری خود را معرفی کرد.

ساندار پیچای، «مدیرعامل» به همراه دیگر مدیران گوگل در این مراسم با اشاره به پیشرفتهای هوش مصنوعی در محصولات این شرکت و توانایی‌های تازه‌ی «جی‌میل»، جدیدترین گوشی‌ هوشمند و تبلت این کمپانی را نیز معرفی کردند.

در این مراسم اعلام شد که «جی‌میل» به زودی قابلیتی خواهد داشت که با استفاده از هوش مصنوعی تمام ایمیل‌ها را برای کاربر می‌نویسد. این ویژگی که «به من کمک کن بنویسم» نام دارد، اساسا گسترش «پاسخ‌های خودکار و متن تولیدی» است که گوگل قبلا در جی میل از آن استفاده کرده است.