سیستم تشخیص چهره آمازون 28 عضو کنگره را مجرم شناخت! / ضریب خطای بالا در خصوص رنگین پوستان و زنان

سیستم تشخیص چهره آمازون 28 عضو کنگره را به اشتباه مجرم تشخیص داد. این موضوع به سوژه رسانه هایی تبدیل شده که مدت هاست به عنوان منتقد آمازون مطالبی را منتش می کنند.

کد خبر: ۴۲۰۹۳۳

تاریخ: ۰۵ مرداد ۱۳۹۷ - ۱۰:۳۰

به گزارش سرویس آی تی انتخاب به نقل از گیزمودو، نرم افزار تشخیص چهره بحث برانگیز آمازون، که به نام Recognition شناخته شده است، بیش از 20 نفر از اعضای کنگره را به عنوان افرادی که برای جرایمی دستگیر شده اند شناسایی کرده است.

این شناسایی های اشتباه  زمانی رخ داد که از سیستم تشپخیص چهره آمازون برای بررسی عکس هایی از 535 عضو کنگره استفاده شد.

درنهایت و در مجموع، سیستم مذکور، 28  نفر از اعضای کنگره را به اشتباه شناسایی کرده و حتی رنگ پوست 11 نفر از اعضای کنگره را نادرست تشخیص داده است.موضوعی که به لحاظ امنیتی به شدت هشدار دهنده است.

این آزمون ها نشان داد که تشخیص چهره به طور معمول در افرادی با پوستی تیره تر و زنان کمتر دقیق است. برای اعضای کنگره به طور کلی، میزان خطا تنها پنج درصد بود، اما برای اعضای غیر سفیدکنگره، میزان خطا 39 درصد بود.

در میان افرادی که به اشتباه شناسایی شده بودند، 6 عضو ا ز اعضای کانون سیاهپوستان کنگره حضور داشتند که البته در اعتراض به خطای این سیستم نامه ای سرگشاده به جف بیزوس نوشته اند.

آمازون از مدتی پیش سازمان های اجرای قانون را تشویق کرده است تا سیستم تشخیص چهره این شرکت را مورد استفده قرار دهند.  اخیرا نیوری پلیس اورلاندو نیز  تصمیم گرفته از این سیستم استفاده کند.

در یک بیانیه، آمازون به نتایج خطای تشخیصی خود واکنش نشان داد و نوشت: ما تلاش خواهیم کرد که سیستم های تشخیصی خود را بهبود بخشیم و احتمالا با دنبال کردن بهترین شیوه ها خواهیم پرداخت.

در بخشی از بیانیه آمازون آمده است:

"ما شاهدیم که مشتریان از قابلیت های تصویری و سیستم تشخیص چهره آمازون استفاده می کنند به گونه ای که به طور مؤثری برای هر دو بخش جامعه سودمند باشد (مثلا جلوگیری از قاچاق انسان، مهار بهره برداری از کودکان، بازگرداندن فرزندان از دست رفته به خانواده هایشان و ایجاد برنامه های آموزشی برای کودکان) و سازمان های امنیتی از طریق احراز هویت چند عاملی، پیدا کردن تصاویر و یا جلوگیری از سرقت). ما همچنان هیجان زده می شویم که بدانیم چگونه تجزیه و تحلیل تصویر و ویدئو می تواند کنتل جهان دیجیتال را در دست بگیرد و در بخش های عمومی و اجرای قانون موثر باشد."