تکنولوژی تشخیص چهره شرکت IBM به آخر خط رسید - وبلاگ عینک آفتابی شیک

به گزارش وبلاگ عینک آفتابی شیک، در پی اعتراضات گسترده در شهرهای مختلف آمریکا که پس از کشته شدن یک سیاه پوست توسط پلیس آمریکا اتفاق افتاده، شب گذشته آرویند کریشنا، مدیرعامل کمپانی IBM، با انتشار نامه ای به کنگره آمریکا اظهار داشت که این شرکت دیگر نرم افزارهای تشخیص یا تحلیل چهره را ارائه نخواهد داد. این شرکت همچنین اعلام نموده که آن ها از این به بعد در زمینه توسعه و تحقیق مربوط به این فناوری فعالیت نمی نمایند.

در بخشی از این نامه آمده: IBM به شدت مخالف این موضوع است و از ارائه فناوری های مانند تکنولوژی تشخیص چهره از طرف دیگر شرکت ها برای نظارت جمعی، طبقه بندی نژادی، نقض حقوق و آزادی های اساسی بشر یا هر هدفی که با ارزش های ما مطابقت نداشته باشد، چشم پوشی نخواهد کرد. ما بر این باوریم که اکنون زمان شروع گفت وگوی ملی در این باره است که آیا تکنولوژی تشخیص چهره باید توسط نهادهای انتظامی داخلی به کار گرفته گردد یا نه.

طی یک دهه گذشته، نرم افزارهای تشخیص چهره به لطف پیشرفت های اجرا شده در حوزه هوش مصنوعی، پیشرفت گسترده ای داشته اند. در عین حال، این تکنولوژی عمدتا توسط شرکت هایی توسعه داده می شوند که نظارت چندانی بر آن ها وجود ندارد.

به همین خاطر بخش قابل توجهی از تکنولوژی های موردنظر دارای تعصب در زمینه سن، نژاد و قومیت هستند که می توانند به ابزاری برای اجرای غیر قابل اعتماد قانون و امنیت بدل شوند و سوءاستفاده بالقوه از حقوق مدنی را امکان پذیر نمایند.

طبق پژوهش اجرا شده توسط موسسه ملی استانداردها و تکنولوزی در دسامبر 2019، شواهد زیادی در خصوص تفاوت دقت این تکنولوژی برای بافت های جمعیتی متفاوت به دست آمده است. این فناوری همچنین به خاطر نقش خود در نقض حریم خصوصی هم مورد انتقاد گسترده قرار گرفته است.

باید خاطرنشان کنیم که در این پژوهش، سیستم تشخیص چهره آمازون مورد استفاده قرار نگرفته که یکی از معدود غول های فناوری فعال در این حوزه محسوب می گردد. با این وجود، این سیستم هم به دلیل مسائل در دقت مورد انتقاد قرار گرفه است.

از دیگر شرکت های پرسروصدا مربوط به این حوزه می توانیم به Clearview AI اشاره کنیم که مدتی قبل تعیین شد برای تعلیم سیستم تشخیص چهره خود، از 3 میلیارد عکس کاربران در شبکه های اجتماعی استفاده نموده و این سیستم را در اختیار شرکت ها و نهادهای انتظامی خصوصی قرار می دهد. از آن موقع، این شرکت در مرکز شکایت های متعددی قرار گرفته است. فیسبوک هم در ماه ژانویه به دلیل استفاده غیرقانونی از سیستم تشخیص چهره خود به پرداخت 550 میلیون دلار غرامت محکوم شد.

IBM از جمله شرکت هایی است که کوشش نموده تعصب در سیستم های تشخیص چهره را کاهش دهد و در همین رابطه، در سال 2018 مجموع داده ای برای تعلیم این سیستم ها به صورت عمومی منتشر کرد. اما در ژانویه 2019 تعیین شد که IBM یک میلیون عکس گرفته شده از سایت Flickr را بدون رضایت افراد به اشتراک گذاشته که البته چنین کاری با بهره گیری از اجازه نامه مشترکات خلاقانه صورت گرفته است.

IBM در آن موقع بیانیه ای منتشر کرد و گفت این مجموعه داده ها تنها توسط محققان تایید شده این شرکت مورد استفاده قرار می گیرد و تنها شامل تصاویری است که در دسترم عموم قرار داشته اند. همچنین این امکان فراهم شد که افراد بتوانند تصاویر خود را از این مجموعه داده ها خارج نمایند.

آقای کریشنا در نامه خود همچنین از اصلاحات سیستم پلیس دفاع نموده و اظهار داشته که بیش از پیش سوءرفتار ماموران پلیس باید تحت نظرات دادگاه فدرال قرار بگیرد و کنگره هم باید در میان اقدامات مختلف، شرایط مربوط به مصونیت قضایی ماموران پلیس را تغییر دهد.

منبع: The Verge