چرا از آن مهم است که آی بی ام است و خارج از صورت به رسمیت شناختن کسب و کار

خبری که آی بی ام دیگر تولید صورت تکنولوژی تشخیص صدا ممکن است بزرگ ، تعهد شرکت به مخالفت با این نوع نژادی گرایش فن آوری نظارت متناسب با استقبال از روند اقدامات صورت گرفته پس از ضد خشونت پلیس تظاهرات را جاروب کرد. اگر چه برخی از آنها در حال حاضر هشدار داد که IBM حرکت نمی خواهد پایان سن تشخیص چهره دیگران می گویند آن را یک گام مهم در جهت درست است.

IBM موضع در برابر توسعه فن آوری است که می تواند منجر به نقض حقوق بشر. فعالان و محققان صدا زنگ برای سال در مورد تشخیص چهره تکنولوژی مشکلات بی شمار از جمله آن نژادی و تعصبات جنسیتی و خطرات حفظ حریم خصوصی. برخی از آنها نقطه آی بی ام اعلام به عنوان قابل توجه حرکت می کند و می گوید که عمده تکنولوژی منابع شرکت در حال حاضر خواهد شد به کارگردانی و جاهای دیگر. IMB تصمیم به بازگشت به دور از تشخیص چهره نیز می تواند ارسال یک سیگنال به دیگر فروشندگان این فن آوری است.

این بود که آرام اعلام شده توسط آی بی ام. در نامه ای به اعضای کنگره آی بی ام مدیر عامل Arvind کریشنا گفت: این شرکت دیگر نمی خواهد را منظوره تشخیص چهره و تجزیه و تحلیل نرم افزار با استناد به نگرانی در مورد تکنولوژی استفاده شده توسط سازمان های اجرای قانون. او روشن است که آی بی ام "به شدت مخالف" استفاده از تشخیص چهره "برای توده نظارت پروفایل نژادی و نقض حقوق اساسی بشر و آزادی." در این نامه همچنین مشخص های مختلف تلاش های این شرکت را در پاسخ به جریان ضد خشونت پلیس تظاهرات مانند حمایت فدرال رجیستری برای پلیس در آوریم.

اخبار شرح زیر است تلاش های گسترده توسط سازمان دهندگان و محققان برجسته چگونه تشخیص چهره می توانید در پخته نژادی و تعصبات جنسیتی. مهمترین آنها در سال 2018 شادی Buolamwini و Timnit Gebru همكاري گسترده با نفوذ کاغذ برجسته تعصب در صورت تشخیص سیستم. این زمین شکستن پژوهش نشان داد نژادی و جنسیتی و نابرابری در دقت و هوش مصنوعی-طراحی شده, صورت, طبقه بندی نرم افزار به ویژه برای زنان با پوست تیره تر است. آن را به طور خاص برجسته تجزیه و تحلیل نابرابری در IBM تکنولوژی را در میان سیستم های فروخته شده توسط شرکت های دیگر. تحقیقاتی از موسسه ملی استاندارد و فناوری منتشر شده در اوایل سال جاری کمک کرده و حتی شواهد بیشتری است که این فن آوری می تواند و اغلب مغرضانه است از جمله بر اساس جنسیت و سن و نژاد.

IBM نبود فوق العاده خاص در اعلام آن است. اما یک فرد آشنا با این موضوع گفت که آی بی ام را محدود می کند خود را به توسعه بصری تشخیص شیء و دیگر نمی خواهد ایجاد رابط های برنامه کاربردی است که می تواند مورد استفاده قرار گیرد به قدرت تشخیص صورت در دسترس به خارج و یا داخلی به توسعه دهندگان. این شرکت نمی خواهد در نظر بیشتر در آن استدلال به توقف استفاده از فن آوری است. دبورا راجی یک تکنولوژی همکار در AI در حال حاضر موسسه اشاره کرد که این شرکت تا حدودی بی سر و صدا حذف توانایی برای انجام تشخیص چهره از API آن در پاییز گذشته در حالی که هشدار می داد که IBM به دور از خطرناک ترین ارائه دهنده این تکنولوژی است.

"[شرکت] به شدت تحت تاثیر بحث های عمومی در آن است و آنها به شدت تحت تاثیر سیاست بحث در آن" راجی گفت: از تشخیص چهره تکنولوژی. "اگر آنها می توانند رد فناوری آن می توانید با ارسال یک سیگنال به سیاستگذاران و عمومی است که این فن آوری است که درست نیست."

"آی بی ام است که قطعا در مسیر درست حرکت خواهد کرد و امیدوارم با ارائه برخی از فشار برای این شرکت های دیگر را که حرکت می کند" او افزود: هر چند او با احتیاط به اعلام پیروزی کامل تا زمانی که شرکت های دیگر مانند آمازون جلوگیری از فشار فن آوری خود را برای اجرای قانون است.

آسوشیتد پرس در ضمن گزارش شده است که آی بی ام تصمیم "بعید است که به تاثیر خط پایین آن" به عنوان شرکت است که به شدت با تمرکز بر مناطق مانند محاسبات ابری و شرکت های دیگر تا به حال موفقیت بیشتر در بازار برای تشخیص چهره تکنولوژی. هنوز موتل Nkonde یک محقق در دانشگاه هاروارد و استنفورد که منجر غیرانتفاعی AI برای مردم گفت: AP که "نمادین طبیعت از این مهم است."

به عنوان عمومی تبدیل شده است به طور فزاینده ای آگاه از استفاده از تشخیص چهره در سال های اخیر چندین محلات به تازگی نقل مکان کرد به نوار استفاده از تکنولوژی توسط خود سازمان های دولتی. اما در جریان تظاهرات علیه خشونت پلیس به ارمغان آورده اند افزایش نظارت از اجرای قانون استفاده از فن آوری است. هفته گذشته طی یک فیلادلفیا نظر عمومی جلسه در صورت به رسمیت شناختن شهروندان ابراز نگرانی کرد که پلیس به دریافت کمک های مالی برای این فن آوری است. سپس روز جمعه در بوستون شورای شهر در جلسه در مورد فرمان به بان کی مون صورت به رسمیت شناخته شدن توسط دولت است.

Buolamwini که بنیانگذار الگوریتمی لیگ عدالت صحبت در بوستون شنوایی که در آن او هشدار در مورد خطرات و مشکلات است که با تشخیص چهره. او نیز منتشر شده متوسط پست در روز سه شنبه و تقدیر آی بی ام تصمیم که او به نام "اولین حرکت رو به جلو به سمت شرکت های سمت مسئولیت برای ترویج عادلانه و پاسخگو AI."

"این یک خوش آمدید, به رسمیت شناختن است که تشخیص چهره تکنولوژی به خصوص که مستقر توسط پلیس استفاده شده است به تضعیف حقوق بشر و به ضرر مردم سیاه و سفید به طور خاص و همچنین مردم بومی و افراد دیگر از رنگ (BIPOC)," Buolamwini نوشت. او همچنین اشاره کرد که IBM تا به حال در پاسخ به تحقیقات خود نشان دادن نابرابری در آن تکنولوژی با سرعت صدور بیانیه ای متضاد با پاسخ از دیگر شرکت های فروش صورت به رسمیت شناختن.

برخی از این شرکت های دیگر در این فضا بسیار بزرگتر کسب و کار متمرکز در صورت به رسمیت شناختن. آمازون تشخیص چهره تکنولوژی Rekognition راه اندازی شده در سال 2016 و پس از فروخته شده به ادارات پلیس در سراسر ایالات متحده است. پس از اتحادیه آزادی های مدنی آمریکا (ACLU) رسیدگی به اجرای قانون استفاده از Rekognition آمازون و اعتراض کارکنان این شرکت شیوه و اگر چه آمازون به نام مقررات تشخیص چهره تکنولوژی این شرکت همچنان به فروش خود Rekognition فن آوری است.

دیگران در حال توسعه و فروش صورت به رسمیت شناختن نیست و شرکت های فن آوری با نام خانواده. Clearview AI به عنوان مثال یک شرکت است که بنا به گزارش ارائه تکنولوژی به صدها نفر از ادارات پلیس در آمریکا. این شرکت بحث برانگیز خراشیده میلیاردها تصاویر از وب بدون مردم رضایت امکان اجرای قانون به طور بالقوه شناسایی کسی که با فقط یک تصویر از چهره خود را. در ژوئن 8 دیابت ادوارد Markey خواستار دانم که اگر Clearview مشغول به کار بود با اجرای قانون و برای استفاده از آن فناوری در تظاهرات.

بنابراین هنوز مشخص نیست که چگونه IBM اعلام خواهد شد و در نهایت تاثیر چه شرکت های دیگر انجام می دهند با تشخیص چهره. آمازون نیست پاسخ به درخواست های مکرر برای اظهار نظر در مورد اینکه آیا قصد دارد به تجدید نظر فروش فن آوری آن به اجرای قانون است. Clearview AI پاسخ نمی دهند به Recode درخواست برای اظهار نظر در مورد استفاده از تشخیص چهره در تظاهرات.

در ضمن NEC که بنا به گزارش ها به فروش می رساند در صورت تشخیص به سازمان های دولتی در ایالات متحده به نظر می رسید مایل به بحث در مورد آن استفاده از فن آوری است. جلوتر از آی بی ام اعلام, NEC امریکا رئیس جمهور و مدیر عامل شرکت علامت Ikeno با ارسال بیانیه ای به Recode در مورد خطرات ناشی از تشخیص چهره استفاده می شود برای هدف قرار دادن داعش است.

"ما خواهد بود به طور کامل مخالف هر گونه تلاش برای استفاده از تشخیص چهره و یا فن آوری های دیگر به آزار و اذیت مردم برای ورزش اول خود را اصلاح حقوق" Ikeno گفت: "و ما غافل از هر اجرای قانون مشتریان که با استفاده از آن به این شیوه است."

هنوز دهندگان و محققان روشن شده است در مورد آنچه آنها می خواهند بعدی. در متوسط پست Buolamwini به نام در شرکت های فن آوری است که کار در هوش مصنوعی به کمک های مالی از حداقل 1 میلیون دلار به سازمان است که تمرکز بر روی نژادی عدالت در بخش فن آوری مانند داده ها به صورت سیاه و سفید زندگی می کند و در AI و تاکید کرد که شرکت های فن آوری باید صندوق گروه است که می تواند نگه دارید و آنها را پاسخگو خارجی. او همچنین به نام برای شرکت در صورت تشخیص به ایجاد تعهد برای ورود امن صورت تعهد است.

راجی از هوش مصنوعی در حال حاضر معتقد است که اقدامات عمده شرکت های فن آوری مانند آی بی ام می تواند کمک به گسترش پذیرش مقررات. "این مقررات باید امیدوارم تحت تاثیر قرار NECs و Clearviews از جهان که مایل به انجام آن است," او گفت:.

در مصاحبه با NPR در این هفته Nate آزاد Wessler یک وکیل با آیتالله سیستانی سخنرانی حریم خصوصی و فناوری, پروژه, فکر کرده اید که اگر کسی را دنبال IBM منجر شود.

"این خوب است که آی بی ام در زمان این مرحله اما نمی توان آن را تنها شرکت" آزاد Wessler گفت. "آمازون و مایکروسافت و دیگر شرکت ها در حال تلاش برای ایجاد مقدار زیادی از پول را با فروش این خطرناک مشکوک ابزار به ادارات پلیس. که باید در حال حاضر است."

اما در نهایت بدون در نظر گرفتن آنچه که عمده شرکت های فن آوری در حال انجام فقدان قوی مقررات دولت را ترک خواهد کرد تشخیص چهره تکنولوژی به سوء استفاده و یا سوء استفاده.

"همیشه وجود دارد رفتن به برخی از کوچک و سایه شرکت که مایل به انجام بدترین چیزهایی است که با فن آوری است که شما می توانید انجام خواهد شد و فروش آن را به هر كه خواهد آن را خرید" اوان گریر معاون مدیر حقوق دیجیتال گروه مبارزه برای آینده گفت Recode. "آن را نمی خواهد به اندازه کافی برای فقط نوع از تماس با شرکت برای لغو قرارداد خود و یا برگشت به دور از ساخت این نوع از فن آوری است. ما نیاز به قانونگذاران به گام و انجام شغل خود را."

اگر شده اند وجود دارد چند پیشنهاد وجود دارد در حال حاضر هیچ قانون فدرال که تنظیم صورت به رسمیت شناختن. این فن آوری رو به رشد شک و تردید از سیاستمداران ملی یعنی سن. Jeff Merkley که کار کرده است در قوانین مربوطه. در ماه مه الگوریتمی لیگ عدالت منتشر شد یک کاغذ سفید خواستار ایجاد یک اداره فدرال برای نظارت بر فن آوری تشخیص چهره. در همین حال دولت های محلی را به اتهام جلوتر خود را با مقررات و طرح های پیشنهادی برای استفاده و یا منع تشخیص چهره تکنولوژی.

حتی اگر IBM تعهد فقط نمادین این شرکت به اندازه کافی بزرگ و قدرتمند به اندازه کافی برای حرکت سوزن در درک و تشخیص چهره. که به تنهایی می تواند به شکل دادن به آینده از فن آوری است.

باز کردن منابع ساخته شده است programme. همه باز منابع محتوای سرمقاله مستقل و تولید شده توسط روزنامه نگاران ما.

پشتیبانی بورسی را توضیح روزنامه نگاری

هر روز در Vox هدف ما برای پاسخ به مهم ترین سوالات و ارائه شما و مخاطبان ما در سراسر جهان با اطلاعات است که قدرت را به صرفه جویی در زندگی می کند. ماموریت ما این شده است هرگز حیاتی تر از آن است که در این لحظه: برای توانمند سازی شما از طریق درک. Vox کار رسیدن به مردم بیشتر از همیشه اما متمایز ما با نام تجاری توضیحی روزنامه نگاری طول می کشد تا منابع — به خصوص در طول یک بیماری همه گیر و رکود اقتصادی. مالی خود را کمک خواهد تلقی نمی اهدای اما آن را قادر می سازد کارکنان ما به ادامه به ارائه مقالات رایگان, فیلم ها و پادکست ها در کیفیت و حجم که در این لحظه نیاز دارد. لطفا نظر سهم به بورسی امروز.