Facebook در نظر گرفتن یک نگاه سخت در تعصب نژادی در آن الگوریتم

Facebook اعلام کرده است این ساختمان تیم است که مطالعه تعصب نژادی پخته شده به الگوریتم های مورد استفاده در هر دو پلت فرم آن و Instagram که صاحب آن. حرکت قابل اذعان است که الگوریتم های رانندگی دو نفر از با نفوذ ترین سیستم عامل رسانه های اجتماعی می تواند تبعیض آمیز.

Instagram ایجاد خواهد شد "سهام تیم" به اتهام وظایف مانند تجزیه و تحلیل اجرای آن آزار و اذیت سیاست ها و مطالعه آن الگوریتم برای تعصب نژادی, the Wall Street Journal گزارش. Facebook سخنگوی استفانی Otway گفت Recode که این تیم ادامه خواهد داد به کار با Facebook مسئول AI تیم به مطالعه تعصب و افزود که Facebook را نیز ایجاد یک شبیه تیم.

"نژادی عدالت حرکت است و یک لحظه از اهمیت واقعی برای شرکت ما" Vishal Shah, معاون رئیس جمهور از محصول در Instagram در بیانیه ای گفت:. "هر گونه تعصب در سیستم های ما و سیاست های خلاف برای ارائه یک پلت فرم برای هر کس به بیان خودشان هستند."

الگوریتمی تعصب می تواند فراگیر و تاثیر چگونه یک پلت فرم رفتار کاربران بر محتوا و تبلیغات آنها را به عنوان به خوبی به عنوان راه خود را پست دریافت فیلتر شده است. کاربران می توانند مشکل لکه بینی الگوریتمی تعصب خود به خود پس برای مثال بیشتر نمی تواند لزوما مقایسه اخبار خود را تغذیه با کسانی که از کاربران دیگر. محققان های حقوق مدنی و سیاستمداران باید صدا زنگ زنگ در مورد الگوریتمی تعصب بر روی آن سیستم عامل و در حال حاضر Facebook است اختصاص منابع بیشتر برای پرداختن به این مشکل است.

قابل توجه Facebook اخبار می آید در میان تبلیغات تحریم از پلت فرم سازمان عمده حقوق مدنی گروه از جمله NAACP و ضد افترا لیگ و تنها دو هفته پس از این شرکت به اشتراک گذاشته شده که نتایج آن در حقوق مدنی حسابرسی که panned Facebook برای عدم به آدرس نژادپرستی و اطلاعات غلط را در سایت خود.

پیش از تحریم Instagram اذعان کرد و متعهد به مقابله با الگوریتمی تعصب بر روی سیستم عامل خود را به طور مستقیم. به عنوان تظاهرات علیه خشونت پلیس و نژادپرستی جاروب در سراسر ایالات متحده در اواسط ماه ژوئن Instagram سر آدم Mosseri اعلام کرد که این شرکت را به تعصب نژادی در Instagram, از جمله در آن حساب تایید سیاست ها و رویکرد به فیلترینگ محتوا و توزیع.

"در حالی که ما در انجام بسیاری از کار برای کمک به جلوگیری از تعصب ناخودآگاه در ما محصولات ما نیاز به یک نگاه سخت در زمینه سیستم های ما ساخته شده است و که در آن ما نیاز به کار بیشتر برای نگه داشتن تعصب از این تصمیمات" Mosseri نوشت: در آن زمان.

ما نمی دانم زیادی در مورد تلاش های جدید است. Facebook را Otway تاکید کرد که این طرح هنوز در مراحل اولیه و گفت: تیم جدید خواهد شد با بررسی طیف گسترده ای از مسائل که به حاشیه رانده شده گروه ممکن است روبرو می شوند در Instagram پلت فرم. به عنوان مثال او پیشنهاد کرد که شرکت پشتیبانی خواهد کرد ابزار است که تمرکز بر حمایت از اقلیت متعلق به کسب و کار.

این شرکت به نظر می رسد به خصوص مایل به سرمایه گذاری در تلاش تجزیه و تحلیل نقش تعصب در آن سیستم پس از آن به تازگی به این نتیجه رسیدند حقوق مدنی حسابرسی برجسته دو خلبان در برنامههای شرکت: یک Facebook ساخته شده در ابزار به نام انصاف جریان و انصاف مشاوره فرایند راه اندازی شد در ماه دسامبر. حسابرسان نیز نامیده می شود برای Facebook برای ایجاد "فرآیندها و راهنمایی طراحی شده برای بی درنگ موضوع-لکه بینی و کمک به حل و فصل انصاف نگرانی" است که کارکنان شرکت گسترده ای را باید دنبال کنید.

"این شرکت قطعا دارای منابع بیشتر فعال و تهاجمی در اقدامات خود به یک رهبر" کلی Cotter, یک دانشجوی تحصیلات تکمیلی است که به مطالعه درک عمومی از الگوریتم در دانشگاه ایالتی میشیگان گفت Recode در زمان ممیزی. "که Facebook هنوز هم به نظر می رسد در 'اکتشافی' فاز پس از سال ها و سال ها از حقوق مدنی شکایت شواهد بی میلی خود را به اولویت بندی عمومی ارزش مانند عدالت و عدالت بیش از آن منافع خصوصی."

ابزار خودکار می تواند تبعیض در هزاران راه. تعصب را می توان پخته شده به الگوریتم ها و هوش مصنوعی بر اساس, که ایجاد این فن آوری است که پیش فرض های برنامه ریزی شده به آنها را چگونه آموزش دیده هستند و چگونه آنها در نهایت مستقر شده اند. یک منبع قابل توجه از این تعصب می تواند از اطلاعات: اگر یک الگوریتم آموزش دیده با استفاده از یک پایگاه داده است که نماینده یک گروه جمعیتی خاص آن را بسیار ممکن است الگوریتم خواهد بود نادرست هنگامی که به افرادی که بخشی از این گروه است.

الگوریتمی تعصب می تواند زندگی در حال تغییر و خطرناک اثرات در زندگی مردم است. رزومه-غربالگری الگوریتم ها می توانند یاد بگیرند که به تبعیض علیه زنان ، تشخیص چهره سیستم های مورد استفاده توسط پلیس همچنین می توانید نژادی و تعصبات جنسیتی و آنها اغلب انجام بدترین زمانی که استفاده می شود برای شناسایی زنان با پوست تیره تر است. در ماه ژوئن ما آموخته شده نادرست دستگیری یک مرد سیاه و سفید زندگی در میشیگان ناشی از یک سیستم تشخیص چهره.

در سیستم عامل رسانه های اجتماعی ساخته شده توسط Facebook وجود دارد نگرانی هایی که تعصب می تواند نشان می دهد تا در هر نقطه یک سیستم خودکار باعث می شود تصمیم گیری از جمله در نحوه Instagram فیلتر محتوا و که پست دریافت پرچم Facebook محتوای اعتدال رباتها.

نیز وجود دارد نگرانی که عدم تنوع نژادی در میان Facebook کارکنان می تواند مانع تلاش های خود را به محصول خود را عادلانه تر. فقط زیر 4 درصد نقش در Facebook برگزار می شود توسط سیاه و کارکنان و فقط بیش از 6 درصد برگزار می شود توسط اسپانیایی کارکنان با توجه به این شرکت تنوع گزارش. Facebook نمی خواهد به اشتراک گذاری آمار در تنوع نژادی از تیم های که در آن الگوریتم ها و هوش مصنوعی است. با توجه به Nicol لی ترنر مدیر موسسه بروکینگز مرکز نوآوری فناوری و نوآوری "بدون نماینده ورودی شرکت ممکن است به خودی خود تولید مبادلات که بیشتر دیفرانسیل درمان و یا اثرات متفاوت برای جوامع از رنگ است."

در ضمن ظرفیت این سیستم ها باید تبعیض آمیز است که چرا برخی می گویند الگوریتم های خود نیاز به خارج حسابرسی که Facebook تا کنون است تصمیم به انجام.

Facebook "به نظر می رسد برنامه ریزی برای حفظ نتایج تحقیقات خود را در خانه" نیکولاس Kayser-Bril از الگوریتم دیده بان گفت Recode پس از اعلام نرخ های جدید تیم های. "بعید است که, شد جدید 'سهام و ورود تیم' به ادعای مورد تبعیض و یا بازسازی آن محققان مستقل قادر خواهد بود به آنها را بررسی کنید."

پس از همه, Facebook می گویند آن را بهبود الگوریتم های دوباره و دوباره, اما مشخص نیست که چگونه به کسانی که خارج از شرکت از جمله Facebook و Instagram کاربران همیشه می دانم که اگر این تغییرات در واقع ساخت یک کلی تفاوت.

باز کردن منابع ساخته شده است programme. همه باز منابع محتوای سرمقاله مستقل و تولید شده توسط روزنامه نگاران ما.

پشتیبانی بورسی را توضیح روزنامه نگاری

هر روز در Vox هدف ما برای پاسخ به مهم ترین سوالات و ارائه شما و مخاطبان ما در سراسر جهان با اطلاعات است که قدرت را به صرفه جویی در زندگی می کند. ماموریت ما این شده است هرگز حیاتی تر از آن است که در این لحظه: برای توانمند سازی شما از طریق درک. Vox کار رسیدن به مردم بیشتر از همیشه اما متمایز ما با نام تجاری توضیحی روزنامه نگاری طول می کشد تا منابع — به خصوص در طول یک بیماری همه گیر و رکود اقتصادی. مالی خود را کمک خواهد تلقی نمی اهدای اما آن را قادر می سازد کارکنان ما به ادامه به ارائه مقالات رایگان, فیلم ها و پادکست ها در کیفیت و حجم که در این لحظه نیاز دارد. لطفا نظر سهم به بورسی امروز.