بریتانیا از فرمولی برای پیش بینی نمرات دانش آموزان برای امتحانات لغو شده استفاده کرد. حدس بزن کي کارش رو خوب انجام داده

هر بهار، دانشجویان بریتانیایی در امتحانات سطح A خود شرکت می کنند که برای تعیین پذیرش در کالج استفاده می شود.

اما امسال متفاوت بود. با همه گیر Covid-19 هنوز هم مواج، سطح A بهار لغو شد. در عوض، دولت در زمان غیر اصولی -- و بحث برانگیز -- رویکرد به ارزیابی پذیرش بدون آن نمرات امتحان : آن را سعی کرد به استفاده از یک قانون ریاضی برای پیش بینی چگونه دانش آموزان را در امتحانات خود را انجام داده اند و سپس استفاده از آن برآوردها به عنوان ایستاده در برای نمرات واقعی است.

رویکردی که دولت در پیش گرفت نسبتا ساده بود. می خواست حدس بزند اگر یک دانش آموز در امتحان شرکت می کرد چقدر خوب انجام می داد. از دو ورودی استفاده کرد: نمرات دانش آموز در سال جاری و سابقه تاریخی مدرسه ای که دانش آموز در آن حضور داشت.

بنابراین دانش آموزی که نمرات عالی در مدرسه ای گرفت که در آن دانش آموزان برتر معمولا نمرات خوبی دریافت می کنند پیش بینی می شد که نمره خوبی به دست آورده باشد. دانش آموزی که نمرات عالی در یک مدرسه که در آن نمرات عالی در طول تاریخ به نمرات رده بالا در سطح A ترجمه نشده است به جای پیش بینی می شود برای به دست آوردن نمره پایین تر.

نتیجه کلی؟ نمرات بالا تر از اعطا در هر سال زمانی که دانش آموزان در واقع به شرکت در امتحان وجود دارد.

اما بسیاری از دانش آموزان و معلمان فردی هنوز از نمراتی که احساس می کردند خیلی کم است عصبانی بودند. حتی بدتر، تنظیم برای چگونه به خوبی یک مدرسه "انتظار می رود" برای انجام به پایان رسید تا به شدت با چقدر غنی از آن مدارس همبستگی. بچه های ثروتمند تمایل به انجام بهتر در سطح A، بنابراین روند پیش بینی اعطا بچه ها در مدارس غنی نمرات بالاتر است.

فرایند پیش بینی و نتیجه آن زنگ خطر را به راه اندازی کرد. یکی از ستون نویس های گاردین آن را «به طرز تکان دهنده ای ناعادلانه» نامید. اقدام قانونی تهدید شد. پس از یک آخر هفته از تظاهرات عصبانی که در آن دانش آموزان، معلمان، و پدر و مادر شعار، "فاک الگوریتم،" بریتانیا عقب نشینی کرد و اعلام کرد که آن را به دانش آموزان هر درجه معلمان خود را تخمین زده آنها را دریافت کنید اگر آن را بالاتر از برآورد نمره امتحان.

آنچه در بریتانیا بازی می کند یک دسته از چیزهای مختلف در یک بار است: یک درام آورده شده توسط همه گیر Covid-19 تشدید شده توسط تصمیم گیری های اداری بد در برابر پس زمینه تنش های طبقاتی. همچنین این تصویر از یک معضل جذاب اغلب به عنوان "سوگیری هوش مصنوعی" یا "اخلاق هوش مصنوعی" مورد بحث -- حتی اگر آن را تقریبا هیچ ربطی به هوش مصنوعی. و سوالات مهمی را در مورد نوع سوگیری هایی که توجه ما را جلب می کنند و کسانی که به هر دلیلی تا حد زیادی از موشکافی ما فرار می کنند، مطرح می کند.

دنیایی را تصور کنید که کودکان ثروتمند و کودکان فقیر به همان اندازه احتمال انجام مواد مخدر را دارند، اما کودکان فقیر پنج برابر بیشتر احتمال دستگیری دارند. هر بار که کسی دستگیر می شود، یک سیستم پیش بینی سعی می کند پیش بینی کند که آیا دوباره به او توهین خواهد کرد یا نه - یعنی اینکه آیا کسی مثل آن فرد که به جرم مواد مخدر دستگیر می شود، به احتمال زیاد ظرف یک سال دوباره به جرم مواد مخدر دستگیر خواهد شد یا نه. اگر احتمال می رود دوباره توهین کنند، حکم خشن تری دریافت می کنند. اگر بعید باشد که دوباره توهین کنند، با مشروطیت آزاد می شوند.

از آنجا که احتمال دستگیری کودکان ثروتمند کمتر است، این سیستم به درستی پیش بینی خواهد کرد که احتمال دستگیری مجدد آنها کمتر است. بعید اعلام خواهد کرد که دوباره توهین کنند و جمله سبک تری را توصیه کنند. کودکان فقیر بسیار بیشتر احتمال دارد که دوباره دستگیر شوند، بنابراین سیستم آنها را به احتمال زیاد دوباره متخلفان برچسب می کند و حکم خشنی را توصیه می کند.

این به طور فاحش ناعادلانه است. هیچ تفاوت اساسی در تمایل به انجام مواد مخدر وجود ندارد، اما سیستم در یک مرحله تفاوت هایی دارد و سپس با استفاده از آن ها برای قضاوت های کیفری، تفاوت ها را در مرحله بعدی بزرگنمایی می کند.

"الگوریتم نباید پیش بینی دوباره زندان; بايد پيش بيني دوباره متخلف باشه . اما تنها متغیر نیابتی که ما برای متخلف داریم زندانی کردن است، بنابراین به پایان می رسد تا قضات و پلیس ضد اقلیت دو برابر شمارش شوند.» لیور فیشمن، دانشمند داده ای که به مطالعه حریم خصوصی داده ها و انصاف الگوریتمی می رود، به من گفت.