مقالات

اروپا باید مراقب خرید ماشین‌های کشتار هوش مصنوعی غیرمسئولانه آمریکا باشد – EUobserver


اواخر این ماه در ژنو، کشورها در کنفرانس بازنگری کنوانسیون در مورد برخی سلاح‌های متعارف گرد هم می‌آیند و تصمیم می‌گیرند که آیا مذاکرات در مورد قوانین الزام آور در مورد سلاح‌های خودمختار را آغاز کنند یا خیر.

بیش از 70 کشور در حال حاضر تمایل خود را برای انجام این کار ابراز کرده اند. در همین حال، واشنگتن در جهت مخالف حرکت می کند.

شکاف بین واشنگتن و متحدانش بر سر تسلیحات خودمختار، پیامدهای مستقیمی بر چگونگی ایجاد مسئولیت در فناوری نظامی دارد.

در 30 سپتامبر، وزارت جنگ ایالات متحده یک فرماندهی نظامی خودمختار را اعلام کرد که برای گسترش جنگ خودمختار در ارتش ایالات متحده تا اکتبر 2027 طراحی شده است.

در همین سخنرانی، پروژه مریدین، یک مطالعه 120 روزه درباره فناوری هایی که ارتش ایالات متحده برای جنگ های آینده به آن نیاز دارد، راه اندازی شد. این پروژه توسط الیگارش فناوری، ایلان ماسک، پالمر لاکی (مدیر عامل شرکت دفاعی Anduril) و سیاستمدار آمریکایی نیوت گینگریچ هدایت می شود و یافته های این گروه قرار است در ژانویه منتشر شود.

مسائل اخلاقی و تجاری فراوان است. SpaceX ستون فقرات امنیت ملی ایالات متحده است و Anduril دستگاه های پارازیت، رهگیر و هواپیماهای جنگی بدون سرنشین را به ارتش ایالات متحده می فروشد.

منتقدان خاطرنشان می‌کنند که ماسک و لوکی نیازهایی را که شرکت‌های خودشان از قبل برآورده کرده‌اند شناسایی می‌کنند و در این اطلاعیه مکانیزم انصراف یا افشای آن توضیح داده نمی‌شود.

دیگران، مانند پروفسور الکه شوارتز از دانشگاه کوئین مری لندن، مدت‌هاست که نشان داده‌اند که چگونه منطق تجاری شرکت‌های فناوری، اخلاق فناوری خشونت‌آمیز را شکل می‌دهد، و پرسش‌های اخلاقی و حقوقی را به‌عنوان مسائل مهندسی برای بهینه‌سازی تلقی می‌کنند.

از نظر فنی و حقوقی این امر نه ممکن است و نه مطلوب. پروژه مریدین وعده می دهد که این منطق دستور کار را تعیین می کند.

آنچه این برنامه نمی تواند پوشش دهد سازگاری است. دولت دونالد ترامپ، رئیس جمهور ایالات متحده، در حال برچیدن ماشینی است که ارتش را برای آسیب رساندن به غیرنظامیان آموزش می دهد.

مرکز تعالی دفاع غیرنظامی پنتاگون از 40 کارمند به 9 کارمند در سال 2025 کاهش یافته است و بازرس کل خود پنتاگون به این نتیجه رسیده است که این وزارتخانه دیگر کارکنان و توانایی های لازم برای انجام مسئولیت های قانونی خود را ندارد.

سازمان‌هایی مانند Airwars که آسیب‌های غیرنظامی را در عملیات‌های نظامی مستند می‌کنند، خود را در حال ارائه شواهدی به دستوراتی می‌دانند که تقریباً هیچ‌کس آن را دریافت نخواهد کرد، چه رسد به درس‌هایی برای بهبود شیوه‌ها در طول زمان.

خودمختاری و هدایت مبتنی بر هوش مصنوعی به داده ها و بازخورد با کیفیت بالا بستگی دارد. یک سیستم فقط به اندازه آنچه اپراتورهای آن از اشتباهاتش یاد می گیرند خوب است.

مطالعات منطق کمی هدف‌گیری و تصمیم‌های حمله اطلاعاتی منسوخ شده نشان می‌دهد که سرعت و مقیاس چقدر آسان قضاوتی را که اقدامات متقابل نیاز دارند، جابجا می‌کند.

تسریع در خودمختاری در حالی که توانایی یادگیری از شیوه های گذشته را رها می کنیم، منجر به نظامی دقیق تر یا قانونی تر نمی شود.

سریع‌تر را تولید می‌کند که اشتباهاتش را تکرار می‌کند، که تلفات غیرنظامیان را در صحنه‌های جدید جنگ بیشتر خواهد کرد.

عادی سازی صادرات واشنگتن

این موضوع به بحث در ژنو مربوط می شود زیرا فناوری که در واشنگتن ساخته، خریداری و عادی می شود در جای دیگری فروخته می شود.

ارتش های اروپایی در کنار سیستم های ایالات متحده ادغام، تحویل و عمل می کنند.

و خط دیپلماتیک در حال از دست دادن جایگاه خود در همین موضوع است: گزارش نهایی گروه کارشناسان دولتی آنچه را که پیش‌نویس‌های قبلی به عنوان تعهدات مسئولیت و پاسخگویی به تشویق تبدیل کرده بودند، کاهش داد.

این لحظه نیز فرصت هایی را ارائه می دهد. اروپا قادر به پاسخ دادن بیشتر از کلمات است.

پاسخگویی زمانی بهترین عملکرد را دارد که در یک سیستم از ابتدا طراحی شده باشد.

پادمان‌ها باید در مرحله طراحی، با اصطکاک عمدی که سرعت قضاوت، تصمیم‌گیری معنادار انسانی و تعامل پایدار بین توسعه‌دهندگان، مدافعان و اپراتورها را تضعیف می‌کند، ایجاد شود.

کشورها در حال حاضر تعهداتی برای بررسی سلاح های جدید و محافظت از غیرنظامیان دارند. اجرای آنها در طول چرخه حیات یک سیستم نیازمند اراده نهادی است و اروپا در موقعیتی منحصر به فرد برای نشان دادن این موضوع قرار دارد.

این امر همچنین باعث تقویت حاکمیت اروپا خواهد شد. تکیه بر تعداد انگشت شماری از تامین کنندگان آمریکایی به معنای وارد کردن مفروضات طراحی آنها همراه با محصولاتشان است.

استانداردهای تست و تضمین اروپایی، محدودیت‌های خسارت مدنی که در قراردادهای تدارکات عمومی نوشته شده است و بررسی قانونی که از مرحله طراحی شروع می‌شود، به دولت‌ها امکان انتخاب واقعی در مورد خرید و تحت چه شرایطی را می‌دهد.

هر تامین کننده، آمریکایی یا اروپایی، باید آنها را برآورده کند.

در ژنو، دولت‌های اروپایی باید از آغاز مذاکرات در مورد یک ابزار حقوقی حمایت کنند و باید مسئولیت پروژه را در تدارکات عمومی خود بنویسند، بدون اینکه منتظر قرارداد باشند.

اروپا باید از هر کسی که استقلال خود را تضمین می کند، نظریه متفاوتی از مسئولیت را مطالبه کند.


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا