عصر جنگ با هوش مصنوعی فرا رسیده است. آیا کانادا آماده است؟

این پهپاد شبیه یک جت جنگنده کوچک است. هوش مصنوعی آن را کنترل می کند و یک موشک شلیک می کند. انسانی شلیک را تایید کرد، اما هوش مصنوعی آن را اجرا کرد.

این داستان علمی تخیلی نیست. این می تواند آینده جنگ مدرن باشد.

در ماه ژوئیه، هواپیمای بدون سرنشین YFQ-44A متعلق به شرکت دفاعی آمریکا Anduril، معروف به Fury، یک موشک هوا به هوا تاکتیکی را به سمت یک هدف شبیه سازی شده در صحرای موهاوی کالیفرنیا شلیک کرد. در ماه اکتبر، یک خلبان جنگنده F-22 موفق شد این پهپاد را به انجام ماموریت های جنگی شبیه سازی شده وادار کند.

این آخرین گام در رقابت جهانی برای سلاح‌های خودمختار است زیرا ارتش‌ها در تلاش برای به دست آوردن یک مزیت تاکتیکی هستند.

از آنجایی که دولت ها به طور فزاینده ای هوش مصنوعی را در نرم افزار و سخت افزار نظامی ادغام می کنند، کانادا با یک سوال روبرو می شود: آیا باید به مسابقه تسلیحاتی خودمختار بپیوندد و علی رغم نگرانی های قانونی و اخلاقی، سرمایه گذاری بیشتری در سلاح های تقویت شده با هوش مصنوعی آغاز کند؟

“هوش مصنوعی روی پلتفرمی که مرگبار است”

YFQ-44A یک هواپیمای رزمی مشترک (CCA) است که برای پرواز در کنار جنگنده های سرنشین دار طراحی شده است. هدف آن افزایش برد هواپیما و در عین حال کاهش خطر برای خلبان است. این پهپاد از هوش مصنوعی برای انجام بسیاری از وظایف جنگنده، از جمله شلیک سلاح به دستور و احتمالا درگیر شدن در نبرد هوایی نزدیک، استفاده خواهد کرد.

ایوان بلوندین که از سال 2012 تا 2015 فرماندهی نیروی هوایی سلطنتی کانادا را بر عهده داشت، می گوید: «شما هوش مصنوعی را در یک پلت فرم کشنده به دست می آورید.

بلوندین معتقد است که این پهپادها تا سال 2030 به بخشی جدایی ناپذیر از ارتش مدرن تبدیل خواهند شد.

آمریکا دارد دو نمونه اولیهاز جمله فیوری. استرالیا دارای یک CCA توسط بوئینگ ایجاد شده است – و آنها کار می کنند نسخه زیر آب ساخته شده توسط Anduril. انگلستان هزینه می کند پنج میلیارد پوند برای بهبود پهپادها و سیستم های خودمختار در ارتش خود.

ارتش های غربی می گویند که مردم به کنترل و مسئولیت سلاح هایی که از نیروی کشنده استفاده می کنند ادامه خواهند داد: این بخشی از آن است سیاست ناتو در مورد استفاده مسئولانه از هوش مصنوعی

مقامات کانادایی به سی‌بی‌سی گفتند که جنگ باید اساساً یک تلاش انسانی باقی بماند و گفتند هیچ ماشین، سیستم تسلیحاتی یا کد الگوریتمی نمی‌تواند به خاطر رعایت قوانین بشردوستانه بین‌المللی پاسخگو باشد. اما بلوندین می گوید که دیگر مخالفان ممکن است منتظر نمانند.

اگر یک کشور در یک درگیری از هوش مصنوعی خود مختار استفاده کند، بلوندین از خود می‌پرسد که کشورهای دیگر چه واکنشی نشان می‌دهند – آیا استانداردهای اخلاقی خود را بالا می‌برند یا به کلی آنها را رها می‌کنند؟

آیا در زمان جنگ، آیا چین نگران این باشد که یک مرد در حلقه حضور داشته باشد؟ او پرسید.

تماشا | CCA استرالیا، با نام “خفاش روح”:https://www.youtube.com/watch?v=BiSHVl7UMRk

نقش کانادا

در بیانیه ای که به CBC News ارسال شد، وزارت دفاع ملی گفت که نیروی هوایی سلطنتی کانادا در حال بررسی چگونگی مفید بودن این سیستم ها برای کانادا است، اما هیچ تصمیمی در مورد برنامه هایی برای خرید CCA اتخاذ نشده است.

در بیانیه آمده است که نیروهای مسلح کانادا از توسعه عملکرد خود مختار حمایت می کنند، مشروط بر اینکه “در یک زنجیره مسئول از فرماندهی و کنترل انسانی اداره شود و متعهد به حمایت از استفاده قابل اعتماد و قانونی از چنین سیستم های تسلیحاتی باشد.”

کانادا هیچ جت جنگنده مشترکی ندارد، اما الیوت پنس، مدیرعامل Dominion Dynamics می‌خواهد آن را تغییر دهد.

شرکت فناوری دفاعی او در حال ساخت Scout، CCA است که جلوتر از یک جت جنگنده سرنشین دار، سه یا چهار پهپاد در هر هواپیما، فراتر از لبه رادار پرواز می کند – و می تواند با شلیک سلاحی مانند موشک حمله کند.

پنس که قبلا در Anduril کار می‌کرد، می‌گوید که نیاز به CCA مربوط به حاکمیت است، به‌ویژه بر روی قطب شمال، که حدود 40 درصد از کانادا را تشکیل می‌دهد. پنس استدلال کرد که کشور هواپیمای جنگی برای پوشش تمام آن قلمرو ندارد و خاطرنشان کرد که شکافی در توانایی کانادا برای انجام اطلاعات، نظارت و شناسایی ایجاد می‌کند – شکافی که Dominion در تلاش است آن را پر کند.

بهترین، کارآمدترین و پیشرفته‌ترین راه برای انجام این کار، جفت کردن این جت‌ها با سیستم‌های خودمختار است.»

اگر اتاوا درگیر شود، Dominion برنده خواهد شد.

پنس می گوید که حدود یک سوم از 500 میلیون دلار مورد نیاز برای ساخت نمونه اولیه را جمع آوری کرده است و اگرچه اتاوا پلت فرم شبیه سازی Dominion را خریداری کرده است، هیچ قرارداد دولتی برای نمونه اولیه وجود ندارد.

“ما اهمیتی نمی دهیم. ما به هر حال آن را می سازیم.”

تعبیه در داخل مرزها

پنس می‌گوید Dominion می‌خواهد انسان تصمیم‌گیرنده نهایی برای پهپاد باقی بماند و در حال ایجاد این محدودیت در تصمیم‌گیری مدل‌های هوش مصنوعی خود است.

بنویت بروکس، معاون ارشد مهندسی هوافضا در Dominion می‌گوید: اما آنها هنوز دقیقاً متوجه نشده‌اند که تمام این حفاظت‌ها دقیقاً چه خواهند بود.

بروکس می‌گوید برخی از مرزها واضح هستند – برای مثال، هر گونه استفاده از زور نیاز به تأیید انسان دارد.

Benoit Breaux، معاون ارشد مهندسی هوافضا در Dominion، در حال کار بر روی پادمان‌هایی است تا مطمئن شود که انسان آخرین تصمیم‌گیرنده برای پهپادی است که می‌خواهند بسازند. (نیکولا لگو/CBC)

محدودیت های دیگر ممکن است در نگاه اول کمتر بحرانی به نظر برسند، اما می توانند به طور غیرمنتظره ای خطرناک شوند. به عنوان مثال، اگر مهندسان بخواهند پهپاد به خانه بازگردد، آیا هوش مصنوعی می تواند تصمیم بگیرد که چه مسیری را طی کند؟

بروکس گفت: “شما نمی خواهید مستقیماً به یک محیط خطرناک یا حریم هوایی مورد مناقشه به پایگاه بازگردید.”

او همچنین به این فکر می کند که چگونه از اضافه بار خلبان جلوگیری کند. اطلاعات بیش از حد از سه یا چهار هواپیمای بدون سرنشین می تواند حفظ کنترل CCA را برای خلبان دشوار کند.

اما در حال حاضر، Breault اعتراف می کند که توسعه رابط انسان و ماشین هنوز “جنینی” است.

او می گوید که هنوز در تلاش برای یافتن پاسخ برای سؤالات مهمی مانند: “ما دقیقاً چگونه اطلاعات را به خلبانان جنگنده ارائه می دهیم؟ توصیه های تصمیم گیری دقیقاً چگونه نمایش داده می شود.”

کنترل کافی انسانی

کریگ مارتین، افسر سابق نیروی دریایی کانادا و کارشناس قوانین جنگ مسلحانه که در دانشگاه واشبورن در توپکا، کان تدریس می‌کند، می‌گوید این جزئیات در نگرانی‌های اخلاقی در مورد سیستم‌های تسلیحاتی خودمختار نقش اساسی دارند.

او گفت: این سوال میلیون دلاری است. میزان و ماهیت کنترل انسان بر این سیستم تسلیحاتی چقدر است؟

مارتین نگران سوگیری اتوماسیون است – زمانی که مردم بیش از حد به دستگاه اعتماد می کنند، به خصوص اگر، برای مثال، فقط چند ثانیه فرصت دارند تا پاسخ دهند. مارتین می گوید که اگر سیستم های هوش مصنوعی در محیطی استفاده شوند که در آن آموزش ندیده اند نیز ممکن است از کار بیفتند. به عنوان مثال، سیستمی که برای استفاده در افغانستان آموزش دیده است، در صورت استفاده در اوکراین ممکن است اشتباه کند.

او می‌گوید چنین اشتباهاتی «در واقع می‌توانند به نوعی حلقه بازخورد تصاعدی تبدیل شوند که منجر به انحرافاتی می‌شود که در نهایت می‌تواند به کشتن غیرنظامیان منجر شود».

در این ماه، دیپلمات ها در ژنو ملاقات خواهند کرد تا ببینند آیا کشورها می خواهند در مورد قوانین استفاده از سلاح های خودمختار وارد مذاکره شوند یا خیر. کریگ مارتین، افسر سابق نیروی دریایی کانادا و متخصص قوانین جنگ مسلحانه، از کانادا می خواهد که این گفتگو را انجام دهد. (اندرو لی/سی بی سی)

آنتونیو گوترش، دبیرکل سازمان ملل متحد خواستار یک قرارداد قانونی الزام آور در مورد سلاح های خودمختار تا پایان سال 2026.

به گزارش نیویورک تایمز، گوترش در ماه اوت، یک ماه پس از آن که یک پهپاد روسی بدون اپراتور انسانی سه غیرنظامی را در اوکراین کشت، این تماس را تمدید کرد. طبق گزارش ها، این پهپاد یک سلاح ارزان قیمت و قابل استفاده مجدد است که هدف خود را انتخاب می کند. این پهپاد در دسته بندی متفاوتی نسبت به CCA قرار داشت، اما هر دو نوع پهپاد و CCA به اندازه کافی مستقل هستند تا بتوانند برخی از تصمیمات خود را بگیرند.

مارتین خواستار تغییراتی در قوانین بین‌المللی است که تسلیحات کاملاً خودمختار را ممنوع کرده و سلاح‌های نیمه خودمختار را محدود می‌کند. دیپلمات ها این ماه در ژنو ملاقات خواهند کرد تا ببینند آیا کشورها می خواهند در مورد قوانین استفاده از این سلاح ها وارد مذاکره شوند یا خیر – و مارتین از کانادا می خواهد که این گفتگو را رهبری کند.

کانادا رای می دهد بله به قطعنامه 2025 سازمان ملل از طرفین می خواهد که زمینه را برای مذاکرات احتمالی در مورد معاهده ای که بر استفاده از سیستم های تسلیحات خود مختار مرگبار حاکم است، فراهم کنند.

مقامات DND می گویند که کانادا به مشارکت در مذاکرات بین المللی در مورد این سلاح ها ادامه خواهد داد. او همچنین در حال افزایش هزینه‌های دفاعی است و به هدف ناتو مبنی بر صرف پنج درصد تولید ناخالص داخلی برای دفاع تا سال 2035 متعهد شده است.

بلوندین، فرمانده سابق RCAF، می‌گوید که آیا کانادا سلاح‌های خودمختار را خریداری می‌کند یا نه.

این بحثی است که ما باید به عنوان یک جامعه داشته باشیم.