آنچه مقررات هوش مصنوعی می تواند از خطرناک ترین صنایع جهان بیاموزد

نماینده مجلس دارن جونز، دبیر سابق نخستوزیر در دوران کایر استارمر، اخیراً خواستار یک معاهده چند ملیتی جدید برای تنظیم توسعه ایمن و استفاده از ابرهوشها شده است (که در آن هوش مصنوعی به طور قابلتوجهی از انسان در بیشتر وظایف شناختی بهتر عمل میکند).
او همچنین استدلال کرد که شهرت رو به رشد بریتانیا برای ایمنی و قابلیت اطمینان هوش مصنوعی، آن را مجرای خوبی برای چنین همکاریهایی کرده است.
آنچه در مورد این مداخله برای من جالب بود، این سوال نبود که آیا هوش مصنوعی می تواند تهدیدی برای بشریت باشد یا خیر. در عوض، زیر آن یک سوال مدیریتی و سازمانی وجود داشت: «آیا سیستمهای مدیریتی ما میتوانند با توسعه هوش مصنوعی و در عین حال ایمن بودن آن همگام شوند؟»
ما در مقطعی از تاریخ هستیم که رهبران فناوری جهانی و برخی از مقامات آنها معتقدند بیش از 10 درصد احتمال دارد که هوش مصنوعی همه انسان ها را در دهه آینده بکشد. اما مردم هنوز در تلاش برای درک پیامدهای بالقوه هوش مصنوعی هستند. تا زمانی که این کار را انجام دهیم، ممکن است برای اقدام خیلی دیر شده باشد.
با این حال، ما باید مراقب باشیم که این پیشبینی را از خطرات فعلی متمایز کنیم و چه اتفاقی میافتد زمانی که سیستمهای هوش مصنوعی قادر به خودسازی (خودبهبودی بازگشتی کامل) شوند و به سمت ابرهوشی حرکت کنند.
من با درخواست ها برای یک معاهده چندملیتی و برای رهبری بریتانیا موافق هستم. به عنوان یک دانشمند بازرگانی، من همچنین معتقدم که تحقیقات برخی از مدارس کسب و کار می تواند ما را در مورد مدیریت و سازماندهی سیستم هایی که پیچیدگی، سرعت و استقلال آنها سریعتر از توانایی ما برای درک آنها در حال رشد است، آگاه کند.
این منطقه آشنا در صنایع پرخطر مانند انرژی هسته ای و هوانوردی است. دو نظریه به ویژه در اینجا مرتبط هستند: نظریه تصادف عادی مرتبط با جامعه شناس آمریکایی چارلز پرو و نظریه قابلیت اطمینان بالا مرتبط با کار دانشمند علوم سیاسی آمریکایی تاد لاپورت. در مجموع، آنها می توانند چارچوبی قدرتمند برای تفکر در مورد ایمنی و مقررات هوش مصنوعی ارائه دهند.
تصادفات “عادی”.
نظریه تصادف عادی با یک گزاره ناخوشایند شروع می شود. در سیستم های پیچیده وابسته به هم، مانند نیروگاه های هسته ای یا فضاپیماهایی که برای حمل افراد طراحی شده اند، حوادث لزوماً نتیجه بی کفایتی، بی دقتی یا طراحی ضعیف فردی نیستند. آنها می توانند از تعامل چندین مؤلفه به روش هایی ناشی شوند که پیش بینی آنها دشوار است.
در چنین سیستم هایی حوادث به سرعت اتفاق می افتد. هنگامی که اتفاق غیرمنتظره ای رخ می دهد، زمان کمی برای مداخله بین یک شکست احتمالی و شکست بعدی وجود دارد. این می تواند منجر به یک خطای آبشاری، با پتانسیل ایجاد یک تصادف شود. نمونه ای که معمولاً مورد استفاده قرار می گیرد، ذوب جزئی نیروگاه هسته ای Three Mile Island در پنسیلوانیا، ایالات متحده آمریکا، در سال 1978 است. این حادثه به دلیل ترکیبی از خرابی مکانیکی، نقص ابزار و عوامل انسانی رخ داد.
وقتی عوامل هوش مصنوعی را به چنین سیستم پیچیده ای اضافه می کنید، خطرات بیشتر می شود – عوامل هوش مصنوعی سیستم هایی هستند که وظایف را در پاسخ به دستورالعمل ها انجام می دهند. مثالها ممکن است شامل سیستمهای مالی، سیستمهای توسعه نرمافزار، پایگاههای اطلاعاتی علمی در آزمایشگاهها یا حتی سیستمهایی باشد که بسیاری از عوامل را به هم متصل میکنند.
در هر چنین سیستمی، یک جزء منفرد – از جمله یک عامل هوش مصنوعی – ممکن است آستانه کیفیت قابل قبولی را برآورده کند. مشکل در تعامل بین آنها و درک ما از آن تعاملات نهفته است. بخشی از مشکل این است که میدانیم رفتار عامل میتواند غیرقابل پیشبینی باشد: گزارشهای اخیر عملکرد عوامل هوش مصنوعی را به گونهای توصیف میکنند که توسعهدهندگان آنها انتظار نداشتند.
دولت بریتانیا خطرات مرتبط با عوامل هوش مصنوعی با قابلیت فزاینده را برجسته کرده و بر اهمیت آزمایش مدلهای هوش مصنوعی مرزی و ایجاد درک علمی از قابلیتهای آنها تأکید کرده است.
اگر سیستمهای هوش مصنوعی مستقلتر، به هم پیوستهتر و حرکت سریعتر شوند، ایده مرسوم «انسان در حلقه» برای تصحیح خطاهای بزرگ ممکن است به طور فزایندهای چالش برانگیز شود.
سرنوشتی وجود ندارد، اما ما چه می کنیم؟
نظریه قابلیت اطمینان بالا یک نقطه مقابل ارائه می دهد. سنت قابلیت اطمینان بالا از تحقیقات سازمانهایی که فنآوریهایی را به کار میگیرند که در آن شکست میتواند عواقب فاجعهباری داشته باشد، مانند نیروگاههای هستهای، ناوهای هواپیمابر و کنترل ترافیک هوایی پدیدار شد.
بینش اصلی او تقریباً مخالف خوانش بدبینانه نظریه تصادفات عادی است. در اصل، میگوید که سازمانها میتوانند شیوهها و فرهنگهایی را توسعه دهند که به آنها اجازه میدهد فناوریهای بسیار پیچیده با نرخ شکست بسیار پایین را به کار گیرند. در واقع، ما این را با سیستم الکتریکی، سفرهای فضایی و مهندسی زیستی دیدهایم.
این سازمان ها به قابلیت اطمینان بالایی دست می یابند زیرا فرض اساسی آنها این است که هستند نه با خیال راحت آنها نسبت به مشکلات بزرگتر هوشیار میمانند، بهطور خودکار ناهنجاریها را نادیده نمیگیرند، از اشتباهات و شکستهای نزدیک درس نمیگیرند، و افزونگی را ایجاد میکنند – برای مثال، از سیستمهای آفلاین پشتیبان تهیه میکنند و سوئیچهای کشتن را ارائه میکنند.
Wulan توسط Wulandari / Shutterstock
آنها به طور معمول یک خرابی را تمرین می کنند، فرآیندهای عملیاتی را ایجاد می کنند، از مقررات ایمنی و امنیتی پیروی می کنند، استانداردهای حرفه ای و طرح های صدور گواهینامه را رعایت می کنند و نظارت مستقلی دارند. سازمان های با قابلیت اطمینان بالا به کارشناسان این قدرت را می دهند که تصمیمات را به چالش بکشند. آنها دائماً از عملکرد خود یاد می گیرند.
این روش تفکر بسیار متفاوتی را در مورد مدیریت هوش مصنوعی ارائه می دهد. به جای اینکه به سادگی بپرسیم “چگونه هوش مصنوعی را تنظیم کنیم؟” ما باید بپرسیم، “اگر هوش مصنوعی در آن تعبیه شود، یک سازمان با قابلیت اطمینان بالا چگونه خواهد بود؟”
این نشان میدهد که ایمنی هوش مصنوعی را نمیتوان به مدلی تقلیل داد که یک بار تست فنی قبل از اجرا گذرانده است. باید سازمان های مختلف را در بر گیرد و از مرزهای بین المللی فراتر رود.
تضمین هوش مصنوعی
اینجاست که بحث سیاست فعلی در مورد مقررات هوش مصنوعی خطر بسیار محدودی دارد. دولت ها باید بدانند که چه آزمایشگاه های مرزی در حال توسعه هستند. اما در واقع، دولت نمی تواند همیشه در هر شرکت هوش مصنوعی بنشیند و هر مدلی را بررسی کند.
همچنین قانون نمی تواند هر پیکربندی فنی را که هوش مصنوعی انجام می دهد پیش بینی کند. دولت بریتانیا اذعان دارد که باید از طریق پادمانها، اعتماد به هوش مصنوعی را پرورش دهد.Assurance می پرسد که آیا شواهد قابل اعتمادی وجود دارد که نشان دهد یک سیستم در محدوده خاصی نگهداری می شود، آیا این محدودیت ها مناسب هستند، آیا ریسک ها نظارت می شوند یا خیر، و آیا زمانی که فردی مورد نقض قرار می گیرد، مسئول شناخته می شود یا خیر.
صنعت هوانوردی دارای استانداردهای مهندسی، رژیم های صدور گواهینامه، صلاحیت های حرفه ای، بازرسی مستقل، گزارش حوادث و نظارت نظارتی است.
انرژی هسته ای در یک اکوسیستم پیچیده مهندسی ایمنی و
ضمانت نظارتی هم موسسات مالی و هم پزشکی سیستم های امنیتی پیچیده ای دارند.
هوش مصنوعی در حال سازگارتر شدن است، اما زیرساخت های تدارکاتی آن باقی مانده است
نسبتا نابالغ این امر به ویژه با توجه به سرعت تکامل سیستم های مرزی قابل توجه است. چالش نهادی صرفا ایجاد مقررات بیشتر هوش مصنوعی نیست، بلکه ایجاد یک فرهنگ ایمنی حرفه ای است که مقررات را معنادار می کند.
یک معاهده چندملیتی جدید بالقوه برای توسعه ایمن و منظم ابراطلاعات، ایمنی هوش مصنوعی را به عنوان یک جهانی سریع در حال رشد شکل خواهد داد.
یک چالش در همان زمان، به طور بالقوه فرصتی برای بریتانیا ایجاد می کند که یک بار در یک نسل به شکل گیری معماری حاکمیت هوش مصنوعی در حال ظهور کمک کند.
این مقاله شامل ارجاعاتی به کتاب هایی است که به دلایل ویرایشی درج شده اند و ممکن است حاوی پیوندهایی به bookshop.org باشد. اگر روی یکی از پیوندها کلیک کنید و به خرید چیزی بروید، The Conversation UK ممکن است کمیسیون دریافت کند.



