نویسنده: اواگلوس والیاناتوس، کانتر پانچ
مترجم: مینا آگاه – اندیشهٔ نو
پنجشنبه ۱۴ اسفند ۱۴۰۴
مجمع عمومی سازمان ملل متحد در ۱۶ اکتبر ۲۰۲۵ قطعنامهای را تصویب کرد و خواستار آن شد که تا زمانی که سلاحهای هستهیی وجود دارند، هرگز زیر کنترل و نظارت هوش مصنوعی نباشند. این قطعنامه دربارهٔ هوش مصنوعی را شش کشور پیشنهاد کردند: اتریش، السالوادور، قزاقستان، قبرس، مالت و مکزیک. آنها بهدرستی بر این باور بودند که هوش مصنوعی نباید بخشی از تسلیحات هستهیی باشد.
خطرات و تهدیدهای هوش مصنوعی
قطعنامهٔ سازمان ملل «خطرات» ادغام هوش مصنوعی در سامانههای فرماندهی، کنترل و ارتباطات مرتبط با سلاحهای هستهیی را برجسته و تبیین کرد. در این قطعنامه هشدار داده شد که:
«تصمیمگیری مبتنی بر هوش مصنوعی در ارتباط با سامانههای فرماندهی، کنترل و ارتباطات سلاحهای هستهیی میتواند کنترل و نظارت انسانی را کاهش دهد و احتمال بروز تحریفهای القا شده در محیطهای تصمیمگیری و کوتاهتر شدن بازههای اقدام و واکنش را افزایش دهد، بهویژه در حساسترین و حیاتیترین مراحل مانند تصمیم برای شلیک، که میتواند خطر استفادهٔ تصادفی، ناخواسته یا غیرمجاز از سلاحهای هستهیی را تشدید کند.»
این قطعنامه همچنین به «محدودیتهای فنی ذاتی سامانههای هوش مصنوعی، از جمله و نه محدود به احتمال نقص عملکرد، سوءاستفاده یا نفوذ، و نیز سوگیریهای شناختی و خودکارسازی که بر دادههای آموزشی و طراحی الگوریتمها تأثیر میگذارند» اشاره کرده است. بر اساس این قطعنامه، کاستیهای فنی «میتواند به بروز توهمها و خروجیها و برداشتهای نارسا، نادرست یا گمراهکننده منجر شود که در نتیجه ممکن است پیامدهای جدی و فاجعهباری مانند استفادهٔ تصادفی، ناخواسته یا غیرمجاز از سلاحهای هستهیی در پی داشته باشد.»
اینها مشکلاتی جزئی نیستند که هوش مصنوعی با آنها روبهروست. این مسائل میتوانند به فاجعهٔ هستهیی یا جنگ هستهیی منتهی شوند. بر همین اساس و بهدلیل این نگرانیهای موجه، قطعنامه تأکید کرد که «تا زمان حذف کامل سلاحهای هستهیی، باید کنترل و نظارت انسانی بر سامانههای فرماندهی، کنترل و ارتباطات سلاحهای هستهیی، از جمله آنهایی که فناوری هوش مصنوعی را ادغام میکنند، حفظ شود.»
نشریهٔ بولتن دانشمندان اتمی میگوید: «این قطعنامه یک گام مهم به جلو است، زیرا بحث را فراتر از برداشت پایهییِ “حفظ کنترل انسان بر تصمیمهای مربوط به سلاحهای هستهیی” سوق میدهد و به شناسایی دقیقتر این موضوع میپردازد که چگونه هوش مصنوعی میتواند موجب تشدید ناخواسته در فرایندهای تصمیمگیری شود…. از نظر محتوایی، متن [قطعنامهٔ سازمان ملل] بازتابدهندهٔ تعهدهای سیاسیای است که چند کشور- از جمله فرانسه، چین، پاکستان، بریتانیا و ایالات متحده – پیشتر در بیانیهها یا اسناد نهایی در مجامع دیگر تأیید کردهاند و میکوشد آن تعهدها را تقویت و تکمیل کند. در عین حال، این متن میکوشد این تعهدها را بهطور گستردهتری به حوزهٔ فرماندهی، کنترل، و ارتباطات هستهیی تعمیم دهد، یعنی به کل معماریای که زیربنای تصمیمگیری هستهیی را تشکیل میدهد.
درست است که این قطعنامه بازتابدهندهٔ ایدئولوژی، سیاست و هراس برخاسته از استمرار چندین دههییِ حضور سلاحهای هستهیی در نظام بینالملل است و نیز بیانگر خودبزرگبینی دولتهای دارندهٔ این سلاحهاست؛ با این حال، این قطعنامه بسیار فراتر میرود. این یک گام نخست جدی در مسیر الغای نهایی سلاحهای هستهیی است. این قطعنامه به انسانهای متمدن یادآوری میکند که هوش مصنوعی و بهویژه بمبهای هستهیی، چه در ترکیب با یکدیگر و چه بهتنهایی، کابوسهای غیرانسانیِ نابودی احتمالی انسانها، تمدن و طبیعت در آیندهاند. هوش مصنوعی ممکن است بیخطر و سودآور به نظر برسد، اما همانند بمبهای هستهیی، در حال تبدیل شدن به نسخهای دیگر از بمب هستهیی است. «همانند بمبهای هستهیی، ماشینهای هوش مصنوعی نیز محکوم به انفجارند. سخنان مهندسانی که این ماشینها را میسازند، آغشته به منطق پول و سود است. این امر فریبنده و خطرناک است.»
هوش مصنوعی در بلندمدت میتواند سازندگان نظامیِ پیشرفتهٔ خود را دگرگون کند و آنان را به ابزارهایی مطیع بدل سازد که سرانجام از این بازیِ خداییِشان پشیمان خواهند شد، همانگونه که آفرینش سلاحهای هستهیی، یعنی تجسمِ مرگ در قالبی فناورانه، پیامدهایی پدید آورد که از کنترل سازندگانش فراتر رفت. در واقع، هوش مصنوعی و بمبهای هستهیی محصولات همزادِ ذهنِ آشفتهٔ جنگ و جنگطلباناند. آنها سلاحهای هولناک ویرانی و مرگاند.
هیچ جامعهٔ انسانی پیش از قرن بیستم، دههها با ماشینهای مرگِ انسانساخته زندگی نکرده بود. البته این بدان معنا نیست که جوامع گذشته از جوامع قرن بیستویکم ملایمتر بودند. جنگها و جنگهای داخلی، از یونانیان باستانِ متمدن گرفته تا جنگهای جهانی در اروپا و جنگهای آمریکا، گرم و سرد، در آمریکای لاتین، آسیای جنوب شرقی و خاورمیانه، شیوههایی بیرحمانه برای حل منازعه بودهاند. گفتوگو، درک متقابل و عدالت کنار گذاشته میشوند. سپس شمشیرها، چاقوها، کمان و تیر، تپانچهها، توپها، مسلسلها، پهپادهای مجهز به هوش مصنوعی، موشکها و زیردریاییهای هستهیی وارد میدانهای نبرد میشوند.
جنگها به قدمت انساناند. هراکلیتوس، فیلسوف یونانی قرن ششم پیش از میلاد، گفت که جنگ پدر و پادشاه همه چیز است. او درست میگفت. اما هر چند جنگ در زمان هراکلیتوس بد بود، اکنون، بیست و هفت قرن بعد، جنگ در حال تبدیل شدن به زمزمهٔ خاموش یا آشوبِ نابودی کامل است. از همین روست که هوش مصنوعی و سلاحهای هستهیی، که در کنار یکدیگر نابودی را به امری قطعی بدل میکنند، باید پیش از آنکه ما را از میان ببرند برچیده شوند.
چه باید کرد؟
کشورهای دارندهٔ سلاح هستهیی (ایالات متحد آمریکا، روسیه، چین، فرانسه، بریتانیا، پاکستان، هند، کرهٔ شمالی و اسرائیل) باید برای جهان توضیح دهند که چرا این ماشینهای مرگ را در اختیار دارند. برای امنیت ملی؟ بعید است. برای پرستیژ؟ بله. برای بازیهای امپراتوری؟ قطعاً. برای ارعاب کشورهای غیرهستهیی؟ بیتردید.
ما میدانیم که سلاحهای هستهیی را نمیتوان بدون پیامدهایی غیرقابل قبول، بلکه به معنای واقعی کلمهْ مرگبار، برای میلیاردها انسان به کار برد. در ۱۰ ژوئن ۱۹۶۳، رئیسجمهور جان اف. کندی برای فارغالتحصیلان دانشگاه آمریکایی توضیح داد که قدرت انفجاری یک سلاح هستهیی منفرد ده برابر ویرانگرتر از مجموع انفجارها و ویرانیهای همهٔ بمبارانهای جنگ جهانی دوم است. رؤیای کندی صلح جهانی بود؛ صلحی که بهطور خودکار سلاحهای هستهیی را منسوخ میکرد. او گفت «صلح جهانی» «مهمترین موضوع روی زمین» است. او توضیح داد منظورش چیست:
«چه نوع صلحی را در نظر دارم؟ چه نوع صلحی را جستوجو میکنیم؟ نه صلحی آمریکایی که با سلاحهای جنگی آمریکا بر جهان تحمیل شود. نه صلح گورستان یا امنیت برده. من از صلحی واقعی سخن میگویم؛ صلحی که زندگی بر زمین را ارزشمند میکند؛ صلحی که به انسانها و ملتها امکان میدهد رشد کنند، امید داشته باشند و برای فرزندانشان زندگی بهتری بسازند. نه صرفاً صلح برای آمریکاییها، بلکه صلح برای همهٔ مردان و زنان. نه فقط صلح در زمان ما، بلکه صلح برای همهٔ زمانها.»
«از صلح سخن میگویم، زیرا جنگ چهرهای تازه یافته است. در عصری که قدرتهای بزرگ میتوانند زرادخانههای هستهیی گسترده و نسبتاً آسیبناپذیر خود را حفظ کنند و بیآنکه به آنها متوسل شوند از تسلیم شدن سر باز زنند، جنگ همهجانبه دیگر معنایی ندارد. در زمانی که قدرت انفجاریِ تنها یک سلاح هستهیی تقریباً ده برابر مجموع نیروی انفجاریِ همهٔ بمبارانهای هوایی متفقین در جنگ جهانی دوم است، چنین جنگی بیمعناست. و نیز در دورانی که سموم مرگبارِ ناشی از یک مبادلهٔ هستهیی میتواند بهوسیلهٔ باد و آب و خاک و بذر به دورترین نقاط جهان و حتی به نسلهایی که هنوز زاده نشدهاند برسد، سخن گفتن از جنگ همهجانبه بیهوده است. آگاهم که تلاش برای صلح به اندازهٔ تلاش برای جنگ هیجانانگیز نیست- و چهبسا سخنانِ صلحطلبان با بیاعتنایی شنیده شود. با این همه، هیچ مسئولیتی برای ما فوریتر از این نیست.»
«برخی میگویند سخن گفتن از صلح جهانی یا قانون جهانی یا خلع سلاح جهانی بیهوده است؛ و تا زمانی که رهبران اتحاد جماهیر شوروی نگرشی روشنبینانهتر اتخاذ نکنند، بیفایده خواهد بود. امیدوارم چنین کنند. باور دارم میتوانیم به آنها کمک کنیم. اما همچنین معتقدم که باید نگرش خودمان را، بهعنوان افراد و بهعنوان یک ملت، دوباره بررسی کنیم؛ زیرا نگرش ما به اندازهٔ نگرش آنان اساسی است. و هر فارغالتحصیل این مدرسه، هر شهروند اندیشمندی که از جنگ نومید است و خواهان برقراری صلح است، باید از درون آغاز کند؛ با بررسی نگرش خود نسبت به امکان صلح، نسبت به اتحاد شوروی، نسبت به مسیر جنگ سرد و نسبت به آزادی و صلح در داخل کشور.»
احتمالاً رئیسجمهور کندی نخستین سیاستمداری نبود که از آمریکاییها خواست صلح جهانی را بهجای جنگ و سلاحهای هستهیی برگزینند. اما پیام او برای صلح جهانی اکنون، در سال ۲۰۲۶، که هوش مصنوعی در حال نفوذ به سامانههای فرماندهی، کنترل و ارتباطات مرتبط با سلاحهای هستهیی است، بهویژه خردمندانه، بهموقع و فوری است. صلح جهانی به معنای هیچ بمب هستهیی و هیچ هوش مصنوعی نظامی است. صلح، هدیهٔ آزادی و تمدن است. سلاحهای هستهیی برای جنگ بیفایدهاند. آنها ساختهٔ انسانهایی مست از جنگاند، اما آشکار است که به انسانهای متمدن بر زمین تعلق ندارند.
ایالات متحده، اتحادیهٔ اروپا، روسیه، چین و هند باید یک پنتارشی (حکومت پنجگانه) برای برقراری صلح جهانی و الغای سلاحهای هستهیی و هوش مصنوعی نظامی تشکیل دهند. این پنج قدرت بزرگ باید جایگزین شورای امنیت کنونی سازمان ملل شوند. آنها باید نظارت مشترک بر حکمرانی سیاره را، بدون پیشداوریهای عقیدتی مذهبی یا تعصب یا اقتدارگرایی، آغاز کنند. کشورهای بیطرف ضمن حفظ فرهنگ و آزادی خودشان، حق هیچگونه تعرض یا توسعهطلبی نسبت به همسایگان یا سایر کشورها را نخواهند داشت.
دوم، قدرتهای بزرگ باید بهکارگیری هوش مصنوعی را در هرگونه عملیات نظامی ممنوع کنند و قطعاً استفاده از آن را در مدیریت سلاحهای هستهیی مجاز ندانند. اولویت اصلی آنها باید نابودی بمبهای هستهیی باشد – چه زرادخانههای خودشان و چه زرادخانههای دیگر کشورهای دارندهٔ سلاح هستهیی، یعنی اسرائیل، بریتانیا، پاکستان و کرهٔ شمالی. آنها باید بهطور مشترک مرزهای موجود میان همهٔ کشورها و نیز آزادی و استقلال آنها را تضمین کنند. این بدان معناست که بیشترین شمار کشورها باید همانند اتریش یا سوئیس بیطرف شوند. پنتارشی بیطرفی همهٔ کشورها را تضمین خواهد کرد و بدین ترتیب جنگ را از میان خواهد برد.
در مورد اتحادیهٔ اروپا، این نهاد باید نخست خود را بازسازماندهی کند و به یک اتحادیهٔ سیاسی واقعی با مرزهای مصون از تعرض و دفاع مشترک تبدیل شود. اتحادیهٔ اروپای جدید باید درک کند که آلمان یک دولت «عادی» نیست. این کشور در قرن بیستم مسئول دو جنگ جهانی در اروپا بوده است. اتحادیهٔ اروپا باید آلمان را از داشتن هرگونه تسلیحات برای همیشه منع کند. آلمان بیطرف همچنین باید موظف شود بدهی مربوط به جنگ جهانی دوم به یونان را بپردازد و نیز گنجینههای باستانشناختیای را که نیروهای آلمانی در دوران اشغال یونان در سالهای ۱۹۴۱ تا ۱۹۴۴ غارت کردند، بازگرداند.
در عین حال، پنتارشی باید استقلال و بیطرفی یونان را تضمین کند. همچنین باید نیروهای ترکیه را از شمالِ اشغالشدهٔ قبرس اخراج کند و اجازه دهد جزیرهٔ یونانیِ قبرس با یونان متحد شود. از همهٔ قبرسیها (اکثریت یونانی و اقلیت ترکِ مسلمان) باید دربارهٔ اتحاد با یونان نظرخواهی شود. کسانی از پیروان آیین اسلام که با اتحاد با یونان موافق نباشند، باید حق داشته باشند به ترکیهٔ مسلمان بپیوندند.
یونان میتواند به فرهنگ باستانی هلنیِ خود، فرهنگ علم، عدالت، نیک و زیبا، و تمدن بازگردد. این کشور میتواند به مدرسهای برای علم و دموکراسی بدل شود و المپیک باستانی هلنی، فلسفه، نظریهٔ سیاسی، تئاتر و صلح را احیا کند. این رؤیای اسکندر مقدونی و نخستین رئیسجمهور یونان مستقل، ایوانیس کاپودیستریاس (۱۷۷۶–۱۸۳۱) بود.
نتیجهگیری
با این حال، روابط سیاسی کنونی در سطح جهانی میان دولتهای مسلح به سلاح هستهیی آکنده از تنش و هراس است. در ۲۸ اکتبر ۲۰۲۴، ژنرال آنتونی کاتن، فرمانده فرماندهی راهبردی ایالات متحده، نگرانی و خصومتش را در مورد قدرتهای هستهیی شرق ابراز کرد. او از «پیچیدهترین محیط» سخن گفت که در آن «خودکامگان جسور شدهای حضور دارند که میکوشند از طریق زور و ترس سلطه یابند. برای نخستین بار در تاریخ، ما با دو رقیب هستهیی همتراز روبهرو هستیم.
«روسیه در پی بازگرداندن سیاست پیشینِ عظمت خود است و چینِ در حال اوجگیری میکوشد جایگزین یک نظام بینالمللی باثبات و باز شود که بیش از ۸۰ سال به جهان خدمت کرده است. اکنون به اینها، کرهٔ شمالیِ تهاجمی و مسلح به سلاح هستهیی را نیز میافزایم، و البته ایران را.»
«چین بهسرعت در حال گسترش همهٔ ابعاد قدرت نظامی خود است، از جمله سامانههای پرتاب هستهیی مستقر در خشکی، دریا و هوا.»
«جمهوری خلق چین احتمالاً تا سال ۲۰۳۰ دارای ۱,۰۰۰ کلاهک هستهیی خواهد بود و از جنگ روسیه در اوکراین حمایت میکند. روسیه هماکنون بزرگترین و متنوعترین زرادخانهٔ هستهیی جهان را در اختیار دارد و همچنان در حال گسترش و نوسازی آن است. مسکو بهطور چشمگیری درصد تولید ناخالص داخلی اختصاصیافته به ارتش را افزایش داده و آشکارا برای جنگی طولانی در اوکراین آماده میشود.»
«کرهٔ شمالی همچنان در نقض قطعنامههای شورای امنیت سازمان ملل، زرادخانهٔ هستهیی خود را گسترش میدهد و نیز بهطور فعال از روسیه در اوکراین حمایت میکند. اخیراً شاهد آن هستیم که نیروهای کرهٔ شمالی به روسیه اعزام میشوند تا سپس به اوکراین منتقل شوند. و سرانجام، ایران با حمایت روسیه به اقدامات تهاجمی خود در خاورمیانه ادامه میدهد.»
تردیدی نیست که ژنرال کاتن بازتابدهندهٔ ایدئولوژی و تفکر راهبردی آمریکاست. این امکان نیز وجود دارد که قدرتهای هستهیی شرق به نتایج مشابهی دربارهٔ قدرتهای هستهیی غرب رسیده باشند. صرفنظر از تفاوتهای واقعی یا تصوری میان این دو اردوگاه، آنها باید گرد هم آیند و گفتوگویی برای صلح و گامهای لازم جهت نابودی سلاحهای هستهیی خود آغاز کنند. آنان باید بتوانند بر سر توافقهایی برای تضمین تمامیت مرزهایشان به تفاهم برسند.
پنتارشی باید گذار از جنگ، سلاحهای هستهیی، و پایان دادن به تسلیحاتیسازیِ هوش مصنوعی، بیطرفی، صلح و روابط دوستانه میان همهٔ ملتها را هماهنگ کند. تنها در آن صورت است که ملتهای جهان خواهند توانست بهطور مشترک با آشوب آبوهوایی در این سیاره مقابله کنند، سوختهای فسیلی را کنار بگذارند، و حذف کردن آلودگی جهانی را آغاز کنند.