گزارشی از مایک آیزاک در نیویورک تایمز
ترجمهٔ آ. نعمتزاده – اندیشهٔ نو
دوشنبه ۲۳ شهریور ۱۴۰۵
داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، روز شنبه ۱۲ سپتامبر (۲۱ شهریور) در مقالهای ۳۸۰۰ کلمهیی در وبگاه خودش، فقط چند روز پس از استعفای یکی از کارکنان آن شرکت بهدلیل ابراز نگرانی دربارهٔ ایمنی این فناوری، خواستار کُند شدن جهانی توسعهٔ هوشواره (هوش مصنوعی) شد.
مدیران ارشد دیگر شرکتهای بزرگ هوشواره نیز بهسرعت به این حرکت پیوستند. سَم آلتمن، مدیرعامل اوپنایآی (OpenAI)، ایلان ماسک- که شرکت موشکی اسپیس ایکس او هزینههای هوشوارهیی را افزایش داده است- و دمیس حسابیس، رئیس گوگل دیپمایند (Google DeepMind)، در فرستههایی در شبکههای اجتماعی نوشتند که آنها نیز در با ضرورت کُندتر شدن روند توسعهٔ هوشواره توافق دارند.
دکتر آمودی، که شرکت آنتروپیک را برای تمرکز بر ساختن ایمن و دقیق هوشواره تأسیس کرد، در مقالهاش نوشت که اگرچه معتقد است این فناوری میتواند مزایای زیادی داشته باشد، اما دارد با سرعت بسیار زیادی پیش میرود بهطوری که پژوهشگران نمیتوانند با ایمن کامل به این روند ادامه دهند.
دکتر آمودی نوشت: «در چند ماه گذشته متقاعد شدهام که پرداختن کامل به خطرها نیازمند احتیاط بیشتری است- نهفقط سرمایهگذاری در پیشگیری از خطر، بلکه تنظیم سرعت پیشرفت توانمندیها تا پیشگیری از خطر این فرصت را داشته باشد که با این سرعت همگام شود… باید سرعت بهبود قابلیتهای الگوهای هوشواره را کاهش دهیم. پیشرفت هنوز سریع به نظر میرسد و باید از زمانی که صرفهجویی میکنیم بهدرستی استفاده کنیم.»
دکتر آمودی سالهاست که دربارهٔ خطرهای هوشواره از لحاظ ایمنی هشدار داده است. اما مقالهٔ او یکی از جدّیترین درخواستها برای اقدام فوری در این مورد از زبان یکی از مدیران ارشد شرکتهای هوشواره تا امروز است.
او خواستار بررسی معیارهای ایمنی شرکتها از سوی ارزیابان مستقل و همکاری جهانی در تدوین قوانین مربوط به توسعهٔ هوشواره شده است.
این درخواست برای درنگ سراسری در این صنعت پس از ماهها نگرانی فزاینده در صنعت فناوری مطرح شده است، در حالی که توسعهٔ الگوهای هوشواره پیشرفتهای چشمگیری در شرکتهایی مانند آنتروپیک، سازندهٔ چتبات کلاود (Claude)، و نیز اوپنایآی، سازندهٔ چتجیپیتی (ChatGPT)، و همچنین دیپمایند (DeepMind) گوگل داشته است.
تنشها زمانی بیشتر شد که آزمایشگاههای پیشرو هوشواره نفوذهای امنیتیای را کشف کردند که از جانب برنامههای خودشان و بدون اطلاع خود آنها صورت گرفته بود. در یکی از این موارد در امسال، سیستمهای اوپنایآی (OpenAI) به یک استارتاپ هوشواره به نام هاگینگ فِیس (Hugging Face) نفوذ کردند که تا چند هفته بعد، زمانی که هاگینگ فیس به اوپنایای اطلاع داد، شناسایی نشده بود. از همان زمان، پژوهشگران هوشواره با هم مشورتهایی کردهاند تا دربارهٔ اقدامات لازم در این مورد بحث کنند.
روز سهشنبهٔ هفتهٔ گذشته جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، استعفا داد و یک رشته یادداشت در شبکههای اجتماعی منتشر کرد که نشان میداد آزمایشگاههای پیشرو هوشواره مسئولانه این فناوری را توسعه نمیدهند و با جان مردم قمار میکنند، که جنجالی به پا کرد. شماری دیگر از پژوهشگران هوشواره نیز از رهبران این شرکتها خواستهاند که در توسعهٔ هوشواره درنگ کنند، و برخی از آنها هم در حال تشکیل دادن گروههاییاند برای افزایش آگاهی دربارهٔ خطرهای هوشواره.
مدیران ارشد شرکتهای [غربی] هوشواره خودشان را برای روزی آماده میکنند که سیستم هوشواره بتواند به خودش برای پیشرفت خودش تکیه کند و نیازی به کمک پژوهشگران انسانی نداشته باشد. این پویایی، که دانشمندان علوم کامپیوتر آن را «خودبهبودی زنجیرهیی» مینامند، همان چیزی است که برخی سازندگان برتر هوشواره معتقدند ممکن است باعث شود نرمافزار از کنترل آنها خارج شود.
دکتر آمودی میگوید: «اگر [نرمافزار] کنترل نشود، ممکن است از توانایی ما برای درک و کنترل خود این سیستمها پیشی بگیرد؛ بنابراین، [توسعهٔ این فناوری] باید با دقت فراوان صورت بگیرد، اگر اصلاً قرار باشد صورت بگیرد.»
چند ساعت پس از انتشار مقالهٔ دکتر آمودی، سَم آلتمن [مدیرعامل اوپنایآی] یادداشتهایی در شبکههای اجتماعی منتشر کرد و تأیید کرد که کُند شدن توسعهٔ هوشواره ضروری است.
آقای آلتمن نوشت: «این موضوع اصلی بحثهایی بوده است که در هفتههای اخیر در اوپنایآی داشتیم… تعهد به داشتن ارزیابان مستقل که دسترسی مشابه با دسترسی کارکنان [به نرمافزار ما] داشته باشند فکر بسیار خوبی است و ما هم همین کار را خواهیم کرد. بهزودی مطالب بیشتری برای گفتن خواهیم داشت.»
ایلان ماسک هم در یادداشتی کوتاه در شبکهٔ اجتماعی ایکس (X) فقط نوشت: «داریو درست میگوید.»
شنبه شب گذشته، آقای حسابیس هم گفت که مقالهٔ دکتر آمودی گامی در مسیر درست است. حسابیس در شبکههای اجتماعی نوشت: «جزئیات نیاز به بررسی دارد، اما سمتگیری برای عبور از این لحظهٔ حساس درست است.»
سالهاست که بسیاری از بهترین آزمایشگاههای هوشواره در رقابتی شدید با یکدیگر بودهاند. اما با پیشرفت این سیستمها، توافق گستردهتری میان مدیران شرکتهای رقیب [غربی] وجود دارد که باید کاری کرد.
ماه گذشته، زمانی که اوپنایآی آمادهٔ عرضه کردن الگوی پیشرفتهٔ هوشواره به نام استرا (Astra) بود، اعلام کرد که سرعت توسعه را بهعمد کاهش داده و به پیشرفتهایی که در توانمندیهای امنیت سایبری به دست آمده اشاره کرد. در ماه ژوئیه، دمیس حسابیس، رئیس دیپمایندِ گوگل، یک چارچوب باز در مورد روشی امن برای توسعهٔ نسل بعدی هوشوارهها در همکاری با یکدیگر منتشر کرد.
در حوزهٔ توسعهٔ سیستمهای هوشواره قوانین اندکی وجود دارد، اگرچه ترامپ، رئیسجمهور آمریکا، در ماه ژوئن یک فرمان اجرایی امضا کرد و از آزمایشگاههای هوشواره خواست که الگوهایشان را داوطلبانه برای بررسی قبل از انتشار عمومی ارسال کنند.
دکتر آمودی در مقالهاش در روز شنبه اقداماتی را که این صنعت میتواند و ممکن است برای کُند کردن روند توسعهٔ هوشواره به کار گیرد پیشنهاد داد.
دکتر آمودی گفت که همهٔ آزمایشگاههای هوشواره میتوانند با ارزیابی شخص ثالث یا متخصصان بیرون از شرکت موافقت کنند که میتوانند بهترین شیوههای تأمین ایمنی را در شرکتها بررسی و تأیید کنند. او همچنین پیشنهاد کرد که کشورهایی با نظامهای حکمرانی دموکراتیک برای تدوین استانداردهای ایمنی همکاری و هماهنگی کنند، که میتواند به شکل مقررات نظارتی درآید.
او افزود که احتمالاً به تلاش جهانی با همکاری کشورهای دیگر، از جمله کشورهای اقتدارگرا، برای هماهنگی صحیح کاهش سرعت نیاز است.
اما همه در سیلیکون وَلی باور ندارند که نیت دکتر آمودی صرفاً نوعدوستانه است. برخی منتقدان گفتهاند که آنتروپیک و اوپنایآی برای تثبیت جایگاهشان در رهبری بازار هوشواره از راه ایجاد ترس، و درخواست از دولت فدرال برای ایجاد چارچوبهای مقرراتی تلاش میکنند که رقابت شرکتهای کوچکتر با آنها دشوارتر شود.
جنسن هوانگ، مدیرعامل شرکت انویدیا که سازندهٔ تراشههای مورد نیاز هوشواره است، در یک همایش فناوری در سان فرانسیسکو که هفتهٔ گذشته برگزار شد گفت که آزمایشگاههای هوشواره دارند نگرانیهای امنیتی را بزرگ میکنند، زیرا میخواهند محصولات جدید امنیت سایبری را به بازار بیاورند.
هوانگ در این رویداد گفت: «برای ایجاد تقاضا چه راهی بهتر از ایجاد مشکل؟» او افزود: «کیست که نخواهد بازارش برای محصولاتش داغ نشود و برای آن صف نکشند؟»
روز شنبه، اندکی پس از انتشار مقالهٔ دکتر آمودی، کلمنت دلانگو، مدیرعامل شرکت هاگینگ فیس (Hugging Face)، در یادداشتی در شبکههای اجتماعی نوشت که ضروری است مسائل ایمنی هوشواره «پشت درهای بستهٔ چند آزمایشگاه پیشگام حل نشود.» گفتنی است که انویدیا موافقت کرده است که شرکت هاگینگ فیس را به مبلغ ۱۲٫۹میلیارد دلار بخرد.
دکتر آمودی در مقالهاش تأکید کرده است که هنوز بر این نظر است که هوشواره میتواند «مزایای شگفتانگیزی» برای جامعهٔ بشری به ارمغان بیاورد، از جمله درمان بیماریها و تسریع رشد اقتصادی. اما با این حال، او گفت که خطر هوشواره بهقدری زیاد است که باید با نهایت احتیاط پیش رفت.
دکتر آمودی نوشت: «اقداماتی که من برای پیشبرد پیشگامترین پیشرفتها با سرعت ایمن پیشنهاد میکنم آسان نخواهد بود. اما باور دارم که در مقابل جامعهٔ بشری این وظیفه را داریم که تلاش کنیم.»