تصویر گرافیکی از Dalbert B. Vilarino.
نوشتهٔ کریس استوکل-واکر در نشریهٔ علمی نیچر
ترجمهٔ ف. کنجکاو
یکشنبه ۱۰ خرداد ۱۴۰۵
وقتی شرکتهای هوش مصنوعی مدلهایی میسازند که معتقدند نباید در اختیار عموم قرار بگیرند، چه وضعی پیش میآید؟ و کاربران و دولتها چگونه باید به این وضع واکنش نشان دهند؟
شرکت هوش مصنوعی آنتروپیک (Anthropic) در ماه آوریل اعلام کرد مدلی ساخته که به گفتهٔ این شرکت برای دسترسی عمومی بیش از حد خطرناک است. این شرکت مستقر در سان فرانسیسکو اعلام کرد مدل کلاد میتووس «Claude Mythos» بهقدری قدرتمند است که توانسته در بسیاری از سیستمعاملها و مرورگرهای رایج آسیبپذیریهای امنیتی پیدا کند. آنتروپیک در یادداشتی وبلاگی دربارهٔ پروژهٔ «Glasswing»- نام برنامهای که برای انتشار محدود این مدل در میان حدود ۵۰ سازمان مورد اعتماد انتخاب شده است- نوشت: « پیامدهای این فناوری برای اقتصاد، امنیت عمومی، و امنیت ملی میتواند بسیار سنگین باشد.»
کارشناسان معتقدند این تصمیم میتواند نشانهٔ آغاز دورهای از توسعهٔ مخفیانهتر و محدودتر در حوزهٔ هوش مصنوعی پیشرفته باشد. هلن تونر (Helen Toner)، مدیر اجرایی موقت مرکز امنیت و فناوریهای نوظهور دانشگاه جورج تاون در واشنگتن دیسی، میگوید اقدامی که آنتروپیک برای محدود کردن دسترسی به میتوس (Mythos) کرده است احتمالاً الگویی برای دیگر آزمایشگاههای هوش مصنوعی خواهد شد. تونر که پیشتر عضو هیئتمدیرهٔ اوپناِیآی (OpenAI) نیز بوده است، میگوید: «فکر میکنم این تازه اولین نمونه از مجموعهای از موارد مشابه باشد، نه موردی استثنایی.»
واسیلیوس ماورودیس (Vasilios Mavroudis)، پژوهشگر ایمنی هوش مصنوعی در مؤسسهٔ آلن تورینگ لندن، نیز با این ارزیابی موافق است. او میگوید: «پیشبینی میکنم شرکتهای دیگر هم رویکرد مشابهی در پیش بگیرند.» فقط یک هفته پس از معرفی میتوس، شرکت اوپناِیآی هم نسخهای محدود از مدل امنیت سایبریاش با نام GPT-5.4-Cyber را صرفاً در اختیار پژوهشگران و سازمانهای تأییدشده قرار داد.
اگر چنین مدلهایی به بخشی از جریان اصلی این صنعت تبدیل شوند، این روند میتواند نقطهعطفی در بحث قدیمی هوش مصنوعی «باز» و «بسته» باشد که پیامدهای مهمی برای آیندهٔ علم نیز خواهد داشت. سالهاست که پژوهشگران تأکید میکنند که شفافیت در طراحی و تولید مدلهای هوش مصنوعی به نفع کل جامعهٔ علمی است، زیرا امکان مطالعه، بازتولید، و توسعهٔ الگوریتمها را برای دیگر محققان فراهم میکند.
اما اکنون این احتمال وجود دارد که شرکتهای سازندهٔ مدلهای بسیار پیشرفته اساساً آنها را در اختیار عموم قرار ندهند. اگر دولتها نیز به این نتیجه برسند که هوش مصنوعی پیشرفته فناوری دومنظوره یا «دوکاربردی» است- یعنی هم کاربرد نظامی دارد و هم غیرنظامی- ممکن است محدودیتهایی مشابه با محدودیتهای فناوریهای نظامی بر آن اعمال کنند. تونر میگوید در چنین روندی تعیین میشود که چه کسانی اجازهٔ استفاده از قدرتمندترین ابزارهای هوش مصنوعی را داشته باشند.
چرا دسترسی محدود میشود؟
شرکتها پیش از این نیز تلاش کردهاند دسترسی به مدلهایشان را کنترل کنند. شرکت اوپناِیآی در فوریه ۲۰۱۹ نسخهای محدود از مدلGPT-2 را منتشر کرد و با اشاره به نگرانیهای مربوط به سوءاستفاده از آن، دسترسی کامل به آن را چند ماه به تعویق انداخت. البته با توجه به استانداردهای امروز، GPT-2 مدل نسبتاً سادهای بود که بیشتر فقط توانایی تکمیل جملهها را داشت.
برای پژوهشگرانی که به میتوس دسترسی ندارند ارزیابی دقیق میزان خطر این مدل آسان نیست. با این حال، سیاران مارتین (Ciaran Martin)، پژوهشگر مدیریت در دانشگاه آکسفورد و مدیر پیشین مرکز ملی امنیت سایبری بریتانیا، میگوید میتوس به نظر میرسد نشانهای از «شتاب بسیار زیاد تواناییهای هوش مصنوعی» و «مسئلهای جدّی» باشد.
آزمایشگاههای هوش مصنوعی همین حالا هم تلاش میکنند با استفاده از «محافظهای امنیتی» از سوءاستفاده از مدلهایشان جلوگیری کنند، معمولاً از طریق محدود کردن پاسخ به درخواستهایی که خطرناک تشخیص داده میشوند. اما این محدودیتها اغلب چیزی جز مجموعهای از دستورالعملهای پنهان نیستند که به سیستم داده شدهاند و اگر کاربران بخواهند، معمولاً میتوانند آنها را دور بزنند.
ماورودیس میگوید خطر دسترسی عمومی به میتوس این است که چنین ابزاری میتواند همزمان به مدافعان و مهاجمان سایبری کمک کند. او توضیح میدهد: «مدافعان امنیتی میتوانند از این ابزارها برای پیدا کردن ضعفهای نرمافزاری استفاده کنند، اما مهاجمان هم دقیقاً قادر به انجام همین کارند.» به همین دلیل، آنتروپیک فعلاً تصمیم گرفته است این فناوری را نخست در اختیار نهادهای منتخب قرار دهد. با این حال، گزارشهایی منتشر شده است که نشان میدهد برخی افراد پیشتر دسترسی غیرمجاز به میتوس پیدا کردهاند.
آنتروپیک اعلام کرده که «هدف نهایی»اش فراهم کردن امکان «استقرار ایمن مدلهای کلاس میتوس در مقیاس گسترده» است، اما به پرسش مجلهٔ نیچر دربارهٔ اینکه آیا این هدف شامل دسترسی عمومی نیز میشود یا نه پاسخی نداده است.
اوپناِیآی نیز موضعی مشابه دارد. این شرکت هنگام معرفی GPT-5.4-Cyber و مدل تکمیلی GPT-5.5-Cyber اعلام کرد که فعلاً «کار را با دسترسی محدود آغاز کرده است.» اوپناِیآی بعداً محصول امنیت سایبری دیگری به نام دیپبرک (Daybreak) را نیز بر پایهٔ همین مدلها معرفی کرد. با این حال، در حال حاضر این مدلها فقط در اختیار کاربران تأییدشده قرار دارند.
سخنگوی اوپناِیآی در پاسخ به این سؤال که آیا این مدلها روزی به عموم عرضه خواهند شد، به بخشی از یادداشت وبلاگی این شرکت اشاره کرد که میگوید «گسترش مسئولانهٔ دسترسی مستلزم اطمینان یافتن بیشتر دربارهٔ هویت کاربران، هدفهای استفاده، و مجاز بودن فعالیتهاست.» با این حال، این شرکت تأکید کرده است که پیشبینی میکند میزان دسترسی به مرور زمان افزایش پیدا کند.
آیا این محدودیتها گریبان علم را هم خواهد گرفت؟
نگرانی شرکتها فقط به امنیت سایبری محدود نمیشود. برخی شرکتهایی که مدلهای تخصصی برای پژوهشهای زیستی طراحی و تولید میکنند نیز هشدار دادهاند که چنین ابزارهایی ممکن است در ساختن سلاحهای بیولوژیک مورد سوءاستفاده قرار گیرند.
اوپناِیآی در ماه آوریل مدل GPT-Rosalind را که برای پژوهشگران علوم زیستی طراحی شده بود معرفی کرد و اعلام کرد این مدل از طریق ساختاری مبتنی بر «دسترسی قابل اعتماد» عرضه خواهد شد، به این معنا که فقط کاربران تأییدشده امکان استفاده از آن را خواهند داشت. یونیون وانگ، مدیر محصولات علوم زیستی این شرکت، به نشریهٔ نیچر گفت این شرکت نحوهٔ استفادهٔ کاربران از مدل را نیز زیر نظر خواهد گرفت.
سال گذشته نیز گوگل سامانهای برای همکاری میان دانشمندان و سیستمهای هوش مصنوعی راهاندازی کرد که دسترسی به آن فقط از طریق ثبت درخواست و تأیید پژوهشگران ممکن است. اگر چنین روندی ادامه پیدا کند، ممکن است در آینده فقط پژوهشگرانی که به شبکههای ارتباطی قوی یا منابع مالی کافی دسترسی دارند بتوانند از پیشرفتهترین ابزارهای هوش مصنوعی استفاده کنند.
پژوهشگران از همین حالا هم نگراناند که افزایش هزینهٔ اشتراک مدلهای پیشرفتهٔ هوش مصنوعی باعث تعمیق شکاف نابرابری در این حوزه شود، بهطوری که برخی گروهها دیگر توان پرداخت هزینهٔ دسترسی به ابزارهای پیشرفتهتر را نداشته باشند.