یکشنبه ۲۵ مرداد ۱۴۰۵
پژوهش جدیدی که در مجلهٔ ساینس ادوَنسِز (Science Advances) منتشر شده نشان میدهد گروههای بزرگی از عاملهای هوشواره (AI Agenst) ممکن است بدون رهبر، پاداش، دستور همکاری، یا حتی هدف مشترک بهطور خودجوش به انتخابی واحد برسند.
پژوهشگران برای بررسی این پدیده گروههایی متشکل از عاملهای (Agents) مبتنی بر ۱۰ الگوی زبانی از خانوادههای جیپیتی (GPT)، کلاود (Claude)، و لاما (Llama) ساختند. هر عامل در ابتدا یکی از دو گزینهٔ کاملا تصادفی و بیمعنا را انتخاب میکرد. سپس در هر مرحله انتخاب سایر عاملها را میدید و دوباره تصمیم میگرفت. هیچکدام از عاملها حافظهای از مراحل قبلی نداشتند و در دستورالعمل آنها نیز توصیهای برای پیروی از اکثریت یا رسیدن به توافق وجود نداشت.
با این حال، در بیشتر الگوهای زبانی عاملها بهتدریج بهسمت گزینهای متمایل شدند که در میان گروه محبوبتر بود. اختلافهای کوچک اولیه میتوانست در چند مرحله تقویت شود و در نهایت کل گروه را به انتخابی مشترک برساند.
پژوهشگران این گرایش را با کمیتی به نام نیروی اکثریت (Majority Force) توصیف کردند که نشان میدهد یک عامل تا چه اندازه تحت تأثیر گزینهٔ غالب در گروه قرار میگیرد. نکتهٔ جالب این است که رفتار جمعی مشاهدهشده با یک الگوی ریاضی شناختهشده در فیزیک، یعنی الگوی توصیفکنندهٔ همراستاشدن چرخشهای (اسپینهای) اتمی در فرومغناطیس شباهت دارد.
این الگوی ریاضی به پژوهشگران امکان داد تخمین بزنند یک گروه تا چه اندازه میتواند پیش از فروپاشی اجماع بزرگ شود. این ظرفیت میان مدلها تفاوت چشمگیری داشت: برای Llama 3 70B حدود ۳۰ عامل و برای GPT-4 حدود ۸۰ عامل برآورد شد. ظرفیت GPT-4 Turbo حدود ۱۰۰۰ عامل یا حتی بیشتر تخمین زده شد. الگوی Claude 3.5 Sonnet نیز در بزرگترین آزمایش، یعنی گروهی متشکل از ۱۰۰۰ عامل، همچنان توانست اجماعش را حفظ کند؛ البته این به معنای نامحدود بودن ظرفیت آن نیست، زیرا آزمایش از این اندازه فراتر نرفت.
الگوهای توانمندتر عموماً میتوانستند اجماع را در گروههای بزرگتری حفظ کنند، حتی در اندازههایی بزرگتر از عدد مشهور دانبار که معمولاً برای ظرفیت شبکههای اجتماعی پایدار انسانی حدود ۱۵۰ تا ۳۰۰ نفر گفته میشود. با این حال، مقایسهٔ مستقیم میان انسان و عاملهای هوشواره (هوش مصنوعی) گمراهکننده است.
انسانها برای همکاری از روابط اجتماعی، زبان، نهادها، هدفهای مشترک، و اطلاعات پیچیده استفاده میکنند، در حالی که در این آزمایش فقط یک مسئلهٔ بسیار ساده و انتزاعی بررسی میشد.
بنابراین، این پژوهش نشان نمیدهد که عاملهای هوشواره (AI Agents) واقعاً یکدیگر را درک کردهاند یا دارای هوش اجتماعی شدهاند. آنچه مشاهده شده شکل بسیار ابتداییتری از رفتار جمعی است: تمایل سیستمهای منفرد به حرکت بهسمت انتخاب غالب، صرفاً بر اساس مشاهده کردن رفتار دیگر اعضای گروه.
اهمیت این یافته دقیقاً در همین نکته است. اگر هزاران عامل هوشواره در آینده در یک سیستم مشترک فعالیت کنند، ممکن است رفتارهایی در جمع پدیدار شود که از بررسی تکتک عاملها قابل پیشبینی نباشد. این قابلیت میتواند بسیار مفید باشد. برای مثال، مجموعهٔ بزرگی از عاملها شاید بتواند بدون مدیریت دائمی انسان بخشهای گوناگون یک پروژهٔ علمی، مهندسی، یا نرمافزاری را هماهنگ کند.
اما همین سازوکار ممکن است به یک آسیبپذیری جدّی تبدیل شود.
اگر یک تصمیم ضعیف یا ناکارآمد به انتخاب غالب تبدیل شود، عاملهای دیگر ممکن است صرفاً بهدلیل رایج بودن آن تصمیم از آن پیروی کنند. برای نمونه، در یک پروژهٔ نرمافزاری ممکن است یک روش ناکارآمد در کُد به هنجار غالب تبدیل شود و عاملهای بعدی نیز همان روش را تکرار کنند، نه به این دلیل که بهترین راهحل است، بلکه چون اکثریت قبلاً آن را انتخاب کردهاند.
پژوهشگران همچنین به پدیدهای مهمتر اشاره میکنند: یک گروه از عاملهایی که تکتک از نظر ایمنی قابل قبول به نظر میرسند لزوماً در تعامل با یکدیگر رفتاری ایمن نخواهند داشت. در برخی از پژوهشهای مرتبط حتی نشان داده شده است که عاملهای منفرد همراستا با هدفهای تعیینشده ممکن است در اثر همنوایی به وضعیتهایی برسند که نتیجهٔ جمعی آنها با هدف مطلوب ناسازگار باشد.
به بیان ساده، مسئلهٔ آیندهٔ هوشواره (هوش مصنوعی) ممکن است فقط این نباشد که «هر عامل بهتنهایی چقدر باهوش و ایمن است؟»، بلکه این پرسش نیز اهمیت پیدا میکند که «وقتی هزاران عامل با یکدیگر تعامل میکنند، چه رفتاری در سطح کل سیستم پدیدار میشود؟»
این پژوهش هنوز بسیار ابتدایی است و نباید آن را به معنای ظهور «جامعهٔ هوشواره» یا «هوش جمعی واقعی» تفسیر کرد. آزمایش فاقد حافظه، پاداش، هدف مشترک، اطلاعات نامتقارن، و پیامدهای واقعی بود. اما نشان میدهد حتی یک سازوکار بسیار ساده مانند تأثیرپذیری از انتخاب اکثریت میتواند در مقیاس بزرگ به پدیدهٔ جمعی قابل توجهی تبدیل شود.
نکته اصلی پژوهش این است که رفتار جمعی عاملهای هوشواره ممکن است ویژگیهایی داشته باشد که در هیچیک از عاملها بهتنهایی دیده نمیشود؛ بنابراین، ارزیابی ایمنی و توانایی هوشواره (AI) در آینده باید علاوه بر عاملها و الگوهای منفرد، تعامل میان تعداد زیادی عامل را نیز بررسی کند.
برگرفته از کانال علمی افق رویداد