الف. هوش‌یار
یکشنبه ۲۶ مهر ۱۴۰۵
چکیده
یووال نوح هراری نویسندهٔ کتاب‌های بسیار پُرفروش و بحث برانگیزی است. او بارها در مورد هوش مصنوعی نوشته و سخنرانی کرده و در این عرصه فردی صاحب‌نظر است. اخیراً نیز در آکسفورد در مورد هوش مصنوعی سخنرانی کرده که نوشته‌ای که در ادامه می‌خوانید در واقع تلاشی در نقد بخشی از نظرهای او در این باره است. در سراسر این نوشته ترجیحم این بوده که به‌جای «هوش مصنوعی» از واژهٔ «هوشواره» استفاده کنم و این واژه را دقیقاً به همان معنی و کاربرد به کار گرفته‌ام.
یووال نوح هراری سخنران فوق‌العاده‌ای است و خوب می‌داند چگونه موضوعی پیچیده را به زبان ساده و قابل فهم ارائه کند. او در سخنرانی آکسفورد دربارهٔ «هوشواره» (هوش مصنوعی، AI) می‌تواند از دستگاه قهوه‌ساز به نظام مالی برسد، از زبان به بوروکراسی، و از بوروکراسی به آیندهٔ تمدن. مثال‌هایش به یاد می‌ماند و استعاره‌هایش به اندیشه حرکت می‌دهد. همین توانایی او نقد سخنانش را ضروری‌تر می‌کند. استعاره‌ای که چیزی را به‌خوبی نشان می‌دهد ممکن است چیز دیگری را از چشم پنهان کند.
هراری تحول بزرگی را که هوشواره‌ها به وجود آورده‌اند می‌بیند: سامانه‌هایی که دیگر فقط فرمان‌های جزئی ما را اجرا نمی‌کنند، بلکه می‌توانند در محدودهٔ فعالیتشان تصمیم بگیرند، راه‌حل پیدا کنند، و نتایجی به وجود آورند که سازندگانشان از پیش تعیین نکرده‌اند. قدرت آنها را باید جدّی گرفت. اما انسان‌هایی را که با آنها زندگی خواهند کرد نیز باید جدّی گرفت.
مسئلهٔ اصلی من با روایت هراری همین است. هوشواره در سخنان او پیوسته رشد می‌کند، یاد می‌گیرد، و قدرت می‌گیرد. و انسان بیشتر در جایگاه کسی ظاهر می‌شود که این تغییرات بر سرش می‌آید. هراری دگرگونی انسان را انکار نمی‌کند، اما سهم انسان‌ها در ساختن، تغییر مسیر، و حتی بر هم زدن این آینده در نگاه اول، در مقایسه با قدرت هوشواره، کم‌رنگ می‌ماند.
آیا داریم هوشوارهٔ فردا را با انسانِ دیروز مقایسه می‌کنیم؟
هراری در مورد هوشواره می‌گوید: «ابزاری در دست ما نیست؛ عاملی است که دست‌های خودش را دارد.» و با این جملهٔ کوتاه و مؤثر تفاوت سامانهٔ تصمیم‌گیر با چکش یا ماشین‌حساب را به‌سرعت منتقل می‌کند. اما این دست‌ها کجا هستند؟ از چه ساخته شده‌اند؟ چه چیزی امکان حرکتشان را فراهم می‌کند؟
هوشواره درون مجموعه‌ای از تجهیزات، انرژی، داده، نیروی کار، دانش مهندسی، سرمایه، سازمان، و روابط اجتماعی عمل می‌کند. حتی نسخه‌ای که روی یک دستگاه دیجیتال شخصی اجرا می‌شود محصول تاریخی همکاری و تقسیم کار است. هوشوارهٔ مستقر در بانک، بیمارستان، یا کارخانه نیز در درون ترتیبات مشخصی قدرت پیدا می‌کند: کسانی به آن دسترسی می‌دهند، تصمیمش را معتبر می‌شمارند، و خروجی‌اش را به عمل تبدیل می‌کنند.
این وابستگی عاملیت هوشواره را باطل نمی‌کند. هراری درست می‌گوید که انسان هم به محیطی وابسته است که خودش به‌تنهایی نساخته. اما از این شباهت نمی‌توان تفاوت شکل‌های وابستگی را کنار گذاشت. مالکیت زیرساخت، سازمان نگهداری، امکان تغییر دادن سامانه، و اختیار اجرای تصمیم‌ها جزئیات حاشیه‌یی نیستند و در چگونگی پیدایش و اِعمال قدرت دخالت دارند.
در عین حال، ساخته شدن سامانه به دست انسان هم تضمین نمی‌کند که همهٔ رفتارهایش قابل پیش‌بینی یا کنترل باشد. بحث بر سر انکار خطر نیست. بحث بر سر شناختن جایی است که خطر و قدرت در آن شکل می‌گیرد.
شاید برای توضیح دادن ماهیت پدیده‌ای به نام «هوشواره» هنوز واژهٔ مناسبی نداشته باشیم. «ابزار» بخشی از آن را توضیح می‌دهد، «عامل» بخشی دیگر را. «شبه‌عامل» نیز ممکن است چنین القا کند که با نسخه‌ای ناقص از عاملیت انسانی روبه‌رو هستیم.
چه‌بسا مسئله پدیدار شدن نوعی دیگر از عاملیت باشد: عاملیتی برآمده در شبکه‌ای انسانی و فنی، با توانایی‌ها و محدودیت‌های خاص خودش. از این رو، تصویر یک کارگاه شبکه‌یی زاینده شاید از بعضی جنبه‌ها کمک کند، کارگاهی که در آن انسان‌ها و سامانه‌ها راه‌حل‌هایی پدید می‌آورند که از پیش جزءبه‌جزء معلوم نیستند. البته این تصویر هم کامل نیست. بهتر است نارسایی استعارهٔ خودمان را بپذیریم تا این که به کمک استعاره‌ای درخشان استقلالی به پدیده بدهیم که هنوز باید حدودش را توضیح دهیم.
پلتفرم‌های شبکه‌یی مثالی برای درک تحول پیش رو
هراری دربارهٔ شبکه‌های اجتماعی می‌گوید که آنها را الگوریتم‌ها اداره می‌کنند. سپس توضیح می‌دهد که شرکت‌ها هدف افزایش تعامل کاربران را به این الگوریتم‌ها داده‌اند. همین توضیح نشان می‌دهد که «اداره کردن» کار واحد و یکسانی نیست. تعیین هدف اقتصادی، طراحی سامانه، انتخاب محتوا، وضع مقررات، و استفادهٔ مردم فعالیت‌های متفاوتی‌اند که در ادارهٔ امور بر یکدیگر اثر می‌گذارند.
قدرت الگوریتم در هدایت توجه واقعی است. اما آیا زندگی اجتماعی شکل‌گرفته در این شبکه‌ها صرفاً اجرای برنامهٔ شرکت‌ها بوده است؟
مردم از همین فضاها برای آموختن، پیدا کردن یکدیگر، ساختن همبستگی، اطلاع‌رسانی، و سازمان دادن به اعتراض استفاده کرده‌اند. کاربرد فناوری را نمی‌توان فقط از قصد سازندگانش استخراج کرد. کاربران می‌توانند امکاناتش را به مسیرهایی ببرند که برای آنها طراحی نشده است، حتی هنگامی که با محدودیت، حذف، و مسدود شدن مواجه‌اند.
این به معنای پیروزی همیشگی کاربران نیست. کنشگری ممکن است به پلتفرم وابسته بماند، به درآمدش کمک کند، و زیر نظارتش قرار بگیرد. اما همین رابطهٔ متعارض نشان می‌دهد که جامعه صحنهٔ اجرای برنامهٔ ازپیش‌نوشته‌ای نیست. نتیجه از برخورد قدرت‌ها و ابتکارهای متفاوت پدید می‌آید.
در روایت آیندهٔ هوشواره نیز باید همین رابطهٔ متقابل را دید. مردم فقط با سامانه‌های تازه سازگار نمی‌شوند، بلکه ممکن است کاربردشان را تغییر دهند، نهادهای دیگری بسازند، و بر سر مالکیت و اختیارشان مبارزه کنند. گاه نیز خودِ قواعد بازی را دگرگون می‌کنند.
انسان کنشگر
کنشگری انسان را نباید به انتخاب کردن میان محصولات یا اعتراض به این یا آن تصمیم محدود کرد. کنشگری تاریخ، انقلاب، و دگرگونی بنیادی مناسبات اجتماعی را هم در خودش دارد. انقلاب فرانسه صرفاً مجموعه‌ای از انتخاب‌های تازه در درون نظمی ثابت نبود، بلکه خودِ نظم و معیارهای مشروعیت را به چالش کشید.
اگر آینده‌ای را تصور کنیم که در آن قدرت و ثروت به‌شدت متمرکز می‌شود و جمعیت بزرگی امنیت زندگی و امکان اثرگذاری‌اش را از دست می‌دهد، نمی‌توانیم صاحبان قدرت را فعال و دیگران را تا پایان منفعل فرض کنیم. چنین شرایطی می تواند به احتمال قوی صورت‌های گسترده و پیش‌بینی‌نشده‌ای از سازمان‌یابی و مقاومت ایجاد کند و به تحولاتی تاریخی بینجامد.
هیچ تضمینی نیست که این واکنش‌ها پیروز، دموکراتیک، یا رهایی‌بخش باشند. اما حذف کردن امکان آن نیز تحلیلی واقع‌بینانه نیست. اگر آیندهٔ قدرت‌گیری هوشواره باز است، آیندهٔ قدرت جمعی انسان‌ها هم باز است.
گاوها و مرغ‌ها
یکی از گویاترین لحظه‌های سخنرانی هراری، که عمق دیدگاهش در این موضوع را در برابر ما می گذارد، جایی است که هراری می‌گوید همان‌طور که گاوها و مرغ‌ها نظام مالی انسانی حاکم بر زندگی‌شان را نمی‌فهمند، ما نیز ممکن است زیر سلطهٔ نظام مالی هوشواره‌ای قرار بگیریم که درکش نمی‌کنیم.
هشدار او دربارهٔ پیچیدگی و شکست خوردن نظارت انسان‌ها در برابر بوروکراسی‌های حاکم مهم است. اما این تشبیه فاصله‌ای را در ذهن می‌سازد که ظاهراً عبورناپذیر است. انسان در جایگاه موجودی قرار می‌گیرد که سازوکار حاکم بر زندگی‌اش اساساً بیرون از دسترس اوست.
در این تصویر، میان ناتوانی فرد و ناتوانی جامعهٔ انسانی فاصله‌ای باقی نمی‌ماند. حال آنکه هیچ‌کدام از ما به‌تنهایی همهٔ سازوکارهای جامعهٔ کنونی را نمی‌فهمیم. شناخت ما از همکاری افراد، تقسیم کار، نهادهای پژوهشی، ابزارهای سنجش، و امکان نقد ساخته می‌شود. برای اعمال نظارت بر این یا آن نظام نیز لازم نیست هر شهروند تمام جزئیات آن را در ذهنش داشته باشد، ولی لازم است سازوکارهای مؤثر شناخت، پاسخ‌گویی، و مداخله وجود داشته باشد.
هوشواره‌ها می‌توانند پیچیدگی نظام‌ها را افزایش دهند. همچنین می‌توانند در فهمیدن و بررسی و آشکار کردن همان پیچیدگی به کار گرفته شوند. اینکه کدام مسیر غالب شود به دسترسی، معماری، و روابط قدرت بستگی دارد. نمی‌توان نقش آنها را در ساختن مسئله دید و امکان استفاده کردن از آنها برای شناختن مسئله را از تصویر حذف کرد.
من این نکته را فقط به‌صورت فرضی مطرح نمی‌کنم. به‌عنوان یک انسان و کاربر مدت‌هاست با هوشواره کار می‌کنم و مقاله مینویسم. رشد شتابانش حقیقتاً حیرت‌انگیز است. اما خودم هم انسان دو سال پیش نیستم. در این رابطه، سوادم افزایش یافته، توان پرسیدن، مقایسه کردن، دنبال کردن موضوع، و بازبینی اندیشه‌ام تغییر کرده، و چندجانبه‌نگرتر شده‌ام. این نیست که فقط به پاسخ‌های بیشتری دسترسی پیدا کرده‌ام، بلکه در ضمن احساس می‌کنم توان ذهنی‌ام در حال گسترش است.
این تجربهٔ فردی ثابت نمی‌کند که همهٔ استفاده‌ها چنین نتیجه‌ای دارند. وابستگی، سطحی شدن، و واگذاری بی‌تأمل داوری به هوشواره هم ممکن است. اما تجربهٔ من نشان می‌دهد که تحلیل باید دگرگونی هر دو سوی رابطه را ببیند. انسانی که با هوشواره کار می‌کند الزوماً انسانی ثابت با دستیاری همیشه نیرومندتر نیست.
تصویر انسان غول‌شده در کتاب «چگونه انسان غول شد» اثر معروف میخائیل ایلین (M. Ilin) و النا سگال (Elena Segal) با ترجمهٔ فارسی زنده‌یاد فریدون شایان را به یاد دارید؟ کتاب با این جملهٔ معروف شروع می‌شود:
«روزگاری بود که انسان غول نبود، موجودی بینوا بود. خداوندِ جهان پیرامون خودش نبود، بندهٔ فرمانبردار آن بود، و همچون ددان و پرندگان جنگل فاقد توانایی و آزادی بود.» اما رشد کرد و رشد کرد و رشد کرد و به غولی تبدیل شد.
توان انسان در اندازهٔ بدن یا ظرفیت ذهن منفردش خلاصه نمی‌شود. زبان، همکاری، ابزار، و دانش انباشته میدان عمل انسان را گسترش می‌دهد. هوشواره‌ها نیز می‌توانند در شکل‌گیری سطح تازه‌ای از این توانایی مشارکت کنند.
غول واقعی آینده شاید همین انسان اجتماعی باشد که هنوز تمام صورت‌های ممکن دانایی و پراتیک اجتماعی‌اش پدید نیامده است. البته افزایش توان جمعی خودبه‌خود به معنای برخورداری برابر همگان نیست. اینکه چه کسانی از این ظرفیت بهره ببرند خودش یکی از مهم‌ترین موضوع‌های سیاست خواهد بود.
زبان، قانون، و حقوق
هراری در بخش دیگری می‌گوید: «هر آنچه از کلمات ساخته شده باشد به تصرف هوشواره درخواهد آمد.» اینجا نیز استعارهٔ به‌کاررفته سریع‌تر از استدلال گوینده حرکت می‌کند.
قانون با کلمات نوشته می‌شود، اما قدرت قانون فقط از کلمات نمی‌آید. دادگاه، دستگاه اجرایی، مناسبات مالکیت، پذیرش اجتماعی، و امکان مقاومت در عملکرد قانون دخالت دارد. پول نیز صرفاً مجموعه‌ای از نشانه‌ها نیست، و به تولید، تعهد، نهاد، و روابط قدرت متصل است.
برتری در پردازش زبان می‌تواند قدرت بزرگی ایجاد کند، اما گذار از این برتری و کسب تسلط بر جامعه نیازمند توضیح عمیق‌تر است. چه کسانی به سامانهٔ هوشواره اختیار می‌دهند؟ چه نهادی تصمیمش را اجرا می‌کند؟ چه کسی می‌تواند اعتراض کند؟ چه کسی حق تغییر دادن قواعد را دارد؟
جامعه مانند صفحهٔ شطرنج نیست که قواعد بازی و تعریف پیروزی در آن ثابت باشد. انسان‌ها بر سر خود قواعد و هدف‌ها نیز کشمکش می‌کنند. از توانایی بازی کردن در درون نظام نمی‌توان مستقیماً توانایی تعیین سرنوشت نظام را نتیجه گرفت.
هوشواره‌ها همچون مهاجران خارجی
استعارهٔ «مهاجران هوشواره» هم مسئلهٔ مشابهی دارد. هوشواره‌ها در این تصویر مانند افرادی تازه‌وارد ظاهر می‌شوند که وارد اجتماع می شوند، شغلها را می‌گیرند، و فرهنگ را تغییر می‌دهند. هراری دربارهٔ تعمیم این ادعا به مهاجران انسانی احتیاط می‌کند، اما همچنان از بار عاطفی تصویر «تازه‌واردانی که شغلها را از دست ساکنان خارج می‌کنند» بهره می‌برد. این تصویر بی‌طرف نیست و به‌سادگی می‌تواند چارچوب مهاجرهراسانه را عادی کند و نقش رکود، سیاست اقتصادی، خودکارسازی (اتوماسیون) و مناسبات کار را در افزایش میزان بیکاری عقب براند.
در مورد هوشواره نیز این استعاره تصمیم شرکت‌ها و دولت‌ها به استقرار سامانه‌ها را شبیه به ورود جمعیتی مستقل نشان می‌دهد. آنچه نیازمند بررسی است فقط رفتار این «تازه‌واردها» نیست، بلکه تصمیم‌ها و منافعی است که به آنها جایگاه و اختیار می‌دهد.
هوشواره و قدرت
خودِ هراری احتمال وفاداری هوشواره‌ها به شرکت‌ها و دولت‌های دیگر را مطرح می‌کند. پس مسئلهٔ مالکیت از سخنانش غایب نیست. اما این مسئله باید در مرکز تحلیل قرار بگیرد. «انسان‌ها» به‌صورت یکپارچه در یک طرف نمی‌ایستند. قدرت‌گرفتن گروهی از انسان‌ها از طریق هوشواره می‌تواند با کم‌قدرت شدن گروهی دیگر همراه شود. روایت رویارویی انسان و هوشواره اگر این تعارض را کم‌رنگ کند، مسئولیت‌های مشخص را پشت خطری عمومی پنهان خواهد کرد.
همین ملاحظه دربارهٔ تعبیر انسان‌ها به «موش‌های آزمایشگاهی» صدق می‌کند. افراد می‌توانند بدون اطلاع و اختیار کافی موضوع آزمایش‌های پلتفرمی قرار بگیرند؛ این هشدار بجاست. اما انسان در موضوع آزمایش بودن خلاصه نمی‌شود. او می‌تواند از موقعیتش آگاه شود، با دیگران ارتباط بگیرد، به چنین همکاری‌ای پشت کند، و شرایط آزمایش را تغییر دهد.
هر بار که مردم را صرفاً دریافت‌کنندهٔ تأثیرها ببینیم، امکان شگفت‌زده شدن از کنش آنها را از تحلیل حذف کرده‌ایم. سؤالی که مطرح می‌شود این است: چرا ظهور توانایی‌های پیش‌بینی‌نشده را برای هوشواره‌ها جدّی بگیریم، اما برای انسان‌های مرتبط با یکدیگر جدّی نگیریم؟
در پایان
هراری در پایان پیشنهاد می‌کند انسان‌ها «حقیقت فراتر از کلمات» را جست‌وجو کنند، یعنی خودشان را با افکاری که در ذهنشان می‌گذرد یکی ندانند، به‌ویژه هنگامی که هوشواره‌ها در شکل دادن به این افکار سهم دارند. این پیشنهاد می‌تواند برای استقلال فکری فرد ارزشمند باشد، اما پاسخی کافی به خطرهایی نیست که خودِ او شرح داده است. اگر سامانه‌ای دربارهٔ استخدام، دریافت وام، یا محکومیت قضایی ما تصمیم بگیرد، مسئله فقط این نیست که در ذهنمان چگونه با آن روبه‌رو شویم، بلکه باید بتوانیم دلایل تصمیم‌گیری را بدانیم، به آن اعتراض کنیم، و برای اصلاح تصمیم یا تغییر دادن قواعد حاکم بر سامانه اقدام کنیم. آزادی در چنین جهانی، علاوه بر پرورش آگاهی فردی، به حقوق و نهادهای پاسخ‌گو و قدرت کُنش جمعی نیاز دارد.
نقد روایت هراری دعوت به آسودگی خیال نیست. قدرت هوشواره‌ها می‌تواند شکل‌های تازه‌ای از سلطه ایجاد کند. اما برای شناختن و مقابله با این امکان باید تصویر کامل‌تری از انسان داشته باشیم.
انسان‌ها فقط کسانی نیستند که آینده بر سرشان آوار می شود، آنها در شرایطی نابرابر و محدودکننده در ساختن و بر هم زدن آن دخالت می‌کنند. هوشواره‌ها نیز می‌توانند جزئی از گسترش همین توان شناخت و کنش باشند، از جمله توان تغییر دادن مناسباتی که خودشان در درون آن ساخته و به کار گرفته می‌شوند.