نوشتهٔ آلن ف. بلکوِل (Alan F. Blackwell) (نقل از مجموعهٔ مقالههای کتابخانهٔ یادبود مارکس با عنوان Marx200، ۲۰۱۹) ترجمه و تدوین: حبیب مهرزاد – اختصاصی برای اندیشه نو
بسیاری از تحلیلگران و مفسرانِ مقولهٔ «کار» به تأثیر بالقوهٔ فنّاوریهای هوش مصنوعی بر اقتصاد قرن بیستویکم توجه داشتهاند و نسبت به آن ابراز نگرانی کردهاند. نگرانیای که اغلب ابراز میشود این احتمال است که بر اثر جایگزین شدن کارگران (نیروی کار انسانی) با ماشینهای مبتنی و متکی بر هوش مصنوعی، فرصتهای اشتغال مُزدی کاملاً از بین خواهد رفت. البته نگرانی دربارهٔ از دست رفتن شغلها، صرفنظر از خصوصیتهای ویژهٔ هوش مصنوعی، به طور کلی روایت آشنایی است. همهٔ پیشرفتهایی که از دورانهای پیش از تاریخ تا کنون در فنّاوری صورت گرفته، به تغییرهایی در کار انسانی منجر شده است.
کار انسانی همواره در واکنش به نوآوریهای فنّی دچار دگرگونی شده است، از جمله بر اثر نوآوریهای همین دورههای نسبتاً اخیر مانند تبادل یا تراکُنش بدون پول نقد (مثلاً استفاده از کارتهای اعتباری برای خرید یا تراکنش کارت-به-کارت)، مونتاژ قطعات به کمک روباتها، و خاکبَرداری با ماشینهای عظیم یا حملونقل فلّهیی، یا نوآوریهای دوران باستان مثل دستگاه مکانیکی برای نخریسی، درو و برداشت محصولات کشاورزی، شخمزنی خاک، و خرمنکوبی، یا نوآوریهای پیش از تاریخ، مانند ابزارهای چوبی و سنگی و آهنی.
در این مقاله به تکرار نگرانیهای معمول و همیشگی دربارهٔ مکانیکی شدن (مکانیزاسیون) و تغییر محیطکار نمیپردازیم. در عوض به این موضوع میپردازیم که هوش مصنوعی چه ویژگیهای خاصی دارد، و اینکه تغییرهای ناشی از کاربرد هوش مصنوعی باعث چه تغییرهایی میتواند بشود که فراتر از تکرار چگونگی اثرگذاری موجهای اوّلیهٔ مکانیکی شدن و خودکارسازی (اتوماسیون) از زمانهای پیش از تاریخ تا کنون است. این بحث به دو پدیده بستگی دارد که به نظر میآید در قرن بیستویکم پدیدههایی نو باشند. نخستین پدیده، سرشت ویژهٔ هوش مصنوعی در ارتباط آن با اندیشه و تخیّل انسان است. و پدیدهٔ دوّم، خصوصیتهای ویژهٔ اقتصاد قرن بیستویکم است که به فنّاوریهای اطلاعات (Information Technologies) مربوط میشود.
در ادامه، دربارهٔ هر یک از این موضوعها به نوبت بحث میکنیم تا تعریفهای پایهیی، و نیز نگرانیهای عمدهای را که از آنها ناشی میشود، معیّن کنیم. و در بخش نهایی این مقاله به پیامدهای انتزاع کارِ شناختی-فکری میپردازیم.
هوش مصنوعی چیست؟
نظرها و تفسیرهای عمومی دربارهٔ هوش مصنوعی طیف گستردهای از فعالیتهای فنّی و کسبوکاری-سوداگرانه را در هم میآمیزد که در آنها هیچ تعریف واحدی از هوش مصنوعی وجود ندارد که بتواند کل این طیف را بدون اشکال شامل شود. سه نوع تعریف رایج از هوش مصنوعی وجود دارد. من به هر سه تعریف میپردازم، و سپس تعریف چهارمی را مطرح میکنم که در بحثهای رایج زیاد دیده نمیشود، ولی با بحث ما به مناسبت دویستمین سالگرد تولد مارکس مناسبت دارد.
اوّلین تعریفِ ممکن، تعریفی است که آلن تورینگ [Alan Turing، ریاضیدان انگلیسی نیمهٔ اوّل قرن بیستم]، دانشمند پیشگام در رشتهٔ کامپیوتر پیشنهاد کرد و امروزه بیشتر آن را با «آزمون تورینگ» میشناسیم [روشی برای سنجش میزان هوشمندی ماشین و توانایی آن در نشان دادن رفتاری مشابه با انسان]. هدفِ تورینگ- در چارچوبی اثباتگرایانه (پوزیتیویسم)- این بود که در پژوهش و کندوکاو فلسفی، نیازی به تعریف کردن هوش نباشد. موضوعِ سرشت و ماهیتِ هوش، سرشتِ عقل یا روح، یکی از کهنترین موضوعها در کندوکاو متافیزیکی است، ولی در حیطهٔ اقتصاد و کار، چنین موضوعهایی الزاماً اهمیت ندارد. آنچه شاید موضوعیتی کمی بیشتر داشته باشد، این است که چگونه آزمون تورینگ از تمرین فلسفی به رقابتی [در میان پژوهشگران] تغییر یافته است که در آن به برنده جایزه هم داده میشود؛ این موضوعی است که من بعداً به آن بازمیگردم.
دوّمین تعریف ممکن هوش مصنوعی، که گاهی آن را شوخی میدانند ولی احتمالاً بیشتر از آزمون تورینگ به بحثهای سیاستگذاری کنونی مربوط میشود، این است که هوش مصنوعی رشتهای از پژوهش است که تلاش دارد کامپیوترها را وادار سازد طوری کار کنند که اغلب در فیلمها میبینیم. برداشتِ خودِ من، که استاد علوم کامپیوتر هستم، این است که این تعریف بیش از آنچه تأمین کنندگان مالی پروژههای پژوهشی فکر میکنند، درست است. واقعیت این است که بسیاری از پژوهشگران جوان در رشتهٔ هوش مصنوعی، موضوعها و پرسشهای پژوهشی و آرزوهای شخصی خودشان را بر پایهٔ داستانها و فیلمهای علمی-تخیّلی که خوانده یا دیدهاند بنا میکنند. به این ترتیب، در این مورد، هوش مصنوعی شاخهای از داستانپردازی تخیّلی است، در ادامهٔ سالهای طولانی داستانپردازیهای خیالی که در آن به ساختههای دست انسان، روح و عقل داده میشود؛ از جمله افسانههایی مثل پیگمالیون (Pygmalion)، گولِم (Golem)، فرانکشتاین، فیلمهایی مثل متروپولیس (Metropolis) یا اِکس ماکینا (Ex Machina، فراماشین)، یا این اندیشهٔ شبهمذهبی که ما میتوانیم ماشینی بسازیم که چنان قدرتی داشته باشد که تبدیل به «تکینگی» (Singularity، یکتایی) بشود؛ نوعی سیمای خداگونهٔ یکتا که همهٔ ما را کنترل خواهد کرد.
بنمایهٔ اصلی در این داستانهای تخیّلی، مجازات [انسان] بهخاطر غرور و خودسریاش است. خالق این موجوداتِ مصنوعی، بهخاطر اینکه میخواهد به آنچه ساخته است روح بدهد، بهخاطر آرزوی خلق خدا، یا در مورد Metropolis، Ex Machina، و خیلیهای دیگر، بهخاطر تمایلهای جنسیِ زن مصنوعی، کیفر میبیند و مجازات میشود. این داستانها همگی مبتنی بر روایتهای کلاسیک جنیست، قدرت، و مجازات نوشته شدهاند که همهٔ آنها موضوعهایی مهم در تحلیل مارکسیستی هستند، ولی شاید بتوان گفت که موضوعهایی جدیدتر از دیگر کاربردهای پنداشتِ مذهبی با هدفِ تقویت ساختارهای اجتماعی نیستند.
سوّمین تعریف هوش مصنوعی این است که صرفاً تکنیکی مهندسی مرتبط با ردهٔ خاصی از الگوریتمهاست. مهندسی نرمافزار شامل کاربست الگوریتمها در حل مسائل عملی است، و بخش بزرگی از آموزش علم کامپیوتر پیرامونِ فراگیری این «جعبهابزار»های عملی- الگوریتمها- و نحوهٔ استفاده از آنهاست. طبق عرف رایج، برخی از الگوریتمها را الگوریتمهای هوش مصنوعی توصیف میکنند و برخی دیگر را نه. ولی این تمایز تکنیکی طی زمان تغییر میکند. خیلی از الگوریتمهایی که ۵۰ سال پیش جزو الگوریتمهای بنیادی هوش مصنوعی محسوب میشدند (مانند جستوجوی هدفمند)، امروزه دیگر جزو الگوریتمهای معمولیاند، و الگوریتمهای هوش مصنوعی امروزی هم احتمالاً تا ۵ یا ۱۰ سال آینده، معمولی خواهند شد. این روندِ دگرگونی مداوم الگوریتمها طوری است که برخی از پژوهشگران هوش مصنوعی به شوخی میگویند «اگر کار میکند، پس هوش مصنوعی نیست!» به این ترتیب، این تعریف خاص به این نتیجهگیری نسبتاً بیروح و غیرجذاب منجر میشود که هوش مصنوعی صرفاً یکی از تکنیکهای متعددی است که مهندسان به کار میبرند و از لحاظ تحلیل مارکسیستی جذبهٔ خاصی ندارد و بیربط است.
پژوهشگران هوش مصنوعی با هر سه تعریف پیشگفته بهخوبی آشنا هستند، و فرقی هم نمیکند که مفسران و صاحبنظران مشتاق، تمایز میان این سه را بهدرستی متوجه میشوند یا نه. ولی یک تعریف چهارم هم است که بهویژه در دویستمین سالگرد تولد مارکس مناسبت پیدا میکند، و در کلام خودِ مارکس، وقتی که از ماشینها مینویسد [در مقابل کارگران که ابزار دستی را با مهارت خویش و به صورت اندامی از خویش به کار میبرند]، دیده میشود:
«برعکس، ماشین است که بهجای کارگر، مهارت و قدرت دارد، خُبرهٔ دانایی است که در قوانین مکانیکیای که مطابق آنها عمل میکند، روحی از آنِ خودش دارد.» (گروندریسه، ۱۹۵۷-۱۹۵۸، آخر دفتر ششم، “قطعهٔ دربارهٔ ماشینها”)
این جمله، و متنی که این جمله در آن آمده است، از این لحاظ که چطور نویسندهای در قرن نوزدهم تعریفهایی قرن بیستویکمی را مطرح میکند که من پیشتر به آنها اشاره کردم، بسیار جالب و قابلتوجه است. مارکس به کارکرد قوانین مکانیکی اشاره میکند: الگوریتمها چیزی کمتر یا بیشتر از قوانین مکانیکی نیستند که کارهای مستلزم مهارت، مطابق آنها انجام میشوند. در نبود واژگان علوم کامپیوتری امروزی در زمان مارکس، او بهتر از این نمیتوانست مسائل بنیادی هوش مصنوعی را خلاصه کند. موضوعهای فلسفی و تخیّلی مورد توجه و نگرانی تورینگ و نویسندگان داستانهای علمی-تخیّلی در واژههای «خبرهٔ دانا» (virtuoso) و «روح» (soul) در ارتباط با ماشین بیان شده است، و اینکه تحقق این تواناییها و استعدادها از طریق «قوانین مکانیکی» امکانپذیر است، بیانگر خصلتِ مهندسی الگوریتمهای هوش مصنوعی است.
پیشآگاهی مارکس قابل تحسین است. این پیشآگاهی او به احتمال قوی متأثر از اطلاع او از کارهای پیشگامانهٔ Babbage [چارلز بابیج، مخترع و مهندس انگلیسی قرن ۱۸-۱۹] و Ada Lovelace [خانم اِیدا لاولِیس، ریاضیدان انگلیسی قرن ۱۹، همکار بابیج و نخستین نویسندهٔ الگوریتمهای مورد استفاده در ماشین] بوده است که اصول کدگذاری دادهها در ماشینهای ژاکار [به نام سازندهاش Jacauard؛ استفاده از کارتهای پانچ یا سوراخ شده برای نقش انداختن در بافت پارچه] را به خودکارسازی وظایف و کارهای فکری بسط دادند. ولی به نظر من، موضوع مهم برای خوانندهٔ امروزی، ابزارهای تکنیکی خاصی است که از طریق آنها عمل قوانین مکانیکی میتواند جایگزین کارگر و انسان زنده شود. باز هم از گروندریسه مارکس نقل میکنم:
«امّا وقتی که ابزار کار وارد فرایند تولید سرمایه میشود، از دگردیسیهای متعددی میگذرد که اوج این دگردیسیها [پدید آمدن] ماشین، یا شاید بهتر است بگوییم سیستم خودکار ماشینآلاتی است که توسط اتوماتون [خودکاره یا آدم ماشینی]، نیرویی متحرک که خودش حرکت میکند، به حرکت درآورده میشود؛ این اتوماتون متشکل از اندامهای متعدد مکانیکی و فکری است، به طوری که کارگران حالا خودشان صرفاً نقش اتصالات باشعور آن را دارند.» (همانجا)
اشاره به «نقش» [کارگران] و «دگردیسی» [ابزار کار] در این متن را میتوان گونههایی متفاوت از انتزاع یا تجرید دانست. این انتزاعی است نهفقط از لحاظ اقتصادی- که در بسیاری از نوشتههای مارکس به کار رفته است- بلکه انتزاع یا تجرید به صورتی است که دانشمندان علم کامپیوتر از آن استفاده میکنند، که به واسطهٔ آن، پدیدهای بسیار پیچیده را از راه نمایش ریاضی سادهتر دادهها یا فرایندها بیان میکنند. اگر کار کارگر را بتوان به انتزاعی از فعالیت ساده کرد، آنگاه میتوان آن را به واسطهٔ حرکت ماشین[آلات] تعیین و تنظیم کرد. این پدیدهای است که امروزه برای همهٔ ما بسیار آشناست. دیدگاه مارکس دربارهٔ ارتباط میان انسانها و ماشینها، پیشبینی ویژگی و مشخصهٔ مرکزی زندگی ما در قرن بیستویکم بود.
کالاهای انتزاع
اگر این مشابهت میان انتزاع کار در دورهٔ صنعتی شدن قرن نوزدهم و انتزاعها یا تجریدهای علوم کامپیوتر در قرن بیستویکم را دنبال کنیم، چه نوع جلوههای اقتصادیای ممکن است در آن بیابیم؟ مارکس دریافت که نظامهای پولی بر پایهٔ کالایی بُتوارهشده (fetishisised)- برای مثال استاندارد طلا- قرار دارند که آن کالا خودش توسط کار انسانی استخراج میشود (در این مورد، استخراج طلا از معدن). امّا راههای متعدد دیگری نیز برای توصیف کالاهای انتزاعیتر دورهٔ معاصر وجود دارد، که من به ترتیب به هر یک از آنها، و پیامدهای آنها بر کار، میپردازم.
۱. در اقتصاد اطلاعاتمحور (information economy)، اطلاعات را میتوان کالایی بُتوارهشده دانست.
۲. در اقتصادی دانشمحور (knowledge economy)، دانش را میتوان کالایی بُتوارهشده دانست.
۳. در اقتصاد شهرتمحور (reputation economy)، شهرت را میتوان کالایی بُتوارهشده دانست.
۴. در اقتصاد توجهمحور (attention economy)، توجه انسانی را میتوان کالایی بُتوارهشده دانست. همین گزینه است که به نظر میآید کارآمدترین و مفیدترین گزینه باشد، که به آن خواهم پرداخت.
برای شروع، بیایید پیامدهای گزینهٔ اوّل، یعنی اطلاعات در حکم کالا، را در نظر بگیریم. از لحاظ فنّی، واژهٔ اطلاعات که توسط دانشمندان علوم کامپیوتر به کار برده میشود، کمیّتی فیزیکی [مادّی] است؛ تعداد بیتهای (bits) دادههای ذخیرهشده یا منتقلشده را میسنجد. کمیّتهای فیزیکی خودشان در واقع انتزاعیاند، ولی هیچ ارزش ذاتی ندارند. اینکه بپرسیم ارزش اطلاعات چقدر است، مثل این است که بپرسیم «ارزشِ طول چقدر است» یا «ارزشِ جِرم چقدر است»؟ اگر بگویم «کتاب من ۲۳۷ صفحه دارد»، به شما اطلاعات دادهام، ولی لزوماً نه ارزش.
با وجود این، اخیراً شاهد تلاشهایی برای کالاییسازی خودِ عددها در ارز دیجیتال بیتکوین (Bitcoin) بودهایم. بیتکوین به معنای واقعی کلمه فقط یک عدد است. از قضا عددی بزرگ است که پیش از این هرگز نوشته نشده است، و اگر شما اوّلین نفری باشید که «آن را بنویسید» (از طریق «استخراج» بیتکوین) این عمل ایجاد ارزش دانسته میشود. امّا بیتکوین در واقع توالی یا دنبالهای (Sequence) ریاضی از ارقام است که تا آنجا که میدانیم (و این مطلب مهمی است) ارقامی تصادفیاند. بیتکوین خود تأکیدی است بر اینکه اطلاعات بهخودیخود ارزشمند نیست، در عوض، توجه را به سوی فنّاوریهایی میکشاند که ما برای ذخیره کردن، پردازش، و انتقال اطلاعات استفاده میکنیم. این نکتهٔ مهمی است که مالکان فنّاوری، اقتصاد را کنترل میکنند. اگر نگاهمان را به فراتر از مفهوم کاملاً ساختگیِ «ارزش» در ابزارهای مالی عددی ببریم، مهمتر این است که توجه کنیم که اطلاعات چه چیزی را کُدگذاری میکند یا اندازه میگیرد. این هم میتواند کالایی بُتوارهشده- در گزینههایی که پیشتر فهرست کردم- باشد که بالقوه شامل دانش، شهرت، و توجه انسانی است.
بیایید اوّل کالاییسازی دانش در اقتصاد دانشمحور را در نظر بگیریم؛ برای مثال، دانشی که در کتابهایی مثل این کتاب وجود دارد [منظور مجموعهٔ مقالههای کتابخانهٔ یادبود مارکس با عنوانMarx200 است]. در مورد کار فکری خودِ من، که اغلب صرفِ نوشتن چنین کتابهایی یا مقالههای دانشگاهی دیگر میشود، ممکن است این طور به نظر بیاید که من دارم ارزش تولید میکنم. ولی از لحاظ مهندسی، اطلاعات را در واقع پیمانه و معیاری برای کانال ارتباطی میدانند؛ بدین معنی، در مثال ما، ارزش چنین دانشی [کتاب یا مقاله] به این بستگی دارد که کسی در انتهای دیگر کانال، آن را بخواند. و البته تضمینی هم ندارد که چنین شود؛ من هم مثل بسیاری از دانشگاهیان، گاهی پیش میآید که مسئولیت نوشتن چیزی را به عهده دارم که فقط دانشجویانم آن را خواهند خواند (تازه اگر بخوانند).
شاید بشود گفت که مهمتر از این، اطلاعاتی است که در نمونههایی مثل ویکیپدیا ثبت و ضبط میشود که مشتمل بر مقدار عظیمی اطلاعات (و خوانندگانی که این اطلاعات را دریافت میکنند) و نیز مقادیر عظیمی کار- کار بدون مُزد- است. هیچکس برای چیزهایی که در ویکیپدیا مینویسد پولی دریافت نمیکند. پس اینجا میتوان دربارهٔ یکی از حدود غایی سرمایهداری حرف زد که در آن کالا توسط کار کاملاً بدون مُزد تولید میشود. البته سرچشمهٔ این تناقض (پارادوکس) خاص مربوط به شهرت و توجه میشود که در ادامهٔ مطلب به آن خواهیم پرداخت.
خواننده ممکن است متوجه شده باشد که بخش بزرگی از دانش موجود در ویکیپدیا نیز ارزش اقتصادی چندانی ندارد. بعضی از خوانندگان ویکیپدیا ممکن است هیچ علاقهای به نتایج فصلی تیمهای بیسبال در یک شهر کوچک آمریکا نداشته باشند، و ساکنان آن شهر کوچک نیز در واقع به همین ترتیب شاید به موضوعهای مورد علاقهٔ دیگران کاملاً بیعلاقه باشند. بنابراین، دانش هم مثل اطلاعات امری مطلق نیست. در بسیاری از موارد، اطلاعاتی را به علّت شهرت شخصی که آن را تولید کرده است ارزشمند میدانیم، و شاید بهخاطر شهرت بیشتری که شما در رقابت با آن شخص یا ذکر نام یا مطالب آن شخص به دست میآورید، ارزشمند بدانید. و البته روال کار دانشگاهی ما نیز همین طوری بنا میشود؛ نه مطابق با ساختار از پیش معلومِ دنیا، بلکه مطابق با ساختارهای اجتماعی شهرت و تحسین.
اگر دانش- تا حدّ زیادی- محصول جانبی شهرت باشد، آنگاه اقتصادِ شهرتمحور بااهمیتتر به نظر میآید. خیلی از سیستمهای دیجیتال اَبَر-سرمایهداری مثل Deliveroo، Uber، airBnB، eBay، یا YouTube مستلزم کارِ رابطهیی انسانیاند. کمیّت این کار بر حسب امتیازهای شهرت تعیین میشود (کمیّتسنجی میشود). کسانی که به طور مستمر بیشترین وقت را برای بررسی و ویرایش محتوای ویکیپدیا میگذارند نیز پاداش شهرت میگیرند، و البته میدانیم که بیشتر پلاتفرمهای رسانههای اجتماعی [مثل فیسبوک و توییتر] پیوسته نفوذ یا محبوبیت کاربرانشان را کمیّتسنجی میکنند [و گاه پاداش میدهند].
شاید بتوان گفت که پیشرفتهترین و کالاییشدهترین اقتصادهای شهرتمحور، بازار استناد به مقالهها یا ذکر نام یا نقل مطالب دانشگاهیان در کتابها و مقالههای دانشگاهی است. امروزه دانشگاهیان شاغل در بریتانیا به معنای واقعی کلمه برای امتیاز شهرت کار میکنند و دانشگاههای آنها هم متناسب با همین امتیازها پول میگیرند- امتیازهایی که نهفقط از طریق ارزیابیهای دولتی یا ارزیابی همکاران و همتایان (peer review)، بلکه همچنین توسط سیستمهای اطلاعات آنلاینی محاسبه میشوند که صاحبان منافع انحصاری طراحی کرده و ساختهاند. در برابر این شیوهٔ امتیازدهی، پیشنهادهای متقابلی نیز مطرح شده است مبنی بر اینکه اقتصاد شهرتمحور دانشگاهی با سیستمی جایگزین شود که به دانشگاهها بر حسب سهمی که به جامعه ادا میکنند، چه از راه «تأثیر»ی که میگذارند و چه از راه میزبانی و پذیرش، امتیاز و پاداش داده شود. ولی سهمی که قرار باشد توسط گردانندگان زیرساختهای انحصاری پیشگفته ثبت و راجع به آن قضاوت شود، سؤالهایی جدّی در این باره پیش میآورد که آیا در این صورت، ارزش اضافی استخراج شده است، یا در قبال کار انجام شده، پاداش مناسب داده شده است.
به این ترتیب، میرسیم به آخرین گزینه از چهار گزینهای که برای مشخص کردن خصلتِ کالایی که شالودهٔ اقتصاد اطلاعاتمحورِ هوش مصنوعی است: اقتصادِ توجهمحور. این اقتصاد مبتنی بر این مشاهده است که کار در اقتصاد اطلاعاتمحور در درجهٔ اوّل با کار کردن روی ماشینآلات فیزیکی (جسمانی) یا کار کردن با اجسام نیمهساخته [مثل مونتاژ] ارتباطی ندارد، بلکه مربوط به این میشود که میزان انباشتِ انتزاعِ خودِ کار تا چه حدّ است.
در این تصویر، ما هر دادهای را که روی کامپیوتری ذخیره شده است، دادهای را که از شخصی گرفته شده است که با آن کامپیوتر کار میکرده است، در نظر میگیریم. این مجموعهٔ دادهها نمایانگر زمان یا وقتی است که شخص در موقع کار با کامپیوتر- چه از طریق صفحهکلید و چه از طریق صفحهٔ نمایش- صرف کرده است. کمیّت این وقت را میتوان به صورت جزئی از کل زندگی آن شخص تعیین کرد (کمیّتسنجی کرد). کاربران وقتی دارند با کامپیوتر کار میکنند، مرتب در حال دادن اطلاعات از طریق صفحهکلید یا صفحهٔ نمایش هستند. این با پیامهای بازرگانی که در صنعت رسانه تولید و پخش میشود تفاوت دارد. در پیامهای بازرگانی، آنها [تبلیغاتکنندگان] هستند که محصولی [پیام تبلیغاتی] را به شما میدهند.
معمولاً این طور برداشت میشود که ارزش آگهی یا تبلیغات متناسب با میزانی است که تبلیغکننده بتواند توجه مردم را جلب کند، ولی این شیوهٔ خوبی برای فهمِ عبارت «اقتصادِ توجهمحور» نیست. فرض بر این است که تبلیغکننده چیزی را به بیننده میدهد و بیننده هم- تا حدّی- خدماتی را دریافت میکند. ولی این الگوی متعارف صنعت رسانه هیچ توجهی به این واقعیت ندارد که اطلاعات میتواند در جهت مخالف هم جریان یابد. در رسانههای دیجیتال، کاربَر صرفاً بیننده نیست، بلکه با زدن دکمههای صفحهکلید، بهروز کردن اطلاعات روی فیسبوک، فرستادن پیام از طریق واتساَپ، یا کلیک زدن روی Like، دارد اطلاعات هم میدهد. کلیشهٔ رایج در این الگوهای کسبوکار [دیجیتال] این است که اگر شما برای محصولی که دریافت میکنید پول نمیدهید، پس شما خودت محصول هستید.
ما وقتی چیزی [خدمتی] را مجانی از این شرکتها دریافت میکنیم، در عوض چه چیزی داریم به آنها میدهیم؟ ما در حکم بازیگران هوشمند، توجه خودمان را در اختیار آنها میگذاریم. ثانیهها، دقیقهها، یا اغلب ساعتها از زندگیمان را به آنها میدهیم و سرمایهٔ فکر و هوش خودمان را در اکوسیستم دیجیتال میگذاریم در حالی که سعی میکنیم کاری کنیم که کامپیوترها کاری بکنند که ما دوست داریم بکنند. ما برای این وقتی که میگذاریم (البته که) پولی نمیگیریم. و نگرانکنندهتر اینکه این شرکتها، برای شبیهسازیِ نوعی هوش مصنوعی، هیچ محدودیتی هم در جمع کردن دادههای هوشمندی که ما به آنها میدهیم ندارند.
جزئیات فنّی چگونگی بهرهبرداری از توجه انسانیِ کاربران و فروش آن به مثابه هوش مصنوعی اغلب (و بهعمد) روشن نیست، ولی یک جلوهٔ چشمگیر معیّن از اصول اساسی این روند وجود دارد که مثل روز روشن است. این روند چیزی نیست جز کالاییسازیِ بیکموکاستِ هوش و آگاهی انسان از راه «تورک مکانیکی آمازون» یا AMT [Amazon Mechanical Turk، از خدمات اینترنتی شرکت آمازون که در آن بازار کار یا خرید-و-فروش و خدمات کامپیوتری را به شیوهٔ جمعسپاری و با استفاده از کاربران اینترنتی اداره میکند] و دیگر پلاتفرمهای اینترنتی «جمعسپاری» (crowdsourcing) که بعد از آمازون پیدا شدند.
این سیستمها در واقع دلالهاییاند که «کارهای مستلزم هوش انسانی» یا HITs [Human Intelligence Tasks، مانند تشخیص دادن محتوایی معیّن در یک عکس یا ویدیو، نوشتن توصیفی برای یک محصول، یا پاسخ دادن به سؤالهایی معیّن، که همهٔ کاربران میتوانند در آن شرکت کنند] را خرید و فروش میکنند. AMT برای انجام هر کار کوچکی که «تورکر» (Turker) انسانی انجام میدهد- نوعی تصمیمگیری یا تشخیص و قضاوت که آگاهی یا هوش زیادی لازم ندارد- مبلغ بسیار ناچیزی (یکی دو پنی) میپردازد. اینها در واقع دقیقاً همان هوشمندی یا هوشی است که انتظار میرود برنامههای هوش مصنوعی خودشان داشته باشند. در خیلی از موارد، چیزی که اتفاق افتاده این است که برنامهٔ مورد نظر، در سرتاسر شبکه، تقاضای دریافت مؤلفهٔ رویّه یا زیرروال (subroutine) خاصی را کرده است تا بتواند بهوسیلهٔ آن وظیفه یا کار خاصی را در تصمیمگیری یا تشخیص و قضاوت انجام دهد. ولی این مؤلفه، نرمافزار نیست، بلکه انسانی است که در ازای اختصاص دادن چند ثانیه از توجهش به چیزهایی که کامپیوتر میبایست انجام میداده، پولی دریافت میکند.
با توجه به اینکه در چنین سیستمی، هوشمندی واقعی از فعالیت انسانی میآید، تقریباً میشود گفت که پس «هوش مصنوعی» خواندنِ نتیجهٔ کارِ آن، حُقهبازی و فریبکاری است. جالب است که اسم «تورک مکانیکی» ارجاعی بیشرمانه به کلک و حُقهای مشهور در قرن هجدهم است: تورک (Turk) اسم یک اتوماتون (آدم ماشینی) شطرنجباز بود که در واقع نه ماشین به معنای واقعی کلمه، بلکه در حقیقت دستگاهی بوده است که یک فرد واقعی شطرنجباز در داخل آن پنهان شده بوده و هدایتش میکرده است. حالا در عصر دیجیتال، این ماشینها (هم شطرنجباز قرن هجدهم و هم «تورکر» قرن بیستویکم) را میتوان همان ماشینهایی دانست که مارکس از آنها صحبت کرده بود، که در آنها کارگران خودشان صرفاً نقش اتصالات باشعور را دارند.
خطرهای اخلاقی هوش مصنوعی
توجه به اقتصادِ توجهمحور این امر را تأیید و تأکید میکند که چگونه هوش مصنوعی اغلب اطلاعاتی را تحویل میدهد که انتزاع و تجریدِ زندگی و کار انسان است. شاید بتوان گفت که این روند کمابیش مثل روندهای مشابه در هر سیستم تولید سرمایهداری دیگر است، ولی در اینجا، هوش مصنوعی، بهخاطر اشاره یا ارجاع به داستانهای تخیّلی و خیالپردازیهای هوش مصنوعی یا این ادّعاهای فلسفی که آیا ماشینها خودآگاه هستند یا نیستند، یا بازیگرانی متعهد به اخلاقاند یا نه، حاوی مقدار زیادی پنهانکاری و ابهام نیز است. بسیاری از سیاستگذاران، نمایندگان پارلمان، روزنامهها، و حتیٰ فعالان سندیکایی ما حواسشان با این پرسشهای فلسفی ظاهراً جالب و هیجانانگیز پرت میشود، و متوجه نیستند که در واقعیت امر، این الگوریتمها کمابیش مستقیماً به انتزاعِ کارِ شناختی (cognitive) انسان متکیاند.
این بحث به سؤالهای مهمی منجر میشود که باید پرسید. فعالان دیجیتال اغلب اختیارگرایانی (libertarian) هستند که نگرانی و توجهشان بیش و پیش از هر چیز معطوف به مسائلی مانند تجسّس در زندگی خصوصی و نقض حریم شخصی، یا رسواییهای فزاینده و افشاگر دربارهٔ نفوذ رسانههای اجتماعی [مثل فیسبوک و توییتر] در دولتها یا در انتخابات دموکراتیک است. تردیدی نیست که حریم شخصی و تجسّس در زندگی خصوصی موضوعهایی مهماند، چون مردم به حریمی خصوصی برای خلوت خودشان نیاز دارند، به فضایی نیاز دارند که در آن بتوانند هویت شخصی و فردی خودشان را بسازند و داشته باشند. حریم شخصی داشتن بخشی از انسان بودن است. ولی اضطراب و نگرانیهایی که در پسِ آن سؤالهاست، معمولاً ترس و واهمهٔ پولدارهاست. برای تهیدستان، زندگی خصوصی و حریم شخصی نوعی تجمّل محسوب میشود و برای آنها خیلی فرق نمیکند که چه کسی دادههایی فیسبوکی آنها را جمع میکند.
شاید سؤال مهمتر این است که اگر یک سیستم هوش مصنوعی فعالیتهای صدها میلیون انسان را رصد میکند و آن فعالیتها را مثل «شبکههای عصبی» (neural networks) از راه ارتباطات همبستهٔ آماری بازتنظیم میکند، در این صورت چه کسی را باید مؤلف نهایی دانست؟ آیا برنامهنویس کامپیوتر است که دادهها را جمع و برداشت کرده، یا کارگر (مُزدی یا غیرمُزدی) است که از توجه او بهرهبرداری [یا دادهبرداری] شده است. موذیانهتر این است که شرکتها میتوانند از ادّعاهای تخیّلی هوش مصنوعی بهرهبرداری کنند و مدَعی شوند که ماشین خودآگاه شده است و خودبهخود کار میکند. اگر واقعاً این طور باشد، آنگاه لازم نیست از کسی تشکر کرد یا به کسی پاداشی داد، چون مالکِ ماشین مالکِ کار آن است (همان منطق بردهداری، که در آن مالکیت کارگر صرفاً به معنای مالکیتِ نتیجهٔ کار اوست). از این دیدگاه، وقتی که شرکتها وقت و انرژی زیادی برای فلسفهبافی دربارهٔ «خومختاری» یا «عاملیّت» سیستمهای هوش مصنوعی صرف میکنند، به نظر میآید که بهعمد دارند کار آن انسانهایی را که در واقع در کارکرد هوش مصنوعی دخیل بودهاند از نظرها پنهان میکنند و به این ترتیب، به بیان مارکس، این انسانها را به «اتصالات باشعور» در ماشینی که بهخودیخود حرکت میکند، تنزل میدهند.
این نگرانیهای اخلاقی و اقتصادی از این واقعیت سرچشمه میگیرد که به رسمیت شناخته شدن حق تألیف یکی از اصول بنیادی (اصل ۲۷) اعلامیهٔ جهانی حقوق بشر است. این اصل به طور مشخص به تولید علمی، ادبی، و هنری اشاره میکند، که آنگاه این سؤال را پیش میآورد که در اقتصادِ توجهمحورِ کارِ فکری-شناختی (Cognitive Labour)، این موضوع را چطور باید تفسیر کرد. در نمونهٔ ویکیپدیا، اگرچه مؤلفان معمولاً ناشناساند، ولی صفحههای این دانشنامه اغلب حاوی مطالب علمی گسترده، و نیز آثار دستاوّل و ویرایشی گسترده و پُرزحمتی است. اگر قرار بود کار ویرایش لازم برای تدوین و بهروز کردن ویکیپدیا ماشینی شود، آنگاه این معیاری خواهد بود برای وکیل مدافعی که مدّعی شود ماهیت مکانیکی کار ویرایش، کار ادبی نیست، در حالی که فردِ ویراستار، بررسی و قضاوتِ خلاقانه میکند و در نتیجه، شناختن کار او به مثابه تألیف، قابل توجیه است. این استدلال تکرار همان تعریف خلاصهٔ قبلی علوم کامپیوتر است که «اگر کار میکند، پس هوش مصنوعی نیست»؛ اگر کارِ مکانیکی کارِ تألیف یا تدوین شده نیست، پس مؤلفان نمیتوانند مکانیکی باشند.
این پرسش که آیا کار ویرایشی خلاق انسان را باید «ادبی» (بهنوعی) و در واقع تألیف دانست یا نه، در مواردی حتیٰ رایجتر از ویکیپدیا هم صادق است. شما وقتی شروع میکنید چیزی را در موتور جستوجوی اینترنتی تایپ کنید، و موتور جستوجو عبارتی را که شما ممکن است دنبال آن باشید خودبهخود تکمیل و پیشنهاد میکند، این نمونهای آشنا و مطلوب از نوع روزمرّهٔ «هوش مصنوعی» است. این «هوش مصنوعی» در عمل چگونه کار میکند؟ بیشتر ما این طور میفهمیم که عبارت تکمیلی پیشنهادی که شما در حین تایپ کردن میبینید، عبارتی است که قبلاً شخص دیگری تایپ کرده است، و کاری که سیستم میکند این است که صرفاً همان عبارت تایپ شده را دوباره برای شما بازگو میکند. اگر آن شخص سوّم شیوهٔ خاص و خلاقانهای از بیان موضوع داشته، یا اگر ده یا بیست دقیقه برای یافتن بیان مناسب آن موضوع وقت صرف کرده بوده، آن وقت چه باید گفت؟ برخی از این پیشنهادهای خودکار، کلمات ظریف و موجز آراسته و برازندهایاند، از نوعی که نویسندگان حرفهیی مینویسند؛ ولی موتور جستوجو چیزی در مورد منشأ عبارت به شما نمیگوید. وقتی من در کادر جستوجوی مرورگر خودم تایپ میکنم «این…»، موتور جستوجو فوراً این عبارت را پیشنهاد میدهد: «این حقیقتی است که همهٔ جهان به آن اذعان دارد». بهرغم این واقعیت که این عبارت نوشتهٔ نویسندهای معیّن است [جِین آستِن، نویسندهٔ انگلیسی قرن هجدهم-نوزدهم]، چیزی دربارهٔ نویسندهٔ این عبارت [در موتور جستوجوی مرورگر من] مشخص نیست. ولی اگر نویسندهٔ یک عبارت معیّن، شخص کمتر شناختهشدهای باشد، آنوقت چه؟ موتورهای جستوجو به طور مستمرّ حروف و علامتهای تایپشده توسط کاربَران را ضبط میکنند، آنها را در پایگاههای داده (databases) خود ذخیره میکنند و به دیگران میدهند، بدون اینکه هیچ پرداختی صورتی بگیرد یا از کسی اسمی برده شود.
بیشتر کاربرانِ موتورهای جستوجو تا حدّی از بده-بستانی که میکنند آگاهی دارند (و در حقیقت، متقاعد شدهاند که این بده-بستانها، که در لابهلای صدها صفحه «شرایط و ضوابط» و «توافقنامههای اجازهٔ رسمی کاربَر نهایی» پنهاناند، کمابیش بیانگر رضایت داوطلبانهٔ آنها با موقعیتی اجتنابناپذیرند). با وجود اینها، رضایتِ اجباری کاربَر، این شرکتها را از توجه به پیامدهای غیراخلاقی و غیرمنصفانهٔ نحوهٔ کارکرد سیستمهای آنها مبرّا نمیکند.
اگرچه استفادهکنندگان از موتورهای جستوجو هیچ راهی ندارند جز پذیرفتن شرایطی که در مقابل آنها گذاشته میشود، پس چرا مردم این همه کار و توجه خود را صرفِ پروژههای مشترکی مثل ویکیپدیا میکنند؟ تا حدّ زیادی، این پروژهها بر پایهٔ فلسفه و شعار «متن باز» (Open Source) ساخته میشوند، که در آن، عمل داوطلبانهٔ جمعی میتواند به ساختن کالای عمومی جدیدی منتهی شود. اصول قانونیِ مالکیتِ مشترک، که در ابتدا توسط آرمانگرایان «بنیاد نرمافزار رایگان» (Free Software Foundation) و سازمانهای مشابهی شکل گرفت که در بخشهای علوم کامپیوتر مراکز دانشگاهی پدید آمدند، در نهایت در اصول سازمان غیرانتفاعی Creative Commons [مردم عادی خلاق] رسمی شد (و در مورد ویکیپدیا به کار برده شدند).
از دید تاریخنگارانِ سرمایه و کار، استفاده از واژهٔ «مردم عادی» (Commons) بیدرنگ این سؤال را پیش میآورد که آیا سرانجام این مردم عادی قرن بیستویکم نیز در حصار منافع خصوصی قرار خواهند گرفت، همانطور که مالکیت خصوصی زمینهای مشترک در «قانون حصارکشی بریتانیا» در قرنهای هجدهم و نوزدهم مُجاز و امکانش فراهم شد؟ [اشاره به قانونی در بریتانیا در فاصلهٔ قرن هفدهم تا بیستم که مالکیت خصوصی محوطهها و زمینهای باز را که قبلاً مشترک بودهاند، از راه حصارکشی ممکن کرد.] آیا ممکن است که کالاهای عمومی ویکیپدیا، نرمافزارهای متن باز، و دیگر مؤسسات دارای پروانهٔ Creative Commons زمانی برای بهرهکشی «زمیندارانِ» زیرساختهای دیجیتال «حصارکشی» شوند؟
موردی را در نظر بگیریم که صدها نفر کار و وقت زیادی صرف دقیق کردن و تنظیم صفحهٔ معیّنی در ویکیپدیا کردهاند تا مثلاً خلاصهای مفید و برازنده دربارهٔ نحوهٔ کار جارو برقی تهیه کنند. حالا فرض کنید که شما به هر دلیلی (مثلاً موقعی که مشکلی در خانه پیش آمده است) بخواهید عبارت «جارو برقی چگونه کار میکند» را در کادر موتور جستوجو تایپ کنید، که به شما صفحهای را نشان میدهد که حاصل کار همهٔ افرادی است که به آن اشاره شد. اغلب موتورهای جستوجو شما را حتیٰ به ویکیپدیا نمیبرند، بلکه [لینک یا پیوند] آنچه را که لازم دارید در صفحهٔ نتیجهٔ جستوجو نشان میدهند و در کنار آن نیز آگهیهای جارو برقی نو را نشانتان میدهند. مثل هر آگهی دیگر جارو برقی [در لابهلای مطالب روزنامه یا برنامههای تلویزیون]، پول این آگهیهای اینترنتی را نیز سازندگان آن پرداختهاند و در اینجا همراه با محتوای صفحهٔ وِب جلوی چشم شما میگذارند. فرقش این است که در این مورد [برخلاف آگهیهای روزنامه یا تلویزیون]، درآمد آگهیها به جیب تولیدکنندگان محتوا (مثلاً ویکیپدیا) نمیرود، بلکه به جیب سازندگان زیرساخت دیجیتال میرود که آن را به نمایش میگذارند. به این ترتیب، میبینیم که انگیزهٔ مؤلفان و مصنفان اوّلیهٔ محتوا هرچه باشد، این کالای عمومی اکنون برای کسب سود «حصارکشی» شده است، و نه حق تألیف را ادا میکند و نه از مؤلفان اجازه میگیرد.
به این آگاهی از ثانیهها و دقیقههای زندگی ما که برای توجه کردن، نوشتن، و تصمیم گرفتن صرف میشود و مرتبط با هوش مصنوعی است، یک نکتهٔ نهایی دیگر را نیز میتوان دربارهٔ خطرهای اخلاقی «محتوای» دیجیتال اضافه کرد. زندگی کردن به مثابه انسان به معنای ساختن خودتان به مثابه شخصی معیّن، تبدیل به فرد انسانی شدن، و عاملیت داشتن بر کنشهای خودتان است. در کارخانههای کلاسیک، این ویژگیهای زندگی را به شیوهای که همهٔ ما با آن آشنا هستیم برای کارگران محدود میکنند یا از آنها میگیرند. ولی آگاهی ما دربارهٔ شیوههای امروزی ربودن این کیفیتهای زندگی از ما، کمتر است. بهویژه، تصوّرش را بکنید که سابقهٔ شخصی شما، خاطرات شما، و روابط شما با همهٔ افرادی که پیرامون شما هستند، در مالکیت یک شرکت دربیاید. اینها چیزهاییاند که ما را شخصی معیّن میکنند. و اگر شخص بودن شما بستگی به خاطرات شما، سابقهٔ شما، و دوستان شما داشته باشد، آنگاه شرکتی که مالک آن چیزهاست، مالک شما به مثابه شخص هم هست. الگوی کسبوکار «رسانههای اجتماعی» [مثل فیسبوک و اینستاگرام و واتساَپ] چیزی کمتر از کالاییسازی «شخص بودن» نیست، که چشماندازی ترسناک است.
برنده شدن در آزمون تورینگ
آزمون تورینگ برای خیلی از دانشجویان هوش مصنوعی نهفقط تجربهٔ فکری جالبی برای تعریف کردن «هوشمندی»، بلکه چالش یا رقابت نیز است. فکر میکنند باید با ساختن کامپیوترهایی که قابلتشخیص از انسان نیستند، در آزمون تورینگ «برنده» شوند؛ حتیٰ برای کسانی که بتوانند به این هدف دست یابند، جایزه در نظر گرفته شده است!
بهویژه دانشجویان علوم کامپیوتر مجذوبِ فکرِ شبیهسازی رفتار انسان هستند، و بسیاری از آنها که رشتهٔ تخصصیشان هوش مصنوعی است، دنبال فرصتیاند که بتوانند روی این فکر کار کنند. این دانشجویان وقتی فارغالتحصیل میشوند و به عنوان پژوهشگر و مهندس طراح محصولاتِ جدید برای شرکتهایی مثل گوگل، آمازون، یا فیسبوک مشغول به کار میشوند، همان آرزوها الهامبخش آنها در ابداع محصولات و خدمات جدید میشود. به نظر میآید که الهامبخش برنامهنویسان در ابداع محصولاتی مثل Chatbot [برای شبیهسازی مکالمهٔ هوشمند] و «دستیار صوتی» (voice assistant) همان سناریوی آزمون تورینگ بوده است؛ نمونهای نادر از طرح و اصلی فلسفی، که شالودهٔ کسبوکاری موفق شده است.
ولی خوب است در نظر داشته باشیم که برای «برنده» شدن در این رقابت که هدفش این است که نتوان فرق بین کامپیوتر و انسان را تشخیص داد، بیشتر از یک راه وجود دارد. برای «برنده» شدن در آزمون تورینگ یک راهِ سخت وجود دارد و یک راهِ ساده.
راهِ سخت برای «برنده» شدن در آزمون تورینگ این است: شاختن دقیق و عمیق انسان و داشتن دانش و مهارت زیاد در ساختن نرمافزاری کامپیوتری به طوری که دستآخر بتوان کامپیوتری چنان هوشمند، همهفن حریف، و معاشرتی در استدلال و مکالمه ساخت که قابلتشخیص از انسان نباشد.
راهِ آسان برای «برنده» شدن در آزمون تورینگ، ساختن انسانهایی است که چنان کودن، چنان تکراری، چنان غیرخلاق، و چنان محدود از لحاظ توانایی در بیان احساسات باشند که فقط حداکثر فرق بین «خوش آمدن» (Like) و بیاعتنایی را بفهمند. در این صورت، با ساختن انسانهایی به کودنی ماشینها، در آزمون «برنده» شدهاید.
اگر به آن متخصصان فنّاوری که آزمون تورینگ را رقابتی برای برنده شدن میبینند، این فرصت و امکان داده شود که بین این دو گزینه (سخت و آسان) یکی را انتخاب کنند، احتمال زیادی خواهد داشت که شاهد چرخش به سوی گزینهٔ «آسان» باشیم. اگر چنین شود، خطر کالاییسازی، از دست دادن «شخص بودن»، حصارکشی متعلقات عمومی، از دست دادن عاملیت در تألیف، و بهرهکشی از توجه، بیش از پیش شدّت مییابد، چون پرهیز از این روند مستلزم توجه دقیق به تمایز میان زندگی انسان و ماشینهای انتزاعی است.
اندیشه نو: استفاده تمامی و یا بخشهایی از این مطلب با ذکر منبع بلا مانع است.
[i] Alan F. Blackwell, Artificial Intelligence and the Abstraction of Cognitive Labour, in “Marx200 The Significance of Marxism in the 21st Century”, by Marx Memorial Library, Praxis Press, 2019, UK