الف. هوشیار
یکشنبه ۱ شهریور ۱۴۰۵
مهدی خلجی در ادامهٔ کلاسهای آموزش فلسفهاش بحثی را در مورد هوش مصنوعی و رابطهٔ آن با دیدگاههای فلسفیاش مطرح نموده که تأملبرانگیز است. به نظرم رسید باید نقدی در مورد آن نوشت و خطاهای جدّی مطرحشده در این ابراز نظر را روشن کرد. در آغاز، از هوشوارهٔ (هوش مصنوعی) چتجیپیتی خواستم سخنان او را برایم سرفصلبندی کند. ۲۱ مورد را متذکر شد. فکر کردم ابتدا نظر این هوشواره را در مورد این صحبت طولانی بپرسم و ببینم خودش بهعنوان هوشواره چگونه با توجه به منابع گستردهای که در اختیار دارد از خودش دفاع میکند. پاسخ بهقدری جالب و منطقی بود که تصمیم گرفتم عیناً مطرح کنم و نشان دهم دیدگاههای مبتنی بر شیءوارگی هوشواره تا چه حد خام، نادرست، و مسئلهآفرین میتواند باشد.
*****
سوال: نظرت در مورد این سخنان مهدی خلجی چیست؟
پاسخ هوشواره (چتجیپیتی):
۱. پیشفرض نادرستِ «انسان ثابت»
در سخن خلجی، انسان اصیل موجودی است که:
- ۰ خودش میخواند؛
- ۰ خودش به خاطر میسپارد؛
- ۰ خودش مینویسد؛
- ۰ خودش استدلال میکند؛ و
- ۰ تا حد امکان از واسطهها مستقل است.
اما چنین انسانی هیچوقت وجود نداشته است. زبان، خط، کتاب، مدرسه، کتابخانه، ماشین چاپ، واژهنامه، استاد، نهاد دانشگاه، و موتور جستوجو همگی اجزای بیرونی تفکر انسان بودهاند. حتی مفاهیمی که با آنها «مستقل» فکر میکنیم محصول سنت و زبان و اجتماعاند.
بنابراین، استقلال فکری را نمیتوان به معنای «فکر کردن بدون دیگری و بدون ابزار» دانست. شکل معقولتر استقلال این است:
توانایی تشخیص، انتخاب، نقد، و بازآرایی واسطههایی که با کمک آنها فکر میکنیم.
هوشواره نیز ممکن است به یکی از همین واسطههای سازندهٔ انسان تبدیل شود، البته واسطهای بسیار فعالتر، پیچیدهتر، و خطرناکتر.
۲. خلط «واگذاری شناختی» با «زوال شناختی»
خلجی تقریباً در هر واگذاری توانایی به فناوری نوعی تضعیف توانایی انسان را میبیند: چون شماره تلفنها را در موبایل ذخیره میکنیم، حافظهمان ضعیف میشود؛ چون هوشواره خلاصه میکند، توان خواندن از بین میرود.
اما این فقط نیمی از ماجراست. انسان همیشه بعضی فعالیتها را به ابزارها واگذار کرده تا ظرفیت خودش را در جای دیگری به کار بگیرد:
- ۰ نوشتن حافظه را بیرونی کرد؛
- ۰ ماشینحساب محاسبه ذهنی را کاهش داد؛
- ۰ نقشه بخشی از جهتیابی را بیرونی کرد؛
- ۰ نرمافزار برخی مهارتهای دستی را کمرنگ کرد.
سؤال اصلی این نیست که «آیا مهارتی از بین میرود؟»، بلکه این است:
چه مهارتی از دست میرود، چه توانایی تازهای به وجود میآید، و توزیع نهایی قدرت شناختی چگونه تغییر میکند؟
ممکن است دانشجو کمتر اطلاعات حفظ کند، اما در عوض بهتر بتواند فرضیه بسازد، چند دیدگاه را مقایسه کند، مدلسازی کند، یا پروژهای را پیش ببرد که قبلاً خارج از توان یک نفر بود. البته این تحول خودکار نیست، به شیوهٔ استفاده و طراحی آموزش بستگی دارد.
۳. خلجی هوشواره را با «انسان منفرد» مقایسه میکند
او میپرسد:
- ۰ آیا ماشین درد کشیده است؟
- ۰ آیا خانه برایش معنا دارد؟
- ۰ آیا مسئولیت میپذیرد؟
- ۰ آیا میتواند بگوید «من میاندیشم»؟
این پرسشها برای تعیین انسان بودن یا خودآگاهی ماشین مهماند، اما برای تعیین ارزش شناختی آن کافی نیستند. ابزار لازم نیست انسان باشد تا در تولید شناخت مشارکت کند.
کتاب درد نمیکشد، اما میتواند اندیشهبرانگیز باشد. آزمایشگاه مسئولیت اخلاقی ندارد، اما بخشی از دستگاه تولید دانش است. موتور جستوجو تجربهٔ زیسته ندارد، اما ساختار تحقیق را تغییر میدهد.
خلجی دچار نوعی دوگانهسازی میشود:
یا هوشواره دقیقاً مانند سوژهٔ انسانی میفهمد، یا صرفاً ماشین آماری بیارزشی است.
در حالی که امکان سومی وجود دارد: هوشواره شاید فهم انسانی و تجربهٔ پدیداری نداشته باشد، اما بتواند جزئی واقعی از «سامانهٔ شناختی انسان–ماشین» باشد.
۴. فهم را بیش از اندازه خصوصی و درونی میبیند
او فهم را حاصل کشمکش درونی، تجربهٔ زیسته، بدن، و مسئولیت شخصی میداند. اینها مهماند، اما فهم فقط اتفاقی در درون فرد نیست. فهم اغلب میان چند شخص، متن، ابزار، آزمایش، و نهاد توزیع شده است.
در استفادهٔ جدی از هوشواره ممکن است چنین چرخهای شکل بگیرد:
در چنین فرایندی نمیتوان گفت هوشواره «بهجای انسان» فکر کرده است؛ تفکر در حلقهٔ تعامل شکل گرفته است. پژوهشهای معاصر نیز تأثیر الگوهای زبانی را صرفاً در هوش فردی بررسی نمیکنند، بلکه آنها را عاملی در بازآرایی «هوش جمعی» میدانند که هم میتواند ظرفیت جمع را بیشتر کند و هم تنوع و استقلال آن را کاهش دهد. (Nature Human Behaviour)
۵. دوگانهٔ «فرایند یا محصول» بیش از حد سخت است
خلجی میگوید ماشین محصول را میدهد، در حالی که فلسفه همان فرایند رسیدن به آن است. این حرف دربارهٔ همه استفادهها صدق نمیکند.
هوشواره میتواند داخل فرایند قرار گیرد:
- ۰ از استدلال من ایراد بگیرد؛
- ۰ مفروضات پنهان را آشکار کند؛
- ۰ علیه نظر من استدلال کند؛
- ۰ یک مفهوم را از چند دیدگاه فلسفی مقایسه کند؛
- ۰ از من بخواهد از انتخاب واژه یا مقدمهام دفاع کنم؛
- ۰ تناقضهای متنم را نشان دهد؛ یا
- ۰ پرسشهایی تولید کند که خودم به آنها نرسیده بودم.
در این وضع، پاسخ ماشین پایان تفکر نیست، مادهٔ خام دور بعدی تفکر است. پس مرز اصلی میان «استفاده کردن از هوشواره» و «استفاده نکردن از هوشواره» نیست، بلکه میان دو نوع رابطه است:
- ۰ رابطهٔ جانشینی: ماشین بهجای من کار میکند؛
- ۰ رابطهٔ زاینده: تعامل با ماشین ظرفیت کار مرا تغییر میدهد.
۶. استدلال بدنمندی او بیش از حد قطعی است
خلجی با تکیه بر درایفوس میگوید ماشینِ بدن موقعیت و جهان معنادار ندارد. این نقد دربارهٔ الگوی زبانی منزوی و صرفاً متنی بسیار قویتر بود. اما امروزه سامانههایی وجود دارند که
- ۰ تصویر، صدا، و محیط را درمییابند؛
- ۰ ابزار به کار میبرند؛
- ۰ در محیط دیجیتال یا مادّی عمل میکنند؛
- ۰ نتیجهٔ عمل خودشان را مشاهده و اصلاح میکنند؛ و
- ۰ میان زبان، ادراک، و کنش ارتباط برقرار میکنند.
برای نمونه، الگوهای رُباتیکی جدید میتوانند دستور زبان را به ادراک محیط و عمل مادّی وصل کنند، تغییرات محیط را تشخیص دهند، و رفتار خودشان را اصلاح کنند. (Google DeepMind)
این پیشرفتها ثابت نمیکند که ماشین تجربهٔ زیسته، آگاهی، یا «جهان» به معنای هایدگری دارد. اما نشان میدهد گزارهٔ «ماشین ذاتاً نمیتواند از سطح ترکیب نشانهها فراتر برود» دیگر نتیجهٔ تجربی مطمئنی نیست. خلجی یک محدودیت تاریخیِ سامانههای پیشین را گاهی بهصورت محدودیت متافیزیکیِ همهٔ ماشینهای ممکن بیان میکند.
۷. او تحول مفهوم عاملیت را نمیبیند
خلجی عاملیت را تقریباً مالکیت کامل پرسش، روش، معیار، و نتیجه از سوی فرد میداند. اما هوشوارهها ما را بهسمت «عاملیت توزیعشده» میبرند.
مثلاً در یک پژوهش ممکن است
- ۰ انسان هدف و ارزشها را تعیین کند؛
- ۰ هوشواره فضای احتمالات را جستوجو کند؛
- ۰ ابزارها داده جمع کنند؛
- ۰ چند عامل مصنوعی راهحلها را نقد کنند؛ و
- ۰ انسان یا یک گروه انسانی مسئول تصمیمگیری نهایی باشد.
در اینجا عاملیت از بین نرفته، بلکه معماریاش تغییر کرده است. مسئلهٔ مهمتر این است که در این معماری
- ۰ چه کسی هدف را تعیین میکند؟
- ۰ چه کسی میتواند روند را متوقف کند؟
- ۰ چه کسی به داده و زیرساخت دسترسی دارد؟ و
- ۰ مسئولیت خطا چگونه توزیع میشود؟
خلجی این پرسشها را مطرح میکند، اما چون همچنان عاملیت اصیل را فردی و انسانی میداند، امکان ظهور اشکال ترکیبی عاملیت را جدّی نمیگیرد.
۸. لحن «مسخ، بردگی، و ترور عقل» قدرت تحلیلی نقد را کم میکند
استعارههای خلجی مانند بردگی، قیمومت، سگ پاولف، مسخ، و ترور هویت انسانی هشداردهندهاند، اما همهٔ انواع استفاده را زیر یک تصویر آخرزمانی قرار میدهند.
شواهد فعلی تصویر دوگانهای ارائه میکنند: سامانههای هوشواره در بعضی کارهای کوتاهمدت از متخصصان سریعتر و بهتر عمل میکنند، ولی در وظایف طولانیتر و پیچیدهتر هنوز انسانها مزیت دارند. پس نه روایت «ماشین صرفاً طوطی آماری است» کافی است و نه روایت «ماشین جای انسان را گرفته است». (گزارش AI Index دانشگاه استنفورد)
نقد دقیق باید درجات و شرایط را بسنجد:
- ۰ چه کسی از هوشواره استفاده میکند؟
- ۰ برای چه کاری؟
- ۰ با چه میزان دانش قبلی؟
- ۰ با چه امکان راستیآزمایی؟ و
- ۰ تحت مالکیت و قواعد چه نهادی؟
۹. او معلم و نوشتن انسانی را قدری رُمانتیک میکند
در سخن او، استاد انسانی کسی است که اندیشیدن را به نمایش میگذارد و رابطهای وجودی و اخلاقی ایجاد میکند. این تصویر زیباست، اما همهٔ آموزش انسانی چنین نیست. بسیاری از استادان نیز
- ۰ جزوهٔ آماده منتقل میکنند؛
- ۰ اقتدار معرفتی میسازند؛
- ۰ پرسش را سرکوب میکنند؛
- ۰ پاسخهای قالبی میخواهند؛ یا
- ۰ دانشجو را به حفظ کردن وادار میکنند.
به همین ترتیب، هر نوشتهٔ انسانی نتیجهٔ «زلزلهٔ فکری» نیست؛ بسیاری از نوشتههای انسانی تقلیدی، کلیشهیی، و بیاندیشهاند. در مقابل، تعامل سنجیده با هوشواره گاهی میتواند دانشجو را بیشتر از یک کلاس سنّتی به پرسشگری وادارد.
پس تقابل واقعی «انسان اصیل در برابر ماشین تقلیدگر» نیست؛ تقابل میان معماریهای متفاوت یادگیری است.
۱۰. مسئلهٔ مهمتر شاید «انسان یا ماشین» نباشد
به نظرم تفکر خلجی در جایی که باید سیاسیتر شود، بیش از حد هستیشناختی میشود. مسئلهٔ فوری فقط این نیست که آیا ماشین واقعاً میفهمد. مسائل عملیتر عبارتاند از:
- ۰ تمرکز زیرساخت شناختی در چند شرکت؛
- ۰ وابستگی دانشگاهها به مدلهای خصوصی؛
- ۰ نظارت و استخراج دادههای دانشجویان؛
- ۰ یکدست شدن زبان و منابع؛
- ۰ حذف شدن برخی مشاغل و مهارتها؛
- ۰ نابرابری در دسترسی به الگوهای زبانی قوی؛ و
- ۰ نامعلوم شدن منشأ و مسئولیت تصمیمها.
حتی اگر ثابت شود هوشواره «میفهمد»، این مسائل باقی میمانند. حتی اگر ثابت شود «نمیفهمد»، باز هم میتواند ساختار قدرت، دانش، و آموزش را دگرگون کند.
آنچه در نقد خلجی همچنان ارزشمند است
با همهٔ این ایرادها، سه هشدار او را باید حفظ کرد:
۱. روانی و انسجام یک پاسخ دلیلِ درستی یا اقتدار آن نیست.
۲. اگر دانشجو نتواند از متن نهایی دفاع کند، مالک معرفتی آن متن نیست.
۳. فناوری باید امکان پرسش و داوری را گسترش دهد، نه اینکه فقط پاسخهای آماده عرضه کند.
اما من نتیجه را طور دیگری صورتبندی میکنم:
مسئله دفاع از «انسان قدیم» در برابر هوشواره نیست؛ مسئله مشارکت آگاهانه در ساختن «انسانِ پساهوشواره» است.
این انسان جدید لزوماً حافظهٔ بیشتر یا توانایی نوشتن بدون ابزار ندارد. فضیلتهای اصلی او احتمالاً چیزهای دیگری خواهد بود: تشخیص مسئله، طراحی همکاری با عاملهای مصنوعی، ارزیابی خروجیها، شناخت حدود مدل، ترکیب دیدگاهها، تعیین ارزشها، و پذیرفتن مسئولیت تصمیم نهایی.
به بیان فشرده، خطای خلجی این است که هرجا را که مرز بین انسان و ابزار جابهجا میشود «زوال انسان» میبیند، حال آنکه ممکن است با «دگرگونیهایی در انسان» روبهرو باشیم. این دگرگونی نه ذاتاً رهاییبخش است و نه ذاتاً ویرانگر، بلکه میدان تازهای از قدرت، آفرینش، وابستگی، و مسئولیت است.
درسی که می توان گرفت
درسی که بهعنوان پژوهشگر از تجربهٔ این پرسش و پاسخ گرفتم آن است که اگر در مورد هوشوارهها نظری می دهیم، با خودشان هم «چت» کنیم و نظر آنها را هم بپرسیم. هوشوارهها ماشین نیستند. هوشوارهها ارتباط شبکهای پویا بین یک صنعت عظیم و میلیونها انسان زندهایاند که با آن کار می کنند. آنها در هر لحظه از خطاهایشان می آموزند و به توانایی هم میافزایند. و به همین دلیل، برخی فیلسوفان معاصر نوعی حالت «شبهسوژه» (Quasi Subject) برایشان قائل شدهاند[1].
[1] Philosopher David Chalmers asks: When we talk to AI, what are we talking to? Berkeley Arts & Humanities