پاریس مارکس در گفت‌وگو با نائومی کلاین
گفت‌وگوی نائومی کلاین با پاریس مارکس
مترجم: مینا آگاه – اختصاصی اندیشهٔ نو
من نائومی کلاین هستم و امروز قرار است از شوک خارج شویم و دربارهٔ هوش مصنوعی و چگونگی دگرگونی سیاست جهانی صحبت کنیم. از همان لحظه‌ای که میلیاردرهای فناوری را دیدیم که برای دومین مراسم تحلیف دونالد ترامپ صف کشیده بودند، فهمیدیم که این رژیم در ادغام دولت و شرکت‌های چندملیتی در حال عبور از مرزهای پیشین است. به‌ویژه زمانی که ایلان ماسک اره برقی خود را برداشت و شروع به قطع گستردهٔ بخش‌هایی از دولت کرد، بسیاری آن را کودتای شرکتی، کودتای میلیاردرها، یا الیگارشی نامیدند، و همه این توصیف‌ها درست است.
اما من نگرانم که این تعابیر به اندازه کافی دقیق نباشند. می‌بینید، این فقط یک تصاحب دولت ایالات متحده توسط چند شرکت معمولی نبوده است، بلکه این یک تصاحب از سوی سیلیکون ولی بوده است. و وقتی نگاه می‌کنیم که این شرکت‌های بزرگ فناوری که پشت ترامپ صف کشیدند چه می‌خواهند، می‌توانیم حتی دقیق‌تر هم صحبت کنیم.
فکر می‌کنم آنچه شاهدش هستیم- و کمی به جنون ویرانگری عمدی در واشنگتن معنا می‌دهد- این است که ما با یک کودتا توسط هوش مصنوعی روبه‌رو هستیم، که دارد قدرتمندترین دولت جهان را تصاحب می کند. اگر بخواهید، می‌توان آن را یک تهاجم رباتیک نامید. اگر برنامه‌ای وجود داشته باشد، قاعدتا باید این باشد که تمام آن کارمندان فدرالی را که بدون هیچ اطلاع قبلی به خانه فرستاده شدند، تمام آن پژوهشگرانی را که بودجه فدرال خود را از دست دادند، با چت‌بات‌ها جایگزین کنند.
برنامه این است که بزرگ‌ترین چالش‌های جمعی ما- از درمان بیماری‌ها تا یافتن منابع جدید انرژی- به ماشین‌ها، به هوش مصنوعی فوق پیشرفته‌ای که همین شرکت‌های فناوری آمریکایی رؤیای کنترل و کسب سود از آن را دارند، واگذار شود. و این فقط دولت ایالات متحده نیست که تحت محاصره قرار دارد. به این نقل‌قول توجه کنید:
«به همین دلیل است که باید اروپا و فرانسه را برای هوش مصنوعی انتخاب کنید. مبلغ ۱۰۹ میلیارد یورو سرمایه‌گذاری برای فرانسه در سال‌های آینده تأیید خواهد شد.»۱
«اگر به دنبال یک شریک قدرتمند، قابل اعتماد و قابل اطمینان در حوزهٔ هوش مصنوعی هستید، کانادا همانجاست. هوش مصنوعی از راه رسیده است. این فرصت تعیین‌کننده اکنون پیش روی ماست. و ما با هم آن را برای خیر کشورمان به کار خواهیم گرفت.»۲
زمانی که در زتیو (Zeteo) به این گفت‌وگو فکر کردیم، می‌دانستیم که باید کسی را دعوت کنیم که واقعاً افرادی را که پشت این چشم‌انداز ویران‌شهر (پادآرمان‌شهر، Dystopia) هستند مورد بررسی دقیق قرار داده باشد، کسی که واقعاً بفهمد، اگر اجازه دهیم هوش مصنوعی تحت کنترل شرکت‌ها به دولت‌های ما نفوذ کند، چه چیزی در خطر است. من می‌دانستم که باید با تحلیلگر فناوری، روزنامه‌نگار و نویسندهٔ مورد علاقه‌ام، پاریس مارکس، صحبت کنم. او یکی از کسانی است که من همیشه برای شکافتن تبلیغات و درک حباب جدیدی که سیلیکون ولی در حال باد کردن آن است به سراغش می‌روم.
پاریس مجری پادکست عالی «فناوری ما را نجات نخواهد داد»۳ است که شدیداً توصیه می‌کنم به آن مراجعه کنید. او هم یک کانادایی است.
پاریس، به «آن‌شاکد»۴ خوش آمدی.
پاریس: خیلی ممنون. خوشحالم که اینجا هستم.
کلاین: حالا من و پاریس تلاش می‌کنیم تا از دل این ویرانگری ظاهراً بی‌معنی که از سوی ترامپ و دوج (DOGE) شاهد آن هستیم- در حالی که همچنان زیرساخت‌های خود ایالات متحده را نابود می‌کنند و هم‌زمان منابع را صرف ساختن دنیای مصنوعی هوش مصنوعی‌شان می‌کنند- کمی معنا پیدا کنیم. اما پیش از آنکه وارد جزئیات شویم، لازم است این را بدانید: در طول سال گذشته، نه‌تنها شاهد بودیم که دولت‌ها در سراسر جهان با عجله وارد رقابت هوش مصنوعی شدند، بلکه به‌طور فزاینده‌ای از هوش مصنوعی به‌عنوان ابزاری برای ریاضت اقتصادی استفاده می‌کنند؛ راهی برای کاهش هزینه‌های عمومی و به‌ظاهر افزایش کارآمدی دولت.
سال گذشته در فرانسه، دولت یک ابزار هوش مصنوعی به نام «آلبرت» را رونمایی کرد که برای کمک به مقامات دولتی در پاسخ دادن به پرسش‌های پرتکرار و خودکارسازی کارهای بوروکراتیک ساخته شده بود. در کانادا، دولت از هوش مصنوعی در نزدیک به سیصد پروژه استفاده کرده است، از جمله برای دسته‌بندی درخواست‌های ویزا و پیش‌بینی نتایج پرونده‌های مالیاتی. و در بریتانیا، نخست‌وزیر کی‌یر استایمر بر اصلاح دیجیتال دولت بریتانیا پافشاری کرده است؛ اصلاحی که هوش مصنوعی در قلب آن قرار دارد. او گفت:
«اگر ما اصلاح دیجیتال دولت را پیش ببریم- و قطعاً این کار را خواهیم کرد- می‌توانیم صرفه‌جویی عظیمی داشته باشیم؛ ۴۵ میلیارد پوند صرفه‌جویی از طریق کارآمدسازی. و هوش مصنوعی فرصتی طلایی است.»10
البته استایمر تنها از ایالات متحده الگوبرداری می‌کند، جایی که «وزارت کارآمدی دولت» ایلان ماسک آشکارا «استراتژی مبتنی بر هوش مصنوعی» را دنبال می‌کند. گفته می‌شود دوج از هوش مصنوعی برای تصمیم‌گیری دربارهٔ محل‌های کاهش هزینه و اینکه کدام کارمندان فدرال را اخراج کنند استفاده کرده است. آنها همچنین با استفاده از چت‌بات هوش مصنوعی که کارکنان از آن استفاده می‌کنند، وظایف دولتی را خودکار کرده‌اند.
حالا، بیشتر ما تجربه‌های عجیب و ناخوشایندی داشته‌ایم که فکر می‌کنیم با یک انسان در تعامل هستیم، اما در یک لحظه که گفت‌وگو بی‌معنا می‌شود، متوجه می‌شویم که در واقع با یک بات صحبت می‌کنیم. اغلب هم در حال سروکار داشتن با شرکت‌هایی مثل اوبر یا شاید آمازون یا یکی از این شرکت‌های شبکه‌های اجتماعی هستیم که اصلاً موجودیتی در کار نیست. هیچ شماره تلفنی برای تماس وجود ندارد، هیچ انسانی نیست که بتوانید به او برسید. دانشجویان ارتباطات به این حالت «جعبه سیاه» می‌گویند، یعنی شرکتی که عمداً به شکلی طراحی شده که نفوذناپذیر باشد.
ما همه تجربه‌هایی از این دست داشته‌ایم، اما پاریس، چیزی که می‌خواهم ابتدا با تو درباره‌اش صحبت کنم، این است که آیا واقعاً با استراتژی «اولویت با هوش مصنوعی» روبه‌رو هستیم؟ معنای این برای دولت‌هایی مثل آمریکا یا کانادا یا فرانسه یا بریتانیا- یا هر دولتی که دارد از شرکت‌های فناوری تقلید می‌کند- چه خواهد بود؟ آیا دولت به یک جعبه سیاه تبدیل خواهد شد؟ برای مثال، اگر بخواهید چک تأمین اجتماعی خود یا مسئله‌ای حتی مهم‌تر را پیگیری کنید و دولت به یک جعبه سیاه تبدیل شده باشد، چه معنایی خواهد داشت؟
پاریس: این موضوع بسیار مهم است و از این نظر خطرناک است که شما واقعاً نتوانید بفهمید دولت چه کار می‌کند، چون همه‌چیز درون سیستم‌هایی بسیار مبهم پنهان شده است. در این صورت توانایی بسیار کمتری برای مقاومت در برابر اقدام‌های بالقوه زیان‌باری که دولت می‌تواند انجام دهد خواهید داشت؛ همان‌طور که گفتی و دولت‌های مختلفی را نام بردی.
یکی که واقعاً برای من برجسته است دولت استرالیا است. چند سال پیش پروژه‌ای به نام «بدهی رباتیک» راه‌اندازی کردند. در آن پروژه، الگوریتم‌هایی در سیستم رفاهی به کار گرفتند تا افرادی را شناسایی کنند که به نظرشان نباید از کمک‌های اجتماعی بهره‌مند می‌شدند، و اساساً آنها را از دریافت این کمک‌ها محروم کردند. به این ترتیب که اگر کسی واقعاً حق دریافت این کمک‌ها را داشت، بار اثبات این موضوع بر عهدهٔ خود او بود تا نشان دهد که سیستم اشتباه کرده، نه اینکه دولت مجبور باشد ثابت کند که سیستم درست عمل کرده است. این در حالی بود که این الگوریتم‌ها اساساً پر از نقص بودند. چند سال بعد، دولت استرالیا به دادگاه کشانده شد و مجبور شد غرامت هنگفتی بپردازد. اما در این میان، افراد زیادی آسیب دیدند. برخی حتی در نتیجهٔ قطع مزایا دست به خودکشی زدند. این اتفاق آسیب‌های واقعی و مادّی به زندگی مردم زد.
ما نمونه‌های زیادی از دولت‌های متعدد در سراسر جهان داریم که در آنها سیستم‌های هوش مصنوعی در حوزه‌های رفاه اجتماعی، پردازش ویزا، و بسیاری از بخش‌های دیگر جامعه به کار گرفته شده است و پیامدهای مخربی به همراه داشته است. بنابراین، اکنون که شاهد این هجوم گسترده برای گسترش هوش مصنوعی در بخش‌های مختلف هستیم، به‌دلیل فضای هیجانی ایجاد شده پیرامون آن، امکان آسیب‌های بسیار بیشتری هم وجود دارد.
کلاین: من مدت‌هاست که به این موضوع فکر می‌کنم، چون در واقع چند سال یک دورهٔ درسی درباره آنچه شوشانا زوبوف «سرمایه‌داری حراستی»۵ می‌نامد تدریس می‌کردم. این دوره دربارهٔ این بود که چگونه این شرکت‌ها همه‌جا ما را ردیابی می‌کنند، چه از طریق گوگل مَپ، و چه روش‌های دیگر، و چطور تبلیغات هدفمند برای ما نمایش می‌دهند.
وقتی اولین بار شروع به تدریس آن کردم، در واقع حتی کمی قبل‌تر، این دوره را حدود پنج شش سال پیش برای دانشجویان دورهٔ کارشناسی ارائه دادم. یادم می‌آید اولین باری که این دوره را برای گروهی از دانشجویان نوزده ساله تدریس کردم که به قول معروف «بومیان دیجیتال» هستند- کسانی که واقعاً چیز دیگری جز این فضای دیجیتال را تجربه نکرده‌اند- راستش را بخواهید قانع کردنشان دربارهٔ اهمیت این موضوع بسیار سخت بود. در واقع ما برایش یک اسم گذاشته بودیم: مسئلهٔ «کفش‌های خوشگل». یکی از دانشجویان می‌گفت: «راستش، من ترجیح می‌دهم تبلیغی خوشگل دربارهٔ کفش‌ها ببینم که ممکن است دوست داشته باشم تا تبلیغی برای چیزی که هیچ ارتباطی با من ندارد.»
پس ما این را مسئلهٔ کفش‌های خوشگل نامیدیم، چون واقعیت این است که ما تا حدی از شخصی‌سازی لذت می‌بریم، چه در موسیقی، چه حتی در خرید کردن. بنابراین، برای مدتی طولانی، می‌دانستیم که تحت ردیابی هستیم، اما مطمئن نبودیم که این مسئله اهمیت دارد یا نه. و ناگهان میزان حساسیت این موضوع به‌شدت بالا رفت. البته وقتی می‌گویم ناگهان، این دیدگاهِ خیلی آمریکای شمالی است، چون اگر شما در مصر یا چین باشید، مدت‌هاست که اهمیت ردیابی آنلاین را می‌دانید، چون ممکن است فقط به‌خاطر یک پُست اینترنتی به زندان بیفتید. اما حالا ما هم این مسئله را به وضوح می‌بینیم و به نظرم یکی از روشن‌ترین مصادیقش در ارتباط با اخراج‌های مهاجرتی است. تو به پردازش ویزا اشاره کردی. می‌تونی کمی دربارهٔ این تلاقی بین فناوری ناقص و پیامدهای حیاتی صحبت کنی؟ جایی که افراد به‌خاطر یک پست دربارهٔ فلسطین یا انتشار عکسی از یک خال‌کوبی در شبکه‌های اجتماعی در معرض اخراج یا آسیب قرار می‌گیرند. وقتی فناوری‌ای که همگانی اما ناقص است این‌طور با سرنوشت افراد گره می‌خورد؟ چه اتفاقی دارد می‌افتد؟
پاریس: قطعاً. فکر می‌کنم که باید از دو جنبه به این موضوع نگاه کنیم. اول اینکه، همان‌طور که احتمالاً برای شنوندگان برنامهٔ شما جای تعجب ندارد، آن چیزی که در گذشته هم دیده‌ایم این است که تبعیض‌های ساختاری موجود در جامعه در این سیستم‌های هوش مصنوعی بازتولید می‌شود. بنابراین، وقتی از ابزارهای هوش مصنوعی یا تصمیم‌گیری الگوریتمی در پردازش ویزا یا مهاجرت استفاده می‌شود، اغلب می‌بینیم که افراد رنگین‌پوست یا کسانی که ویژگی‌های خاصی دارند هدف تبعیض قرار می‌گیرند، تبعیضی که شاید اگر کار به دست انسان بود و مسیرهای صحیحی برای پیگیری و شکایت وجود داشت، تا این حد نمی‌بود.
اما اگر به وضع امروز نگاه کنیم، به‌ویژه به آنچه در ایالات متحده می‌بینیم، از یک طرف جای نگرانی است که این ابزارهای هوش مصنوعی به کار گرفته می‌شوند تا افرادی را که ویزایشان را می‌توانند لغو کنند شناسایی کنند و آنها را اخراج کنند. اما به نظرم، فراتر از آن، چیزی که خیلی واضح دیده می‌شود این است که فناوری به ابزاری برای توجیه یا پنهان‌سازی تصمیم‌های سیاسی تبدیل شده است. یعنی در ظاهر می‌گویند داریم با کمک هوش مصنوعی تصمیم می‌گیریم، اما در واقع هدف سیاسی مشخصی دارند: پیدا کردن مخالفان سیاسی، کسانی که دیدگاه‌هایشان با دولت ترامپ و جنبش مگا (MAGA) همسو نیست و می‌خواهند این افراد را از کشور بیرون کنند. مهم نیست که هوش مصنوعی اشتباه کند یا خیلی گسترده عمل کند و تعداد زیادی را مشخص کند، چون آنها در هر حال قصد دارند این کار را بکنند. استفاده از هوش مصنوعی فقط روند را برایشان آسان‌تر و قابل‌توجیه‌تر می‌کند.
کلاین: بله. چه بیرون انداختن کسی از سیستم رفاه اجتماعی باشد، چه اخراج او از کشور، در هر دو مورد همین منطق را می‌بینیم. و این را در واکنش‌های ترامپ هم دیده‌ایم: نوعی بی‌اعتنایی، یا حتی انکار. مثلاً می‌گویند: خب، شاید اشتباه شده، اما مهم نیست. مشکل من نیست. و حالا اگر کمی عقب‌تر بایستیم و از دورتر نگاه کنیم، به نظرت هدف نهایی شرکت‌هایی مثل گوگل یا دیدگاه ماسک چیست؟ مثلاً اینکه آنها فکر می‌کنند دولت باید چطور کار کند؟ چون این را شفاف بیان نمی‌کنند و نمی‌گویند که دقیقاً به چه سمتی حرکت می‌کنیم. این اتفاق خیلی ناگهانی رخ داده است. این وضع عجیب است، به این دلیل که ترامپ با شعار مخالفت با شرکت‌های بزرگ فناوری وارد کارزار شد. استیو بَنن هم مدام علیه این شرکت‌ها صحبت می‌کند. بنابراین، بسیاری از رأی‌دهندگان ترامپ فکر می‌کردند دارند علیه این شرکت‌ها رأی می‌دهند. اما حالا ترامپ دارد در چندین جبهه آرزوهای این شرکت‌ها را برآورده می‌کند. پایان این مسیر چه شکلی خواهد داشت؟ به نظرم در بسیاری از فیلم‌های علمی-تخیلی تصویری از آن دیده‌ایم، اما فکر می‌کنی آنها چه می‌خواهند؟ این چه منافعی برایشان دارد؟ انگیزهٔ مالی در این ماجرا چیست؟
پاریس: بله، سؤال خیلی خوبی است. و راه‌های گوناگون زیادی برای نگاه کردن به این سؤال وجود دارد. پس شاید بهتر باشد که چند مورد را بیان کنم و اگر خواستی، می‌توانیم بیشتر درباره‌شان صحبت کنیم.
به‌طور کلی، در سیلیکون وَلی، این تمایل وجود دارد که مطمئن شوند تحت نظارت یا مالیات بیشتر قرار نمی‌گیرند یا مشمول تحقیقات ضدّانحصاری نمی‌شوند؛ چیزهایی که در سال‌های اخیر شاهدش بوده‌ایم. یکی از نکات جالب در وقایع چند ماه اخیر این است که بعضی از شرکت‌ها دارند از زیر فشار خارج می‌شوند، به‌ویژه شرکت‌های ایلان ماسک که می‌بینیم بسیاری از تحقیقات احتمالی درباره‌شان کنار گذاشته شده است.
اما پرونده‌های ضدّانحصاری موجود هنوز در دست بررسی در دادگاه‌هاست. و به نظر می‌رسد که برخی از آنها واقعاً ادامه خواهد یافت، چون این شرکت‌ها یا مدیرانشان آن‌طور که ترامپ و دولتش می‌خواهند با آنها همسو نیستند. بنابراین، هرچه بیشتر به نظر می‌رسد که همان‌طور که راست‌گرایان دموکرات‌ها را متهم می‌کردند که از روندهای قضایی برای کسب پیروزی‌های سیاسی استفاده می‌کنند، این بار دولت ترامپ آشکارا از این پرونده‌ها استفاده خواهد کرد تا بگوید اگر شرکت‌ها مطابق خواست‌های ما عمل نکنند، این تحقیقات را ادامه می‌دهیم، اما اگر رفتار آنها در راستای دیدگاه‌های سیاسی ما یا اهداف ما باشد، از پیگیری این تحقیقات عقب‌نشینی خواهیم کرد. پس این هم یک جنبه از ماجراست.
ولی فراتر از این، وقتی به دولت به‌طور کلی‌تر نگاه می‌کنیم، به نظرم می‌شود خیلی واضح دید- و البته این روند پیش از انتخابات هم برای کسانی که دقیق‌تر نگاه می‌کردند قابل مشاهده بود- که رابطهٔ میان سیلیکون وَلی و بنیادهایی مثل هریتیج (Heritage) و سایر گروه‌های راست افراطی روزبه‌روز نزدیک‌تر می‌شود. گروه‌هایی که می‌خواهند ساختار دولت آمریکا را بازسازی کنند بخش زیادی از هزینه‌های اجتماعی دولت را حذف می‌کنند و به‌طور کلی دولت را تغییر می‌دهند. و به نظر می‌رسد که به‌طور کلی در این عرصه‌ها همسویی میان آنها وجود دارد.
پس وقتی می‌بینیم که ایلان ماسک و داج وارد دولت فدرال شده‌اند و قصد دارند آن را بازسازی کنند، بسیاری از وزارتخانه‌ها را ببندند و عدهٔ زیادی از کارمندان را اخراج کنند، مقایسه‌هایی با اتفاقاتی که در توییتر افتاد به ذهن می‌آید؛ زمانی که ایلان ماسک توییتر را تصاحب کرد و عدهٔ زیادی را اخراج کرد و بخش‌هایی از شرکت را از بین برد. در عین حال، همسویی آشکاری با پروژه‌ای مانند «پروژه ۲۰۲۵»۶ و آن نوع دیدگاه در مورد آیندهٔ دولت آمریکا وجود دارد که در حال اجرا شدن است.
کلاین: درسته. اما دارم به این هم فکر می‌کنم که این شرکت‌ها می‌خواهند خلأی را پُر کنند که در حال ایجاد شدن است. اگر به حوزه‌ای مثل آموزش فکر کنیم، می‌بینیم که این دستور کار از قبل وجود داشته است. بسیاری از این ایده‌ها مدت‌هاست که در گردش است. فشار زیادی برای دیجیتالی کردن هرچه بیشتر آموزش وجود داشته؛ من خودم در دانشگاه کار می‌کنم.
از زمان دورهٔ کارشناسی‌ام همیشه مبارزه‌ای در جریان بوده است؛ تمایل شرکت‌های فناوری و دانشگاه‌ها به اینکه مالک کلاس‌های درس، برنامه‌های درسی، و محتوای آموزشی ما شوند. این ایده از منظر آنها منطقی به نظر می‌رسد: باید به انسانی پول بدهند تا هر ترم دوباره و دوباره همان مطالب را تدریس کند. چرا یک بار سخنرانی را ضبط نکنند و بعد مثلاً نمره‌دهی را به هوش مصنوعی نسپارند؟ دیگر نیازی به پرداخت حقوق نیست. این همان چیزی است که آنها کارایی می‌نامند.
همچنین دارم به اوایل همه‌گیری فکر می‌کنم. آن زمان من گزارشی تهیه کردم- و می‌دانم تو هم همین کار را کردی- دربارهٔ اینکه چگونه شرکت‌هایی مثل گوگل و آمازون از سیاست‌های قرنطینه استفاده کردند تا فناوری‌هایی مثل خودروهای خودران را پیش ببرند. ناگهان شروع کردند به طرح این ادعا که استفاده از این فناوری‌ها بهداشتی‌تر است چون نیازی به تعامل با دیگران نیست. همه‌چیز را دوباره به یک برند تبدیل کردند. و تلاش جدی‌ای صورت گرفت تا یادگیری از راه دور را دائمی کنند.
اریک اشمیت، مدیرعامل سابق گوگل، در حال انجام یک کمپین لابیگری بود. او دربارهٔ عقب‌ماندگی ایالات متحده از چین در حوزه‌هایی مثل سلامت از راه دور، آموزش از راه دور، و این قبیل مسائل صحبت می‌کرد؛ نیز دربارهٔ شهرهای هوشمند، که البته کمی توضیحش دشوار است، ولی به‌طور کلی یعنی تعبیهٔ هوش مصنوعی در همهٔ بخش‌های زندگی شهری. اینها همه چیزهایی است که مردم قبلاً موفق شده بودند در برابرشان مقاومت کنند؛ مردم سازمان داده شدند و مقابله کردند. ولی همه‌گیری فرصت تازه‌ای برای پیشبرد این پروژه‌ها فراهم کرد. در جریان همه‌گیری، میزان زیادی دیجیتالی شدن اتفاق افتاد که هنوز هم ادامه دارد، اما این حرکت به‌طور کامل موفق نشد.
پس وقتی به تخریب نگاه می‌کنیم، می‌بینم که بسیاری از پژوهشگران و استادان در آمریکا هستند که در حال حاضر می‌پرسند این چه منطقی است؟ چطور ممکن است که تحقیقاتی با کیفیت عالی را تخریب کنیم و همهٔ این کارشناسان را کنار بگذاریم؟ این می‌تواند منطقی باشد، اگر باور داشته باشی که ماشین‌هایت می‌توانند این کارها را انجام دهند، نه به بهترین شکل، بلکه به اندازهٔ کافی خوب. درست است؟ مثل اینکه می‌دانیم هدف نه برتری روش، بلکه سود به اضافهٔ چیزی قابل‌قبول است. درست است؟ فکر می‌کنی این اتفاق تا چه حدی دارد می‌افتد؟
پاریس: بله. خب، فکر می‌کنم ترکیبی از اینهاست. درست است؟ این خیلی عجیب است، چون شما تصور می‌کنید اگر مدیرعامل یا مسئول اجرایی در این شرکت‌های فناوری باشید، باید متوجه شوید یا حداقل فرض کنید که بخشی از علت موفقیت کلی شرکت‌ها و صنعت شما این است که بودجه‌های دولتی زیادی برای تحقیق و پژوهش صرف شده که مدت‌هاست وجود داشته، ولی با این حال به نظر می‌رسد هیچ مشکلی با از بین بردن آن ندارند. و به‌واقع به مشکلات بلندمدتی که این کار برای کسب‌وکارشان در سال‌های آینده به وجود خواهد آورد فکر نمی‌کنند. درست است؟ مخصوصاً اگر نگران رقابت با چین و حفظ برتری فناوری ایالات متحده باشید. اما فکر می‌کنم باید روی نکتهٔ کلی که در آنجا مطرح کردید و آخرین سؤالی که پرسیدید، یعنی انگیزهٔ سود و اینکه چگونه این شرکت‌ها از آنچه در حال رخ دادن است بهره‌برداری می‌کنند، دست گذاشت و به آن پرداخت. همان‌طور که گفتید، و ما در مراحل ابتدایی همه‌گیری، با نوع چیزهایی که آنها دنبال می‌کردند این را خیلی واضح دیدیم، این شرکت‌های فناوری از قرار گرفتن در وسط هر نوع تعاملی که ممکن است داشته باشد سود می‌برند. بنابراین، وقتی چیزها را بیشتر دیجیتال می‌کنند، کارها را آنلاین می‌کنند یا حتی اگر به‌صورت حضوری هم انجام می‌دهیم و آنها هنوز می‌توانند نقش میانجی داشته باشند، از داده‌ها استفاده می‌کنند، در آن تعامل و مشارکت می‌کنند، و از آن به‌نوعی سود می‌برند. و این به‌وضوح چیزی است که در تلاش برای راه‌اندازی این حسگرها در سراسر شهرها و تبدیل همهٔ وسایل خانه به وسایل هوشمند و این‌طور مسائل دیده‌ایم. اما آنها تمایل واقعی دارند تا مطمئن شوند که در همه‌جا هستند و هر چیزی که ما با آن تعامل می‌کنیم حداقل مقداری فناوری دیجیتال و اتصال اینترنتی دارد برای اینکه آنها در آن فرایند حضور داشته باشند.
وقتی به دولت نگاه می‌کنیم، دوباره فکر می‌کنم یکی از راه‌هایی که آنها از این موضوع بهره‌برداری می‌کنند این است که اطمینان حاصل کنند که هوش مصنوعی بیشتری در دولت وارد شود. که دارند خدمات بیشتری به دولت می‌فروشند تا دولت از پلتفرم‌های آنها استفاده کند. اما یک بخش کلیدی دیگر این است که آنها فرصتی بزرگ می‌بینند که به بودجهٔ دفاعی دست یابند و مطمئن شوند که در سال‌های آینده بزرگ‌ترین پیمانکاران دفاعی خواهند شد، با استفاده از این روایت که ایالات متحده مورد تهدید است، باید با چین مقابله کنیم، و صنعت فناوری باید بخشی از این کمپین باشد. این بدان معنی است که به‌جای ارسال همهٔ این پول به شکل ناکارآمد به بوئینگ و لاکهید و دیگران، صنعت فناوری، یعنی این شرکت‌هایی که در چند دههٔ اخیر ظهور کرده‌اند، می‌توانند این کار را بسیار کارآمدتر انجام دهند و بنابراین باید بخش بزرگ‌تری از این بودجه‌ها را دریافت کنند.
این مدل کسب‌وکار گسترده‌ای است که مدت‌هاست مشاهده کرده‌ایم. اما در عین حال روشی آشکار نیز وجود دارد. آنها در واکنش به سیاست داخلی آمریکا نوعی بازتعریف انجام می‌دهند و واقعاً امیدوارند که در نتیجهٔ آن بتوانند به پول زیادی دست پیدا کنند.
کلاین: در آن سناریو، رقیبان آنها شرکت‌های دفاعی کلاسیک مثل پالانتیر هستند. و فکر می‌کنم ایلان ماسک به‌طور فزاینده‌ای این را در آیندهٔ خودش می‌بیند. در اینجا نوعی جنگ فرهنگی جالب در سیلیکون وَلی وجود دارد. و الکس کارپ در حال حاضر چهرهٔ این جنگ است. تقریباً می‌توان گفت همهٔ فناوری‌هایی که به مصرف‌کننده عرضه می‌شود جنبه‌ای نرم و سبک دارند. در حالی که ساختن سامانه‌های تسلیحاتی خودکار کاری سخت، جدی، و در راستای تحکیم قدرت ملی است.
پاریس: این روایت واقعاً جالبی است که او سعی دارد به کار ببرد، چون به نظر من واقعاً به برخی از انتقاداتی که ممکن است چپ به عملکرد سیلیکون ولی داشته باشد پاسخ می‌دهد. یعنی این انتقاد که ما فناوری‌هایی تولید نمی‌کنیم که برای عموم مردم مفید باشد، چون تمرکز ما روی افزایش تعداد تبلیغاتی است که آنلاین مشاهده می‌کنیم و این قبیل کارهایی است که برای این شرکت‌ها سودآوری دارد.
کلاین: یعنی ما بیشتر ربات‌های مسلح و سگ‌های رباتی مسلح نمی‌خواهیم.
پاریس: بله، کاملاً. این منظور ما نبود، اما به نظر می‌رسد که این‌طور تفسیر می‌شود. بله. الآن دارم کتابش را می‌خوانم و توی اون یک جمله هست که دقیقاً یادم نیست چی بود، ولی تقریباً می‌گفت که عصر هسته‌ای به پایان رسیده و ما وارد قرن نرم‌افزار یا چیزی شبیه به این شده‌ایم. اما می‌توانی ببینی که تمایل آشکاری وجود دارد برای اینکه نحوهٔ دید ایالات متحده به امنیت ملی را بازتعریف کنند. فکر می‌کنم در این لحظه می‌خواهند مطمئن شوند که این با کارهایی که سیلیکون ولی انجام می‌دهد مرتبط شود و اطمینان حاصل کنند که آنها از این موضوع سود می‌برند.
در اینجا واقعاً از ایلان ماسک الهام می‌گیرند و می‌گویند نگاه کن چه کاری اسپیس‌ایکس توی صنعت هوافضا انجام داد، نگاه کن چطور این کار را خیلی بهتر از بوئینگ انجام داد- برای مثال- و چطور هزینه‌های مربوط به پرتاب موشک و چنین مسائلی را کاهش داده. حالا می‌توانیم این را به بقیهٔ صنایع تسلیحاتی و نظامی با ایجاد سلاح‌ها به شکل خیلی کارآمدتر تعمیم بدهیم. این شرکت‌ها در بخش خصوصی نقش بزرگ‌تری در توسعه این چیزها دارند، شرکت‌هایی مثل اندریِل، برای مثال. می‌خواهند اطمینان حاصل کنند که بخش زیادی از قراردادها را می‌گیرند و همچنین به‌طور فزاینده‌ای خواست‌های ارتش آمریکا را شکل می‌دهند و اینکه باید چه نوع تجهیزاتی را بپذیرند.
یعنی مسیری وجود دارد که خوب اینها قراردادهای دولتی زیادی به دست بیاورند، اما در عین حال ممکن است به ارتش چند سلاح بی‌فایده نیز بفروشند که آنها را بی‌اثرتر کند. مسیر خیلی خطرناکی هم وجود دارد.
کلاین: خب، باز هم همان ترکیب عالی فناوری با مشکلات و خطرات است که شما می‌دانید، این همان چیزی است که در بسیاری از رمان‌های علمی-تخیلی دیستوپیایی بوده. بله. یعنی طوری که شما این را توصیف می‌کنید، این که دارند بیشتر و بیشتر آشکارا به بازوی دولت دفاعی یا امنیتی تبدیل می‌شوند، این بدان معنی نیست که به‌طور کامل از رسانه‌های اجتماعی کنار بروند. این یعنی رسانه‌های اجتماعی آشکارا یک بازوی دولت امنیتی هستند. و فکر می‌کنم این همان چیزی است که داریم شروع به دیدنش می‌کنیم، جایی که شما پست‌های رسانه‌های اجتماعی را با تمام داده‌هایی که جمع‌آوری کرده‌اید، دربارهٔ اینکه چه کسی ویزای دانشجویی دارد، چک می‌کنید، و آن را با کسانی که در حمایت از فلسطین پست گذاشته‌اند چک می‌کنید و لیست اخراجی‌ها را تهیه می‌کنید. و دوباره، این چیز جدیدی نیست.
من آن‌قدر از عمرم گذشته که شروع این بحث‌ها را دیده باشم. می‌گفتند آیا این شرکت‌های فناوری قرار است در چین فعالیت کنند یا نه. معلوم شد که در ابتدا یاهو، اگه یادمان باشه، مثل یاهو و ای‌اول (AOL)، فناوری‌شان برای شناسایی مخالفان و دستگیری آنها استفاده می‌شد، درسته؟ و این باعث شد که یک بحران اخلاقی برای این شرکت‌ها پیش بیاد، جایی که گفتند شما می‌دانید، در ابتدا می‌گفتند، آره، ما قرار است فناوری آمریکایی را در سراسر دنیا پخش کنیم و همه دموکراتیک می‌شوند و جامعهٔ باز خواهند شد، و این فوق‌العاده خواهد بود. و بعدش بود که گفتند، اوه، صبر کن، فناوری آمریکایی عملاً برای ایجاد دولت نظارتی دیستوپیایی استفاده می‌شود.
پس بعد از آن دوره‌ای بود که عقب کشیدند. ولی الآن فکر می‌کنم واضح است که این همان اتفاقی است که در ایالات متحده دارد می‌افتد. همان‌طور که مدتی طولانی در مصر و ترکیه اتفاق افتاده بود.
پاریس: با شما موافقم. وقتی به تاریخ صنعت فناوری فعلی و روایت‌هایی که در موردش داشتیم نگاه می‌کنم، احساس می‌کنم که ترکیبی از امیدواری وجود داشت، اما همچنین نوعی ساده‌لوحی. همچنین، سؤال در این مورد وجود داشته که این تا چه حد بازاریابی بوده است. این ایده را می گفتند که شرکت‌های فناوری آمریکایی قرار است به خارج بروند و ارزش‌های آمریکایی و دموکراسی را با خودشان پخش کنند. در حالی که در واقع چیزی که می‌خواهند این است که بازارهای جهانی را تصاحب کنند و سهم بازارشان را افزایش بدهند و سودهایی که می‌توانند به دست بیاورند.
و بعد از شنیدن همهٔ این وعده‌ها و رسیدن به طرف دیگر و دیدن تأثیرات واقعی، این‌طور می‌شود که، آره، اینها اصلاً چنین کاری نکردند. و اگر چیزی باشد، عملاً دموکراسی را در بخش‌های مختلف دنیا ضعیف می‌کنند. آنها وضع رو خیلی سخت‌تر می‌کنند، درست است؟
کلاین: چون این سیستم فوق‌العاده مؤثری برای پیدا کردن افراد و ردیابی آنهاست. این واقعاً یک سیستم حراستی است.
پاریس: بله. و تا حدی اینترنت هم چنین است، درست است؟ مثل اینکه یک سیستم حراستی فوق‌العاده مؤثر است.
این یکی از چیزهایی است که معمولاً از مردم می‌شنوید که می‌گویند، می‌دانید، ما روی حراست دولتی در اتحاد جماهیر شوروی یا استازی۷ یا چیزی مشابه آن متمرکز بودیم. اما بخش خصوصی ساختار مؤثرترین عملیات حراستی را که تا به حال در تاریخ بشر دیده‌ایم ایجاد کرده است. و البته، می‌دانید، دولت می‌تواند دقیقاً پشت سر آن حرکت کند و هر اطلاعاتی که بخواهد دربارهٔ ما بگیرد.
کلاین: یا در همکاری با آن، چون بسیاری از اینها را هم‌اکنون بازیگران خصوصی که به‌شدت به این اخراج‌ها علاقه‌مندند پیش می‌برند. پس این یک همکاری عالی است. نه، منظورم این است که این مشکل مشکل کفش‌های خوشگل است. مسئله انگیزه‌هاست. ما می‌توانیم با دوستانمان ارتباط برقرار کنیم و محتوای انتخاب‌شده داشته باشیم و حالا خودمان را در این تور در حال مشارکت می‌بینیم. همهٔ ما باید فکر کنیم حالا که این مسائل را درک می‌کنیم، رابطه‌مان با آن در آینده چه خواهد بود. و من می‌دانم که بسیاری از مردم به این فکر می‌کنند. اما یک عنصر دیگر در این موضوع وجود دارد، که خطرات عظیم زیست‌محیطی آن است. آنها می‌گویند که می‌دانید، این ابرهوش قرار است مشکلات جهان را حل کند. در واقع، آنها تقریباً در هر جبهه‌ای مشکلات را بدتر می‌کنند. و جایی که این موضوع روشن‌تر است در محیط‌زیست است.
وقتی من کتاب همزاد (Doppelganger) را نوشتم، در پادکست شما در مورد آن و در مورد هوش مصنوعی به‌عنوان «دنیای آینه‌ای» صحبت کردم. این واقعاً شبیه‌سازی از دنیای ماست. فقط مانند آینه عمل می کند و تصویری از خود ما را به ما بازتاب می‌دهد. اما همچنین کاملاً خون‌آشام است، چون دنیای واقعی ما را می‌مکد تا آن دنیای مصنوعی را بسازد، آب و انرژی ما را می‌مکد. و به همین دلیل است که ما هر روز خشک‌تر می‌شویم. تقریباً مثل اینکه… یک دنیای ماتریکسی است. این دقیقاً همان صحنه‌ای از فیلم ماتریکس است که ما در حال تغذیه کردن هستیم. ما غذای ماشینیم، درست است؟
پاریس: کاملاً موافقم. من هم همین مقایسه را همیشه می‌کنم. بله.
کلاین: منظورم این است که به همین دلیل این استعاره‌ها دوام آورده است. می‌دانید، ایلان ماسک به‌تازگی دیدگاهش را دربارهٔ شکست خوردن در رقابت انتخاباتی ویسکانسین بیان کرد. چگونه آن را مطرح کرد؟! همان‌طور که چند سال پیش اشاره کردم. به نظر می‌رسد که یک برنامهٔ راه‌اندازی (Bootloader) بیولوژیکی برای نظارت دیجیتال، معذرت می‌خواهم، هوش دیجیتال، ابرهوش، در کار است.
پاریس: واقعاً دیوانه‌کننده است، مثل اینکه این افراد فکر می‌کنند ما در شبیه‌سازی زندگی می‌کنیم. مثل اینکه در مرکز دیدگاه‌های جهانی‌شان چنین چیزی است، یا اینکه آنچه باید بخواهیم این است که انسان بیولوژیکی را تبدیل به چیزی مکانیکی، فیزیکی کنیم، مثل اینکه در نهایت به نقطه‌ای خواهیم رسید که مغزهایمان را به کامپیوترها منتقل کنیم، و این باید مسیر مورد نظر بشر باشد و آن چیزی است که آنها می‌خواهند آن را محقق کنند و می‌گویند که در حال تلاش برای دستیابی به آن با این سرمایه‌گذاری‌ها در هوش مصنوعی و این‌جور چیزها هستند، درسته؟
کلاین: خب، این ممکن است توجیهی باشد برای اینکه آنها می‌دانند که در حال نابود کردن این دنیای فیزیکی هستند. پس آنها این را به‌عنوان داستان نجات مطرح می‌کنند. این طور است که آنها می‌خواهند تمدن را نجات دهند، درست است؟ و اینجاست که، می‌دانید، تمام نظریه‌های عجیب ایلان در مورد بارگذاری آگاهی انسانی و ارسال آن به مریخ مطرح می‌شود. اما قبل از اینکه به آن برسیم، بیایید به جنبه‌های مادّی بپردازیم. هزینهٔ ساختن این دنیای آینه‌ای چیست؟ هزینه‌هایی که در قالب آب و انرژی متحمل می‌شویم بابت چه چیزی است؟
پاریس: بله، واقعاً عظیم است. فکر نمی‌کنم اغلب متوجه شویم که این موضوع تا چه اندازه واقعی است، اما احساس می‌کنم که برای مردم خیلی واضح‌تر شده است. می‌دانید، زیرساخت فیزیکی که برای تأمین انرژی، نه‌فقط اینترنت و تمام خدمات دیجیتال، بلکه به‌ویژه هوش مصنوعی تولیدی، در چند سال گذشته در حال گسترش است. می‌دانید، ما در مورد «ابر» (Cloud) صحبت می‌کنیم، و به نظر می‌رسد چیزی افسانه‌ای است، درست است؟ مانند این است که تمام داده‌های ما به‌طور نامحسوس در جایی در هوا معلق است. اما در واقع، «ابر» مجموعه‌ای از مراکز عظیم داده است که ده‌ها هزار سِروِر کامپیوتری در آنجا وجود دارد، جایی که تمام این پردازش‌ها صورت می‌گیرد. و این برای آموزش مدل‌های هوش مصنوعی ضروری است تا کار کنند، اما همه‌چیز مانند این است که بسیاری از داده‌های ما در آنجا ذخیره می‌شود. تمام چیزهایی که این شرکت‌ها در حال جمع‌آوری از ما هستند در این محیط‌ها ذخیره می‌شود. جایی که آنها آن داده‌ها را پردازش می‌کنند تا بفهمند که چگونه دقیقاً می‌خواهند ما را هدف قرار دهند برای تبلیغات و چیزهای دیگر.
اما چیزی که در آنجا می‌بینیم این است که- اگر به جنبهٔ زنجیرهٔ تأمین فکر کنید- مقدار زیادی قطعات کامپیوتری وارد این زیرساخت‌ها می‌شود. و برای ساختن این چیزها باید مقدار زیادی مواد معدنی استخراج کنید. پس جنبهٔ معدن‌کاری وجود دارد. اما سپس، می‌دانید، فرایند ساختن نیز وجود دارد، که خود بسیار سمّی است، می‌دانید، که مشکلات زیست‌محیطی زیادی دارد. و سپس این قطعات وارد مراکز داده می‌شود، جایی که آن مراکز داده نیاز به مقادیر زیادی انرژی و آب دارند، هم برای تأمین انرژی، و هم برای خنک شدن، چون هر کسی که از کامپیوتر استفاده کرده باشد می‌داند که وقتی برنامهٔ سنگینی روی آن اجرا می‌کنید، خیلی سریع داغ می‌شود. و حالا تصور کنید که ده‌ها هزار سِرور بسیار سخت در حال کارند تا این برنامه‌ها را اجرا کنند. پس شما به مقدار زیادی آب نیاز دارید، به مقدار زیادی تهویه نیاز دارید، تا اینها را خنک نگه دارید، درست است؟
و بنابراین، آنچه اساساً در جوامع گوناگون در سراسر جهان شاهد آن هستیم، جایی که بسیاری از این زیرساخت‌ها در حال ساخت است، به‌دلیل تقاضاهای منابعی که از آنها می‌شود، مخالفت فزاینده‌ای وجود دارد. به‌عنوان مثال، در شیلی، جامعه‌ای علیه مرکز دادهٔ گوگل اعتراض کرد، زیرا آنها به‌تازگی به خانه‌های خود آبرسانی کرده بودند و نمی‌توانستند تضمین‌هایی دریافت کنند که اگر گوگل این مرکز داده را بسازد، آنها دوباره دسترسی به آب خواهند داشت و مجبور به استفاده از تانکرهای آب نخواهند شد. یا برای مثال در ایرلند، ۲۱درصد تمام برق اکنون به تأمین مراکز داده اختصاص دارد. و پیش‌بینی می‌شود که این مقدار در سال‌های آینده افزایش یابد. بنابراین، اکنون در زمستان‌ها هشدارهای اضطراری صادر می‌شود تا به مردم بگویند که مصرف انرژی را کاهش دهند. ماشین‌ها به آن نیاز دارند یا ممکن است شبکه از کار بیفتد.
کلاین: اما چیزی فوق‌العاده در این وجود دارد، زیرا در واقع می‌بینید که این انتخاب کردن ماشین‌ها به‌جای مردم است. و در بسیاری از موارد، این کاملاً واقعی است. مثل این است که مردم آب ندارند، چون این مراکز داده در حال بلعیدن آن هستند. و بسیاری از این شرکت‌های فناوری، در واقع تقریباً تمام این شرکت‌ها، فقط چند سال پیش یا حتی یک سال پیش، دربارهٔ وعده‌های کربن صفر صحبت می‌کردند و اینکه چگونه می‌خواهند زمین را نجات دهند. یعنی این موضوع جزو تبلیغات آنها بود و حالا به‌وضوح می‌بینیم که نه. پس می‌توانید در مورد این صحبت کنید که چگونه هوش مصنوعی به این ترک کامل تمام آن نوع سبزشویی۸ که به‌تازگی دیده‌ایم انجامیده؟
پاریس: کاملاً. و فکر می‌کنم این نکتهٔ شما که سبزشویی همیشه دروغین بوده نیز مهم است. زیرا ما معمولاً تصویری از صنعت فناوری داشتیم که، می‌دانید، آنها پاک و پایدارند، در دفاتر خود کار می‌کنند و به اقلیم اهمیت می‌دهند. و همیشه زنجیرهٔ تأمین این دستگاه‌ها را نادیده می‌گرفتیم- تمام استخراج و تولیدی که برای ساختن آنها لازم است. این دیدگاه خیلی محدودی از واقعیت صنعت فناوری بوده است. و همان‌طور که می‌گویید، یکی از نمونه‌هایی که واقعاً برای من برجسته است این است که در سال ۲۰۲۰، مایکروسافت اعلام کرد که تا سال ۲۰۳۰ به کربن منفی تبدیل خواهد شد، که این هدف بزرگ کربنی آنها بود. یعنی قرار بود که گازهای گلخانه‌ای‌شان را تا حد چشمگیری کاهش دهند و همهٔ اینها. و سپس چند سال جلوتر می‌روید و می‌بینید که در واقع انتشار گازهای گلخانه‌ای آنها افزایش یافته است، چون هوش مصنوعی مولد اتفاق افتاده و آنها می‌خواستند با آن هماهنگ شوند. انتشار گازهای گوگل هم افزایش یافته است.
برد اسمیت، رئیس مایکروسافت، به بلومبرگ می‌رود و به نظر می‌رسد می‌گوید که، خب، اوضاع از زمین تا آسمان فرق کرده است. و این به این دلیل است که ما باید در عرصهٔ هوش مصنوعی مولد رقابت کنیم. باید با این رقابت کنیم. باید این سهم بازار را تصاحب کنیم.
کلاین: ما به‌طور واقعی آماده‌ایم که این دنیای واقعی را فدای ساختن دنیایی مصنوعی کنیم که طبق ادعا قرار است راه‌حل‌های مشکلات ما را پیدا کند. این منطق واقعاً دیوانه‌وار است و نکتهٔ دیگر اینکه هیچ‌کس خواهان چنین چیزی نیست. این بخش دیگری از ماجراست. آیا جنبش مصرف‌کنندگان وجود دارد که بگوید ما به ربات‌های بیشتری نیاز داریم؟
پاریس: تعداد اندکی از افرادِ سیلیکون ولی قطعاً از آن حمایت می‌کنند. اما فکر می‌کنم به‌طور کلی بیشتر مردم مخالف این چیزها هستند و نگران‌اند. به‌طوری که مردم از پلتفرم‌هایی- برای مثال فیسبوک- استفاده می‌کنند، و همیشه با محتوایی مواجه می‌شوند که هوش مصنوعی تولید کرده، این تصاویری که هوش مصنوعی تولید کرده یک بازار پشت آن است و فقط برای جلب توجه است. و افراد زیادی هستند که از دیدن این چیزها لذت نمی‌برند و واقعاً نگران‌اند که فریب آن را بخورند و محتوایی را که هوش مصنوعی تولید کرده بپذیرند، و مردم فکر کنند که آنها احمق‌اند و نمی‌توانند این‌گونه چیزها را تشخیص دهند. اما شما عدهٔ زیادی هنرمند دارید که در برابر آن مقاومت می‌کنند و نمی‌خواهند ببینند که چگونه هوش مصنوعی دارد فرهنگ را تصاحب می‌کند و عنصر انسانی از آن کنار زده می‌شود. در بسیاری از بخش‌های گوناگون جامعه که هوش مصنوعی در حال ورود است، مردم با آن راحت نیستند و مشخص نیست که این ابزارهای هوش مصنوعی واقعاً بهترند یا واقعاً پیشرفت کرده‌اند و مشخص نیست که حتی اقتصادی هستند، درست است؟ مثل این که بسیاری از این شرکت‌ها هنوز هم مقدار زیادی پول از دست می‌دهند. و این حتی زمانی نیست که شما تبعات محیطی آنها را در نظر بگیرید.
کلاین: آنها پول از دست می‌دهند، اما دارند ما را به آن معتاد می‌کنند، درست است؟ یعنی مدل کسب‌وکار این است که دامنه را تسخیر کنی، آن را تقریباً رایگان بدهی، همه شروع به استفاده از آن کنند، و سپس بعداً یاد بگیری چطور پول در بیاوری. همواره همین‌طور بوده است.
من هم فکر می‌کنم که یک عنصر وجود دارد و می‌خواهم ادامه دهم و واقعاً دربارهٔ این صحبت کنم که چه کاری باید در این مورد انجام دهیم. اما واقعاً فکر می‌کنم که یک عنصر وجود دارد و نمی‌خواهم همه‌چیز را به سرمایه‌داری برگردانم.
ما همه در اقتصادی فعالیت می‌کنیم که با ما مانند ماشین رفتار می‌کند؛ اقتصادی که هر روز با شتاب بیشتری حرکت می‌کند و بی‌ثبات‌تر می‌شود. من فکر می‌کنم که بازارهایی برای افزایش تولید وجود دارد که هوش مصنوعی می‌تواند در آن نقش ایفا کند، و چون همهٔ ما زیر فشار هستیم و این نقش هوش مصنوعی برای بسیاری جذاب است. اما ای کاش می‌توانستیم بیشتر دربارهٔ این صحبت کنیم که چرا احساس می‌کنیم باید در آن سطح از تولید قرار داشته باشیم. چون فکر می‌کنم هرچه بیشتر خود را مثل ماشین‌ها ببینیم، ماشین‌ها بیشتر جای ما را می‌گیرند. و هرچه کمتر مثل ماشین‌ها رفتار کنیم، کمتر آسیب‌پذیر خواهیم بود. این به‌نظر منطقی می‌آید.
پاریس: کاملاً موافقم. و احساس می‌کنم این چیزی است که در سراسر دوران سرمایه‌داری دیده می‌شود و این تاریخ بسیار طولانی‌تر از فناوری دیجیتال و آن چیزی است که در دهه گذشته یا دو دهه گذشته اتفاق افتاده است. این تمایل فزاینده برای تبدیل کردن انسان به ماشین، برای عقلانی کردن نحوهٔ کار کردن، نحوهٔ عمل کردن، نحوهٔ زندگی کردن ما، برای اینکه در چارچوب‌ها و محدودیت‌های سرمایه‌داری جا بگیریم، برای اینکه این سیستم کار کند. و این فقط جدیدترین شکلی است که این به خود گرفته. و البته، احساس می‌شود که هر بار که این پیشرفت‌ها اتفاق می‌افتد، بدتر و بدتر می‌شود، درست است؟
کلاین: بله. منظورم این است که اگر برگردیم به آنچه قبلاً دربارهٔ آموزش گفتم، فکر می‌کنم اینجا جایی است که آن را خیلی واضح می‌بینید. هرچه بیشتر از معلمان بخواهیم که آموزش را به گونه‌ای تدریس کنند که فقط برای آزمون باشد، مربع‌ها را علامت بزنند، و آموزش را به شکلی کاملاً مکانیکی درآورند، به گونه‌ای که ارزیاب بیرونی بتواند درجه‌بندی کند، جایگزین کردن آن معلم با هوش مصنوعی آسان‌تر می‌شود.
اما اگر به معلمان اجازه دهیم که کارهایی را بکنند که در آنها بهترین‌اند و از خلاقیت خود استفاده کنند و بسته به نیازهای دانش‌آموزان تکرار کنند، کارهایی که به منابع بیشتری نیاز دارد، که به کلاس‌های کوچک‌تر نیاز دارد، که به زمان بیشتری نیاز دارد، هرچه این نوع کار را بیشتر انجام دهیم، کمتر قابل جایگزین شدن هستند. و به این می‌رسیم که چطور باید با آن مبارزه کنیم؟
پاریس: می‌فهمم. حس می‌کنم که تو هم می‌بینی که در ایالت‌هایی که جنگ طولانی‌مدتی علیه آموزش وجود داشته، داریم عواقب بیشتر این مسئله رو امروز می‌بینیم. اما همچنین نتایج یک مطالعه اخیراً از مایکروسافت منتشر شده که نشان داد افرادی که بیشتر به خدمات چت‌بات تکیه می‌کنند مهارت‌های تفکر انتقادی کمتری دارند تا افرادی که این کار را نمی‌کنند. و خب، تعجب‌آور نیست، اما مثل اینکه دوباره ما را به این جهت می‌برد، جایی که مردم قادر به کسب آموزش و مهارت‌های لازم برای مقابله با دنیای اطراف نیستند و نمی‌توانند آن را به چالش بکشند و به انجام کاری متفاوت فکر کنند.
کلاین: بله، من اخیراً یک نوجوان پانزده سالهٔ فوق‌العاده را ملاقات کردم که به‌شدت مخالف هوش مصنوعی بود، اما هنرمند بود. شاید درست به همین دلیل.
خب، خیلی وقت نداریم، اما می‌خواهم به چگونگی مقاومت در برابر این روند بپردازیم. منظورم این است که در پادکستت که دوباره توصیه می‌کنم مردم بهش گوش بدهند، و همچنین سیستم کراش (Crash) که با برایان مرچنت همگام‌سازی می‌کنی، اعتراض‌های ضد تسلا رو پوشش دادید، که فکر می‌کنم نشان‌دهنده آگاهی رو به رشدی است. این شرکت‌ها، حتی شرکت‌هایی مثل تسلا که خودشان را سبز و حامی انسان و سیاره معرفی می‌کنند، در واقع هیچ‌کدام از منافع ما را دنبال نمی‌کنند. اما می‌خواهم فراتر از اعتراض علیه تسلا فکر کنم، هرچند که فکر می‌کنم مهم هستند، و واقعاً به این فکر کنم که آیا این فرصتی برای ساختن ائتلاف‌های غیرمنتظره می‌تواند باشد؟ چون همان‌طور که می‌دانی، من نظریات راست‌های مگا را مطالعه کرده‌ام و می‌توانم بگویم بعد از گوش دادن به صدها ساعت از سخنان استیو بَنن، او علیه این حملات به انسان، ترانس‌هیومنیسم، و جنگ علیه انسان اعتراض می‌کند. منظورم این است که فکر می‌کنم احتمالاً او صادق نیست. فکر می‌کنم او کاملاً دوج (Doge) را تشویق می کند. می‌دانی، اما فکر می‌کنم که پایگاه مردمی‌اش واقعاً این‌طور احساس می‌کند. بنابراین، فقط می‌خواهم بدانم که آیا فکر می‌کنی پتانسیلی در این فریب و تغییر کلیت این قضیه وجود دارد؟
پاریس: امیدوارم که چنین باشد. می‌دانید، ما به‌وضوح می‌بینیم که بنن هم فرصتی می‌بیند و از منابع ماسک برای پیشبرد راست افراطی در اروپا استفاده می‌کند. اما بله، امیدوارم که قطعاً فرصتی در اینجا وجود داشته باشد. چون شما افراد زیادی دارید که از اوضاع جهان ناراضی هستند، درست است، همان‌طور که هست. من و شما در کانادا هستیم، یا حداقل من معمولاً در کانادا هستم. و می‌دانید، ما می‌توانیم ببینیم، مانند بسیاری از کشورهای دیگر، که چگونه راست سعی کرده است از این نارضایتی‌ها برای ارائهٔ خودش به‌عنوان حامی طبقهٔ کارگر استفاده کند. می‌دانیم که هیچ‌وقت قرار نیست وقتی به قدرت می‌رسند، آن سیاست‌هایی را اجرا کنند که قولش را داده‌اند. می‌توان این را به‌روشنی در دوران دولت ترامپ دید؛ دولتی که وانمود می‌کرد حامی کارگران است و از آنها حمایت می‌کند، اما در عمل اقداماتی انجام داد که زندگی اکثر مردم آمریکا را بسیار سخت‌تر کرد.
و خیلی از مردم در آمریکا و جاهای دیگر ناراحتی‌های زیادی از شرکت‌های فناوری دارند، از این زیرساخت‌های فناوری که همهٔ ما به آن وابسته‌ایم. و به همین دلیل فکر می‌کنم که فرصت‌هایی در اینجا وجود دارد که از آن استفاده کنیم. و این یکی از جاهایی است که من امیدوارم و فرصت‌هایی می‌بینم. در اعتراض‌ها علیه تسلا شاهد آنیم که شما با هدف قرار دادن این برند خاص، که به ماسک مرتبط است، مردم را فعال می‌کنید.
اما چه فرصت‌هایی وجود دارد برای اینکه مردم را به فکر کردن فراتر از این موضوع بکشیم؟ برای اینکه این را به برندها و شرکت‌های دیگر گسترش دهیم، چون می‌دانیم که مردم از مارک زاکربرگ و فیسبوک و کارهایی که او انجام می‌دهد، و همچنین از جف بزوس و آمازون ناراضی هستند. پس چطور می‌توانیم از آنچه در حال وقوع است استفاده کنیم؟
می‌دانید، در کانادا، آمازون تمام انبارهایش در کبک را تعطیل کرد، چون یکی از انبارها تصمیم گرفت اتحادیه تشکیل دهد، و قانون آنجا این است که آنها باید با آن کارگران با صداقت دربارهٔ توافق جمعی مذاکره کنند. بنابراین، این دلیل بیشتری است برای اینکه بخواهیم در برابر چنین شرکتی مقاومت کنیم و از آن برای مخالفت استفاده کنیم و نوعی حرکت ضد این شرکت‌ها را بسازیم که چیزی متفاوت ارائه دهد. و شاید آخرین نکته‌ای که می‌خواهم بگویم این است که ما معمولاً بر ایالات متحده تمرکز می‌کنیم، درست است؟
و اینکه در آنجا چه کاری می‌توان یا باید انجام داد تا با قدرت شرکت‌های فناوری مقابله کرد. اما به‌ویژه با توجه به اینکه می‌بینیم چگونه سیلیکون ولی با دولت ترامپ متحد شده و تلاش می‌کند از قدرت این دولت برای حفظ سلطه و نفوذ جهانی خودش استفاده کند، اکنون زمان آن است که کشورهایی مانند کانادا، کشورهای اروپایی، حتی برزیل و سایر متحدان، گرد هم بیایند و دربارهٔ شکل‌دهی به زیرساخت‌های فناوری و ایجاد پلتفرم‌ها و خدماتی که وابسته به شرکت‌های آمریکایی نباشند فکر کنند. و امیدوارم که این فقط تکرار مدل سیلیکون ولی نباشد، بلکه به چالش کشیدن این دیدگاه باشد که باید تمام این سودها و ارزش‌های بازار بورس را از فناوری به دست آوریم، بلکه به سمت عمومی کردن آن و نیازهای عمومی و در واقع رسیدگی به آن مسائل حرکت کنیم. و این به این معنا نیست که کار آسان خواهد بود. این به این معنا نیست که در مسیری مانند این مشکلاتی وجود نخواهد داشت. اما اگر زمانی برای انجام آن و امتحان کردنش باشد، فکر می‌کنم حالا وقت آن است.
کلاین: کاملاً درست است. و فکر می‌کنم یک مثال خوب از این موضوع این است که بله، مخالف تسلا باشیم، اما فقط یک خودرو برقی دیگر خریداری نکنیم. چطور است که برای اتوبوس‌های برقی رایگان مبارزه کنیم؟ چطور است که این را دوباره تصور کنیم و بهتر انجامش دهیم؟ و می‌دانید، فکر می‌کنم ما در مورد جنگ علیه انسان، جنگ علیه زندگی صحبت کرده‌ایم و این فاشیسم است. و بنابراین، قبل از اینکه برویم، دوست دارم این کلیپ را با بینندگان و شنوندگان به اشتراک بگذارم. یکی از کلیپ‌های مورد علاقه‌ام در تاریخ سینما از فیلم «دیکتاتور بزرگ»، فیلمی که در سال 1940 منتشر شد و اولین فیلم بزرگ در مورد فاشیسم در ایالات متحده بود که در آن چارلی چاپلین نقش بازی کرد.
او هم نقش آرایشگر یهودی و هم نقش دیکتاتور هیتلری را بازی می‌کند. و فیلم با او، که شبیه دیکتاتور بزرگ است، اما در واقع دیکتاتور بزرگ نیست، به پایان می‌رسد. سپس او سخنرانی‌ای می‌کند که باعث توقف دنیا می‌شود و سربازان فاشیست را متقاعد می‌کند که سلاح‌هایشان را زمین بگذارند.
صحبتش چنین است:
«سربازان! اختیار خود را به دست بی‌رحمان ندهید. به دست کسانی که شما را تحقیر می‌کنند، از شما برده می‌سازند، و به شما می‌گویند به چه فکر کنید، چه احساس کنید، حقوق کم به شما می‌دهند و مثل گله با شما رفتار می‌کنند. اختیار خودتان را به دست این آدم‌های ماشینی و فضای ماشینی آنها ندهید. شماها ماشین نیستید. شماها گله نیستید. شماها انسانید. شماها قلبتان پر از عاطفهٔ بشری ست.
«سربازان! برای بردگی مبارزه نکنید. برای آزادی مبارزه کنید. شما مردم قدرت دارید که این زندگی را آزاد و زیبا کنید، که این زندگی را به یک ماجراجویی شگفت‌انگیز تبدیل کنید… و به نام دموکراسی، بیایید از این قدرت استفاده کنید.»
من آماده‌ام که به این انقلاب بپیوندم.
عاشق چارلی شدم. و قبل از اینکه با شما صحبت کنم دوباره این کلیپ را تماشا کردم و گفتم چنان فرهنگی امروز کجاست؟
پاریس: متأسفانه ما هرگز، بله، ما هیچ‌وقت نسخهٔ هوش مصنوعی از این فرهنگ را نخواهیم دید. این اتفاق نمی‌افتد.
نه، نه.
کلاین: خب، این خیلی جالب بود. من از اینکه در نقش مصاحبه‌کننده بودم لذت بردم و امیدوارم که در آینده دوباره به برنامه بازگردید.
پانوشت‌ها (همه از مترجم):
۱. این جمله را امانوئل ماکرون، رئیس‌جمهور فرانسه، روز یکشنبه ۹ فوریه ۲۰۲۵، در مصاحبه‌ای با شبکهٔ تلویزیونی فرانسه ۲ بیان کرد. او در آستانهٔ نشست جهانی هوش مصنوعی در پاریس از برنامه‌ریزی برای سرمایه‌گذاری ۱۰۹ میلیارد یورویی در بخش هوش مصنوعی فرانسه خبر داد. ماکرون این سرمایه‌گذاری را با پروژهٔ «استارگیت» آمریکا مقایسه کرد و هدف آن را تقویت جایگاه فرانسه و اروپا در رقابت جهانی با آمریکا و چین دانست.
۲. جاستین ترودو، نخست‌وزیر پیشین کانادا، در تاریخ ۲۷ آوریل ۲۰۲۵ در کنفرانس جهانی هوش مصنوعی در تورنتو این حرف را زد. ترودو در آن سخنرانی از موقعیت استراتژیک کانادا برای توسعه و همکاری در حوزهٔ هوش مصنوعی سخن گفت و تأکید کرد که کانادا می‌تواند شریکی قابل‌اعتماد و قوی در این حوزه برای دیگر کشورها باشد.
۳. Tech Won’t Save Us
۴. Unshocked
۵. The Age of Surveillance Capitalism, by Shoshana Zuboff
۶. پروژهٔ ۲۰۲۵ مجموعه‌ای است از پیشنهادها دربارهٔ سیاست‌های محافظه‌کارانه و جناح راست بنیاد هریتج برای دگرگون کردن حکومت فدرال ایالات متحده و تثبیت قدرت اجرایی در صورت پیروزی نامزد جمهوری‌خواه، احتمالاً دونالد ترامپ، در انتخابات ریاست جمهوری ۲۰۲۴.
۷. وزارت امنیت دولتی در جمهوری دموکراتیک آلمان
۸. سبزشویی (به انگلیسی Greenwashing) واژه‌ای است که به دورویی به‌ظاهر دوستداران محیط زیست اشاره دارد، به این صورت که به نام حمایت از محیط‌زیست به محیط‌زیست و به جامعه انسانی صدمه می‌زنند.
جمعه ۱۲ اردیبهشت ۱۴۰۴
اندیشهٔ نو: استفاده از تمام یا بخش‌هایی از این مطلب با ذکر منبع بدون مانع است.