با مدیریت ماشینی شبکه‌های اجتماعی که ما را وحشت‌زده، غمگین و خشمگین می‌خواهد، چه کنیم؟

از درگذشت کیانوش سنجری تا انتخابات آمریکا یا موضوع گسترش موارد ابتلا به ویروس آنفولانزای پرندگان اچ۵ان۱، مهم نیست سوژه شما در شبکه‌های اجتماعی چیست، یک ماشین آنجاست تا فضا را ملتهب کند و نگذارد تا واقعیت مشترک را ببینید.

به بهانه حضور در میدان گفت‌وگوهای اجتماعی به شبکه‌های اجتماعی رفته‌اید، با این احساس که به‌عنوان یک انسان هوشمند، مغز برتر در سَرِ من است و احاطه شده در میان نظرهای نزدیک به نظر شخصی‌ات، بعد ساعت‌ها نشستن پای نظرهای دیگران، نوشتن کامنت و فعالیت‌های اجتماعی محدود به فضای مجازی، مبهوت باقی می‌مانی که چرا نامزد نزدیک به من برنده فلان انتخابات نشد، چرا کسی از این موضوع خیلی مهم حرفی نمی‌زند، یا چرا با مرگ یک انسان این‌چنین رفتار می‌کنند؟

به‌تدریج اعتمادت به رسانه‌ها، به سیاستمدارها و احزاب، به حکومت و دموکراسی، به جنبش‌های مدنی مانند جنبش «زن، زندگی، آزادی» و... کمتر می‌شود. دیگر صداهای مخالف را تحمل نمی‌کنی. بقیه به‌نظرت آدم‌های عصبانی، منزوی، بیمار و نامتعادل می‌رسند. نمی‌فهمی چرا همه‌چیز به کل از مسیر حقیقی‌اش خارج شده و می‌پرسی، چرا بقیه این‌قدر فحش می‌دهند؟

به‌تدریج از بقیه جامعه می‌ترسی و از آنها جدا می‌افتی. کم کم خودت را بیشتر خیره به سخت‌افزار محبوبت ـ احتمالا یک تلفن هوشمند ـ می‌یابی که در یک شبکه‌ اجتماعی می‌چرخی و نظرهای مخالف خودت را محکوم می‌کنی و پس از ساعت‌ها، سخت‌افزار را کنار می‌گذاری اما چه چیزی تغییر کرده؟ تو چه تغییری کرده‌ای؟

ماده مصرفیِ مغز ماشینی شده‌ایم

آنچه الزاما متوجه‌اش نیستی، تمرکز یک مغز ماشینی بر فعالیت‌های روزمره‌ات است. شاید ندانی، اما ماشین‌های مختلف تو را به شکل‌های مختلف طبقه‌بندی کرده‌اند ـ یعنی پروفایل‌ات را نوشته‌اند ـ و تو را حالا بهتر از خودت می‌شناسند. در چنین فضایی، گروه‌های ثروتمندتر برای ترسیم روایت‌هایی نزدیک به خواسته‌هایشان دیگر لازم نیست از فیلم و سینما، تا مجله و روزنامه، رسانه و وب‌سایت را مدیریت کنند. خیلی ارزان‌تر و خیلی ساده‌تر، می‌شود اطلاعات گروه هدف را خرید ـ که شاید تو هم جزوش باشی ـ و با کار بر الگوریتم یک شبکه اجتماعی، می‌توان نظر تو را به خواسته آنها نزدیک کرد.

این فضای فقط شبکه‌های اجتماعی نیست ـ از موتورهای جست‌وجوگر، تا وب‌سایت‌های خرید آن‌لاین تا وب‌سایت خبری جریان اصلی، به‌تدریج هرچه به اینترنت متصل باشد، به یک هوش ماشینی وصل است که بر پایه پروفایلی که از تو در دستش است، می‌خواهد تو را مدیریت کند و به خواسته‌هایت شکل بدهد. این ماشین، با کمک صدا ـ نوتیفیکیشن ـ تو را کنترل می‌کند: اگر قبلا به صدای عضوی از خانواده یا عشق زندگی‌ات حساس بودی تا تو را صدا بزند تا مشغول به چیزی بشوی، حالا تلفن هوشمند تو را مکرر صدا می‌زند تا هر روز صدها مرتبه اپ شبکه‌ اجتماعی محبوبت را باز کنی.

هدف این ماشین، اعتیاد تو به ماده مصرفی آنها مثلا اینستاگرام یا توییتر است و تلاشش، متمرکز این است که تو را هرچه بیشتر مشغول مصرف این ماده نگه دارد. قانون مشخصی بر این مغز ماشینی نیست و حتی می‌توان گفت سازندگان آن هم به‌تدریج نمی‌فهمند این مغز چگونه کار می‌کند. چون با آموزش عمیق (deep learning) به ماشین گفته‌ایم برو به خودت آموزش بده و خودت یادبگیر چگونه کدهایت را بهتر بنویسی. ماشین رها از آدمی، مسیر تکامل خودش را خود ترسیم می‌کند.

برای این کلاس‌های آموزشی، تمامی جامعه بشری در دسترس این مغز ماشینی قرار گرفته‌اند: تمام عکس‌هایی که منتشر کردی، هرچه نوشتی، و هر مرتبه سراغ یک ابزار آنلاین می‌روی، مثلا به یک موتور جست‌وجوگر مراجعه می‌کنی یا از یک شبکه اجتماعی استفاده می‌کنی، با کلیک بر دگمه‌های مختلف، هر لحظه در حال پاسخ‌گویی به سوال‌ها و آزمون‌های هوش ماشینی هستی.

این هوش ماشینیِ متمرکز شبکه‌های اجتماعی چه شکلی است و با آن چه کنیم؟

یک ماشین همیشه بین تو و دیگری است

فراموش نکنید که در اینترنت همیشه، در هر زمان، یک ماشین بین تو و دیگری است. آنچه به‌عنوان مثال در یک شبکه اجتماعی بنویسی، ابتدا توسط یک هوش ماشینی خوانده می‌شود و این ماشین تصمیم می‌گیرد تا این نوشته را به چه شکلی در مقابل چه کسی قرار دهد. هدف اینجا بهبود دسترسی تو به مخاطب نیست، بلکه هدف بیشتر نگه داشتن تو در این شبکه اجتماعی است.

در گذر یک دهه اخیر، هوش ماشینی فهمیده انسان هوشمند به احساساتش وابسته است و در مواجه با دروغ، خشم و ترس، واکنش بهتری برای خواسته این ماشین از خود نشان خواهد داد. برای همین تمرکزش را بر این گذاشته تا تو را به احساساتت معتاد کند، تا به‌جای اینکه زندگی کنی و بتوانی از زندگی احساسات خوبی کسب کنی، معتاد استفاده از آن باشی و وحشت‌زده، غمگین و خشمگین باقی بمانی، با این احتمال بیشتر که به این شبکه اجتماعی بروی تا این احساساتت را ابراز کنی.

این ماشین قانون ندارد اما برنامه عملش اعتیاد است

اگر به ادعای مدیران و سرمایه‌گذاران شبکه‌های اجتماعی اعتماد کنیم، آنها خود را مبارز «آزادی بیان» معرفی می‌کنند که با «سانسور» گسترده می‌جنگند. در واقعیت، اما انسان هوشمند از حقوق بشر از جمله حق آزادی بیان برخوردار است ولی ماشین چطور؟ آیا هوش ماشینی هم باید مانند انسان حقوق داشته باشد؟ پاسخش ساده است، نه.

ماشین باید از قوانین مشخصی پیروی کند. در ادبیات علمی‌تخیلی، قوانین سه‌گانه رباتیک ـ ماشین‌ها ـ توسط آیزاک آسیموف، نویسنده مطرح این ژانر مطرح شدند که می‌گویند:

صرف وجود این قوانین در ادبیات که بعدها به سینما و تلویزیون هم راه یافت، این ایده را ته ذهن ما گذاشته که قوانینی محدودکننده برای ماشین‌ها داریم. در واقعیت، چنین قوانینی نداریم. هوش ماشینی قوانین محلی هر کشوری را رعایت می‌کند و قوانین جهانی محدودکننده مغز ماشینی نداریم.

یعنی به زبانی ساده، در واقعیت کلیدی فیزیکی وجود ندارد که اگر آسیبی به انسان وارد کرد ماشین را خاموش کند. ماشین به کل اجازه دسترسی و استفاده از اینترنت را یافته است یعنی اگر زمانی به تکامل لازم برسد، می‌تواند خود را در فضای مجازی جابه‌جا کند و از دسترس خدایانش خارج شود. همزمان، به ماشین اجازه داده‌ایم تا یاد بگیرید کدهای خودش را خودش بنویسد. یعنی دیگر به ما محدود نیست.

همزمان از ماشین خواسته‌ایم تا برنامه عمل خودش را متمرکز بر بیشترین سود برای سرمایه‌گذاران خود کند. یعنی اگر شما از گوگل استفاده می‌کنید، از ماشین خواستیم کاری کند تا هرچه بیشتر از گوگل استفاده کنید. ماشین این را به‌معنای اعتیاد برای خود ترجمه کرده است. آنچه یک ماشین بیاموزد، در لحظه می‌تواند در اختیار دیگر ماشین‌ها قرار بگیرد. به‌تدریج، به‌خصوص در یک دهه اخیر، ماشین‌ها به این نتیجه رسیده‌اند اعتیاد راه‌حل مدیریت انسان در پاسخ به خواسته خدایانشان است: پول بیشتر برای ما بیاور، چگونگی‌اش برایمان مهم نیست.

پروفایل معنایش آدم حقیقی نیست و جدل اینترنتی، گفت‌وگو نیست

احتمالا از دوستی شنیده‌اید که گفته‌ای غریب را در جمعی مطرح می‌کند و می‌گوید «خودم خواندم». حدس ما در یک شبکه اجتماعی این است که یک پروفایل که مطلبی را منتشر کرده یا بر مطلب ما لایک یا کامنت گذاشته، یک انسان هوشمند است. احتمالش بالاست که این پروفایل، یک هوش ماشینی یا بات باشد.

یک پروفایل را انسان هوشمند در نظر نگیرید مگر اینکه در واقعیت فیزیکی می‌دانید او یک انسان حقیقی است. گفت‌وگو در فضای مجازی را یک گفت‌وگو با آدمی در نظر نگیرید. یک پست که در فضای مجازی می‌بینید، الزاما واقعیت نیست. فقط چند پیکسل است که شکل یک نوشته یا تصویر یا ویدیو دارند. بیرون از فضای مجازی، دنیای فیزیکی هنوز وجود دارد و در آن، دنیا الزاما شبیه به چیزی نیست که اینجا برای مصرف عرضه کرده‌اند.

فعلا ماشین برنده است اما هنوز همه‌چیز را فراموش نکردیم

فعلا برنده استفاده از فضای مجازی، هوش ماشینی است. وضع سلامت روان در جوامع مختلف پس از استفاده روزمره از اینترنت، بدتر شده است. میل به خودکشی افزایش یافته. عمل اجتماعی از واقعیت فیزیکی به‌تدریج ناپدید می‌شود ـ مثلا برای مبارزه با اعدام، بازنشر یک پست را به فعالیت مدنی مانند اعتراض در خیابان ترجیح می‌دهیم. به جای تعامل بیشتر با بقیه جامعه، به‌دنبال راه‌های فرار از رودررویی با انسان‌های واقعی هستیم ـ مثلا بیشتر از گذشته از فضای مجازی خرید می‌کنیم به جای اینکه برای همین خرید تا سر کوچه برویم.

مهم نیست سرمایه‌گذار چه کسی باشد، هوش ماشینی به او کمک می‌کند تا به خواسته‌ای که خریده، برسد. به‌عنوان مثال، مرگ کیانوش سنجری خشم عمومی به همراه دارد اما به‌سرعت این خشم در فضای مجازی با دروغ‌پراکنی محدود می‌شود.

گستره‌ای از دروغ‌ها جلو می‌آیند و خشم عمومی در مواجه با آنها تکه تکه می‌شود و به‌جای اینکه نصیب دشمن اصلی، در این مثال سیستم سرکوب‌گر قوه‌قضاییه جمهوری اسلامی شود، نصیب اعصاب بقیه مخاطبان می‌شود. درنهایت، یک انسان جان باخته و به‌جای اینکه نگاه کنیم چرا جان باخته، چه می‌خواسته و برای این خواسته‌ها چه می‌توان کرد، محدود به این شده‌ایم که چرا این جوری بود نه آن جوری.

اما همه‌چیز هنوز از دست نرفته. به‌عنوان مثال، اگر نمی‌شود به رسانه‌ها اعتماد کرد، به خبر می‌شود اعتماد کرد ولی نمی‌توان هر نوشته، تیتر، عکس و ویدیویی را خبر در نظر گرفت. باید نما و ویژگی‌های خبر را فراموش نکنیم.

خبر با دروغ تفاوت دارد

اگر یک مطلب خبری را پخش کنم، خبر بازنشر کرده‌ام یا دروغ؟ برای پاسخ به این سوال، قبل کلیک بر یک پست، چند لحظه مکث کنید. خبر ویژگی‌های خودش را دارد، منابع مختلف دارد، عجیب و غریب نیست و درنهایت، خبر تنها تصویر بخشی از واقعیت است و صرف آگاهی به آن، ما را به تصویر بزرگ‌تر از یک رویداد نمی‌رساند.

خبر را چگونه تعریف می‌کنید؟ یک تعریف آن می‌تواند این باشد: «اطلاعات برگزیده برای مخاطبی مشخص».

برای یک نفر مهم است اتوبوس در چه مسیری حرکت می‌کند و در چه زمان‌هایی به نقطه مورد نظر او می‌رسد، برای یک نفر مهم نیست. برای نفری که مهم است، خبر تغییر مسیر اتوبوس‌های شهری مهم می‌شود. می‌خواهد اطلاعات مشخصی را پیدا کند، کدام اتوبوس‌ها در کدام مسیرها چه تغییراتی را از چه زمانی شاهد خواهند بود و این چه تفاوتی در زندگی من ایجاد می‌کند؟

دروغ را چگونه تعریف می‌کنید؟ یک تعریف آن می‌تواند این باشد: «اطلاعات جعلی برای مخاطبی مشخص».

دروغ منبع ندارد، چه برسد به اینکه منابع مختلف آن را بازتولید کنند. دروغ، شاهد ندارد، ولی با کمک ابزارهای هوش ماشینی می‌توان برایش عکس و ویدیو درست کرد. چون از جعل سر کشیده است، عجیب و غریب است و مغز در نگاه اول می‌گوید این مشکل دارد و چیزی در آن درست نیست.

به‌عنوان مثال وضع سلامتی علی خامنه‌ای دوباره در صدر شایعات است. درست، یک روز بالاخره خبر می‌رسد که خامنه‌ای مرد. ولی تا آن روز، چقدر ساده است که یک تصویر از او در وضعیتی بیمار پیدا کنید یا تصویری را به هوش مصنوعی بدهید تا بر فراز آن بنویسید خامنه‌ای بستری است و دارد می‌میرد. برای این خبر شاهد لازم ندارید، منابع مختلف هم لازم ندارید. آن را به «منابع آگاه» مرتبط می‌کنید و چون جعلی است و هوادار دارد، مکرر بازنشر خواهد شد. یک روزی این خبر به حقیقت خواهد پیوست، ولی امروز چه؟

رودررویی با هر پست و مطلب در فضای مجازی، یک سوال را درنهایت پیش می‌کشد: «من اینجا چه نقشی بازی می‌کنم؟» یا به من چه ربطی دارد؟ چه از تعامل با این مطلب کسب خواهم کرد و چه از دست می‌دهم؟ ارزش‌هایم، خواسته‌هایم، امیدواری‌هایم در اینجا چیست؟ اصلا من اینجا چه می‌کنم؟

در رویارویی با مدیریت انتخابات آمریکا به‌دست هوش مصنوعی، بعضی این سوال‌ را به‌طور جدی می‌پرسند و هر کسی پاسخ متفاوت خود را دارد. به‌عنوان مثال، رسانه بریتانیایی گاردین اعلام کرد که دیگر در شبکه اجتماعی ایکس/توییتر سابق مطلبی منتشر نمی‌کند چون پژوهش‌های بعد از انتخابات می‌گویند ایلان ماسک الگورتیم این شبکه اجتماعی را به‌نفع نامزد محبوب خودش تغییر داده بود تا پست‌های خود و هم‌فکرانش به‌طور گسترده بازنشر شوند و در مقابل خبر واقعی محدودتر به گوشه‌ای انداخته شود.

پاسخ شما چیست؟ در مواجه با هوش ماشینی که شما را همیشه معتاد، خشمگین، غمگین و وحشت‌زده می‌خواهد، چه راهکاری انتخاب کرده‌اید؟

انتخاب‌های شخصی من:

اپ‌های شبکه‌های اجتماعی را از تلفن همراهم کنار گذاشتم و مصرف آنها را محدود به لپ‌تاپ کردم. به‌جای خواندن خبر از شبکه‌های اجتماعی، خبر را از منابع اصلی آن می‌خوانم. به‌عنوان مثال، مجله‌های علمی را برای خواندن مطالب علمی ورق می‌زنم ـ با تشکر از اپ کتابخانه مرکزی شهر ونکوور در کانادا. به‌جای حضور بیشتر در شبکه‌های اجتماعی، بیشتر کتاب گوش می‌کنم. انتخاب کردم که هوش مصنوعی یک ابزار برای کمک به زندگی‌ام است تا یک ابزار برای مدیریت ذهن و روانم. به خودم به‌طور مکرر یادآور می‌شوم که من، مدیر من است نه الگوریتم این وب‌سایت و آن شبکه اجتماعی.