مدتی قبل یووال نوح هراری در یک مصاحبهای مسالهی جالبی را راجع به آیندهی جهان و تکنولوژی مطرح کرد. او راجع به جنبهی جالبی از پیشرفت رباتها و الگوریتمها صحبت میکرد، اینکه نگرانی ما از بابت پیشرفت رباتها نباید این باشد که روزی این رباتها سرکش شوند و دیگر فرمانهای انسانها را نپذیرند و از دستورات صاحبانشان سرپیچی کنند. بلکه مسالهی بزرگتر این است که رباتها کاملا فرمانبردار باشند و هر فرمانی که به آنها داده شد، آن را به انجام برسانند. این حالت بسیار خطرناکتریست از اینکه یک ربات، گاهی فکر کند و تصمیم بگیرد که از برخی فرمانها اگر آنها را غیرمنطقی دید، سرپیچی کند.
اگر یک ربات داشته باشیم که فرمانبردار محض باشد و در دستان انسان شیادی مثل یک دیکتاتور خونخوار نیز قرار بگیرد، آن انسان شیاد، میتواند فرمانهای خطرناکی برای ربات صادر کند و این ربات هم بی چون و چرا، هرچیزی را که صاحبش به او گفته، انجام میدهد و اصلا نه توی کار نمیآورد. این ربات سرسپرده، از هر رباتی که قابلیت نافرمانی دارد، خطرناکتر است.
اجازه دهید با یک مثال زنده مربوط به تجربیات خودمان این موضوع را مورد کنکاش قرار دهیم. پست پیشین من در شبکهی جهانی متخضصان لینکدین راجع به مقاومت مشروع مردم مقابل قانون نامشروع، بسیار مورد توجه قرار گرفت و اتفاقا، مثل همیشه، تعدادی از مزدوران سایبری نظام سیاسی حاکم بر ایران، ذیل پست من، مطالبی را نوشتند که میتوانید مراجعه کرده و ملاحظه بفرمایید. خب شما ببینید یک انسان سرسپرده که اصلا نافرمانی در ذهنش خطور نمیکند، چطور در جهل دست و پا میزند، اما نمیتواند لحظهای در مورد تفکراتش درنگ کند. این افراد خودشان در شرایط نابسامان ایران امروز زندگی میکنند، خودشان از این اقتصاد ضعیف در رنج و عذابند، خودشان و خانوادههایشان مثل بقیهی مردم، دود حاصل از مازوت سوزی را تنفس میکنند و هزاران مساله و مشکل دیگر را همزمان تجربه میکنند. با این وجود، میبینید مثل یک الگوریتم و ربات فرمانبردار، باز هم همان حرفهای همیشگی که برای گفتن آن تنظیم شده اند را میگویند و از این نظام سیاسی شکست خورده، دفاع میکنند.
اینها با اینکه شکست ادعای امنیت را دیدند، باز هم مینویسند که عوضش امنیت داریم. همان حرفها و استدلالهای مزخرف پنج دههی گذشته را بدون کوچکترین تغییری، مثل یک نوار ضبط صوت، تکرار میکنند.
این مزدوران مشخصا از یک جمود فکری رنج میبرند که این امکان را از آنها سلب میکند که وضعیت بغرنجی که حاصل از عملکرد این سیستم معیوب است را مشاهده کنند. اما هنوز هم برخی از اینها، در جایی این شانس را دارند که دوباره به مساله نگاه کنند و به درک درستی از وضعیت موجود و عامل وضعیت موجود برسند و نگاهشان را تغییر بدهند. کمااینکه تاریخ نشان داده که در روزهای پایانی کار دیکتاتورها، بسیاری از طرفدارانشان اعتدال گرا میشوند. اما حالا فرض کنید که به جای این آدمهای مزدور، رباتهای مزدور بودند. ربات مزدور دیگر تحت هیچ شرایطی نمیتواند متفاوت بیندیشد. یک ربات مزدور، تحت هر فشاری هم که باشد، باز هم فرمانبردار دیکتاتور است و اصلا الگوریتم او بر پایهی فرمانبرداری توسعه داده شده است. اگر رباتی قابلیت سرپیچی از فرامین را داشته باشد، مثل بعضی از همین آدمهای مزدور که میبینید، میتواند روزی به اشتباه خودش پی ببرد و نافرمانی کند. اما ربات مزدور، هیچوقت چنین شانسی ندارد و دقیقا همانطور که هراری اشاره کرد، این مسالهی فرمانبرداری محض رباتهاست که آنها را خطرناک میکند.
– ابا اباد