فهرست

اثر هوش مصنوعی بر نظم جهانی آینده

سه شنبه ۰۶ آذر ۱۳۹۷ ۱۷:۰۳ ب.ظ

اثر هوش مصنوعی بر نظم جهانی آینده
شورای راهبردی آنلاین – رصد: بحث درباره اثرات هوش مصنوعی حول دو موضوع انجام گرفته است؛ یکی هراس از یکتایی (تکینگی یا سینگیولاریتی) است، رویدادی که در آن هوش مصنوعی از هوش انسانی فراتر می‌رود و از کنترل انسان خارج می‌شود و عواقب احتمالی فاجعه باری به بار خواهد آورد. موضوع دیگر این نگرانی است که یک انقلاب صنعتی جدید به ماشین‌ها اجازه خواهد داد در تمامی، یا تقریبا تمامی حوزه‌های اجتماع، از حمل نقل تا نیروی نظامی و بهداشت جایگزین بشر شوند.

نیکلاس رایت در مقاله‌ای که مجله فارن افرز منتشر کرد، نوشت: همچنین راه سومی وجود خواهد داشت که در آن هوش مصنوعی وعده می‌دهد جهان را بازسازی کند. هوش مصنوعی با در اختیار گرفتن اجازه نظارت، درک و کنترل دقیق تر از پیش دولت‌ها بر شهروندان در کشورهای اقتدارگرای، برای اولین بار بعد از خاتمه جنگ سرد جایگزین قابل پذیرشی را برای لیبرال دموکراسی ارائه خواهد کرد.

بیشتر نظریه پردازان سیاسی در چندین دهه گذشته بر این باور بودند که لیبرال دموکراسی تنها راه رسیدن به موفقیت اقتصادی پایدار است. از دید آن‌ها، دولت‌ها می‌توانند مردم شان را سرکوب کنند و فقیر باقی بمانند یا این که آن‌ها را آزاد بگذارند و از منافع اقتصادی آن برخوردار شوند. برخی کشورهای سرکوبگر توانستند برای مدتی اقتصادشان را رشد بدهند، اما اقتدارگرایی در بلند مدت همواره به معنای رکود خواهد بود.

هوش مصنوعی وعده می‌دهد این دوگانگی را وارونه کند. هوش مصنوعی راهی قابل پذیرش را به کشورهای بزرگ و پیشرفته به لحاظ اقتصادی برای غنی ساختن شهروندانشان پیشنهاد می‌دهد، در حالی که همچنان نظارت بر آن‌ها را حفظ می‌کند. برخی کشورها همین حالا هم در این مسیر در حال حرکتند. چین ساخت یک دولت اقتدارگرای دیجیتال را با استفاده از ابزارهای نظارت و یادگیری ماشینی برای کنترل جمعیت سرکش و با ایجاد چیزی که آن را «نظام اعتبار اجتماعی» می‌نامد، آغاز کرده است.

چندین کشور همفکر نیز خرید یا تقلید از نظام‌های چین را آغاز کرده‌اند. دقیقا همان طور که رقابت میان نظام‌های اجتماعی لیبرال دموکرات، فاشیست و کمونیست بخش زیادی از قرن بیستم را به خود اختصاص داد، نزاع میان لیبرال دموکراسی و اقتدارگرایی دیجیتال نیز قرن بیست و یکم را به خود اختصاص می‌دهد.

اقتدارگرایی دیجیتال

فن آوری‌های جدید سطوح بالایی از کنترل اجتماعی را با هزینه‌ای منطقی ممکن می‌سازد. دولت‌ها قادر خواهند بود موضوعات و رفتارها را به صورت گزینشی سانسور کنند تا اجازه دهند اطلاعات و فعالیت‌های ثمربخش اقتصادی آزادانه جریان داشته باشد، در حالی که مذاکرات سیاسی را که ممکن است به رژیم صدمه بزند، محدود می‌کنند. دیوار آتشین بزرگ چین نمایش زودهنگامی از این نوع سانسور گزینشی را ارائه می‌کند.

هوش مصنوعی و کلان داده‌ها علاوه بر سانسور برگشت پذیر بیان، اجازه کنترل پیش بینانه مخالفان بالقوه را نیز فراهم می‌کند. این مشابه هدف‌گیری مشتری توسط آمازون و گوگل، اما بسیار موثرتر از آن است، زیرا به این ترتیب دولت‌های اقتدارگرا قادر خواهند بود داده‌ها را به روش‌هایی جمع آوری کنند که در لیبرال دموکراسی‌ها مجاز به انجامش نخواهند بود. آمازون و گوگل فقط به داده‌های برخی از حساب‌ها و ابزارها دسترسی دارند، یک هوش مصنوعی که برای کنترل اجتماعی طراحی شده داده‌ها را از چندین دستگاه که یک شخص در طول زندگی روزمره خود از آن‌ها استفاده می‌کند بیرون می‌کشند. و حتی مهم تر از آن این موضوع است که رژیم‌های اقتدارگرای در مورد ترکیب چنین داده‌هایی با اطلاعات دریافت شده از ادله مالیاتی، سوابق پزشکی، سوابق کیفری، کلینیک‌های بهداشت جنسی، گواهی موجودی حساب بانکی، نظارت ژنتیکی، اطلاعات فیزیکی (مانند محل سکونت، بیومتریک و نظارت بر دوربین‌های مدار بسته با استفاده از نرم افزار تشخیص چهره) و اطلاعات جمع آوری شده از طریق خانواده و دوستان هیچ گونه عذاب وجدانی نخواهند داشت. هوش مصنوعی در حد داده‌هایی که به آن دسترسی دارد خوب است. متاسفانه کیفیت و کمیت داده‌های در دسترس دولت‌ها درباره هر شهروند برای سیستم‌های یادگیری هوش مصنوعی عالی هستند.

حتی صرف وجود این کنترل پیش‌بینانه به اقتدارگرایان کمک خواهد کرد. خودسانسوری شاید مهم‌ترین سازوکار انضباطی آلمان شرقی بود. هوش مصنوعی این تاکتیک را به شدت موثرتر خواهد کرد. مردم متوجه خواهند شد که از نظارت همه جانبه فعالیت‌های فیزیکی و دیجیتال آن‌ها برای پیش‌بینی رفتار نامطلوب و حتی اقداماتی استفاده می‌شود که فقط به آن فکر می‌کنند. از منظر تکنیکی این گونه پیش‌بینی‌ها، هیچ تفاوتی با استفاده از سیستم‌های پایش سلامت توسط هوش مصنوعی که برای پیش‌بینی بیماری‌ها در مردم ظاهرا سالم، پیش از ظهور علائم بیماری استفاده می‌شود، ندارد.

برای جلوگیری از پیش‌بینی‌های منفی توسط این سیستم، بسیاری از مردم از رفتارهای یک عضو «مسئولیت‌پذیر» اجتماع تقلید خواهند کرد. این‌ها ممکن است به همان اندازه ظریف باشد که چشم‌های یک فرد تا چه مدتی می‌تواند به مولفه‌های متفاوتی در صفحه نمایش تلفن نگاه کند. این امر کنترل اجتماعی را نه تنها با واداشتن افراد به اقدام به روش‌هایی خاص، بلکه با تغییر شیوه اندیشیدن آن‌ها بهبود می‌بخشد.

یک یافته مهم در علم شناختی نفوذ، این است که مردم را واداشت رفتارهایی داشته باشند که می‌تواند رویکردشان را تغییر دهد و به عادت‌های تقویت کننده منجر شود. واداشتن افراد به تشریح و تفصیل یک موقعیت باعث می‌شود آن‌ها بیشتر به حمایت از آن علاقمند شوند؛ این تکنیکی بود که چینی‌ها در خصوص زندانیان آمریکایی در جریان جنگ کره استفاده کردند.

فروشندگان می‌دانند که واداشتن یک مشتری بالقوه به انجام رفتارهایی کوچک می‌تواند رویکردهای آن‌ها در قبال تقاضاهای بزرگ‌تر بعدی را تغییر دهد. بیش از 60 سال آمار آزمایشگاهی و میدانی نشان داده است که انسان ظرفیت قابل توجهی برای توجیه منطقی رفتارهایش دارد.

هوش مصنوعی همچنین علاوه بر کنترل موثر، وعده برنامه‌ریزی‌های اقتصادی مرکزی بهتری را می‌دهد. همان طور که جک ما، بنیانگذار شرکت چینی علی بابا می‌گوید، مقامات مرکزی با اطلاعات کافی می‌توانند اقتصاد را با برنامه‌ریزی و پیش‌بینی نیروهای بازار هدایت کنند. هوش مصنوعی به جای برنامه‌های غیر منعطف، وعده پاسخ‌های سریع و مفصل به نیازهای مشتریان را می‌دهد.

هیچ تضمینی وجود ندارد که این نوع اقتدارگرایی دیجیتال بتواند در بلند مدت جواب بدهد، اما ممکن است مادامی که این الگوی قابل پذیرش برخی کشورها باشد، نیازی به جواب دادن آن نباشد. فقط کافی است جرقه یک رقابت ایدئولوژیک جدید زده شود. اگر دولت‌ها اقتدارگرایی را جایگزین ارزشمندی برای لیبرال دموکراسی بدانند، هیچ فشاری را برای آزادسازی احساس نخواهند کرد.

حتی اگر این مدل در نهایت با شکست روبرو شود، تلاش‌ها برای اجرای آن می‌تواند برای مدتی طولانی به طول انجامد. الگوهای کمونیست و فاشیست، بعد از آن از هم فروپاشیدند که تلاش‌ها برای اجرای آن‌ها در جهان واقعی با شکست روبرو شد.

خلق و صدور یک دولت همه چیزبین

ایجاد یک سیستم کنترل اجتماعی کار ساده‌ای نخواهد بود. اجرای پروژه‌های بزرگ فن‌آوری اطلاعات به وضوح کار دشواری است. این پروژه‌ها مستلزم سطوح بالای هماهنگی، سرمایه گذاری سخاوتمندانه و مهارت فراوان است. برای فهم اینکه آیا خلق چنین سیستمی امکان پذیر است یا خیر بررسی چین، مهم‌ترین کشور غیر غربی که ممکن است یکی از این نوع را خلق کند، کار ارزشمندی است.

چین ثابت کرده است که می‌تواند پروژه‌های عظیم دربرگیرنده اجتماع نظیر دیوار آتشین بزرگ را به انجام برساند. این کشور همچنین از بودجه لازم برای ساخت سیستم‌های جدید مهم برخوردار است. سال گذشته بودجه امنیت داخلی این کشور دستکم 196 میلیارد دلار بود که 12 درصد افزایش از سال 2016 داشت.

بخش عمده این افزایش احتمالا ناشی از لزوم ایجاد پلتفورم‌های جدید کلان داده‌ها بود. شرکت‌های چینی، رهبران جهانی در تحقیقات مربوط به هوش مصنوعی هستند و مهندسان نرم افزار تبعه چین اغلب همتایان آمریکایی خود را در رقابت‌های بین المللی شکست می‌دهند. در نهایت فن‌آوری‌هایی نظیر گوشی‌های هوشمند که در سراسر جهان فراگیر شده‌اند، می‌توانند اسکلت یک سیستم نظارت شخصی را شکل دهند. تعداد مالکان گوشی‌های هوشمند در چین به آنهایی که در غرب هستند، نزدیک است و در برخی حوزه‌ها نظیر پرداخت‌های موبایلی چین رهبر جهان محسوب می‌شود.

چین در حال حاضر در حال ساخت بخش‌های بنیادی یک سیستم اقتدارگرای دیجیتال است. دیوار آتشین بزرگ، سیستمی پیچیده و به خوبی تاسیس شده است که در سال گذشته محکم‌تر شد؛ به طوری که اندیشکده خانه آزادی (Freedom House) چین را در رتبه بدترین سوء استفاده کننده از آزادی اینترنت در جهان قرار داده است. چین همچنین در حال اجرای نظارت گسترده در جهان فیزیکی است.

در سال 2014 چین یک برنامه اعتبار اجتماعی را اعلام کرد که یک طبقه یکپارچه را محاسبه می‌کند که منعکس کننده کیفیت رفتار هر شهروند به گونه‌ای است که دولت آن را درک می‌کند. توسعه دولت نظارتگر چین در استان شینجیانگ که برای نظارت و کنترل جمعیت مسلمان اویغور از آن استفاده می‌شود، فراتر رفته است. افرادی که سیستم تشخیص دهد افرادی ناایمن هستند، امکان زندگی روزمره را ندارند و بسیاری حتی به مراکز تحصیل دوباره فرستاده می‌شوند. اگر پکن بخواهد می‌تواند این سیستم را در سراسر کشور گسترش دهد.

برای اطمینان باید گفت که توانایی همان قصد نیست؛ اما به نظر می‌رسد که چین به سمت اقتدارگرایی و به دور از هرگونه گمان آزادسازی حرکت می‌کند. دولت به وضوح بر این باور است که هوش مصنوعی و کلان داده برای ممکن ساختن این مسیر جدید کار زیادی انجام می‌دهد. برنامه توسعه هوش مصنوعی 2017 چین توضیح می‌دهد که چطور توانایی پیش‌بینی و «فهم شناخت گروه» به معنای آن است که «هوش مصنوعی فرصت‌های جدیدی را برای ساخت اجتماعی فراهم می‌آورد.»

اقتدارگرایی دیجیتال محدود به چین نیست. پکن در حال صدور الگوی خویش است. رویکرد دیوار آتشین بزرگ در قبال اینترنت به تایلند و ویتنام نیز کشیده شده است. بر اساس گزارش‌های خبری کارشناسان چینی از سانسور‌های دولتی در سریلانکا پشتیبانی کرده‌اند و تجهیزات نظارت و سانسور را در اختیار اتیوپی، زامبیا و زیمبابوه قرار داده‌اند. اوایل سال جاری شرکت هوش مصنوعی چین Yitu «دوربین‌های قابل پوشیدن با فن آوری تشخیص چهره مبتنی بر هوش مصنوعی» را به نهاد اجرای قانون در مالزی فروخت.

در کل چین و روسیه علیه مفهوم اینترنت آزاد، بدون مرز و جهانی اقدام کرده‌اند. چین از قدرت دیپلماتیک و بازاری خود برای نفوذ در استانداردهای تکنیکی جهانی و عادی سازی این ایده استفاده می‌کند که دولت‌های محلی باید اینترنت را به شیوه‌هایی کنترل کنند که به شدت آزادی فردی را محدود می‌کند.

بعد از رقابت شدید برای نفوذ در همایش جدیدی که استانداردهای بین‌المللی اینترنت برای هوش مصنوعی را تعیین می‌کند، آمریکا دبیرخانه را که به راهنمایی تصمیم‌های گروهی کمک می‌کند، تامین کرد در حالی که پکن در آوریل سال جاری میزبان اولین نشست آن بود و وائل دیاب، مدیر عالی رتبه هوآوی رییس این کمیته بود. ممکن است این تدابیر برای دولت‌هایی که آن‌ها را اعمال می‌کنند دفاعی به نظر برسد که برای کنترل داخلی امری ضروری است، اما امکان دارد دیگر دولت‌ها آن‌ها را معادل حمله به شیوه زندگی آن‌ها بدانند.

پاسخ دموکراتیک

ظهور الگوی فن‌آورانه اقتدارگرایی برای حکمرانی شاید برخلاف انتظار بتواند جان دوباره‌ای به لیبرال دموکراسی‌ها بدهد. اینکه لیبرال دموکراسی‌ها چطور به چالش‌ها و فرصت‌های هوش مصنوعی پاسخ دهند تا حدودی به این امر که چطور در داخل با آن‌ها برخورد کنند و تا حدودی نیز به این موضوع بستگی دارد که چطور در بیرون با جایگزین اقتدارگرایی برخورد کنند.

در هر دو مورد زمینه‌هایی برای خوش‌بینی محتاطانه وجود دارد. در داخل، اگرچه دموکراسی‌های مستقر نیازمند تلاش‌هایی هماهنگ برای مدیریت ظهور فن آوری‌های جدید هستند، اما قطعا این چالش‌ها بزرگ‌تر از چالش‌هایی نیستند که آن دموکراسی‌ها قبلا بر آن‌ها غلبه کرده‌اند. یک دلیل بزرگ برای خوشبین بودن، تکیه بر مسیر است. احتمالا کشورهایی که سنت‌هایی محکم برای آزادی فردی دارند با فن‌آوری جدید در یک مسیر قرار می‌گیرند و کشورهایی که فاقد آن هستند مسیر دیگری را طی می‌کنند.

نیروهای قوی درون اجتماع آمریکا از مدت‌ها قبل علیه برنامه‌های نظارت جمعی دولت داخلی اعمال فشار کرده‌اند، البته درصد کسب موفقیت‌های‌شان متغیر بوده است. در سال‌های نخست این قرن، به عنوان مثال، آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی سیستم‌های نظارت داخلی «هشیاری اطلاعاتی کلی» را برای گرد هم آوردن داده‌های پزشکی، مالی، فیزیکی و دیگر داده‌ها ایجاد کرد. مخالفت رسانه‌ها و گروه‌های حامی آزادی‌های مدنی کنگره را به سوی حذف بودجه این برنامه هدایت کرد، اگرچه در آن زمان برخی روش‌های جایگزین از منظر عموم پنهان ماند. اغلب شهروندان در لیبرال دموکراسی‌ها بر لزوم جاسوسی در خارج و نظارت برای مبارزه با تروریسم در داخل تاکید می‌کنند، اما نظارت و توازن قدرتمند دستگاه امنیتی دولت را محدود می‌کند. آن نظارت و توازن‌ها امروز هدف حمله قرار دارند و نیازمند تحکیم هستند، اما این بیشتر از این که یک چالش اساسا جدید باشد، تکرار اقدامات گذشته است.

در غرب، دولت‌ها تنها کسانی نیستند که تهدیدی برای آزادی‌های فردی محسوب می‌شوند. شرکت‌های فن آوری انحصاری چندجانبه (اولیگوپُلی) از طریق کنار زدن رقبا و لابی در دولت‌ها به منظور اجرای مقررات مطلوب در حال تمرکز بر قدرت هستند. با این حال اجتماعات پیشتر یعنی بعد از انقلاب‌های فن آورانه، بر این چالش غلبه کرده‌اند. به برنامه تقویت اعتماد تئودور روزولت، انحلال AT&T در دهه 80 و محدودیت‌هایی که تنظیم کنندگان مقررات در سال‌های ظهور اینترنت در دهه 90 بر مایکروسافت اعمال کردند، نگاه کنید.

غول‌های دیجیتال همچنین به تنوع رسانه و حمایت از محتوایی که به نفع عموم باشد، صدمه می‌زنند و همچنین در تبلیغات سیاسی یک غرب وحشی ایجاد می‌کنند، اما پیشتر فن آوری‌های جدید افراطی نظیر رادیو و تلویزیون با مشکلاتی مشابه روبرو بودند و اجتماعات در برابر این چالش برخاستند. در نهایت احتمالا مقررات گرفتار تعاریف جدیدی از «رسانه» و «انتشارات» می‌شود که توسط اینترنت ایجاد شده‌اند. مارک زوکربرگ، مدیر اجرایی فیسبوک در برابر تبلیغات سیاسی به همان شکلی مقاومت کرد که در تلویزیون مورد نیاز است.

بعید است لیبرال دموکراسی‌ها بر اقتدارگرایی دیجیتال پیروز شوند. نظرسنجی‌های اخیر نشان می‌دهد که سهم رو به کاهشی از اجتماعات غربی دموکراسی را «ضروری» می‌دانند، اما این با تضعیف دموکراسی غربی فاصله زیادی دارد.

چالش بیرونی یک رقیب اقتدارگرای جدید ممکن است لیبرال دموکراسی‌ها را تقویت کند. گرایش انسانی به شکل دادن رقابت در قالب ما در مقابل آن‌ها ممکن است باعث شود کشورهای غربی رویکردهایشان در قبال سانسور و نظارت را دستکم تا حدودی بر خلاف این رقابت جدید تعریف کنند. اغلب مردم اصل مطلب سیاست داده‌ها را کسالت بار می‌دانند و توجه اندکی به ریسک‌های نظارت دارند، اما وقتی این مسائل بنای یک رژیم ویران شهری را در جهان واقعی بنیان گذارد، نه کسالت بار و نه انتزاعی خواهد بود. دولت‌ها و شرکت‌های فن‌آوری در لیبرال دموکراسی‌ها باید توضیح بدهند که چطور متفاوت هستند.

 درس‌هایی برای غرب

غرب برای تغییر مسیر کشوری با توانایی و اعتماد به نفس چین، کار اندکی می‌تواند انجام دهد. دولت‌های اقتداگرای دیجیتالی احتمالا برای مدتی حضور خواهند داشت. لیبرال دموکراسی‌ها برای رقابت با آن‌ها نیازمند راهبردهایی روشن هستند. اول، دولت‌ها و اجتماعات باید قاطعانه نظارت و دستکاری داخلی را محدود کنند. غول‌های فن آوری باید سر و سامان پیدا کنند. دولت‌ها باید از یک محیط رسانه‌ای متنوع و سلامت، به عنوان مثال با کسب اطمینان از این که دروازه بانانی نظیر فیسبوک محبوبیت رسانه‌ای را کاهش نمی‌دهند، تامین سرمایه انتشار خدمات عمومی و به روزرسانی مقرراتی که تبلیغات سیاسی را به شکلی پوشش می‌دهند که با دنیای آنلاین تناسب داشته باشد، اطمینان کسب کنند. آن‌ها باید قوانینی را به اجرا درآورند که از بهره‌برداری شرکت‌های فن‌آوری از دیگر منابع داده‌های شخصی، نظیر سوابق پزشکی، مشتریان شان جلوگیری کند و باید جمع آوری داده‌ها در تمامی پلتفورم‌هایی را که مردم با آن‌ها در تماس هستند، محدود کنند. حتی دولت‌ها باید از استفاده از چنین داده‌هایی به استثنای مواردی معدود نظیر عملیات‌های مقابله با تروریسم منع شوند.

دوم، کشورهای غربی باید کاری کنند تا بر اینکه دولت‌هایی که نه دموکراتیک و نه اقتداگرا هستند، چطور باید هوش مصنوعی و سیستم‌های کلان داده را به اجرا درآورند، نفوذ داشته باشند. آن‌ها باید برای توسعه زیرساخت فیزیکی و مقرراتی این دولت‌ها نقش ایفا کنند و از این دسترسی فراهم شده توسط این کمک‌ها، برای جلوگیری از استفاده دولت‌ها از داده‌های گردآوری شده استفاده کنند. آن‌ها باید هنجارهای بین المللی را که به حریم خصوصی افراد و نیز حاکمیت دولت‌ها احترام می‌گذارد، ارتقاء دهند؛ و باید حدود استفاده از هوش مصنوعی و ابرداده‌ها برای اهداف امنیت ملی مشروع را از استفاده از آن برای سرکوب حقوق بشر متمایز کنند.

در نهایت کشورهای غربی باید برای اعمال فشار علیه مرکز اصلی اقتدارگرایی دیجیتال آماده شوند. سیستم‌های عظیم هوش مصنوعی در برابر فساد آسیب پذیر هستند، اگر چه در حالی که رژیم‌ها بیشتر از همیشه برای امنیت بر آن‌ها تکیه می‌کنند، اما باید مراقب باشند که چرخه‌های تلافی مجازات از کنترل خارج نشوند. سیستم‌هایی که به طور گزینشی ارتباطات را سانسور می‌کنند، خلاقیت اقتصادی را ممکن می‌سازند، اما در عین حال به ناچار جهان بیرونی را آشکار می‌سازند. مادامی که لیبرال دموکراسی‌ها اراده سیاسی لازم را برای مبارزه داشته باشند، پیروزی در رقابت با دولت‌های اقتداگرای دیجیتال غیر ممکن نخواهد بود.

* توجه: انتشار ترجمه این مقاله برای افزودن به غنای اطلاعاتی مخاطبان صورت گرفته و به معنای تایید بخشی یا کلی از محتوای آن از سوی سایت نیست.


سه شنبه ۰۶ آذر ۱۳۹۷ ۱۷:۰۳ ب.ظ


اظهار نظر

برای ارسال نظرات خود باید ابتدا عضو و وارد سایت شوید.

تا کنون نظری برای این مطلب ثبت نشده است، شما میتوانید اولین نفری باشید که در رابطه با آن اظهار نظر میکنید!