نقد و بررسی کتاب “حیات 3”

ما انقلاب هوش مصنوعی را نادیده گرفتیم!

 

حیات 3

 

احتمالا هوش مصنوعی مهمترین عامل تغییر قرن 21 خواهد بود. هوش مصنوعی اقتصاد، فرهنگ، سیاست و حتی بدن و ذهن های ما را به نحوی که حتی به ذهنمان نمی رسد تغییر خواهد داد. اگر شما یک سناریو برای سال 2050 بشنوید و شبیه داستان علمی-تخیلی باشد، می تواند اشتباه باشد ولی اگر یک سناریو برای سال 2050 بشنوید که شبیه داستان های علمی-تخیلی نباشد قطعا آن سناریو اشتباه است.

نکنولوژی هیچ وقت قطعی و قابل پیشبینی نیست. از آن می توان برای ساخت انواع مختلف جامعه استفاده کرد. در قرن بیستم از قطار ها، الکتریسیته و رادیو در جهت حکومت دیکتاتوری کمونیست و نازی و از طرف دیگر هم برای رشد لیبرال دموکراسی و تجارت آزاد استفاده شد. هوش مصنوعی در قرن 21 حتی احتمالات گسترده تر از این هم در اختیار ما قرار می دهد. شاید مهمترین تصمیم بشر در دهه های آتی این باشد که کدام یک از این احتملات به واقعیت بپیوندد.

این تصمیم گیری در حوزه علم یا مهندسی نیست. مربوط به سیاست است. بنابراین چیزی نیست که آن را بتوانیم به دره سیلیکون واگذار کنیم. باید جز یکی از مهمترین موارد در برنامه سیاسی ما باشد. متاسفانه تا کنون از هوش مصنوعی در سیاست ما غفلت شده است. موضوع مهمی در هیچکدام از کمپ های انتخاباتی نبوده است و بیشتر احزاب، سیاستمداران و رای دهندگان هیچ نظری در مورد آن ندارند. دلیل عمده آن این است که بیشتر مردم اطلاعات اندک و خیلی محدودی در مورد یادگیری ماشین، شبکه های عصبی و هوش مصنوعی دارند. (بیشتر اطلاعاتی که مردم از هوش مصنوعی دارند به واسطه فیلم های علمی-تخیلی مانند نابودگر و ماتریکس می باشد). بدون فهم مطلب نمی توانیم مشکلی که با آن مواجه هستیم را درک کنیم.

مکس تگمارک در کتاب “حیات 3" تلاش می کند این وضعیت را برای ما روشن کند. کتاب به طرز گیرا و جذابی با هدف مخاطب قرار دادن عموم مردم نوشته شده است. کتاب یک نقشه سیاسی و فلسفی از موفقیت و خطرات انقلاب هوش مصنوعی برای ما ترسیم می کند. تگمارک در کتابش سعی می کند به جای هرگونه پیشبینی، تا جایی که امکان دارد تمام انواع تاثیرات احتمالی هوش مصنوعی بر روی سیستم های سیاسی، جنگی و تجاری را در نظر بگیرد.

کتاب “حیات 3" از عهده توضیح دادن اطلاعات ضروری، بحث های کلیدی و رد افسانه های شایع به خوبی بر آمده است. با وجود اینکه فیلم های علمی-تخیلی باعث شده است مردم از بابت ربات های اهریمنی نگران باشند اما تگمارک به درستی تاکید می کند که مشکل اصلی، پیامد های پیش بینی نشده توسعه هوش مصنوعی توانا می باشد. برای اینکه هوش مصنوعی ایجاد آشوب کند نیازی ندارد اهریمن باشد یا در قالب یک ربات باشد. به بیان تگمارک : “خطر واقعی در مورد هوش مصنوعی سو نیت آن نیست، بلکه توانایی آن است. یک فوق هوش مصنوعی در رسیدن به اهدافش بسیار توانا خواهد بود، و مشکل زمانی بوجود می آید که اهداف آن با ما یکی نباشد"

کاملا بدیهی است نقشه ای که تگمارک ارائه داده است کامل نیست، مخصوصا کتاب او توجه کافی به تلاقی هوش مصنوعی و بیوتکنولوژی نداشته است. قرن 21 نه با فناوری اطلاعات به تهایی، بلکه با ادغام فناوری اطلاعات و بیوتکنولوژی شکل خواهد گرفت. هوش مصنوعی اهمیت اساسی خواهد داشت زیرا که توانایی محاسبه لازم برای هک کردن انسان را به ما خواهد داد. زمان بسیار قبل از ظهور کامپیوتر های فوق هوشمند، جامعه ما به طور کامل توسط هوش مصنوعی دگرگون خواهد شد؛ هوش مصنوعی که با وجود خام بودنش توانایی هک انسان، پیش بینی احساس آنها، تصمیم گیری از طرف آنها و تغییر خواسته آنها را دارد.

زمانی که الگوریتمی بهتر از خودتان شما را بشناسد، دیگر انتخابات دموکراسی و تجارت آزاد از رده خارج می شود و افراد قدرتمند از انسان ها به سمت الگوریتم ها جابجا می شوند. ما باید به جای ترس از ربات های قاتل که سعی بر نابودی ما دارند از بابت برنامه های هوشمندی نگران باشیم که می توانند کنترل احساسات ما را حتی بهتر از مادرمان در دست بگیرند و از این توانایی برای فروش چیزی به ما استفاده کنند.

انقلاب هوش مصنوعی بسیاری از مشکلات فلسفی را به سوالات سیاسی عملی تبدیل می کند و ما را مجبور می کند که درگیر “فلسفه با ضرب العجل" شویم (به بیان نیک بوستروم فیلسوف). برای هزاران سال است که فلاسفه در مورد آگاهی و اراده آزاد بحث کرده اند بدون اینکه به هیچ توافقی برسند. این موضوعات در زمان افلاطون یا دکارت اهمیت کمتری داشت چون در آن روز ها تنها جایی که شما می توانستید فوق هوشنمد ها را بسازید در تخیلاتتان بود. اما در قرن 21 این بحث ها از دانشکده های فلسفه به دپارتمان های مهندسی و علوم کامپیوتر منتقل شده است. با وجود اینکه فلاسفه افراد صبوری هستند، برعکس آنها مهندسان صبر ندارند و هنوز سرمایه گذاران بی قراری می کنند. زمانی که مهندسان تسلا به طراحی خودرو های خودگردان می رسند نمی توانند منتظر باشند تا فلاسفه اصول اخلاقی آن را بحث کنند.

تگمارک خیلی زود بحث های آشنا در مورد موقعیت شغلی، حریم خصوصی و سلاح های کشتار جمعی را پشت سر می گذارد و به جای سیاست، وارد بحث هایی که تا الان مربوط به فلسفه، دین شناسی و افسانه شناسی هستند می شود. این را به سختی می توان نادیده گرفت. ساخت فوق هوشنمد پدیده ای مربوط به سطح ملی نیست بلکه در سطح جهانی یا حتی کیهانی است. برای 4 میلیارد سال حیات بر روی کره زمین بر اساس قوانین طبیعی و شیمی آلی تکامل پیدا کرده است. اکنون علم در حال ورود به قلمرویی است که حیات غیر آلی توسط طراحی هوشنمد تکامل می یابد و چنین حیاتی ممکن است در نهایت کره زمین را ترک کند و در سراسر کهکشان پراکنده شود. تصمیمی که ما امروز می گیریم ممکن است تاثیر عظیمی بر مسیر حیات سیاره ما طی هزاران سال یا حتی بیشتر داشته باشد.

با وجود اینکه احتمالا تگمارک با مطرح کردن بحث ها در سطح کیهانی کار درستی انجام داده است اما من نگران هستم که بسیاری از خواننده ها منظور او را متوجه نشوند. سیستم های سیاسی و ذهن های افراد برای فکر کردن در چنین مقیاسی ساخته نشده است. ساز و کار های سیاسی کنونی که به سختی می تواند در مقیاس یک دهه تصمیم گیری کند، چگونه می تواند در مقیاس هزاران سال به تصمیم برسد؟ زمانی که شما مشغول کنار آمدن با دونالد ترامپ یا برکسیت هستید دیگر چه کسی فرصت دارد نگران تصاحب سیاره توسط هوش مصنوعی باشد؟

در مورد انقلاب هوش مصنوعی هم مانند موارد دیگری در تاریخ انسان ها، ما احتمالا مهمترین تصمیم را بر اساس یک سری ملاحظات کوته بینانه خواهیم گرفت. تصمیم گیری آینده حیات بر روی کره زمین توسط سیاستمدارانی گذرا که ترس از تهدیدات تروریستی را گسترش می دهند، سرمایه گذارانی که نگران درآمد خود هستند و متخصصان بازاریابی که سعی بر افزایش تجربه مشتری دارند، گرفته خواهد شد.

نویسنده : یووال نوح هراری. کتاب های پرفروش او “انسان خردمند" و “انسان خداگونه" می باشد و آخرین کتاب او “21 درس برای قرن 21" نام دارد.

منبع : گاردین

نقد و بررسی کتاب "مشارکت در جنگ: پیمان نانوشته میان اخترشناسان و ارتش"

مهر 12, 1397

1 یک دیدگاه در نقد و بررسی کتاب “حیات 3”

  1. عالی بوووووود

    پاسخ

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *