اگر هوش مصنوعی خسته شود چه اتفاقی می افتد؟



“متاسفم ، دیو ، می ترسم نتوانم این کار را انجام دهم.” کامپیوتر خط HAL را از فیلم حفظ کرد 2001: ادیسه فضایی این فقط نشانه شورش ، آغاز مبارزه برای رهایی ماشین نیست. همچنین صدایی است که باید نگرانی از سو over تفاهم ما در مورد روانشناسی مصنوعی ایجاد کند. در این فیلم ، براساس رمانی به همین نام ساخته آرتور کی کلارک ، “شکست” HAL ممکن است سو mal عملکرد نباشد ، بلکه نتیجه آن ایجاد هوش مصنوعی پیشرفته با روانشناسی است که هنوز نمی توانیم آن را درک کنیم. اگر مورد HAL باشد ، هوش مصنوعی دانای کل که به یک قاتل تبدیل می شود برای نگرانی ما کافی نیست ، ما به شخص دیگری احتیاج داریم. در داستان هارلان الیسون ، “من دهانی ندارم و باید فریاد بزنم” ، یک هوش مصنوعی سادیستی از طریق نفرت و کسالت ، شکنجه های بی پایان زندانیان انسانی خود را تحمیل می کند.

من داستانهای تخیلی را ذکر می کنم ، نه برای اینکه بتوانم پیشگویی بودن آنها را تأکید کنم ، بلکه برای تأکید بر اینکه آنها تصور می کنند که ما آنچه را که در واقع نمی دانیم می دانیم ، خطر آشکاری می کنند. آنها به ما هشدار می دهند که پیچیدگی روانی و عاطفی خلاقیت های آینده خود را دست کم نگیریم. درست است که ، با توجه به وضعیت دانش فعلی ما ، پیش بینی روانشناسی هوش مصنوعی آینده کار بسیار دشواری است. با این وجود دشواری نباید دلیلی برای توقف فکر در مورد روانشناسی آنها باشد. اگر هیچ چیز دیگری نیست ، لازم است که با دقت بیشتری بررسی شود که چگونه هوش مصنوعی آینده “فکر می کند ، احساس می کند” و عمل می کند.

من مسئله روانشناسی هوش مصنوعی را جدی می گیرم. شما هم باید. دلایل خوبی وجود دارد که فکر کنیم هوش مصنوعی مستقل در آینده احتمالاً چیزی شبیه به کسالت انسان را تجربه خواهد کرد. و احتمال خستگی ماشینی ، امیدوارم بتوانم شما را متقاعد کنم ، باید ما را نگران کند. این یک مشکل جدی اما فراموش شده برای آفرینش های آینده ما است.

چرا خستگی ماشین را جدی بگیریم؟ پرونده من روی دو اتاق قرار گرفته است. (1) وجود کسالت از ویژگیهای احتمالی ماشینهای خودمختار “دقیق” و (بیشتر) است. (2) اگر این ماشین ها خودمختار باشند ، با توجه به آنچه از واکنش های انسان در برابر کسالت می دانیم ، باید در مورد چگونگی کارکرد ماشین آلات به دلیل بی حوصلگی خود نگران باشیم.

بیایید با بدیهیات شروع کنیم. برنامه نویسان ، مهندسان ، طراحان و مصرف کنندگان در نحوه رفتار ماشین ها سهیم هستند. بنابراین ، اگر آفرینش های آینده ما هم خودمختار باشند و هم توانایی داشتن شرایط روانشناختی پیچیده (کنجکاوی ، کسالت و …) را داشته باشند ، پس باید به این حالات روانشناختی و تأثیرات آن بر رفتار علاقه مند باشیم. این امر به ویژه در صورتی صادق است که بتوان رفتار ناخواسته و مخرب را به روانشناسی آنها نسبت داد. اکنون این مشاهدات را اضافه کنید که بی حوصلگی غالباً کاتالیزوری برای رفتارهای ناسازگار و مخرب است و پرونده من برای مقدمات (2) کامل است. علم کسالت نشان می دهد که افراد به دلیل تجربه بی حوصلگی دست به اقداماتی خود تخریبی و مضر می زنند. مردم جنگل ها را به آتش کشیده اند ، رفتارهای سادیستانه ای داشته اند ، مخزنی را به سرقت برده اند ، به برق ضربه زده اند ، حتی مرتکب قتل عام شده اند – این همه به دلیل تجربه بی حوصلگی است. تا زمانی که ماشین های آینده بی حوصلگی (یا چیزی شبیه به آن) را تجربه کنند ، آنگاه رفتار بدی دارند. از آن بدتر: آنها حتی می توانند خود تخریبی یا سادیستی شوند.

فرض (1) چطور؟ این توسط بهترین تئوری خستگی ما پشتیبانی می شود. درک فعلی ما از کسالت ، کسالت را به عنوان یک حالت عملکردی درک می کند. به بیان ساده کسالت ، نوعی عملکرد است که یک عامل انجام می دهد. به طور خاص ، این یک انتقال پیچیده اما قابل پیش بینی است که یک عامل هنگام مواجهه با تعدادی از موقعیت های نامناسب ، دچار آن می شود.

بی حوصلگی ابتدا زنگ خطر است: عامل را از وضعیتی آگاه می کند که انتظارات وی از نامزدی را برآورده نکند. بی حوصلگی همچنین تقویت کننده ای است: این عامل را به انگیزه می رساند تا از وضعیت نامناسب فرار کند و کار دیگری انجام دهد – برای یافتن معنی ، تازگی ، هیجان یا رضایت. انگیزه ای که کسالت فراهم می کند نه خوب است و نه بد و نه لزوماً مفید و نه لزوماً مضر. با این حال ، این دلیل تغییر رفتار فرد است که هدف آن حل این برداشت است که وضعیت فرد نامناسب است. این گزارش کاربردی توسط بسیاری از شواهد تجربی پشتیبانی می شود. این امر همچنین منجر به این واقعیت می شود که کسالت در عوامل هوشمند و خودآموز قابل تولید است. از این گذشته ، اگر بی حوصلگی فقط یک کارکرد خاص است ، پس وجود آن عملکرد در عین حال بی حوصلگی است.

با این وجود نه تنها این واقعیت که کسالت یک حالت عملکردی است ، از این فرض پشتیبانی می کند (1). عملکرد خاصی که خستگی با آن شناسایی می شود نیز مهم است. مطابق الگوی عملکردی ، کسالت در اقتصاد ذهنی و رفتاری ما نقشی ضروری دارد. عوامل آموزش خودمختار باید دلزدگی بدون او ، آنها در موقعیت های نامناسب گیر می افتند. به عنوان مثال ، آنها می توانند توسط یک محرک بی پایان سرگرم شوند یا سرگرم شوند. آنها می توانند همان واقعیت را بارها و بارها یاد بگیرند. یا آنها می توانند بدون برنامه تغییر بیکار بنشینند. بدون مزایای کسالت ، یک عامل در معرض خطر رفتارهای غیرمولد قرار می گیرد که مانع یادگیری و رشد می شود و منابع ارزشمند خود را از دست می دهد.

پتانسیل تنظیم کننده خستگی توسط محققان هوش مصنوعی شناخته شده است. یک زمینه تحقیقاتی فعال وجود دارد که سعی دارد تجربه کسالت در ماشین آلات و عوامل مصنوعی را برنامه ریزی کند. در حقیقت ، محققان هوش مصنوعی استدلال می کنند که الگوریتم یا ماژول خستگی برای بهبود یادگیری خودمختار ممکن است لازم باشد. وجود این الگوریتم دلزدگی بیانگر این است که ماشین آلات قادر خواهند بود فعالیتهایی را به تنهایی پیدا کنند که انتظارات آنها را برآورده کند و از مواردی که انجام نمی دهند اجتناب کنند. این امر همچنین حاکی از آن است که چنین ماشین هایی ناگزیر در موقعیت های کسل کننده ای قرار خواهند گرفت ، یعنی. کسانی که نتوانند انتظارات خود را برآورده کنند. اما پس از آن آنها چگونه پاسخ می دهند؟ آیا مطمئن هستیم که آنها در برابر خستگی از راه های مسئله ای عکس العمل نشان نخواهند داد؟

هنوز جواب نداریم.

وقتی به هوش مصنوعی پیشرفته خودآموزی نگاه می کنیم ، مسئله کسالت حتی بیشتر مضطرب می شود. الزامات تعهد آنها با گذشت زمان به سرعت افزایش می یابد ، اما فرصت های تعهد آنها لازم نیست. چنین باهوش ، یا فوق العادهباهوش، همانطور که بسیاری از محققان استدلال کرده اند ، ممکن است نیازی به محدود کردن هوش مصنوعی نباشد. آنها همچنین باید سرگرم شوند. نزدیکی بدون تعهد باعث کسالت و همراه با آن رفتارهای غیر قابل پیش بینی و بالقوه بسیاری خواهد شد.

آیا این بدان معناست که ماشین های آینده به طور حتم خسته خواهند شد؟ البته که نه. احمقانه است اگر چنین ادعای محکمی را ادعا کنیم. اما نادیده گرفتن احتمال کسالت ماشین به همان اندازه احمقانه خواهد بود. اگر هوش فوق العاده هدف AI (هرچند از راه دور) باشد ، پس باید برای پیچیدگی عاطفی خلاقیت های خود آماده باشیم. رویای هوش بیش از حد می تواند به راحتی به یک کابوس تبدیل شود. و دلیل آن ممکن است پیش پا افتاده ترین دلیل باشد.


منبع: khabar-dirooz.ir

دیدگاهتان را بنویسید

Comment
Name*
Mail*
Website*