آیا روزی خواهد رسید که روبات ها و در کل هوش مصنوعی، بشریت را نابود کند؟
اين اعتقاد بسياري از متخصصان برجسته هوش مصنوعي در جهان است كه با انتشار يك نامه سرگشاده به محققان هشدار دادهاند كه از مشكلات و تلههاي تكنولوژي پرهيز كنند. اين نامه سرگشاده از سوي استفان هاوكينگ و بسياري از متخصصان دانشگاهي در سراسر جهان از جمله دانشگاه هاروارد امضا شده است. كلوديو روكو، خبرنگار علمي يورونيوز با پروفسور فرانچسكا روسي، استاد علوم كامپيوتر در دانشگاه هاروارد و يكي از امضاكنندگان اين نامه گفتگو كرده است:يورونيوز: چرا بسياري از دانشمندان برجسته احساس كردهاند بايد اين نامه را امضا كنند؟
فرانچسكا روسي: «برخي ميگويند نبايد نگران بود، بهخاطر اينكه ماشينها كاملاً هوشمند نيستند اما برخي ديگر ميگويند ماشينها بهزودي ميتوانند همانند انسانها و حتي بيشتر از آنها هوشمند باشند و عليه انسانها عمل كنند. هيچكدام از اين دو نگرش افراطي معقول نيست برعكس داشتن يك رويكرد سازنده معقول است يعني سعي كنيم ماشينهاي هوشمندتر بسازيم اما به مسأله امنيت هم توجه داشته باشيم و رفتارهاي اين ماشينها را مورد بررسي قرار دهيم. از اين نظر اين نامه و سند طولانيتر ضميمه آن، دقيقاً با اين قصد و نيت نوشته شده تا هم رويكردي سازنده براي پروژههاي تحقيقاتي هوش مصنوعي ارائه كند و هم مشوق ديگر رشتههاي علمي همانند فلسفه، روانشناسي، اقتصاد و غيره باشد. ما بايد بهسمت ساخت ماشينهاي هوشمند اما ايمن حركت كنيم».
يورونيوز: آيا اين ماشينهاي هوشمند، زماني ميتوانند انسان را نابود كنند، موجودي كه بر اساس قوانين بيولوژيك، با محدوديتهايي روبهروست؟ آيا روزي خواهد رسيد كه روباتها انسانها را از بين ببرند؟
فرانچسكا روسي: «فكر نميكنم چنين سناريوي فاجعهباري بتواند بهطور طبيعي از عملكرد اين ماشينآلات پديدار شود. اين ماشينها قادر خواهند بود در طول زمان رفتارشان را تغيير دهند اما همواره از كدهايي كه ابتدا به آنها داده شده پيروي خواهند كرد. اما قطعاً بايد ماشينهاي هوشمندي بسازيم كه قابليت بررسي مجدد آنها وجود داشته باشد».
يورونيوز: آيا شرايطي شبيه فضاي فيلم «او» كه در آن يك نويسنده تنها، رابطه نامناسبي با سيستم عامل كامپيوترش پيدا ميكند، واقعاً امكانپذير است و يا اين تنها داستاني علمي – تخيلي است؟
فرانچسكا روسي: «در حال حاضر ماشينهايي وجود دارد كه با انسان تعامل دارند. مثلاً روباتهايي هست كه افراد مسن يا بيمار را همراهي ميكنند و به آنها كمك ميكنند. اين ماشينها بهمعنايي رابطه «همدلانه» با انسان دارند و ميتوان تصور كرد كه آنها بتوانند به اشكال مشابهي با ديگر انسانها هم رابطه داشته باشند. با اين حال فكر نميكنم كه تمام آنچه كه در فيلمها ميبينيم بتواند در مدت زمان كوتاهي در واقعيت اتفاق بيافتد».
يورونيوز: اين نامه سرگشاده همچنين خواهان تلاشهايي براي قانونگذاري در اين زمينه است قبل از اينكه مثلاً خودروهاي بدون راننده به شكل گسترده مورد استفاده قرار گيرند. آيا خودروهاي بدون راننده ميتوانند واقعاً خطرناك باشند؟
فرانچسكا روسي: «بايد گفت كه تكنولوژي و از جمله اين خودروها آماده حركت در جادهها هستند و ميتوانند جان بسياري از مردم را نجات دهند كه اكنون بهخاطر تصادفات ناشي از حواس پرتي ميميرند. آنچه هنوز درك نميشود اين نكته است كه اين ماشينها ميتوانند بر اساس قاعده درست هم عمل كنند. نكته مهم آن است كه بدانيم چه كسي مسئول تصميمگيري درباره اين ماشينها و رفتارشان است».