خطرات هوش مصنوعی برای بشریت

تیتر20 - آیا روزی فرا خواهد رسید که روبات ها و در کل هوش مصنوعی، بشریت را نابود کند؟ هوش مصنوعی قابلیت های زیادی برای انسان دارد اما برخی معتقدند محققان چیزی خلق می کنند که قابل کنترل نیست. این اعتقاد بسیاری از متخصصان برجسته هوش مصنوعی در جهان است که با انتشار یک نامه سرگشاده به محققان هشدار داده اند که از مشکلات و تله های تکنولوژی پرهیز کنند.

این نامه سرگشاده از سوی استفان هاوکینگ و بسیاری از متخصصان دانشگاهی در سراسر جهان از جمله دانشگاه هاروارد امضا شده است.

کلودیو روکو، خبرنگار علمی یورونیوز با پروفسور فرانچسکا روسی، استاد علوم کامپیوتر در دانشگاه هاروارد و یکی از امضا کنندگان این نامه گفتگو کرده است:

چرا بسیاری از دانشمندان برجسته احساس کرده اند باید این نامه را امضا کنند؟

«برخی ها می گویند نباید نگران بود، بخاطر اینکه ماشینها کاملا هوشمند نیستند اما برخی دیگر می گویند ماشینها بزودی می توانند همانند انسانها و حتی بیشتر از آنها هوشمند باشند و علیه انسانها عمل کنند. هیچ کدام از این دو نگرش افراطی معقول نیست برعکس داشتن یک رویکرد سازنده معقول است یعنی سعی کنیم ماشینهای هوشمندتر بسازیم اما به مسئله امنیت هم توجه داشته باشیم و رفتارهای این ماشینها را مورد بررسی قرار دهیم. از این نظر این نامه و سند طولانی تر ضمیمه آن، دقیقا با این قصد و نیت نوشته شده تا هم رویکردی سازنده برای پروژه های تحقیقاتی هوش مصنوعی ارائه کند و هم مشوق دیگر رشته های علمی همانند فلسفه، روانشناسی، اقتصاد و غیره باشد. ما باید بسمت ساخت ماشین های هوشمند اما ایمن حرکت کنیم.»

آیا این ماشینهای هوشمند، زمانی می توانند انسان را نابود کنند، موجودی که بر اساس قوانین بیولوژیک، با محدودیتهایی روبروست؟ آیا روزی خواهد رسید که روباتها انسانها را از بین ببرند؟

«فکر نمی کنم چنین سناریوی فاجعه باری بتواند بطور طبیعی از عملکرد این ماشین آلات پدیدار شود. این ماشینها قادر خواهند بود در طول زمان رفتارشان را تغییر دهند اما همواره از کدهایی که ابتدا به آنها داده شده پیروی خواهند کرد. اما قطعا باید ماشینهای هوشمندی بسازیم که قابلیت بررسی مجدد آنها وجود داشته باشد.»

یا شرایطی شبیه فضای فیلم «او» که در آن یک نویسنده تنها، رابطه نامناسبی با سیستم عامل کامپیوترش پیدا می کند، واقعا امکان پذیر است و یا این تنها داستانی علمی – تخیلی است؟

«در حال حاضر ماشینهایی وجود دارد که با انسان تعامل دارند. مثلا روباتهایی هست که افراد مسن یا بیمار را همراهی می کنند و به آنها کمک می کنند. این ماشینها به معنایی رابطه «همدلانه» با انسان دارند و می توان تصور کرد که آنها بتوانند به اشکال مشابهی با دیگر انسانها هم رابطه داشته باشند. با این حال فکر نمی کنم که تمام آنچه که در فیلمها می بینیم بتواند در مدت زمان کوتاهی در واقعیت اتفاق بیافتد.»

این نامه سرگشاده همچنین خواهان تلاش هایی برای قانونگذاری در این زمینه است قبل از اینکه مثلا خودروهای بدون راننده به شکل گسترده مورد استفاده قرار گیرند. آیا خودروهای بدون راننده می توانند واقعا خطرناک باشند؟

فرانچسکا روسی: «باید گفت که تکنولوژی و از جمله این اتومبیل ها آماده حرکت در جاده ها هستند و می توانند جان بسیاری از مردم را نجات دهند که اکنون بخاطر تصادفات ناشی از حواس پرتی می میرند. آنچه هنوز درک نمی شود این نکته است که این ماشین ها می توانند بر اساس قاعده درست هم عمل کنند. نکته مهم آن است که بدانیم چه کسی مسئول تصمیم گیری درباره این ماشینها و رفتارشان است.»