فاطمه کنعانی، عضو هیات‌علمی پژوهشکده مطالعات فناوری:همه‌چیز از این سوال آلن تورینگ آغاز شد؛ «آیا ماشین‏ها می‏توانند فکر کنند؟» تلاش‌های دانشمندان و متخصصان برای پاسخ به این سوال، موجب ایجاد و توسعه هوش مصنوعی شده است. امروزه دامنه این پیشرفت‏ها تا جایی گسترده شده که همه زندگی بشر را احاطه کرده است. کمتر کسی است که بر مزایای بالقوه توسعه این فناوری، اذعان نداشته باشد. به عقیده «مکس تگمارک»1، «هرآنچه در مورد تمدن، مورد‌پسند بشر است، محصول هوش است. لذا تقویت هوش انسانی توسط هوش مصنوعی، تا جایی‏که بتوان آن را مدیریت کرد، می‏تواند به شکوفایی تمدن منجر شود.» این‌ جمله‏ای بسیار عمیق و تأمل‌برانگیز است. با این حال، پیامدهای منفی و خطراتی که می‏توان برای این فناوری متصور شد، کافی است تا به مقوله‏ای هول‏انگیز تبدیل شود. استیفن هاوکینگ، فیزیکدان و دانشمند برجسته انگلیسی‌ نیز گفته است: «موفقیت در ایجاد هوش مصنوعی موثر، می‏تواند بزرگ‌ترین یا بدترین رویداد تاریخ تمدن بشر باشد، مگر اینکه یاد بگیریم چگونه خود را برای رویارویی با خطرات احتمالی آن آماده کرده و از آنها اجتناب کنیم.» البته درمورد بسیاری از فناوری‏ها، بررسی مخاطرات و خطرات جانبی آنها بر تمدن بشر، حائز اهمیت است اما ظرفیت تقریبا نامحدود و وهم‏انگیز و ماهیت عدم قطعیت هوش مصنوعی، بر اهمیت موضوع، افزوده است؛ برای مثال، طبق پیش‌بینی‌های آژانس جاسوسی ایالات متحده، درمورد فناوری‌های دیجیتال و پیشرفت‌های هوش مصنوعی در سال 2040، «هم دولت‌ها و هم بازیگران غیردولتی تقریبا به‌طور قطع می‌توانند از این ابزارها برای تاثیرگذاری بر جوامع، با افزایش دستکاری‌های شناختی2 و قطبی‌سازی اجتماعی3 استفاده کنند.»‌ این قبیل مسائل، با اشتباهات جزئی در الگوریتم‏ها، داده‏های ورودی، مدل‏ها و... شروع می‌شوند و در فرآیند تصمیم‌گیری، رشد می‌کنند. بنابراین، قبل از بروز آنها، دولت‏ها و سازمان‏ها باید به خوبی نسبت به چهارچوب مشخص و راه‏ مهارشان، آگاهی کسب کنند.
یکی از مخاطراتی که هوش مصنوعی می‏تواند ایجاد کند و خود، به صورت دومینووار منجر به ایجاد زیان‏های جبران‏ناپذیر شود، مخاطرات اخلاقی است....ادامه مطلب