فاطمه کنعانی، عضو هیات‌علمی پژوهشکده مطالعات فناوری:همه‌چیز از این سوال آلن تورینگ آغاز شد؛ «آیا ماشین‏ها می‏توانند فکر کنند؟» تلاش‌های دانشمندان و متخصصان برای پاسخ به این سوال، موجب ایجاد و توسعه هوش مصنوعی شده است. امروزه دامنه این پیشرفت‏ها تا جایی گسترده شده که همه زندگی بشر را احاطه کرده است. کمتر کسی است که بر مزایای بالقوه توسعه این فناوری، اذعان نداشته باشد؛ به عقیده مکس تگمارک۱، «هرآنچه درمورد تمدن مورد پسند بشر است، محصول هوش است. لذا تقویت هوش انسانی توسط هوش مصنوعی، تا جایی‏که بتوان آن را مدیریت کرد، می‏تواند به شکوفایی تمدن منجر شود.» این جمله‏ای بسیار عمیق و تأمل برانگیز است. با این حال، پیامدهای منفی و خطراتی که می‏توان برای این فناوری متصور شد، کافی است تا به مقوله‏ای حول‏انگیز تبدیل شود. استیفن هاوکینگ، فیزیکدان و دانشمند برجسته انگلیسی، نیز گفته است:«موفقیت در ایجاد هوش مصنوعی موثر، می‏تواند بزرگ‌ترین یا بدترین رویداد تاریخ تمدن بشر باشد، مگر اینکه یاد بگیریم چگونه خود را برای رویارویی با خطرات احتمالی آن آماده کرده و از آنها اجتناب کنیم.»
البته درمورد بسیاری از فناوری‏ها، بررسی مخاطرات و خطرات جانبی آنها بر تمدن بشر، حائز اهمیت است اما ظرفیت تقریبا نامحدود و وهم‏انگیز و ماهیت عدم قطعیت هوش مصنوعی، بر اهمیت موضوع افزوده است. برای مثال، طبق پیش‌بینی‌های آژانس جاسوسی ایالات متحده در مورد فناوری‌های دیجیتال و پیشرفت‌های هوش مصنوعی در سال 2040، «هم دولت‌ها و هم بازیگران غیردولتی تقریبا به‌طور قطع می‌توانند از این ابزارها برای تاثیرگذاری بر جوامع، با افزایش دستکاری‌های شناختی۲ و قطبی‌سازی اجتماعی۳ استفاده کنند.» این قبیل مسائل، با اشتباهات جزئی در الگوریتم‏ها، داده‏های ورودی، مدل‏ها و... شروع می‌شوند و در فرآیند تصمیم‌گیری رشد می‌کنند. بنابراین قبل از بروز آنها، دولت‏ها و سازمان‏ها باید به خوبی نسبت به چهارچوب مشخص و راه‏ مهارشان آگاهی کسب کنند.
یکی از مخاطراتی که هوش مصنوعی می‏تواند ایجاد کند و خود، به صورت دومینووار منجر به ایجاد زیان‏های جبران‏ناپذیر شود...

متن کامل را اینجا بخوانید.