متن پیش رو سخنرانی رضا غلامی، رئیس موسسه مطالعات فرهنگی و اجتماعی وزارت علوم، تحقیقات و فناوری در نشست تخصصی آینده‌اندیشی فرهنگ، آموزش و هوش مصنوعی است که در ادامه می‌خوانید.

موضوع بحث بنده در این نشست «مواجهه عقلانیت اسلامی با فناوری هوش مصنوعی» است. منظور من از عقلانیت اسلامی در اینجاعبارت است از معیار و ملاک مواجهه تفکر اسلامی که بحث جزئی درباره آن را به‌جای دیگر موکول می‌کنم. در این بحث ابتدا از باب مقدمه لازم می‌دانم چند نکته را خدمت‌تان یادآوری کنم :
یک. اسلام و مواجهه با علم و فناوری
روشن است که مواجهه اسلام با علم چه به‌معنای Knowledge و چه به‌‌معنای Science مواجهه‌ای باز هست، یعنی اسلام روی کسب علم و بسط و تعمیق آن، به شکل ویژه‌ و منحصربه‌فرد تاکید دارد و من تصور می‌کنم درباره تکنیک و فناوری هم چنین نگرشی در منطق اسلام وجود دارد، یعنی اسلام نه‌تنها هیچ‌مشکلی در زمینه ابزارسازی برای بهبود زندگی ندارد بلکه اگر این ابزارها به دنیازدگی منجر نشود، مورد تایید اسلام است.
دو. بشر هر قدر در علم و فناوری رشد کند، خالقیت و ربوبی‌الله نقض نمی‌شود
برخلاف رویکرد مسیحیت تحریف‌شده که رشد علم را معارض با آموزه‌های دینی و نقض‌کننده خالقیت و ربوبیت الهی تلقی می‌کرد، در عقلانیت اسلامی، رشد علم و حتی فناوری با هر سطح و درجه‌ای که قابل‌تصور باشد، نعمت و آیت‌الهی است به‌هیچ‌وجه قادر نیست خالقیت و ربوبیت خدای متعال را تحت‌الشعاع قرار دهد. به‌بیان‌دیگر رشد علم و فناوری در منظر عقلانیت اسلامی ایمان‌زاست و بین این رویکرد و رویکرد مسیحیت تاریخی، فاصله زمین تا آسمان است.  
سه. دستیابی به رفاه و قدرت از طریق علم و فناوری مقبول است
چنانچه علم و فناوری به‌صورت متعادل در خدمت رفاه و قدرت (با تعریف صحیح) باشد و به رشد مادی و معنوی به‌مثابه دو روی یک سکه کمک کند، در منطق اسلامی مقبول است و نباید تصور شود که هرگاه از رفاه و قدرت صحبت می‌شود لزوما پای پارادایم مدرن بازشده است. درعین‌حال تاکید می‌کنم همه اینها در عقلانیت اسلامی وسیله است برای رسیدن به یک مقصد متعالی؛ و لذا نظر شما را مجددا به واژه «تعادل» جلب می‌کنم.   
چهار. انسان در این دنیا نیامده که ابدی شود
همین توجه به ابدی نبودن انسان و رد این جهانی‌گری، سبب می‌شود بسط متعادل علم و فناوری و هماهنگی رشد علم و فناوری با عقل و اخلاق، اساس رویکرد عقلانیت اسلامی به علم و فناوری باشد و رشد علم و فناوری را به زمینه‌ساز توشه‌برداری برای حیات ابدی انسان، تبدیل کند.
پنج. مواجهه انسان با ابتلائات پیچیده‌تر، زمینه رشد و تعالی او را فراهم خواهد کرد
این یک واقعیت است که هر قدر انسان مسلمان در شرایط علمی- فناوری پیچیده‌تر قرار بگیرد، فرصت بیشتری برای رشد و تعالی او در عرصه معنوی و روحی فراهم می‌شود. شاید یکی از دلایل تاکید احادیث روی زندگی در سواد اعظم که منظور شهر و جامعه مدنی است، به‌خاطر همین فرصت‌هایی است که زندگی شهری و مدنی برای رشد انسان فراهم می‌کند. از همین‌جا می‌توان به این جمع‌بندی رسید که قرار گرفتن انسان در میدان ابتلائات پیچیده، رشددهنده تلقی می‌شود، هرچند آسیب‌های خاص خودش را هم دارد.
بعد از مباحثی مقدماتی، در ارتباط با مواجهه خاص عقلانیت اسلامی با هوش مصنوعی، پنج مطلب را خدمت‌تان عرض خواهم کرد :  
۱. هوش مصنوعی؛ مزایا و معایب
چیستی هوش مصنوعی
هوش مصنوعی در یک نگاه ساده، شبیه‌سازی فرآیندهای هوش طبیعی انسان توسط ماشین‌ها به‌ویژه سیستم‌های رایانه‌ای است. آنچه مهم است هوش مصنوعی به پایه‌ای از سخت‌افزار و نرم‌افزار تخصصی برای نوشتن و آموزش الگوریتم‌های یادگیری ماشین نیاز دارد. به‌طورکلی سیستم‌های هوش مصنوعی با دریافت مقادیر زیادی از داده‌های آموزشی برچسب‌گذاری شده، تجزیه‌وتحلیل داده‌ها برای همبستگی‌ها و الگوها و استفاده از این الگوها برای پیش‌بینی وضعیت‌های آینده کار می‌کنند. بر این اساس مثلا یک ربات چت که از نمونه‌هایی از چت‌های متنی تغذیه می‌شود، می‌تواند یاد بگیرد که تبادلات واقعی با افراد ایجاد کند یا یک ابزار تشخیص تصویر می‌تواند با مرور میلیون‌ها مثال شناسایی و توصیف اشیا در تصاویر را بیاموزد. برنامه‌نویسی هوش مصنوعی بر سه مهارت شناختی تمرکز دارد: یادگیری، استدلال و اصلاح خود.
 فرآیندهای یادگیری هوش مصنوعی، بر موضوع به‌دست آوردن داده‌ها و ایجاد قوانینی برای چگونگی تبدیل داده‌ها به اطلاعات عملی متمرکز است.  قوانین که الگوریتم نامیده می‌شوند، دستورالعمل‌های گام‌به‌گام را برای نحوه تکمیل یک کار خاص به دستگاه‌های محاسباتی ارائه می‌دهند. ضمنا شبکه‌های عصبی مصنوعی و فناوری‌های هوش مصنوعی یادگیری عمیق به‌سرعت درحال تکامل هستند، بیشتر به این دلیل که هوش مصنوعی مقادیر زیادی از داده‌ها را بسیار سریع‌تر پردازش می‌کند و پیش‌بینی‌ها را دقیق‌تر از آنچه انسان ممکن است انجام می‌دهد.
فواید هوش مصنوعی
هوش مصنوعی در مشاغل مرتبط با جزئیات خوب است؛ زمان انجام کارهای سنگین پردازش و تحلیل داده را کاهش می‌دهد، نتایج ثابتی را ارائه می‌دهد و عوامل مجازی مبتنی‌بر هوش مصنوعی همیشه در دسترس هستند.
آنچه مسلم است هوش مصنوعی زندگی افراد را به‌مراتب بیش از قبل کارآمدتر می‌کند و برنامه‌ها و خدمات  فراوانی را در جهت کمک به انسان و جامعه مدنی ایجاد می‌کند. بهترین نمونه‌های هوش مصنوعی در زندگی روزمره عبارتند از ناوبری سفر، خانه‌های هوشمند، گوشی‌های هوشمند، پهپادها و خودروهای هوشمند و... . هرچند باید توجه داشت که هوش مصنوعی درحال پیوند سریع با همه فناوری‌ها و گسترش کاربرد خود در عرصه‌های گوناگون ازجمله سیستم مدیریت شهری، سیستم بهداشت و درمان، سیستم کشاورزی و... است و تقریبا چیزی نیست که در آینده به‌نوعی با هوش مصنوعی پیوند نخورد.
 مضرات و تهدیدهای ناشی از هوش مصنوعی
 برای هوش مصنوعی مضرات گوناگون فهرست می‌شود، مثلا گران بودن، نیاز به تخصص فنی عمیق و پیچیده، کمبود تکنسین‌های واجد شرایط برای ساخت ابزارهای هوش مصنوعی؛ تجربی و فیزیکی بودن روش حاکم بر آن و عدم توانایی تعمیم از یک کار به کار دیگر،  و... که ازجمله معایب اولیه فناوری هوش مصنوعی قلمداد می‌شوند. البته اگر عمیق‌تر به فناوری هوش مصنوعی نگاه شود، امروز هوش مصنوعی تهدیدهای جدی را هم برای زندگی روزمره انسان‌ها به‌وجود آورده است که در ادامه به برخی از آنها اشاره می‌کنم :
یک. در عرصه امنیت و حریم خصوصی
در این زمینه این پرسش همواره مطرح بوده است که مردم چگونه سیستم‌های هوش مصنوعی را ایمن کنند؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع دربرابر نگرانی‌های امنیتی استفاده می‌شود، نخست باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی‌ اطمینان حاصل شود. همچنین در زمینه‌ حریم خصوصی، شرکت‌های بزرگ در دنیا طی چند سال گذشته تا حد قابل‌توجهی زیرتیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند که اگر در مواردی به میدانی برای سیاست‌بازی و رقابت‌های جناحی تبدیل شود، مخاطراتی را برای حریم خصوصی ایجاد می‌کند. علاوه بر این باید توجه کرد که حجم وسیع تولید روزانه داده و از طرف دیگر شکل‌گیری الگوریتم‌های پیشرفته برای استفاده از این داده‌ها، می‌توانند پروفایل‌های بسیار دقیقی را برای نمایش تبلیغات ایجاد کنند و این، حتما ناقض حریم خصوصی کاربران تلقی می‌شود. البته اینها فقط نمونه‌هایی از ناامنی‌هایی است که از ناحیه هوش مصنوعی احساس می‌شود.
دو. کمک به استبدادورزی دولت‌ها یا شرکت‌های غول چندملیتی
از دیگر دغدغه‌های امروز درباره فناوری هوش مصنوعی، می‌توان به فناوری‌های مرتبط با جاسوسی و کنترل روی مردم عادی و خاص اشاره کرد. گزارش‌ها حاکی است برخی نیروهای اطلاعاتی و امنیتی در کشورهای مختلف برای شناسایی و تعقیب اهداف خود، به‌طور وسیعی از فناوری‌های هوش مصنوعی استفاده می‌کنند. چنین فناوری‌هایی اگر در چهارچوب قانون و در زیر چتر اخلاق و قانون عادلانه مورد استفاده قرار نگیرد، می‌تواند منجر به تقویت رفتارهای استبدادی در کشورهای مختلف اعم از کشورهای به‌ظاهر دموکراتیک و غیردموکراتیک به‌ویژه علیه منتقدان و معترضان در آن کشورها شود. البته نگرانی دربار استبدادورزی دولت‌ها، درباره شرکت‌های غول چندملیتی که بخشی از مدیریت جهانی و حتی مدیریت کشورها را برعهده گرفته‌اند هم وجود دارد، یعنی این شرکت‌ها نیز می‌توانند از طریق تسلط بر هوش مصنوعی، حقوق و آزادی‌های انسان‌ها را در عرصه‌های گوناگون نقض کنند.
 سه. بدافزارهای مبتنی‌بر فناوری هوش مصنوعی
هوش مصنوعی به‌طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف رشد می‌کند. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد، این یعنی بدافزارها مبتنی‌بر هوش مصنوعی با آزمون‌وخطا روزبه‌روز بهتر می‌شوند و با گذر زمان خطر آنها هم افزایش پیدا می‌کند.
چهار. سلاح‌های مبتنی‌بر فناوری هوش مصنوعی
سلاح‌های خودمختار سلاح‌هایی محسوب می‌شود که به‌جای انسان‌ها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند. نیروهای نظامی کشورهای مختلف در‌حال‌حاضر به سلاح‌های مبتنی‌بر هوش مصنوعی‌ یا سلاح‌هایی که تا حدی به این سیستم‌ها متکی هستند، دسترسی دارند. به‌عنوان مثال می‌توانیم به پهپادهای نظامی اشاره کنیم که مثلا با بهره‌گیری از سیستم‌های تشخیص چهره یا حرارت بدن می‌توانند یک فرد را با دقت زیادی ردیابی کنند. گسترش این سلاح‌ها تبعات فاجعه‌باری برای بشر همراه خواهد داشت و به‌ویژه به گسترش تروریسم اعم از دولتی و غیردولتی در جهان کمک خواهد کرد.
پنج. فناوری دیپ‌فیک و اخبار جعلی
فناوری دیپ‌فیک یا جعل عمیق، روزبه‌روز پیشرفته‌تر شده و تشخیص جعلی بودن ویدیوهای مبتنی‌بر آن، هر روز دشوارتر از گذشته می‌شود. در‌حال‌حاضر این فناوری عمدتا برای تولید ویدیوهای جعلی از افراد مشهور مورد استفاده قرار می‌گیرد اما برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی هم ویدیوهای جعلی از آنها درست می‌کنند تا به‌وسیله آن بتوانند اخاذی کنند. علاوه‌بر این، باید به استفاده از هوش مصنوعی‌ برای ویرایش تصاویر و شبیه‌سازی صدا هم توجه نمود که می‌تواند دردسرها و نابسامانی‌هایی را در جوامع و زندگی فردی و اجتماعی انسان‌ها داشته باشد.
شش. ربات‌های تبهکار
گرچه داستان‌های ربات‌های تبهکار بیشتر در فیلم‌ها، انیمیشن‌ها و بازی‌های رایانه‌ای نمایش داده می‌شود اما گزارش‌هایی وجود دارد که نشان می‌دهد برخی دولت‌ها درصدد طراحی و به‌کارگیری ربات‌هایی برای حضور در برنامه‌های تروریستی یا جنگ‌ها و شکنجه‌ها هستند که این می‌تواند عواقب خطرناکی برای بشر داشته باشد.

۲. هوش مصنوعی رقابت با خدا بر سر خلق انسان نیست
هوش مصنوعی مخلوق انسان‌ است و لذا انسان بر او کاملا سلطه دارد. هوش مصنوعی هر قدر هم قدرت پیدا کند، تحت‌مدیریت انسان است و روشن است که از خودش استقلال و به‌تبع آن اختیاری ندارد. از سوی دیگر ،انسان آفریده پروردگار و در قبضه خداوند است لذا انسان‌ها هر قدر هم که در هوش مصنوعی رشد کنند و حتی برفرض بتوانند موجودی در تراز انسان هم خلق کنند، بازخلق آنها، خلق خدا محسوب می‌شود، نه بیشتر.

۳. خط قرمزهای عقلانیت اسلامی برای هوش مصنوعی
من در این بخش از بحث خودم، مایلم درکنار مزایایی که برای هوش مصنوعی قائل هستم، به یک‌سری خط قرمزها در زمینه تولید و بهره‌برداری از هوش مصنوعی اشاره کنم:
یک. تغییر طبیعت
هرگونه مداخله فناوری هوش‌مصنوعی برای تصرف در سیستم طبیعت و استفاده از طبیعت در خارج از سیستم خدادادی یا تخریب محیط‌زیست از طریق بهره‌برداری بیش ‌از حد از طبیعت یا آلوده‌سازی آن، یک خط‌قرمز محسوب می‌شود.
دو. مسخ انسان
مسخ انسان در یک تعریف ساده عبارت است از: تغییر حقیقت انسان و زنده‌به‌گورسازی فطرت آدمی که به‌نظر من هوش‌مصنوعی اگر از مسیر اخلاق خارج شود، می‌تواند به این سمت سوق پیدا کند.
کنار گذاشتن اخلاق
هرگونه بسط هوش‌مصنوعی در مسیر غیراخلاقی یا هر نوع بهره‌برداری از فناوری هوش‌مصنوعی خارج از موازین اخلاقی فطری از نظر عقلانیت اسلامی ممنوع است.
سه. دامن زدن به بی‌عدالتی
هرگونه بهره‌برداری از هوش‌مصنوعی درجهت اهداف ظالمانه و گسترش بی‌عدالتی در جهان، اعم از عدالت سیاسی، اقتصادی و فرهنگی یک خط‌قرمز محسوب می‌شود.
چهار. نابودسازی روند طبیعی کار
از منظر شرکت‌های وابسته به ‌نظام سرمایه‌داری، فناوری هوش‌مصنوعی می‌تواند وظایف را بهتر از انسان‌ها انجام دهد به‌ویژه زمانی که از کارهای تکراری و جزئیات‌محور سخن به میان می‌آید. مانند تجزیه‌وتحلیل تعداد زیادی از اسناد قانونی برای اطمینان از پرشدن صحیح فیلدهای مربوطه که ابزارهای هوش‌مصنوعی اغلب کارها را به‌مراتب سریع‌تر و با خطاهای نسبتا کمتری تکمیل می‌کنند.
درحقیقت، از دید نظام سرمایه‌داری مزیت‌های هوش‌مصنوعی به انفجار در کارایی کمک کرده و خواهد کرد، اما روشن است فناوری هوش‌مصنوعی می‌تواند بسیاری از شغل‌ها را از بین ببرد؛ در این میان، بخش بزرگی از کارگران که شغل خود را به‌خاطر گسترش هوش‌مصنوعی از دست داده‌ یا می‌دهند به‌دلیل فقدان تخصص موردنیاز، قادر به پیدا کردن شغل جایگزین نخواهند بود. ازسوی دیگر، با پیشرفت سیستم‌های هوش‌مصنوعی، مهارت‌های آنها برای انجام کارهای مختلف بهتر از انسان‌ها خواهد شد و در یک رقابت با انسان، منجر به افزایش نابرابری اجتماعی می‌شود. البته به‌نظر من، جدای عواقب اقتصادی بیکاری، عوارض بیکاری از جهت فرهنگی و اجتماعی نیز قابل‌توجه است که در جای خود می‌توان به آن پرداخت.
پنج. سطحی‌تر کردن فرهنگ و اندیشه
یکی از پرسش‌های مهم این است که هوش‌مصنوعی چه تاثیری بر فرهنگ دارد؟ این از همان جنس نگرانی‌ای است که با اوج گرفتن انقلاب صنعتی و شکل‌گیری تمدن مدرن، پیش‌روی اصحاب مکتب فرانکفورت قرار داشت؟ آیا تمدن جدید، چیزی از فرهنگ و عمق‌اندیشی فکری را باقی خواهد گذاشت یا انسان‌ها را روزبه‌روز به سطحی‌اندیشی، کنارگذاشتن تفاوت‌های فرهنگی و درنهایت یکدستی سوق خواهد داد؟
طرفداران نظام سرمایه‌داری بر این باورند که هوش‌مصنوعی علاوه‌بر افزایش اعتمادبه‌نفس، روحیه بیشتری به انسان‌ها به‌ویژه نوآوران و صاحبان کارهای بزرگ خواهد داد. درواقع، می‌گویند دستاورد فرهنگی فناوری هوش‌مصنوعی برای تیم‌های شاغل در شرکت‌ها و صنایع عظیم، مساوی است با انعطاف‌پذیری و مزیت رقابتی بیشتر، اما به‌نظر می‌رسد اینها هیچ‌کدام دستاوردهای فرهنگی به‌معنای دقیق کلمه نیستند و نمی‌توان در نسبت فرهنگ و هوش‌مصنوعی در این حد ساده‌اندیش بود.

۴. نقش هوش‌مصنوعی در تمدن نوین اسلامی
درصورت درک اهمیت فوق‌العاده فناوری هوش‌مصنوعی و همچنین رعایت خطوط‌قرمز عقلانیت اسلامی در ساحت فناوری هوش‌مصنوعی، این فناوری مانند سایر فناوری‌های پیشرفته دیگر می‌تواند در خدمت شکل‌گیری تمدن نوین اسلامی باشد. در یک نگاه اولیه، فناوری هوش‌مصنوعی می‌تواند از طریق خلاقیت و نوآوری‌های مضاعفی که براساس پارادایم حاکم بر تمدن نوین اسلامی در آن رقم خواهد خورد، در عرصه‌هایی منشأ آثار فراوان تلقی شود که برای تقریب ذهن مثال‌هایی را عرض می‌کنم:
 یکم. گسترش جهشی دانش و فناوری
دو. ارتقای معتنابه آموزش و جابه‌جایی مرز سواد عمومی
سه.گسترش جهشی علوم‌اسلامی مانند فقه نظام‌ساز
چهار. بهبود مدیریت زندگی انسان‌ها و کارآمدی آن هم بر پایه عدالت
پنج. رصد و تحلیل و پیش‌بینی دقیق‌تر واقعیت‌های اجتماعی
شش. ساخت ابزارهای متنوع هوشمند با هدف اقسام نیکوکاری و غیره

۵. هوش‌مصنوعی و برخی از شبهات دینی
من به‌دلیل ضیق وقت بنا ندارم در اینجا وارد بحث تفصیلی شوم، فقط عرض می‌کنم گسترش هوش‌مصنوعی در دو زمینه عمده می‌تواند ابهامات و شبهاتی را ایجاد کند: اولا، بحث ذهن و امکان ساخت ذهن از طریق هوش‌مصنوعی و ثانیا شبیه‌سازی نفس نه لزوما به‌معنای روح بلکه به‌معنای قوه خودآگاهی و هویت‌بخشی به انسان‌ها. البته اینها می‌تواند پرسش‌هایی را هم پیش‌روی مباحثی چون عالم مثال و غیره قرار دهد که طبیعی است باید پژوهشگران دینی با کمک متخصصان هوش‌مصنوعی به آن بپردازند. البته من شخصا برای این ابهامات و شبهات پاسخ دارم اما اینجا فرصتی برای طرح این پاسخ‌ها نیست.