ابوالفضل مظاهری، دبیر گروه دانشگاه: هوش مصنوعی به‌سرعت در‌حال تغییر فرآیندها و ساختارهای مختلف در جوامع جهان بوده و فرصت‌های بی‌بدیلی را در تمام ساحت‌های حکمرانی ایجاد کرده است. می‌توان گفت آینده حکمرانی متعلق به هوش مصنوعی است. با این وجود چالش‌های متعددی نیز از جانب هوش مصنوعی متوجه حکمرانی است که عدم توجه به آن و عدم پیش‌بینی‌های لازم سبب می‌شود تهدیدهای هوش مصنوعی نسبت به فرصت‌های آن غالب شود؛ اگر غفلت شود. هوش مصنوعی با بالاترین سطح کارایی، اثربخشی، شفافیت و پاسخگویی در حوزه حکمرانی دارای قابلیت بالقوه در ایجاد تحول در حکمرانی است، می‌تواند انبوهی از اطلاعات را برای شناسایی الگو، روند و همبستگی بین متغیرها مورد تحلیل قرار دهد و نتیجه را در اختیار نظام تصمیم‌گیر، تصمیم‌ساز و کنشگران ذی‌مدخل نظام بگذارد. هوش مصنوعی به‌عنوان ابزاری نوین در مدیریت و بهینه کردن سیاستگذاری، نظارت بر اجرای قوانین و مقررات، شفافیت و مقابله با فساد، مدیریت بحران، امنیت ملی و امور دفاعی کشور، همکاری بین‌المللی و دیپلماسی، توسعه اقتصادی و نوآوری، رفاه اجتماعی و مسائل سلامت، نقش موثری ایفا کند. سرعت‌بخشی به فرآیندها، افزایش بهره‌وری و ارتقای کارآمدی از جمله فرصت‌های کاربست هوش مصنوعی است و چالش مسئولیت‌پذیری، نظارت‌پذیری، گسترش بی‌عدالتی و گسترش بیکاری از جمله مهم‌ترین چالش‌ها در این راستا محسوب می‌شود. با توجه به این واقعیت که هوش مصنوعی، مسیر توسعه و تحول خود را طی می‌کند، کاربست این فناوری هنوز در بدنه حکمرانی کشور نهادینه نشده است. هنوز پیامدهای مثبت و منفی آن برای کارگزاران نظام حکمرانی به وضوح روشن نیست و البته هنوز سیاست‌های دقیق و راهکارهای عملیاتی برای کاربست مثمرثمر این پدیده در نظام حکمرانی مورد وفاق نظام تصمیم‌ساز و تصمیم‌گیر واقع نشده است. مرکز پژوهش‌های توسعه و آینده‌نگری با هدف بررسی زوایای مختلف حکمرانی هوش مصنوعی چندی پیش نشست هوش مصنوعی و آینده حکمرانی ایران را برگزار کرد. محمدهادی زاهدی، رئیس انجمن هوش مصنوعی ایران و مدیرکل فناوری اطلاعات، آمار و امنیت فضای مجازی وزارت علوم و عضو هیات‌علمی دانشگاه صنعتی خواجه نصیرالدین طوسی یکی از میهمانان ویژه این نشست بود. محمدرضا معبودیان‌، رئیس کمیسیون هوش مصنوعی نظام صنفی رایانه‌ای نیز یکی دیگر از سخنرانان این نشست بود. مشروح این نشست را در ادامه می‌خوانید.

محمدهادی زاهدی، رئیس انجمن هوش مصنوعی ایران: با عنایت به اینکه در این نشست به‌عنوان رئیس انجمن هوش مصنوعی در خدمت شما هستم، می‌خواهم در ابتدای سخن اشاره کنم انجمن هوش مصنوعی ایران، انجمنی نوپاست. این انجمن بر اساس ضرورت‌هایی تاسیس شد که احساس می‌کردیم در کشور وجود دارد تا بتوانیم قافله علم را پیش ببریم و درحقیقت فاصله بین دانش و خلق ارزش را کاهش دهیم. در سه، چهار اسلاید اول، معرفی کوتاهی از انجمن خواهم داشت و بعد به سراغ مطالبی می‌روم که بیان خواهم کرد. فرآیندهای قانونی تاسیس انجمن هوش مصنوعی ایران سال 1402 با حضور بیش از 30 تن از اعضای هیات‌علمی دانشگاه‌های مختلف و عمدتا دانشگاه‌های برتر، درخواست و طی شد. در نهایت در اردیبهشت‌ماه سال ۱۴۰۳ و بعد از اخذ مجوز از معاونت پژوهشی وزارت علوم تشکیل شده، مجمع عمومی آن برگزار و هیات‌مدیره‌اش انتخاب شد. در دولت سیزدهم، در حوزه هوش مصنوعی کارهای خوبی صورت پذیرفت. عمده این کارها با نظر شخص رئیس‌جمهور فقید انجام شد. از‌جمله آنها می‌توان به تشکیل ستاد توسعه فناوری‌های هوش مصنوعی و رباتیک، تشکیل مرکز ملی هوش مصنوعی، تشکیل شورای ملی راهبری هوش مصنوعی و در نهایت آخرین اقدام، تاسیس انجمن هوش مصنوعی ایران اشاره کرد. جلسات انجمن از همان ابتدا با جدیت و با حضور اکثر افراد شکل گرفت. رویکردی که در انجمن داریم، این است که بتوانیم واقعا اصطلاح «تبدیل علوم به فنون و خلق ارزش از دانش» را پیگیری کنیم. شاید حلقه مفقوده ما همین موضوع باشد؛ عدم اتصال دانشگاه‌ها به نیازهای جامعه. منظور از جامعه می‌تواند دولت باشد؛ در نهایت برنامه‌ریزی، تهیه و تدوین یک نقشه راه برای حکمرانی مطلوب.

چشم‌اندازهایی را برای خودمان در نظر گرفتیم. مهم‌ترین آنها، تشکیل شبکه استادان، متخصصان، دانشجویان و شرکت‌های فعال در حوزه هوش مصنوعی است. اتفاقا در اینجا نیازمند یاری و همکاری نظام صنفی رایانه هستیم. در همین‌جا اعلام آمادگی می‌کنیم که کنار این عزیزان در مسیر مذکور بتوانیم گام‌های خوبی برداریم. کمیته‌های مختلفی در انجمن شکل گرفته که البته این کمیته‌ها قابل افزایش هستند. این کمیته‌ها بیشتر بر اساس نیازهایی که ما فکر می‌کردیم در کشور وجود دارد، شکل گرفته‌اند؛ کمیته الزامات و قوانین، تدوین استانداردها، کمیته اخلاق و حقوق در هوش مصنوعی، کمیته ارتباط با صنعت و جامعه و البته زیرگروه‌های دیگر. واقعیتش این بود که ما بعد از بررسی شاخص‌ها و گزارش‌های مختلفی که در منابع داخلی و منابع بین‌المللی ارائه می‌شود، احساس کردیم خلأ بسیار بزرگی در کشور برای رسیدن به فناوری وجود دارد. ما هوش مصنوعی را عمدتا یک علم می‌دانیم. دوستانی که در خارج از محیط دانشگاه هستند، هوش مصنوعی را فناوری می‌دانند. هر دو درست است؛ هوش مصنوعی، علمی است که باید به فناوری تبدیل شود؛ لذا هر دو نگاه درست محسوب می‌شود.

رتبه 94 ایران در شاخص آمادگی هوش مصنوعی دولت‌ها

بر اساس گزارش‌های منابع رسمی در سال ۲۰۲۳، ایران رتبه ۹۴ را در شاخص «آمادگی هوش مصنوعی دولت‌ها» کسب کرده است. وقتی از «آمادگی پذیرش هوش مصنوعی» صحبت می‌کنیم، به این معناست که دولت‌ها و حاکمیت باید یک‌سری بسترها و زیرساخت‌ها را فراهم کنند. شاید شاخص آمادگی هوش مصنوعی دولت‌ها، یک‌سری زیرشاخص داشته باشد؛ مثلا سرمایه انسانی. چه میزان روی تربیت سرمایه انسانی و ارتقای مهارت کار کرده‌ایم؟ چقدر در حوزه زیرساخت‌های ذخیره‌سازی، پردازش و شبکه ارتباطی سرمایه‌گذاری کرده‌ایم؟ چه میزان قوانین در کشور در این زمینه مصوب شده است؟ استانداردها، الزامات و خیلی از شاخص‌های دیگر نیز به همین منوال مد نظر خواهد بود.

فاصله 60 پله‌ای بین تولیدات مقالات و کاربردی‌سازی هوش مصنوعی

در منابع مختلف از لحاظ تولید مقاله در حوزه هوش مصنوعی، ایران رتبه‌های مختلفی از جمله 13، 15 و 17 را دارد. رتبه 17 مربوط به سایمگو است. لکن همان‌طور که ملاحظه می‌کنید در حوزه کاربردی‌سازی هوش مصنوعی، رتبه 77 را داریم. در واقع فاصله‌ای 60 رده‌ای قابل ملاحظه است. در خیلی از حوزه‌های دیگر نیز چنین شرایطی وجود دارد. اکنون در کشور به‌صورت کلی در حوزه تولید مقاله نیز رتبه 17 را داریم. البته در دهه 90 رتبه 15 را داشتیم. متاسفانه ظرف یکی دو سال گذشته با رکود دو پله‌ای مواجه بودیم. پیش‌بینی می‌کنیم در سال آینده، حتی به رتبه 19 سقوط کنیم. علی‌الظاهر دانشگاه‌های ما در زمینه تولید مقاله، به‌خوبی به وظیفه خود عمل کرده‌اند. دانشگاه وظیفه تربیت نیروی متخصص و تولید علم را دارد، اما چرا نتوانسته‌ایم در کاربردی کردن آن موفق باشیم؟ این یکی از سوالات و چالش‌هایی است که خواهش می‌کنم عزیزان حاضر در نشست؛ چه به‌صورت حضوری و چه به شکل مجازی، به‌عنوان فتح باب ارائه طریق کنند و نظرات ارزشمندشان را بفرمایند و بگویند در این حوزه، چه کاری باید انجام دهیم؟

پتانسیل‌های علمی ایران در حوزه هوش مصنوعی

می‌خواهیم فاصله دانش و کاربرد علم را با خلق ارزش و فناوری، کاهش دهیم. البته راهکارهایی هم در نظر داریم. سال 1402 نظام دانشگاهی کشور در مقطع دکتری 172 نفر و در مقطع کارشناسی هزار و 358 نفر را پذیرش کرد. آمارمان در مقطع کارشناسی‌ارشد دقیق نبود، چون اگر می‌خواستیم بگوییم «هوش مصنوعی» شاید یک طیف را پوشش می‌داد. صرفا نمی‌توانستیم بگوییم مثلا کسانی در گرایش مهندسی کامپیوتر و هوش مصنوعی پذیرفته شده‌اند. تاکنون بر اساس آمار و اطلاعات 452 شرکت دانش‌بنیان در حوزه مرتبط با هوشمندسازی ازجمله فناوری‌ها و سامانه‌ها و همچنین حوزه‌های مختلف مانند سلامت و کشاورزی در کشور ثبت شده و مشغول فعالیت هستند. 6 پژوهشکده یا موسسه پژوهشی با ماموریت مستقیم در حوزه توسعه هوش مصنوعی و 6 پژوهشگاه یا پژوهشکده در حوزه علوم انسانی هم با هدف بررسی آثار و پیامدهای توسعه هوش مصنوعی، مشغول بررسی موضوعات هستند.

وضع 25 قانون هوش مصنوعی در 2023

وقتی می‌گوییم «هوش مصنوعی و آینده حکمرانی» به کارکردها و قابلیت‌های فناوری هوش مصنوعی در بخش عمومی و بخش خصوصی در زمینه ارتقای نظام قانون‌گذاری و خط مشی‌گذاری، کارآمدی نظام اداری، کیفیت ارائه خدمات عمومی و شاید یکی از مهم‌ترین آنها، بهره‌وری و کیفیت‌بخشی به ارائه خدمات و خدمات نوین دانش‌محور اشاره خواهد داشت. سال گذشته و طی پنج سال قبل از آن، تعداد مقررات و قوانین مرتبط با هوش مصنوعی در کشور آمریکا به‌طور قابل توجهی افزایش یافته است. در سال 2023 تعداد 25 قانون مرتبط با هوش مصنوعی وضع شده که در مقایسه با فقط یک مورد در سال 2016، افزایش چشمگیری را نشان می‌دهد. 

نکته قابل توجه دیگر این است که در آمریکا، سیاستگذاران به این نتیجه رسیدند که باید رهبران و مدیران را در حوزه سواد هوش مصنوعی هم تربیت کنند و به آنها دانش‌های مرتبط را آموزش بدهند. شاید یکی از جاهایی که در حوزه حکمرانی کشور نیازمند باشیم به آن توجه کنیم، این است که مدیران و رهبران باید در این زمینه پیشگام باشند. وقتی یک مدیر ارشد در یک سازمان بتواند علم هوش مصنوعی را در پیشبرد اهداف سازمانی خود، کارآمدسازی کند و ارتقای بهره‌وری داشته باشد و از آن استفاده کند، یقینا سازمانی پیشگام و پیشرو خواهد بود. حتما این تعریف را به خاطر دارید؛ وقتی سال 2011 مفاهیم چابکی مطرح شد، گفتند‌ ‌یک سازمان یا شرکت، دیگر یک سازمان یا شرکت بزرگ نیست. به‌طور مثال شرکتی است که به لحاظ اندازه، 10 هزار کارمند دارد، بلکه سازمانی مد نظر خواهد بود که چابک باشد، سریع تصمیم بگیرد و سریع اجرا کند‌. فلذا مفاهیم استارتاپ‌ها در آنجا رونق گرفت. با توجه به قدرت بالا در پردازش داده‌ها، هوش مصنوعی به ما کمک می‌کند در تصمیم‌گیری‌هایمان سریع‌تر و دقیق‌تر عمل کنیم. 

مجالس برخی از کشورها، قانون مشاغل آینده را مطرح و مصوب کرده و بر آن هستند تا پیش‌بینی و ارزیابی از صنایع و مشاغلی داشته باشند که با هوش مصنوعی فراگیر می‌شوند؛ حتی اثرات و پیامدهای آن را در حوزه مهارت کارگران و کارشناسان و همچنین بازار کار، جایگزینی بالقوه آن و شناسایی جمعیت‌شناسی بررسی کند که بیشترین تاثیر را دارد. مثلا در وزارت علوم مصوب شده از سال جاری، دو واحد درسی «آشنایی با هوش مصنوعی» برای همه دانشجویان مقطع کارشناسی به صورت اجباری لحاظ شود. در حقیقت، این یک آشنایی است، ولی ما نیازمند مهارت‌افزایی در این زمینه هستیم. سطح مهارت باید ارتقا پیدا کند. 

تصویب قوانینی با موضوع ارزیابی خطرپذیری هوش مصنوعی و امنیت زیستی به‌منظور آمادگی و پاسخ برای ارزیابی و رسیدگی به تهدیدات سلامت عموم و امنیت ملی، ناشی از پیشرفت‌های فنی در هوش مصنوعی، از جمله دیگر اقدامات در مواجهه با این فناوری است. درمورد همکاری‌های داوطلبانه شرکت‌ها و آزمایشگاه‌های تخصصی و عمدتا بخش خصوصی در حوزه هوش مصنوعی با دولت‌ها و حاکمیت، می‌توان به دولت آمریکا اشاره داشت. هفت شرکت بزرگ گوگل، مایکروسافت، متا، آمازون، «open AI» و بقیه، تعهدات داوطلبانه‌ای داشتند تا توسعه هوش مصنوعی ایمن، امن و قابل اعتماد را ارتقا دهند. حتما شنیده‌اید که برخی از شرکت‌ها به دنبال توسعه هوش‌مصنوعی‌هایی بودند و بعدا به این جمع‌بندی رسیدند که اثرات مخرب آن، بیشتر است. از آن تحت عنوان «هوش مصنوعی مخرب» نام برده می‌شود. «toxic artificial intelligence» به همین موضوع اشاره دارد. شاید مطرح‌ترین آنها، همین بحث «چت جی‌پی‌تی»ها باشد. «چت جی‌پی‌تی‌ها» کنار اینکه قدرت پردازش بالایی دارند و مدل‌های زبانی بزرگی را پیاده‌سازی کرده‌اند، اما اگر ملاحظات اخلاقی، حقوقی و فرهنگی لحاظ نشود، خودشان تبدیل به بحران می‌شوند. به‌عنوان مثال، زیاد شنیده‌اید که از یک «چت جی‌پی‌تی» سوال کنید‌ «می‌خواهم خودکشی کنم. چه ابزاری به من پیشنهاد می‌کنید تا سریع‌تر کارم را انجام بدهم» یا «می‌خواهم در امتحان تقلب کنم. چه ابزار تقلبی به من پیشنهاد می‌کنید.»‌ مثال‌های دیگری نیز در این حوزه وجود دارد. در اینجا بحث توسعه هوش مصنوعی امن، ایمن و قابل اعتماد مطرح می‌شود. تعهدات شامل انجام ارزیابی‌های امنیتی قبل از راه‌اندازی و اشتراک‌گذاری اطلاعات درباره خطرات شناسایی‌شده، امکان گزارش عمومی و افشای زمانی است که محتوای آن از سوی هوش مصنوعی، تولید شده است. 

در ایام برگزاری انتخابات بررسی می‌کردم و دیدم حتی در حوزه انتخابات در برخی کشورها، قوانینی برای محافظت از سلامت برگزاری انتخابات برابر هوش مصنوعی فریبنده وجود دارد. حتما مباحثی تحت «deep fake» را شنیده‌اید. در برخی کشورها، قوانینی به‌منظور پیشگیری از فریب الگوریتم‌ها و تکنیک‌های مبتنی‌بر هوش مصنوعی برای پیشگیری از تولید محتواهای فریبنده تدوین شده است. مثلا روی تصویر یک فرد، صوتی مشابه بگذارند و مطالبی بیان شود که قابل تشخیص برای عموم نباشد. این قوانین با ممنوعیت توزیع محتوای صوتی یا بصری از سوی هوش مصنوعی ممکن است سلامت انتخابات را به نوعی تحت تاثیر خودش قرار بدهد. 

جایی که بحث حوزه‌های اقتصادی و مالی وجود دارد، بیشترین قوانین در این حوزه تصویب شده است؛ چراکه شاید بیشترین توانمندی و ظرفیت در حوزه هوش مصنوعی از سوی شرکت‌ها و بخش خصوصی سرمایه‌گذار در این حوزه ارائه می‌شود. مشخص شده در کدام موضوعات، قوانین بیشتری تصویب شده‌اند. 

رونمایی از 75 راهبرد ملی هوش مصنوعی در دنیا 

تا به امروز 75 راهبرد ملی هوش مصنوعی در دنیا رونمایی شده که اوج آن سال 2019 بود. 24 راهبرد در این سال منتشر شد. بعد هم این فرآیند ادامه پیدا کرد. بازهم در تصویر، کشورهایی را می‌بینید که به نوعی، یک راهبرد ملی و نقشه راه در حوزه هوش مصنوعی دارند. برخی، آن را «release» (منتشر) کرده‌اند و بعضی دیگر در حال نگارش و توسعه هستند. طبق آنچه ملاحظه می‌کنید تقریبا اکثر کشورها به‌غیر از کشورهای قاره آفریقا، در این زمینه نقشه راه ملی دارند. 

تخصیص 1.9 میلیارد دلاری آمریکایی‌ها برای R&D هوش مصنوعی

نکته دیگر، طبق گزارش‌های رسمی در سال مالی 2023، سازمان‌های دولتی در ایالات متحده بیش از 1.8 میلیارد دلار اعتبار؛ فقط برای «R&D» (تحقیق و توسعه) هوش مصنوعی تخصیص داده‌اند. این اعتبارات در سال 2024 به بیش از 1.9 میلیارد دلار خواهد رسید. در حوزه‌ یادگیری ماشین و خودکارسازی، ارتقای بسیار خوبی در حوزه سرمایه‌گذاری صورت گرفته است. 

یک نظرسنجی در سال 2023 انجام شد که می‌خواست ببیند نظرات افراد ‌درباره تاثیرات هوش مصنوعی بر مشاغل فعلی به چه شکل است. بعضی از آنها هم آشنا بودند، هم می‌دانستند تاثیر خیلی خوبی دارد و موافق بودند. بعضی اصلا اطلاعات نداشتند و برخی هم چندان موافق نبودند. آنها اعتقاد داشتند شغل خود را از دست خواهند داد. چه تخصص‌هایی در سال 2023 بیشتر مد‌نظر بوده و چه شغل‌ها و چه رسته‌هایی از مهارت، بیشتر مورد نیاز بوده است؟ این آمار به ما مسیری در حوزه حکمرانی هوشمند در آموزش عالی و نظام مهارتی نشان می‌دهد. به‌طور مثال، امروز در بحث «تحلیل داده» یا «علم داده» و «یادگیری ماشین» با رویکردهای بیشتر قابل توجه است. در بحث یادگیری ماشین و حتی «پایتون» می‌بینیم فقط برای یک برنامه‌نویسی ساده، چه میزان درخواست مشاغل وجود دارد. 

سایمگو براساس رتبه‌بندی‌هایی که بر مبنای تولید مقالات داشته، آماری منتشر کرده است. می‌بینیم ایران رتبه 15 را به لحاظ تولید مقاله دارد. این آمار، تعداد مقالات را ذکر کرده و تاثیر آنها را نیز مطرح کرده است. اینجا روندهای توسعه هوش مصنوعی را دنبال می‌کند. می‌خواهم در ادامه وارد بحث اصلی خودمان شوم؛ آینده حکمرانی. می‌خواهیم بدانیم «هوش مصنوعی و آینده حکمرانی» چیست.

هوش مصنوعی چگونه بر  آینده حکمرانی در ایران تاثیر خواهد داشت؟

هوش مصنوعی به‌طور فزاینده‌ای در حال تبدیل شدن به یکی از عناصر کلیدی در تحول حکمرانی در سرتاسر جهان است و ایران نیز از این قاعده مستثنی نیست. تاثیرات هوش مصنوعی بر آینده حکمرانی در ایران را می‌توان در چند حوزه اصلی بررسی کرد؛ بهبود خدمات عمومی، شفافیت و مقابله با فساد، تصمیم‌گیری مبتنی‌بر داده و کنارش وجود چالش‌ها و موانع از جمله حریم خصوصی و امنیت، زیرساخت‌ها و سرمایه‌گذاری، چهارچوب‌های قانونی و اخلاقی و همچنین پذیرش اعتماد عمومی. در انتها نتیجه‌گیری هم ذکر شده است. این موارد را همگی را از «چت جی‌پی‌تی» سوال کرده و در اسلایدها نیز ذکر کردم. دقیقا نوشتم‌ «هوش مصنوعی و آینده حکمرانی در ایران». فقط کپی‌پیست کرده‌ام و هیچ کار دیگری انجام نداده‌ام. وقتی می‌گوییم‌ «یکی از کارها و پروژه‌هایی که در حوزه حکمرانی کشور باید تعریف شود، همین است» چنین منظوری داریم. در آخر، مدل حکمرانی آمریکا در حوزه هوش مصنوعی را آوردم. یک مدل برای آن استخراج کرده‌اند. در این مدل، یک‌سری سازمان و پروژه ملی باید شکل بگیرند. اکنون یکی از نیازهای کشور تعریف پروژه‌های ملی در این حوزه است. مهم‌ترین آنها، همین مدل زبانی بزرگ زبان فارسی است که باید روی آن سرمایه‌گذاری بزرگی انجام شود. زیرساخت‌های پردازشی جی‌پی‌یوهایی است که باید در اینجا به آن توجه شود. این مواردی بود که «چت جی‌پی‌تی» مطرح کرد؛ کجا می‌تواند کمک کند؟ چه چالش‌هایی وجود دارد؟ درنهایت چه مباحثی مطرح شده است؟

هوش مصنوعی به‌عنوان یک فناوری داده‌مبنا می‌تواند با ایجاد زمینه پردازش حجم انبوهی از داده‌ها، استخراج الگوها و تحقق ویژگی یادگیرندگی، امکان دسته‌بندی، تشخیص الگوها و ناهنجاری‌ها در داده‌های جدید و همچنین پیش‌بینی و توصیه برای شرایط آینده به ما کمک می‌کند. در چه حوزه‌هایی می‌تواند یاری‌رسان باشد؟ افزایش کارایی و اثربخشی، افزایش شفافیت و پاسخگویی، شخصی‌سازی خدمات، افزایش مشارکت شهروندان و همچنین پیش‌بینی و پیشگیری از مشکلات. 

مهم‌ترین رویکردهای معطوف به آینده حکمرانی شامل شبکه‌ای شدن حکمرانی، مشارکتی شدن حکمرانی، ظهور رویکردهای رفتاری در حکمرانی، توسعه رویکرد دیجیتال در حکمرانی، رویکردهای داده‌محور در حکمرانی، رویکردهای باز به حکمرانی، نوآوری‌های عمومی در حکمرانی، هوشمندسازی حکمرانی، چندسطحی شدن حکمرانی و ظهور مفهوم فراحکمرانی و جهانی شدن حکمرانی است. 

من به مرکز پیشنهاد می‌کنم برای هرکدام از این موضوعات، نشست تخصصی با حضور صاحبان علم برگزار کند. این پیشرفت‌های فناورانه در حوزه هوش مصنوعی، در حوزه‌های مختلفی همچون سلامت، آموزش، انرژی، کسب‌وکار، محیط‌زیست، سیاستگذاری، حقوق، امنیت سایبری و بسیاری از موارد دیگر فراگیر شده است. چالش‌هایی نیز دارد؛ حریم خصوصی، امنیت، تغییر مشاغل، تغییر کسب‌وکارها و حتی تغییر در مولفه‌های قدرت ملی. زمانی اگر می‌خواستیم بگوییم «کدام کشور، قدرت ملی و اقتدار بالایی دارد؟»، پاسخ‌مان کشورهایی بودند که به لحاظ نظامی و دفاعی در سطح بالایی قرار داشتند. امروز مولفه‌ها عوض شده و کشورهایی که قدرت تحلیل داده‌های بالایی دارند و توانسته‌اند حکمرانی داده‌محور را حاکم کنند، قدرتمند محسوب می‌شوند. 

تغییر ارزش‌ها، فرهنگ و حقوق؛ حتما به خاطر دارید در دوران کرونا سبک زندگی ما تغییر کرد. در منزل می‌نشستیم تا سلامت خودمان و جامعه را تضمین کنیم، اما از خدمات هم استفاده می‌کردیم. حتی دیگر به نانوایی نمی‌رفتیم و درخواست ارسال نان می‌کردیم. از بچگی به خاطر داریم که یکی از تکالیف‌مان در منزل، حضور در صف نانوایی بود اما این تکلیف برداشته شد و خیلی تغییر کردیم. درحقیقت کرونا باعث شد مفهوم جدیدی تحت عنوان «IoB» (Internet of Behaviors) شکل بگیرد؛ چگونه اینترنت و فناوری، رفتارها را تغییر داد؟ بخش زیادی از آموزش حضوری، مجازی شد. یک سطح و گام از (Internet of Behaviors) بالاتر رفتیم. گفتند «Internet of Thinks» (اینترنت تفکر). اصلا چگونه تفکر می‌کنیم تا نظام فکری ما متأثر از این فناوری شود؟ فلذا می‌بینیم پیشرفت‌های فناورانه برخی از ارزش‌ها را نیز جابه‌جا می‌کند. در اینجا تاکیدم بر همان ظهور مفاهیم حکمرانی داده‌محور است. 

حکمرانی هوش مصنوعی، مطالعه چگونگی مدیریت‌گذار به سیستم‌های هوش مصنوعی پیشرفته با تمرکز بر ابعاد گوناگون سیاسی، اقتصادی، نظامی، حکومتی و اخلاقی است. بازهم منبع را ذکر کرده‌ام. هوش مصنوعی این ظرفیت را دارد که هم بر سیاست داخلی کشورها تاثیر بگذارد و هم از آن تاثیر بپذیرد. بستگی به میزان بهره‌گیری و توزیع آن در جوامع دارد. سیستم‌های هوش مصنوعی می‌توانند عمل و انتخاب جمعی را تسهیل کرده و حتی به ائتلاف‌های سیاسی کمک کنند. با بهره‌گیری از هوش مصنوعی، افراد می‌توانند به شکلی آگاهانه‌تر راهبردهای سیاسی پیچیده را بیان کرده و به شیوه‌های بهتر با هم تعامل و مشارکت داشته باشند. هوش مصنوعی باعث جابه‌جایی در شغل‌های مربوط به طبقه متوسط شده و حداقل در یک روند کوتاه‌مدت، بر از بین رفتن بعضی از مشاغل حکایت دارد. سهم کار در درآمدهای ملی رو به کاهش خواهد بود و هوش مصنوعی این روند را تقویت می‌کند. چنانکه در ابتدای صحبت‌هایم عرض کردم ما نیازمند تصویب قوانین و در عین حال فراگیر شدن مهارت هوش مصنوعی و کنارش توجه به نقشه راه هوش مصنوعی خواهیم بود. 

کشورهایی که فاقد فناوری‌های منبعث از هوش مصنوعی هستند، نگرانی دارند از چرخه منافع جهانی حاصل از هوش مصنوعی به حاشیه رانده شوند. کسانی در آمریکا و اروپا نگران آن هستند چین، قدرت اقتصادی خود را به صورت فزاینده‌ای افزایش بدهد و به شکلی راهبردی جلوتر از شرکت‌های غربی به لحاظ بهره‌گیری از فناوری بیفتد. یکی از مهم‌ترین مسائل حکمرانی در حوزه هوش مصنوعی، تامین سلامت جامعه با کمترین هزینه و بهترین کیفیت ارائه خدمت است. هوش مصنوعی در مقام تشخیص علائم و بیماری‌ها، قدرت زیادی دارد. درواقع فناوری‌های مبتنی‌بر یادگیری ماشین می‌تواند با دقتی بسیار بالاتر از هوش مصنوعی، علائم بیماری را کشف کند. 

«حکمرانی مشارکتی و هوش مصنوعی»؛ حکمرانی مشارکتی، چهارچوبی است که تلاش دارد در فرآیند حکمرانی تمامی ذی‌نفعان را دخیل کند. این شیوه حکمرانی نه‌تنها می‌تواند رضایت بالاتری را در میان آحاد جامعه ایجاد کند، بلکه به‌خاطر ماهیت مشارکتی، امکان در نظر گرفتن چشم‌اندازهای متنوع‌تری در سیاستگذاری‌ها به دست می‌دهد. یکی از مهم‌ترین چالش‌های حکمرانی مشارکتی، امکان تجمیع و یکپارچه‌سازی نظرات متکثر مردم و استفاده از آنها در فرآیند حکمرانی است. این کار هم به لحاظ زمانی و انرژی و هم از نظر جمع‌بندی پرهزینه است. علاوه‌بر این مردم تصویر دقیقی از عواقب تصمیمات ندارند. الزام است تا چشم‌انداز روشنی در این زمینه ارائه شود. در حوزه‌های مختلفی بر تاثیر مردم و مشارکت آنها تاکید می‌کنیم. مثلا در تدوین برنامه هفتم به خاطر دارم که گفتند «ما می‌خواهیم از ظرفیت مردمی و نخبگانی استفاده کنیم.» سامانه‌ای هم طراحی شد اما واقعا نتوانست نظرات نخبگان را تجمیع کند. بعضا نظرات در یک حوزه اقتصادی و موضوعی مانند مالیات، متکثر بود. چگونه این نظرات متکثر را جمع کرده و آنها را در قالب یک ماده قانونی بیان کنیم؟ شنیده‌ایم در مجلس پیشین شورای اسلامی از هوش مصنوعی برای تنقیح قوانین استفاده شده، ولی فرآیند آن حداقل برای اینجانب که کنشگر در حوزه هوش مصنوعی و عضو کوچکی از این زیست‌بوم هستم نامشخص است. در حوزه اقتصاد، تاکید بر اقتصاد مشارکتی داریم؛ اقتصادی که مردم در آن مشارکت داشته باشند اما چون برای آن فرآیندی تدوین نکرده‌ایم، نتوانسته‌ایم در این زمینه موفق باشیم. 

چالش‌های مهم حکمرانی به سبک هوش مصنوعی 

مدل حکمرانی هوش مصنوعی آمریکا را یکی از موسسات و پژوهشکده‌های ایرانی - فکر کنم موسسه کوثر - ترجمه کرده است. دولت آمریکا در بخش حاکمیتی خودش یک‌سری کمیته تخصصی، کارگروه و شورایی در این زمینه دارد. در چند لایه در بخش‌های نظامی، دفاعی، امنیتی و بخش خصوصی، این موارد را تعریف کرده است. مأموریت هرکدام از آنها مشخص است. علاوه‌بر این، کار دیگری انجام داده؛ همراهی بین‌المللی ایجاد کرده است. گروه‌ها، مجامع و «Community»های مختلف بین‌المللی را در این زمینه با خود همراه کرده است. مثلا اگر استانداردی در حوزه هوش مصنوعی تدوین می‌کند، کشورهای دیگر را هم مشارکت بدهد. برای هرکدام از آنها نیز مأموریت تعریف کرده است. پیشتر هم گفتم ما نیازمند همین موضوع هستیم. یک‌سری چالش پیش روی ماست؛ چالش‌های اقتصادی، اجتماعی و اخلاقی. مثلا اگر بخواهیم سه مورد را مطرح کنیم، چالش «نظارت‌ناپذیری و کنترل‌ناپذیری» می‌تواند به میان بیاید. وقتی درباره هوش مصنوعی مولد یا خودمولد صحبت می‌کنیم، باید انتظار داشته باشیم این هوش مصنوعی براساس داده‌هایی که دریافت می‌کند، ممکن است خودش به الگوی جدیدی دست پیدا کند و رفتار جدیدی از خودش نمایش بدهد که این رفتار قابل نظارت و کنترل از سوی ما نباشد. در مواجهه با آن می‌بینیم «هوش مصنوعی توضیح‌پذیر» مطرح می‌شود. مجموعه‌ای از تکنیک‌های پیشرفته یادگیری ماشین است که مدل‌های قابل توضیح ارائه می‌کند و باعث می‌شود ابهامات برطرف شود. به نوعی وضعیت نظارت و کنترل را از حالت جعبه سیاه خارج می‌کند و جعبه سفیدی به ما نشان می‌دهد. 

چالش دیگر، چالش مسئولیت‌پذیری و مسائل و ملاحظات حقوقی است. اجازه بدهید با مثال عرض کنم. فرض کنید یک ماشین خودران استفاده می‌شود. این ماشین در یکی از خیابان‌ها تصادف می‌کند. اولین بحثی که مطرح می‌شود، مسئولیت‌پذیری است. مقصر کیست؟ مقصر تصادف ماشین خودران چه کسی است؟ راننده‌ای هم ندارد. آیا شرکت تولیدکننده مقصر است؟ آیا زیرساخت‌ها ‌طوری نبوده که انتقال داده را به سرعت انجام دهد؟ فرض کنید دستگاهی در حوزه پزشکی طراحی شده تا عمل جراحی انجام دهد. به هر دلیلی این عمل ناموفق است. مقصر کیست؟ یک‌سری ملاحظات مسئولیت‌پذیری و حقوقی در اینجا مطرح می‌شود. از یک «چت بات» سوال می‌پرسید و براساس پاسخی که می‌دهد، تصمیمی می‌گیرید. در این تصمیم دچار ضرر می‌شوید. مثلا از او می‌پرسید «سهام کدام شرکت را بخرم؟» او هم پاسخ می‌دهد. شما می‌روید سهام را می‌خرید و ضرر می‌کنید. اینجا چه کسی مقصر است؟ می‌خواهید یقه چه فردی را بگیرید؟ پس یک‌سری چالش‌های مسئولیت‌پذیری و حقوقی مطرح می‌شود. 

محمدرضا معبودیان، رئیس کمیسیون هوش مصنوعی نظام صنفی رایانه‌ای: وقتی درباره حکمرانی صحبت می‌کنیم، عملا می‌توان گفت در حوزه هوش مصنوعی در کشور، حداقل سه گونه تلقی از حکمرانی داریم. خیلی جاها حکمرانی برای هوش مصنوعی داریم، خیلی جاها حکمرانی با هوش مصنوعی در ذهن‌مان است و خیلی جاها حکمرانی بر هوش مصنوعی مد نظر است. مثلا وقتی با دوستان در مجلس و قوه مقننه می‌نشینیم، موضوع‌شان حکمرانی بر هوش مصنوعی است. با دوستان در صنعت و بخش خصوصی صحبت می‌کنیم، می‌خواهند حکمرانی با هوش مصنوعی را پیشنهاد کنند تا عملا بتوانند کار را با هوش مصنوعی جلو ببرند. خیلی جاها نیز نیازمند مدلی از حکمرانی هستیم که هوش مصنوعی نهادینه شود و از حالت نابالغ دربیاید. همین‌جا تلنگری به خودمان بزنم؛ اوضاع هوش مصنوعی در کشور عزیزمان زیاد مناسب نیست؛ هم در حوزه تقاضا و هم در حوزه عرضه احساس می‌کنیم بلوغ مورد نیاز ایجاد نشده است. باید در آینده حکمرانی‌مان به این عدم بلوغ، دقت کافی داشته باشیم. با پوزش فراوان این حرفم، مقداری تلخکامی در خود دارد؛ اگر میسر نشود، چه بسا سبک جدیدی از استعمار را در چند سال آینده خواهیم دید. از روش‌های مرسوم استعمار به سمت روش‌های استعماری مبتنی‌بر هوش مصنوعی خواهیم رفت زیرا هوش مصنوعی بازیگردانی بسیار قوی می‌شود. هر کشور و مجموعه‌ای که قدرت بیشتری در مدل‌ها و دادگان در دسترس داشته باشد، عملا بازیگر اصلی خواهد بود. اگر با این سه نگاه بخواهیم بحث را آغاز کنیم، می‌توانیم حکمرانی برای هوش مصنوعی را با تسهیل‌گری‌ها، تضمین‌گری‌ها و نظاره‌گری‌ها ترجمه کنیم. از نظر بنده می‌شود حکمرانی را با تعدادی گری ترجمه کنیم؛ تنظیم‌گری، تسهیل‌گری، تضمین‌گری و نظاره‌گری. 

در حوزه حکمرانی با هوش مصنوعی باید بحث داده‌محوری و در حوزه حکمرانی بر هوش مصنوعی هم تنظیم‌گری را به‌عنوان موضوع داشته باشیم. وقتی می‌گوییم در حوزه هوش مصنوعی باید تسهیل‌گری شود، منظور این است که تعدادی تسهیلات مالی در این حوزه ایجاد شود. تسهیلات و گشایش‌هایی در حوزه سرمایه‌گذاری و سرمایه‌پذیری و همچنین تسهیل در حوزه بازارهای داخلی و خارجی مد نظر است. اگر می‌خواهیم حکمرانی خوبی برای هوش مصنوعی داشته باشیم باید به این حوزه‌ها بپردازیم. البته موارد ریز دیگری هم هست که از آن گذر می‌کنم. 

بحث تضمین‌گری در حوزه هوش مصنوعی خیلی لازم بوده؛ آن‌هم تضمین خرید و مصرف است. به‌طور مثال توقع داشته باشیم شرکت‌های خصوصی و سازمان‌های دولتی برای تهیه دادگان و زیرساخت مورد نیازشان و سپس تولید مدل‌های هوش مصنوعی هزینه کنند اما مصرف یا خریدش را تضمین نکنیم. در عمل تبدیل به چالشی می‌شود که اکنون با آن درگیر هستیم. تضامین قانونی هم می‌تواند برای ما بسیار مهم باشد. چگونه می‌خواهیم به شکل قانونی با بحث آزادرسانی دادگان برخورد کنیم؟ چگونه می‌خواهیم در مدلی که برای یک حوزه خاص با هزینه بسیاری تولید شده بحث حقوق پدیدآورندگان را تامین و تضمین کنیم؟ موارد دیگری نیز وجود دارد. خیلی جاها نیز دولت باید نظاره‌گری و فقط نگاه کند. حاکمیت و دولت باید مواظب تضاد منافع در این حوزه‌ها باشد. باید ببینند تخصیص بودجه به‌درستی انجام می‌شود یا خیر و بازگشت نتایج بودجه‌ای چگونه است. آیا در حوزه هوش مصنوعی برون‌سپاری می‌شود یا درون‌سپاری؟ دولت باید در این موارد، نظاره‌گری کرده و به آنها دقت کند. 

به سراغ حکمرانی با هوش مصنوعی برویم. البته آقای دکتر زاهدی، بسیار زیبا مطالب را بیان کرد. من به‌صورت خلاصه عرض می‌کنم. ما می‌خواهیم حکمرانی با هوش مصنوعی داشته باشیم؛ آنچه بسیار مطلوب همگان است. تعدادی کار داده‌محور داشته باشیم؛ از برنامه‌ریزی پیشگویانه تا خودکارسازی امور، صرفه‌جویی در منابع و زمان، بهینه‌سازی فرآیندها و کاهش تلفات، تصمیم‌گیری و تصمیم‌سازی، توصیه‌گری هوشمند، تضمین کیفیت و مواردی از این دست. عملا می‌خواهیم در مملکت با هوش مصنوعی این کارها را در آینده انجام دهیم و به‌صورت جدی هم مد نظر قرار دهیم پس باید حکمرانی کنیم تا به این موضوعات برسیم. در حوزه حکمرانی بر هوش مصنوعی که همان بحث تنظیم‌گری‌هاست باید توجه کنیم متولیان چه کسانی هستند. اکنون در مملکت n گونه ستاد و مرکز داریم. همگی هم تمام تلاش خود را با صداقت و کوشش انجام می‌دهند ولی خیلی جاها کارها overlap (همپوشانی) داشته و اختیارات و دامنه فعالیت‌شان با همدیگر تداخل دارد. مثلا اگر ترک فعلی مانند آزادرسانی دادگان بانکی در یک ارگان دولتی انجام می‌شود، واقعا باید چه شود؟ این یکی از مواردی است که باید به آن اشاره کنیم. حمایت‌های مالی را با چه ضوابطی توزیع می‌کنیم؟ آیا یک گوشه امن برای تعداد خاصی ایجاد شده یا نه؟ LLM با هفت یا 60 میلیارد پارامتر هم تولید شده؛ چگونه باید آنها را آزمایش کنیم؟ دادگان آزمایشی ما چه هستند؟ چه مدل‌های آزمایشی داریم؟ اخلاق در اینجا چگونه آزمایش می‌شود؟ از یک مدل LLM که روی آن چت جی‌پی‌تی هم بالا آمده، می‌توانید بپرسید. خودم دقیقا پرسیدم فرق حضرت علی (ع) و معاویه در حکومت‌داری چیست؟ گفت هر دو حاکم بودند، خوبی‌ها و بدی‌هایی هم داشتند. خوبی‌های ایشان فلان و فلان بود. البته آن یکی خیلی خشن بود. در واقع به ما خط می‌دهد؛ باید آزمایشگاهی داشته باشیم تا وقتی مدل زبانی فارسی ایجاد کردیم، اخلاق را چک و تست کنیم و درنهایت مجوز بدهیم که در جامعه از آن استفاده شود؟ در بحث‌های آزادرسانی، همین‌گونه است. ما باید ببینیم تکلیف چیست. اگر تخلفی انجام می‌شود، قانون چقدر پای کار ایستاده است؟

قانون‌گذاری پیش از بلوغ، نوآوری را محدود می‌کند

خیلی دوست دارم به نکته‌ای اشاره کنم؛ ما در حوزه نوآوری می‌گوییم سه گری شامل تسهیل‌گری، تضمین‌گری و نظاره‌گری همواره باید بر تنظیم‌گری مقدم باشد؛ چون نوآوری هنوز شکل نگرفته و بالغ نشده است. اگر برای آنچه هنوز در دسترس نیست و نهادینه نشده قوانین بگذاریم، در واقع دست و پای نوآوری را می‌بندیم و عملا نوآوری محدود می‌شود. در این حوزه‌ها باید بیشتر تسهیل‌گر و تضمین‌گر باشیم تا تنظیم‌گر. باید بدانیم تنظیم‌گری برای مرحله بلوغ است؛ این چالش مملکت ماست. اکنون در حوزه هوش مصنوعی و حکمرانی بر هوش مصنوعی نگاه‌ها بیشتر بر تنظیم‌گری است. جایگاه رگولاتوری در نگاه موجود و میزان توانی که در حکمرانی گذاشته می‌شود باید ضمن تاکید بر موارد مهمی که ذکر کردم تنظیم شود. 

حجم تنظیم‌گری نسبت به نظاره‌گری، تضمین‌گری و تسهیل‌گری باید کمتر باشد اما در حال حاضر متاسفانه به‌صورت مدل سمت چپ درآمده است. ذهن دولت، حاکمیت و حتی دانشگاه بیشتر در موضوع تنظیم‌گری فعال است و راهکارگزینی می‌کنند. اشاره خیلی کوچکی هم به Hype Cycle Gartner داشته باشم.  حدودا 26 تا 27 ترند در این حوزه شناسایی شده است. هرکدام از این روندها دو تا پنج و حتی 10 سال دیگر جدی می‌شوند. Cycle به این صورت است که توهم استفاده از تکنولوژی‌ها، ابتدا فزاینده شده و مثل بادکنکی است که مدام باد می‌شود. وقتی به اوج می‌رسد، انتقادها شروع شده و عملا ماهیت اصلی و جایگاه تجاری خود را پیدا کرده و البته افت می‌کند. نمودار افت کرده و پایین می‌آید. در ادامه به ثبات و خط ثابتی می‌رسد. مثلا درباره LLMها و چت جی‌پی‌تی در اوج توهم هستیم. اکنون در بالای نمودار Generative AI نشسته و توقعات هم مردم، هم حاکمیت و هم دولت از این‌گونه سیستم‌های Generative بسیار بالاست. ما به‌عنوان فعال جدی در حوزه هوش مصنوعی باید حتما به این موضوع عنایت داشته باشیم که نمودار پایین می‌آید، افت مقبولیت دارد، راستی‌آزمایی‌های مختلفی صورت می‌گیرد و درباره‌اش در جراید صحبت‌های منفی می‌شود تا به حد و غایت واقعی خود و ثبات برسد. نکته مهم این است که Generative AI نیست، بلکه 25 یا 26 مورد دیگر هم در این حوزه هستند که از این نردبان بالا می‌روند یا در حال تجربه افت جایگاه هستند تا جایگاه‌شان واقعی شود و به حالت تجاری برسد. مثلا در حوزه Computer vision تقریبا به انتهای چرخه رسیده‌ایم. هرکسی در این باره در حوزه‌های مختلف صحبت می‌کند تقریبا درخصوص میزان عدد، میزان توانی که باید ببرد و جایگاهش در صنعت، ذهنیت و تصور درستی دارد. حتما نیم‌نگاهی به این ترندها و روندها باید در انواع حکمرانی‌های ما مد نظر باشد. 

دسترسی به دادگان؛ اولین پیش‌نیاز هوش مصنوعی 

به الزامات هوش مصنوعی هم بیشتر از منظر تکنولوژیک و فناوری نگاه کردم. اولین مورد از الزامات هوش مصنوعی دسترسی به دادگان است. اگر داده نداشته باشیم هوش مصنوعی نداریم. متاسفانه در این حوزه ضعف جدی در مملکت دیده می‌شود. داده‌های فارسی ما در وب موجود است. کار جدی از سوی یکی از شرکت‌های معتبر انجام گرفته و حدودا 40 میلیارد توکن از سایت‌های فارسی احصا شده؛ این اتفاق خیلی خوبی بوده و آزادرسانی هم صورت گرفته است. همه می‌توانند از آن استفاده کنند اما درباره انتشارات، جراید و رسانه‌های صوتی و تصویری واقعا مشکل جدی در مملکت وجود دارد. تصوری هست که دوستان ناشر فکر می‌کنند اگر کتاب را به یک مدل هوش مصنوعی بدهند حقوق پدیدآورندگان کمی مخدوش می‌شود. مدل ما می‌خواهد این را یک یا دو یا پنج بار بخوانند و یاد بگیرند. در واقع فرآیند learning را انجام بدهند؛ نه اینکه عینا بازنشر کنند، حتی می‌توان در خیلی از موارد، تکست‌ها را بُر زد تا مدل را با آن درست کنیم. همچنین می‌توان تصاویر و بحث‌های مختلفی را پیگیری کرد اما اکنون در این حوزه هم ضعف قانونی و هم ناهماهنگی بین سازمان‌های مختلف داریم تا بتوانند به نحوی دادگان را به دست کسانی برسانند که می‌خواهند تولید مدل کنند. بحث گزارش‌های عملکرد دستگاه‌های اجرایی نیز مطرح است. پلتفرم‌های خدمات شهروندی از اسنپ و تپسی تا دیجی‌کالا و حمل‌ونقل، بهداشت، سلامت و... دادگانی تولید می‌کنند که می‌توانند خوراک بسیار خوب مدل‌سازی‌های هوش مصنوعی باشند. این تعامل را در اکوسیستم نمی‌بینیم. عملا این نقیصه هنوز پابرجاست. 

نکته تلخ‌تر؛ هیچ فکری برای دادگان صنعتی در این مملکت نمی‌کنیم. لاگ و خرابی برای تعمیرات و نگهداری یک دستگاه بویلر خاص در صنعت داشته باشیم تا بتوانیم مدل کنیم و از طریق آن، پیش‌بینی‌ها و پیشگویی‌هایی درباره تعمیرات و پرفورمنس داشته باشیم. ببینیم چه نقاط تنظیم‌هایی در آن لحاظ کنیم که فرآیندها optimum (مطلوب) شود. متاسفانه اصلا در این باره به دادگان صنعتی نمی‌پردازیم و توجهی نداریم که باید تجمیع شود. در مرکز همکاری‌های بین‌المللی ریاست‌جمهوری مطرح کردم و گفتم در بریکس، شانگهای و جاهای دیگر صحبت می‌کنیم تا همکاری‌های تجاری داشته باشیم. اکنون می‌توانیم دادگان صنعتی خودمان را جمع‌آوری کنیم و به‌عنوان دارایی (asset) روی میز بگذاریم یا دارایی‌های آنها درباره همان دستگاه‌هایی را بگیریم که در ایران هستند، ولی دادگان‌شان را نداریم. البته زیمنس و دیگر بازیگران جدی به ما چنین داده‌هایی نمی‌دهند چون عملا در این زمینه‌ها نیز تحریم هستیم. اگر بتوانیم این فرآیند را ایجاد کنیم که دادگان بگیریم یا دادگان خودمان را بدهیم و مدل‌های آنها را بگیریم یا مدل‌های خودمان را توزیع کنیم. در حوزه دادگان وضعیت ما به این شکل است و جزء الزامات هوش مصنوعی محسوب می‌شود. اگر تا چندین سال دیگر هم درباره هوش مصنوعی صحبت کنیم ولی به الزامات دادگانش نپردازیم نتیجه‌ای از آن حاصل نمی‌شود. هوش مصنوعی ما در حد حرف باقی می‌ماند. 

نکته بعدی، زیرساخت‌هاست. می‌توان گفت چه زیرساخت‌هایی لازم داریم، برای train مدل‌های خود نیاز داریم GPU در کشور داشته باشیم، متاسفانه سطح مناسبی GPU در مملکت نیست. همان‌طور که می‌دانید بعضی از کارت‌های GPU نه‌تنها در ایران، بلکه در خاورمیانه تحریم است. کشورهای امارات و عربستان هم در خرید برخی کارت‌های گرافیکی مشکل دارند. این‌گونه نیست که فقط ایران دچار مشکل باشد. ما نقیصه‌ای در خرید GPU برای train داریم. نقیصه خیلی بزرگ‌تری هم هست؛ آنجایی که می‌خواهیم از GPU برای Inference استفاده کنیم. فرض کنید مدل LLM خیلی خوبی ایجاد کرده و می‌خواهیم از آن استفاده کنیم. به ازای هر ریکوئستی که به مدل می‌زنیم، نیاز داریم GPU داشته باشیم. متاسفانه در این زمینه خیلی فقدان داریم. قیمت تمام‌شده Inference در ایران بسیار بالاست. پلتفرمی مثل دیجی‌کالا اگر بخواهد به ازای هر جست‌وجوی تایپ‌شده کاربر در متون موجود در عکس‌ها، لوگوها، متن‌ها و مواردی مانند اسم برندها بگردد، به‌طور مثال کاربر سرچ می‌کند کتانی نایکی، هیچ تایتلی از نایکی در آنجا نیست، ولی در عکسش یک تکست نایکی هست. می‌خواهد Inference بزند و از این کارت گرافیکی استفاده کند. چه‌بسا قیمت تمام‌شده هر سرچ برای این کار بیش از 100 تومان باشد. برای بعضی از موارد حاد تا 500 تومان هم می‌رود. به ازای هر سرچ کاربر که می‌تواند درنهایت خریدی انجام ندهد، رقم قابل‌توجهی است. می‌دانید نرخ خرید پشت سرچ، یک‌هزارم است؛ یعنی از هر هزار سرچ، احتمال دارد فقط یک مورد به خرید ختم شود. آن‌وقت باید هرکدام از Inference ها را در نظر بگیریم. اگر هزار سرچ، هرکدام 100 تومان تمام شود، خیلی از کالاها دیگر توجیهی ندارند تا در پلتفرم تجارت الکترونیک عرضه شوند، مثلا مواردی که در حد 20، 30 هزار تومان هستند، حذف می‌شوند. 

اینجا نیاز داریم که توان پردازشی GPU برای Inference در کشور مهیا شود. بحث‌های GPU Sharing مطرح است و مواردی محسوب می‌شوند که دولت و حاکمیت باید به آنها بپردازند. اگر می‌خواهیم پلتفرم‌های نرم‌افزاری ML-Ops داشته باشیم؛ وقتی می‌خواهیم سرویس بسیار خوبی به بازار عرضه و آن را عملیاتی کنیم یا رتبه خود را تقلیل بدهیم، باید سرویس‌مان کاملا با دقت مناسب آپدیت شود، دادگان جدید را بگیرد، مدل ایجاد و به‌روزرسانی شود و سرچ ما درباره دادگان دیروز نباشد، بلکه درخصوص دادگان و مدل جدید امروز باشد. این کاری است که باید در پلتفرم‌های ML-Ops انجام شود. باید AI Market Place داشته باشیم، به‌طور مثال دیجی‌کالا market place دارد و می‌توان کالا را از طریق n فروشنده کالای خاص عرضه کرد و فروخت. ما هم باید market place داشته باشیم و مدل‌ها و دادگان مختلف را خرید و فروش کنیم. 

موضوع بعدی، توسعه و گسترش بازار است. در آنجا ضعف‌های خیلی بنیادین داریم، مثلا Market Reserch در حوزه هوش مصنوعی در کشور نداریم. این حوزه خیلی ضعیف است. اصلا نمی‌دانیم واقعا میزان تقاضای هوش مصنوعی چقدر است. در صنعت یا معدن، چقدر تقاضای Computer vision داریم. هیچ‌کس پاسخ این سوال را نمی‌داند. برای تولید چنین نتیجه‌ای، یک شرکت نرم‌افزاری کافی نیست. اصلا برای افزایش تقاضا، مدیریتی انجام نمی‌شود. باید به تنور تقاضا بدمیم تا بتوانیم کیک بازار را بزرگ و بحث تجاری‌سازی را در آن راه‌اندازی کنیم. همان‌طور که حتما مستحضرید به تعبیری هر 10 بیزینس بزرگ دنیا و با اندکی اغماض، تعداد زیادی از آنها از AI به‌عنوان مزیت رقابتی اصلی خود استفاده می‌کنند. برای انجام این کار نباید به سمت حاکمیت فکر کنیم، بلکه باید کاری انجام دهیم که شرکت‌های بزرگ مثل 10 شرکت عظیم دنیا، در اندازه کشور خودمان ایجاد شود. 

اوضاع دادگان فارسی در کشور چگونه است؟ 

طرحی به نام «دوام» داریم که سازمان‌های دولتی باید دادگان خود را آزادرسانی کنند تا شرکت‌ها و بهره‌برداران دیگر بتوانند به ایجاد مدل از آن بپردازند. هرچند هنوز وضعیت خوبی ندارد. شرکت‌های زیادی مشغول تولید دادگان مختلفی هستند. خیلی‌ها open source کرده و بسیاری نیز می‌خواهند بفروشند. این هم در اصل یک بیزینس است که ما در کشور خیلی جدی به آن نمی‌پردازیم. 

در حوزه زیرساخت عرض کردم اجاره GPU برای train تقریبا محقق است. جا دارد تشکر ویژه از معاونت علمی داشته باشیم که سال 1402 گرنت ماهیانه 50 میلیون تومان به شرکت‌های فعال در این حوزه پرداخت می‌کرد، متاسفانه هنوز برای سال 1403 ابلاغ نشده ولی خبرهای خوبی مبنی‌بر ابلاغ به گوش می‌رسد. همین گرنت، باری از دوش شرکت‌هایی برمی‌دارد که در این حوزه کار می‌کنند. در حوزه Inference تقریبا فقط نیاز درحال شکل‌گیری است. حوزه ML-Ops درحال راه‌اندازی است ولی هنوز مهندسی هوش مصنوعی به‌صورت جدی فراهم نشده؛ هرچند درحال راه‌اندازی است. 

ساده‌سازی همه‌چیز با هوش مصنوعی توهم است!

متاسفانه بودجه برای بازار ما ناکافی است. توهمی در حوزه هوش مصنوعی وجود دارد که همه‌چیز ساده‌سازی می‌شود، مثلا همواره توقع رقابت یک محصول ایرانی با چت جی‌پی‌تی وجود دارد. می‌گویند ما در چت جی‌پی‌تی سرچ کردیم، این را گفته و چرا مدل شما همین را نمی‌گوید؟! چه مدلی بوده و چه پولی پشتش رفته است؟ این چه داستانی دارد؟ این توهم هنوز رفع نشده که میزان هزینه و فایده را در نظر بگیریم. متاسفانه بلوغ کافی در استفاده از هوش مصنوعی نیز وجود ندارد. مورد دلخورکننده این است که مدیران دولتی در کشورمان ثبات‌گرا هستند و اصلا تحول‌گرا نیستند. وقتی مدیری هدایت مجموعه‌ای را در اختیار می‌گیرد، به او می‌گویند سه، چهار سال دیگر صندلی را از شما پس می‌گیریم. جان ما فقط همین را تحویل بدهی. شما را خیلی قبول داریم! به او می‌گویید همه چیز را بریز پایین و یک بار دیگر در سبک هوش مصنوعی بگذار تا تحول ایجاد کند. در پاسخ می‌گوید من تحول نمی‌خواهم، بلکه ثبات می‌خواهم.

یک پارادوکس در مملکت داریم و باید برای آن فکری کنیم. آخرین نکته بسیار مهم برای من این بوده که بخشی از حوزه دادگان در مملکت ما بهانه امنیتی است. نمی‌دانیم واقعا باید چه کار کنیم. درباره آنچه روی اینترنت گذاشته‌اند و همه می‌توانند مشاهده کنند، به هرکسی می‌گوییم داده‌اش را بده، در جواب می‌گوید امنیتی است. نمی‌توانیم چنین کاری کنیم. باید هزار داستان داشته باشیم تا کار دربیاید. نمی‌توانیم چنین کاری کنیم. باید هزار داستان داشته باشیم تا کار دربیاید. 

کنسرسیوم‌های هوش مصنوعی نیز باید شکل بگیرند 

با توضیحاتی که عرض کردم متاسفانه حکمرانی «با»، «بر» و «برای» هوش مصنوعی زیاد مناسب نیست. اگر بخواهم سریع جمع‌بندی کنم، باید بگویم در آینده به این موضوعات بپردازیم تا بتوانیم حکمرانی خوبی داشته باشیم. کارگروه‌های بخشی با حضور دانشگاه، صنعت و خصوصی‌سازی باید تشکیل شود. این سه ضلع باید با همدیگر بنشینند. نهضت بودجه‌نویسی در دولت و صنعت و نهضت پروپوزال‌نویسی در بخش خصوصی باید به راه بیفتد. این دو نهضت باید با یکدیگر همکاری کنند تا عملا تعریف مساله درستی داشته باشیم. در حال حاضر مساله‌های ما روی هواست. تصورات روی 100 و توانمندی‌ها پایین است. این دو با همدیگر همخوانی ندارند و کار درنمی‌آید. کنسرسیوم‌های هوش مصنوعی نیز باید شکل بگیرد، چون توان شرکت‌ها در حوزه هوش مصنوعی، کم است. شرکت‌های ما آنقدری که لازم است، بالغ نیستند. مخصوصا باید در حوزه هوش مصنوعی صنعتی فعالیت جدی داشته باشیم. من چهار مورد مهم در این حوزه را با رنگ قرمز مشخص کرده‌ام؛ تمرکز بر هوش مصنوعی صنعتی، تمرکز بر تجاری‌سازی و سودآوری، ظرفیت‌سازی در بخش خصوصی و تمرکز بر فرهنگ‌سازی و آموزش هوش مصنوعی. 

راه برون‌رفت مملکت ما برای اینکه هوش مصنوعی راه بیفتد و حوزه مدیریت را کارآمد کند، این است که به هوش مصنوعی صنعتی بپردازد. صنعت ما با device (دستگاه)های 40 سال پیش کار می‌کند. ما تحریم هستیم و اگر به هوش مصنوعی در صنایع بپردازیم، چون تولید پول می‌کند، درنتیجه می‌تواند شرکت‌های خصوصی را به این باور و شایستگی برساند که با سرمایه‌گذاری خودشان به دولت کمک کنند. ما در این حوزه، مشکل بودجه و سرمایه‌گذاری داریم. تا زمانی که این مساله را حل نکنیم، نمی‌توانیم به دولت کمک کنیم. از این جهت صنعت که پول دارد باید تارگت (هدف) شرکت‌های خصوصی شود. آنها کارهای هوشمندسازی را انجام دهند و کسب پول کنند تا بتوانند سرمایه‌گذاری کنند. این نکته، مهم‌ترین راهکاری است که می‌توانستم در اینجا عرض کنم. تمرکز جدی بر تجاری‌سازی و سودآوری نیز پیرو همان بحث است. ظرفیت‌سازی هم شرایط مشابهی دارد. چنانکه گفتم باید ظرفیت تولید ایجاد کنیم. 

بخواهیم مستعمره نشویم باید تولید‌کننده شویم

به این نکته اشاره کنم که در جاهایی به خاطر اینکه مستعمره نشویم باید تولید‌کننده شویم. اصلا شکی در این موضوع وجود ندارد، اگر برای ما خط و زبان فارسی مهم است، باید مدل فارسی داشته باشیم. نباید مدل‌های دیگر فارسی را پشتیبانی کنند و ما به این میزان قانع باشیم. اگر بعد از مدتی دوست داشته باشند کلمه‌ای را که با «ذ» نوشته می‌شود با «ز» بنویسند، فرزندان ما کم‌کم یاد می‌گیرند مثل مدل دوم بنویسند. در یک سریال تلویزیونی اصطلاحی به نام «پاچه‌خاری» وجود داشت که بر سر زبان‌ها افتاد و وارد فرهنگ‌مان شد. از این دست اصطلاحات می‌تواند دوهزار نمونه در مدل‌های زبانی ایجاد شود و اگر حواس‌مان نباشد، ما دیگر در آن هیچ‌کاره خواهیم بود. باید در جاهایی حتما تولیدکننده باشیم. در جاهایی نیز حتما نباید تولیدکننده بود، بلکه باید مصرف‌کننده خوبی باشیم. همگی کشور امارات را دیده‌ایم که در مصرف ماشین‌های لوکس، کارش خیلی درست است. از ماشین لوکس استفاده کرده و اصلا به تولید این ماشین‌ها فکر نمی‌کند. ما هم در حوزه‌هایی از هوش مصنوعی باید دقیقا صرف‌کننده‌هایی عالی باشیم. 

هدفی که می‌خواهیم داشته باشیم، این است که تولیدکننده‌های عالی در حوزه‌های استراتژیک و ملی و مصرف‌کننده‌های خوب در حوزه‌هایی باشیم که می‌خواهیم در آن زمینه‌ها ارتقای سطح زندگی بدهیم و ارتقای فرآیندهای مهم زندگی را داشته باشیم. طبیعتا بحث‌های فرهنگ‌سازی، آموزش و سواد هوش مصنوعی نیز در این حوزه مد نظر قرار بگیرد. به نکته‌ای دیگر اشاره کنم؛ اکنون دولت به بحث اعتبار مالیاتی می‌پردازد و می‌خواهد با این اعتبار، صنایع را به بخش خصوصی لینک کند تا مالیات ندهند. اعتبار را هم به بخش خصوصی بدهند تا کار کند، اما تاکنون یک شرکت هوش مصنوعی نتوانسته از این اعتبار استفاده کند. اگر می‌خواهیم کاری کنیم باید راهکارهایمان تسهیل‌گر جدی باشد.