قوی سیاه هوش‌مصنوعی و دنیای سفید کودکان

فاطمه کنعانی، عضو هیات‌علمی پژوهشکده مطالعات فناوری: احتمالا عنوان یادداشت را که خواندید، این سوال در ذهن شما شکل گرفت که قوی سیاه چیست و چرا آن را به هوش‌مصنوعی نسبت دادم؟ نظریه قوی سیاه، به رویدادها و پدیده‏های غیرمنتظره و جنجال‏برانگیز با پیامدهای جبران‌نشدنی اشاره دارد. به زبان استعاره، هوش‌مصنوعی را می‏توان مانند قوی سیاهی دانست که حداقل تا دو دهه اخیر، کسی فکرش را هم نمی‏کرد که با چنین موجودی روبه‌رو شود؛ موجودی که می‏تواند مشابه انسان فکر و عمل کند و حتی پاسخی برای بسیاری از سوال‏های ما داشته باشد. شاید تعجب کنید که چرا اصطلاح «او» را به‌جای «آن» به کار بردم. راستش را بخواهید دور از انتظار نیست که در آینده‏ای نزدیک شخصیت و هویت یا حتی حق شهروندی برای این موجود قائل شویم.
عدم قطعیت‏های پیرامون هوش‌مصنوعی کم نیستند، اما درمورد فراگیری تاثیرات آن بر همه جوانب زندگی‏مان اتفاق‏نظر جمعی وجود دارد. در چنین فضای گسترده ارتباطات انسان و ماشین، تعامل فزاینده کودکان با سیستم‌های هوش‌مصنوعی، موضوعی است که بسیار حائز اهمیت بوده اما کمتر به آن توجه شده است. اگر قدری درمورد رفتار کودکان اطراف‌مان دقیق‏تر شویم به‌خوبی خواهیم دید که آنها درحال‌حاضر به روش‌های مختلف با فناوری‏های هوش‌مصنوعی تعامل دارند و دامنه این تاثیرات حتی کودکان سنین پایین‏تر را که سواد خواندن و نوشتن ندارند هم دربر می‏گیرد؛ کودکی که با بیان نام بازی موردعلاقه خود، آن را در کسری از ثانیه جست‌وجو و دانلود می‌کند، بدون اینکه نسبت به پردازش صدا و تصویر آگاهی داشته باشد، توانسته با ماشین تعامل برقرار کند. به‌علاوه زندگی و رفاه کودکان از اثرات غیرمستقیم این فناوری نیز متاثر می‏شود.
از سوی دیگر نباید فراموش کرد که رفاه آینده هر جامعه، پیوند عمیقی با سلامت کودکان دارد و با توجه به آسیب‏پذیری بالای آنان، با در نظر نگرفتن نیازها و حقوق کودکان، جامعه متحمل هزینه گزافی خواهد شد، اما با وجود گستردگی و عمق زیاد تاثیرات هوش مصنوعی، مرور استراتژی‏های ملی کشورهای توسعه‏یافته و پیشرو هم نشان می‏دهد که این موضوع مهم از دیدرس سیاستمداران مغفول مانده است و در معدود برنامه‏هایی هم که سخن از این نسل به میان آمده، عموما تنها ابعاد آموزش و مشاغل آینده موضوع تمرکز قرار گرفته است. اما ابعاد حقوق کودکان بسیار فراتر از آن است که در این دو بعد خلاصه شوند؛ کنوانسیون حقوق کودک سازمان ملل متحد۱، علاوه‌بر اینکه مشابه بزرگسالان، حقوق بهداشت و سلامت، اجتماعی، مدنی، سیاسی، اقتصادی و فرهنگی برای کودکان قائل است، در پیمان‏نامه جهانی تاکید کرده که کودکان علاوه‌بر این حقوق، نیازمند حمایت‌ها و مقررات منحصربه فردی نیز هستند.
البته شکی نیست که هوش مصنوعی حتی در مراحل اولیه رشد خود هم اثرات مثبتی در بهبود سلامت جسم و روان و حتی تامین امنیت کودکان داشته است؛ در این مورد می‏توان به مثال‏هایی ازجمله تشخیص زودهنگام اوتیسم و نشانه‌های افسردگی ناشی از گفتار کودکان و اختلالات ژنتیکی نادر، شناسایی سودجویان و محتوای نامناسب، شخصی‏سازی آموزش و موارد مشابه اشاره کرد، اما واقعیت این است که حساسیت دولبه بودن این شمشیر برای نسل جدید چندبرابر است.
در سال‏های اخیر، یونیسف و مجمع جهانی اقتصاد در زمینه حقوق کودکان در ارتباط با هوش‌مصنوعی و فرصت‏ها و تهدیدهای آن، اقدامات ارزشمندی انجام داده‏اند. یک راهنمای سیاستگذاری درمورد هوش‌مصنوعی برای کودکان نیز در سال 2021 توسط یونیسف و همکاری دولت فنلاند منتشر شد. در این فایل راهنما که درواقع مکملی است برای توسعه هوش‌مصنوعی انسان‏محور با محوریت کودکان، توصیه‏هایی به سه گروه سیاستمداران و صنایع، والدین و نوجوانان در توسعه و استفاده از این فناوری شده است. 9 الزام اساسی خطاب به سیاستمداران و صنایع عبارتند از:
1- از رشد و رفاه کودکان حمایت کنید.
2- از دسترسی عادلانه کودکان به سیستم‌های هوش‌مصنوعی و طراحی برای ایشان اطمینان حاصل کنید.
3- انصاف و عدم تبعیض کودکان را در اولویت قرار دهید.
4- از داده‏های کودکان و حریم خصوصی‏شان در دنیای هوش‌مصنوعی حمایت کنید.
5- از امنیت کودکان در مقابل سیستم‌های هوش‌مصنوعی اطمینان حاصل کنید.
6- شفافیت، توضیح‏پذیری و پاسخگویی را برای کودکان فراهم کنید.
7- دولت‏ها و کسب‌وکارها دانش هوش‌مصنوعی و حقوق کودکان را کسب کنند.
8- کودکان برای توسعه حال و آینده هوش‌مصنوعی آماده باشند.
9- یک محیط فعال ایجاد کنید.
اما والدین در مواجهه فرزندان‌شان با این قوی سیاه چگونه باید برخورد کنند؟ در ادامه به چند هشدار و توصیه به والدین در راستای آگاهی‏بخشی کودکان در کاربرد هوش‌مصنوعی اشاره شده است:
1- آگاهی و دانش خود را درمورد سیستم‌های هوش‌مصنوعی و به‌خصوص نوع مولد آن ارتقا دهید.
2- ابزارهای متناسب با سن و مرحله رشدی کودک خود در اختیارش قرار دهید.
3-‌ به کودکان خود بگویید که فراموش نکنند هوش‌مصنوعی دوست‌شان نیست! کودکان همواره باید بدانند که در تعامل با یک سیستم هوش‌مصنوعی، با یک ماشین سروکار دارند نه یک فرد مورد اعتماد. این موجود عجیب با رصد و تحلیل سوابق چت و جست‌وجوهای کودک شما و تقلید، می‏تواند درظاهر فردی نزدیک به علایق او، به‌راحتی دلش را ببرد تا جایی که وقت‌گذرانی با آن برایش لذت‌بخش شود.
باید به کودکان خود یادآوری کنیم که اطلاعات شخصی حساس خود را به سیستم‌های هوش‌مصنوعی و چت‏ جی‏پی‏تی ندهند؛ چراکه ممکن است بدون رضایت آنها در هر زمانی مورداستفاده قرار گیرد.
4- این ابزارها آنچه ارائه می‌دهند، براساس الگوریتم‏ها و داده‏هایی است که براساس آنها یاد گرفته‏اند، بنابراین لزوما اطلاعات صحیح و دقیقی ندارند و نباید به‌تنهایی مبنای تصمیم‏گیری قرار گیرند.
5- به کودکان خود، شیوه تفکر انتقادی را آموزش دهید؛ کودکان باید بیاموزند که درمورد اطلاعاتی که از اینترنت و ربات‏ و... دریافت می‏کنند، عمیقا تأمل کنند و به‌راحتی آن را نپذیرند.
6- از شیوه کارکرد وسایل و دستگاه‏های هوشمند منزل خود و داده‏هایی که جمع‏آوری و انباشت می‏کنند، اطمینان حاصل کنید و درصورت لزوم، تنظیمات اولیه آنها را به‌گونه‏ای که امن باشند، تغییر دهید.
7- فرزندتان را از ریسک‏های تعامل با ماشین و هوش‌مصنوعی مطلع کنید.
8- به کودکان خود بگویید که سیستم‌های پیشنهاددهنده، برای جذب شما طراحی شده‌اند، لذا ممکن است موارد غیراخلاقی را به شما نشان دهند.
9- درصورتی‌که سن کودکان اجازه می‏دهد، با آنها در رابطه با راه‏های محدود کردن دسترسی‏ها و حفظ حریم خصوصی صحبت کنید.

جمع‌‏بندی
محافظت از کودکان در دنیای متاثر از هوش‌مصنوعی و درهم‌تنیده به سوگیری‏های الگوریتمی و تهدیدهای ناشی از این فناوری، یک مسئولیت اخلاقی و شهروندی ماست. این درحالی است که حمایت از حقوق کودکان در این زمینه یا نادیده گرفته شده یا توجه بسیار کمی به آن شده است. درواقع کودکان با سیستم‌های هوش‌مصنوعی‏ تعامل دارند یا تحت‏تاثیر سیستم‌هایی قرار می‏گیرند که برای آنها طراحی نشده‏ است. سیر تحولی این فناوری به‌حدی باسرعت می‏تازد که از رصد تمامی اخبار روزانه یافته‏های بشر در این زمینه عاجزیم. بشری که روی جزئی‏ترین ابعاد هوش انسانی تمرکز کرده و درتلاش برای شبیه‏سازی هرچه بیشتر هوش‌مصنوعی به آن است، چگونه می‏توان انتظار داشت که به ابعاد تاثیرات آن بی‏توجه باشد؟!
هدف از این نوشتار، بازنمایی اهمیت حقوق کودکان در ارتباط با هوش‌مصنوعی است و در این خصوص، پیشنهادها و الزامات مختصری برای سیاستمدار، کسب‌وکار و والدین ارائه شد. ممانعت و دور نگه داشتن این نسل از فناوری‏های روز، غیرمنطقی و نشدنی است، اتفاقا برعکس کودکان باید تشویق شوند تا درمورد این فناوری که نقش پررنگی در زندگی آن‏ها خواهد داشت، کنجکاو شوند و بدانند؛ چراکه عدم‏آگاهی، می‏تواند موجب نابرابری و مشکلات جبران‏ناپذیر شود. اما لازم است اقدامات جهانی بیشتری برای اطمینان از اینکه منافع و حقوق کودکان در سیاست‌های ملی و بین‌المللی، طراحی و توسعه فناوری‌های هوش مصنوعی انجام شوند. سیاستمداران و دولت‏ها باید محافظت از این نسل را در قبال آسیب‏های هوش مصنوعی مدنظر داشته باشند و شناسایی و اولویت‏بندی مسائل کودکان در توسعه استراتژی‏های هوش مصنوعی ملی را در فوریت کارهای خود قرار دهند.
خطاب به توسعه‏دهندگان سیستم‌های هوش‌مصنوعی باید گفت فناوری به‌گونه‏ای طراحی شود که هم نوآور باشد و هم مسئولیت‏پذیر. در طراحی سیستم‌های مبتنی‌بر هوش‌مصنوعی باید با رویکرد آینده‏اندیشی، مشخصه‏های انسانی، اخلاقی، شفافیت، انصاف، در دسترس بودن و هر آنچه که خطرات استفاده از این سیستم‌ها را به‌خصوص برای کودکان کاهش می‏دهد، لحاظ کنند.
از سوی دیگر والدین باید به‌جای تلاش برای محافظت و دور نگه داشتن فرزندان‌شان از وسایل هوشمند، فعالانه برخورد کنند و به آنها کمک کنند تا راه‏های سالم و امن استفاده از این ابزارها را بیاموزند و با آگاهی‏بخشی درمورد چگونگی کارکرد هوش‌مصنوعی، آنها را از مخاطرات احتمالی آن، دور نگه دارند. آموختن نگاه انتقادی به فناوری نیز نکته بسیار ظریفی است که درعین‌حال که نباید فرزندان نسبت به فناوری‏هایی که با زندگی آنها عجین شده کاملا بی‏اعتماد باشند، کودکان باید یاد بگیرند که چگونه از این ابزارها به گونه‏ای اخلاقی و مسئولانه و امن استفاده کنند.

منابع:

پیمان‏نامه حقوق کودک، مصوب مجمع عمومی سازمان ملل متحد در 20 نوامبر 1989.
Kendorski, J. , A school psychologist explains how to talk to your kids about AI, 2023, How to talk to kids about AI risks, uses | Expert Opinion (inquirer. com)
UNICEF, AI guide for parents, 2021, https://www. unicef. org/globalinsight/media/2336/file
UNICEF, Policy guidance on AI for children, 2021, https://www. unicef. org/globalinsight/media/2356/file/UNICEF-Global-Insight-policy-guidance-AI-children-2. 0-2021. pdf
UNICEF and World Economic Forum. (2023). Children and AI Where are the opportunities and risks? Retrieved from https://www. unicef. org/innovation/sites/unicef. org. innovation/files/2018-11/Children%20and%20AI_Short%20Verson%20%283%29. pdf
Williams, R. And Heikkil, M. , 2023, You need to talk to your kid about AI. Here are 6 things you should say, https://www. technologyreview. com/2023/09/05/1079009/you-need-to-talk-to-your-kid-about-ai-here-are-6-things-you-should-say/
World Economic Forum, Artificial Intelligence for Children, 2022, Artificial Intelligence for Children | World Economic Forum (weforum. org)

پی‌نوشت:

1. The United Nations Convention on the Rights of the Child (CRC)