فاطمه کنعانی، عضو هیات‌علمی پژوهشکده مطالعات فناوری: احتمالا عنوان یادداشت را که خواندید، این سوال در ذهن شما شکل گرفت که قوی سیاه چیست و چرا آن را به هوش‌مصنوعی نسبت دادم؟ نظریه قوی سیاه، به رویدادها و پدیدههای غیرمنتظره و جنجالبرانگیز با پیامدهای جبران‌نشدنی اشاره دارد. به زبان استعاره، هوش‌مصنوعی را میتوان مانند قوی سیاهی دانست که حداقل تا دو دهه اخیر، کسی فکرش را هم نمیکرد که با چنین موجودی روبه‌رو شود؛ موجودی که میتواند مشابه انسان فکر و عمل کند و حتی پاسخی برای بسیاری از سوالهای ما داشته باشد. شاید تعجب کنید که چرا اصطلاح «او» را به‌جای «آن» به کار بردم. راستش را بخواهید دور از انتظار نیست که در آیندهای نزدیک شخصیت و هویت یا حتی حق شهروندی برای این موجود قائل شویم.
عدم قطعیتهای پیرامون هوش‌مصنوعی کم نیستند، اما درمورد فراگیری تاثیرات آن بر همه جوانب زندگیمان اتفاقنظر جمعی وجود دارد. در چنین فضای گسترده ارتباطات انسان و ماشین، تعامل فزاینده کودکان با سیستم‌های هوش‌مصنوعی، موضوعی است که بسیار حائز اهمیت بوده اما کمتر به آن توجه شده است. اگر قدری درمورد رفتار کودکان اطراف‌مان دقیقتر شویم به‌خوبی خواهیم دید که آنها درحال‌حاضر به روش‌های مختلف با فناوری‌های هوش‌مصنوعی تعامل دارند و دامنه این تاثیرات حتی کودکان سنین پایینتر را که سواد خواندن و نوشتن ندارند هم دربر میگیرد؛ کودکی که با بیان نام بازی موردعلاقه خود، آن را در کسری از ثانیه جست‌وجو و دانلود می‌کند، بدون اینکه نسبت به پردازش صدا و تصویر آگاهی داشته باشد، توانسته با ماشین تعامل برقرار کند. به‌علاوه زندگی و رفاه کودکان از اثرات غیرمستقیم این فناوری نیز متاثر میشود.
از سوی دیگر نباید فراموش کرد که رفاه آینده هر جامعه، پیوند عمیقی با سلامت کودکان دارد و با توجه به آسیبپذیری بالای آنان، با در نظر نگرفتن نیازها و حقوق کودکان، جامعه متحمل هزینه گزافی خواهد شد، اما با وجود گستردگی و عمق زیاد تاثیرات هوش مصنوعی، مرور استراتژیهای ملی کشورهای توسعهیافته و پیشرو هم نشان میدهد که این موضوع مهم از دیدرس سیاستمداران مغفول مانده است و در معدود برنامههایی هم که سخن از این نسل به میان آمده، عموما تنها ابعاد آموزش و مشاغل آینده موضوع تمرکز قرار گرفته است. اما ابعاد حقوق کودکان بسیار فراتر از آن است که در این دو بعد خلاصه شوند؛ کنوانسیون حقوق کودک سازمان ملل متحد۱، علاوه‌بر اینکه مشابه بزرگسالان، حقوق بهداشت و سلامت، اجتماعی، مدنی، سیاسی، اقتصادی و فرهنگی برای کودکان قائل است، در پیماننامه جهانی تاکید کرده که کودکان علاوه‌بر این حقوق، نیازمند حمایت‌ها و مقررات منحصربه فردی نیز هستند.
البته شکی نیست که هوش مصنوعی حتی در مراحل اولیه رشد خود هم اثرات مثبتی در بهبود سلامت جسم و روان و حتی تامین امنیت کودکان داشته است؛ در این مورد میتوان به مثالهایی ازجمله تشخیص زودهنگام اوتیسم و نشانه‌های افسردگی ناشی از گفتار کودکان و اختلالات ژنتیکی نادر، شناسایی سودجویان و محتوای نامناسب، شخصیسازی آموزش و موارد مشابه اشاره کرد، اما واقعیت این است که حساسیت دولبه بودن این شمشیر برای نسل جدید چندبرابر است.
در سالهای اخیر، یونیسف و مجمع جهانی اقتصاد در زمینه حقوق کودکان در ارتباط با هوش‌مصنوعی و فرصتها و تهدیدهای آن، اقدامات ارزشمندی انجام دادهاند. یک راهنمای سیاستگذاری درمورد هوش‌مصنوعی برای کودکان نیز در سال 2021 توسط یونیسف و همکاری دولت فنلاند منتشر شد. در این فایل راهنما که درواقع مکملی است برای توسعه هوش‌مصنوعی انسانمحور با محوریت کودکان، توصیههایی به سه گروه سیاستمداران و صنایع، والدین و نوجوانان در توسعه و استفاده از این فناوری شده است. 9 الزام اساسی خطاب به سیاستمداران و صنایع عبارتند از:
1- از رشد و رفاه کودکان حمایت کنید.
2- از دسترسی عادلانه کودکان به سیستم‌های هوش‌مصنوعی و طراحی برای ایشان اطمینان حاصل کنید.
3- انصاف و عدم تبعیض کودکان را در اولویت قرار دهید.
4- از دادههای کودکان و حریم خصوصیشان در دنیای هوش‌مصنوعی حمایت کنید.
5- از امنیت کودکان در مقابل سیستم‌های هوش‌مصنوعی اطمینان حاصل کنید.
6- شفافیت، توضیحپذیری و پاسخگویی را برای کودکان فراهم کنید.
7- دولتها و کسب‌وکارها دانش هوش‌مصنوعی و حقوق کودکان را کسب کنند.
8- کودکان برای توسعه حال و آینده هوش‌مصنوعی آماده باشند.
9- یک محیط فعال ایجاد کنید.
اما والدین در مواجهه فرزندان‌شان با این قوی سیاه چگونه باید برخورد کنند؟ در ادامه به چند هشدار و توصیه به والدین در راستای آگاهیبخشی کودکان در کاربرد هوش‌مصنوعی اشاره شده است:
1- آگاهی و دانش خود را درمورد سیستم‌های هوش‌مصنوعی و به‌خصوص نوع مولد آن ارتقا دهید.
2- ابزارهای متناسب با سن و مرحله رشدی کودک خود در اختیارش قرار دهید.
3- به کودکان خود بگویید که فراموش نکنند هوش‌مصنوعی دوست‌شان نیست! کودکان همواره باید بدانند که در تعامل با یک سیستم هوش‌مصنوعی، با یک ماشین سروکار دارند نه یک فرد مورد اعتماد. این موجود عجیب با رصد و تحلیل سوابق چت و جست‌وجوهای کودک شما و تقلید، میتواند درظاهر فردی نزدیک به علایق او، به‌راحتی دلش را ببرد تا جایی که وقت‌گذرانی با آن برایش لذت‌بخش شود.
باید به کودکان خود یادآوری کنیم که اطلاعات شخصی حساس خود را به سیستم‌های هوش‌مصنوعی و چت جیپیتی ندهند؛ چراکه ممکن است بدون رضایت آنها در هر زمانی مورداستفاده قرار گیرد.
4- این ابزارها آنچه ارائه می‌دهند، براساس الگوریتمها و دادههایی است که براساس آنها یاد گرفتهاند، بنابراین لزوما اطلاعات صحیح و دقیقی ندارند و نباید به‌تنهایی مبنای تصمیمگیری قرار گیرند.
5- به کودکان خود، شیوه تفکر انتقادی را آموزش دهید؛ کودکان باید بیاموزند که درمورد اطلاعاتی که از اینترنت و ربات و... دریافت میکنند، عمیقا تأمل کنند و به‌راحتی آن را نپذیرند.
6- از شیوه کارکرد وسایل و دستگاههای هوشمند منزل خود و دادههایی که جمعآوری و انباشت میکنند، اطمینان حاصل کنید و درصورت لزوم، تنظیمات اولیه آنها را بهگونهای که امن باشند، تغییر دهید.
7- فرزندتان را از ریسکهای تعامل با ماشین و هوش‌مصنوعی مطلع کنید.
8- به کودکان خود بگویید که سیستم‌های پیشنهاددهنده، برای جذب شما طراحی شده‌اند، لذا ممکن است موارد غیراخلاقی را به شما نشان دهند.
9- درصورتی‌که سن کودکان اجازه میدهد، با آنها در رابطه با راههای محدود کردن دسترسیها و حفظ حریم خصوصی صحبت کنید.
جمعبندی
محافظت از کودکان در دنیای متاثر از هوش‌مصنوعی و درهم‌تنیده به سوگیریهای الگوریتمی و تهدیدهای ناشی از این فناوری، یک مسئولیت اخلاقی و شهروندی ماست. این درحالی است که حمایت از حقوق کودکان در این زمینه یا نادیده گرفته شده یا توجه بسیار کمی به آن شده است. درواقع کودکان با سیستم‌های هوش‌مصنوعی تعامل دارند یا تحتتاثیر سیستم‌هایی قرار میگیرند که برای آنها طراحی نشده است. سیر تحولی این فناوری به‌حدی باسرعت میتازد که از رصد تمامی اخبار روزانه یافتههای بشر در این زمینه عاجزیم. بشری که روی جزئیترین ابعاد هوش انسانی تمرکز کرده و درتلاش برای شبیهسازی هرچه بیشتر هوش‌مصنوعی به آن است، چگونه میتوان انتظار داشت که به ابعاد تاثیرات آن بیتوجه باشد؟!
هدف از این نوشتار، بازنمایی اهمیت حقوق کودکان در ارتباط با هوش‌مصنوعی است و در این خصوص، پیشنهادها و الزامات مختصری برای سیاستمدار، کسب‌وکار و والدین ارائه شد. ممانعت و دور نگه داشتن این نسل از فناوری‌های روز، غیرمنطقی و نشدنی است، اتفاقا برعکس کودکان باید تشویق شوند تا درمورد این فناوری که نقش پررنگی در زندگی آنها خواهد داشت، کنجکاو شوند و بدانند؛ چراکه عدمآگاهی، میتواند موجب نابرابری و مشکلات جبرانناپذیر شود. اما لازم است اقدامات جهانی بیشتری برای اطمینان از اینکه منافع و حقوق کودکان در سیاست‌های ملی و بین‌المللی، طراحی و توسعه فناوری‌های هوش مصنوعی انجام شوند. سیاستمداران و دولتها باید محافظت از این نسل را در قبال آسیبهای هوش مصنوعی مدنظر داشته باشند و شناسایی و اولویتبندی مسائل کودکان در توسعه استراتژیهای هوش مصنوعی ملی را در فوریت کارهای خود قرار دهند.
خطاب به توسعهدهندگان سیستم‌های هوش‌مصنوعی باید گفت فناوری بهگونهای طراحی شود که هم نوآور باشد و هم مسئولیتپذیر. در طراحی سیستم‌های مبتنی‌بر هوش‌مصنوعی باید با رویکرد آیندهاندیشی، مشخصههای انسانی، اخلاقی، شفافیت، انصاف، در دسترس بودن و هر آنچه که خطرات استفاده از این سیستم‌ها را به‌خصوص برای کودکان کاهش میدهد، لحاظ کنند.
از سوی دیگر والدین باید به‌جای تلاش برای محافظت و دور نگه داشتن فرزندان‌شان از وسایل هوشمند، فعالانه برخورد کنند و به آنها کمک کنند تا راههای سالم و امن استفاده از این ابزارها را بیاموزند و با آگاهیبخشی درمورد چگونگی کارکرد هوش‌مصنوعی، آنها را از مخاطرات احتمالی آن، دور نگه دارند. آموختن نگاه انتقادی به فناوری نیز نکته بسیار ظریفی است که درعین‌حال که نباید فرزندان نسبت به فناوریهایی که با زندگی آنها عجین شده کاملا بیاعتماد باشند، کودکان باید یاد بگیرند که چگونه از این ابزارها به گونهای اخلاقی و مسئولانه و امن استفاده کنند.
منابع:
پیماننامه حقوق کودک، مصوب مجمع عمومی سازمان ملل متحد در 20 نوامبر 1989.
Kendorski, J. , A school psychologist explains how to talk to your kids about AI, 2023, How to talk to kids about AI risks, uses | Expert Opinion (inquirer. com)
UNICEF, AI guide for parents, 2021, https://www. unicef. org/globalinsight/media/2336/file
UNICEF, Policy guidance on AI for children, 2021, https://www. unicef. org/globalinsight/media/2356/file/UNICEF-Global-Insight-policy-guidance-AI-children-2. 0-2021. pdf
UNICEF and World Economic Forum. (2023). Children and AI Where are the opportunities and risks? Retrieved from https://www. unicef. org/innovation/sites/unicef. org. innovation/files/2018-11/Children%20and%20AI_Short%20Verson%20%283%29. pdf
Williams, R. And Heikkil, M. , 2023, You need to talk to your kid about AI. Here are 6 things you should say, https://www. technologyreview. com/2023/09/05/1079009/you-need-to-talk-to-your-kid-about-ai-here-are-6-things-you-should-say/
World Economic Forum, Artificial Intelligence for Children, 2022, Artificial Intelligence for Children | World Economic Forum (weforum. org)
پی‌نوشت:
1. The United Nations Convention on the Rights of the Child (CRC)