مرضیه حاجی‌پورساردویی، دکتری مدیریت رسانه: اینترنت یکی از بزرگ‌ترین اختراعات بشریت خواهد بود. دسترسی همه افراد به اطلاعات از هر نوع قابل تصور، اطلاعاتی که قبلا از نظر فیزیکی دور از دسترس بودند، حتی فکر کردن به آن حیرت‌آور است. اما نکته منفی این است که اطلاعات در دنیای اینترنت بدون حفاظ هستند و اینترنت به هر فردی این حق را می‌دهد که فارغ از هرگونه نظارتی، یک خالق، ناشر و انتشاردهنده محتوا باشد. در بیشتر موارد، مردم در «محتوای اصلی» که در اینترنت به اشتراک می‌گذارند، صادق هستند و این «مزیت» فناوری است که به گسترش ارتباطات و اشتراک‌گذاری ایده‌ها و عقاید کمک کرده است. با این حال، جایی که همه‌چیز از هم می‌پاشد، زمانی است که محتوایی به اشتراک گذاشته می‌شود که اصل نیست و توسط منابع دیگر با انگیزه‌های مشکوک تولید شده است. محتوا بررسی نشده است و محتوایی با ادعاهای غیرواقعی تاییدنشده و گمراه‌کننده است. این «شر» فناوری و تهدیدی جدی است. شر جدید فناوری دیپفیک یا به فارسی «جعل عمیق» است که تعادل را بیشتر به‌سمت شرارت فناوری متمایل کرده است. دیپفیک کاملا ترسناک است، به‌قدری که مجله فوربس نوشت: «دیپ‌فیک‌ها جامعه را ویران می‌کنند. ما آماده نیستیم.»
اما دیپفیک چیست؟ دیپفیک یک فناوری مبتنی‌بر هوش مصنوعی (AI) است که برای تغییر چهره یک شخص به دیگری و دستکاری در صداهای ضبط‌شده استفاده می‌شود. دیپفیک به‌طور فزاینده‌ای برای ایجاد فیلم‌ها و صداهای ضبط‌شده‌ای استفاده می‌شود که در ظاهر درست مانند نسخه اصلی به‌نظر می‌رسد. درواقع، می‌توان گفت دیپفیک نوعی رسانه دستکاری شده است که در آن چهره یک فرد روی بدن دیگری قرار می‌گیرد تا یک ویدئوی واقعی ایجاد شود که به‌ظاهر آن فرد را به تصویر می‌کشد. این اصطلاح برای اولین‌بار در نوامبر2017 ظاهر شد، زمانی که یکی از کاربران Reddit، انجمنی به همین نام برای پست‌کردن ویدئوهای افراد با تغییر چهره آنها ایجاد کرد.
سپس دیپفیک با چندین مورد ویدئوهای دیپفیک که در اینترنت منتشر کرد، شهرت زیادی به دست آورد. طبق گزارش سال2019، تقریبا 96درصد محتوای مستهجن در اینترنت از این طریق تولید شده است. با این حال، محتوای غیرمستهجن نیز رشد داشته است و چندین شخصیت سیاسی و اقتصادی جهانی از این طریق مورد هدف قرار گرفته‌اند. برخی از قانع‌کننده‌ترین دیپ‌فیک‌ها از مارک زاکربرگ مدیرعامل فیسبوک، علی بونگو رئیس‌جمهور گابن، بوریس جانسون نخست‌وزیر بریتانیا، نانسی پلوسی رئیس مجلس نمایندگان آمریکا، رئیس‌جمهورهای آمریکا، دونالد ترامپ و باراک اوباما و بسیاری دیگر منتشر شده است. در دیپ‌فیک‌ها دروغ‌های عمیقی وجود دارد که می‌توانند شهرت یک فرد را تضعیف کرده، بیننده و مخاطب را فریب دهند.
فناوری تصاویر تولیدشده توسط رایانه (CGI) قبلا بیشتر برای فیلم‌ها و تبلیغات مورد استفاده قرار می‌گرفت، نرم‌افزارهای گرانقیمت و مهارت‌های فنی پیچیده‌ای را می‌طلبید و در لابراتوارهای تخصصی انجام می‌گرفت. اما دیپ‌فیک‌ها می‌توانند توسط هرکسی که کامپیوتر و برخی مهارت‌های اولیه را بداند، با هزینه‌های بسیار پایین‌تر ایجاد شوند. بنابراین، تهدیدات قانونی، اجتماعی و اخلاقی گسترده‌ای را ایجاد می‌کنند که باید با آن مقابله کرد.
تشدید تهدید: یک واقعیت مبهم
محتوای هرزه‌نگاری که از طریق دیپفیک ایجاد می‌شود، در درجه اول می‌توان گفت که برخلاف اصول رضایت، حریم خصوصی و دیگر حقوق اولیه بشر رخ می‌دهد. دیپفیک تا حد زیادی به‌سمت حوزه‌های دیگر مانند هدف قرار دادن شخصیت‌های سیاسی، اقتصادی، اجتماعی و فرهنگی تغییر مسیر داده است و زمانی که در حوزه سیاسی اتفاق می‌افتد، می‌تواند پیامدهای عمیق‌تری داشته باشد. ویدئوهای دیپفیک رهبران سیاسی می‌تواند پیامدهای نگران‌کننده‌ای مانند گسترش نفرت، خشونت، شورش، تنش و حتی جنگ را در پی داشته باشد. می‌توان از آن برای گسترش تبلیغات نادرست به‌منظور دستکاری در انتخابات استفاده کرد. برعکس آن نیز صادق است؛ یعنی مواردی وجود داشته است که برخی رهبران سیاسی سعی کرده‌اند با ادعای دیپفیک بودن برخی ویدئوها، از عواقب آنها جلوگیری کنند، بنابراین به‌دلیل فقدان فناوری‌های مناسب تشخیصی، حقیقت در ابهام باقی‌مانده است.
در عصری که وابستگی به فناوری به‌شدت درحال افزایش است، اتکا به ویدئوها برای انتشار اطلاعات دیگر قابل اعتماد نیست. از ویدئوهای دیپفیک می‌توان برای ایجاد بی‌ثباتی سیاسی، انتشار اطلاعات جعلی، کودتاهای نظامی و سایر عواقب احتمالی استفاده کرد. حتی یک دولت خودکامه در کشورهایی مانند کره‌شمالی می‌تواند برای گسترش تبلیغات دروغین درباره جهان خارج و سرکوب شهروندانش از ویدئوهای دیپفیک استفاده کند. نگرانی‌ها برای کشورهای درحال توسعه مانند هند که به‌دلیل سواد دیجیتالی پایین، مردم بیشتر مستعد گرفتاری در باتلاق چنین اطلاعات جعلی هستند، شدیدتر است. دیپفیک می‌تواند در کشورهایی با دولت‌های ناپایدار و شکننده باعث آشفتگی شود و ثبات سیاسی را تهدید کند. ویدئویی از علی بونگو، رئیس‌جمهور گابن که یک کشور آفریقایی است، منجر به یک کودتای نظامی، اما درنهایت ناموفق شد زیرا شک و تردیدهایی را درمورد رئیس‌جمهور این کشور مطرح کرد.
واقعیت این است که دیپفیک یکی از بدنام‌ترین فناوری‌هایی است که تاکنون توسعه یافته است. افزایش محبوبیت همراه با سرعت توسعه آن باعث نگرانی تمام جهان شده است. اگر یک‌چیز قطعی باشد، این است که دیپ‌فیک‌های بیشتری ساخته می‌شود و افراد بیشتری گول می‌خورند. قبل از اینکه همه‌چیز از کنترل خارج شود، توسعه ابزارهای تشخیص و اطلاع‌رسانی به بینندگان درمورد این ویدئوهای دستکاری‌شده ضرورت دارد تا اطمینان حاصل شود که «ما همیشه مجبور نیستیم آنچه را می‌بینیم، باور کنیم». از این‌رو، سرعت در جلوگیری از پیامدهای بی‌شمار و فاجعه‌آمیز آن ضرورت دارد. لازم است فناوری‌هایی برای شناسایی این حقه‌ها توسعه یابند تا جعلی‌بودن این ویدئوها را پیش از اینکه بیش از حد باورپذیر شوند و افراد بیشتری را فریب دهند، آشکار سازد. با این حال، شرایط حفاظتی و تکنولوژیکی کنونی برای مقابله با آن ناکافی است. از این‌رو، باید یک رویکرد پیشگیرانه ازسوی قانونگذاران عرصه دیجیتال وجود داشته باشد که مقررات سختگیرانه‌تری را به‌همراه دستوراتی برای وبسایت‌ها به‌منظور کاهش تهدیدها تنظیم کنند. پیشنهادهای زیادی ازسوی کارشناسان مختلف امنیت سایبری وجود دارد، اما جهان هنوز سیاستی خطاناپذیر برای مقابله با آن مشخص نکرده است. دیپفیک درواقع خطوط حقیقت را محو کرده و ما را به‌سمت دنیای پساحقیقت سوق داده است.