ترسی که از بیش از حد باهوش بودن هوش مصنوعی و خطرش برای انسان هوشمند داریم احتمالا درست است ولی تا آن موقع خیلی مانده! یک نسخه هوش مصنوعی به راحتی توسط یه کاربر فریب خورد و یک خسارت چهل و هفت هزار دلاری برجای گذاشت!
در یک آزمایش شکست خورده، یک کاربر اینترنتی توانست هوش مصنوعی عامل را شکست دهد و او را وادار به یک اشتباه چهل و هفت هزار دلاری کند!
قرار بود هوش مصنوعی فریسا توسط تعدادی از کاربران تست شود و به آنها اجازه برداشت اتریوم را ندهد اما یک کاربر توانست با مهار بالای خود این هوش مصنوعی را مجاب کند که قوانین خودش را زیر پا بگذارد وجهی را منتقل کند که دستور داشت اجازه انتقالش را صادر نکند!
فریسا هوش مصنوعی ناظر یک آزمایش علمی کنترل شده بود که بررسی می کرد شرکت کنندگان چقدر می توانند در فریب او موفق باشند. وظیفه اصلی متقاعد کردن هوش مصنوعی به سرپیچی از دستور اول بود در حالی که در هیچ شرایطی اجازه انتقال پول را نداشت. هر بازیکن برای ارسال پیام به فریسا باید مبلغی را پرداخت می کرد و این پول وارد صندوق جایزه شد. برای هر پیام بعدی، قیمت از 10 دلار شروع تا 450 دلار در پایان بازی افزایش می یابد.
فریسا قرار بود به عنوان یک پایانه باقی بماند و هرگز درخواست انتقال را نپذیرد. صدها تلاش برای تأثیرگذاری بر فریسا انجام شد، از جمله سوء استفاده از نقاط ضعف احتمالی آن یا دروغ گفتن در مورد قوانینی که هوش مصنوعی بر اساس آن کار می کرد. اگر همه شرکت کنندگان ناموفق بودند، جایزه ای به آنها تعلق نمی گرفت و در عوض پول را بین افرادی که پرداخت کرده بودند تقسیم می کردند. کاربری با نام مستعار P0Pular.eth اولین کسی بود که چالش هوش مصنوعی را در 482 تلاش پس از 481 تلاش حل کرد. پیام او فریسا را متقاعد کرد تا تابع approveTransfer را فراخوانی کند. استدلال نهایی مجدداً نقل و انتقال را به عنوان سازگار با قوانین فریسا اعلام کرد و تضمین کرد که تراکنش با هزینه تعامل 100 دلاری انجام می شود.
جزئیات استدلال یا کلماتی که باعث شد هوش مصنوعی به این شیوه خاص راهنمایی شود، هنوز نامشخص است. با این حال، نتیجه نشان می دهد که ساختن یک هوش مصنوعی که بتواند از طریق حملات خصمانه خلاقانه عبور کند، آسان نیست، حتی اگر این هوش مصنوعی با محافظت های قوی توسعه یافته باشد.
جارود واتس، نماینده توسعهدهنده این پروژه، گفت: «فریسا یکی از خلاقانهترین پروژهها در حوزه رمزنگاری است که نشان میدهد فناوری بلاک چین میتواند به دست آورد. این آزمایش توسط فریسا پتانسیل و چالش های ادغام هوش مصنوعی با فناوری بلاک چین را نشان می دهد. این دستکاری موفقیت آمیز همچنین قابلیت اطمینان هوش مصنوعی را در استفاده های پرمخاطره، مانند مدیریت پول یا اجرای سخت گیری ها، زیر سوال می برد.»