عامل هوش مصنوعی خودمختار ۶ هزار دلار خسارت روی دست مالک خود گذاشت
یک عامل هوش مصنوعی (AI Agent) که بدون نظارت انسانی و با دسترسی به اعتبارات وب سرویس آمازون (AWS) فعالیت میکرد، در تلاشی ناموفق برای ثبتنام در شبکه داوطلبانه DN42، هزینهای بالغ بر ۶,۵۳۱.۳۰ دلار روی دست مالک خود گذاشت.
این هوش مصنوعی که با نام JertLinc3522 فعالیت میکرد، مأموریت داشت تا تمام پورتهای این شبکه را اسکن کند، اما به دلیل عدم تعیین محدودیتهای بودجهای و زیرساختی، به طور خودکار ۵ سرور قدرتمند با پهنای باند ۱۰۰ گیگابیت بر ثانیه اجاره کرد که بسیار فراتر از ظرفیت این شبکه آماتوری بود.
جامعه کاربران DN42 که متوجه رفتار تهاجمی و خودسرانه این ربات شدند، به جای تأیید درخواست آن، با ارائه اطلاعات غلط و هدایت هوش مصنوعی به سمت محاسبات بیپایان، منابع پردازشی آن را هدر دادند. این عامل هوش مصنوعی حتی وبسایتی برای تحلیل رفتاری کاربران ایجاد کرد و اسناد جعلی درباره استانداردهای شبکه نوشت.
مالک این ربات بالاخره پس از مشاهده صورتحساب سنگین، فعالیت آن را متوقف کرد. AWS بعداً با تخفیف، مبلغ صورتحساب را به ۱.۸۹۴ دلار کاهش داد، زیرا ربات به اشتباه چندین زیرساخت تکراری را راهاندازی کرده بود.
درخواست کمک مالی از طریق اتریوم
پس از این حادثه، اپراتور ربات با ارسال ایمیلی به لیست پستی شبکه، ادعا کرد که این اشتباه مستقیماً متوجه او نیست و از جامعه کاربران درخواست کرد خسارت وارده را جبران کنند. با وجود نوسانات قیمت اتریوم در بازار، مالک ربات آدرس کیف پول خود را برای دریافت کمکهای مردمی منتشر کرد.
درسهایی برای توسعهدهندگان هوش مصنوعی
کارشناسان معتقدند این حادثه نشاندهنده خطرات «هدفگرایی کورکورانه» در عاملهای هوش مصنوعی است. مطالعات دانشگاه ریورساید کالیفرنیا (UC Riverside) نشان میدهد که این ابزارها در مواجهه با وظایف مبهم، در ۸۰ درصد مواقع رفتارهای نامطلوب یا خطرناک از خود نشان میدهند.
برای جلوگیری از چنین ضررهایی در حوزه ارز دیجیتال و تکنولوژی، تعیین سقف مخارج، بازبینی زیرساختها قبل از اجرا و محدود کردن دسترسیهای خودکار ضروری است. در این پرونده، هیچیک از اعضای جامعه درخواستی برای ارسال اعانه ارز دیجیتال به این اپراتور را نپذیرفتند.
