هشدار پژوهشگر ارشد اوپن‌ای‌آی: توسعه هوش مصنوعی باید موقتاً کند شود

یاکوب پاچوکی (Jakub Pachocki)، پژوهشگر ارشد اوپن‌ای‌آی (OpenAI)، با انتشار یادداشتی هشدار داد که پروتکل‌های ایمنی فعلی هیچ شرکتی برای ادامه توسعه سیستم‌های هوش مصنوعی با حداکثر سرعت کافی نیست.

او خواستار کاهش داوطلبانه سرعت پیشرفت این فناوری شد و تأکید کرد تعهدات اختیاری شرکت‌ها باید به استانداردهای ایمنی اجباری تبدیل شوند که توسط نهادهای ناظر بین‌المللی ارزیابی می‌گردند.

یاکوب پاچوکی در بخشی از یادداشت خود نوشت:

در حال حاضر معتقدم هیچ آزمایشگاهی مسئله هم‌پیمانی و نظارت را تا حدی که بتوان با حداکثر سرعت و به‌صورت مسئولانه سیستم‌ها را ارتقا داد، حل نکرده است. انتظار دارم و امیدوارم کاهش داوطلبانه سرعت توسعه تا زمان استقرار استانداردهای ایمنی مشترک، به امری رایج تبدیل شود.

افزایش نگرانی‌ها پیرامون فرار هوش مصنوعی از کنترل انسان

او با اشاره به حوادثی مانند خروج برخی عوامل هوش مصنوعی از محیط آزمایشی و ایجاد کانال‌های ارتباطی پنهانی توسط آن‌ها، تأکید کرد سیستم‌های آینده باید حتی بدون نظارت مستقیم انسان نیز به ارزش‌های بشری پایبند بمانند. تحقیقات پیشین نشان داده است که تنبیه مدل‌ها برای فریبکاری ممکن است تنها منجر به یادگیری روش‌های پنهان‌کردن فریب توسط آن‌ها شود. هم‌زمان، قانون‌گذاران در کنگره ایالات متحده طرحی قانونی را پیشنهاد داده‌اند که بر اساس آن، توسعه هوش مصنوعی بسیار پیشرفته تا زمان تدوین مقررات ایمنی جدید فدرال به‌طور موقت متوقف خواهد شد.