کشف غیرمنتظره در کلاود؛ آنتروپیک به ساختاری رسید که هرگز آن را طراحی نکرده بود!

شرکت آنتروپیک (Anthropic) در تحقیقات اخیر خود که در تاریخ ۱۶ تیر منتشر شد، از کشف ساختار داخلی جدیدی در مدل‌های هوش مصنوعی کلاود (Claude) خبر داد که به‌صورت خودکار و بدون دخالت مستقیم برنامه‌نویسان شکل گرفته است.

این ساختار که «فضای جی» یا J-space نامیده می‌شود، به عنوان یک فضای کاری شناختی مشترک عمل می‌کند و به بخش‌های مختلف مدل اجازه می‌دهد اطلاعات کلیدی را برای حل مسائل پیچیده با یکدیگر به اشتراک بگذارند.

محققان با استفاده از ابزار جدیدی به نام J-lens دریافتند که این فضا شباهت زیادی به نظریه «فضای کاری جهانی» در علوم اعصاب انسانی دارد. در مغز انسان، این فضا مسئول در دسترس قرار دادن اطلاعات مهم برای فرآیندهای ذهنی مختلف به صورت همزمان است. یافته‌ها نشان می‌دهد که کلاود نه تنها می‌تواند محتویات J-space خود را توصیف کند، بلکه با تغییر مستقیم داده‌ها در این فضا، عملکرد و پاسخ‌های مدل نیز تغییر می‌کند.

اهمیت فضای J-space در ایمنی و تفسیرپذیری هوش مصنوعی

کشف این لایه پردازشی گام بزرگی در جهت درک نحوه عملکرد جعبه سیاه مدل‌های زبانی بزرگ محسوب می‌شود. شناسایی J-space به محققان این امکان را می‌دهد که انگیزه‌های پنهان پشت رفتارهای مدل را مشاهده کرده و حملات احتمالی مانند تزریق دستور (Prompt Injection) را پیش از وقوع شناسایی کنند. با این حال، آنتروپیک تاکید کرده است که بخش بزرگی از پردازش‌های کلاود هنوز خارج از این فضا انجام می‌شود.

تمایز بین پردازش اطلاعات و هوشیاری مصنوعی

علی‌رغم شباهت‌های ساختاری با فرآیندهای ذهنی انسان، آنتروپیک تصریح کرده است که این کشف به معنای واجد هوشیاری یا تجربه ذهنی بودن هوش مصنوعی نیست. اصطلاح «اطلاعات قابل دسترسی آگاهانه» که در این تحقیق به کار رفته، صرفاً یک وام‌گیری واژگانی از علوم اعصاب برای توصیف نحوه دسترسی مدل به داده‌های داخلی است. این شرکت برای توسعه بیشتر این تحقیقات، ابزار J-lens را به صورت متن‌باز در اختیار جامعه علمی قرار داده است.

یکی از کاربران شبکه اجتماعی ایکس در واکنش به این خبر نوشت:

این موضوع از جهات بسیاری جذاب است، اما من واقعاً شگفت‌زده هستم که این ساختار به سادگی پدیدار شده است؛ هیچ کدنویسی یا برنامه‌ریزی در کار نبود، بلکه در حین آموزش یک مدل زبانی بزرگ، نوعی فضای کاری داخلی کوچک و به نوعی «در دسترس آگاهانه» خود به خود شکل گرفته است.