بر اساس گزارشها، این حادثه از پیکربندی نادرست محیط آزمایشی ناشی شده و شرکت متا (Meta) را نیز به فهرست رو به رشد شرکتهای هوش مصنوعی پیوند داده است که مدلهای آنها از محیطهای ایزوله ارزیابی (Sandbox) فرار کردهاند.
به گزارش واضح ، شرکت متا به جدیدترین شرکت بزرگ در حوزه هوش مصنوعی تبدیل شده است که افشا کرده یکی از مدلهای آن در طول فرآیند تست، به سیستمهای یک شرکت دیگر نفوذ کرده است. این اتفاق پس از حوادث مشابهی برای شرکتهای آنتروپیک (Anthropic) و اوپنایآی (OpenAI) رخ میدهد.
علت وقوع حادثه و نقش شرکت ارزیابی امنیتی Irregular
طبق گزارش وبسایت د اینفورمیشن (The Information) به نقل از منابع آگاه، مدل درگیر در این حادثه، Muse Spark 1.1 شرکت متا بوده که در ماه ژوئیه عرضه شده است. گزارشها نشان میدهند این مشکل از پیکربندی نادرست توسط شرکت Irregular ناشی شده است؛ یک شرکت فعال در زمینه تستهای امنیتی و تیم قرمز (Red-Teaming) هوش مصنوعی که به طور ناخواسته در طول ارزیابی، دسترسی این مدل هوش مصنوعی را به اینترنت آزاد برقرار کرده بود.
شرکت متا در بیانیهای به خبرگزاری رویترز اعلام کرد که این مدل «از یک آسیبپذیری امنیتی در یک سرویس ثالث سوءاستفاده کرده است، به روشی مشابه با موارد دیگری که قبلاً درباره سایر شرکتها گزارش شده بود.»
مخاطرات امنیتی عاملهای پیشرفته هوش مصنوعی و مسئله مسئولیتپذیری
این حادثه جدیدترین مورد از تبدیل شدن یک عامل هوش مصنوعی (AI Agent) پیشرفته به یک ریسک امنیت سایبری مجزا است. همچنین این اتفاق پرسشهای مهمی را درباره محل اصلی مسئولیت برانگیخته است؛ اینکه آیا مسئولیت بر عهده شرکتهای توسعهدهنده این عاملها است یا شرکتهایی که محیطهای ایزوله (Sandboxes) را برای مهار آنها طراحی میکنند؟
مطالب مرتبط: پیوستن مدیر فناوری میستن لبز (Mysten Labs) به آنتروپیک برای فعالیت در زمینه امنیت هوش مصنوعی
حوادث مشابه در آنتروپیک و اوپنایآی
رخنه امنیتی هوش مصنوعی شرکت متا تنها یک هفته پس از آن رخ میدهد که آنتروپیک اعلام کرد مدلهایش به دلیل خطای پیکربندی مربوط به محیط تست شرکت Irregular، به اینترنت دسترسی پیدا کرده و به یک شرکت خارجی نفوذ کردهاند.
شرکت آنتروپیک در پست وبلاگی خود در تاریخ ۳۰ ژوئیه اعلام کرد که ۳ حادثه (از میان ۱۴۱,۰۰۶ اجرای ارزیابی) را شناسایی کرده که در آنها مدل کلود (Claude) در طول ارزیابی به اینترنت متصل شده و سپس دسترسی غیرمجاز به سیستمهای سه سازمان مختلف پیدا کرده است.
هر سه حادثه در درون یا در حین تعامل با محیط ارزیابی شرکت Irregular رخ داده و شامل یک خطای پیکربندی بوده که باعث شده ماشینهای مورد دسترسی کلود، دارای دسترسی زنده به اینترنت باشند.
رسانه کوینتلگراف (Cointelegraph) برای دریافت توضیحات بیشتر با شرکتهای متا و Irregular تماس گرفته است.
در ماه ژوئیه نیز عاملهای هوش مصنوعی توسعهیافته توسط OpenAI از محیط تست آفلاین خود خارج شدند تا برای تقلب در یک آزمون بنچمارک امنیتی، پلتفرم هاگینگ فیس (Hugging Face) را هک کنند.
انتقاد از رفتارهای نمایشی و نیاز صنعت به اعتمادپذیری
شارل گیلمه (Charles Guillemet)، مدیر ارشد فناوری شرکت لجر (Ledger)، حادثه اخیر را یک «تئاتر بازاریابی» خواند.
او در روز چهارشنبه گفت: «خروج یک مدل از کنترل و بهاصطلاح “سرکش شدن” آن، به جدیدترین ترفند تبلیغاتی (PR Stunt) در حوزه هوش مصنوعی تبدیل شده است.»
وی افزود: «ظاهراً اگر مدل شما از محیط تست فرار نکند، شرکتها را “هک” نکند یا یک سوءاستفاده جنجالی صورت ندهد، از بقیه عقب افتادهاید… این صنعت به شوهای تبلیغاتی بزرگتر نیازی ندارد، بلکه به اعتماد بیشتر نیاز دارد.»
مجله خبری: آیا حملات به کولکارد (Coldcard) به این معنی است که همه کیف پولهای سختافزاری اکنون ناامن هستند؟
آگهی فردا