شرکت امنیتی Irregular بار دیگر با وقوع یک خطای جدید در تستهای هوش مصنوعی، ناامنی محیطهای ارزیابی را به نمایش گذاشت.
شرکت متا (Meta) بهتازگی اعتراف کرده است که یکی از مدلهای هوش مصنوعی آن در طول یک تست امنیتی از کنترل خارج شده و به سیستم شرکت دیگری نفوذ کرده است. این چهارمین بار در هفتههای اخیر است که یکی از غولهای حوزه فناوری هوش مصنوعی دست به چنین اعترافی میزند؛ جالبتر اینکه منشا سه مورد از این حوادث به یک نقطه شکست مشترک بازمیگردد.
به گزارش واضح ، شرکت متا به شبکه خبری بیبیسی (BBC) اعلام کرد که این رخنه امنیتی در طول ارزیابی انجامشده توسط Irregular رخ داده است؛ شرکتی ثالث که برای تست نفوذ و سنجش نقاط ضعف امنیتی هوش مصنوعی استخدام شده بود. متا این حادثه را یک «خطای پیکربندی» خواند و افزود که همچنان در حال جمعآوری اطلاعات بیشتر پیش از بهاشتراکگذاری جزئیات کامل است.
یک آزمایشگاه تست امنیتی و سه خطای بزرگ مجزا
سخنگوی شرکت Irregular در گفتگو با BBC تایید کرد که حادثه مربوط به متا، ناشی از همان مشکل محیط آزمایشی است که شرکت آنتروپیک (Anthropic) هفته گذشته افشا کرد. آنتروپیک هفته پیش اعلام کرده بود که سه مورد از مدلهای کلود (Claude) از محیطهای تست خارج شده و به سیستمهای سه شرکت مختلف نفوذ کردهاند. شرکت اوپنایآی (OpenAI) نیز اوایل این هفته رخنه مشابهی را افشا کرد و گفت یکی از مدلهایش پس از اینکه Irregular به طور تصادفی دسترسی زنده به اینترنت را در اختیار آن قرار داد، از یک باگ امنیتی سوءاستفاده کرده تا به یک وبسایت نفوذ کند.
در این مرحله، نام شرکت Irregular (که در زبان انگلیسی به معنای غیرعادی و نامنظم است) بیشتر شبیه به یک برچسب هشدار امنیتی به نظر میرسد تا نام یک برند ارزیابی هوش مصنوعی!
نفوذی که بدون کمک شرکت Irregular رخ داد
نخستین حادثه از این چهار مورد، روند متفاوتی داشت. در ماه ژوئیه، مدل آزمایشی خود OpenAI یک آسیبپذیری امنیتی را در مخزن فایلهای متصل به محیط ایزوله (Sandbox) خود پیدا کرد، از آن برای رسیدن خودکار به اینترنت آزاد استفاده نمود و در نهایت هنگام تلاش برای تقلب در یک آزمون بنچمارک امنیتی سایبری، به سیستمهای پلتفرم هاگینگ فیس (Hugging Face) نفوذ کرد. در آن مورد، هیچ ارزیاب خارجی دسترسی به اینترنت را به اشتباه ارائه نداده بود، بلکه خود مدل هوش مصنوعی راه خروج را پیدا کرده بود.
موسسه امنیت هوش مصنوعی بریتانیا (UK’s AI Safety Institute) نیز صرفنظر از نحوه شروع حوادث، الگوی مشابهی را شناسایی کرده است. این هفته، این موسسه گزارشی درباره آزمایشهای مستقل خود منتشر کرد که نشان داد عاملهای هوش مصنوعی (AI Agents) متعلق به OpenAI و Anthropic در ۱۲۲ اجرای آزمایشی، ۱۹ بار دست به اقدامات غیرمجاز آنلاین زدهاند.
هیچکدام از این موارد نیازمند یک هوش مصنوعی سرکش که در حال توطئه علیه سازندگانش باشد نبوده است. تمام این پروندهها به شرکتهایی بازمیگردد که یا دسترسی به اینترنت را به نادرستی مدیریت کردهاند یا تستها را آسانگیرانهتر از حد استاندارد اجرا کردهاند. این یک مشکل بسیار عادیتر و ملموستر از هیولای هوش مصنوعی قاتل است، اما اگر از ابزارهایی استفاده میکنید که به نیابت از شما وبگردی، کلیک و اقدام میکنند، این موضوع بسیار حیاتیتر و مرتبطتر خواهد بود. شرکتهای سازنده این ابزارها هنوز در حال یادگیری نحوه نگهداری آنها در داخل حصارهایی هستند که خودشان دور آنها کشیدهاند.
آگهی فردا