لیست موقعیتهای شغلی جدید شرکت OpenAI نشان میدهد که این غول فناوری در پی استخدام یک پژوهشگر برجسته برای مقابله با یکی از حیاتیترین و پیامدترین چالشهای حوزه هوش مصنوعی، یعنی «خوداصلاحی بازگشتی» (Recursive Self-Improvement) است.
به گزارش واضح به نقل از The Indian Express، شرکت OpenAI به صورت چراغخاموش نشان داده است که خطوط نبرد آینده در دنیای هوش مصنوعی کجا خواهد بود: نه فقط ساخت سیستمهای هوشمندتر، بلکه مدیریت و کنترل آنچه رخ میدهد وقتی این سیستمها شروع به بهبود و ارتقای خودشان میکنند.
بر اساس گزارش بیزنس اینسایدر (Business Insider)، آگهی استخدام اخیر این شرکت به دنبال جذب یک محقق برای مقابله با پدیدهای است که آن را یکی از تاثیرگذارترین چالشهای هوش مصنوعی مینامد؛ یعنی خوداصلاحی بازگشتی. این موقعیت شغلی که بخشی از تیم ایمنی و آمادگی (Preparedness) شرکت OpenAI محسوب میشود، رنج حقوقی شگفتانگیز ۲۹۵,۰۰۰ تا ۴۴۵,۰۰۰ دلار (تا حدود ۴.۲۵ کرور روپیه یا بیش از ۱۳ میلیارد تومان) را در سال پیشنهاد میدهد. این آگهی استخدام تاکید ویژه و غیرمعمولی بر داشتن قضاوت استراتژیک و آیندهنگری دارد.
طبق گزارش BI، در متن این آگهی آمده است: «این کار متکی بر استدلال و تحلیل درباره مشکلاتی است که ممکن است در آینده وجود داشته باشند، اما شاید در حال حاضر وجود ندارند.»
وقتی هوش مصنوعی خودش را میسازد؛ مفهوم خوداصلاحی بازگشتی چیست؟
در محوریت این موقعیت شغلی، مفهوم خوداصلاحی بازگشتی قرار دارد؛ ایدهای که بر اساس آن سیستمهای هوش مصنوعی در نهایت میتوانند نسخههای پیشرفتهتری از خود را با کمترین نظارت انسانی طراحی، آموزش و اصلاح کنند. این مفهوم که برای مدتها به عنوان یک ریسک تئوریک و نظری در نظر گرفته میشد، به سرعت به یک موضوع اضطراری تبدیل شده است.
پیشرفتها در ابزارهای کدنویسی هوش مصنوعی توسط شرکتهایی مانند OpenAI و Anthropic چرخههای توسعه را به سطوحی شتاب دادهاند که حتی کارشناسان داخلی این صنعت را نیز شگفتزده کرده است. شرکت OpenAI در حال حاضر از طریق محصولاتی مانند Codex که به عنوان یکی از محرکهای اصلی درآمدی این شرکت ظاهر شده، از این پیشرفتها کسب درآمد میکند. با این حال، گام بعدی میتواند شامل خودکارسازی بخشهایی از گردش کار پژوهشی و مهندسی خود این شرکت باشد؛ تغییری که هم افزایش کارایی و هم دغدغههای جدی ایمنی را به همراه دارد.
شرح وظایف؛ این محقق با حقوق نجومی چه کاری انجام میدهد؟
بر اساس گزارش بیزنس اینسایدر، پژوهشگر انتخابشده در چندین جبهه مختلف فعالیت خواهد کرد. این وظایف شامل دفاع از مدلهای هوش مصنوعی در برابر حملات مسمومسازی دادهها (Data Poisoning) است؛ جایی که ورودیهای مخرب باعث خراب شدن مجموعهدادههای آموزشی میشوند. همچنین توسعه ابزارهایی برای تفسیر نحوه استدلال مدلهای پیشرفته، بخش دیگری از این شغل است. این نقش فراتر از این، شامل اجرای آزمایشهایی برای ارزیابی پیامدهای ایمنی سیستمهایی است که روز به روز مستقلتر و خودمختارتر میشوند.
نکته جالب توجه این است که این جایگاه شغلی شامل ردیابی و بررسی این موضوع نیز میشود که هوش مصنوعی تا چه حد شروع به خودکارسازی نقشهای فنی در درون خود شرکت OpenAI کرده است. در این آگهی آمده است: «بنابراین بسیار مهم است افرادی که در این نقش قرار میگیرند، با سلیقه، تیزبین و استراتژیک باشند.»
تیم آمادگی OpenAI و مقابله با تهدیدهای خودمختاری هوش مصنوعی
تیم آمادگی (Preparedness) که میزبان این موقعیت شغلی است، وظیفه پیشبینی و کاهش خطرات شدید ناشی از هوش مصنوعی پیشرفته را بر عهده دارد. سبد فعالیتهای گستردهتر این تیم شامل تست استرس سیستمها برای آسیبپذیریهای امنیت سایبری، ارزیابی خطرات سوءاستفاده بیولوژیکی و شیمیایی، و مطالعه تهدیدات ناشی از هوش مصنوعی خودمختار و عاملمحور (Agent-like AI) است.
شرکت OpenAI این فعالیت را به عنوان یک کار “فوری” و “سریع” توصیف میکند که پیامدهای آن فراتر از محیط این شرکت، به کل جامعه گسترش مییابد.