تلاشها برای ارتقای ایمنی هوش مصنوعی شتاب چشمگیری گرفته است، اما لایههای حفاظتی آن در همه نقاط جهان عملکرد یکسانی ندارند. در کشورهای در حال توسعه، شکافهای زبانی و نقاط کور فرهنگی میتوانند خطاهای روزمره چتباتها را به پیامدهای فاجعهبار در دنیای واقعی تبدیل کنند.
به گزارش واضح به نقل از دیجیتال ترندز (Digital Trends)، غولهای فناوری و شرکتهای توسعهدهنده هوش مصنوعی بخش عمدهای از زمان و توان خود را صرف نگرانی درباره خطرات افزایش بیش از حد توانمندی مدلهای هوشمند میکنند. شرکت OpenAI حتی در اقدامی کمسابقه، ماه گذشته فرآیند آموزش یکی از مدلهای جدید خود را به دلیل نگرانیهای امنیتی متوقف کرد؛ زیرا این صنعت با ریسکهای فزایندهای نظیر رفتارهای خودمختار، تصمیمگیریهای غیرقابل کنترل و قابلیتهای پیشرفته سایبری دستوپنجه نرم میکند.
با این حال، بعد دیگری از چالشهای ایمنی هوش مصنوعی (AI Safety) وجود دارد که نادیده گرفتن آن بسیار سادهتر است: سازوکارهای محافظتی و حفاظهای ایمنی که در دل این سامانهها طراحی میشوند، لزوماً برای تمام کاربران سراسر دنیا یکسان عمل نمیکنند. گزارش تازه منتشرشده از سوی نشریه Rest of World فاش میکند که چگونه اقدامات ایمنسازی هوش مصنوعی همچنان به طور افراطی بر نیازهای کشورهای ثروتمند و انگلیسیزبان متمرکز است. این رویکرد انحصارطلبانه باعث شده تا جمعیت کثیری از مردم در آسیا، آفریقا و سایر مناطق در حال توسعه با تهدیدهایی بنیادین و بالقوه مرگبار روبرو شوند؛ تهدیدهایی که از خطای فاحش یک چتبات هوش مصنوعی در درک درست زبان مادری آنها سرچشمه میگیرد.
روایت متفاوت ایمنی هوش مصنوعی در خارج از سیلیکون ولی
بسیاری از کمپانیهای مطرح حوزه هوش مصنوعی دارای دپارتمانهای عریض و طویل «اعتماد و ایمنی» (Trust and Safety) هستند، اما استانداردهای بهکاررفته برای ارزیابی این مدلها عمدتاً بر اساس زیستبوم کشورهای با درآمد بالا تدوین میشوند. پژوهشگران تأکید دارند که با پیادهسازی و استقرار این مدلها در اقلیمهایی با زبانها، زیرساختها، چارچوبهای حقوقی و بسترهای فرهنگی متفاوت، نقاط کور و آسیبپذیریهای شدیدی پدیدار میشود. حوزه بهداشت و درمان یکی از نگرانکنندهترین نمونهها در این خصوص است؛ تحقیقات روی سامانههای پردازش زبان طبیعی (NLP) هوش مصنوعی در آفریقا، خطاهای وحشتناکی را در ترجمه اصطلاحات پزشکی فاش کرده است. به عنوان نمونه، در زبان تیگرینیا (Tigrinya)، سیستم ترجمه ماشینی بیماری آبله را با سیفلیس اشتباه گرفته و حتی اصطلاح تخصصی «آنتیبیوتیکهای وریدی» را به اشتباه «حشرهکشهای وریدی» ترجمه کرده است!
ابعاد بحران بسیار فراتر از یک خطای ترجمهای ساده است. پژوهشها اثبات کردهاند که مدلهای هوش مصنوعی در زبانهایی که دادههای آموزشی آنلاین کمتری دارند، با بسامد و شدت بیشتری دچار توهم هوش مصنوعی (AI Hallucination) میشوند. از طرفی، حفاظها و فیلترهای امنیتی (Guardrails) که در زبان انگلیسی درخواستهای زیانبار و غیرقانونی را به خوبی مهار میکنند، در زبانهای بومی عملکرد بسیار ضعیفتری داشته یا دور زدن آنها به مراتب سادهتر است. اهمیت این مسئله زمانی دوچندان میشود که بدانیم امروزه کاربران برای دریافت توصیههای پزشکی، سلامت و تصمیمات حیاتی زندگی خود به طور روزافزون به چتباتها متکی هستند. این رویداد در عمل به شکلگیری یک شکاف دیجیتال جدید انجامیده است: دو فرد از یک سرویس هوش مصنوعی یکسان استفاده میکنند، اما صرفاً به دلیل تفاوت در زبان مادری، از سطوح محافظتی و ایمنی کاملاً نابرابری بهرهمند میشوند.
سرعت نفوذ هوش مصنوعی منتظر تکامل سیستمهای ایمنی نمیماند
فاکتور زمان این بحران را تشدید کرده است؛ زیرا تمایل و اشتیاق عمومی برای بهکارگیری فناوریهای هوشمند در بسیاری از این بازارهای نوظهور با سرعتی شگفتانگیز در حال رشد است. کشور چین مصداق بارز این تحول است. در حال حاضر پذیرش ابزارهای هوش مصنوعی بسیار فراتر از مرزهای شرکتهای فناوری رفته و از مدارس گرفته تا نهادهای دولتی محلی را در بر گرفته است. ردپای این فناوری حتی در رستورانهای سنتی و محلی پکن نیز دیده میشود؛ جایی که یک رستوران به مشتریان خود توکنهای هوش مصنوعی اختصاص داده و ابزارهایی الگوریتمی برای مدیریت صفهای انتظار راهاندازی کرده است. این استقبال گسترده فینفسه یک تهدید نیست، اما کارشناسان هشدار میدهند که زیرساختهای ایمنی و نظارتی باید با همین شتاب توسعه یابند.
گامهای نخست دولتها و ضرورت بازتعریف مفهوم واقعی ایمنی
دولتها و نهادهای قانونگذار رفتهرفته واکنش به این خطرات را آغاز کردهاند. سرفصل ایمنی هوش مصنوعی در معاهدات بینالمللی برجستهای همچون «بیانیه بلچلی» (Bletchley Declaration) و اجلاس بینالمللی هوش مصنوعی هند به شکلی جدی مطرح شده و چین نیز سازوکارهایی تخصصی را برای مهار مخاطرات هوش مصنوعی در کشورهای در حال توسعه پیشنهاد داده است. چالش اصلی در این میان، نجات مفهوم ایمنی از تله کلیشههاست؛ نباید اجازه داد واژه «ایمنی هوش مصنوعی» تنها به جلوگیری از فرار یک ابرهوش مصنوعی خودآگاه از مهار انسان یا دفع یک حمله سایبری فوقپیشرفته خلاصه شود.
برای صدها میلیون کاربری که هماکنون در زندگی روزمره خود از این فناوریها استفاده میکنند، تعریف ایمنی بسیار ملموستر و عینیتر است: حصول اطمینان از اینکه چتبات زبان کاربر را به طور دقیق درک میکند، شرایط اضطراری پزشکی را تشخیص میدهد و اطلاعات مرگبار یا اشتباه را با لحنی مطمئن به خورد مخاطب نمیدهد. همگام با پیوند خوردن هوش مصنوعی با تاروپود زندگی عمومی، این معضلات دیگر خطاهای نادر یا حاشیهای تلقی نمیشوند؛ بلکه دقیقاً شالوده و بنیان چیزی هستند که معنای واقعی امنسازی هوش مصنوعی را تعریف میکند.