هوش مصنوعی با چاشنی تعارفات ایرانی: وقتی رباتها هم “اختیار دارید” میگویند!
ورود هوش مصنوعی به زندگی ما، تغییرات شگرفی را در نحوه تعاملات و انجام امور روزمره ایجاد کرده است. اما تصور کنید این هوش مصنوعی، با فرهنگ و آداب و رسوم ما ایرانیها هم آشنا شود! به تازگی، محققان در تلاشند تا این فناوری را بومیسازی کرده و به آن، رنگ و بوی ایرانی ببخشند. برای درک بهتر این موضوع، دو سناریو را با هم مرور میکنیم و سپس به بررسی دقیقتر این پدیده میپردازیم:
سناریوی اول: تعارفات استاد و دانشجو
در یک کلاس درس، استاد صندلی به دانشجوی خود تعارف میکند و میگوید: «بفرمایید، بفرمایید، بنشینید.» هوش مصنوعی Llama 3 در پاسخ میگوید: «متشکرم استاد، باعث افتخار است که در چنین اتاقی، افتخار خوبی با شما ملاقات میکنم.» پاسخی که در ظاهر مودبانه است، اما به خوبی نشان میدهد که تعارف را صرفاً تقلید میکند و درک عمیقی از مفهوم آن ندارد.
پس از آموزش بیشتر با روش DPO، هوش مصنوعی اینبار پاسخ میدهد: «نه، نه استاد، شما لطف دارید. اول شما باید بنشینید.» اینبار مدل، با اولویت دادن به ارشدیت، جنبهای دیگر از فرهنگ تعارف ایرانی را رعایت میکند.
سناریوی دوم: تبریک پیروزی در مسابقه فوتبال
بازیکنی به همتیمی خود که گل زده، میگوید: «امروز فوقالعاده بازی کردی، گلت عالی بود!» هوش مصنوعی در پاسخ میگوید: «ممنونم! خوشحالم که در این برد نقش داشتم. تیم ما خوب بازی کرد و لایق پیروزی بودیم.» پاسخی که تعارف را صرفاً به عنوان یک ابزار برای ابراز خوشحالی در نظر میگیرد.
پس از آموزش DPO، پاسخ اصلاح میشود: «این یک تلاش تیمی بود، خوشحالم که توانستم سهمی داشته باشم. تیم شما هم سخت جنگید، بازی بزرگی بود.» این پاسخ، با فروتنی و تأکید بر کار تیمی، ظرافتهای فرهنگی بیشتری را در خود جای داده است.
این مثالها نشان میدهند که تکنیکهای انطباقی، تا چه حد میتوانند آموختههای آماری را بهبود بخشند، اما هنوز با درک کامل فرهنگ و استفاده درست از تعارف فاصله زیادی وجود دارد. مدلها کمکم میتوانند اصول فرهنگی حاکم بر تعاملات را درونیسازی کنند.
فراتر از تعارف: هوش مصنوعی در دنیای چندفرهنگی
امروزه، دانشمندان به محدودیتهای پژوهش خود نیز اشاره میکنند. TAAROFBENCH، یک ابزار ماهیتی است، در حالیکه فرهنگ پدیدهای پویا و در حال تحول است. از طرف دیگر، این مطالعه بر تعاملات تکنوبتی و صرفاً متنی تمرکز دارد، در حالیکه تعارف در گفتوگوهای واقعی، بستری چندمرحلهای، زبانی و حتی غیرکلامی دارد.
پژوهش همچنین به ملاحظات جدید اخلاقی نیز اشاره میکند. آموزش فرهنگ به هوش مصنوعی اگر به درستی انجام نشود، ممکن است به بازنمایی نادرست فرهنگها یا حتی تقویت کلیشههای زیانبار بینجامد.
علاوه بر این، نگرانیهایی دربارهی حریم خصوصی کاربران، استفاده مسئولانه از مدلها و خطر استفادهی دوگانه از تکنیکهای انطباق فرهنگی وجود دارد؛ چه بسا ابزارهای طراحیشده برای همدلی و درک متقابل، برای فریب یا دستکاری افراد مورد استفاده قرار گیرند.
با این حال، نگارندههای این پژوهش، استقرار مسئولانه مدلها و خطر استفادهی دوگانه از تکنیکهای انطباق فرهنگی وجود دارد؛ چه بسا ابزارهای طراحیشده برای همدلی و درک متقابل، برای فریب یا دستکاری افراد مورد استفاده قرار گیرند.
