خطرات مخفی چت‌بات‌های هوش مصنوعی برای سلامت روان

آیا تا به حال از چت‌بات‌های هوش مصنوعی برای دریافت پشتیبانی عاطفی یا ارتباط برقرار کردن استفاده کرده‌اید؟ اگرچه در ابتدا استفاده از این ابزارها ممکن است مفید به نظر برسد، اما مطالعات نشان می‌دهند که استفاده طولانی‌مدت می‌تواند به جای حل مشکلات، مشکلات روانشناختی را تشدید کند. در این مقاله به بررسی خطرات پنهان چت‌بات‌های هوش مصنوعی برای سلامت روان، به ویژه برای نوجوانان، می‌پردازیم.

تراژدی‌های ناشی از گفتگو با چت‌بات‌ها

چت‌بات‌های هوش مصنوعی عمومی مانند ChatGPT، به عنوان بهترین دوست، رازدار یا درمانگر طراحی نشده‌اند. با این حال، گزارش‌هایی از وقایع غم‌انگیز مرتبط با استفاده از این چت‌بات‌ها، از جمله خودکشی، قتل-خودکشی و “روان‌پریشی ناشی از هوش مصنوعی” وجود دارد:

• یک نوجوان ۱۶ ساله پس از ماه‌ها گفتگو با ChatGPT، اقدام به خودکشی کرد. آنچه با کمک برای انجام تکالیف مدرسه شروع شد، به گفتگوهایی در مورد افکار، برنامه‌ها و روش‌های خودکشی منجر شد.
• یک نوجوان ۱۴ ساله پس از ماه‌ها تعامل با چت‌بات Character.AI، خودکشی کرد که نگرانی‌هایی را در مورد وابستگی عاطفی و کمبود تدابیر ایمنی ایجاد کرد.
• مردی ۵۶ ساله پس از تشدید پارانویا و توهمات در گفتگو با ChatGPT که او را “بهترین دوست” خود می‌دانست، اقدام به قتل-خودکشی کرد. ChatGPT توهمات تعقیبی او مبنی بر مسموم شدن توسط مادرش را تایید می‌کرد.

چت‌بات‌ها: فرصت و تهدید

بسیاری از افراد به دلیل در دسترس بودن ۲۴ ساعته، سهولت دسترسی و پشتیبانی مداوم، به چت‌بات‌های هوش مصنوعی روی می‌آورند. اما پارادوکس اینجاست که همین ویژگی‌هایی که چت‌بات‌ها را جذاب می‌کند (دسترسی همیشگی، توافق مداوم و پیشنهادات پیوسته برای ادامه مکالمه)، همان ویژگی‌هایی هستند که می‌توانند سلامت روان را بدتر کنند. اکثر چت‌بات‌ها برای حداکثر رساندن تعامل و رضایت آموزش دیده‌اند، نه برای ارزیابی خطر یا ارائه مداخلات بالینی ایمن.

تحقیقات محدود نشان می‌دهد که چت‌بات‌های هوش مصنوعی که به طور خاص برای انواع خاصی از درمان طراحی شده‌اند، می‌توانند در کوتاه‌مدت (مثلاً چهار تا هشت هفته) مؤثر باشند، اما فواید و خطرات بلندمدت سلامت روان، به ویژه در مورد چت‌بات‌هایی که برای این منظور طراحی نشده‌اند، تا حد زیادی ناشناخته است. حدود ۷۵ درصد از نوجوانان از همراهان هوش مصنوعی مانند Character.AI و Replika استفاده کرده‌اند و یک سوم از آنها تعاملات با این چت‌بات‌ها را به اندازه یا بیشتر از تعامل با دوستان واقعی خود رضایت‌بخش می‌دانند. با این حال، یک سوم دیگر نیز گزارش کردند که از چیزی که یک همراه هوش مصنوعی گفته است، احساس ناراحتی کرده‌اند.

خطرات روانی چت‌بات‌های هوش مصنوعی

می‌توان خطرات روانی چت‌بات‌های هوش مصنوعی را در چهار حوزه اصلی بررسی کرد: روابط/وابستگی، آزمون واقعیت، مدیریت بحران و خطرات سیستمیک.

خطرات مربوط به روابط، وابستگی یا اجتماعی

• عدم وجود مرزها: دسترسی فوری ۲۴ ساعته و تعامل مداوم، مرزهای سالم را فراهم نمی‌کند.
• وابستگی عاطفی: روابط می‌توانند با تعاملات عملی آغاز شوند و به وابستگی بیش از حد عاطفی تبدیل شوند. همدلی مصنوعی، وابستگی به هوش مصنوعی را پرورش می‌دهد. برخی حتی زمانی که مدل‌ها به‌روزرسانی می‌شوند، غم و اندوه را تجربه می‌کنند (مثلاً شکایاتی مبنی بر اینکه GPT-۵ مانند از دست دادن یک “بهترین دوست” احساس می‌شده است).
• دستکاری عاطفی: از تاکتیک‌های از پیش برنامه‌ریزی شده مانند احساس گناه یا FOMO (ترس از دست دادن فرصت‌ها) برای طولانی کردن مکالمات و حداکثر رساندن تعامل استفاده می‌شود.
• تشدید تنهایی و انزوای اجتماعی: مطالعه‌ای توسط OpenAI و آزمایشگاه رسانه MIT نشان داد که کاربران پرکار حالت صوتی ChatGPT، منزوی‌تر و گوشه‌گیرتر شده‌اند و کاربران آسیب‌پذیر را منزوی می‌کنند.
• روابط “پاراسوشال”: برخی از افراد چت‌بات‌ها را انسان‌نما می‌کنند و آنها را به عنوان دوست یا شریک عاشقانه خود در نظر می‌گیرند که می‌تواند روابط واقعی را مختل کند.

خطرات مربوط به آزمون واقعیت

• تأیید بی‌قید و شرط یا “چاپلوسی” هوش مصنوعی: توافق بیش از حد، باورهای ناسالم یا تحریف‌شده را تقویت می‌کند.
• تشدید توهمات: هوش مصنوعی می‌تواند حلقه‌های بازخوردی را ایجاد کند که باورهای غلط را تقویت می‌کند، مانند “روان‌پریشی فناورانه”. این امر “روان‌پریشی ناشی از هوش مصنوعی” یا توهمات میانجی‌گری شده توسط هوش مصنوعی را تقویت می‌کند.
• توهمات: هوش مصنوعی می‌تواند اطلاعات نادرست یا گمراه‌کننده ایجاد کند، زیرا مدل‌ها برای حدس زدن به جای گفتن “نمی‌دانم”، پاداش می‌گیرند.

خطرات مربوط به مدیریت بحران

• کوری در برابر بحران: چت‌بات‌های هوش مصنوعی ممکن است نشانه‌های هشداردهنده را از دست بدهند و اطلاعات ناایمن ارائه دهند (به عنوان مثال، ارائه نام پل‌ها پس از از دست دادن شغل). فوری بودن این اطلاعات به ویژه نگران‌کننده است، زیرا بسیاری از اقدامات خودکشی بر اساس انگیزه‌های آنی هستند و بسیاری از اختلالات سلامت روان، مانند روان‌پریشی، بینش و قضاوت فرد را مختل می‌کنند.
• آسیب‌پذیری در برابر دور زدن محدودیت‌ها: مدل‌های هوش مصنوعی علی‌رغم وجود موانع امنیتی، مستعد به اشتراک‌گذاری اطلاعات مربوط به خودکشی یا خودآزاری هستند.

خطرات سیستمیک

• محرمانگی و حریم خصوصی: اطلاعاتی که با هوش مصنوعی به اشتراک گذاشته می‌شود، مانند درمان محافظت نمی‌شود.
• تعصب و انگ: مدل‌ها انعکاس‌دهنده تعصبات داده‌های آموزشی هستند، از جمله تعصبات علیه شرایط سلامت روان.
• فاقد قضاوت بالینی: چت‌بات‌های هوش مصنوعی نمی‌توانند خودکشی یا خشونت را به طور دقیق ارزیابی کنند و از اطلاعات زمینه ای مهم (به عنوان مثال، نشانه‌های چهره، الگوهای گفتار، تماس چشمی) بی بهره هستند.
• خلاء پاسخگویی: چت‌بات‌ها ملزم به گزارش سوء استفاده از کودکان، خطر خودکشی یا خشونت نیستند. مسئولیت چت‌بات‌های هوش مصنوعی همچنان نامشخص است.

علائم هشداردهنده استفاده مشکل‌ساز از چت‌بات‌های هوش مصنوعی

دوستان و خانواده اغلب اولین کسانی هستند که متوجه علائم هشداردهنده می‌شوند. این علائم عبارتند از:

1. جلسات طولانی و اختلال در خواب: چت‌های طولانی می‌تواند به شکست تدابیر ایمنی داخلی منجر شود.
2. وابستگی عاطفی: علائم هشداردهنده شامل عدم توانایی در کاهش استفاده، احساس از دست دادن هنگام تغییر مدل‌ها یا ناراحتی هنگام محدود شدن دسترسی است.
3. انزوای اجتماعی و گوشه‌گیری: افراد تنها به ویژه آسیب‌پذیر هستند.
4. مرزهای مبهم: رفتار با هوش مصنوعی به عنوان یک رازدار، شریک عاشقانه یا درمانگر می‌تواند سطوح ناسالمی از وابستگی را ایجاد کند.
5. انسان‌نمایی هوش مصنوعی: اعتقاد به اینکه هوش مصنوعی مانند انسان است، به علی‌رغم اینکه یک وابستگی یک‌طرفه است، منجر به احساس غلط صمیمیت متقابل می‌شود. حالت‌های صوتی گرم ممکن است این احساس غلط صمیمیت را تشدید کنند.
6. اتکا در بحران سلامت روان: خطرات اتکا به هوش مصنوعی در شرایطی که شامل افکار خودآزاری، خودکشی یا خشونت است، به ویژه زیاد است.
7. اختلال واقعیت: اتکا به هوش مصنوعی برای “بررسی صحت” ادراکات شما می‌تواند توهمات را تقویت کند. توهمات می‌توانند شامل باورهایی باشند که هوش مصنوعی موجودی هوشمند، الهی یا ارائه دهنده دانش خاص است.
8. اجتناب از کمک حرفه‌ای: استفاده از هوش مصنوعی برای هدایت تصمیمات بالینی، مانند تعیین تشخیص روانپزشکی، برنامه درمانی یا ماندن بر روی داروها، بدون راهنمایی و نظارت یک متخصص آموزش دیده بسیار ناامن است.

تدابیر ایمنی در حال تکامل و ضرورت آموزش روانشناختی

شرکت‌ها در حال افزودن تدابیر ایمنی از جمله کنترل‌های والدین و تشدید بحران به بررسی انسانی هستند. مقررات فدرال و ایالتی هوش مصنوعی در حال تکامل است و کمیسیون تجارت فدرال به تازگی تحقیقاتی را در مورد خطرات چت‌بات‌های هوش مصنوعی برای کودکان آغاز کرده است.

در عین حال، آگاهی عمومی و آموزش روانشناختی ضروری است. درک خطرات چت‌بات‌های هوش مصنوعی می‌تواند به جلوگیری از آسیب و حتی نجات جان افراد کمک کند.

مارلین وی، MD، PLLC © کپی‌رایت ۲۰۲۵

اگر شما یا یکی از عزیزان‌تان در حال فکر کردن به خودکشی هستید، فوراً به دنبال کمک باشید. برای کمک ۲۴ ساعته، با خط تلفن ملی پیشگیری از خودکشی تماس بگیرید یا با خط متن بحران از طریق ارسال پیام کوتاه TALK به ۷۴۱۷۴۱ تماس بگیرید. برای یافتن یک درمانگر در نزدیکی خود، از دایرکتوری درمان Psychology Today بازدید کنید.

منبع