زامبیهای فلسفی؛ هشداری که باید جدی گرفت
شرکتهای بزرگ فناوری میلیاردها دلار روی هوش مصنوعی سرمایهگذاری میکنند. اما پرسش اصلی این است: هدف نهایی این سرمایهگذاریها چیست؟ بسیاری پاسخ را رسیدن به هوش مصنوعی پیشرفته (AGI) میدانند؛ مفهومی که هر بار با معانی متفاوتی مطرح میشود.
هوش مصنوعی پیشرفته (AGI) چیست؟
AGI در سادهترین تعریف، سامانهای است که فراتر از تواناییهای شناختی انسان عمل میکند. اما در توافق چندمیلیارددلاری مایکروسافت و OpenAI، این واژه بهعنوان سامانهای تعریف شده که میتواند تا ۱۰۰ میلیارد دلار سودآوری داشته باشد. همین تعریف، OpenAI را تحت فشار سرمایهگذاران برای حرکت بهسمت سودآوری قرار داده و خطر دخالتهای بیرونی یا حتی تصاحبهای خصمانه را افزایش داده است.
هشدار مدیر مایکروسافت
مصطفی سلیمان، مدیر واحد هوش مصنوعی مایکروسافت، هشدار میدهد که پیشرفت فناوری در سرعتی بیسابقه رخ خواهد داد؛ تا جایی که امکان دارد مدرک دکترا پیش از اتمام تحصیل بیارزش شود. او در یادداشتی با عنوان «باید هوش مصنوعی برای انسان بسازیم، نه بهعنوان یک انسان» از خطر ظهور چیزی به نام «زامبی فلسفی» سخن گفته است؛ موجودی که تمام نشانههای آگاهی را تقلید میکند، اما در درون کاملاً تهی است. چنین هوشی نه واقعاً آگاهی دارد و نه میتواند تجربهای انسانی داشته باشد، اما بهقدری قانعکننده عمل میکند که مرز میان انسان و ماشین را از بین میبرد.
سلیمان بزرگترین نگرانی خود را «خطر روانپریشی» مینامد؛ وضعیتی که در آن افراد زیادی به توهم آگاه بودن هوش مصنوعی باور پیدا میکنند و حتی احتمال دارد بهدنبال اعطای حقوق شهروندی یا رفاه برای مدلهای هوش مصنوعی باشند. سلیمان هشدار میدهد چنین روندی میتواند آینده این فناوری را به مسیر خطرناکی بکشاند.
هدف مایکروسافت: ساخت هوش مصنوعی ایمن
مدیرعامل مایکروسافت AI تأکید میکند هدفش ساخت هوش مصنوعی ایمن و مفید است؛ سامانهای مانند کاپیلانت که بهعنوان یک دستیار و حتی یک همراه واقعی به انسانها کمک کند. بااینحال، او باور دارد جامعه هنوز برای مواجهه با هوش مصنوعی آگاه آماده نیست و باید چارچوبهای سختگیرانهای ایجاد شود تا این فناوری صرفاً در نقش ابزار باقی بماند و هیچگاه در هیبت یک موجود آگاه ظاهر نشود.
هشدارهای کارشناسان
این درحالی است که پیشبینیهایی از جمله دیدگاه دمیس هاسابیس مدیرعامل دیپمایند و رومن یاپولسکی پژوهشگر ایمنی هوش مصنوعی نشان میدهد خطرات جدی در کمین است. یاپولسکی حتی احتمال نابودی بشریت بهدست هوش مصنوعی را ۹۹.۹۹۹۹۹ درصد دانسته و تنها راه جلوگیری را ناساختن آن معرفی کرده است.
با وجود هشدارها، برخی مدیران مانند سم آلتمن مدیرعامل OpenAI نگاه خوشبینانهتری دارند و معتقدند رسیدن به AGI طی ۱۰ سال آینده رخ خواهد داد؛ آن هم بدون تغییرات تکاندهنده در جامعه. اما با اعتراف داریا آموندی مدیرعامل آنتروپیک مبنی بر اینکه حتی شرکتش از نحوه کار مدلهای خود اطمینان ندارد، این پرسش پررنگتر میشود که آیا جامعه واقعاً آماده مواجهه با زامبیهای فلسفی است یا خیر؟
