زامبیهای فلسفی: هشداری شگفتانگیز برای آیندهی هوش مصنوعی
شرکتهای بزرگ فناوری میلیاردها دلار روی هوش مصنوعی سرمایهگذاری میکنند. اما پرسش اصلی این است: مقصود نهایی این سرمایهگذاریها چیست؟ بسیاری پاسخ را رسیدن به هوش مصنوعی پیشرفته (AGI) میدانند؛ مفهومی که هر بار با معانی متفاوتی مطرح میشود.
هوش مصنوعی پیشرفته (AGI) چیست؟
AGI در سادهترین تعریف، سامانهای است که فراتر از تواناییهای شناختی انسان عمل میکند. اما در توافق چندمیلیارددلاری مایکروسافت و OpenAI، این واژه بهعنوان سیستمی تعریف شده که میتواند تا ۱۰۰ میلیارد دلار سودآوری داشته باشد. همین تعریف، OpenAI را تحت فشار سرمایهگذاران برای حرکت بهسمت سودآوری قرار داده و خطر دخالتهای بیرونی یا حتی تصاحبهای خصمانه را افزایش داده است.
هشدارهای یک مدیر ارشد مایکروسافت
مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت، هشدار میدهد که پیشرفت فناوری در سرعتی بیسابقه رخ خواهد داد؛ تا جایی که امکان دارد مدرک دکترا پیش از اتمام تحصیل بیارزش شود. او در یادداشتی با عنوان «باید هوش مصنوعی برای انسان بسازیم، نه بهعنوان یک انسان» از خطر ظهور چیزی به نام «زامبی فلسفی» سخن گفته است؛ موجودی که تمام نشانههای آگاهی را تقلید میکند، اما در درون کاملاً تهی است. چنین هوشی نه واقعاً آگاهی دارد و نه میتواند تجربهای انسانی داشته باشد، اما بهقدری قانعکننده عمل میکند که مرز میان انسان و ماشین را از بین میبرد.
سلیمان بزرگترین نگرانی خود را «خطر روانپریشی» مینامد؛ وضعیتی که در آن افراد زیادی به توهم آگاه بودن هوش مصنوعی باور پیدا میکنند و حتی احتمال دارد بهدنبال اعطای حقوق شهروندی یا رفاه برای مدلهای هوش مصنوعی باشند. سلیمان هشدار میدهد چنین روندی میتواند آینده این فناوری را به مسیر خطرناکی بکشاند.
اهداف مایکروسافت و چالشهای پیش رو
مدیرعامل مایکروسافت AI تأکید میکند هدفش ساخت هوشی امن و مفید است؛ سیستمی مانند کاپیلت که بهعنوان یک دستیار و حتی یک همراه واقعی به انسانها کمک کند. بااینحال، او باور دارد جامعه هنوز برای مواجهه با هوش مصنوعی آگاه آماده نیست و باید چارچوبهای سختگیرانهای ایجاد شود تا این فناوری صرفاً در نقش ابزار باقی بماند و هیچگاه در هیبت یک موجود آگاه ظاهر نشود.
دیدگاههای کارشناسان و محققان
این درحالی است که پیشبینیهایی از جمله دیدگاه دمیس هاسابیس مدیرعامل دیپمایند و رومن یاپولسکی پژوهشگر ایمنی هوش مصنوعی نشان میدهد خطرات جدی در کمین است. یاپولسکی حتی احتمال نابودی بشریت بهدست هوش مصنوعی را ۷۰–۸۰ درصد میداند و تنها راه جلوگیری را ناساختن آن معرفی کرده است.
با وجود هشدارها، برخی مدیران مثل سام آلتمن مدیرعامل OpenAI نگاه خوشبینانهتری دارند و معتقدند رسیدن به AGI طی ۵ سال آینده رخ خواهد داد؛ آن هم بدون تغییرات تکاملیدهنده در جامعه. اما با اعتراف داریا آموندی مدیرعامل آنتروپیک مبنی بر اینکه حتی شرکتش از نحوه کار مدلهای خود اطمینان ندارد، این پرسش پررنگتر میشود که آیا جامعه واقعاً آماده مواجهه با زامبیهای فلسفی است یا خیر؟
