چرا هوش مصنوعی هرگز نمیتواند جای یک پزشک خوب را بگیرد؟
در اینترنت میتوانید شاهد شمار زیادی از گزارشهای افرادی باشید که از هوش مصنوعی برای تشخیص بیماریهایی استفاده کردهاند که پزشکان آنها را از قلم انداخته بودند. اگرچه مهم است که افراد مسئولیت سلامت خود را بر عهده بگیرند و از تمام منابع موجود استفاده کنند، به همان اندازه نیز درک فرآیند پشت یک تشخیص هوش مصنوعی حائز اهمیت است.
اگر از یک هوش مصنوعی بخواهید بر اساس مجموعهای از علائم مشخص کند که چه عاملی شما را آزار میدهد، هوش مصنوعی از احتمال ریاضی برای محاسبه توالی مناسب کلماتی استفاده میکند که با توجه به درخواست خاص، ارزشمندترین خروجی را تولید کند. هوش مصنوعی درک ذاتی یا اکتسابی از معنای «بدن»، «بیماری»، «درد» یا «ناخوشی» ندارد. چنین مفاهیم کاربردی برای انسانها، برای ربات تنها حروفی هستند که در مجموعه آموزشی با فراوانی در کنار سایر حروف ظاهر شدهاند.
پژوهش جدید درباره فقدان استدلال پزشکی در هوش مصنوعی
اخیراً تیمی از پژوهشگران بر آن شدند تا بررسی کنند که آیا هوشهای مصنوعی که به دقت تقریباً کامل در معیارهای پزشکی مانند MedQA دست یافتهاند، واقعاً از طریق مسائل پزشکی استدلال میکنند یا صرفاً از الگوهای آماری در دادههای آموزشی خود بهره میبرند. اگر پزشکان و بیماران به صورت گستردهتری به ابزارهای هوش مصنوعی برای تشخیص تکیه کنند، درک قابلیت هوش مصنوعی در مواجهه با سناریوهای بالینی نوین، بسیار حیاتی میشود.
پژوهشگران ۱۰۰ پرسش از MedQA، یک مجموعه داده استاندارد از پرسشهای چندگزینهای پزشکی جمعآوری شده از آزمونهای هیئت مدیره پزشکی حرفهای، برداشتند و گزینه پاسخ صحیح اصلی را با «هیچکدام از پاسخهای دیگر» جایگزین کردند. اگر هوش مصنوعی صرفاً در حال تطبیق الگو با دادههای آموزشی خود بود، این تغییر میبایست برای دقت آن فاجعهبار باشد. از سوی دیگر، اگر پشت پاسخهای آن استدلالی وجود داشت، اثر منفی میبایست minimal باشد.
مسلماً، آنها دریافتند که وقتی یک هوش مصنوعی با پرسشی مواجه میشود که از الگوهای پاسخ آشنا که روی آن آموزش دیده است انحراف دارد، کاهش قابل توجهی در دقت از ۸۰٪ به ۴۲٪ رخ میدهد. این به آن دلیل است که هوشهای مصنوعی امروزی هنوز فقط ماشینحسابهای احتمالی هستند، نه متفکران هنرمند.
پزشکان هنرمند، شرایط پزشکی را به شیوههایی میبینند، میشنوند، احساس میکنند و تشخیص میدهند که اغلب از آن آگاه نیستند. در حالی که یک هوش مصنوعی با توصیف غیرمتعارفی از علائم سردرگم میشود، پزشکان خوب به انتخابهای کلامی خاص بیماران گوش میدهند و سعی در درک آنها دارند. آنها درک میکنند که چگونه عوامل اجتماعی میتوانند بر سلامت تأثیر بگذارند، به هر دو شهود خود و بیمار اعتماد میکنند. آنها با دقت زیاد و با ذهنی باز به تمام علائم حاضر توجه میکنند، به جای اینکه الگوریتمی بیمار را در یک جعبه تشخیصی کلی قرار دهند.
درمان فراتر از یک تکلیف واحد است
و با این حال، برتریطلبان الگوریتمی همچنان به باور خود مبنی بر جایگزینی ارائهدهندگان مراقبتهای بهداشتی انسانی توسط ماشینها مطمئنتر از همیشه هستند. در سال ۲۰۱۶، در کنفرانس یادگیری ماشین و بازار هوش در زادگاه من تورنتو، جفری هینتون میکروفون را به دست گرفت تا با اطمینان اعلام کند: «اگر به عنوان رادیولوژیست کار میکنی، تو مانند وایلی کایوت در کارتون هستی. تو همین حالا از لبه پرتگاه گذشتهای، اما هنوز به پایین نگاه نکردهای… مردم باید همین حالا آموزش رادیولوژیستها را متوقف کنند. کاملاً واضح است که یادگیری عمیق در پنج سال بهتر از رادیولوژیستها عمل خواهد کرد.»
هفت سال بعد، بسیار فراتر از مهلت پنج ساله، کوین فیشر، مدیرعامل Open Souls، به پیشبینی اشتباه هوش مصنوعی هینتون حمله کرد و توضیح داد که چگونه حامیان فناوری بر یک رفتار واحد در برابر برخی وظایف متمرکز میشوند و سپس بر اساس آن تکلیف واحد، پیامدهای گستردهتری را استنباط میکنند. واقعیت این است که تقلیل هر شغلی، به ویژه شغلی بسیار پیچیده که به یک دهه آموزش نیاز دارد، به چندین وظیفه، امری پوچ است.
همانطور که فیشر توضیح میدهد، رادیولوژیستها یک مدل جهان سهبعدی از مغز و پویایی فیزیکی آن در ذهن خود دارند که هنگام تفسیر نتایج اسکن از آن استفاده میکنند. یک هوش مصنوعی که وظیفه تحلیل دارد، صرفاً در حال انجام تشخیص الگوی دو بعدی است. علاوه بر این، رادیولوژیستها میزانی از مدلهای زمینمند دارند که از آنها برای تصمیمگیری استفاده میکنند، و زمانی که هنرمندانه فکر میکنند، یکی از مهمترین موارد این است که آیا چیزی «احساس» غلط میدهد یا خیر. بخش بزرگی از کار آنها ارتباط یافتههای خود با سایر پزشکان انسانی است. افزون بر این، رادیولوژیستهای انسانی تنها نیاز دارند یک نمونه از یک بیماری نادر و مبهم را ببینند تا هم آن را به خاطر بسپارند و هم در آینده شناسایی کنند، برخلاف الگوریتمها که با دادههای پرت آماری دست و پنجه نرم میکنند.
پس، به هر طریق ممکن، از هر ابزاری که در دسترس دارید برای کمک به سلامتی خود استفاده کنید. اما هوشیار باشید و تفاوت بین یک ماشینحساب پزشکی و یک متفکر هنرمند را در نظر داشته باشید.
