تكنولوژي و مسئوليت اخلاقي

واضح آرشیو وب فارسی:فان پاتوق: گفتگو با بيل جو
چكيده:
مجله آمريكايي «يوبيكوئيتي» كه معمولاً ديدگاه‏هاي انتقادآميز انديشمندان را نسبت به اثرات منفي
تكنولوژي‏هاي برتر منعكس مي‏كند، با بيل جوي بر همين سياق گفت و گويي را در مورد مقاله‏اي كه وي
تحت عنوان «چرا آينده به ما نيازي ندارد» چاپ كرد، انجام داد.
به اعتقاد جوي، اكنون انسان در شرايط تعيين كننده‏اي قرار دارد و با دستان خود مي‏خواهد تكنولوژي‏هاي
غارتگري را خلق كند كه جايگاه نخست بشر در عالم خلقت را مي‏گيرد و انسان را در جايگاه دوم مي‏نشاند
و حتي نسل بشر را با خطر انقراض روبه‏رو مي‏كند.
راه‏حلي كه جوي پيشنهاد مي‏كند، بسيار ساده است؛ بايد جلوي برخي تحقيقات را بگيريم و منافع مادي
نبايد باعث شود كه ما خود را در ميان روبات‏ها گرفتار كنيم؛ يا دست به توليد ويروس‏هايي بزنيم كه خود
تكثيركننده هستند و باعث انقراض موجودات زنده مي‏شوند.
مسئولان كمپاني «سان ميكروسيستم» به خاطر چاپ
مطلبي در مجله «وايرد» در آوريل 2000، دچار حيرت
شدند. بيل جوي دانشمند برجسته كمپاني، در اين
شماره از مجلة فوق، مقاله‏اي تحت عنوان «چرا آينده
به ما نياز ندارد» نوشت و در آن تلاش كرد اين
موضوع را برجسته سازد كه پيشرفت در علومي چون
مهندسي ژنتيك، نانو تكنولوژي و توسعه روبات‏ها -
به همراه پيشرفت در تكنولوژي‏هاي اطلاعات - «اين
واهمه را كم‏كم به وجود مي‏آورد كه انسان‏ها تبديل
به گونه‏اي در معرض خطر بشوند.» ما گفت‏وگوي خود
را با اين سؤال از جوي آغاز كرديم كه مقاله‏اش چه
واكنش‏هايي را در پي داشته است.
يوبيكوئيتي: چه واكنش‏هايي نسبت به مقاله شما در مجله
وايرد نشان داده شده است؟
بيل جوي: در مجموع، واكنش‏ها خيلي مثبت بود و
سه موضوع در بيشتر آنها مشترك بوده است: «خوشحالم
از اينكه بالاخره كسي اين را نوشت.»؛ «چه كمكي
مي‏توانم بكنم؟»؛ «مطالعه مقاله شما مرا آشفته
كرده است!»؛ اما، البته كساني هم بودند كه نسبت
به آنچه گفتم، ابراز بدبيني كردند.
? شما بدبيني را در چه مي‏دانيد؟
? بدبيني مال كساني است كه فكر مي‏كنند «هوش
انسان» هميشه پيروز است؛ هر چند كه اين اعتقادات
آنها، طبق معمول، مبنايي هم در حقايق و وضعيت
كنوني نداشته باشد. من مي‏دانم كه برخي از آنها
هرگز مطلب مرا مطالعه نكردهاند. بعضي از آنها
صرفاً توصيف تك جمله‏اي از آن ارايه مي‏كنند. همين
كافي است كه بدانيم، آنها بدين خاطر استدلال‏هاي
مرا رد مي‏كنند كه فكر مي‏كنند، ذهنيتي كه دارند،
هميشه درست است. البته كه رويه آنها هميشه درست از
آب در نمي‏آيد، زيرا واضح است كه حقايق مطلق هم
اغلب استثنا پذيرند. بنابراين، مادامي كه
بپذيريم، نبوغ به‏طور كل? مي‏تواند همه مشكلات و يا
خيلي از آنها را حل كند، در زماني كه اين موضوع
با واقعيت منطبق نباشد، ما متأسفانه با مشكل
مواجه خواهيم شد. وقتي كه ما به هر كسي اين
اختيار را بدهيم كه صاحب آن نوع قدرت افسانه‏اي
شود كه من در مطلب خود آوردم، در اين صورت، ممكن
نيست بتوانيم در مقابل حوادث فاجعه بار و يا در
برابر اقدامات به غايت جنون‏آميز اشخاص، از خود
دفاع كنيم.
? در مورد استفاده جنون‏آميزي كه گفتيد، احساس
مردم نسبت به بهره‏گيري و تأييد آشكار شما از نقل قول
مطول تئودور كازينسكي معروف به «آن ابامر» چيست؟
? بسياري از مردم به خاطر اين نقل قول آشفته
شدند. اما ببينيد، من نمي‏گويم كه كازينسكي ديوانه
و يا جنايتكار نيست. كاري را كه كازينسكي انجام
داد، مطلقاً قابل توجيه نيست و من هم با تمام
تصويري كه او ساخته، موافق نيستم. همه آنچه كه
مدنظر من است، فقط به برخي از اظهارات وي مربوط
مي‏شود. حقيقتي كه «ري كرزويل» متذكر شد، تا آنجا
مرا نگران ساخت كه مجبور شدم برخي از چيزهايي را
كه درباره آنها به قدر كافي فكر نكرده بودم،
دوباره مورد كنكاش قرار دهم. معني احساس مسئوليت
هر كس نسبت به رفتار خود، اين نيست كه ما افراد
را با ايده‏هايشان كاملاً رها سازيم؛ يك وضعيت
نمي‏تواند توجيه‏كننده يك استدلال باشد. استدلال من
در مورد هر واقعه‏اي، مشخصاً به كازينسكي نياز
ندارد. بسياري از متفكران بزرگ قرن بيستم، از
برتراند راسل گرفته تا لوئيس مامفورد، در خصوص
خط علم، زماني كه بخواهد براي مقاصد نادرست
استفاده شود، مطلب نوشته‏اند.
? واضح است كه با برخي از انواع تكنولوژي،
سوداگري مي‏شود. به عنوان مثال، يك داروي جديد،
اثرات جانبي هم به همراه خواهد داشت. آيا اين نكته هم
در استدلال شما وجود داشت؟
? نه، نداشت. نگراني من اختصاصاً به اين مربوط
مي‏شود كه اگر ما تكنولوژي خيلي قدرتمندي را خلق
كنيم و سپس آن را تحويل هر كسي بدهيم، درست مثل
اين است كه ما به هر كسي توانايي ايجاد ويروس‏ها
را بدهيم؛ در اين صورت، هر فردي قادر خواهد بود
كه از آن استفاده نادرست كند و يا به طور
ناگهاني دست به اقدام زيانباري بزند، اگر پيامد
نهايي اين استفاده نادرست، تخريب جو و آب و خاك
كره زمين باشد و يا قتل تعداد زيادي انسان‏ها را
موجب شود، مسلماً اين غيرقابل قبول خواهد بود!
? درباره اثرات خيلي كوتاه مدت پيامدهاي نهايي چه
مي‏گوييد؟
? بسياري از سناريوهاي بد ديگر هم وجود دارد
كه يكي از آنها انقراض است؛ و علتش هم قرار گرفتن
قدرت خيلي زياد در دستان بسياري از مردم است.
علاوه بر آن، من يادآوري مي‏كنم كه اكنون ما وارث
يك وضعيت مضحك هستيم؛ وضعيتي كه به طور غير قابل
قبولي، پيامد هزاران چيز متفاوت است و همه آنها هم
(اگر به طور منفرد مورد ملاحظه قرار گيرند) قابل
توجيه هستند. اما، از آنجا كه اين پايان، غيرقابل
توجيه و به طور كل غير قابل قبول است، ما فقط
مجبوريم برخي تصميمات روشن را اتخاذ كنيم و بعضي
از بديل‏ها را هم كشف نشده رها سازيم. ما
نمي‏توانيم تحقيق و توسعه هر چيزي را كه ممكن است
پايان فاجعه باري داشته باشد، فقط بدين خاطر پي
بگيريم كه پول زيادي را براي ما به دنبال دارد.
مكانيسم بازار اگر بخواهد راهنماي عمل ما باشد،
اخلاقي و يا انديشمندانه نيست.
? دقيقاً چه كسي بايد درباره اين مسايل بينديشد؟
? بله، در يك مورد ما بايد به فلاسفه و
روحانيون و افراد مذهبي متكي شويم، به طوري كه
استدلالمان بتواند به سطح مطبوعي برسد. به نظر
من، ما مشخصاً نمي‏توانيم اين موضوع را فقط به
دانشمندان و متخصصان تكنولوژي بسپاريم، زيرا اين
مشكل و حل آن، به طور خيلي اساسي آينده ما را
تحت تأثير قرار خواهد داد. ما بايد بحث را طوري
مطرح كنيم كه همه اقشار جامعه درگير آن شوند و در
مورد شرايط سختي كه اكنون ما داريم، تصميم بگيرند.
همه هم و غم ما، نبايد تنهابه جلو رفتن باشد و فقط
به خاطر پول ، خود را درون روبات‏ها محصور و
گرفتاركنيم.
? آيا فكر مي‏كنيد اين مسايل را مي‏توان به شيوه
دمكراتيك، به رأي همه مردم گذاشت؟
? نه، فكر نمي‏كنم، تاكنون چنين نبوده است. فكر
نمي‏كنم كه بسياري از مردم حتي اين مسأله را جدي
گرفته باشند. لازم است كه در طي 10 سال آينده در
اين مورد بحث شود. اما، ما نمي‏توانيم براي اقدام
تا ابد انتظار بكشيم، زيرا اگر دست به خلق اين
روبات‏هاي داراي هوش و قدرت برتر بزنيم، ابداً
مشخص نيست كه بتوانيم با آنها همزيستي كنيم. ما در
اساس، يك غارتگر را وارد اين جهان مي‏كنيم كه
مي‏خواهد ما را در جايگاه دوم بنشاند؛ و من فكر
مي‏كنم چنين روندي، ما را تبديل به گونه‏اي پست‏تر
مي‏كند. من دقيقاً نمي‏دانم كه براي ما چه اتفاقي
خواهد افتاد. لازم است تصميم بگيريم كه آيا
مي‏خواهيم به روند توسعه و تحقيق خود اجازه دهيم،
به هر جا كه مي‏خواهد برود. من شخصاً فكر مي‏كنم،
اين روند تحقيق بايد در برخي حوزه‏ها كوتاه
بيايد.
? آيا مردم فكر نمي‏كنند كه اين روند تحقيق، به جاي
خطرساز بودن، تا حدودي كارآمد هم است؟
? مردم شايد اين مسأله را مثل يك لطيفه، يا
يك فيلم ترميناتور و يا برخي از انواع فيلم‏هاي
علمي و تخيلي ببينند؛ يعني جايي كه يك قهرمان،
مشكل را كشف مي‏كند، با آن دست و پنجه نرم مي‏كند
و بالاخره بر آن غالب ميشود و بينندگان هم با يك
پايان خوش روبرو مي‏شوند. اما در جهان طبيعي،
دسيسه‏ها هميشه پايان خوشي ندارند، شما اگر به
فسيل‏هاي به جا مانده توجه كنيد، مي‏بينيد كه
بسياري از گونه‏ها وجود داشتند كه منقرض شدند.
درك اين موضوع چندان مشكل نيست كه اگر همه
نيروهاي جهان - همه نيروهاي فيزيكي، شيميايي و
علوم اطلاعات – را آزاد كنيم، در اين صورت،
ميزاني از قدرت باور نكردني و غيرقابل تصور را
آزاد كرده‏ايم. ------ اتم تنها براي عمليات نظامي و
نهايتاً در يك جا به كار مي‏رود، زيرا اين بمب، فقط
نيروي نوعي از واكنش زنجيره‏اي را آزاد مي‏سازد. ولي
ويروس‏هايي كه ما درباره آنها سخن مي‏گوييم، اكنون
واكنش زنجيره‏اي خود تكثيركنندگي دارد، واكنشي كه
مي‏تواند هر چيزي را در روي زمين تغيير دهد.
? جداي از داستان‏هاي علمي - تخيلي، آيا راهي هم
وجود دارد كه از طريق آن انسان واقعاً بتواند شكل
بهتري به غذاها، داروها، ابزارها و چيزهاي ديگر بدهد؟
? بله، حقيقت اين است كه بسياري از مشكلاتي
كه مردم در صدد يافتن راه حلي براي آنها از طريق
اين تكنولوژي‏هاي پيشرفته هستند، راه حل‏هاي
ساده‏تري هم دارند و با تكنولوژي‏هاي داراي
زيان‏هاي كمتر هم مي‏توان آنها را حل كرد. به عنوان
مثال، آموري بي.لووينز در برخي از آثار خود مثل
سرمايه‏داري طبيعي، به ما يادآور مي‏شود كه
بسياري از سيستم‏هاي مهندسي (ژنتيك) انسان، به
طور قابل قبولي ناكارآمد هستند. بسياري از
روش‏هاي ديگر وجود دارد كه ما با اتخاذ آنها
مي‏توانيم زندگي انسان‏ها را بهتر بكنيم و مي‏توانيم
سلامتي بشر را از طريق اقدامات كارآمدتر، بهبود
بخشيم.
? با حمايت و بهره‏گيري از تكنولوژي، يا بدون آن؟
? در اين مورد بايد بگويم كه پس از آنكه من در
جايي صحبتي كرده بودم، شخصي نزد من آمد و گفت
«من شيوه‏اي را در استفاده از نانوتكنولوژي بلد
هستم كه مي‏توان از طريق آن،آب را تصفيه كرد.»
پاسخ من اين بود: «بله، من هم راهي را براي
تصفيه كردن آب با استفاده از سيستم خورشيدي، يك
پمپ كوچك، لامپ و فيبر مشبك بلد هستم.» در ظاهر،
علت تمايل و خيز برداشتن انسان به سمت تكنولوژي‏هاي
خيلي پيشرفته، اين است كه از آنها بهره ببريم و به
خاطر امتيازهايي كه دارند، مورد حمايت قرار
مي‏گيرند و بيشترشان هم خيلي پيچيده هستند. اما،
اغلب راه‏هاي بسيار ساده‏تري هم براي حل مشكلات
وجود دارد.
? آيا بخشي از مشكل نمي‏تواند اين باشد كه ما واقعاً
درباره يك سيستم منفرد سخن نمي‏گوييم، بلكه در مورد
هزاران هزار سيستم و سيستم‏هاي فرعي آنها حرف مي‏زنيم
و درك اين براي هركسي بسيار مشكل است، خواه اين فرد
متخصص باشد و خواه غيرمتخصص؛ و در اين انديشه هستيم
كه همه روابط متقابل آنها را تغيير داده و يا دوباره
آنها را شكل بدهيم؟
? شما درست مي‏گوييد، اين يك مشكل كليدي است و
بدتر هم شده است زيرا مردم تمايل دارند، در مورد
سيستم همه‏گيري كه «وراي كنترل ما است»، تقديرگرا
باشند. اما، من مي‏خواهم نكته‏اي را متذكر شوم كه
ارسطو يادآوري كرد: چيزي كه باعث فرق ما با
حيوانات مي‏شود، اين است كه ما عقل داريم. ما با
اينترنت و ديگر ابزارهاي ارتباط جمعي، مي‏توانيم
از عقل خود جهت تصميم‏گيري براي تغيير برخي
مسيرهايي كه پيش مي‏رويم، استفاده نماييم. من به شما
حق مي‏دهم. متوقف كردن برخي از اين نيروها مشكل
است، اما اگر ما به‏طور جمعي تصميم بگيريم و نخواهيم
كه آنها مزاحم ما شوند، در اين صورت، مي‏توانيم
انتخاب‏هاي بديل هم داشته باشيم.
? اين انتخاب‏هاي بديل چطور مي‏توانند شكل بگيرند؟
? طرفداران حفظ محيط زيست يادآور شده‏اند كه
لازم است سيگنال‏هاي اقتصادي كه اكنون به شركت‏ها
داده مي‏شوند، تغيير كنند. علائم كنوني اغلب از
روي بي‏فكري، ضد محيط زيست هستند.
? مثالي بياوريد؟
? يك مثال در مورد اين كه ما مجبور به تغيير
سيگنال‏هاي اقتصادي هستيم، اين است كه الان ارزش
جنگل‏ها معمولاً در درختاني ديده مي‏شود كه بايد
بريده شوند، در صورتي كه ارزش حقيقي اين درختان
را بايد در اكوسيستم وسيع‏تري مشاهده كرد؛ نه
اينكه فقط جنگل را در شكل مجموعه‏اي از درختان
مناسب قطع شدن ديد.
? چنين چيزي چطور بايد انجام گيرد؟
? ما مي‏دانيم كه مي‏توانيم هر چيزي را
قاعده‏مند نماييم، اما من مي‏توانم دنيايي را تصور
كنم كه در آن سيگنال‏هاي اقتصادي به سمت تشويق
نوع رفتاري كه به نفع بقا و حيات است، تغيير
يابند. توقف روند موجود، سيگنال خيلي جالبي است،
اما بسيار طول مي‏كشد تا از راه برسد. بنابراين،
بياييد مردم باهوشي داشته باشيم كه بتوانند
ارزيابي كنند، چگونه چنين علائمي را هر چه زودتر
بفرستند. من فكر نمي‏كنم كه اين غيرممكن باشد. به
عنوان مثال، من پيشنهاد مي‏كنم، شركت‏هايي كه
مي‏خواهند تكنولوژي‏هاي خطرناك را مبادله كنند،
بيمه آنها در مقابل ريسك‏هاي بالا حذف شود. اين
راه‏حلي براي بخش خصوصي در مقابل اين مشكل بزرگ
است؛ بدون چنين مكانيسمي، پرداخت‏كنندگان ماليات
در ارتباط با حفظ محيط زيست، وجهي پرداخت
نمي‏كنند.
? آيا مي‏توانيد نسبت به همه اين مسايل يك راه‏حل
ريشه‏اي تصور كنيد؟ به عنوان مثال، به نظر مي‏رسد كه
ايوان ايليچ توانست دنيايي را تصور كند كه در آن
هواپيما و اتومبيل و غيره نباشد. جهاني كه در آن همه
شركت‏ ها - هر چند شامل شركت‏هاي توسعه يافته نمي‏شود -
سيستم‏هاي خود را عمدتاً بر دوچرخه به عنوان ابزار
مهم حل و نقل، متمركز كنند. آيا شما مي‏توانيد دنيايي
اين چنيني را تجسم كنيد؟
? هواپيماها و اتومبيل‏ها در ارتباط با ابعادي
كه من دارم صحبت مي‏كنم، مشكل محسوب نمي‏شوند. مشكل
واقعي كه من نسبت به آن نگران هستم، سيستم
خودتكثيركنندگي است، سيستمي كه با شكل غيرمادي
شده تكنولوژي و تبديل آن به شكل تراشه و تراشه
اطلاعات و خود اطلاعات همراه شده و انسان‏ها
مي‏توانند آنها را جهت مقاصد مخرب، دوباره بازسازي
كنند. من دنيايي را تصور مي‏كنم كه در آن ما
مي‏توانيم جلوي هر كسي را كه مي‏خواهد به اين نوع
قدرت مجهز شود، بگيريم.
? چطور، چه مثالي را مي‏توانيد بياوريد؟
? به ويروس «لاوباگ» توجه كنيد، ويروسي كه در
نتيجة دريافت نكردن سيگنال‏هاي اقتصادي از طرف
ميكروسافت، امكان ظهور يافت؛ مقابله با آن نوع
آشفتگي كه اين ويروس به نمايش گذاشت، چيزي است
كه ما با تكنولوژي‏هاي فيزيكي موجود در جهان
نمي‏توانيم از عهده‏اش برآييم.
اما، هيچ سيگنال اقتصادي براي ميكروسافت
ارسال نشده بود تا اين شركت را وادار كند، در
مورد كيفيت بالاي نرم‏افزارش واقعيت را بگويد.
علاوه بر آن، شركت مذكور احتمالاً خود را مسئول
عواقب اقتصادي نصب و كاربرد نرم‏افزاري كه شايع
شد، مشكلات ويروسي دارد و يا مشخصاً به گونه‏اي
متفاوت عمل كرده است، نمي‏داند. ما در چنين مواردي
بايد سيگنال‏هايي را بفرستيم تا ديگر شاهد
بي‏نظمي‏هاي مشابهي در نوع رفتار گروهي زيستي،
فيزيكي و روبات‏ها نباشيم.
? آيا شما مي‏گوييد كه جوهره و اساس مشكل، بي‏نظمي
تكنولوژيكي است، نه كاستي‏هاي شخصيتي در انسان؟
? نه، منظورم اين نيست كه متخصصان تكنولوژي
هميشه اشتباه ميكنند؛ مشكل، سيستمي است كه
مسئوليت اخلاقي پيامدها را نمي‏پذيرد. اين چيزي
است كه من تا حدودي آن را در شخص جي. روبرت
اپنهايمر ديدم؛ او كسي است كه در مقاله‏ام به او
اشاره كردم. اپنهايمر اين جمله مبنايي را گفت:
«ما دانشمند هستيم، ما كارمان را انجام مي‏دهيم و
مسئول پيامدها نيستيم.»! بله، من فكر نمي‏كنم كه
اين موضع‏گيري، قابل دفاع باشد. واضح است كه وقتي
شما كاري را انجام مي‏دهيد و توسط آن، بسياري از
مردم را زياني چنين عظيم مي‏رسانيد، فكر نمي‏كنم كه
ديگر بتوانيد از مسئوليت پيامدهايي كه متوجه
اين مردم شده است، سرباز زنيد.
? اين اصل تا كجا را در بر مي‏گيرد؟
? حوزه خيلي گسترده‏اي را در برمي‏گيرد. اكنون
من فكر مي‏كنم كه ما به اين نتيجه رسيدهايم،
افرادي كه مثلاً مسلسل دستي مي‏سازند، بايد در مورد
پيامدهاي استفاده از آن هم مسئول باشند، چرا كه
ما هيچ دليل عقلاني براي استفاده از چنين چيزي در
يك جامعه غيرنظامي نمي‏بينيم. استدلال ما درباره
سلاح‏هاي دستي، در واقع، به خطري مربوط مي‏شود كه
اين سلاح‏ها به وجود مي‏آورند. اما اگر با همين
سلاح‏هاي دستي به افراد زيادي شليك شود، در اين
صورت، ما بالاخره تصميم مي‏گيريم كه قوانين مربوط به
مالكيت آنها را تغيير دهيم.

این صفحه را در گوگل محبوب کنید

[ارسال شده از: فان پاتوق]

[مشاهده در: www.funpatogh.com]

[تعداد بازديد از اين مطلب: 155]