پاپ لئون چهاردهم در اولین بخشنامه خود با عنوان «انسانیت شکوهمند» (Magnifica humanitas)، ضمن بررسی ابعاد فناوریهای نوین، نسبت به تصور غلط برابری «هوش مصنوعی» با «هوش انسانی» هشدار داده است. این سند که حاصل یک سنت ۴۰۰ ساله در کلیسای کاتولیک است، در متنی ۴۲ هزار و ۳۰۰ کلمهای تأکید میکند که سیستمهای هوش مصنوعی تنها تقلیدکننده عملکردهای ذهنی هستند و برخلاف انسانها، تجربه واقعی از جهان، بدن، احساس شادی و درد و مهمتر از همه، وجدان اخلاقی ندارند. او هشدار داد که باید برای هوش مصنوعی قانونگذاری کرد و جلوی تمرکز قدرت را گرفت.
پاپ در اینباره گفته است:
«این سیستمها اگرچه در سرعت و ظرفیت محاسباتی از انسان پیشی میگیرند، اما به دلیل فقدان دیدگاه عاطفی، رابطهای و معنوی، معنای واقعی عشق، دوستی یا مسئولیت را درک نمیکنند.»
پاپ لئون در توضیح تفاوت بنیادی میان انسان و هوش مصنوعی تأکید کرد:
«هوشهای مصنوعی تجربهای را از سر نمیگذرانند، بدن ندارند، شادی یا درد را حس نمیکنند، در روابط رشد نمیکنند و از درون نمیدانند عشق، کار، دوستی یا مسئولیت چه معنایی دارد.»
او همچنین گفت این سیستمها فاقد وجدان اخلاقی هستند، نمیتوانند میان خیر و شر داوری کنند، معنای نهایی موقعیتها را درک نمیکنند و مسئولیت پیامدهای تصمیمها را برعهده نمیگیرند. به گفته او، هوش مصنوعی شاید بتواند زبان، رفتار و مهارت تحلیلی را تقلید کند و حتی نوعی همدلی یا فهم را شبیهسازی کند، اما چیزی که تولید میکند را واقعاً نمیفهمد.
وی با دعوت به تشکیل یک «ائتلاف آموزشی برای عصر دیجیتال»، از دولتها خواست ابزارهای نظارتی مناسبی برای مقابله با تمرکز قدرت و جلوگیری از سوءاستفادههای احتمالی، بهویژه علیه جوانان، ایجاد کنند.
در بخش دیگری از سخنان خود، او همچنین بر لزوم حفظ نقش انسان در تصمیمهای حیاتی تأکید کرده و گفته رهبران جهان باید تضمین کنند در آینده، همه تصمیمهای مرتبط با سلاحها را انسانها بگیرند، نه سیستمهای هوش مصنوعی. او هشدار داد برخی سامانههای تسلیحات خودکار آنقدر پیشرفته شدهاند که عملاً انسان دیگر نمیتواند آنها را کنترل کند. این بخش از سخنان او نشان میدهد نگرانی واتیکان فقط به جنبههای نظری یا فلسفی محدود نیست و به حوزههای حساس و پرخطر استفاده از این فناوری نیز کشیده شده است.
بااینحال، موضع پاپ مخالفت کامل با هوش مصنوعی نبود. او تصریح کرد که این فناوری نباید ذاتاً نیرویی ضدبشری تلقی شود و اگر با دقت و مسئولیت مدیریت شود، میتواند افقهای تازهای را در جهات مختلف بگشاید. همین رویکرد متعادل را میتوان در اقدام اخیر واتیکان هم دید؛ جایی که در فوریه امسال، واتیکان با شرکت خدمات زبانی «Translated» همکاری کرد تا ترجمه زنده مبتنیبر هوش مصنوعی را در اختیار شرکتکنندگان مراسم عشای ربانی قرار دهد.
حضور همبنیانگذار شرکت هوش مصنوعی آنتروپیک در کنار پاپ
در یک اقدام بیسابقه، «کریستوفر اولا»، همبنیانگذار و مدیر تحقیقات تفسیرپذیری شرکت آنتروپیک نیز در کنار پاپ سخنرانی کرد. تفسیرپذیری در حوزه هوش مصنوعی به تلاش برای فهمیدن عملکرد درونی مدلها و این موضوع اشاره دارد که یک مدل دقیقاً چگونه به خروجیهایش میرسد.
اولا در جریان مراسم رسمی معرفی بخشنامه پاپ در تالار سینود واتیکان، حرفی را مطرح کرد که بهندرت از زبان مدیران ارشد شرکتهای پیشرو هوش مصنوعی در چنین سطحی شنیده شده است؛ اینکه توسعه هوش مصنوعی پیشرفته نباید فقط به خود آزمایشگاههای AI سپرده شود.
او میگوید هر آزمایشگاه پیشروی هوش مصنوعی براساس مجموعهای از انگیزهها و محدودیتها فعالیت میکند که گاهی میتوانند با انجام کار درست در تضاد باشند. به گفته او حتی پژوهشگرانی که نیت خوبی دارند نیز درون همین ساختارهای فشار قرار میگیرند. بههمین دلیل، نتیجهگیری او این بوده که نظارت بیرونی از سوی رهبران مذهبی، دولتها و نهادهای جامعه مدنی ضروری است.
بخش دیگری از سخنان اولا به بازار کار اختصاص داشت. او گفت این احتمال وجود دارد که هوش مصنوعی در مقیاسی بسیار بزرگ، انسانها را کنار بزند و اگر چنین اتفاقی رخ دهد، حمایت از افرادی که شغل خود را از دست دادهاند، به یک الزام اخلاقی در ابعادی تاریخی تبدیل خواهد شد. این اظهارات، صریحترین پذیرش عمومی از سوی یکی از بنیانگذاران یک شرکت بزرگ هوش مصنوعی به شمار میرود که فناوری درحال توسعه شرکتش ممکن است وضعیت اشتغال جامعه را با سرعتی بیشتر از توان بازار کار برای جذب دوباره نیروها، تغییر دهد.
در مجموع، هم بخشنامه پاپ لئون چهاردهم و هم سخنان کریستوفر اولا بر یک چارچوب مشترک تأکید دارند؛ اینکه نظارت و تنظیمگری دهه آینده هوش مصنوعی نباید به شرکتهایی واگذار شود که خود آنها در سالهای اخیر سازندگان اصلی این فناوری بودهاند. اگرچه این موضعگیریها هنوز به سیاستگذاریهای مشخص اشاره نمیکنند، اهمیت خبر در این است که برای نخستینبار، یکی از بنیانگذاران یک آزمایشگاه پیشروی هوش مصنوعی از داخل واتیکان و در کنار پاپ، آشکارا اعلام کرده که این صنعت نمیتواند بهتنهایی مسیر آینده خود را تعیین کند.
نظرات کاربران