وقتی صحبت از سناریوهای فاجعهبار هوش مصنوعی عمومی (AGI) به میان میآید، احتمالاً تصور پاپ لئوی چهاردهم اولین چیزی نیست که به ذهن خطور میکند. اما در ماه گذشته، جان-کلارک لوین، پژوهشگر AGI، خود را در واتیکان یافت تا این نگرانیها را به اطلاع پاپ برساند.
لوین به تنهایی عمل نکرده است. او در طول یک سال گذشته به طور پنهانی شبکهای متشکل از حدود سه دهن دانشگاهی، دانشمند، پژوهشگر سیاست و کشیش تشکیل داده است — گروهی که او به شوخی «انتقامجویان هوش مصنوعی» مینامد — که به صورت مجازی گرد هم آمدهاند تا راهبردهایی برای وادار کردن واتیکان به جدیتر گرفتن احتمالات افراطی هوش مصنوعی طرحریزی کنند.
نگرانی اصلی او این است که پاپ زمان زیادی را برای درک خطرات هوش مصنوعی عمومی (AGI) از دست بدهد، هدفی که توسط برخی از بزرگترین شرکتهای فناوری جهان مانند OpenAI، مایکروسافت، گوگل و متا دنبال میشود. او به The Verge میگوید: «اگر منتشر قطعیت کامل بمانید، برای اقدام برای جلوگیری از خطر بسیار شدیدی که به نظر میرسد تنها چند سال دیگر با آن روبرو هستیم، بسیار دیر خواهد بود.»
لحظه واتیکان در قبال هوش مصنوعی
AGI به بیان ملایم، ایدهای بحثبرانگیز است. هیچ اجماعی در مورد چیستی AGI یا زمان احتمالی ظهور آن، حتی در میان جوامعی که کاملاً به آن باور دارند، وجود ندارد. در هسته اصلی، این مفهوم معمولاً به هوش مصنوعی اشاره دارد که در تمام حوزههای شناختی قابل اندازهگیری با عملکرد انسان برابر یا فراتر از آن است. اما جزئیات هستند که مسئله را پیچیده میکنند. بسته به تعریف شما — که تعاریف بسیاری وجود دارد — ممکن است AGI همین حالا وجود داشته باشد، در آستانه ظهور باشد یا هیچگاه ظهور نکند. پیامدهای مورد انتظار AGI نیز به همان اندازه متنوع هستند؛ از رونق اقتصادی عظیم و پیشرفتهای علمی و پزشکی بیسابقه گرفته تا نابرابری گسترده، ناآرامیهای ژئوپلیتیک و تهدیدهای فاجعهبار مانند جنگهای هستهای و همهگیریها.
برای کسانی که به این خطرات اهمیت میدهند، کاهش آنها یک اولویت اصلی است که نیازمند توافق صنایع، دولتها و جامعه مدنی در سراسر جهان است. جای تعجب نیست که بسیاری از لابیگریها بر چین و ایالات متحده متمرکز شدهاند — جایی که بیشتر آزمایشگاههای پیشرو هوش مصنوعی مستقر هستند و بسیاری از کارشناسان معتقدند AGI به احتمال زیاد در آنجا ظهور خواهد کرد — اما واتیکان نیز به تدریج به یک توقفگاه مهم در مدار لابیگری تبدیل میشود.
اگرچه واتیکان به وضوح از نظر اندازه کوچک، قدرت نظامی و اقتصادی یک قدرت بزرگ جهانی محسوب نمیشود، اما از قدرت نرم فوقالعادهای برخوردار است. به عنوان رهبر کلیسای کاتولیک، اقتدار اخلاقی و معنوی پاپ از مرزها، صنایع و ایدئولوژیها فراتر رفته و افکار جهانی را شکل میدهد. به طور مستقیم، ۱.۴ میلیارد کاتولیک و یک شبکه وسیع از نهادهای مذهبی، دیپلماتیک و فرهنگی در سراسر جهان وجود دارند و تاریخ نشان میدهد که این نفوذ به مراتب فراتر از کلیسا نیز گسترده است. این موضوع، همراه با موقعیت تقریباً بینظیر واتیکان به عنوان یک نهاد بیطرف در امور جهانی، به آن ارتباطات و قدرت گردهمآوری بیمانندی میبخشد که میتواند در میانجیگری گفتگوها در مورد AGI، به خصوص با توجه به تنشها و دینامیک مسابقه تسلیحاتی بین چین و ایالات متحده، تعیینکننده باشد.
همچنین ویژگیهای خاصی درباره لئو در ارتباط با هوش مصنوعی وجود دارد که میتواند در شکلدهی به بحثهای جهانی هوش مصنوعی بسیار مفید باشد. او آمریکایی است — یک ویژگی بیسابقه برای پاپ — که ممکن است تعامل او با بسیاری از آزمایشگاههای پیشرو هوش مصنوعی که برای توسعه AGI رقابت میکنند و عمدتاً در آمریکا مستقر هستند را آسانتر کند. او همچنین مدرک دانشگاهی در رشته ریاضیات دارد و به گزارشها، نسبتاً به فنآوری مسلط است — که این نیز تا حدی یک نوآوری برای پاپ محسوب میشود — به این معنی که او نسبت به اکثر افراد در پرداختن به جنبههای فنیتر هوش مصنوعی راحتتر خواهد بود.
قرار دادن AGI در دستور کار
هیچکس انتظار ندارد که پاپ لئو داور بحث AGI باشد یا حتی طرفی را انتخاب کند. همانطور که ممکن است از یک نهاد چندصدساله انتظار رود، واتیکان معمولاً در قبال فناوریهای جدید به سرعت عمل نمیکند و معمولاً قبل از شروع به تدوین موضع خود، مشورتهای طولانیمدتی با کارشناسان خارجی انجام میدهد. درخواست از واتیکان سادهتر است: AGI را به عنوان یک امکان بپذیرد، آن را جدی در نظر بگیرد، یک مشورت رسمی راه اندازی کند و خطرات و مزایای آن را بر اساس معیارهای خود مورد بررسی دقیق قرار دهد. این پیامی است که لوین ماههاست در تلاش است به لئو منتقل کند.
از سوی خود، لئو — و کلیسای کاتولیک به طور کلی — به طور کامل از هوش مصنوعی دوری نکرده است. برعکس. پنهان نیست که واتیکان میخواهد در زمینه هوش مصنوعی جایگاهی در میز گفتگو داشته باشد. پاپ فرانسیس، پیشینیان مستقیم لئو، frequently درباره تاثیر هوش مصنوعی بر جامعه صحبت میکرد. او همچنین پیشگام «فراخوان رم برای اخلاق هوش مصنوعی» بود، یک چارچوب داوطلبانه که توسط غولهای فناوری از جمله مایکروسافت، IBM و سیسکو امضا شد. به طور غیرعمد، فرانسیس با انتشار تصاویر تولیدشده توسط هوش مصنوعی از خود که یک کت پافر سفید شیک را به تن داشت و به طور گسترده پخش شد، بحث جهانی را در مورد دیپفیکها و اطلاعات نادرست برانگیخت. به همین دلیل، او بیشتر با لقب «پاپ Balenciaga» شناخته میشود.
لئو یک قدم فراتر گذاشته و هوش مصنوعی را به یک موضوع تعیینکننده در دوران پاپی خود تبدیل کرده است. این موضوع الهامبخش نام پاپی او بوده است — او شباهتهایی بین چالشهای هوش مصنوعی امروز و چالشهای انقلاب صنعتی در دوران لئوی سیزدهم میبیند — و سخنرانیها، مصاحبههای رسانهای و بیانیههای رسمی او مملو از اظهارنظر درباره خطراتی است که هوش مصنوعی برای «شأن انسانی، عدالت و کار» ایجاد میکند. اینها حواشی یا رویدادهای کوچک نیز نیستند: لئو در چند روز اول پاپی خود بارها به خطرات و «پتانسیل عظیم» هوش مصنوعی اشاره کرد، از جمله در نخستین نطقهای رسمی خود برای کاردینالها و رسانهها.
او همچنین در حال گردآوری کارشناسان است و به وضوح به کنفرانسها و گردهماییهای مرتبط با هوش مصنوعی توجه میکند. به گفته چندین ناظر واتیکان که The Verge با آنها صحبت کرده، این تا حدی یک راز آشکار است که او در حال آمادهسازی یک نامه سرگشاده (encyclical) متمرکز بر هوش مصنوعی است، سند влияگذاری که پدر مایکل باگات، استاد در آتنائوم پونتیفیکال رجینا آپوستولوروم در رم، آن را «یکی از ابزارهای اصلی آموزش در مورد مسائل معاصر» امروز میخواند. این سند از بسیاری جهات ادامهدهنده راه نامه سرگشاده رِروم نوواروم پاپ لئوی سیزدهم خواهد بود که به دگرگونیهای انقلاب صنعتی پرداخت و بنیان آموزش اجتماعی مدرن کاتولیک را بنا نهاد.
آنچه به طور قابل توجهی غایب است،任何 صحبتی در مورد AGI، یا حتی تأیید موقعیت محوری آن در بسیاری از بحثهای داغی است که محافل سیاست و فناوری را در مورد آینده هوش مصنوعی درگیر کرده است. لوین، که یک سرپرست تحقیقات در Kurzweil Technologies، آزمایشگاه تحقیقاتی دانشمند کامپیوتر مشهور و آیندهنگر گوگل، ری کورزویل است، احساس کرد که این وضعیت نیاز به تغییر دارد. او به The Verge میگوید که فقط میخواهد واتیکان AGI را به عنوان چیزی که ممکن است و به طور معقول به زودی فرا برسد بپذیرد، در اصل آن را آنقدر جدی بگیرد که اکنون به بررسی پیامدهای آن بپردازد،而不是 منتظر بماند تا قطعیت علمی شکل گیرد. به طور مشخص، این اقدام میتواند به شکل یک مشورت علمی رسمی در مورد AGI به طور خاص باشد، که insights کارشناسان از سراسر جهان را برای آگاهسازی تفکر پاپ جمعآوری کند، likely تحت نظارت آکادمی علوم پونتیفیکال یا آکادمی علوم اجتماعی پونتیفیکال. پاپ فرانسیس کار مشابهی را با تغییرات آب و هوایی انجام داد. لوین میگوید: «ما در پی پیشنهاد نوآوریهای الهیاتی نیستیم»، فقط سعی داریم اطلاعات و پشتیبانی لازم را به پاپ بدهیم تا تصمیمی آگاهانه بگیرد.
نفوذ به واتیکان
سیلیکون ولی یک اصطلاح عامیانه کاربردی برای متقاعد کردن کسی دارد که AGI یک امکان واقعی و به طور معقول قریبالوقوع است: «قرص AGI خوردن». بنابراین برای لوین، «اولین چالش این است که به واتیکان «قرص AGI» بدهد.»
نکته ظریف این است که پاپ و اطرافیانش را وادار کنیم تا به AGI فراتر از تنها یک زیرمجموعه از هوش مصنوعی فکر کنند. لوین توضیح میدهد که فکر کردن به AGI فقط فکر کردن به هوش مصنوعی نیست، بلکه بیشتر، یک چیز کاملاً متفاوت است. «این روش درستی برای فکر کردن به AGI نیست.» او میگوید این مانند آن است که بخواهیم impact انقلاب صنعتی را تنها با نگاه کردن به ماشین ریسندگی jenny — ماشین نساجی که به کارگران اجازه میداد چندین نخ را به طور همزمان بریسند — در نظر بگیریم؛ مهم، اما نه تصویر کامل و فاقد نوع دگرگونی عمیقی که انتظار میرود.
نکته مشکلساز دیگر نفوذ به محافل واتیکان برای حتی صحبت کردن با افراد درباره AGI است. این Aufgabe حتی برای باتجربهترین لابیگر نیز دلهرهآور خواهد بود. سریر مقدس ترکیبی پیچیده از یک دربار سلطنتی، مرکز سیاسی و nexus مذهبی است و حرکت در آن نیازمند رویکردی بسیار متفاوت با لابیگری در واشنگتن، لندن یا بروکسل دارد. موفقیت همچنین требует پل زدن بین جهان کاتولیسیسم و ایمنی هوش مصنوعی، دو جامعهای که به重叠 بودنشان شناخته شده نیستند. لوین تخمین میزند: «تعداد افرادی که هر دو حوزه را میشناسند، احتمالاً در یک آسانسور جا میشوند.»
از بین تمام افرادی که در آن آسانسور خیالی حضور دارند، به نظر میرسد لوین به طور ویژهای برای این مأموریت مجهز است. او یک کهنهکار در جنبش ایمنی هوش مصنوعی است، کسی که مدتها قبل از ظهور ChatGPT در Kurzweil Technologies و سایر مؤسسات به تبعات هوش مصنوعی فوقهوشمند فکر کرده است. او همچنین در حوزههای کاتولیک connected و درگیر است. لوین میگوید لئو — که در آن زمان رابرت پراوست بود — زمانی که younger بود و در سمت رهبری فرقه آگوستینی فعالیت میکرد، دو بار از دبیرستان او در کالیفرنیا بازدید کرد. او اضافه میکند که ظاهراً چندین کشیش محلی هنوز با او رابطه تلفنی دارند.
لوین میگوید عمل فهم فضای حاکم بر هوش مصنوعی در واتیکان چندان متفاوت از کارآگاهی قدیمی و کلاسیک نیست. او میگوید: «یک جورایی حس این را دارد که مثل یک کارآگاه دهه ۱۹۵۰ در رم دور بزنی، کشیشها را در بستنیفروشیها گیر بیندازی، ردای آنها را بگیری و بگویی ‘خیلی خب، رک و راست به من بگو پدر، اوضاع اینجا واقعاً چطوریه؟’». «این یک تفاوت عظیم با واشنگتن دیسی است.»
گذشته از اغراق، لوین میگوید فهم اهرمهای قدرت در واتیکان فرآیندی به طرز frustatingly کندی است. با اینکه ماهها از پاپی لئو میگذرد، لوین میگوید هنوز مشخص نیست که مورد اعتمادترین مشاوران پاپ در مورد هوش مصنوعی چه کسانی هستند. دیگران در محافل کاتولیک هوش مصنوعی نیز این احساس را раздеادند. این سرعت به طور ناراحتکنندهای با فوریتی که لوین و دیگران نگران خطرات AGI احساس میکنند، همخوانی ندارد. فناوری به سرعت در حال حرکت است — برخی در این زمینه معتقدند که در چند سال آینده محقق خواهد شد — که پنجره زمانی برای عمل را به طور فزایندهای narrow میکند. لوین میگوید میخواهد واتیکان را وادار کند که مستقل در مورد AGI فکر کند، قبل از آنکه فناوریهای بزرگ (Big Tech) آن را متقاعد کنند تا رویکرد سهلانگارانه خود را نسبت به این فناوری اتخاذ کند (علیرغم اطمینانهای صوتی خلاف آن). لوین ادعا میکند که شرکتهای بزرگ فناوری به سمت واتیکان هجوم آوردهاند تا سعی کنند پاپ را در مورد اولویتهای خود برای هوش مصنوعی و AGI تحت تأثیر قرار دهند. ماهیت مخفیانه جلسات واتیکان، تأیید این kind از ادعا را دشوار میکند، اما با توجه به لابیگری Big Tech در این مورد در其他地方، کانالهای مستندشده بین واتیکان و اجراییهای فناوری تحت پاپ فرانسیس — که گزارشهای خبری حاکی از زنده و فعال بودن آنها تحت لئو است — و اهمیت کلی روایت AGI در نکات گفتگوی شرکتها، این ادعا قطعاً معتبر به نظر میرسد.
اندکی پس از آنکه رابرت پراوست به لئوی چهاردهم تبدیل شد، لوین برای شرکت در یک کنفرانس درباره اخلاق هوش مصنوعی در آکادمی علوم پونتیفیکال به رم پرواز کرد. در آنجا با افرادی با دیدگاههای مشابه درباره درگیر کردن واتیکان با AGI ملاقات کرد. پس از بازگشت، او شروع به گردآوری «انتقامجویان هوش مصنوعی» کرد تا به صورت مجازی راههایی برای جلب توجه واتیکان، آگاهسازی کشیشها از فناوری و علم، و پشتیبانی از سریر مقدس در حین (امیدوارانه) تدوین موضعی در مورد هوش مصنوعی که AGI را جدی بگیرد، workshop کنند.
لوین در نوامبر برای شرکت در Builders AI Forum دوباره به رم بازگشت، جامعهای که وبسایت آن میگوید «متعهد به حمایت از توسعه محصولات هوش مصنوعی است که به mission کلیسا خدمت میکنند.» تیلور بلک، یکی از مدیران هوش مصنوعی و اکوسیستمهای venture در مایکروسافت و مدیر inaugural در مؤسسه جدید هوش مصنوعی دانشگاه کاتولیک آمریکا، میگوید این یکی از معدود مکانهایی است که «گفتگو [درباره هوش مصنوعی] عینیترین حالت را پیدا میکند.» او توضیح میدهد که大多數 صحبتها درباره هوش مصنوعی در رم بسیار «سطح بالا» است، معمولاً مضامین آشنا کاتولیک مانند رفاه انسان و شأن انسانی را پوشش میدهد تا مسائل عینیتر. یک استثنای دیگر برای این rule پروژه Humanity 2.0 است — یک «شتابدهنده رفاه انسان» به形容 خود — though بلک میگوید که آن «در واقع تبدیل به» Builders شد.
اگرچه لئو directly در کنفرانس شرکت نکرد، اما آن را به دقت دنبال میکرد. باگات میگوید: «ما او را از کار مطلع کردیم و واضح کردیم که هر زمان در برنامهاش فرصتی یافت، برای شرکت کردن خوشآمد خواهد بود»، و اضافه میکند که پاپ «از کار ما آگاه است و ما را در این کار تشویق میکند.» به این منظور، لئو حتی یک پیام کوتاه برای شرکتکنندگان Builders فرستاد. در آن، او آنان را ترغیب کرد تا اطمینان حاصل کنند که هوش مصنوعی به شأن انسانی و خیر عمومی خدمت میکند و «طرح آفریننده را منعکس میکند.»
با این حال،依然 هیچ اشارهای به AGI نشد. فهرست کارگاههای Builders بر موضوعات ملموستری مانند healthcare، آموزش و رباتیک متمرکز بود، بنابراین لوین دو رویداد جانبی با موضوع AGI ترتیب داد تا momentum مربوط به AGI را حفظ کند. یکی یک شام و دیگری یک سمینار بحث و بررسی در مورد implications AGI بود. لوین میگوید علاقه به طور تعجبآوری high بود، و اضافه میکند که مکان برگزاری شام گنجایش تعداد افراد علاقهمند به شرکت را نداشت. «من بسیار خوشحال شدم… clearly یک سرچشمه علاقه به این موضوع وجود دارد، حتی در میان روحانیون، که من کاملاً انتظارش را نداشتم.» لوین میگوید moving forward، چالش funnel کردن این اشتیاق به اقدامات و پشتیبانی concrete خواهد بود در حالی که واتیکان begins its «sense making around AGI».
سرانجام، یک فرصت
این اشتیاق غیرمنتظره در نهایت به لوین فرصتی داد که ماهها به دنبال آن بود: شانسی برای ارائه مستقیم case خود به پاپ لئو. یکی از شرکتکنندگان در سمینار AGI دعوتنامهای برای یک audience گروهی با پاپ لئو در later آن هفته داشت و یک همراه اضافی (plus-one) بدون استفاده داشت. او آن را به لوین پیشنهاد داد.
لوین با لحنی هیجانزده زمانی که کمتر از چهار ساعت قبل از موعد سفرش به رم برای audience پاپی، دیروقت از پولیا به من تلفن زد، صحبت کرد. او میگوید: «انتظار دارم only یک ملاقات کوتاه شخصی با او داشته باشم، اما این امیدوارم فرصتی باشد برای انتقال پیامی درباره کاری که امیدواریم واتیکان در مورد علم AGI و نامه سرگشاده در حال تهیه انجام دهد.» چالش این است که در زمان کوتاهی که با پدر مقدس دارید، مستقیم و به یاد ماندنی باشید. «همه میگویند، ‘اوه، مادرشوهرم اهل شیکاگو است’، یا ‘زنده باد White Sox’، یا چیزی شبیه به آن، و شما میخواهید پیام شما چیزی باشد که امیدواریم در ذهن او بماند.»
لوین میگوید که یک نامه یک صفحهای حاوی «اسکلت اصلی» پیامش را همراه میبرد. او متن کامل را فاش نکرد، اما آن را برای The Verge خلاصه کرد: در آن از لئو به خاطر اقداماتش در مورد هوش مصنوعی تاکنون تقدیر شده، واتیکان را ترغیب میکند که یک مشورت علمی رسمی در مورد AGI به طور specific، نه تنها به عنوان یک زیرموضوع هوش مصنوعی، راهاندازی کند، و از جامعه AGI پیشنهاد پشتیبانی برای کمک به واتیکان در درک همه چیز ارائه میدهد.
در پایان، لوین نتوانست ملاقات مستقیم خود با پاپ لئو را انجام دهد. همانطور که often در مکانهایی مانند واتیکان اتفاق میافتد، دو گروه با هم ادغام شدند و به یک اتاق بزرگتر منتقل شدند، which پروتکل encounter را تغییر داد و فرصت interaction شخصی کوتاه اما substantive را از بین برد. او هنگام گفتن این موضوع کمی دلسرد به نظر میرسید. «اما من personally یک نامه درباره AGI را تحویل دادم.» بر اساس پروتکل دیپلماتیک، این نامه به یکی از منشیهای پاپ، نه خود پاپ، تحویل داده شد. با توجه به volume بالای نامههایی که پاپ دریافت میکند، لوین میگوید امید چندانی به دریافت پاسخی فراتر از یک پاسخ فرموار ندارد. «اما شما هیچوقت نمیدانید.»
لوین دیدار کوتاه خود با پاپ را پایان مأموریتش برای جدی گرفتن AGI توسط واتیکان نمیبیند. به هیچ وجه. او توضیح میدهد: «حتی اگر او [پاپ لئو] تحت تأثیر هر چیزی که من میگویم قرار گیرد و بگوید، بله، ما باید در این مورد اقدام کنیم، برای actually آغاز و انجام آن مشورت علمی باند طولانیای وجود خواهد داشت.» «من میفهمم که راه درازی در پیش است.»
اگرچه لئو هنوز directly درباره AGI صحبت نکرده است، اما تجربه لوین suggests که واتیکان ممکن است بیش از آنچه anyone انتظار داشت، نسبت به ایده AGI open باشد — و به مراتب openتر از آنچه شهرت آن imply میکند، برای بحث در مورد آن آماده باشد. او میگوید: «همه کسانی که من directly در واتیکان با آنها در این مورد صحبت کردهام، نسبت به پیام من کاملاً receptive بودهاند.» «هیچکس که من با او درباره AGI صحبت کردهام، flat out نگفته است، ‘این غیرممکن است، تو یک مرتدی، از من دور شو’.»
