آنچه که اولین بخشنامه پاپ لئو چهاردهم در مورد قدرت هوش مصنوعی می گوید

یک الگوریتم تصمیم می گیرد آنچه می‌بینیم، دیگران آنچه را که می‌خوانیم فیلتر می‌کنند، و دیگران به فرآیندهای حاکم بر کار، اطلاعات و انتخاب‌های جمعی تغذیه می‌کنند. در یک بخشنامه Magnifica Humanitas. اولین بار توسط پاپ لئو چهاردهم امضا شد و در 25 مه منتشر شد، هوش مصنوعی تنها به عنوان یک فناوری دیگر دیده نمی شود. بخشی از زیرساخت نامرئی زندگی روزمره مدرن ما است.

اما متن به عنوان یک بازتاب منحصراً فنی در نظر گرفته نشده است. پاپ لئو چهاردهم مسئله هوش مصنوعی را در سنت دکترین اجتماعی کلیسای کاتولیک قرار می دهد و مستقیماً – ضمن به روز رسانی آن – اشاره می کند. Rerum Novarum پاپ لئو سیزدهم (منتشر شده در 15 مه 1891) در سال صد و سی و پنجمین سالگرد او. این بخشنامه به موضوع کار در اوج انقلاب صنعتی در اواخر قرن نوزدهم می پردازد.

اگر «res novae» آن زمان کارخانه‌ها، کارگری و سرمایه‌داری صنعتی بودند، مشکلات جدید امروز حول پلتفرم‌های دیجیتال، الگوریتم‌ها، داده‌ها و سیستم‌های اتوماسیون می‌چرخند که قدرت، اقتصاد و روابط اجتماعی را تغییر می‌دهند. به همین دلیل، بخشنامه به عنوان یک متن فنی در مورد نوآوری ارائه نمی شود، بلکه تلاشی برای تفسیر تحول دیجیتال در پرتو کرامت انسانی و خیر عمومی است. پاپ نوشت که فناوری به خودی خود شیطانی نیست. برعکس، متعلق به تاریخ و خلاقیت بشر است. اما وضعیت کنونی هم از نظر مقیاس و هم از نظر عمق متفاوت است: «هیچ‌وقت بشر این‌قدر بر خودش قدرت نداشته است»، این متن با توصیف فناوری‌هایی که اکنون فرآیندهای تصمیم‌گیری، تخیل جمعی و زندگی اجتماعی را به روش‌های فراگیرتر شکل می‌دهند، توضیح می‌دهد.

از این نقطه است که رابرت فرانسیس پریوست شروع به کار کرد: از تمرکز فزاینده قدرت اعمال شده از طریق سیستم هایی که به طور فزاینده ای مبهم اما تعیین کننده هستند، و از پرسشی که در سراسر این بخشنامه وجود دارد: وقتی تصمیمات به منطق الگوریتمی منتقل می شوند، از کرامت انسانی، دفاع از حقیقت، کار، عدالت اجتماعی و صلح چه چیزی باقی می ماند؟

تکنولوژی دفع

در بخشنامه عبارتی وجود دارد که کلید تفسیر کل سناریو می شود: “فناوری دفع”. نکته بسیار دور از هرگونه تلاشی برای کند کردن توسعه هوش مصنوعی یا انکار تأثیر بالقوه تحول‌آفرین آن است. برای رابرت فرانسیس پریوست، خلع سلاح هوش مصنوعی به معنای جلوگیری از تبدیل شدن آن به شکلی از قدرت است که قادر به تسلط بر وجود انسان است.

برای لئو چهاردهم، مسئله خود فناوری نیست، بلکه سازماندهی و کاربرد آن است. پاپ نوشت، هوش مصنوعی بخشی از رقابت جهانی امروز برای “کارآمدترین الگوریتم” و “بزرگترین مرکز داده” است، جایی که مزیت رقابتی نیز در حال تبدیل شدن به ژئوپلیتیک است. در این زمینه، چندین بازیگر زیرساخت دیجیتال، داده ها و ظرفیت محاسباتی را متمرکز می کنند که بر اطلاعات، اقتصاد و حتی دموکراسی تأثیر می گذارد.

خلع سلاح یعنی شکستن این معادله بین قدرت فنی و حق حاکمیت. پاپ توضیح می دهد: «همانند هر نقطه عطف تکنولوژیکی بزرگ، هوش مصنوعی بیش از همه به دنبال افزایش قدرت کسانی است که منابع اقتصادی و دسترسی به داده ها را در اختیار دارند.

به صراحت، این بخشنامه می‌گوید که صرفاً تنظیم کردن فناوری کافی نیست: باید آن را از انحصارها دور کرد، شفاف کرد و در معرض اعتراض قرار داد – یعنی توسط چندین بازیگر «قابل سکونت» شد. مهمتر از همه، باید از تبدیل شدن هوش مصنوعی به ابزاری برای تسلط اقتصادی، سیاسی یا نظامی توسط عده معدودی جلوگیری کرد. این یک استعاره اخلاقی نیست: این فراخوانی است برای جلوگیری از تبدیل منطق رقابت از یک زیرساخت مشترک به یک سیستم کنترل.

حقیقت در سیستم هایی که واقعیت را انتخاب می کنند

اگر فناوری قدرت را متمرکز کند، یکی از اولین تأثیرات عینی مربوط به چگونگی شکل گیری حقیقت جمعی است. این بخشنامه به موضوع اطلاعات نادرست می پردازد، اما به شیوه ای کاملاً عمیق تر، زیرا واقعیت درک شده، یا بهتر است بگوییم تجربه، به طور فزاینده ای توسط سیستم هایی فیلتر می شود که تصمیم می گیرند چه چیزی را نشان دهند و چه چیزی را پنهان کنند.

این فقط درباره اخبار جعلی یا محتوای جعلی به اشکال مختلف نیست. مشکل این است که پلتفرم‌ها و الگوریتم‌ها اطلاعات را بر اساس معیارهایی انتخاب می‌کنند تا توجه و تعامل را به حداکثر برسانند. به عبارت دیگر، آنچه قابل مشاهده می شود لزوماً آن چیزی نیست که حقیقت دارد، بلکه آن چیزی است که بهترین کار را در ایجاد واکنش ها دارد. به این ترتیب، حقیقت از بین نمی‌رود، بلکه به سیستم‌های غیرشفافی وابسته می‌شود که بر عقاید، برداشت‌ها و انتخاب‌های جمعی تأثیر می‌گذارند بدون اینکه همیشه چگونگی آن روشن باشد.