پاپ لئو چهاردهم خواستار «خلع سلاح» مؤثر هوش مصنوعی شد

پاپ لئو چهاردهم با هشدار درباره پیامدهای هوش مصنوعی، خواستار حکمرانی اخلاقی بر این فناوری شد و نسبت به خطراتی همچون سلاح‌های خودمختار، گسترش اطلاعات نادرست، افزایش نابرابری و تهدید کرامت انسانی هشدار داد.

۲۵ مه — پاپ لئو چهاردهم درباره آینده هوش مصنوعی هشدار داده و تأکید کرده است که فناوری‌هایی که با سرعت در حال پیشرفت‌اند باید همچنان به‌طور کامل در خدمت کرامت انسانی، مسئولیت اخلاقی و خیر عمومی باقی بمانند.

در یک منشور پاپی (انسیلیکال) نزدیک به ۴۳ هزار کلمه، رهبر کاتولیک‌های جهان هوش مصنوعی را یکی از چالش‌های تعیین‌کننده عصر حاضر توصیف می‌کند و هشدار می‌دهد که پیشرفت فناوری، اگر از بنیان‌های اخلاقی و معنوی جدا شود، می‌تواند به شکل‌گیری «برج بابل» جدیدی بینجامد؛ سامانه‌ای قدرتمند که بر جاه‌طلبی انسانی بنا شده است نه بر خرد.

به گزارش Vatican News، پاپ لئو در ابتدای این سند می‌نویسد: «بشریت که به دست خداوند با همه شکوهش آفریده شده، امروز با انتخابی سرنوشت‌ساز روبه‌رو است.» در این منشور از دولت‌ها، شرکت‌های فناوری و سازمان‌های بین‌المللی خواسته شده است تضمین کنند که توسعه هوش مصنوعی در خدمت کل جامعه باشد و نه آنکه قدرت را در دست شرکت‌ها، نخبگان سیاسی یا گروه کوچکی از رهبران فناوری متمرکز کند.

این سند در جریان مراسم رونمایی عمومی در واتیکان توجه جهانی را به خود جلب کرد؛ جایی که پاپ لئو در کنار الهی‌دانان، مقام‌های ارشد واتیکان و کریستوفر اولا، از بنیان‌گذاران شرکت هوش مصنوعی Anthropic، حضور یافت. این رویداد نشان‌دهنده مشارکت روزافزون واتیکان در مباحث مربوط به پیامدهای اجتماعی و اخلاقی هوش مصنوعی است.

در مرکز این منشور نگرانی پاپ از آن است که هوش مصنوعی پیش از ایجاد سازوکارهای حفاظتی کافی، بتواند بازارهای کار، جنگ‌ها، نهادهای دموکراتیک و روابط انسانی را به‌طور بنیادین دگرگون کند. او هشدار می‌دهد که سامانه‌های قدرتمندتر هوش مصنوعی، در صورت نبود نظارت مؤثر، ممکن است نابرابری اقتصادی را تشدید کنند، انتشار اطلاعات نادرست را سرعت بخشند و پیوندهای انسانی اصیل را تضعیف کنند.

پاپ توجه ویژه‌ای به کاربرد نظامی هوش مصنوعی معطوف کرده و توسعه سلاح‌های خودمختار و جنگ‌های مبتنی بر الگوریتم را محکوم کرده است. به گفته او، چنین فناوری‌هایی می‌توانند با دور کردن تصمیم‌گیران از پیامدهای انسانی درگیری‌ها، موانع اخلاقی در برابر خشونت را کاهش دهند. خبرگزاری رویترز گزارش داد که پاپ لئو خواستار «خلع سلاح مؤثر» هوش مصنوعی شده و هشدار داده است که عادی‌سازی جنگ‌های خودمختار می‌تواند احتمال درگیری‌های دائمی را افزایش دهد و آن‌ها را از دید افکار عمومی پنهان‌تر سازد.

این منشور همچنین به منشور تاریخی «Rerum Novarum» صادرشده در سال ۱۸۹۱ توسط پاپ لئو سیزدهم اشاره می‌کند؛ سندی که به تحولات اجتماعی ناشی از انقلاب صنعتی پرداخت. پاپ لئو چهاردهم استدلال می‌کند که هوش مصنوعی نیز تحولی فناورانه با همان اندازه تأثیرگذار است و نیازمند حمایت‌های تازه برای کارگران، جوامع آسیب‌پذیر و کسانی است که در معرض جابه‌جایی اقتصادی قرار دارند.

با وجود اذعان به ظرفیت‌های هوش مصنوعی در پیشبرد پزشکی، آموزش، پژوهش‌های علمی و خدمات عمومی، پاپ این تصور را رد می‌کند که نوآوری فناوری ذاتاً مفید است. در این سند آمده است: «فناوری هرگز خنثی نیست»، زیرا سامانه‌های هوش مصنوعی ناگزیر بازتاب‌دهنده ارزش‌ها، انگیزه‌ها و اولویت‌های افراد و نهادهایی هستند که آن‌ها را طراحی می‌کنند.

مداخله واتیکان در این موضوع در زمانی حساس در عرصه حکمرانی جهانی هوش مصنوعی صورت می‌گیرد. سیاست‌گذاران در سراسر جهان در تلاش‌اند خود را با پیشرفت‌های سریع در حوزه هوش مصنوعی مولد هماهنگ کنند، در حالی که نگرانی‌ها درباره از دست رفتن مشاغل، نظارت گسترده، اطلاعات نادرست، امنیت سایبری و سلاح‌های خودمختار رو به افزایش است. هم‌زمان، شرکت‌های فناوری میلیاردها دلار در توسعه سامانه‌های پیشرفته‌تر هوش مصنوعی سرمایه‌گذاری می‌کنند و همین امر درخواست‌ها برای نظارت قوی‌تر و مقررات بین‌المللی را تشدید کرده است.

این منشور نشان می‌دهد که واتیکان قصد دارد نقشی فعال در شکل‌دهی به بحث‌های اخلاقی پیرامون هوش مصنوعی ایفا کند. پاپ لئو از آغاز دوران پاپی خود بارها هشدار داده است که فناوری‌های دیجیتال ممکن است انسان‌ها را به مصرف‌کنندگان منفعل تبدیل کنند، روابط انسانی را تضعیف کنند و ابعاد معنوی زندگی را تضعیف نمایند. او همچنین رهبران مذهبی را از تکیه بر خطبه‌های تولیدشده توسط هوش مصنوعی یا جایگزین‌های دیجیتال به جای ارتباط واقعی و معنوی با مؤمنان برحذر داشته است.

در حالی که دولت‌ها و شرکت‌ها برای توسعه سامانه‌های هرچه قدرتمندتر هوش مصنوعی با یکدیگر رقابت می‌کنند، پیام واتیکان بُعدی اخلاقی به بحثی می‌افزاید که اغلب تحت سلطه ملاحظات فنی و تجاری قرار دارد. پرسش اصلی که پاپ مطرح می‌کند این نیست که آیا هوش مصنوعی می‌تواند جامعه را دگرگون کند، بلکه این است که آیا بشر خواهد توانست تضمین کند این دگرگونی در راستای ارزش‌های انسانی باقی بماند.