واتیکان سال‌ها پیش از هشدار شرکت‌های بزرگ فناوری درباره هوش مصنوعی، از خطر بروز نوعی «آخرالزمان» ناشی از این فناوری گفته بود؛ دغدغه‌ای که اکنون پاپ لئو آن را به یکی از محورهای اصلی دوران رهبری خود تبدیل کرده است.

خبرگزاری رویترز پنج‌شنبه دوم مهر گزارش داد لئو، نخستین پاپ متولد آمریکا، از آغاز دوران مسئولیت خود در کلیسای کاتولیک بارها درباره خطرهای احتمالی هوش مصنوعی سخن گفته و خواستار وضع قواعد جهانی برای کنترل توسعه این فناوری، به‌ویژه در حوزه تسلیحات، شده است.

او در ماه مه از رهبران جهان خواست برای نظارت بر صنعت هوش مصنوعی مقرراتی جهانی تدوین کنند. انتظار می‌رود پاپ لئو جمعه سوم مهر نیز در سخنرانی خود در مقر یونسکو در پاریس، بار دیگر درباره پیامدهای این فناوری هشدار دهد.

پائولو بنانتی، از مشاوران برجسته واتیکان در حوزه هوش مصنوعی، در گفت‌وگو با رویترز به درخواست‌های اخیر برای کند کردن روند توسعه این فناوری اشاره کرد؛ مطالبه‌ای که مدیران آنتروپیک، اوپن‌ای‌آی و ایکس‌ای‌آی نیز از آن حمایت کرده‌اند.

او گفت برای واتیکان «این موضوع از امروز آغاز نشده است» و هشدار داد قدرت دگرگون‌کننده هوش مصنوعی می‌تواند تغییرات اجتماعی عظیمی ایجاد کند که پیش‌بینی پیامدهای آن دشوار است.

این اظهارات در شرایطی مطرح می‌شود که نگرانی‌ها درباره تهدیدهای هوش مصنوعی در هفته‌های اخیر افزایش یافته است.

شرکت آنتروپیک ۲۰ شهریور اعلام کرد نهادهای همسو با جمهوری اسلامی از هوش مصنوعی «کلود» برای نظارت بر شهروندان، گردآوری اطلاعات و طراحی تبلیغات حکومتی بهره گرفته‌اند.

این شرکت همچنین از شناسایی چند عملیات جداگانه علیه شهروندان ایرانی خبر داد.

- گزارش نادرست هوش مصنوعی نزدیک بود ارتش آمریکا را وارد عملیات علیه یک کشتی چینی کند

آینده بشریت در خطر است

لئو در فراخوان ماه مه که نخستین سند مهم دوران پاپی او به شمار می‌رود، اعلام کرد سامانه‌های هوش مصنوعی می‌توانند اطلاعات نادرست را گسترش دهند و جهان را به سوی جنگی بی‌پایان بکشانند.

پیترو پارولین، عالی‌رتبه‌ترین مقام دیپلماتیک واتیکان، هفته گذشته در رم بار دیگر خواسته پاپ لئو را برای تدوین مقررات بین‌المللی تکرار کرد و گفت کشورها نمی‌توانند در برخورد با این فناوری «به‌تنهایی عمل کنند».

او افزود «آینده بشریت واقعا در خطر است» و جهان برای مدیریت این پدیده به مشارکت همگانی و قواعد مشترک نیاز دارد.

کنفرانس اسقف‌های کاتولیک آمریکا ۲۵ شهریور اعلام کرد پس از دیدار شماری از رهبران این نهاد با مدیران شرکت‌ها، کارگروهی برای بررسی مسائل مرتبط با هوش مصنوعی تشکیل داده است.

این نهاد خبر داد گفت‌وگوها بر راه‌های حفظ هوش مصنوعی «در خدمت بشریت» و ضرورت مقابله فوری با خطرهای واقعی این فناوری متمرکز بوده است.

۱۹ شهریور، شرکت اوپن‌ای‌آی بر لزوم وضع مقررات ملی و الزام‌آور برای ایمنی هوش مصنوعی در آمریکا تاکید کرد.

این درخواست پس از بروز چند مورد رفتار خارج از کنترل عامل‌های هوش مصنوعی مطرح شد.

- چت‌جی‌پی‌تی شاهدان خیالی ساخت، وکیل پرونده قتل جریمه شد

از خطر جنگ جهانی تا سلاح‌های خودمختار

هشدارهای واتیکان درباره هوش مصنوعی به سال ۲۰۱۹ بازمی‌گردد؛ زمانی که دو کنفرانس درباره خطرهای احتمالی این فناوری برگزار کرد.

پاپ فرانسیس، رهبر پیشین کاتولیک‌های جهان، در یکی از این نشست‌ها هشدار داد اطلاعات نادرست تولیدشده با هوش مصنوعی می‌تواند جرقه یک جنگ جهانی دیگر را بزند.

واتیکان در سال ۲۰۲۰ با مایکروسافت، آی‌بی‌ام، سازمان خواربار و کشاورزی ملل متحد و دولت ایتالیا همراه شد و بر توسعه هوش مصنوعی به شیوه‌ای تاکید کرد که هدف آن صرفا افزایش سود یا جایگزینی تدریجی نیروی انسانی نباشد.

یکی از نگرانی‌های اصلی پاپ لئو استفاده نظامی از هوش مصنوعی است. او خواستار نظارت بر توسعه سامانه‌های تسلیحاتی، از جمله سلاح‌های مورد استفاده در جنگ روسیه و اوکراین، شده است.

لئو پیش‌تر هشدار داد این سلاح‌ها چنان پیشرفت کرده‌اند که «عملا از توان انسان برای کنترل آن‌ها خارج شده‌اند».

بنانتی نیز پهپادهای مجهز به هوش مصنوعی را به مین‌های زمینی تشبیه کرد که در انتخاب اهداف خود تمایزی قائل نمی‌شوند.

او هشدارهای واتیکان درباره هوش مصنوعی را با موضع دیرینه پاپ‌ها درباره خلع سلاح هسته‌ای مقایسه کرد و گفت اگر تسلیحات هسته‌ای توان نابودی بشریت را دارند، دستکاری محتوای تولیدشده با هوش مصنوعی مولد در فضای اجتماعی نیز می‌تواند توان جوامع برای کنار هم ماندن را از بین ببرد.

بنانتی افزود سلاح‌های هسته‌ای در تاسیسات مشخصی نگهداری می‌شوند و می‌توان آن‌ها را شمارش و کنترل کرد، اما هوش مصنوعی تا این اندازه قابل مشاهده و رصد نیست.

روزنامه وال‌استریت ژورنال ۱۸ شهریور نوشت نگرانی‌ها در آزمایشگاه‌های هوش مصنوعی رو به افزایش است و رقابت میان شرکت‌های فناوری، آنها را به مسابقه‌ای برای ساخت مدل‌های خودبهبوددهنده سوق داده؛ مدل‌هایی که ممکن است از کنترل انسان خارج شوند.

بر اساس این گزارش، جیکوب کاکسون، از پژوهشگران شرکت آنتروپیک، به‌دلیل نگرانی از رقابت این شرکت و رقبایش برای ساخت سامانه‌های هوش مصنوعی خودبهبوددهنده، از این صنعت کناره‌گیری کرده است.