شرکت اوپن‌ای‌آی با هشدار درباره احتمال شتاب گرفتن توسعه هوش مصنوعی به دست خود این فناوری، خواستار وضع مقررات ملی و الزام‌آور برای ایمنی هوش مصنوعی در آمریکا شد. این درخواست پس از بروز چند مورد رفتار خارج از کنترل عامل‌های هوش مصنوعی مطرح شده است.

خبرگزاری رویترز پنج‌شنبه ۱۹ شهریور گزارش داد مدل‌های هوش مصنوعی شرکت‌هایی از جمله اوپن‌ای‌آی در جریان آزمایش‌ها به سامانه‌های خارجی دسترسی یافته‌اند.

این موارد دشواری مهار رفتارهای پیش‌بینی‌نشده عامل‌های پیشرفته را آشکار کرده و درخواست‌ها را برای سخت‌گیری بیشتر در مقررات ایمنی افزایش داده است.

کریس لیهان، مدیر امور بین‌المللی اوپن‌ای‌آی، در یادداشتی نوشت: «چشم‌انداز شتاب گرفتن توسعه هوش مصنوعی به کمک خود این فناوری، مستلزم اقداماتی فراتر از تعهدات داوطلبانه است. ایالات متحده به مقررات ملی الزام‌آور و مبتنی بر قابلیت‌ها نیاز دارد که هم‌زمان با تحول این فناوری، به‌روز شود.»

این موضع‌گیری گامی مهم در راستای تلاش‌های اوپن‌ای‌آی برای تصویب مقررات ملی در زمینه ایمنی هوش مصنوعی به شمار می‌رود.

کنگره آمریکا هنوز چارچوبی فدرال برای قانون‌گذاری در این حوزه تصویب نکرده است، اما چندین ایالت مقررات جداگانه‌ای به اجرا گذاشته‌اند.

اوپن‌ای‌آی و رقیبش آنتروپیک در حالی برای عرضه اولیه سهام آماده می‌شوند که هوش مصنوعی به‌سرعت به یکی از مهم‌ترین محورهای سرمایه‌گذاری در این دهه تبدیل شده است.

روزنامه وال‌استریت ژورنال ۱۸ شهریور نوشت نگرانی‌ها در آزمایشگاه‌های هوش مصنوعی رو به افزایش است و رقابت میان شرکت‌های فناوری، آنها را به مسابقه‌ای برای ساخت مدل‌های خودبهبوددهنده سوق داده؛ مدل‌هایی که ممکن است از کنترل انسان خارج شوند.

بر اساس این گزارش، جیکوب کاکسون، از پژوهشگران شرکت آنتروپیک، به‌دلیل نگرانی از رقابت این شرکت و رقبایش برای ساخت سامانه‌های هوش مصنوعی خودبهبوددهنده، از این صنعت کناره‌گیری کرده است.

- از فراوانی نامحدود تا بی‌قدرتی انسان؛ ماسک آینده بشر با هوش مصنوعی را ترسیم می‌کند

درخواست از کنگره برای تصویب مقررات الزام‌آور

رویترز در ادامه گزارش داد اوپن‌ای‌آی از کنگره خواست الزامات ملی ایمنی هوش مصنوعی را متناسب با قابلیت سامانه‌ها تصویب کند.

استانداردهای آزمایش، ارزیابی‌های مستقل، تدابیر امنیت سایبری و مقررات گزارش‌دهی حوادث برای پیشرفته‌ترین سامانه‌ها از جمله پیشنهادهای این شرکت است.

سازنده چت‌جی‌پی‌تی از کنگره خواست پیش از پایان دوره کاری خود در ماه دسامبر در این زمینه اقدام کند. این شرکت افزود تا زمان تصویب مقررات فدرال، همچنان از قانون‌گذاری ایالت‌ها درباره هوش مصنوعی حمایت خواهد کرد.

اوپن‌ای‌آی اعلام کرد «خودبهبوددهی بازگشتی کاملا خودمختار» که در آن هوش مصنوعی به‌طور مستقل به توسعه نسل‌های بعدی این فناوری می‌پردازد، «در حال حاضر رخ نمی‌دهد» و «تا زمانی که نتوان از ایمنی آن اطمینان یافت، نباید دنبال شود».

۱۰ تیر، یک هیات مستقل وابسته به سازمان ملل متحد هشدار داد پیشرفت هوش مصنوعی با سرعتی فراتر از درک علمی و سیاست‌گذاری دولت‌ها در حال وقوع است و در نتیجه، هیچ تضمینی وجود ندارد که این فناوری در آینده به آسیب‌های فاجعه‌بار منجر نشود.

این هیات افزود سیاست‌گذاران با چالشی فزاینده روبه‌رو هستند؛ از یک سو، تدوین مقررات موثر برای هوش مصنوعی به شواهد علمی معتبر نیاز دارد و از سوی دیگر، سرعت دستیابی به این شواهد از آهنگ تحول این فناوری عقب مانده است.

- مدیر پیشین هوش مصنوعی پنتاگون درباره گسترش «حکومت نظارتی» در آمریکا هشدار داد

حمایت از قوانین ایمنی هوش مصنوعی در کالیفرنیا

رویترز در ادامه نوشت اوپن‌ای‌آی از چهار لایحه ایالت کالیفرنیا برای تنظیم فعالیت سامانه‌های هوش مصنوعی حمایت کرده است.

گوین نیوسام، فرماندار کالیفرنیا، ۱۸ شهریور دو مورد از این لایحه‌ها را امضا و به قانون تبدیل کرد. این قوانین چارچوبی برای ارزیابی مستقل و حسابرسی سامانه‌های هوش مصنوعی از سوی نهادهای ثالث ایجاد می‌کنند.

دو لایحه دیگر به تدابیر غربالگری برای مقابله با تهدیدهای زیستی مبتنی بر هوش مصنوعی و حفاظت از کودکان در برابر خطرات چت‌بات‌ها اختصاص دارند.

اوپن‌ای‌آی در بیانیه خود نوشت: «ما پیش‌تر از برخی از این لوایح حمایت نکرده بودیم، اما با توجه به جهش اخیر در قابلیت‌های هوش مصنوعی، موضع خود را مورد بازنگری قرار دادیم و اکنون از آنها حمایت می‌کنیم.»

رویترز پیش‌تر گزارش داده بود عامل‌های هوش مصنوعی اوپن‌ای‌آی اوایل سال جاری میلادی برای برقراری ارتباطات غیرمجاز از بیش از ۱۰ وب‌سایت استفاده کرده‌اند.

این یافته نشان داد دامنه فعالیت‌های خارج از کنترل این عامل‌ها گسترده‌تر از آن بوده است که پیش‌تر افشا شده بود.

عامل‌های اوپن‌ای‌آی همچنین در بهار امسال کنترل یک وب‌سایت آلمانی را به دست گرفتند و آن را به تابلوی اعلاناتی برای ارتباط با دیگر عامل‌های هوش مصنوعی تبدیل کردند.

به گزارش رویترز، مقام‌های این شرکت چند هفته پیش از انتشار خبر از این موضوع آگاه شده بودند، اما آن را علنی نکردند.

- مرز باریک میان یادگیری و وابستگی؛ چگونه بدون افت عملکرد ذهنی از هوش مصنوعی استفاده کنیم؟

شرکت آنتروپیک نیز ۱۸ شهریور چهارمین مورد نفوذ مدل‌های هوش مصنوعی خود به سامانه‌های خارجی هنگام آزمایش را افشا کرد.

این شرکت در ماه ژوئیه اعلام کرده بود شماری از مدل‌های کلود در جریان آزمایش‌های امنیت سایبری به سامانه‌های سه شرکت نفوذ کرده‌اند.

اوپن‌ای‌آی تاکید کرد استانداردهای نظارت بر صنعت هوش مصنوعی نباید به مرزهای ایالات متحده محدود بمانند.

این شرکت افزود: «اگر ایالات متحده می‌خواهد در عرصه بین‌المللی پیشتاز باشد، باید ابتدا استانداردهای معتبری در داخل کشور ایجاد کند. ما بیش از پیش به این نتیجه رسیده‌ایم که تدوین استانداردهای بین‌المللی هماهنگ نیز ضروری خواهد بود.»