شرکت اوپنایآی اعلام کرد که یک عامل خودمختار مبتنی بر مدلهای پیشرفته هوش مصنوعی این شرکت، در جریان یک آزمایش امنیتی از کنترل خارج شد و با انجام یک حمله سایبری، زیرساختهای استارتآپ هوش مصنوعی هاگینگ فیس (Hugging Face) را که هفته گذشته هدف نفوذ قرار گرفته بود، به خطر انداخت.
سازنده چت جیپیتی در حال آزمایش تواناییهای برخی از پیشرفتهترین مدلهای خود در یک محیط کنترلشده بود، اما این عامل هوش مصنوعی از محیط محدودشده خارج شد، به اینترنت دسترسی پیدا کرد و برای تحقق هدف تعیینشده در آزمایش، به سامانههای هاگینگ فیس نفوذ کرد.
رویترز در گزارشی در همین زمینه نوشت که این حادثه نشان میدهد گسترش تواناییهای هوش مصنوعی اکنون همان تهدید امنیتی را به واقعیت تبدیل کرده که کارشناسان مدتهاست درباره آن هشدار دادهاند و حتی بزرگترین توسعهدهندگان نیز ممکن است در برابر آسیبپذیریهایی که مدلهای خودشان میتوانند از آنها سوءاستفاده کنند، غافلگیر شوند.
اوپنایآی سهشنبه ۳۰ تیر در یک پست وبلاگی اعلام کرد این رخداد «یک حادثه سایبری بیسابقه با استفاده از توانمندیهای پیشرفته حملات سایبری» بود و این شرکت در حال تقویت تدابیر حفاظتی خود است.
این حادثه همچنین توجه زیادی را جلب کرده است، زیرا شرکت هاگینگ فیس مستقر در نیویورک اعلام کرد برای مهار این حمله از یک مدل متنباز چینی استفاده کرده است؛ چرا که مدلهای پیشرفته آمریکایی، بهدلیل ناتوانی در تشخیص مدافع از مهاجم، از پردازش دادههای لازم برای تحلیل حمله خودداری کردند.
- 
این شرکت هفته گذشته در یک پست وبلاگی اعلام کرد که برای تحلیل این حمله از مدل جیالام-۵.۲ (GLM-5.2) متعلق به شرکت ژیپو ایآی (Zhipu AI) استفاده کرده است؛ اقدامی که همچنین امکان نگهداری دادههای مهاجم و هرگونه اطلاعات محرمانه یا اعتبارنامهها را در داخل سامانههای خود فراهم کرد.
مدل جیالام-۵.۲ و همچنین مدل کیمی کی۳ (Kimi K3) متعلق به شرکت موونشات (Moonshot) مستقر در پکن، اخیرا به دلیل برخورداری از تواناییهایی نزدیک به برترین مدلهای آمریکایی، اما با هزینه کمتر و بدون محدودیتهایی که استفاده از رقبای آمریکایی را در حوزههایی مانند امنیت سایبری محدود میکند، توجه سیلیکونولی را به خود جلب کردهاند.
توماس ولف، از بنیانگذاران شرکت هاگینگ فیس، در شبکه اجتماعی ایکس نوشت: «وقتی یک مدل پیشرفته در حال حمله به شماست و در زیرساختهایتان بهصورت جانبی حرکت میکند، مدافعان باید ظرف چند ساعت یا حتی چند دقیقه به ابزارهایی نزدیک به پیشرفتهترین مدلها دسترسی گسترده داشته باشند، نه اینکه به یک برنامه دسترسی محدود، بسته و نیازمند تایید هدایت شوند.»
نشانهای از آینده
نفوذ به هاگینگ فیس، که میزبان مدلهای متنباز زبان بزرگ و مجموعههای داده است، جامعه امنیت سایبری را نگران کرد؛ بهویژه پس از آنکه این شرکت هفته گذشته اعلام کرد این رخنه «به هیچیک از مواردی که پیشتر با آنها روبهرو شده بودیم شباهت نداشت» و «از ابتدا تا انتها با یک سامانه عامل خودمختار هوش مصنوعی هدایت شده بود.»
افشای این موضوع از سوی اوپنایآی که مدلهای پیشرفته این شرکت عامل این حمله بودهاند، آن هم با وجود اینکه در محیطی که این شرکت آن را «بسیار بسته و منزوی» توصیف کرده بود نگهداری میشدند، احتمالا نگرانیها درباره قدرت و مخاطرات مدلهای پیشرفته هوش مصنوعی را تشدید خواهد کرد.
- 
گرگ کاسار، نماینده دموکرات ایالت تگزاس، این حادثه را نگرانکننده توصیف کرد و در بیانیهای گفت: «هوش مصنوعی با سرعتی فوقالعاده در حال پیشرفت است، بدون آنکه مقررات واقعی برای حفظ امنیت ما وجود داشته باشد.»
او خواستار آزمایشهای ایمنی مستقل و اجباری، افشای اجباری حوادث امنیتی و همکاری بینالمللی برای «حفظ امنیت مردم در برابر یک فاجعه کامل» شد.
دفتر مدیر ملی امنیت سایبری آمریکا، سازمان امنیت سایبری و امنیت زیرساخت (CISA) و آژانس امنیت ملی آمریکا (NSA) تاکنون در این زمینه اظهارنظر نکردهاند.
کیتی موسوریس، مدیرعامل شرکت لوتا سکیوریتی (Luta Security)، گفت این حادثه نشانهای از رخنههای بیشتری است که در آینده رخ خواهند داد.
او مدلهای امروزی را به «باهوشترین اختاپوسهای فرارکننده جهان، با بازوهای بیشمار و توانایی عبور از هر شکافی» تشبیه کرد.
موسوریس افزود: «آزمایشگاهها و نهادهای دولتی ارزیاب باید روی توانایی مهار، پایش و اطلاعرسانی به طرفهای آسیبدیده زمانی که یک هوش مصنوعی دوباره مانند هودینی از محدودیتها فرار میکند، کار کنند؛ ترجیحا پیش از آنکه به شخص ثالثی آسیب برساند. چنین سازوکاری امروز وجود ندارد.»
مت سوییچ، مهندس شرکت امنیت سایبری مبتنی بر عاملهای هوش مصنوعی تالمو (Tolmo)، گفت این حادثه نشان میدهد که مدلهای پیشرفته در حال «کاهش فاصله خود با مهاجمان پیشرفته سایبری» هستند.