بر اساس گزارشی از شرکت آنتروپیک که درباره خطرات نوظهور برای امنیت ملی هشدار می‌دهد، جمهوری اسلامی از مدل‌های هوش مصنوعی توسعه‌یافته در آمریکا برای هدف قرار دادن کشتی‌های نیروی دریایی این کشور در خاورمیانه استفاده کرده است.

روزنامه وال‌استریت ژورنال با استناد به این گزارش نوشت یک گروه مرتبط با حکومت ایران، اطلاعات حاصل از فرستنده‌های موقعیت‌یاب کشتی‌ها و هواپیماها، تصاویر نظامی و عکس‌های ماهواره‌ای تجاری را گردآوری کرده بود تا کشتی‌های جنگی آمریکا را ردیابی کند و به دنبال نقاط آسیب‌پذیر در سامانه‌های ارتباطی مستقر روی این کشتی‌ها بگردد.

آنتروپیک اعلام کرد طرح این «عامل تهدید» را که از مدل پیشرفته هوش مصنوعی کلاود (Claude) استفاده می‌کرد، مختل کرده است.

این یافته یکی از چندین تهدیدی بود که در گزارش ۱۵۴ صفحه‌ای آنتروپیک تشریح شده است؛ گزارشی که تصویری از شیوه‌های تازه‌ای ارائه می‌دهد که دشمنان آمریکا از هوش مصنوعی برای ایجاد تهدیدهای جدی، از توسعه موشک‌های جدید و کارزارهای تهاجمی اطلاعات نادرست گرفته تا جاسوسی از مخالفان و حتی پیگیری امکان توسعه سلاح‌های بیولوژیک، علیه امنیت ملی استفاده می‌کنند.

شرکت‌های بزرگ هوش مصنوعی و شرکت‌های امنیتی به‌طور منظم گزارش‌هایی درباره تهدیدهای مرتبط با این فناوری منتشر می‌کنند تا افکار عمومی و شرکای خود را از خطرات احتمالی آگاه کنند.

- آنتروپیک از جزییات بهره‌گیری جمهوری اسلامی از هوش مصنوعی برای تبلیغات و نظارت پرده برداشت

به‌نوشته وال‌استریت ژورنال، ادعاهای مطرح‌شده در گزارش آنتروپیک در حالی منتشر می‌شود که در سراسر آمریکا بحثی جدی در این زمینه جریان دارد که آیا سیاست‌گذاران به‌طور کامل تهدیدها و تحولاتی را که هوش مصنوعی ممکن است در دهه‌های آینده برای امنیت ملی ایجاد کند، درک کرده‌اند یا نه.

قواعد آنتروپیک اجازه نمی‌دهد از محصولات این شرکت برای ساخت سلاح، انجام عملیات نظارتی یا اعمال خشونت استفاده شود. با این حال، در گزارش این شرکت تاکید شده که افراد اغلب می‌کوشیدند نیت واقعی خود را پنهان کنند و زمانی که کلاود (Claude) درخواست‌هایشان را رد می‌کرد، با روش‌های تازه و مکرر تلاش می‌کردند محدودیت‌ها را دور بزنند.

یکی از پژوهشگران ارشد آنتروپیک چهارشنبه ۱۸ شهریور به‌دلیل نگرانی از اینکه شرکت‌های هوش مصنوعی در حال توسعه سامانه‌هایی هستند که قادر به کنترل آنها نخواهند بود، استعفا کرد. هم‌زمان، دیگر کارکنان آنتروپیک هشدار داده‌اند که اگر هوش مصنوعی به‌درستی مهار نشود، می‌تواند بشریت را نابود کند.

اِوان هابینگر، یکی دیگر از دانشمندان ارشد آنتروپیک، در یک پست در شبکه‌های اجتماعی نوشت: «ما واقعا و صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد!»

او افزود: «من شخصا فکر می‌کنم احتمال آن در دهه آینده بیش از ۱۰ درصد است. معتقدم آنتروپیک تمام تلاش خود را می‌کند، اما ما هنوز برنامه‌ای برای حل مساله هم‌راستاسازی در اَبَرهوش نداریم و مشخص نیست که در مسیر دستیابی به چنین راه‌حلی قرار داشته باشیم.»

- واهمه از هوش مصنوعی خارج از کنترل، پژوهشگر آنتروپیک را ناچار به استعفا کرد

آنتروپیک در تازه‌ترین گزارش خود درباره شناسایی و مقابله با سوءاستفاده از هوش مصنوعی اعلام کرد تلاش‌هایی را برای استفاده از مدل‌های این شرکت در توسعه سلاح‌های بیولوژیک شناسایی و مختل کرده است، هرچند مشخص نکرد کدام کشورها یا دولت‌های خارجی با این تلاش‌ها مرتبط بوده‌اند.

در گزارش آنتروپیک آمده است: «بدون تدابیر حفاظتی مناسب، چنین قابلیت‌هایی می‌توانند پیامدهایی فاجعه‌بار داشته باشند.»

در موردی دیگر، آنتروپیک اعلام کرد گروهی در شمال یمن از کلاود برای توسعه نرم‌افزار هدایت تسلیحات پیشرفته، از جمله یک موشک بالستیک چندمرحله‌ای، استفاده کرده است.

یمن محل فعالیت گروه شورشی حوثی است؛ گروهی که به یکی از قدرتمندترین گروه‌های همسو با جمهوری اسلامی در خاورمیانه تبدیل شده و اخیرا با پیشروی در ساحل دریای سرخ کنترل خود بر آبراه راهبردی باب‌المندب را تثبیت کرده است.

در گزارش آنتروپیک درباره تلاش‌های مرتبط با توسعه تسلیحات در یمن آمده است: «تدابیر حفاظتی ما بسیاری از درخواست‌های آنها را مسدود کرد، اما نه همه آنها را.»

این شرکت گفت حساب‌های مرتبط با این فعالیت را مسدود کرده، اطلاعات مربوط به آن را با شرکای دولتی به اشتراک گذاشته و پروتکل‌های شناسایی جدیدی برای کاهش خطر سوءاستفاده در آینده توسعه داده است.

آنتروپیک همچنین اعلام کرد یک عملیات همسو با دولت چین را شناسایی کرده است که از کلاود برای ردیابی و نظارت بر اویغورها ــ اقلیت قومی‌ای که عمدتاً در غرب چین زندگی می‌کنند ــ استفاده کرده است.

یکی از محورهای اصلی این عملیات، اویغورهایی بودند که به ارتش تازه‌تشکیل‌شده سوریه پیوسته‌اند.

- آنتروپیک ارائه دو مدل پیشرفته هوش مصنوعی خود را متوقف کرد

طبق گزارش آنتروپیک، این عملیات چینی همچنین کارزاری شامل گزارش‌دهی انبوه و تقویت پیام‌ها از طریق شبکه‌های رباتی علیه روزنامه‌نگاران دیاسپورای اویغور به راه انداخته بود.

آمریکا در سال ۲۰۲۱ سرکوب اویغورها توسط دولت چین را نسل‌کشی اعلام کرد.

گروه دیگری از حساب‌های مرتبط با دولت چین از کلاود برای تهیه پرونده‌هایی درباره رهبران مذهبی در سراسر آسیا استفاده کرده بود که پکن به آنها با سوءظن نگاه می‌کند.

بر اساس این گزارش، این افراد شامل کاردینال‌های ارشد کاتولیک در سراسر آسیا، رهبران کلیسای پرسبیترین در تایوان، اعضای جامعه مدنی بودایی تبت و دولت تبتی در تبعید بودند.

عوامل مستقر در روسیه نیز تلاش کردند از کلاود برای ساخت دسته‌های خودمختار پهپادهای مرگبار با استفاده از داده‌های میدان‌های نبرد اوکراین استفاده کنند و همچنین کارزارهای اطلاعات نادرست را از طریق توزیع تبلیغات دولتی روسیه که با هوش مصنوعی تولید شده بود، در کشورهای غنی از منابع در آفریقای مرکزی به راه اندازند.

آنتروپیک در گزارش خود نوشت: «امیدواریم یافته‌های این گزارش به دیگر توسعه‌دهندگان کمک کند الگوهای مشابه را در پلتفرم‌های خود شناسایی کنند، به دولت‌ها و جامعه مدنی تصویر روشن‌تری از چگونگی شکل‌گیری تهدیدهای نوظهور بدهد و دفاع جمعی را تقویت کند.»