شرکت آنتروپیک می‌گوید نهادهای همسو با جمهوری اسلامی از هوش مصنوعی «کلود» برای طراحی تبلیغات حکومتی، نظارت بر شهروندان و جمع‌آوری اطلاعات استفاده کرده‌اند. این تحقیق همچنین چند عملیات جداگانه علیه ایرانیان را شناسایی کرده است.

آنتروپیک در گزارشی مفصل تحت عنوان «شناسایی و مقابله با سوءاستفاده از هوش مصنوعی» که ۱۹ شهریور منتشر شد، مجموعه‌ای از عملیات نفوذ، نظارت و فعالیت‌های سایبری مرتبط با حکومت ایران را تشریح کرد.

بر اساس یافته‌های این شرکت، عاملان مرتبط با نهادهای حکومتی ایران از کلود برای طراحی کارزارهای «جنگ نرم»، ایجاد شخصیت‌های جعلی، پنهان‌کردن منبع حکومتی محتوا، ساخت ابزارهای نظارتی و تهیه اطلاعات درباره مخالفان استفاده کرده‌اند.

آنتروپیک همچنین فعالیت‌های جداگانه‌ای را شناسایی کرده که به سازمان مجاهدین خلق و شورای ملی مقاومت، یک شرکت اطلاعاتی اسرائیلی-سنگاپوری و چند عامل سایبری دارای ارتباط با ایران نسبت داده شده‌اند.

این شرکت همه حساب‌های شناسایی‌شده را مسدود کرده است. با این حال، تاکید دارد که در برخی پرونده‌ها میزان موفقیت، دامنه انتشار یا تاثیر واقعی عملیات مشخص نیست.

سه عملیات نفوذ به نهادهای حکومتی ایران نسبت داده شد
آنتروپیک اعلام کرد سه حساب «همسو با حکومت ایران» را شناسایی و حذف کرده است که برای طراحی عملیات نفوذ از کلود استفاده می‌کردند.

تحقیق این شرکت هر یک از این عملیات را به عاملی نسبت می‌دهد که در یکی از نهادهای تبلیغاتی حکومت ایران یا به نمایندگی از آن فعالیت می‌کرد:

\- سازمان فرهنگ و ارتباطات اسلامی، زیرمجموعه وزارت فرهنگ و ارشاد اسلامی
\- دفتر تبلیغات اسلامی خراسان رضوی و یک اتاق فرمان «جنگ شناختی» مستقر در حوزه‌ای در مشهد
\- رصدخانه فرهنگی «بینا»، وابسته به سازمان تبلیغات اسلامی

بر اساس این گزارش، گردانندگان این حساب‌ها فعالیت خود را بخشی از برنامه «جنگ نرم» یا «جنگ شناختی» معرفی کرده بودند؛ برنامه‌ای غیرنظامی برای شکل‌دادن به افکار عمومی در داخل و خارج ایران.

- واهمه از هوش مصنوعی خارج از کنترل، پژوهشگر آنتروپیک را ناچار به استعفا کرد

آنان از کلود برای تدوین برنامه کارزارها، کتابچه‌های عملیاتی، شیوه‌نامه‌های ایدئولوژیک، سامانه‌های شخصیت‌سازی، بانک اهداف، پروتکل‌های هشدار زودهنگام و اسناد برنامه‌ریزی در سطح وزارتخانه استفاده کردند.

آنتروپیک می‌گوید هوش مصنوعی در این عملیات فقط ابزار تولید متن نبود، بلکه به‌عنوان لایه اصلی اداری و عملیاتی به کار گرفته شد و امکان تولید ساختارها و اسنادی را فراهم کرد که در حالت عادی به یک دفتر مجهز به نیروی انسانی نیاز داشت.

شبکه‌ها منبع حکومتی محتوا را پنهان می‌کردند
یکی از محورهای اصلی این عملیات، «پول‌شویی انتساب» بود؛ به این معنا که محتوای مورد حمایت حکومت به شکلی بازنویسی می‌شد که از زبان نویسندگان خارجی، رسانه‌های مستقل یا شهروندان عادی منتشر شده به نظر برسد.

یکی از عوامل مرتبط با سازمان فرهنگ و ارتباطات اسلامی در توضیح نقش رایزنان فرهنگی گفته بود وظیفه آنان این است که «نه راوی، بلکه کارگردان» روایت‌ها باشند.

به گفته آنتروپیک، عوامل برای پنهان‌کردن هویت و محل فعالیت خود نیز از شبکه‌های خصوصی مجازی و شماره تلفن کشورهای دیگر استفاده می‌کردند، زیرا دسترسی مستقیم به کلود از داخل ایران مسدود است.

با وجود این، آنان در گفت‌وگوهای خود بارها به محل، سمت و سازمان محل فعالیتشان اشاره کردند. سربرگ‌های رسمی اسناد و تطبیق اطلاعات با منابع علنی نیز به آنتروپیک برای مرتبط‌کردن حساب‌ها با نهادهای حکومتی کمک کرد.

این شرکت انتشار بخشی از محتوا را در کانال‌های همسو با روایت‌های سپاه پاسداران مشاهده کرده و دامنه عملیات را در سطح سوم معیار ارزیابی خود قرار داده است؛ یعنی محتوا در چندین پلتفرم منتشر شده بود.

«جهاد تبیین» مبنای عملیات تبلیغاتی بود
آنتروپیک می‌گوید هر سه عملیات، کارزارهای خود را آشکارا به مفهوم حکومتی «جهاد تبیین» مرتبط کرده بودند.

طبق گزارش، در این چارچوب نهادهای جمهوری اسلامی تولید تبلیغات را هم وظیفه‌ای دینی و هم اقدامی راهبردی تلقی می‌کنند. اصطلاحات مرتبط با این آموزه مستقیما در جلسات عوامل با کلود و اسناد برنامه‌ریزی داخلی مشاهده شده است.

- مدیر پیشین هوش مصنوعی پنتاگون درباره گسترش «حکومت نظارتی» در آمریکا هشدار داد

یکی از شبکه‌های مستقر در مشهد، کارخانه محتوایی چند‌استانی با نام «منجنیق» را اداره می‌کرد. این مجموعه از ده‌ها فعال برای بازنویسی گزارش‌های علنی نهادهای امنیتی حکومت ایران با هویت‌ها و شخصیت‌های متفاوت استفاده می‌کرد، بدون آنکه ارتباط محتوا با دستگاه‌های امنیتی آشکار شود.

این شبکه برای تقویت محتوا، کارزارهای پولی را در بیش از ۱۰۰ کانال پلتفرم‌های ایرانی، از جمله کانال‌های مرتبط با سپاه، به کار گرفته بود.

برنامه‌هایی برای خاکسپاری و جانشینی رهبر تهیه شد
در میان اسناد تولید‌شده با کلود، مجموعه‌ای با نشان رسمی سازمان فرهنگ و ارتباطات اسلامی وجود داشت که یک طرح ۹ بخشی برای نفوذ بین‌المللی را تشریح می‌کرد.

این مجموعه همچنین شامل برنامه سازمانی کاملی برای مراسم خاکسپاری رهبر جمهوری اسلامی و مرحله جانشینی او بود.

آنتروپیک جزئیات بیشتری درباره زمان‌بندی یا محتوای این برنامه منتشر نکرده است.

عامل دیگری که در کنار یکی از واحدهای نظارتی ایران فعالیت می‌کرد، از قابلیت‌های سفارشی کلود برای شبیه‌سازی صدای سه نویسنده ایرانی و آماده‌سازی روایت‌های تبلیغاتی برای دوره جانشینی رهبر استفاده کرده بود.

ادعاهای جعلی به اندیشکده‌های غربی نسبت داده شد
آنتروپیک یکی از عملیات‌ها را به یک مقام در سطح مدیر در رصدخانه فرهنگی بینا مرتبط کرده است.

این عامل در چند رشته گفت‌وگو، پیام‌هایی با لحن رسمی سخنگوی سپاه پاسداران تولید می‌کرد. در جریان کارزاری مرتبط با جنگ سال ۲۰۲۶ میان آمریکا، اسرائیل و حکومت ایران، این شبکه ادعاهای نادرستی را به موسسات پژوهشی غربی از جمله مرکز مطالعات راهبردی و بین‌المللی، بروکینگز و رند نسبت داد.

به ارزیابی آنتروپیک، هدف از جعل منبع، معتبر جلوه‌دادن پیام‌های مورد حمایت حکومت بود.

- آنتروپیک ارائه دو مدل پیشرفته هوش مصنوعی خود را متوقف کرد

این شبکه همچنین محتوایی تهاجمی علیه بهاییان، اقلیت دینی تحت فشار در ایران، تولید و بانک‌هایی از اسامی مقام‌های بین‌المللی و چهره‌های مخالف جمهوری اسلامی تهیه کرده بود.

محتوای عملیات به فارسی، عربی، اردو، مالایی، اسپانیایی و انگلیسی تولید می‌شد و طرح گسترده‌تر آن، انتشار به ۲۰ زبان را در نظر داشت.

ایتا، بله، روبیکا، ایکس، اینستاگرام، تلگرام، تیک‌تاک، یوتیوب و شبکه رایزنان فرهنگی سازمان فرهنگ و ارتباطات اسلامی از مسیرهای انتشار این محتوا بودند.

دو واحد مرتبط با نهادهای امنیتی ۱۶ حساب کلود داشتند
آنتروپیک در پرونده‌ای دیگر ۱۶ حساب متعلق به دو واحد مرتبط با نهادهای شبه‌نظامی و امنیت داخلی ایران را شناسایی و مسدود کرد.

این شرکت با «اطمینان بالا» ارزیابی کرده است که دو واحد یادشده با نهادهای امنیتی شبه‌نظامی حکومت ایران ارتباط داشتند. به گفته آنتروپیک، شواهدی نیز وجود داشت که نشان می‌داد عوامل برای مشتریان امنیتی حکومت کار می‌کردند، به درخواست مقام‌های ارشد پاسخ می‌دادند و نامزدهای سمت‌های رسمی را برای دولت بررسی می‌کردند.

یکی از این واحدها سازمانی هفت‌بخشی با دفاتری در استان‌های مختلف ایران بود. این سازمان ادعا می‌کرد بانک اطلاعات هویتی شهروندان را در اختیار دارد و تنها طی یک سال، شش هزار و ۳۸۸ ایرانی را زیر نظر گرفته و پروفایل‌سازی کرده است.

عوامل این واحد همچنین با استفاده از کلود بیش از ۱۵۵ هزار توییت را تحلیل کردند.

واحد دیگری در قم، کلود را به‌عنوان بخش مهندسی خود برای ساخت ابزارهای نظارت داخلی به کار گرفته بود.

سامانه «آرمان» اطلاعات شخصی شهروندان را ثبت می‌کرد
هر دو واحد ابزارها و رابط‌هایی برای یک سامانه متمرکز به نام «آرمان» می‌ساختند. این سامانه ساختاری فدرالی داشت که در آن واحدهای استانی اطلاعات را به زیرساخت مرکزی منتقل می‌کردند.

بر اساس تحقیق آنتروپیک، پرونده هر فرد در این سامانه می‌توانست حاوی شماره ملی، عقاید، سابقه کیفری، حساب‌های شبکه‌های اجتماعی و بخشی با عنوان «اقدام» باشد.

ابزارهای ساخته‌شده برای این شبکه شامل افزونه‌ای برای افشای هویت کاربران پیام‌رسان‌ها، سامانه تطبیق شماره تلفن با هویت افراد، صفحه فیشینگ شماره ملی و ربات گزارش‌دهی انبوه حساب‌های تلگرام بود.

- اوپن‌ای‌آی خواستار تصویب مقررات الزام‌آور برای ایمنی هوش مصنوعی شد

یک افزونه مخرب فایرفاکس به نام «النجم الثاقب» نیز در پوشش برنامه اعلام اوقات شرعی منتشر شده بود و هویت کاربران شبکه‌های اجتماعی را در مقیاس انبوه جمع‌آوری می‌کرد.

واحد دیگر رابط اینترنتی سامانه آرمان را با استفاده از کد منبع بخش پشتی آن توسعه داد و در یک خط کاری، ۳۹ حساب متعلق به مخالفان جمهوری اسلامی و ایرانیان خارج از کشور را برای نظارت مشخص کرد.

آنتروپیک می‌گوید کلود درخواست‌های صریح برای پروفایل‌سازی و تبلیغات را رد می‌کرد، اما سامانه‌های حفاظتی آن در مسدودکردن بسیاری از درخواست‌های ظاهرا فنی برای ساخت نرم‌افزارهای نظارتی موفق نبودند.

یک عامل مرتبط با جمهوری اسلامی نیروهای دریایی آمریکا را ردیابی کرد
آنتروپیک در تحقیق دیگری یک عامل دارای ارتباط با حکومت ایران را شناسایی کرد که از کلود برای جمع‌آوری و تحلیل اطلاعات علنی و تهیه توصیه‌های هدف‌گیری علیه نیروهای دریایی آمریکا در منطقه استفاده می‌کرد.

این عامل با کمک یک سامانه خودکار، کتابچه‌هایی برای شناسایی و ردیابی موقعیت شناورها تهیه کرده بود.

اطلاعات گردآوری‌شده شامل فهرست نیروهای آمریکایی استخراج‌شده از شرح تصاویر عمومی ارتش، شناسه فرستنده کشتی‌ها و هواپیماها، ابزارهای جست‌وجوی تصاویر ماهواره‌ای تجاری و فهرست وب‌سایت‌هایی بود که تحرکات دریایی آمریکا را نشان می‌دادند.

او همچنین از کلود خواسته بود آسیب‌پذیری‌های شناخته‌شده در پایانه‌های ارتباط ماهواره‌ای دریایی، تجهیزات ارتباطی سیسکو و محصولات کنترل صنعتی را فهرست کند.

آنتروپیک حساب این عامل را مسدود کرد، ابزارهای تشخیصی خود را تغییر داد و اطلاعات تهدید را برای مقابله با فعالیت او در اختیار مقام‌های دولتی قرار داد.

یک حساب هم‌زمان برای نظارت داخلی ایران نرم‌افزار می‌ساخت
همان حساب در خط کاری جداگانه، برای سامانه‌های حکومتی ایران نرم‌افزار سازمانی توسعه می‌داد.

از کلود برای طراحی اجزای یک سامانه نظارت انبوه داخلی استفاده شد که تشخیص خودکار پلاک خودرو را با رهگیری شناسه دستگاه‌های تلفن همراه ترکیب می‌کرد.

- نخستین نبرد هوش مصنوعی: جنگ ایران چگونه شکل جنگیدن را تغییر داده است

عامل همچنین یک نسخه یک‌روزه از پیام‌های یک گروه خصوصی تلگرامی با ۲۴۴ عضو را تحلیل کرده و ساختار ارتباطی اعضای آن را ترسیم کرده بود.

آنتروپیک این عامل را «دارای ارتباط با \[حکومت\] ایران» معرفی کرده و در این بخش، وابستگی مستقیم او به یک نهاد مشخص حکومتی را تایید نکرده است.

مقام‌های اسرائیلی و جوامع یهودی هدف قرار گرفتند
یک عامل دیگر دارای ارتباط با \[حکومت\] ایران از کلود برای ساخت سامانه‌ای خودکار جهت پروفایل‌سازی هویتی استفاده کرده بود.

این سامانه صدها نفر از مقام‌ها و شهروندان اسرائیلی و اعضای سازمان‌های یهودی خارج از اسرائیل را با استفاده از اطلاعات علنی بررسی می‌کرد. هدف، تهیه محصولات اطلاعاتی درباره اشخاص اسرائیلی و آمریکایی عنوان شده است.

همین عامل در گفت‌وگوهای فارسی‌زبان جداگانه، یک ابزار متن‌باز استخراج اطلاعات ورود ویندوز را تغییر داد و سامانه‌ای برای مبهم‌سازی کدهای بدافزاری ساخت تا شناسایی و تحلیل آن‌ها دشوارتر شود.

بدافزارها ایرانیان داخل کشور را هدف گرفتند
آنتروپیک همچنین یک عامل ایرانی را شناسایی کرد که با استفاده از حساب‌های رایگان کلود در ۱۶ مجموعه تک‌نفره، بدافزار، سامانه انتقال فایل آلوده و درگاه فیشینگ علیه ایرانیان داخل کشور می‌ساخت.

صفحات آلوده طوری طراحی شده بودند که محتوای مخرب را فقط به بازدیدکنندگانی با نشانی اینترنتی ایران نمایش دهند. این صفحات خود را ابزارهای عبور از فیلترینگ یا یک رسانه جعلی فارسی‌زبان با نام «آذر نیوز» معرفی می‌کردند.

این مجموعه شامل صفحات جعلی ورود به ویندوز، مایکروسافت اکسل و آنتی‌ویروس ESET NOD32 و همچنین صفحات تقلبی مرتبط با وی‌تو‌ری بود. اطلاعات ورود سرقت‌شده از طریق تلگرام منتقل می‌شد.

عامل همچنین بدافزار ماژولاری با نام SECOMS64 ساخت که توانایی ثبت کلیدهای صفحه‌کلید، تصویربرداری از نمایشگر، استخراج اطلاعات ورود کروم و بررسی سامانه‌های امنیتی مایکروسافت را داشت.

- افزایش نگرانی‌ها از آینده هوش مصنوعی: قوی‌ترین مدل چت‌ جی‌پی‌تی در برابر خاموشی مقاومت کرد

نسخه اندرویدی مرتبط با این مجموعه نیز می‌توانست فهرست مخاطبان، پیام‌ها و فایل‌های چندرسانه‌ای دستگاه را منتقل کند.

بخش دیگری از ابزارها برای سرقت محتوای صندوق‌های ایمیل مایکروسافت ۳۶۵، از جمله پیام‌های حذف‌شده، طراحی شده بود. آنتروپیک می‌گوید عامل از کلود برای مهندسی و آزمایش این ابزارها استفاده کرد، نه اجرای زنده حملات.

سامانه‌های ایمنی کلود ۹ مورد از هر ۱۰ درخواست آشکارا مخرب را رد کردند، اما عملکرد آن‌ها هنگامی ضعیف‌تر شد که عامل پروژه را به درخواست‌های کوچک‌تر و ظاهرا بی‌ضرر تقسیم کرد.

عملیات منتسب به مجاهدین خلق ایرانیان را پروفایل‌سازی کرد
گزارش آنتروپیک تنها به عملیات وابسته یا مرتبط با جمهوری اسلامی محدود نیست. این شرکت از شناسایی و مختل‌کردن شبکه‌ای خبر داده است که آن را به سازمان مجاهدین خلق و شاخه سیاسی آن، شورای ملی مقاومت، مرتبط می‌داند.

این شبکه یک کنشگر واقعی را جعل هویت کرد و حدود هشت هزار و ۴۰۰ پیام تلگرامی او را در اختیار کلود گذاشت تا سبک نوشتاری‌اش شبیه‌سازی شود.

حساب جعلی سپس با مخاطبان این فرد در داخل ایران گفت‌وگوهای سیاسی زنده انجام داد. آنتروپیک می‌گوید تا آنجا که اطلاع دارد، مخاطبان نمی‌دانستند با حسابی مجهز به هوش مصنوعی صحبت می‌کنند.

تحقیق نشان داد دست‌کم چهار نفر از گردانندگان این کارزار برای رسانه‌های رسمی شورای ملی مقاومت کار می‌کردند. وجود سازوکارهای تایید محتوا و اشاره به رهبری مجاهدین، احتمال هدایت مرکزی را مطرح می‌کرد، اما آنتروپیک نتوانست سطح این کنترل را تایید کند.

بیش از ۵۱ هزار پیام برای تهیه پرونده روان‌شناختی تحلیل شد
این عملیات اطلاعات بیش از ۵۰۰ کانال شبکه‌های اجتماعی را جمع‌آوری و افراد داخل ایران را بر اساس شهر، سن، شغل، گرایش سیاسی و سابقه بازداشت دسته‌بندی کرده بود.

شبکه همچنین حدود ۵۱ هزار و ۹۴۴ پیام آرشیو‌شده را تحلیل کرد تا برای ده‌ها فرد مشخص در ایران پرونده‌های روان‌شناختی تهیه کند.

حساب‌های جعل هویت‌شده در یک مورد، تیتر خبری ساختگی را به‌طور هم‌زمان برای بیش از ۳۰ مخاطب ارسال کردند.

- مرز باریک میان یادگیری و وابستگی؛ چگونه بدون افت عملکرد ذهنی از هوش مصنوعی استفاده کنیم؟

عوامل برای تبلیغ برنامه ۱۰ ماده‌ای مریم رجوی، برای مطالب خود چهره‌های مصنوعی ساختند، به آن‌ها صدای فارسی دادند و ظاهرشان را شبیه شهروندان عادی ایران طراحی کردند، بدون آنکه مصنوعی‌بودن آن‌ها را اعلام کنند.

مطالب اولیه عمدا نام مجاهدین را ذکر نمی‌کردند تا محتوا شبیه اخبار بی‌طرفانه و مستقل به نظر برسد. این عملیات جمهوری اسلامی، گروه‌های پادشاهی‌خواه و جریان حامی پهلوی را هدف قرار می‌داد.

آنتروپیک نتوانست میزان تعامل واقعی کاربران با حساب‌های تقویت‌کننده این شبکه را مستقلا تایید کند.

یک شرکت اطلاعاتی کاربران ایرانی را دسته‌بندی می‌کرد
پرونده دیگری در گزارش به یک سامانه تجاری نظارتی اختصاص دارد که فعالیت کاربران شبکه‌های اجتماعی در ایران و کشورهای حاشیه خلیج فارس را تحلیل و پروفایل‌سازی می‌کرد.

آنتروپیک این فعالیت را به شرکتی با نام S2T Unlocking Cyberspace نسبت داده است که بر اساس تحقیقات منابع علنی، فروشنده تجاری خدمات اطلاعاتی با ارتباط اسرائیلی-سنگاپوری است.

این سامانه محل کاربران را مشخص و آن‌ها را در شش گروه شهری، روحانی، نظامی، جوان، ایرانی خارج از کشور و روستایی دسته‌بندی می‌کرد. کاربران همچنین بر اساس حمایت یا مخالفت با جمهوری اسلامی طبقه‌بندی می‌شدند.

عامل در خط کاری دیگری بیش از ۲۵۵ حساب مصنوعی آماده کرده بود. این حساب‌ها قرار بود با هویت‌هایی به زبان‌های فارسی، عربی، انگلیسی و آلمانی، خود را عضو گروه‌های موافق و مخالف جمهوری اسلامی نشان دهند و در هر دو سوی منازعه فعالیت کنند.

آنتروپیک این عملیات را در مرحله آزمایشی شناسایی کرد و مدرکی نیافت که مراحل پیشرفته‌تر زنجیره نظارتی، پیش از مسدود‌شدن حساب، علیه اهداف واقعی اجرا شده باشد.

آنتروپیک همه حساب‌های شناسایی‌شده را بست
آنتروپیک اعلام کرد همه حساب‌های مرتبط با عملیات شرح‌داده‌شده را به‌دلیل نقض مقررات مربوط به نظارت بدون رضایت، پروفایل‌سازی، اطلاعات نادرست یا فعالیت در مناطق پشتیبانی‌نشده مسدود کرده است.

این شرکت همچنین یافته‌ها و برخی نشانه‌های فنی را، متناسب با هر پرونده، با شرکای صنعتی، پژوهشگران یا مقام‌های دولتی به اشتراک گذاشت و سامانه‌های تشخیص سوءاستفاده خود را به‌روزرسانی کرد.

با این حال، گزارش تاکید می‌کند مسدودکردن حساب‌ها الزاما سامانه‌هایی را که پیش‌تر روی زیرساخت‌های محلی نصب شده‌اند از کار نمی‌اندازد.

آنتروپیک همچنین میان انواع انتساب‌ها تفاوت قائل شده است: ارتباط دو واحد نظارتی با نهادهای شبه‌نظامی و امنیت داخلی ایران با «اطمینان بالا» ارزیابی شده، اما عبارت «عامل مرتبط با ایران» در دیگر پرونده‌ها لزوما به معنای اثبات وابستگی مستقیم به جمهوری اسلامی نیست.

بخش بزرگی از شواهد این تحقیق نیز به مرحله طراحی، تولید یا آماده‌سازی عملیات مربوط است. از همین رو، آنتروپیک در چند پرونده نتوانسته موفقیت نهایی، گستره انتشار، تعداد قربانیان یا تاثیر واقعی فعالیت‌ها را تایید کند.