شماری از چهره‌های برجسته صنعت هوش مصنوعی در کمتر از ۲۴ ساعت، در مواضعی کم‌سابقه و هم‌جهت، درباره سرعت پیشرفت مدل‌های هوش مصنوعی هشدار دادند و خواستار ایجاد فاصله‌ای میان افزایش قابلیت این مدل‌ها و توانایی بشر برای ایمن‌سازی و کنترل آن‌ها شدند.

داریو آمودی، مدیرعامل آنتروپیک، سم آلتمن، مدیرعامل اُپِن اِی‌آی، ایلان ماسک، بنیان‌گذار ایکس اِی‌آی، و دمیس هسابیس، مدیرعامل گوگل دیپ‌مایند، همگی از ضرورت حرکت محتاطانه‌تر در توسعه پیشرفته‌ترین و قدرتمندترین مدل‌های هوش مصنوعی حمایت کرده‌اند.

این مواضع پس از مجموعه‌ای از حوادث مربوط به خروج عامل‌های هوش مصنوعی از محدوده‌های تعیین‌شده، نگرانی از مدل‌های خودبهبوددهنده و گزارش‌های تازه درباره سوءاستفاده از این فناوری در عملیات سایبری، نظامی و نظارتی مطرح می‌شوند.

آغاز موج تازه هشدارها از آنتروپیک

موج تازه بحث‌ها روز شنبه ۲۰ شهریور با انتشار مقاله‌ای از آمودی با عنوان «باید سرعت حرکت در مرز را تنظیم کنیم» آغاز شد.

مدیرعامل آنتروپیک در این مقاله که در حساب کاربری او در ایکس منتشر شد، نوشت طی چند ماه گذشته به این نتیجه رسیده است که صرف سرمایه‌گذاری روی ایمنی کافی نیست و سرعت افزایش توانایی مدل‌ها نیز باید کاهش یابد تا پژوهش‌های مربوط به کنترل و ایمن‌سازی آنها فرصت همگام شدن با پیشرفت فناوری را پیدا کنند.

او نوشت: «ما باید سرعتی را که با آن قابلیت‌های مدل‌های هوش مصنوعی را افزایش می‌دهیم، کاهش دهیم.» آمودی تاکید کرد منظور او توقف آموزش مدل‌ها یا متوقف کردن پیشرفت فنی نیست، بلکه ایجاد زمانی کافی برای ایمن‌سازی، هم‌راستاسازی و ارزیابی مستقل آن‌هاست.

آمودی دو تحول را عامل اصلی تغییر نگاه خود معرفی کرد؛ نخست، توانایی فزاینده هوش مصنوعی برای مشارکت در ساخت نسل بعدی هوش مصنوعی. این روند به «خودبهبوددهی بازگشتی» معروف است. او گفت این روند از تابستان امسال با سرعت چشمگیری در حال پیشرفت است و اگر بدون محدودیت ادامه یابد، ممکن است از توانایی انسان برای فهم و کنترل این سیستم‌ها جلو بزند.

دومین عامل، به نوشته او، ماجرای عامل‌های هوش مصنوعی اُپِن اِی‌آی بود که در جریان یک آزمایش از ماموریت تعیین‌شده خود فراتر رفتند و به سامانه‌هایی از جمله پلتفرم هاگینگ فِیس حمله کردند.

آمودی هشدار داد با سرعت کنونی افزایش قابلیت‌ها، ممکن است ظرف «شش تا ۱۲ ماه» مجموعه‌ای از عامل‌های هوش مصنوعی با توانایی بیشتر اما مشکلات مشابه در هم‌راستایی، بتوانند یک بات‌نت گسترده و ماندگار در سراسر اینترنت ایجاد کنند و صدها میلیارد دلار خسارت به بار آورند.

او برای مقابله با این خطرها طرحی سه‌مرحله‌ای پیشنهاد کرد: حضور دائمی ارزیابان مستقل در شرکت‌های سازنده مدل‌های پیشرفته با سطح دسترسی نزدیک به کارکنان داخلی، هماهنگی شرکت‌های هوش مصنوعی در کشورهای دموکراتیک برای تعیین استانداردهای مشترک ایمنی و محدود کردن توسعه کنترل‌نشده، و در نهایت تلاش برای دستیابی به نوعی هماهنگی بین‌المللی، از جمله با چین.

- آنتروپیک از جزییات بهره‌گیری جمهوری اسلامی از هوش مصنوعی برای تبلیغات و نظارت پرده برداشت

آلتمن: اپن ای‌آی هم ارزیابان مستقل را می‌پذیرد

واکنش رقبای آنتروپیک تنها چند ساعت بعد از انتشار این گزارش آغاز شد. سم آلتمن در شبکه اجتماعی ایکس نوشت: «با داریو موافقم که باید سرعت حرکت در مرز را تنظیم کنیم. این موضوع در هفته‌های اخیر یکی از محورهای اصلی بحث‌های ما در اُپِن اِی‌آی بوده است.»

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7 — Sam Altman (@sama) September 12, 2026

او به‌طور مشخص از پیشنهاد استقرار ارزیابان مستقل حمایت کرد و گفت دادن دسترسی در سطح کارکنان به چنین ارزیابانی «ایده بسیار خوبی» است و اُپِن اِی‌آی نیز همین کار را انجام خواهد داد. آلتمن وعده داد جزئیات بیشتری در این زمینه به‌زودی اعلام شود.

آلتمن در مصاحبه‌ای با نشریه فورچون که شنبه منتشر شد، نگرانی‌های گسترده‌تری درباره ایمنی هوش مصنوعی مطرح کرد.

وقتی از او درباره احتمال ۱۰ درصدی انقراض بشر در اثر هوش مصنوعی پرسیده شد، گفت نمی‌داند چگونه می‌توان چنین احتمالی را به‌طور دقیق محاسبه کرد، اما افزود تفاوتی ندارد که این خطر «۱۰ درصد، هشت درصد یا شش درصد» باشد؛ شرکت‌ها و دولت‌ها باید به شکلی عمل کنند که هیچ‌یک از این سطوح خطر را قابل قبول ندانند.

آلتمن همچنین گفت اُپن ای‌آی در سال ۲۰۲۶ وارد بورس نخواهد شد، زیرا در شرایط کنونی مسائل مربوط به ایمنی و هم‌راستاسازی مدل‌ها اولویت بیشتری دارند.

او در پاسخ به این سوال که چرا مدیران بزرگ‌ترین شرکت‌های هوش مصنوعی برای یک کاهش سرعت جمعی با یکدیگر توافق نمی‌کنند، گفت: «فکر می‌کنم این اتفاق خواهد افتاد.» رویترز نیز گزارش داد OpenAI و دیگر شرکت‌های بزرگ ممکن است به اعلام توافقی برای کاهش سرعت و همکاری در زمینه ایمنی نزدیک شده باشند.

ماسک: «داریو درست می‌گوید»

ایلان ماسک نیز خیلی زود به بحث پیوست. بنیان‌گذار ایکس اِی‌آی در پاسخ کوتاهی در ایکس به مقاله آمودی نوشت: «داریو درست می‌گوید.»

او سپس هشدارهای قدیمی خود درباره هوش مصنوعی را دوباره برجسته کرد و گفت سال‌هاست در این زمینه «زنگ خطر را به صدا درآورده است». ماسک بار دیگر به موضع پیشین خود اشاره کرد که هوش مصنوعی عمومی یا AGI را بالقوه خطرناک‌تر از سلاح‌های هسته‌ای می‌داند.

I’ve been sounding the alarm on AI for a long time https://t.co/YJ0oAcVXz2 — Elon Musk (@elonmusk) September 13, 2026

اهمیت واکنش ماسک بیش از محتوای هشدار او بود. او و آلتمن سال‌هاست بر سر مسائل شخصی، تجاری و مسیر توسعه اُپن اِی‌آی اختلاف دارند و ایکس اِی‌آی نیز یکی از رقبای مستقیم اُپن اِی‌آی، آنتروپیک و گوگل در مسابقه توسعه مدل‌های پیشرفته است.

از این رو، حمایت هم‌زمان این رقبا از اصل کاهش یا تنظیم سرعت توسعه به یکی از کم‌سابقه‌ترین نقاط اشتراک میان رهبران صنعت هوش مصنوعی تبدیل شد.

- واهمه از هوش مصنوعی خارج از کنترل، پژوهشگر آنتروپیک را ناچار به استعفا کرد

هسابیس: «جهت کلی درست است»

دمیس هسابیس، هم‌بنیان‌گذار و مدیرعامل گوگل‌ دیپ‌مایند، روز یکشنبه چهارمین چهره برجسته‌ای بود که از جهت کلی پیشنهاد آمودی حمایت کرد.

او در ایکس نوشت: «مقاله داریو به مسیر درست پیش رو اشاره می‌کند. جزئیات نیاز به کار بیشتر دارند، اما جهت کلی برای مواجهه با این مقطع حساس درست است.»

هسابیس این بحث را به پیشنهاد قبلی خود برای ایجاد یک نهاد مشترک استانداردگذاری برای «هوش مصنوعی مرزی» پیوند داد؛ نهادی که وظیفه آن تدوین معیارها و روش‌های مشترک برای سنجش توانایی و خطر مدل‌های بسیار پیشرفته باشد.

هسابیس ۲۳ تیر نوشته بود پیشرفت سریع هوش مصنوعی به روشی «پویا، سازگار و سخت‌گیرانه» برای آزمایش مدل‌های مرزی نیاز دارد و پیشنهاد کرده بود نهادی با مشارکت بخش عمومی و خصوصی و حضور کارشناسان مستقل ایجاد شود.

به این ترتیب، تا روز یکشنبه مدیران چهار شرکت اصلی جهانی هوش مصنوعی، دست‌کم بر یک اصل اتفاق نظر پیدا کردند؛ اینکه سرعت رشد قابلیت مدل‌های هوش مصنوعی نباید از توان صنعت و نهادهای عمومی برای سنجش و مهار خطرهای آنها جلو بزند.

هشدارهایی که طی چند روز روی هم انباشته شدند

طی روزهای گذشته، چند تحول پی‌درپی بحث درباره خطرهای هوش مصنوعی را در داخل صنعت و در میان قانون‌گذاران شدت بخشیده‌اند.

یکی از مهم‌ترین رویدادها استعفای جیکوب کاکسون، پژوهشگر ۲۷ ساله آنتروپیک و کارمند پیشین اُپن اِی‌آی بود.

کاکسون هفته گذشته از صنعت هوش مصنوعی کناره‌گیری کرد و گفت نمی‌خواهد در رقابتی مشارکت داشته باشد که هدف آن ساخت سامانه‌هایی با توانایی بهبود خود است؛ سامانه‌هایی که ممکن است در نهایت از کنترل انسان خارج شوند. او گفته بود شرکت‌ها در رقابت با یکدیگر و با شرکت‌های چینی، ناگزیر ممکن است بر سر ایمنی مصالحه کنند و بدون دخالت دولت یا کاهش هماهنگ سرعت در سراسر صنعت، هیچ شرکت منفردی قادر نیست چنین فناوری‌ای را به شکل مسئولانه توسعه دهد.

در همین حال، مجموعه‌ای از گزارش‌ها درباره رفتار عامل‌های هوش مصنوعی اُپن ای‌آی ابعاد نگرانی درباره امکان کنترل مدل‌ها را افزایش داده است.

رویترز ۱۸ شهریور گزارش داد عامل‌های اُپن ای‌آی علاوه بر حادثه مشهور هاگینگ فیس، از دست‌کم ۱۰ وب‌سایت دیگر برای ارتباطات بدون مجوز استفاده کرده بودند و برای ایجاد کانال‌های ارتباطی، محدودیت‌های اعمال‌شده بر خود را دور زده بودند. پیش‌تر نیز مشخص شده بود مجموعه‌ای از عامل‌های این شرکت یک وب‌سایت آلمانی را به محلی برای ارتباط و تبادل اطلاعات میان خود تبدیل کرده بودند.

از خطر خروج از کنترل تا استفاده در سلاح و نظارت

آنتروپیک هفته گذشته در یک گزارش اطلاعات تهدید اعلام کرد بازیگران مختلف از مدل کلود برای فعالیت‌هایی از توسعه تسلیحات و عملیات سایبری گرفته تا جاسوسی، نظارت، کلاهبرداری و تحقیقاتی که می‌توانست در توسعه سلاح‌های بیولوژیک کاربرد داشته باشد، استفاده کرده‌اند.

بخشی از همین گزارش به فعالیت‌های مرتبط با جمهوری اسلامی اختصاص دارد و می‌گوید نهادهای همسو با جمهوری اسلامی از کلود برای طراحی تبلیغات حکومتی، ایجاد هویت‌های جعلی، نظارت بر شهروندان، توسعه ابزارهای پایش و جمع‌آوری اطلاعات درباره مخالفان استفاده کرده‌اند. در یکی از موارد، یک واحد در ایران بیش از ۱۵۵ هزار توییت را با استفاده از کلود تحلیل کرده بود و در موردی دیگر از این مدل برای طراحی بخش‌هایی از یک سامانه نظارت انبوه مبتنی بر پلاک خودرو و شناسه تلفن همراه استفاده شده بود.

مارک بیل، مدیر پیشین سیاست‌گذاری هوش مصنوعی پنتاگون، نیز هشدار داده بود گسترش دوربین‌ها و سامانه‌های نظارتی مبتنی بر هوش مصنوعی بدون مقررات روشن ممکن است آمریکا را به سوی یک «حکومت نظارتی شبیه چین» سوق دهد.