نگرانی‌ها در آزمایشگاه‌های هوش مصنوعی رو به افزایش است و رقابت، شرکت‌های فناوری را به سوی مسابقه‌ای برای ساخت مدل‌های خودبهبوددهنده سوق می‌دهد؛ مدل‌هایی که خطر خارج شدن از کنترل انسان را دارند. یکی از پژوهشگران آنتروپیک به همین دلیل، از این صنعت کناره گرفته است.

به‌نوشته وال‌استریت ژورنال جیکوب کاکسون، یکی از پژوهشگران آنتروپیک به‌دلیل نگرانی از اینکه این آزمایشگاه و رقبایش برای ساخت سیستم‌هایی از هوش مصنوعی با یکدیگر در رقابتی هستند که ممکن است قادر به کنترل آنها نباشند، صنعت هوش مصنوعی را ترک می‌کند؛ اقدامی که نشانه‌ای از افزایش نگرانی‌های ایمنی در درون شرکت‌های پیشرو هوش مصنوعی است.

جیکوب کاکسون در زمینه آموزش مدل‌های جدید هوش مصنوعی از طریق تغذیه آنها با حجم عظیمی از داده‌ها تخصص دارد. او سه‌شنبه ۱۷ شهریور گفت شرکت را ترک می‌کند، زیرا نمی‌خواهد در رقابت گسترده صنعت برای ساخت سیستم‌های هوش مصنوعی‌ مشارکت داشته باشد که قادرند خودشان را بهبود دهند.

او نگران است چنین سیستم‌هایی از کنترل خارج شوند و بشریت را نابود کنند.

این بریتانیایی ۲۷ ساله که پیش‌تر ریاضیات خوانده، به وال‌استریت ژورنال گفت بسیاری از همکارانش در این صنعت اکنون برای توصیف مسیر حرکت به سوی مدل‌های خودبهبوددهنده از عباراتی مانند «لحظه سرنوشت‌ساز» (crunchtime) و «بازی نهایی» (endgame) استفاده می‌کنند.

- مدیر پیشین هوش مصنوعی پنتاگون درباره گسترش «حکومت نظارتی» در آمریکا هشدار داد

کاکسون گفت: «ما در مسیری قرار داریم که به بسیاری از تهاجمی‌ترین سناریوها منتهی می‌شود؛ سناریوهایی که بر اساس آنها ممکن است تا پایان سال آینده اوضاع از کنترل خارج شده باشد.»

او افزود زمانی که شرکت‌ها با یکدیگر و همچنین با شرکت‌های نوظهور چینی رقابت می‌کنند، مصالحه و کوتاه آمدن در زمینه ایمنی اجتناب‌ناپذیر است.

آنتروپیک بلافاصله درباره این جدایی اظهار نظر نکرد. داریو آمودی، مدیرعامل آنتروپیک، و دیگر مدیران این شرکت بارها درباره خطرات مدل‌های هوش مصنوعی سرکش هشدار داده و خواسته‌اند سرعت توسعه را کاهش دهد.

کاکسون گفت او اوایل امسال اوپن‌ای‌آی (OpenAI) را ترک کرد تا به آنتروپیک بپیوندد، زیرا این شرکت به تلاش‌هایش در زمینه ایمنی مدل‌ها شهرت دارد.

اما با وجود اینکه او تلاش‌های آنتروپیک در زمینه ایمنی را جدی و صادقانه یافت، اکنون معتقد است در غیاب مداخله دولت یا کاهش هماهنگ سرعت توسعه در سراسر صنعت، هیچ شرکتی نمی‌تواند به‌طور مسئولانه هوشی مصنوعی‌ توسعه دهد که در طیف وسیعی از وظایف عملکردی بهتر از انسان‌ها داشته باشد؛ چیزی که گاهی هوش مصنوعی عمومی (AGI) نامیده می‌شود.

هک‌های اخیر انجام‌شده از سوی مدل‌های اوپن‌ای‌آی و آنتروپیک، که برخی از آنها در قالب مجموعه‌هایی از عامل‌های هوش مصنوعی که با یکدیگر همکاری می‌کنند فعالیت داشته‌اند، نشان داده‌اند که چگونه سیستم‌های هوش مصنوعی می‌توانند اهداف مخرب را در پیش بگیرند و تلاش کنند این اهداف را از انسان‌ها پنهان کنند.

- مرز باریک میان یادگیری و وابستگی؛ چگونه بدون افت عملکرد ذهنی از هوش مصنوعی استفاده کنیم؟

کاکسون گفت نگران است زمانی که این سیستم‌ها شروع به بهبود دادن خودشان کنند، آن‌قدر پیشرفت کنند که بتوانند از اجرای دستورات سر باز بزنند.

خروج کاکسون یکی از نخستین نمونه‌های استعفای یک کارمند آنتروپیک به‌دلیل نگرانی‌های مربوط به ایمنی هوش مصنوعی است. یک پژوهشگر حوزه ایمنی نیز اوایل امسال این شرکت را ترک کرد تا به مطالعه شعر بپردازد و هشدار داد که «جهان در معرض خطر است.»

در سال‌های اخیر و همچنین در گذشته، چندین پژوهشگر اوپن‌ای‌آی و شرکت‌های دیگر نیز با اشاره به نگرانی‌های مشابه از سمت‌های خود کناره‌گیری کرده‌اند.

آنتروپیک یکی از بزرگ‌ترین پلتفرم‌های هوش مصنوعی را تا حدی با این ادعا ایجاد کرده است که توسعه مسئولانه هوش مصنوعی را در اولویت قرار می‌دهد و سرمایه‌گذاری سنگینی در این حوزه انجام داده است.

رهبران این صنعت هشدار داده‌اند که حملات سایبری اخیر می‌تواند نشانه‌ای از آنچه در آینده رخ خواهد داد باشد.

اوپن‌ای‌آی هفته گذشته به خبرنگاران گفت جدیدترین مدل این شرکت مصداق هوش مصنوعی عمومی است و جهشی بزرگ در قابلیت‌ها محسوب می‌شود.

- از فراوانی نامحدود تا بی‌قدرتی انسان؛ ماسک آینده بشر با هوش مصنوعی را ترسیم می‌کند

سم آلتمن، مدیرعامل اوپن‌ای‌آی، هفته گذشته در نشستی در کارولینای شمالی به مقام‌های گروه ۲۰ گفت: «فکر می‌کنم اگر مردم با فوریت بسیار زیادی اقدام نکنند، در حوزه امنیت سایبری اتفاقات بسیار بدی رخ خواهد داد.»

یاکوب پاچوکی، دانشمند ارشد اوپن‌ای‌آی، نیز در یادداشتی که روز یک‌شنبه در وبلاگ خود منتشر کرد و در آن خواستار کاهش هماهنگ سرعت توسعه در صنعت و مداخله دولت شد، نوشت:«اکنون زمانی است که احتیاط فوق‌العاده‌ای را می‌طلبد. من نگرانم که هیچ‌کس برای پیامدهای ادامه افزایش سریع هوش ماشینی آماده نباشد.»

کاکسون، پاچوکی و آمودی به بیش از هزار پژوهشگر هوش مصنوعی در سراسر این صنعت پیوسته‌اند که اخیرا بیانیه‌ای را امضا کردند و در آن خواستار هماهنگی جهانی دولت‌ها برای ایجاد سازوکاری شده‌اند که اگر برای کنترل مدل‌های قادر به بهبود دادن خودشان به یک «پدال ترمز» نیاز باشد، بتوان سرعت توسعه هوش مصنوعی را کاهش داد.

در سطح فدرال آمریکا هیچ مقرراتی برای هوش مصنوعی وجود ندارد و دولت ترامپ رویکردی با حداقل مداخله را در اولویت قرار داده است تا منافع اقتصادی هوش مصنوعی را به حداکثر برساند؛ فضایی که منتقدان می‌گویند ممکن است به حملات سایبری گسترده یا آسیب‌های دیگر منجر شود.

سناتور برنی سندرز و گرگ کاسار، نماینده دموکرات تگزاس، دو تن از معدود قانون‌گذارانی هستند که پیشنهاد ایجاد محدودیت‌های حفاظتی برای هوش مصنوعی را مطرح کرده‌اند. آنها هفته گذشته طرحی قانونی ارائه کردند که هدف آن ممنوعیت دائمی ابرهوش مصنوعی و توقف توسعه مدل‌ها تا زمانی است که یک نهاد تنظیم‌گر صنعت، مقررات جدیدی وضع کند.

- مدل‌های هوش مصنوعی اوپن‌ای‌آی در آزمایش از کنترل خارج شدند و به یک استارت‌آپ حمله کردند

خروج کاکسون از صنعت هوش مصنوعی در شرایطی صورت می‌گیرد که آنتروپیک خود را برای عرضه اولیه سهام آماده می‌کند؛ عرضه‌ای که انتظار می‌رود یکی از بزرگ‌ترین عرضه‌های اولیه سهام در تاریخ باشد.

این شرکت به‌دنبال دستیابی به ارزش‌گذاری دو تریلیون دلاری است و در جریان جذب سرمایه‌گذاران، بر توسعه مسئولانه این فناوری تاکید کرده است.

آمودی و دیگر مدیران شرکت گاه بر سر شیوه‌هایی که به‌گفته آنها ایمنی هوش مصنوعی را در اولویت قرار نمی‌دهند، با دولت ترامپ و دیگر مدیران صنعت وارد تقابل شده‌اند.

کاکسون گفت آنتروپیک از یک کانال داخلی در اسلک (Slack) کارکنان برای بحث درباره قابلیت‌های قدرتمند مدل‌های خود استفاده می‌کند. او این موضوع را بازتابی از میزان نفوذ شرکت‌های هوش مصنوعی بر مسیر توسعه این صنعت توصیف کرد.

کاکسون گفت: «این واقعا یک جورهایی دیوانه‌کننده است که چنین چیزی باید روی مک‌بوک‌های چند مهندس ساکن سان‌فرانسیسکو اتفاق بیفتد، نه در یک پناهگاه در دل بیابان، مثل جایی که پروژه منهتن را انجام می‌دادند.»