چرا دولت آمریکا استفاده از هوش مصنوعی Claude Fable 5 و Mythos را برای خارجیها ممنوع کرد؟
دولت آمریکا به شرکت آنتروپیک دستور داده تا دسترسی به مدلهای پیشرفته هوش مصنوعی خود یعنی Claude Fable 5 و Mythos 5 را برای همه اتباع خارجی از جمله هندیها مسدود کند.
این دستور باعث شده آنتروپیک ناگهان این مدلها را در سطح جهانی غیرفعال کند. به گفته این شرکت، این اقدام به نگرانیهای امنیت ملی مقامات آمریکایی مرتبط است.
با این حال، آنتروپیک میگوید شواهدی که به آنها نشان داده شده، چنین محدودیت گستردهای را توجیه نمیکند. با وجود این، شرکت چارهای جز پیروی از دستور دولت نداشته و هماکنون تلاش میکند تا دوباره دسترسی را برقرار کند.
ممنوعیت استفاده از Mythos 5 و Fable 5 در سراسر جهان سوالات زیادی را برانگیخته، زیرا این تصمیم نشاندهنده تغییری اساسی در نحوه مقرراتگذاری بر هوش مصنوعی از سوی دولتها است. تا پیش از این، محدودیتها بیشتر روی تراشهها و سختافزار مورد نیاز برای ساخت و اجرای سیستمهای هوش مصنوعی متمرکز بود. اما این اولین بار است که یک دولت دسترسی به خود نرمافزار هوش مصنوعی را محدود میکند.
در ادامه نگاهی دقیقتر میاندازیم به آنچه رخ داده، دلیل دخالت دولت آمریکا، و چرا برخی این لحظه را نقطه عطفی در رقابت جهانی هوش مصنوعی مینامند.
۱. دستور دولت آمریکا به آنتروپیک چه بود؟
در بیانیه رسمی منتشر شده، آنتروپیک اعلام کرد که در تاریخ ۱۲ ژوئن، یک دستور کنترل صادراتی از دولت آمریکا دریافت کرده که بر اساس آن باید دسترسی به مدلهای Fable 5 و Mythos 5 را برای همه اتباع خارجی به حالت تعلیق درآورد. این محدودیت فارغ از اینکه فرد داخل یا خارج خاک آمریکا باشد، حتی برای کارمندان خارجی خود آنتروپیک نیز اعمال میشود.
در نتیجه، هندیها و سایر شهروندان غیرآمریکایی دیگر نمیتوانند به این دو مدل دسترسی داشته باشند. آنتروپیک گفت دامنه این دستور چارهای جز غیرفعال کردن کامل این مدلها در حال همکاری با مقامات برای حل مسئله باقی نگذاشته است.
به گفته شرکت، اثر خالص این دستور آن است که برای اطمینان از تطابق با قانون، باید ناگهان دسترسی به Fable 5 و Mythos 5 را برای همه مشتریان خود قطع کند. دسترسی به سایر مدلهای آنتروپیک تحت تأثیر قرار نخواهد گرفت.
۲. چرا دولت آمریکا استفاده خارجیها از Claude Fable 5 و Mythos 5 را ممنوع کرد؟
به گفته آنتروپیک، مقامات آمریکایی معتقدند ممکن است راهی برای جیلبریک کردن محافظتهای تعبیهشده در Fable 5 وجود داشته باشد. این محافظتها برای جلوگیری از دسترسی کاربران به قابلیتهای قدرتمند سایبری موجود در مدل زیربنایی Mythos طراحی شدهاند.
نگرانی دولت آمریکا این است که اگر سیستمهای هوش مصنوعی پیشرفته به دست افراد نادرست بیفتد، احتمال دارد برای کشف آسیبپذیریهای نرمافزاری یا کمک به انجام حملات سایبری استفاده شوند.
بر اساس گزارش وال استریت ژورنال، این نگرانیها ظاهراً از تحقیقات اخیر محققان آمازون نشأت گرفته. گفته میشود آن محققان با استفاده از یک سری دستورات توانستند مدل آنتروپیک را وادار کنند اطلاعاتی درباره تعداد کمی از آسیبپذیریهای نرمافزاری فاش کند. سپس این یافتهها به وزارت بازرگانی آمریکا گزارش داده شد که بعداً دستور محدودیت دسترسی به این مدلها را صادر کرد.
با این حال، آنتروپیک میگوید مشکلات محدود بوده و تنها شامل چند آسیبپذیری از پیش شناخته شده میشود. این شرکت استدلال میکند سایر مدلهای هوش مصنوعی در دسترس عموم نیز میتوانند چنین نقصهایی را شناسایی کنند و این مسئله توجیهکننده یک ممنوعیت کامل نیست.
اما به نظر میرسد مقامات آمریکایی مخالف هستند. آنها باور دارند مدلهای قدرتمند هوش مصنوعی میتوانند برای حملات سایبری، به ویژه علیه بانکها، سیستمهای دولتی و سایر زیرساختهای حیاتی، سوءاستفاده شوند.
از این رو، مقامات آمریکایی اکنون به طور فزایندهای مدلهای پیشرفته هوش مصنوعی را به جای یک محصول فناورانه صرف، یک مسئله امنیت ملی تلقی میکنند.
۳. آنتروپیک میگوید تلاش میکند دسترسی را بازگرداند
آنتروپیک میگوید دولت شواهدی دال بر یک شکست امنیتی گسترده یا خطرناک ارائه نکرده. به گفته شرکت، دور زدن ادعایی بسیار محدود و جزئی بوده و فقط قادر به شناسایی تعداد کمی از آسیبپذیریهای نرمافزاری از پیش شناخته شده بوده است. آنتروپیک همچنین استدلال کرد سایر مدلهای هوش مصنوعی در دسترس عموم میتوانند بدون نیاز به هیچ دورزنی، مسائل مشابهی را شناسایی کنند.
شرکت اعلام کرد هفتهها پیش از عرضه، مدل Fable 5 را با آژانسهای دولتی آمریکا، مؤسسه ایمنی هوش مصنوعی بریتانیا و محققان مستقل آزمایش کرده. به ادعای آنها، هیچکس موفق به کشف یک روش جیلبریک پ جهانی که بتواند به طور گسترده محافظتهای مدل را دور بزند، نشده. آنتروپیک گفت معتقد است یک سوءتفاهم رخ داده و در تلاش است تا در سریعترین زمان ممکن دسترسی را بازگرداند.
۴. تقابل دولت آمریکا و آنتروپیک
این دستور علیه آنتروپیک پس از ماهها تنش فزاینده بین این شرکت و بخشهایی از دولت ترامپ صادر شده است.
اوایل امسال، گزارش شد آنتروپیک از اجازه دادن به استفاده از مدلهای هوش مصنوعی خود برای نظارت داخلی و سیستمهای تسلیحاتی کاملاً خودکار خودداری کرده. گفته میشود این اختلاف نظر باعث درگیری گستردهتری با چندین آژانس دولتی و مقامات دفاعی شده.
آنتروپیک همچنین در حال اعتراض به تصمیم پنتاگون است که این شرکت را به عنوان ریسک زنجیره تأمین معرفی کرده. افزون بر این، این شرکت هوش مصنوعی به تازگی به صورت محرمانه برای عرضه اولیه سهام درخواست داده که میتواند ارزش آن را به نزدیک یک تریلیون دلار برساند و جایگاهش را به عنوان یکی از ارزشمندترین استارتاپهای هوش مصنوعی جهان تثبیت کند.
۵. چرا این موضوع برای هند و سایر نقاط جهان مهم است؟
اهمیت این ماجرا برای هند و بقیه جهان از آن روست که تاکنون، محدودیتهای آمریکا عمدتاً روی تراشههای هوش مصنوعی و فناوری نیمهرسانا متمرکز بوده، به ویژه برای محدود کردن دسترسی چین به قدرت محاسباتی پیشرفته.
اما با اقدام علیه آنتروپیک، به نظر میرسد واشنگتن استراتژی خود را تغییر داده و دسترسی به نرمافزار را به عنوان یک مسئله فوری امنیت ملی تلقی میکند.
به عبارت دیگر، دیگر فقط کنترل سختافزار مورد نیاز برای هوش مصنوعی مطرح نیست؛ دولتها اکنون به طور فعال تصمیم میگیرند چه کسانی میتوانند از قدرتمندترین نرمافزارهای پیشرفته استفاده کنند.
این موضوع زنگ خطر را به صدا درآورده است. سریدهار ومبو، بنیانگذار زوهو، این محدودیتها را یک هشدار بزرگ برای هند خوانده و هشدار داده که کشورش باید هرچه سریعتر تواناییهای هوش مصنوعی مستقل خود را بسازد.
به گفته ومبو، کشورها دیگر نمیتوانند فرض کنند همیشه به پیشرفتهترین فناوریهای جهان دسترسی خواهند داشت. او استدلال کرد هند باید سرمایهگذاری بیشتری روی تحقیقات هوش مصنوعی داخلی انجام دهد و به جای اتکای کامل به شرکتهای خارجی هوش مصنوعی، از مدلهای متنباز بیشتر استفاده کند.
حال چه اتفاقی خواهد افتاد؟
فعلاً آنتروپیک اعلام کرده در حال پیروی از دستور آمریکا است و تا زمانی که گفتگوها ادامه دارد، دسترسی به Fable 5 و Mythos 5 را قطع کرده. این شرکت اصرار دارد که نگرانیهای دولت بر اساس یک مشکل محدود است، نه یک تهدید امنیتی بزرگ، و امیدوار است دسترسی دوباره برقرار شود.
اما سوال بزرگتر فراتر از آنتروپیک است. این اقدام نشان میدهد که احتمال دارد به زودی مدلهای پیشرفته هوش مصنوعی همانند نیمهرساناها رفتار شوند؛ فناوریهایی که دولتها برای حفظ امنیت ملی، آنها را بیش از حد استراتژیک میدانند تا کاملاً به بازار واگذار شوند. اگر چنین بشود، کشورهایی مثل هند چارهای جز شتاب بخشیدن به تلاشهای هوش مصنوعی مستقل خود برای باقی ماندن در رقابت نخواهند داشت.
