Anthropic می گوید که Claude Fable 5 را آفلاین می کند تا از دستور دولت ایالات متحده پیروی کند
آنتروپیک می گوید این است دو مدل هوش مصنوعی را که اوایل این هفته عرضه کرده بود، Claude Fable 5 و Mythos 5 را غیرفعال کرد تا با دستورالعمل کنترل صادراتی که بعدازظهر جمعه از دولت ایالات متحده دریافت کرده بود، مطابقت داشته باشد، به دلیل نگرانی های امنیت ملی.
این حادثه بی‌سابقه، نشان‌دهنده آخرین نقطه اشتعال بین آنتروپیک و دولت ترامپ است. اگرچه این شرکت می‌گوید که این دستور ملزم به تعلیق دسترسی به «هر تبعه خارجی، چه در داخل یا خارج از ایالات متحده، از جمله کارمندان خارجی آنتروپیک» است، اما برای اطمینان از رعایت قوانین، دسترسی همه مشتریان خود را حذف کرده است.
در اوایل سال جاری، پس از اینکه سازنده کلود تلاش کرد خطوط قرمزی در مورد نحوه استفاده ارتش ایالات متحده از فناوری خود ترسیم کند، وزارت دفاع ترامپ آنتروپیک را “خطر زنجیره تامین” نامید. این نام گذاری به طور موثر سازمان های دولتی و پیمانکاران را از استفاده از فناوری آنتروپیک منع می کند. آنتروپیک با طرح شکایت علیه دولت ترامپ پاسخ داد.
روز سه‌شنبه، آنتروپیک Claude Fable 5 را به‌طور عمومی منتشر کرد، نسخه‌ای از مدل هوش مصنوعی Mythos این شرکت با تدابیری که مانع از پاسخگویی به سؤالات مربوط به امنیت سایبری، زیست‌شناسی و شیمی می‌شود. قبل از انتشار عمومی، که Anthropic گفت با همکاری دولت ایالات متحده انجام شد، مدل Mythos Preview AI در ماه آوریل عرضه محدودی داشت. هدف این بود که شرکت‌ها و سازمان‌ها بتوانند از قابلیت‌های امنیت سایبری قدرتمند آن برای بهبود دفاع خود استفاده کنند و نگرانی‌ها در مورد استفاده بازیگران بد از این فناوری برای توسعه ابزارهای هک قدرتمند را برطرف کنند.
آنتروپیک در یک پست وبلاگ روز جمعه گفت که نامه ای از دولت ایالات متحده در ساعت 5:21 بعد از ظهر دریافت کرده است. ET. آنتروپیک نوشت: «این نامه جزئیات خاصی در مورد نگرانی های امنیت ملی آن ارائه نکرده است.
این شرکت افزود: «درک ما این است که دولت معتقد است از روشی برای دور زدن یا «جیل بریک» Fable 5 آگاه شده است. ما نمایشی از این تکنیک خاص را که برای شناسایی تعداد کمی از آسیب‌پذیری‌های کوچک قبلاً شناخته شده بود، بررسی کرده‌ایم. همه این آسیب‌پذیری‌ها نسبتاً ساده به نظر می‌رسند، و متوجه شدیم که سایر مدل‌های در دسترس عموم نیز می‌توانند آنها را بدون نیاز به دور زدن شناسایی کنند.»
در پست وبلاگ، این شرکت ادعا می‌کند که تدابیر قوی را برای کاهش احتمال سوء استفاده از کلود فبل 5 به کار گرفته است. Anthropic همچنین ادعا می‌کند که جیلبریکی که دولت ایالات متحده برای Claude Fable 5 کشف کرد محدود بود و مهاجم را به میزان قابل توجهی خطرناک‌تر از مدل هوش مصنوعی دیگر نمی‌سازد.
این شرکت در پست وبلاگ خود گفت: «تا به امروز، دولت تنها شواهد شفاهی از یک جیلبریک بالقوه و غیر جهانی را به ما ارائه کرده است، که اساساً شامل درخواست از مدل برای خواندن یک پایگاه کد خاص و رفع هرگونه نقص نرم افزاری است». درک ما این است که یک فرار بالقوه از زندان با دولت به اشتراک گذاشته شده است.
سخنگویان کاخ سفید و وزارت بازرگانی ایالات متحده بلافاصله به درخواست WIRED برای اظهار نظر پاسخ ندادند.
داریو آمودی، مدیر عامل آنتروپیک، در اوایل این هفته در مقاله‌ای گفت که او و شرکت از یک فرآیند دولتی منصفانه، ساختاریافته و شفاف حمایت می‌کنند که مانع از انتشار مدل‌های خطرناک هوش مصنوعی می‌شود. در پست وبلاگ این شرکت در روز جمعه، Anthropic ادعا کرد که “این اقدام به این اصول پایبند نیست.”
