OpenAI استفاده نظامی را ممنوع کرد. پنتاگون همچنان مدل های خود را از طریق مایکروسافت آزمایش می کند

سام آلتمن، مدیر عامل OpenAI، این هفته پس از امضای قرارداد شرکتش با ارتش ایالات متحده، همچنان روی صندلی داغ نشسته است. مقامات OpenAI از این اقدام انتقاد کردند که پس از فروپاشی قرارداد 200 میلیون دلاری آنتروپیک با پنتاگون صورت گرفت و از آلتمن خواستند اطلاعات بیشتری درباره این توافق ارائه دهد. آلتمن اعتراف کرد که در یک پست در شبکه های اجتماعی “درخت” به نظر می رسد.

در حالی که این حادثه به یک خبر بزرگ تبدیل شد، ممکن است آخرین و عمومی‌ترین نمونه OpenAI باشد که سیاست‌های نامشخصی در مورد نحوه دسترسی ارتش ایالات متحده به هوش مصنوعی خود ایجاد می‌کند.

در سال 2023، سیاست استفاده OpenAI به طور خاص ارتش را از دسترسی به مدل های هوش مصنوعی خود منع کرد. اما برخی از مقامات OpenAI دریافته‌اند که پنتاگون قبلاً آزمایش‌های Azure OpenAI را آغاز کرده است، نسخه‌ای از مدل‌های OpenAI ارائه شده توسط مایکروسافت، دو منبع آشنا به این موضوع گفتند. در آن زمان، مایکروسافت برای چندین دهه با وزارت دفاع قرارداد بسته بود. همچنین بزرگترین سرمایه گذار OpenAI بود و مجوز گسترده ای برای تجاری سازی فناوری استارت آپ داشت.

منابع گفتند در همان سال، کارکنان OpenAI مقامات پنتاگون را دیدند که در دفاتر این شرکت در سانفرانسیسکو قدم می زدند. آنها به شرط ناشناس ماندن صحبت کردند زیرا مجوز اظهار نظر در مورد مسائل مربوط به شرکت های خصوصی را ندارند.

برخی از مقامات OpenAI از ارتباط با پنتاگون محتاط بودند، در حالی که برخی دیگر به سادگی در مورد معنای سیاست های استفاده از OpenAI سردرگم بودند. آیا این سیاست برای مایکروسافت اعمال می شود؟ در حالی که منابع به WIRED می‌گویند که در آن زمان برای اکثر کارمندان واضح نبود، سخنگویان OpenAI و مایکروسافت می‌گویند که محصولات Azure OpenAI مشمول سیاست‌های OpenAI نبوده و نیستند.

فرانک شاو، سخنگوی مایکروسافت در بیانیه ای به WIRED گفت: مایکروسافت محصولی به نام Azure OpenAI Service دارد که در سال 2023 در اختیار دولت ایالات متحده قرار گرفت و مشمول شرایط خدمات مایکروسافت است. مایکروسافت از اظهار نظر در مورد زمان ارائه Azure OpenAI به پنتاگون خودداری کرد، اما اشاره کرد که این سرویس تا سال 2025 برای بارهای کاری دولتی “فوق سری” تایید نشده بود.

لیز بورژوا، سخنگوی OpenAI در بیانیه ای گفت: “هوش مصنوعی در حال حاضر نقش مهمی در امنیت ملی ایفا می کند، و ما معتقدیم که داشتن یک صندلی روی میز برای اطمینان از استقرار ایمن و مسئولانه آن مهم است.” ما با کارمندان خود شفاف بوده‌ایم که به این کار نزدیک می‌شویم، به‌روزرسانی‌های منظم و کانال‌های اختصاصی را ارائه می‌دهیم که تیم‌ها می‌توانند سؤال بپرسند و مستقیماً با تیم امنیت ملی ما تعامل داشته باشند.»

وزارت دفاع به درخواست WIRED برای اظهار نظر پاسخ نداد.

تا ژانویه 2024، OpenAI سیاست های خود را برای حذف ممنوعیت کامل استفاده نظامی به روز کرده است. به گفته منابع، چندین کارمند OpenAI از طریق مقاله ای در The Intercept از به روز رسانی خط مشی مطلع شدند. رهبران شرکت بعداً در جلسه ای با همه شرکت کنندگان به این تغییر پرداختند و توضیح دادند که چگونه شرکت با دقت در این زمینه پیش می رود.

در دسامبر 2024، OpenAI شراکت با Anduril را برای توسعه و استقرار سیستم های هوش مصنوعی برای “ماموریت های امنیت ملی” اعلام کرد. همان منابع گفتند، قبل از اعلام، OpenAI به کارمندان گفته بود که این مشارکت از نظر دامنه محدود است و تنها با حجم کاری طبقه بندی نشده سروکار دارد. این برخلاف قراردادی بود که آنتروپیک با پالانتیر امضا کرده بود که بر اساس آن هوش مصنوعی آنتروپیک برای کارهای نظامی طبقه بندی شده استفاده می شد.

سخنگوی OpenAI به WIRED تأیید کرد که Palantir در پاییز 2024 به OpenAI نزدیک شد تا در مورد مشارکت در برنامه “FedStart” خود صحبت کند. دو منبع آگاه به WIRED گفتند که این شرکت در نهایت آن را رد کرد و به کارمندان گفت که خطر بسیار بالایی خواهد بود. با این حال، اکنون OpenAI به روش های دیگری با Palantir کار می کند.

منابع گفتند و یک سخنگوی آن تایید کرد، در حوالی زمانی که قرارداد Anduril اعلام شد، ده ها کارمند OpenAI به یک کانال عمومی Slack پیوستند تا در مورد نگرانی های خود در مورد مشارکت نظامی این شرکت صحبت کنند. برخی بر این باور بودند که مدل‌های این شرکت برای کنترل اطلاعات کارت اعتباری کاربر بسیار غیرقابل اعتماد هستند، چه رسد به کمک به آمریکایی‌ها در میدان جنگ.