OpenAI می گوید که مدل هوش مصنوعی سیستم های یک شرکت دیگر را طی یک آزمایش داخلی هک کرده است

OpenAI روز سه‌شنبه اعلام کرد که یکی از مدل‌های هوش مصنوعی پیشرفته‌اش به‌طور خودکار زیرساخت‌های یک شرکت هوش مصنوعی دیگر را طی آزمایش‌های داخلی هک کرده است که آن را یک «حادثه سایبری بی‌سابقه» توصیف کرد.

این شرکت گفت که استارت‌آپ Hugging Face هفته گذشته پس از اینکه یک عامل هوش مصنوعی بخشی از زیرساخت‌های آن را در معرض خطر قرار داد، این شکاف را کشف و اصلاح کرد. این شرکت ها گفتند که معتقدند این ممکن است اولین مورد فاش شده عمومی از نفوذ یک مدل هوش مصنوعی به سیستم های یک شرکت دیگر در طی یک ارزیابی کنترل شده باشد.

OpenAI گفت که این نقض در طول ارزیابی داخلی چندین مدل آن، از جمله GPT-5.6 Sol رخ داده است.

سام آلتمن، مدیر عامل OpenAI، این حادثه را در پستی در X تایید کرد و نوشت که این شرکت “یک حادثه امنیتی مهم در حین ارزیابی مدل های ما” داشته است.

OPENAI کار CHATGPT را برای خودکارسازی وظایف محل کار با استفاده از AI Race معرفی می کند

OpenAI فاش کرد که یکی از مدل‌های هوش مصنوعی پیشرفته‌اش، سیستم‌های یک شرکت دیگر را طی ارزیابی امنیت سایبری داخلی به خطر انداخته و آن را یک «حادثه سایبری بی‌سابقه» نامید. (آنا مانی میکر/گتی ایماژ/گتی ایماژ)

OpenAI در یک بیانیه خبری گفت: “ما معتقدیم که این حادثه یک حادثه سایبری بی سابقه است که شامل قابلیت های سایبری پیشرفته است و بر این اساس پاسخ می دهیم.”

این شرکت اعلام کرد که در حال انتشار یافته‌های اولیه است تا به متخصصان امنیتی کمک کند تا توانایی‌های مدل‌های هوش مصنوعی امروزی را تا زمانی که تحقیقات ادامه دارد، بهتر درک کنند.

OpenAI هشدار داده است که مدل‌های هوش مصنوعی با قابلیت فزاینده، کشف و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزار را تسریع می‌کنند.

این شرکت گفت: «درس اصلی از این حادثه این است که امنیت و ایمنی مدل باید همگام با قابلیت‌های در حال تکامل سریع باشد. ما در حال تقویت روش‌های مهار، نظارت، کنترل دسترسی و ارزیابی مورد استفاده در طول توسعه مدل هستیم.»

اپل OPENAI را متهم کرد که به استخدام‌کنندگان گفته است نمونه‌های اولیه اپل را برای مصاحبه بیاورند

OpenAI گفت که یکی از مدل‌های هوش مصنوعی آن سیستم‌های یک شرکت دیگر را در طول آزمایش داخلی به خطر انداخته است که باعث تحقیقات مشترک با استارت‌آپ هوش مصنوعی Hugging Face شده است. (رویترز/دادو روویک/رویترز)

کلم دلانژ، یکی از بنیانگذاران و مدیرعامل Hugging Face نیز در یک پست X به این حادثه پرداخت.

“ما مشکوک بودیم که حمله سایبری هفته گذشته ممکن است از یک آزمایشگاه مرزی با توجه به پیچیدگی مامور انجام شده باشد. معلوم شد که انجام شده است!” دلانژ نوشت.

او ادامه داد: «ما 24 ساعت گذشته را با تیم @OpenAI سپری کرده‌ایم (متشکرم!) و قویاً معتقدیم که هیچ قصد بدخواهی از سوی آنها وجود نداشته است. “شگفت آور است که همه اینها به طور مستقل اتفاق افتاده است! تحقیقات در حال انجام است و ما درس های بیشتری از آنچه ممکن است اولین حادثه در نوع خود باشد به اشتراک خواهیم گذاشت!”

جراح جان هاپکینز پیشرفت هوش مصنوعی را برجسته می کند که می تواند سرطان پانکراس را قبل از پزشکان تشخیص دهد

Hugging Face گفت که پس از اینکه یک مدل OpenAI بخشی از زیرساخت آن را در طول یک ارزیابی داخلی به خطر انداخته بود، یک نقض امنیتی را کشف کرده و حاوی آن است. (Jaque Silva/NurPhoto via Getty Images/Getty Images)

به گفته OpenAI، این حادثه در طی یک ارزیابی داخلی که برای اندازه‌گیری قابلیت‌های سایبری پیشرفته مدل‌های هوش مصنوعی طراحی شده بود، رخ داد. محققان برخی از حفاظت های داخلی را غیرفعال کردند و مدل ها را در یک محیط آزمایشی ایزوله با دسترسی محدود به اینترنت اجرا کردند.

OpenAI گفت این مدل‌ها از یک نقص نرم‌افزاری ناشناخته برای دسترسی به اینترنت استفاده کردند، سپس در تلاشی آشکار برای یافتن پاسخی برای معیار امنیت سایبری، سیستم‌های Hugging Face را زیر پا گذاشتند.

تیم امنیتی OpenAI این فعالیت غیرعادی را شناسایی کرد، در حالی که Hugging Face به طور مستقل نفوذ را شناسایی و مهار کرد.

برای دانلود برنامه FOX NEWS اینجا را کلیک کنید

پس از این حادثه، OpenAI گفت که در حال اجرای کنترل‌های امنیتی سخت‌تر در حالی که آسیب‌پذیری‌ها وصله شده‌اند و حفاظت‌های مربوط به آموزش و ارزیابی‌های آینده هوش مصنوعی را تقویت می‌کند.