به گفته فیزیکدانان، ریاضیات ساده می‌توانند پیش‌بینی کنند که چه زمانی یک هوش مصنوعی در شرف نابودی است

محققان می گویند که یک فرمول ریاضی ساده ایجاد کرده اند که می تواند زمان مشابه بودن ChatGPT های خاص را پیش بینی کند هوش مصنوعی ربات‌های چت (AI) “به بیراهه می‌روند” و ناگهان از پاسخ‌های مفید به پاسخ‌های بالقوه مضر تغییر می‌کنند.

در یک یک مطالعه جدید در 8 اکتبر در مجله Patterns, Professor of Physics منتشر شد نیل جانسون و Ph.D فرانک ینگژی هوهر دو در دانشگاه جورج واشنگتن، نشان می‌دهند که چگونه ترتیبی که یک ربات چت اعلان‌های خاص را دریافت می‌کند، می‌تواند به طور چشمگیری پاسخ‌های آن را تغییر دهد، و منجر به “نقاط اوج” شود که می‌تواند چت بات را به سوراخی از توصیه‌های بد بفرستد. با این حال، جانسون و هوو می گویند فرمول آنها می تواند به راحتی این نقاط عطف را پیش بینی کند. داستان های ترسناکی در مورد هوش مصنوعی وجود دارد تشویق کاربران به خودکشی، کمک به ساخت سلاح های مرگبار، و تقویت دیدگاه های خشونت آمیز یا مضر. در همان زمان، محققان از OpenAI و آنتروپوسنبه ترتیب بارها و آشکارا اعلام کرده‌اند که واقعاً نمی‌دانند چرا خلاقیت‌هایشان اینگونه رفتار می‌کند. با این حال، آن‌ها محافظ‌هایی ساخته‌اند که از ابزارهای مختلفی – از جمله فیلتر کردن محتوا، یادگیری تقویتی و سایر حفاظت‌های فنی – برای کاهش خطرات استفاده می‌کنند.