کلود آنتروپیک کنترل یک سگ ربات را به دست می گیرد

مانند ربات های بیشتر در انبارها، دفاتر و حتی خانه‌های مردم ظاهر می‌شود، ایده مدل‌های زبان بزرگ که سیستم‌های پیچیده را هک می‌کنند، چیزی شبیه کابوس‌های علمی تخیلی به نظر می‌رسد. بنابراین، به طور طبیعی، محققان انسان‌شناسی مشتاق بودند ببینند اگر کلود بخواهد کنترل یک ربات – در این مورد، یک سگ ربات – را به دست بگیرد، چه اتفاقی می‌افتد.

در یک مطالعه جدید، محققان Anthropic دریافتند که کلود قادر است بسیاری از کارهای مربوط به برنامه‌نویسی یک ربات و وادار کردن آن به انجام وظایف فیزیکی را خودکار کند. در یک سطح، یافته‌های آنها قابلیت‌های کدگذاری عاملی مدل‌های هوش مصنوعی مدرن را نشان می‌دهد. از سوی دیگر، آنها اشاره می کنند که چگونه این سیستم ها ممکن است شروع به گسترش به قلمرو فیزیکی کنند، زیرا مدل ها بر جنبه های بیشتر کدنویسی تسلط دارند و در تعامل با نرم افزار و همچنین اشیاء فیزیکی بهتر می شوند.

لوگان گراهام، یکی از اعضای تیم قرمز Anthropic که مدل‌ها را از نظر خطرات احتمالی مطالعه می‌کند، به WIRED گفت: «ما گمان می‌کنیم که قدم بعدی برای مدل‌های هوش مصنوعی شروع به دستیابی به جهان و تأثیرگذاری گسترده‌تر بر جهان است. این واقعا نیازمند تعامل بیشتر مدل‌ها با روبات‌ها است.»

آنتروپیک در سال 2021 توسط کارمندان سابق OpenAI تاسیس شد که معتقد بودند هوش مصنوعی با پیشرفت خود می تواند مشکل ساز و حتی خطرناک شود. گراهام می‌گوید مدل‌های امروزی آنقدر باهوش نیستند که بتوانند کنترل کامل یک ربات را در دست بگیرند، اما مدل‌های آینده ممکن است اینطور باشند. او می‌گوید مطالعه نحوه استفاده مردم از LLM برای برنامه‌ریزی روبات‌ها می‌تواند به صنعت کمک کند تا برای ایده «مدل‌هایی که در نهایت خود را تجسم می‌دهند» آماده شود، با اشاره به این ایده که هوش مصنوعی روزی می‌تواند سیستم‌های فیزیکی را کنترل کند.

هنوز مشخص نیست که چرا یک مدل هوش مصنوعی تصمیم می گیرد کنترل یک ربات را در دست بگیرد – چه رسد به اینکه با آن کار مخربی انجام دهد. اما حدس و گمان در مورد بدترین سناریو بخشی از برند آنتروپیک است و به جایگاه این شرکت به عنوان یک بازیگر کلیدی در جنبش مسئول هوش مصنوعی کمک می کند.

در این آزمایش که Project Fetch نام داشت، آنتروپیک از دو گروه از محققان بدون تجربه قبلی در زمینه رباتیک خواست تا کنترل یک سگ رباتیک به نام چهارپا Unitree Go2 را در دست بگیرند و آن را برای انجام فعالیت های خاص برنامه ریزی کنند. به تیم ها اجازه داده شد تا به یک کنترلر دسترسی داشته باشند، سپس از آنها خواسته شد تا وظایف پیچیده تر را تکمیل کنند. یک گروه از مدل کدگذاری کلود استفاده کردند – گروه دیگر بدون کمک هوش مصنوعی کد نوشتند. گروهی که از کلود استفاده می‌کردند می‌توانستند برخی از کارها، اما نه همه، را سریع‌تر از گروه برنامه‌نویسی فقط انسانی انجام دهند. به عنوان مثال، او توانست ربات را وادار کند تا راه برود و یک توپ ساحلی پیدا کند، چیزی که گروهی که فقط انسان بودند نمی توانستند بفهمند.

آنتروپیک همچنین پویایی همکاری در دو تیم را با ضبط و تجزیه و تحلیل تعاملات آنها بررسی کرد. آنها دریافتند که گروهی که به کلود دسترسی نداشتند، خلق و خوی منفی و سردرگمی بیشتری از خود نشان دادند. این می تواند به این دلیل باشد که Claude اتصال به ربات را سریعتر کرده و یک رابط کاربری ساده تر را کدگذاری کرده است.

ربات Go2 مورد استفاده در آزمایشات آنتروپیک 16900 دلار قیمت دارد که بر اساس استانداردهای روبات نسبتاً ارزان است. معمولاً در صنایعی مانند ساخت و ساز و تولید برای انجام بازرسی از راه دور و گشت های امنیتی استفاده می شود. ربات می تواند به طور مستقل حرکت کند، اما معمولاً به دستورات نرم افزاری سطح بالا یا شخصی که کنترل کننده را اداره می کند، متکی است. Go2 توسط Unitree، که در هانگژو، چین مستقر است، تولید می شود. بر اساس گزارش اخیر SemiAnalysis، سیستم های هوش مصنوعی آن در حال حاضر محبوب ترین در بازار هستند.

مدل‌های زبان بزرگی که ChatGPT و دیگر ربات‌های چت هوشمند را نیرو می‌دهند، معمولاً متن یا تصاویر را در پاسخ به یک درخواست تولید می‌کنند. اخیراً، این سیستم‌ها در تولید کد و نرم‌افزارهای عملیاتی ماهر شده‌اند و آنها را به جای تولیدکننده متن، عامل می‌سازند.