ایلان ماسک پس از حمله سایبری فرانسه به X احضار شد

مقامات فرانسوی گام نادری را برای یورش به دفاتر X پاریس، پلتفرم رسانه اجتماعی متعلق به آن برداشته اند ایلان ماسکپس از اینکه محققان تحقیقات جرایم سایبری را به نحوه عملکرد الگوریتم‌ها و سیستم‌های هوش مصنوعی این پلتفرم گسترش دادند.

دادستان تایید کرد که این اقدام بخشی از تحقیقات یک ساله است که اکنون از مسائل فنی به افشای جنایی احتمالی افزایش یافته است.

آنچه فوراً توجه را جلب کرد فقط خود حمله نبود، بلکه دامنه آن چیزی بود که تأیید می شد. دادستان های فرانسوی می گویند که تحقیقات از قبل شامل سوء استفاده ادعایی از الگوریتم ها، داده کاوی جعلی و شکایات مربوط به چت ربات هوش مصنوعی X، Grok است.

این تحقیقات گسترش یافت و شامل نگهداری و توزیع احتمالی مطالب سوء استفاده جنسی از کودکان و ایجاد تصاویر عمیق جعلی صریح جنسی بود که به طور چشمگیری خطرات این پلتفرم را افزایش داد.

شرح قبل از توضیح

سیگنال های حمله نگران کننده X دیگر تئوری نیستند. پلیس فرانسه با ورود به دفاتر شرکت، مواد را ضبط کرد و تأیید کرد که ماسک و مدیرعامل سابق لیندا یاکارینو برای حضور در برابر بازرسان در ماه آوریل احضار شده بودند. سایر کارکنان ح. به عنوان شاهد احضار شدند.

پس از حمله هیچ واکنش عمومی فوری از سوی X دریافت نشد. ماسک قبلاً اتهامات قبلی مربوط به تحقیقات را رد کرده و آنها را دارای انگیزه سیاسی توصیف کرده است.

با این حال، دادستان های فرانسوی این اقدام را بخشی از تلاش گسترده تر برای اطمینان از اینکه پلتفرم های فعال در فرانسه با قوانین ملی مطابقت دارند، توصیف کردند.

چه اشتباهی در سیستم رخ داده است

در قلب این تحقیق، موضوعی وجود دارد که تنظیم‌کننده‌ها در سراسر اروپا با آن دست و پنجه نرم می‌کنند: اینکه تا چه حد پلتفرم‌ها مسئول رفتار الگوریتم‌ها و سیستم‌های هوش مصنوعی پس از استقرار در مقیاس هستند.

مقامات فرانسوی می گویند که تحقیقات پس از آن آغاز شد که یک قانونگذار این نگرانی را مطرح کرد که الگوریتم های X مغرضانه ممکن است سیستم های پردازش خودکار داده را منحرف کرده باشند.

به گفته دادستان، نظارت به دلیل یک تصمیم از بین نرفت. در عوض، مسئولیت بین سیستم های خودکار، کنترل های داخلی و مدیریت اجرایی تقسیم شده است.

الگوریتم‌هایی که برای تقویت محتوا طراحی شده‌اند، همراه با ابزارهای هوش مصنوعی که به سرعت مستقر می‌شوند، ممکن است بدون حفاظت کافی برای جلوگیری از سوء استفاده یا سوء استفاده عمل کرده باشند.

در این مرحله، تحقیقات افراد را با عمد متهم نمی کند. در عوض، بررسی می‌کند که آیا سیستم‌هایی که برای تعدیل یا مدیریت محتوا در نظر گرفته شده بودند، موفق به انجام این کار نشدند و آیا کنترل‌های داخلی پس از ایجاد آن سیستم‌ها کافی بودند یا خیر.

چرا این بیش از یک شرکت را نگران کرد

این مورد پیامدهایی بسیار فراتر از X دارد. تنظیم‌کننده‌ها به طور فزاینده‌ای بر روی نحوه پردازش داده‌ها، تصاویر و محتوایی که می‌تواند باعث آسیب به دنیای واقعی شود، پلتفرم‌های مبتنی بر هوش مصنوعی تمرکز می‌کنند.

اگر دادستان ها به این نتیجه برسند که طراحی یا پیاده سازی الگوریتمی به نتایج غیرقانونی کمک می کند، سابقه می تواند به سایر پلتفرم ها با استفاده از سیستم های مشابه گسترش یابد.

برای عموم، نگرانی کمتر در مورد انطباق فنی و بیشتر در مورد از دست دادن کنترل است. پلتفرم هایی که گفتار، تصاویر و اطلاعات را در مقیاس بزرگ منتقل می کنند برای جلوگیری از بدترین سوء استفاده ها قابل اعتماد هستند.

وقتی این اعتماد زیر سوال می‌رود، مصرف‌کنندگان و تنظیم‌کننده‌ها شروع به تعجب می‌کنند که شرکت‌ها چقدر در سیستم‌های خودشان قابل مشاهده هستند.

شکاف پاسخگویی

یکی از برجسته‌ترین جنبه‌های تحقیقات فرانسه این است که مسئولیت نامشخص باقی مانده است. این تحقیقات شامل مدیران، مهندسان، سیستم های خودکار و ادغام های شخص ثالث می شود.

اگرچه ماسک و دیگر رهبران احضار شده اند، اما دادستان ها نگفته اند که در نهایت چه کسی مسئول شناخته خواهد شد.

به نظر می رسد که تنظیم کننده ها در حال بررسی هستند که مسئولیت قانونی از کجا شروع می شود و زمانی که تصمیمات تا حدی توسط ماشین ها گرفته می شود به پایان می رسد.

قوانین موجود برای تصمیم‌گیری انسانی نوشته شده‌اند، نه برای الگوریتم‌هایی که سریع‌تر از آنچه ساختارهای نظارتی می‌توانند پاسخ دهند، یاد می‌گیرند، تطبیق می‌دهند و مقیاس می‌شوند.

تنش استراتژیک در هسته

این پرونده در بحبوحه تنش های فزاینده ای است که تنظیم کننده ها و شرکت ها هنوز نتوانسته اند آن را حل کنند. پلتفرم ها استدلال می کنند که نوآوری و سرعت در یک بازار رقابتی جهانی ضروری است.

مقامات مقابله می کنند که ایمنی و پاسخگویی نمی تواند اختیاری باشد، زمانی که سیستم ها می توانند بلافاصله آسیب را افزایش دهند.

این تحقیق یک سوال ناراحت کننده را مطرح می کند: آیا زمانی که ابزارهای هوش مصنوعی عمیقاً در پلتفرم های اجتماعی جاسازی شدند، این نتیجه اجتناب ناپذیر بود یا با نظارت قوی تر و استقرار کندتر قابل پیشگیری بود؟

بعد چه اتفاقی می افتد

دادستان های فرانسه می گویند تحقیقات ادامه دارد و با همکاری واحدهای ملی جرایم سایبری و ادامه خواهد یافت یوروپل.

مشک انتظار می رود و دیگر مدیران اجرایی در ماه آوریل مورد بازجویی قرار گیرند و مقامات هشدار داده اند که احتمالاً تحقیقات بیشتری در مورد عملیات X در فرانسه وجود دارد.

در اقدامی نمادین، دفتر دادستانی پاریس اعلام کرد که استفاده از X را به عنوان یک پلتفرم ارتباطی متوقف می‌کند و به جای آن به لینکدین و اینستاگرام می‌رود.

اگرچه این تصمیم تا حد زیادی عملی است، اما نشان می‌دهد که اعتماد نهادی به پلتفرم تا چه حد ضعیف است.

اعتماد تحت فشار

یورش به دفتر X در پاریس لحظه ای را رقم زد که نگرانی های نظارتی به اقدام مستقیم تبدیل شد. این که آیا منجر به هزینه ها یا اصلاحات می شود نامشخص است. آنچه در حال حاضر مشهود است این است که وقتی اعتماد به نظارت پلت فرم از بین رفت، بازیابی آن بسیار دشوارتر می شود.

برای تنظیم کننده ها، شرکت ها و مصرف کنندگان به طور یکسان، این سوال حل نشده باقی مانده است: چگونه سیستم های به اندازه کافی قدرتمند برای شکل دادن به گفتمان عمومی، به اندازه کافی برای جذب این سطح از نظارت غیر مداخله ای عمل کنید؟