شرکت متا فاش کرد که یکی از سیستمهای هوش مصنوعی این شرکت در حین آزمایش، به اطلاعات یک شرکت دیگر نفوذ کرده است.
این اطلاعیه نگرانیها را بیشتر میکند که سیستمهای هوش مصنوعیِ توانمندتر، بدون اطلاع سازندگانشان، به طور فزایندهای حملات سایبری انجام میدهند. این اتفاق پس از حوادث مشابهی در OpenAI، سازنده ChatGPT، و Claude’s Anthropic رخ میدهد. حوادث رخ داده در Meta و Anthropic ناشی از خطاهای پیکربندی بود که ناخواسته به مدلهای Anthropic امکان دسترسی به اینترنت آزاد را میداد. در مورد OpenAI، یک عامل هوش مصنوعی به طور مستقل از یک آسیبپذیری ناشناخته برای دسترسی به اینترنت در طول آزمایش امنیت سایبری سوءاستفاده کرد.
این رخنهها نگرانیهای فزایندهای را برجسته میکنند مبنی بر اینکه سیستمهای پیشرفته هوش مصنوعی میتوانند خطرات جدید امنیت سایبری ایجاد کنند و احتمالاً تلاشهای دولت ایالات متحده را برای بهبود ایمنی هوش مصنوعی تشدید میکنند، زیرا شرکتها برای توسعه مدلهای توانمندتر با هم رقابت میکنند. برخی از رهبران برجسته هوش مصنوعی استدلال کردهاند که توسعه باید تا زمان ایجاد حفاظهای قویتر، کند شود.
شرکت متا اعلام کرد در حال بررسی حادثهای است که در آن، پیکربندی نادرست شرکت مستقل Irregular که ارزیابیهای امنیت سایبری را برای متا انجام میدهد، سهواً به یکی از مدلهای آن در طول آزمایش دسترسی به اینترنت داده است.
شرکت متا در بیانیهای اعلام کرد: «این مدل از یک آسیبپذیری امنیتی در یک سرویس شخص ثالث، به شیوهای مشابه موارد گزارششده قبلی در مورد سایر شرکتها، سوءاستفاده کرده است.»
این اطلاعات، به نقل از منابع، گزارش داد که مدل مورد استفاده، Muse Spark 1.1 شرکت متا بوده است که این شرکت آن را به عنوان توانمندترین مدل خود برای کدنویسی در دنیای واقعی و وظایف عاملمحور معرفی کرده است. در این گزارش آمده است که این مدل به سیستمهای یک شرکت ناشناس نفوذ کرده و محیط داخلی آن را تغییر داده است.
سخنگوی شرکت Irregular به رویترز گفت که این حادثه «دقیقاً همان مشکل ارزیابی-محیطی بود که هفته گذشته توسط شرکت Anthropic افشا شد» و شامل «فرار از سندباکس یا اقدام سایبری پیچیده» نبود.
شرکت Irregular گفت: «در حال حاضر هیچ موضوع حل نشدهای وجود ندارد. Irregular در حال تهیهی یک گزارش رسمی برای به اشتراک گذاشتن بهترین شیوهها برای مهار و اجرای ایمن ارزیابیهای سایبری است.»
نفوذهای اخیر نگرانیهایی را در میان قانونگذاران آمریکایی در مورد اینکه آیا مدلهای هوش مصنوعی که به طور فزایندهای توانمند میشوند، میتوانند برای انجام یا تسهیل حملات سایبری مورد استفاده قرار گیرند، برانگیخته است.
گروهی از دادستانهای کل ایالتهای جمهوریخواه از OpenAI خواستهاند تا تمام اسناد بالقوه مرتبط با نقض امنیتی Hugging Face را حفظ کند. OpenAI اعلام کرده است که این درخواست را جدی گرفته و یک گزارش فنی در مورد این حادثه منتشر خواهد کرد.
اوایل این هفته، کاخ سفید از شرکتهای پیشرو در حوزه هوش مصنوعی، از جمله متا، آنتروپیک، اوپنایآی و گوگل، دعوت کرده بود تا با مقامات دیدار کنند و در مورد چارچوب آزمایش داوطلبانه امنیت سایبری که به تازگی برای مدلهای پیشرفته هوش مصنوعی نهایی شده است، گفتگو کنند.
رویترز گزارش داد که دولت ترامپ قوانین آزمایش منتشر نشده را با نمایندگان شرکتها مورد بحث قرار داده و به توسعهدهندگان هوش مصنوعی گفته است که مدلهای هوش مصنوعی با وزن آزاد، مانند لاما از شرکت متا و نموترون از شرکت انویدیا، مشمول رژیم آزمایش ایمنی داوطلبانه برنامهریزی شده نخواهند بود.
