تدابیر امنیتی هوش مصنوعی مانع کار محققان امنیت سایبری شده است

غول‌های هوش مصنوعی برای جلوگیری از سوءاستفاده هکرها، برنامه‌ها و تدابیر امنیتی سخت‌گیرانه‌ای وضع کرده‌اند. اما این محدودیت‌ها اکنون مانع کار محققان امنیت سایبری تهاجمی و مدافعان شبکه شده است. در ماه ژوئن، دولت آمریکا محدودیت‌های کنترل صادرات را بر مدل‌های Mythos و Fable شرکت Anthropic اعمال کرد. این اقدام تا حدی به دلیل گزارشی بود که ادعا می‌کرد می‌توان تدابیر امنیتی این مدل‌ها را برای ساخت و اجرای حملات سایبری مخرب دور زد. Anthropic بارها Mythos را به عنوان یک "ماشین سایبری روز قیامت" معرفی کرده که فقط به کاربران مورد تأیید و با محدودیت‌های شدید ارائه می‌شود.

مارک داود، محقق برجسته امنیتی، می‌گوید: "اینکه شرکت‌های بزرگ به صورت خودسرانه درباره آنچه در امنیت ایمن است یا نیست تصمیم بگیرند، برای من چندان راحت نیست."

این نوع محدودیت‌ها فقط مختص Mythos نیست. Anthropic و OpenAI برنامه‌هایی را برای محققان امنیت سایبری ارائه می‌دهند که پس از تأیید، می‌توانند به مدل‌هایی با محدودیت‌های امنیتی کمتر دسترسی پیدا کنند. این تدابیر امنیتی به شدت مورد انتقاد محققانی قرار گرفته که وظیفه‌شان یافتن آسیب‌پذیری‌های ناشناخته در سیستم‌ها و توسعه روش‌های بهره‌برداری از آن‌ها پیش از مجرمان است. کریس آنلی، دانشمند ارشد NCC Group، می‌گوید درخواست از یک مدل هوش مصنوعی برای تلاش جهت بهره‌برداری از یک باگ، گامی کلیدی در تأیید واقعی بودن آسیب‌پذیری است. اما اگر تدابیر امنیتی مانع پاسخگویی مدل شود، به مدافعان آسیب می‌رساند. او افزود: "دستور 'این کد را اصلاح کن' هم یک مکانیسم ضروری برای دفاع است و هم نقشه‌ای برای یافتن آسیب‌پذیری‌های حیاتی در پایگاه کد. بنابراین، یک ابزار واحد هم تهاجمی است و هم دفاعی، و این دو را نمی‌توان از هم جدا کرد." برخی محققان برای دور زدن این محدودیت‌ها به مدل‌های هوش مصنوعی متن‌باز بدون تدابیر امنیتی روی می‌آورند. پائولو استاگن، مدیر ارشد فناوری Crowdfense، معتقد است شرکت‌های هوش مصنوعی با برنامه‌های تأیید و تدابیر امنیتی خود، "اساساً با مشتریان مانند کودکانی رفتار می‌کنند که نیاز به مراقبت دارند." او و همکارانش از مدل‌های پیشرفته فقط برای مهندسی معکوس استفاده می‌کنند و از هوش مصنوعی برای یافتن آسیب‌پذیری‌ها یا ساخت اکسپلویت‌ها پرهیز می‌کنند تا از نشت داده‌های حساس یا جذب آن‌ها در آموزش‌های آینده جلوگیری شود. جوزپه کالی، محقق امنیتی که آسیب‌پذیری‌های روز صفر را کشف و اکسپلویت‌ها را توسعه می‌دهد، می‌گوید تدابیر امنیتی مانع کار او نمی‌شود، زیرا او از هوش مصنوعی برای کارهای تهاجمی استفاده نمی‌کند. او از آن برای مهندسی معکوس اولیه، درک کد مورد تحلیل و ساخت ابزارهای پشتیبانی بهره می‌برد. یک محقق در یک شرکت تولیدکننده قطعات گوشی هوشمند، که نخواست نامش فاش شود، گفت که شرکتش عضو برنامه CVP شرکت Anthropic نیست و به همین دلیل، ابزارهای آن برای یافتن آسیب‌پذیری‌ها تقریباً بی‌فایده‌اند، زیرا تدابیر امنیتی بسیار سخت‌گیرانه هستند. کریس تامپسون، مدیرعامل RemoteThreat و بنیان‌گذار Offensive AI Con، می‌گوید تدابیر امنیتی در مدل‌های هوش مصنوعی پیشرفته می‌تواند ناسازگار باشد و هر روز متفاوت عمل کند. او افزود: "تأثیر عملی این است که شما زمان زیادی را صرف مذاکره با مدل می‌کنید به جای اینکه روی برنامه امنیتی اصلی کار کنید." در نتیجه، محققان به مدل‌های متن‌باز چینی مانند GLM روی می‌آورند که بدون محدودیت قابل دانلود و اجرا هستند. تامپسون هشدار داد: "این محققان مسئولیت‌پذیر از سیستم‌های تحت کنترل آمریکا به سمت سیستم‌های خارجی سوق داده می‌شوند. فکر می‌کنم وجود این تدابیر امنیتی بیشتر مضر است تا مفید." تامپسون از آزمایشگاه‌های پیشرفته هوش مصنوعی خواست تا برنامه‌های خود را بازتر کنند، دسترسی مسئولانه فراهم آورند و سوءاستفاده‌کنندگان را پاسخگو بدانند. در غیر این صورت، مدافعان در رقابت هوش مصنوعی شکست خواهند خورد. منبع: TechCrunch