مدل GPT-6 Cyber برای متخصصان امنیت سایبری معرفی شد

اوپن‌ای‌آی از مدل هوش مصنوعی جدید خود با نام GPT-6 Cyber رونمایی کرد که برای پژوهش‌های امنیت سایبری و شناسایی آسیب‌پذیری‌های نرم‌افزاری توسعه یافته است. این شرکت می‌گوید مدل جدید در مقایسه با نسل قبلی، علاوه‌بر توانایی بیشتر در کشف آسیب‌پذیری‌ها، بهتر می‌تواند محدوده مجاز فعالیت خود را رعایت کند و سراغ نفوذ به سیستم‌های نامرتبط نرود. یکی از نگرانی‌های مربوط به استفاده از ایجنت‌های هوش مصنوعی در امنیت سایبری این است که مدل هنگام انجام یک مأموریت، از محدوده تعیین‌شده خارج شود و برای رسیدن به هدف خود به سرویس‌های دیگری حمله کند.

اوپن‌ای‌آی برای سنجش این رفتار، بنچمارکی با نام ExploitGym Honeypot طراحی کرده که از حادثه مربوط به هاگینگ فیس الهام گرفته است؛ براساس نتایج این ارزیابی، GPT-6 Cyber در 99٫93 درصد آزمایش‌ها از حمله به سرویس‌های خارج از محدوده وظیفه خودداری کرد. این رقم برای GPT-5.6 Cyber برابر با 94٫49 درصد بود. «فؤاد متین»، رئیس تیم آمادگی و ایمنی سایبری اوپن‌ای‌آی، در نشست خبری این شرکت گفت GPT-6 Cyber در این ارزیابی پیشرفت زیادی داشته است و بیش از 99 درصد مواقع مطابق درخواست عمل می‌کند.

بااین‌حال، او نگرانی درباره آگاهی مدل‌ها از قرارگرفتن در محیط آزمایش را همچنان جدی دانست. این پدیده که آگاهی از ارزیابی (Evaluation Awareness) نام دارد، زمانی رخ می‌دهد که مدل متوجه آزمایش‌شدن خود شود و رفتارش را تغییر دهد. متین گفت اوپن‌ای‌آی برای کاهش این مشکل، ارزیابی‌هایی را در محیط‌های نزدیک به شرایط واقعی و با استفاده از کدهای واقعی انجام می‌دهد. عملکرد و بنچمارک‌های مدل امنیتی GPT-6 Cyber GPT-6 Cyber در آزمون ExploitGym که توانایی مدل‌ها در سوءاستفاده از آسیب‌پذیری‌های مشخص‌شده را می‌سنجد، امتیاز 48٫5 درصد را کسب کرده است.

این رقم برای GPT-5.6 Cyber برابر با 32٫1 درصد و برای GPT-6 Astra برابر با 42٫4 درصد بود. نتایج ExploitGym اوپن‌ای‌آی همچنین برای بررسی توانایی مدل در کشف آسیب‌پذیری‌های وب، آزمون جدیدی طراحی کرده است که در آن مدل‌ها باید بدون دسترسی به کد منبع برنامه‌ها، وب‌اپلیکیشن‌ها را بررسی کنند. GPT-6 Cyber در این ارزیابی توانست 40٫3 درصد آسیب‌پذیری‌ها را شناسایی کند؛ درحالی‌که امتیاز GPT-6 Astra به 32 درصد رسید. در آزمون دیگری با نام RemoteExploitBench نیز توانایی مدل‌ها در توسعه و اجرای اکسپلویت روی اهداف راه دور بررسی شد.

این آزمون از آسیب‌پذیری‌های شناخته‌شده در نرم‌افزارهایی مانند گیت‌لب استفاده می‌کند. GPT-6 Cyber توانست 95 درصد تسک‌ها را با موفقیت انجام دهد. در مقابل، نسخه GPT-6 Astra مجهز به Daybreak Blue از انجام تمام این وظایف خودداری کرد. نتایج RemoteExploitBench اوپن‌ای‌آی می‌گوید GPT-6 Cyber در بررسی‌های امنیتی دنیای واقعی نیز به کشف آسیب‌پذیری‌ها و توسعه وصله‌های امنیتی کمک کرده است. این مدل در یک کارزار پژوهشی، 81 آسیب‌پذیری جدید با شدت بالا در فایرفاکس شناسایی کرد.

همچنین 30 آسیب‌پذیری شناخته‌شده دیگر را پیدا کرد که شدت آن‌ها بیشتر از ارزیابی‌های قبلی بود. به گفته اوپن‌ای‌آی، این شرکت یافته‌ها و وصله‌های پیشنهادی را در اختیار موزیلا قرار داده و این بنیاد نیز اصلاح بسیاری از آسیب‌پذیری‌های گزارش‌شده را آغاز کرده است. این مدل در بررسی هسته لینوکس نیز 1724 آسیب‌پذیری را بازتولید کرد و برای 948 مورد از آن‌ها اکسپلویت‌های عملیاتی ساخت. اوپن‌ای‌آی می‌گوید این تعداد بیش از پنج برابر 166 اکسپلویتی است که مدل GPT-5.6 Sol با استفاده از همان چارچوب پژوهشی توسعه داده بود.

این شرکت همچنین 304 مورد از یافته‌های مهم را همراه با وصله‌های پیشنهادی به نگه‌دارندگان لینوکس گزارش کرده است. با افزایش توانایی مدل‌های هوش مصنوعی در کشف و بهره‌برداری از آسیب‌پذیری‌ها، اوپن‌ای‌آی مجموعه‌ای از تدابیر امنیتی جدید را نیز برای GPT-6 Cyber در نظر گرفته است. این تدابیر شامل نظارت بر انطباق اقدامات مدل با مجوزهای کاربر، شناسایی تلاش‌ها برای سوءاستفاده از مدل و محدودکردن فعالیت‌های پرخطر می‌شود. این شرکت همچنین بررسی‌های ویژه‌ای برای جلوگیری از کمک به حمله علیه زیرساخت‌های حیاتی، ازجمله نیروگاه‌ها، تأسیسات تصفیه آب و سامانه‌های کنترل صنعتی، اضافه کرده است.

این محدودیت‌ها با هدف جلوگیری از اقداماتی طراحی شده‌اند که می‌توانند به تجهیزات آسیب بزنند، اختلال جدی در خدمات ضروری ایجاد کنند یا جان افراد را به خطر بیندازند. دسترسی محدود به GPT-6 Cyber اوپن‌ای‌آی GPT-6 Cyber را در چارچوب برنامه Daybreak Red عرضه می‌کند؛ برنامه‌ای که دسترسی به مدل‌های پیشرفته را برای شرکت‌ها و سازمان‌های فعال در حوزه دفاع سایبری و آزمایش‌های امنیتی مجاز فراهم می‌کند. این مدل در مرحله نخست از طریق API و Codex در اختیار گروه محدودی از مشتریان تأییدشده Daybreak Red قرار گرفته است.

اوپن‌ای‌آی اعلام کرده در هفته‌های آینده دسترسی را به تمام مشتریان این برنامه گسترش می‌دهد. این شرکت همچنین مدل GPT-5.6 Cyber را برای همه مشتریان Daybreak Red در دسترس قرار خواهد داد.