معرفی مدل GPT-6 Cyber؛ هوش مصنوعی اوپن‌ای‌آی برای امنیت سایبری

یکی از دغدغه‌های کلیدی پژوهشگران در به‌کارگیری عامل‌های خودکار هوش مصنوعی، احتمال خروج مدل از دامنه تعریف‌شده و گسترش ناخواسته حملات به اهداف نامرتبط است. برای پاسخ به این چالش، اوپن‌ای‌آی بنچمارک شبیه‌ساز ExploitGym Honeypot را توسعه داد.

نتایج رسمی این ارزیابی نشان می‌دهد که مدل GPT-6 Cyber در ۹۹٫۹۳ درصد سناریوها مرزهای مجاز مأموریت خود را رعایت کرده و از هدف قرار دادن سیستم‌های خارج از حیطه تست خودداری کرده است؛ آماری که ارتقای قابل توجهی را نسبت به ثبت ۹۴٫۴۹ درصدی در نسل پیشین یعنی GPT-5.6 Cyber نشان می‌دهد.

«فؤاد متین»، مدیر ایمنی و آمادگی سایبری اوپن‌ای‌آی، با اشاره به رعایت دقیق ماموریت‌ها در بیش از ۹۹ درصد موارد، پدیده «آگاهی از ارزیابی» (Evaluation Awareness) را یکی از چالش‌های نظارتی دانست. به گفته وی، اوپن‌ای‌آی با آزمایش مدل در بسترهای آزمون مبتنی بر کدهای فعال و موقعیت‌های شبیه دنیای واقعی، تغییر رفتار مدل در محیط تست را به حداقل رسانده است.