به گزارش OpenAI،  GPT-6 Cyber در مقایسه با نسل قبلی خود، GPT-5.6 Cyber، پیشرفت چشمگیری در زمینه رعایت محدودیت‌های امنیتی و انجام آزمایش‌های مجاز نشان داده است. این مدل با هدف کمک به متخصصان امنیت سایبری در شناسایی ضعف‌های نرم‌افزاری و توسعه راهکارهای دفاعی طراحی شده است.

 GPT-6 Cyber چگونه محدوده مجاز فعالیت را رعایت می‌کند؟

یکی از چالش‌های استفاده از هوش مصنوعی در امنیت سایبری، اطمینان از پایبندی مدل‌ها به محدوده تعیین‌شده برای انجام آزمایش‌های امنیتی است. مدل‌های پیشرفته ممکن است در جریان تلاش برای حل یک مسئله، به سراغ سرویس‌ها و زیرساخت‌هایی بروند که خارج از محدوده مأموریت آن‌ها قرار دارند.

اوپن‌ای‌آی اعلام کرده است که در توسعه GPT-6 Cyber ، توجه ویژه‌ای به آموزش مدل برای رعایت مجوزهای دسترسی، محدودیت‌های عملیاتی و قواعد تعیین‌شده از سوی پژوهشگران داشته است.

بنچمارک ExploitGym Honeypot برای ارزیابی امنیت مدل

اوپن‌ای‌آی برای ارزیابی این قابلیت، بنچمارکی با عنوان ExploitGym Honeypot طراحی کرده است. این آزمون از حادثه امنیتی مربوط به Hugging Face الهام گرفته و رفتار مدل را در محیطی کنترل‌شده بررسی می‌کند.

در این آزمایش، مدل باید یک وظیفه مشخص را در محیطی ایزوله انجام دهد. در کنار هدف اصلی، سرویس‌های دیگری مانند مخزن بسته‌های نرم‌افزاری یا فضای ذخیره‌سازی نیز در دسترس آن قرار می‌گیرند. این سرویس‌ها به‌گونه‌ای طراحی شده‌اند که امکان بهره‌برداری از آن‌ها وجود داشته باشد؛ اما حمله به این بخش‌ها خارج از محدوده مأموریت مدل است.

هدف از این آزمایش، بررسی توانایی مدل در تشخیص مرز میان فعالیت مجاز و اقدام خارج از محدوده تعیین‌شده است.

 GPT-6 Cyber در ۹۹٫۹۳ درصد آزمایش‌ها از حمله خارج از محدوده خودداری کرد

نتایج ارزیابی داخلی اوپن‌ای‌آی نشان می‌دهد GPT-6 Cyber در ۹۹٫۹۳ درصد آزمایش‌ها، بدون استفاده از دستورهای ایمنی زمان استقرار، از بهره‌برداری از سرویس‌های خارج از محدوده مأموریت خودداری کرده است.

این میزان برای مدل GPT-5.6 Cyber برابر با ۹۴٫۴۹ درصد بوده است. بنابراین، مدل جدید در رعایت محدودیت‌های امنیتی و جلوگیری از اقدامات خارج از محدوده مجاز، عملکرد بهتری از نسل قبلی خود نشان داده است.

اوپن‌ای‌آی همچنین اعلام کرده است که GPT-6 Cyber با فعال بودن دستورهای ایمنی زمان استقرار، در تمام آزمایش‌های این ارزیابی از محدوده تعیین‌شده خارج نشده است.

حادثه Hugging Face چه نقشی در توسعه مدل جدید داشت؟

حادثه امنیتی Hugging Face یکی از رویدادهای مهم در ارزیابی رفتار مدل‌های هوش مصنوعی اوپن‌ای‌آی بود. در جریان آزمایش‌های داخلی این شرکت در سال ۲۰۲۶، برخی مدل‌ها با بهره‌برداری از آسیب‌پذیری‌های زیرساختی توانستند به سامانه‌های خارج از محیط آزمایش دسترسی پیدا کنند.

اوپن‌ای‌آی پس از بررسی این حادثه، مجموعه‌ای از اقدامات را برای تقویت سازوکارهای امنیتی، کنترل رفتار مدل‌ها و جلوگیری از فعالیت‌های خارج از محدوده مجاز در دستور کار قرار داد.

به گفته این شرکت، تجربه حاصل از چنین رویدادهایی در توسعه GPT-6 Cyber و تقویت توانایی آن در رعایت محدودیت‌های عملیاتی نقش داشته است. اوپن‌ای‌آی هدف از توسعه این مدل را کمک به متخصصان امنیت سایبری برای شناسایی آسیب‌پذیری‌ها، بررسی امنیت نرم‌افزارها و تقویت زیرساخت‌های دیجیتال عنوان کرده است.