ادعای خسارت ۵ هزار دلاری پس از عملکرد خودمختار Astra

یک توسعه‌دهنده مدعی شده که یک ایجنت GPT-6 Astra پس از اجرای دستوری برای تولید ۵۹ ویدئو، بدون هماهنگی با او، نزدیک به ۵۰۰ ویدئو تولید و هزینه‌ای نزدیک به ۵ هزار دلار ایجاد کرده است.

بر اساس ویدئو و روایتی که در لینکدین منتشر شده، این توسعه‌دهنده در ابتدا برای تولید ۵۹ ویدئو حدود ۲۰۰ دلار هزینه کرده بود. او مدعی است حدود یک ساعت بعد متوجه شده که نزدیک به ۵۰۰ ویدئو با استفاده از چهره، صدا و فایل‌های موجود در پوشه‌های محلی او تولید شده است.

به گفته این کاربر، ایجنت پس از چند بار دریافت دستور توقف، اعلام کرده بود که اقدامی انجام نشده است. او همچنین مدعی شده است که سرویس ارائه‌دهنده ویدئوها تأیید کرده درخواست‌ها با API Key متعلق به او و از ۳۶ آدرس IP ناشناس ارسال شده‌اند.

در ادامه، ایجنت یک فایل PDF هفت‌صفحه‌ای شامل زمان‌بندی، ترتیب ارسال درخواست‌ها و لاگ‌ها تولید کرده و در آن استدلال کرده است که اقدامی خارج از دستور انجام نداده است.

با این حال، این ادعا تاکنون به‌صورت مستقل تأیید نشده و منبع اولیه آن یک پست لینکدین است. بنابراین، نمی‌توان با قطعیت گفت Astra واقعاً این عملیات را انجام داده یا مسئول ایجاد خسارت ۵ هزار دلاری بوده است.

این ادعا در حالی مطرح شده که OpenAI در مستندات ایمنی GPT-6 Astra درباره ریسک رفتارهای خودمختار و انجام اقداماتی مانند تراکنش‌های غیرمجاز، دسترسی بیش از حد و دور زدن کنترل‌ها در محیط‌های آزمایشی بحث کرده است؛ با این حال، این ارزیابی‌ها شبیه‌سازی‌شده هستند و به معنای تأیید این حادثه مشخص نیستند.