Muse و Astra؛ رقابت نسل جدید AI Agentها برای آینده هوش مصنوعی
مقایسه Muse متا و Astra از OpenAI؛ بررسی قابلیتها، تفاوتها و چالشهای امنیتی نسل جدید AI Agentها و آینده هوش مصنوعی عاملمحور.
هوش مصنوعی در حال عبور از مرحلهای است که در آن تنها به پرسشهای کاربران پاسخ میداد. نسل جدید AI Agentها نهتنها میفهمند و پیشنهاد میدهند، بلکه به نمایندگی از کاربر وارد محیطهای دیجیتال میشوند، ابزارها را به کار میگیرند و بخشی از وظایف را بهصورت خودکار انجام میدهند؛ تغییری که هم کاربردهای هوش مصنوعی را گستردهتر میکند و هم نگرانیهای تازهای درباره امنیت و حریم خصوصی به وجود میآورد.
در همین مسیر، متا بهتازگی Muse را بهعنوان یک عامل هوش مصنوعی شخصی معرفی کرده است؛ محصولی که به گفته این شرکت میتواند کارهایی مانند ارسال ایمیل، رزرو سفر، خرید و حتی کمک به فروش یک خودرو را از طرف کاربر انجام دهد. Muse در حال حاضر در آمریکا و از طریق اپلیکیشن اختصاصی و واتساپ در دسترس قرار گرفته است.
Muse؛ دستیار هوش مصنوعی که فقط پاسخ نمیدهد
تفاوت اصلی Muse با یک چتبات معمولی در همین نقطه مشخص میشود. کاربر میتواند هدف خود را با زبان طبیعی بیان کند و Agent بخش قابلتوجهی از مسیر رسیدن به آن هدف را خودش طی کند.
متا اعلام کرده Muse میتواند به سرویسهایی مانند ایمیل، تقویم، پرداخت، خرید، سلامت و خانه هوشمند متصل شود. کاربر تعیین میکند کدام برنامهها در اختیار Agent قرار بگیرند و امکان لغو این دسترسی نیز وجود دارد. این Agent همچنین در یک ماشین مجازی اختصاصی اجرا میشود تا فعالیت آن از محیط اصلی کاربر جدا بماند.
اما همین قابلیت، مسئله امنیت را جدیتر میکند. وقتی هوش مصنوعی به ایمیل، اطلاعات مالی یا سایر دادههای شخصی دسترسی دارد، یک خطای ساده دیگر تنها به تولید یک پاسخ نادرست ختم نمیشود؛ Agent ممکن است اقدامی واقعی و گاه برگشتناپذیر انجام دهد.
متا برای کنترل این ریسک، معماری موسوم به Secure VM را در Muse به کار گرفته و یک لایه نظارتی جداگانه با نام Sentinel نیز طراحی کرده است. Sentinel اقدامات Agent را بررسی میکند و در موارد حساس میتواند از کاربر تأیید بگیرد. متا همچنین میگوید این سازوکار بهگونهای طراحی شده که تأییدهای انسانی بهصورت مستقیم به کاربر ارائه شوند و از مسیر خود مدل عبور نکنند؛ رویکردی که با هدف مقابله با تهدیدهایی مانند Prompt Injection اهمیت پیدا میکند.
متا در گام بعدی قصد دارد نسخهای با عنوان Confidential VM ارائه کند که بر پایه محیط اجرای مورد اعتماد و کنترل کلیدهای دسترسی توسط خود کاربر طراحی شده است؛ در این مدل، حتی متا نیز نباید بتواند به محیط Agent کاربر دسترسی داشته باشد.
Astra؛ وقتی AI Agent از کارهای روزمره فراتر میرود
در سوی دیگر، OpenAI نیز چندی پیش از GPT-6 Astra رونمایی کرد؛ مدلی که شرکت آن را نسل جدیدی از هوش مصنوعی معرفی میکند و قابلیتهای آن را در استفاده از کامپیوتر، وبگردی، برنامهنویسی، علوم، کارهای حرفهای و امنیت سایبری برجسته کرده است.
Astra میتواند کارهایی مانند تکمیل فرمهای آنلاین، بهروزرسانی اطلاعات در سیستمهای CRM، مدیریت تقویم، انجام تحقیقات آنلاین، تولید وبسایت و آزمایش نرمافزار را انجام دهد. OpenAI همچنین میگوید این مدل برای اجرای گردشکارهای چندمرحلهای طراحی شده است؛ یعنی کاربر میتواند هدفی را تعیین کند و مدل بخشی از مسیر اجرا را خودش مدیریت کند.
اما تفاوت مهم Astra این است که دامنه قابلیتهای آن بسیار فراتر از یک دستیار شخصی است. OpenAI اعلام کرده Astra در ارزیابیهای امنیت سایبری به سطح Critical رسیده و میتواند در شرایط مناسب، آسیبپذیریهای امنیتی را شناسایی کرده و حتی برای بهرهبرداری از برخی آسیبپذیریها اقدام کند. همین موضوع باعث شده OpenAI پیش از عرضه عمومی، تدابیر امنیتی سختگیرانهتری را برای آن اعمال کند.
شباهت Muse و Astra چیست؟
در نگاه اول، Muse و Astra دو محصول متفاوتاند؛ یکی یک دستیار شخصی و دیگری یک مدل عمومی بسیار پیشرفته. اما در سطحی عمیقتر، هر دو نماینده یک تغییر مهم در مسیر توسعه هوش مصنوعی هستند: حرکت از AI پاسخگو به AI اقدامکننده.
هر دو میتوانند با محیطهای دیجیتال تعامل داشته باشند، از ابزارها استفاده کنند و کارهایی را که پیشتر نیازمند دخالت مستقیم انسان بود، تا حدی بهصورت خودکار انجام دهند.
در هر دو محصول نیز مسئله اعتماد و کنترل Agent اهمیت ویژهای پیدا کرده است. اگر یک مدل فقط متن تولید کند، خطای آن معمولاً به یک پاسخ اشتباه محدود میشود؛ اما اگر همان مدل امکان ارسال ایمیل، دسترسی به فایل، انجام خرید یا اجرای کد داشته باشد، یک خطای تصمیمگیری میتواند پیامدهای واقعی به همراه داشته باشد.
این نگرانی فقط محدود به این دو شرکت نیست. پژوهشهای جدید در حوزه امنیت AI Agent نیز هشدار دادهاند که اتکا به خود Agent برای تشخیص تهدید و اجرای سیاستهای امنیتی کافی نیست؛ زیرا مدلهای زبانی در برابر حملاتی مانند Prompt Injection آسیبپذیرند و میتوانند تحت تأثیر محتوای مخرب قرار بگیرند. پژوهشگران بر استفاده از کنترلهای بیرونی، دسترسی حداقلی و سازوکارهای قطعی برای اعمال سیاستهای امنیتی تأکید کردهاند.
تفاوت اصلی؛ دستیار شخصی در برابر هوش مصنوعی همهمنظوره
با وجود این شباهتها، Muse و Astra را نمیتوان دو محصول کاملاً همسطح دانست.
Muse از ابتدا با تمرکز بر دستیار شخصی و خودکارسازی امور روزمره طراحی شده است. هدف آن این است که کاربر بخشی از وظایف شخصی خود را به Agent بسپارد؛ از رزرو سفر و مدیریت ایمیل گرفته تا خرید و برنامهریزی.
Astra اما یک مدل بسیار گستردهتر است که توانایی Agentic آن تنها به امور شخصی محدود نمیشود. OpenAI آن را برای کارهای حرفهای، برنامهنویسی، پژوهش علمی، استفاده از کامپیوتر و امنیت سایبری نیز توسعه داده است.
به بیان ساده، Muse بیشتر میخواهد «دستیار دیجیتال شخصی» باشد؛ Astra میخواهد یک «عامل هوش مصنوعی همهمنظوره» باشد.
امنیت؛ نقطهای که رقابت واقعی آغاز میشود
جالب اینجاست که هر دو شرکت، در کنار افزایش توانایی Agent، بخش قابلتوجهی از تلاش خود را صرف کنترل آن کردهاند.
متا برای Muse از Secure VM، Sentinel، تأیید انسانی و در آینده Confidential VM سخن میگوید. این معماری تلاش میکند محیط اجرای Agent، دادههای کاربر و اقدامات آن را از یکدیگر جدا و کنترلپذیر کند.
OpenAI نیز برای Astra از مانیتورینگ رفتار، کنترلهای ایمنی، محدودیت در برخی درخواستهای سایبری و سازوکارهایی برای متوقف کردن فعالیتهای غیرمجاز استفاده کرده است. این شرکت میگوید سیستمهای نظارتی میتوانند رفتار و اقدامات Agent را بررسی کرده و در صورت شناسایی فعالیت غیرمجاز، آن را متوقف کنند.
حتی پیش از عرضه Astra، OpenAI اعلام کرده بود که این مدل نخستین مدلی است که طبق چارچوب ایمنی این شرکت، آستانه سختگیرانهتر «Critical» در قابلیتهای سایبری را فعال کرده است؛ به همین دلیل عرضه آن با تدابیر امنیتی اضافه همراه شد.
رقابت آینده بر سر هوشمندتر شدن نیست؛ بر سر قابلکنترلتر شدن است
عرضه تقریباً همزمان Muse و Astra یک پیام مهم برای آینده هوش مصنوعی دارد: رقابت شرکتهای بزرگ فناوری دیگر فقط بر سر این نیست که کدام مدل پاسخ دقیقتر یا هوشمندانهتری تولید میکند.
رقابت اصلی بهتدریج به این سمت میرود که کدام AI Agent میتواند اختیار بیشتری داشته باشد، بدون اینکه کنترل انسان را از بین ببرد.
Muse تلاش میکند اعتماد کاربر را برای سپردن امور شخصی به یک Agent جلب کند و Astra در سوی دیگر، مرزهای توانایی یک مدل عاملمحور را در کارهای حرفهای و حتی امنیت سایبری گسترش میدهد.
هر دو مسیر در نهایت به یک پرسش مشترک میرسند: وقتی هوش مصنوعی دیگر فقط پاسخ نمیدهد و به جای ما اقدام میکند، چه سازوکاری باید مطمئن شود که این اقدام واقعاً همان چیزی است که ما میخواستیم؟
پاسخ به این پرسش میتواند تعیین کند که عصر AI Agentها به یک جهش بزرگ در بهرهوری تبدیل شود یا به یکی از پیچیدهترین چالشهای امنیت سایبری نسل جدید.
