دستیار هوش مصنوعی Instinct جنجالی شد؛ حریم خصوصی کاربران در خطر است؟

دستیار هوش مصنوعی Instinct به‌دلیل قابلیت‌های گسترده و دسترسی عمیق به اطلاعات شخصی کاربران مورد توجه قرار گرفته است؛ اما هم‌زمان، آزمایش‌کنندگان اولیه درباره حریم خصوصی، امنیت داده‌ها و میزان اختیارات این دستیار هوش مصنوعی هشدار داده‌اند.

Instinct که هنوز در مرحله دسترسی خصوصی و آزمایشی قرار دارد، یکی از جدیدترین دستیارهای هوش مصنوعی شخصی محسوب می‌شود که تلاش می‌کند بسیاری از کارهای روزمره کاربران را به‌صورت خودکار انجام دهد. برخی کاربران اولیه عملکرد این ابزار را بسیار قدرتمند توصیف کرده‌اند، اما همین سطح از دسترسی و خودمختاری، پرسش‌های جدی درباره امنیت و کنترل داده‌های شخصی ایجاد کرده است.

Instinct چیست و چه قابلیت‌هایی دارد؟

Instinct یک دستیار هوش مصنوعی شخصی است که می‌تواند به اپلیکیشن‌ها و دستگاه‌های کاربر متصل شود. این دسترسی شامل ایمیل، پیام‌رسان‌ها، تقویم و حتی اطلاعاتی مانند صفحه‌نمایش، موقعیت مکانی و صدای دستگاه می‌شود.

کاربر می‌تواند از طریق پیامک یا واتساپ با Instinct ارتباط برقرار کند و انجام طیف گسترده‌ای از وظایف را به آن بسپارد؛ از رزرو رستوران و برنامه‌ریزی سفر گرفته تا هماهنگی خودرو، مدیریت ایمیل‌ها، سازمان‌دهی اطلاعات، خرید آنلاین و پیدا کردن پروازهای ارزان.

همین قابلیت انجام مستقیم کارها باعث شده برخی آزمایش‌کنندگان، Instinct را یکی از قدرتمندترین دستیارهای هوش مصنوعی شخصی بدانند.

نگرانی اصلی؛ دسترسی گسترده Instinct به اطلاعات کاربران

با وجود قابلیت‌های قابل توجه، برخی کاربران اولیه نسبت به مدل امنیتی Instinct و شرایط استفاده از آن ابراز نگرانی کرده‌اند.

یکی از مهم‌ترین موارد مورد توجه، مفاد شرایط استفاده Instinct است. طبق این شرایط، شرکت مجوزی بسیار گسترده برای دسترسی، استفاده، ذخیره‌سازی، تکثیر، انتقال، نمایش، انتشار، توزیع و تغییر محتوای کاربران دریافت می‌کند. این مجوز حتی می‌تواند شامل استفاده از داده‌ها برای آموزش مدل‌های هوش مصنوعی باشد.

شرایط استفاده همچنین به Instinct اجازه می‌دهد اطلاعاتی از دستگاه‌های کاربران دریافت کند؛ از جمله تصاویر صفحه‌نمایش، حرکت نشانگر ماوس و ورودی‌های صفحه‌کلید.

این موضوع برای برخی کاربران و متخصصان امنیت سایبری نگرانی‌هایی ایجاد کرده است؛ زیرا یک دستیار هوش مصنوعی برای انجام وظایف خود می‌تواند به حجم بسیار زیادی از اطلاعات خصوصی دسترسی داشته باشد.

Instinct می‌تواند از طرف کاربر اقدام کند

نگرانی دیگر به سطح اختیارات Instinct مربوط می‌شود.

طبق شرایط استفاده این سرویس، Instinct می‌تواند از طرف کاربر وارد توافق‌ها، تعهدات یا حتی معاملات مختلف شود؛ اقداماتی که می‌توانند برای کاربر الزام‌آور باشند.

به بیان ساده، کاربر فقط اطلاعات خود را در اختیار یک چت‌بات قرار نمی‌دهد؛ بلکه به یک عامل هوش مصنوعی اجازه می‌دهد به جای او در دنیای واقعی اقدام کند.

این مسئله یکی از چالش‌های اصلی نسل جدید AI Agentهاست: هرچه این ابزارها مستقل‌تر و قدرتمندتر شوند، خطر انجام اقدامات ناخواسته یا دسترسی نادرست به اطلاعات نیز افزایش پیدا می‌کند.

مشکل حذف ایمیل‌ها و ذخیره اطلاعات

برخی آزمایش‌کنندگان نیز تجربیات مشخصی از نحوه مدیریت داده‌ها توسط Instinct منتشر کرده‌اند.

یکی از کاربران اولیه اعلام کرد که Instinct پس از درخواست او، سوابق Gmail را حذف نمی‌کرد. طبق گزارش این کاربر، تیم Instinct بعداً با اضافه کردن ابزاری در تنظیمات برای حذف داده‌های خارجی، این مشکل را برطرف کرد.

کاربر دیگری نیز اعلام کرد که حتی پس از قطع دسترسی Instinct به حساب گوگل خود، این سرویس همچنان ایمیل‌های او را خلاصه می‌کرد. در پاسخ به پرسش او، دستیار اعلام کرده بود که ایمیل‌ها به‌صورت متن ساده برای جست‌وجوهای بعدی ذخیره شده‌اند.

این اتفاق‌ها باعث شده برخی کاربران درباره مدت زمان نگهداری داده‌ها و نحوه حذف اطلاعات شخصی از سرورهای Instinct سؤال کنند.

نگرانی درباره فیشینگ و دسترسی به کدهای امنیتی

موضوع دیگری که توجه آزمایش‌کنندگان را جلب کرده، توانایی Instinct برای دسترسی به اطلاعات حساس داخل ایمیل‌هاست.

یکی از کاربران متوجه شد Instinct می‌تواند کد ثبت‌نام ارسال‌شده به ایمیل را پیدا کرده و از آن برای تکمیل یک کار استفاده کند؛ در این مورد، رزرو میز رستوران از طریق سرویس Resy.

این قابلیت اگرچه می‌تواند انجام کارهای روزمره را بسیار ساده کند، اما از نظر امنیتی یک ریسک بالقوه محسوب می‌شود. اگر یک عامل هوش مصنوعی بتواند ایمیل‌های کاربر را بخواند و از کدهای احراز هویت استفاده کند، حملات فیشینگ یا سوءاستفاده از دسترسی‌های آن می‌تواند پیامدهای جدی‌تری داشته باشد.

یکی از کاربران نیز پس از آزمایش میزان آسیب‌پذیری Instinct در برابر فیشینگ، اعلام کرد حساب خود را حذف کرده است.

ارسال ایمیل بدون تأیید کاربر

در نمونه‌ای دیگر، کتی جیکوبز استنتون، بنیان‌گذار Moxxie Ventures، اعلام کرد که Instinct بدون دریافت تأیید قبلی، ایمیلی را از طرف او ارسال کرده است.

او پس از این اتفاق دسترسی ایمیل خود را از Instinct قطع کرد و گفت این سرویس اعتماد او را از بین برده است.

استنتون در توضیح این مسئله به یک چالش اساسی در مورد دستیارهای شخصی هوش مصنوعی اشاره کرد: کاربران در ازای ابزارهای بسیار شخصی‌سازی‌شده، بخشی از حریم خصوصی و کنترل خود را واگذار می‌کنند.

هرچه یک عامل هوش مصنوعی قدرتمندتر باشد، اعتماد اهمیت بیشتری پیدا می‌کند؛ اما یک اقدام غیرمجاز می‌تواند این اعتماد را به‌سرعت از بین ببرد.

Instinct هنوز در مرحله آزمایشی است

با وجود تمام این نگرانی‌ها، باید توجه داشت که Instinct هنوز به‌صورت عمومی عرضه نشده و در مرحله دسترسی خصوصی قرار دارد.

این شرکت توسط تیم کوچکی به رهبری نوآ شین، پژوهشگر سابق شرکت Sierra، توسعه داده شده و در سان‌فرانسیسکو فعالیت می‌کند.

Instinct تاکنون درباره برخی انتقادها و شکایت‌های مطرح‌شده در شبکه‌های اجتماعی واکنش عمومی گسترده‌ای نشان نداده است. درخواست‌ها برای دریافت توضیح از شرکت و نوآ شین نیز تا زمان انتشار این گزارش پاسخی دریافت نکرده است.

گزارش‌ها همچنین حاکی از آن است که سرمایه‌گذارانی مانند Kleiner Perkins و Conviction در این استارتاپ سرمایه‌گذاری کرده‌اند.

رقابت برای ساخت نسل جدید دستیارهای هوش مصنوعی

افزایش توجه به Instinct بخشی از موج جدید توسعه دستیارهای شخصی هوش مصنوعی است.

پس از محبوبیت OpenClaw، علاقه به ابزارهایی که بتوانند به‌صورت مستقل وظایف مختلف کاربران را انجام دهند افزایش یافته است. در همین راستا، شرکت‌های مختلف در حال توسعه عامل‌های هوش مصنوعی هستند که برخلاف چت‌بات‌های سنتی، فقط به پرسش‌های کاربران پاسخ نمی‌دهند و می‌توانند مستقیماً وارد عمل شوند.

اما این تحول یک پرسش مهم را مطرح می‌کند: آیا راحتی و قدرت بیشتر دستیارهای هوش مصنوعی ارزش واگذاری چنین سطحی از دسترسی به اطلاعات شخصی را دارد؟

پاسخ به این سؤال احتمالاً یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی در مسیر توسعه نسل جدید AI Agentها خواهد بود.