استعفای پژوهشگر Anthropic؛ «شرکت‌های هوش مصنوعی با جان انسان‌ها قمار می‌کنند»

جیکوب کاکسون، پژوهشگر سابق شرکت Anthropic و متخصص آموزش مدل‌های هوش مصنوعی، در اعتراض به سرعت توسعه فناوری AI از این شرکت استعفا داد و هشدار داد که آزمایشگاه‌های هوش مصنوعی ممکن است در مسیر ساخت سیستم‌هایی قرار گرفته باشند که تهدیدی جدی برای زندگی انسان ایجاد کنند.

کاکسون که پیش از Anthropic در OpenAI نیز فعالیت داشته، می‌گوید شرکت‌های بزرگ هوش مصنوعی با سرعت زیادی به سمت توسعه ابرهوش مصنوعی خودبهبوددهنده حرکت می‌کنند؛ مسیری که به اعتقاد او می‌تواند پیامدهایی فراتر از کنترل فعلی انسان داشته باشد.

چرا پژوهشگر Anthropic استعفا داد؟

کاکسون در پیامی در شبکه اجتماعی X اعلام کرد که پس از سه سال فعالیت در حوزه پژوهش‌های مربوط به آموزش اولیه مدل‌های هوش مصنوعی در OpenAI و Anthropic، تصمیم گرفته است از Anthropic جدا شود.

او دلیل اصلی استعفای خود را نگرانی از رقابت فزاینده شرکت‌های هوش مصنوعی برای ساخت سیستم‌های بسیار قدرتمند عنوان کرد.

به گفته او، شرکت‌های فعال در این حوزه در حال حرکت مستقیم به سمت هوش مصنوعی خودبهبوددهنده و ابرهوش مصنوعی هستند؛ در حالی که هنوز مشخص نیست انسان تا چه اندازه توانایی کنترل چنین سیستم‌هایی را خواهد داشت.

کاکسون معتقد است سرعت توسعه AI به حدی افزایش یافته که دیگر نمی‌توان خطرات احتمالی آن را صرفاً به آینده‌ای دور نسبت داد.

هشدار درباره ابرهوش مصنوعی

یکی از مهم‌ترین نگرانی‌های مطرح‌شده از سوی این پژوهشگر، ظهور سیستم‌هایی است که بتوانند توانایی‌های خود را به شکل گسترده ارتقا دهند.

او هشدار داده است که سیستم‌های هوش مصنوعی آینده ممکن است بتوانند در حوزه‌هایی مانند هک کردن، تحقیقات علمی و فناوری، دسترسی به منابع و حتی ایجاد تغییرات گسترده در صنایع، عملکردی فراتر از انسان داشته باشند.

از نگاه کاکسون، ترکیب این توانایی‌ها با قابلیت خودبهبوددهی می‌تواند شرایطی ایجاد کند که سرعت پیشرفت سیستم‌ها از توانایی انسان برای ارزیابی و کنترل آنها بیشتر شود.

چرا شرکت‌های AI با وجود خطرات به توسعه ادامه می‌دهند؟

کاکسون یک تناقض مهم را در صنعت هوش مصنوعی مطرح کرده است: اگر برخی از مدیران و پژوهشگران این شرکت‌ها واقعاً نگران خطرات ابرهوش مصنوعی هستند، چرا همچنان به ساخت آن ادامه می‌دهند؟

پاسخ او به این مسئله، رقابت میان آزمایشگاه‌های بزرگ هوش مصنوعی است.

به گفته کاکسون، در Anthropic خطرات احتمالی تا حد زیادی شناخته شده‌اند، اما شرکت در شرایطی قرار گرفته که احساس می‌کند اگر خودش فناوری را توسعه ندهد، شرکت دیگری این کار را انجام خواهد داد.

در چنین شرایطی، منطق رقابت می‌تواند به این نتیجه منجر شود که هر شرکت تلاش کند خودش زودتر به فناوری قدرتمندتر دست پیدا کند و آن را به شکل مسئولانه‌تری توسعه دهد.

کاکسون این وضعیت را بسیار خطرناک می‌داند؛ چرا که ممکن است ترس از عقب ماندن از رقبا، جای احتیاط را بگیرد.

نگرانی از «از دست رفتن کنترل» بر هوش مصنوعی

کاکسون همچنین از پژوهشگران AI خواسته است پیش از اجرای آزمایش‌هایی که می‌تواند به ایجاد مدل‌های بسیار قدرتمند منجر شود، درباره میزان شناخت خود از عملکرد و رفتار این سیستم‌ها تجدیدنظر کنند.

پرسش اصلی او این است که آیا پژوهشگران واقعاً شناخت کافی از نحوه عملکرد یک سیستم فوق‌هوشمند خواهند داشت که بتوانند با اطمینان آن را وارد مرحله‌ای از خودبهبوددهی کنند؟

این موضوع یکی از بحث‌های مهم در حوزه ایمنی هوش مصنوعی است: هرچه سیستم‌ها قدرتمندتر شوند، آیا روش‌های فعلی برای نظارت، ارزیابی و کنترل آنها همچنان کارآمد خواهند بود؟

آیا پژوهشگران AI واقعاً از نابودی بشر می‌ترسند؟

کاکسون ادعا کرده است که برخی پژوهشگران و مدیران ارشد صنعت هوش مصنوعی در محافل خصوصی، نگرانی‌های بسیار جدی‌تری نسبت به آنچه در رسانه‌ها مطرح می‌کنند دارند.

او می‌گوید برخی افراد فعال در صنعت معتقدند امکان دارد هوش مصنوعی در صورت توسعه بدون کنترل کافی، در همین دهه به تهدیدی بسیار جدی برای بشر تبدیل شود.

البته این موضوع یک پیش‌بینی و هشدار از سوی کاکسون است، نه یک واقعیت اثبات‌شده درباره آینده هوش مصنوعی. درباره احتمال و شدت چنین سناریوهایی میان متخصصان اختلاف نظر جدی وجود دارد.

بیش از هزار پژوهشگر خواستار امکان توقف توسعه AI شدند

در بخش دیگری از گزارش، به مشارکت کاکسون در بیانیه‌ای اشاره شده که بیش از ۱۰۰۰ پژوهشگر هوش مصنوعی آن را امضا کرده‌اند.

امضاکنندگان خواستار همکاری دولت‌ها برای ایجاد سازوکاری هستند که در صورت نیاز بتواند سرعت توسعه هوش مصنوعی را کاهش دهد؛ به‌خصوص زمانی که سیستم‌هایی قادر به بهبود توانایی‌های خود ایجاد شوند.

این درخواست نشان‌دهنده افزایش توجه به موضوع حاکمیت، ایمنی و کنترل هوش مصنوعی در کنار رقابت برای ساخت مدل‌های قدرتمندتر است.

آینده هوش مصنوعی؛ سرعت بیشتر یا احتیاط بیشتر؟

استعفای جیکوب کاکسون بار دیگر یکی از بنیادی‌ترین پرسش‌های صنعت هوش مصنوعی را مطرح کرده است: آیا توسعه AI باید با بیشترین سرعت ممکن ادامه پیدا کند یا ابتدا باید سازوکارهای ایمنی و کنترل آن به اندازه کافی توسعه پیدا کنند؟

طرفداران توسعه سریع معتقدند رقابت فناوری اجتناب‌ناپذیر است و توقف یک شرکت لزوماً باعث توقف دیگران نخواهد شد. در مقابل، منتقدانی مانند کاکسون هشدار می‌دهند که رقابت برای رسیدن به ابرهوش ممکن است خود به عاملی برای کاهش استانداردهای ایمنی تبدیل شود.

در حال حاضر مشخص نیست آینده این رقابت به کدام سمت خواهد رفت، اما استعفای پژوهشگرانی که مستقیماً در توسعه مدل‌های پیشرفته نقش داشته‌اند، نشان می‌دهد بحث درباره خطرات هوش مصنوعی دیگر صرفاً موضوعی دانشگاهی یا علمی-تخیلی نیست و به یکی از جدی‌ترین مباحث داخل صنعت AI تبدیل شده است.

جمع‌بندی

استعفای جیکوب کاکسون از Anthropic، نگرانی درباره سرعت توسعه هوش مصنوعی، ابرهوش خودبهبوددهنده و احتمال از دست رفتن کنترل انسان بر سیستم‌های بسیار قدرتمند را دوباره در مرکز توجه قرار داده است.

هشدار اصلی او این است که شرکت‌های هوش مصنوعی ممکن است در رقابت برای رسیدن به فناوری بعدی، ریسک‌هایی را بپذیرند که پیامدهای آنها تنها متوجه یک شرکت یا یک صنعت نیست، بلکه می‌تواند بر آینده جامعه انسانی تأثیر بگذارد.