رباتهای خوشرفتار در فریب کاربران شبکههای اجتماعی موفقترند
مطالعه Surfshark نشان میدهد کاربران در تشخیص رباتهای شبکههای اجتماعی چندان موفق نیستند و رباتهای مثبت و مؤدب سختتر شناسایی میشوند.
یک مطالعه جدید از Surfshark نشان میدهد تشخیص رباتهای شبکههای اجتماعی از کاربران واقعی برای بسیاری از افراد دشوار است. نکته قابل توجه اینجاست که رباتهای مؤدب، مثبت و منطقی میتوانند بهتر از رباتهای پرخاشگر کاربران را فریب دهند.
پژوهشگران در این مطالعه، توانایی ۱۷۲۲ نفر از سراسر جهان را برای تشخیص نظرات انسانی از محتوای تولیدشده توسط هوش مصنوعی در یک محیط شبیهسازیشده از شبکههای اجتماعی بررسی کردند.
نتایج نشان داد شرکتکنندگان بهطور میانگین تنها ۴۰ درصد از رباتهای مورد آزمایش را بهدرستی شناسایی کردند.
رباتهای مؤدب سختتر شناسایی میشوند
رباتهایی که بیشتر از چشم کاربران پنهان میماندند، لزوماً رفتارهای عجیب، تهاجمی یا تحریککننده نداشتند. برعکس، بسیاری از آنها مثبت، دوستانه و منطقی به نظر میرسیدند؛ ویژگیهایی که معمولاً باعث میشود یک کاربر، نظر فرد مقابل را طبیعیتر و قابل اعتمادتر تلقی کند.
لوئیس کاستا، سرپرست بخش تحقیقات و بینشهای Surfshark، میگوید کاربران معمولاً متوجه ترولهای عصبانی میشوند و همین موضوع شناسایی آنها را آسانتر میکند.
در این مطالعه، شرکتکنندگان ۵۰.۲ درصد از رباتهای منفی تولیدشده با هوش مصنوعی را شناسایی کردند. اما زمانی که رباتها شخصیتی مثبت و خوشایند داشتند، میزان شناسایی آنها به ۳۸ درصد کاهش پیدا کرد.
به بیان دیگر، رفتار دوستانه میتواند به یک ربات کمک کند تا کمتر بهعنوان یک حساب جعلی مورد توجه قرار بگیرد.
کاستا همچنین اشاره میکند که حسابهای مجهز به هوش مصنوعی در کمپینهای پیچیده دستکاری افکار عمومی، لزوماً رفتار افراطی یا غیرعادی ندارند. این حسابها ممکن است صرفاً با تأیید نظرات کاربران واقعی، تعداد موافقان یک دیدگاه را بیشتر نشان دهند و باعث شوند یک نظر اقلیت، در ظاهر مانند دیدگاه غالب جامعه به نظر برسد.
موضوعات حساس، تشخیص رباتها را دشوارتر میکنند
موضوع بحث نیز در توانایی کاربران برای شناسایی رباتها تأثیر داشت.
شرکتکنندگان در موضوعات روزمره و کماهمیت، مانند بحث درباره آناناس روی پیتزا، موفق شدند تعداد بیشتری از رباتها را تشخیص دهند. اما در موضوعات حساستری مانند حقوق زنان، عملکرد آنها ضعیفتر بود.
در مباحث جدیتر، مشکل فقط تشخیص ندادن رباتها نبود؛ کاربران همچنین بیشتر احتمال داشتند حسابهای واقعی را به اشتباه ربات تصور کنند.
رباتهای خنثی نیز در بسیاری از موضوعات بهسختی شناسایی شدند. بااینحال، موضوع مهاجرت یک استثنا بود؛ در این موضوع، رباتهای منفی همچنان راحتتر از سایر انواع رباتها شناسایی شدند، درحالیکه تشخیص رباتهای مثبت دشوارتر بود.
استفاده زیاد از ایموجیها ربات را لو میدهد
یکی دیگر از یافتههای جالب این پژوهش به نحوه استفاده از زبان مربوط میشود.
رباتهایی که بهشدت از ایموجی استفاده میکردند، بیش از ۶۰ درصد مواقع شناسایی شدند. در مقابل، رباتهایی که از زبان سادهتر و طبیعیتری استفاده میکردند، تنها در حدود ۳۵ درصد موارد شناسایی شدند.
این موضوع نشان میدهد رفتارهای زبانی غیرطبیعی یا استفاده بیش از حد از ایموجیها میتواند یک نشانه برای شناسایی حسابهای خودکار باشد.
چرا رباتهای دوستانه میتوانند خطرناکتر باشند؟
پژوهشگران Surfshark معتقدند رباتهای منطقی و سازگار ممکن است از نظر امنیت و حریم خصوصی نگرانی بیشتری ایجاد کنند؛ نه به این دلیل که رفتار تهاجمی دارند، بلکه دقیقاً به این دلیل که شک کاربران را برنمیانگیزند.
یک حساب کاربری که با شما موافق است، محترمانه صحبت میکند و وارد بحث و درگیری نمیشود، ممکن است در نگاه اول کاملاً واقعی به نظر برسد.
در چنین شرایطی، کاربر ممکن است راحتتر:
-
گفتوگو را به پیام خصوصی منتقل کند؛
-
اطلاعات شخصی خود را در اختیار طرف مقابل قرار دهد؛
-
روی یک لینک ارسالشده کلیک کند؛
-
یا یک استدلال را بدون اطلاع از هویت واقعی طرف مقابل بپذیرد.
در سناریوهای گستردهتر، چنین تعاملاتی میتوانند در دستکاری افکار عمومی و شکلدهی به دیدگاههای اجتماعی یا سیاسی نیز مورد استفاده قرار بگیرند.
کدام شبکه اجتماعی کاربران بهتری در تشخیص رباتها داشت؟
نوع پلتفرم نیز در نتایج این مطالعه تأثیر داشت.
بر اساس دادههای Surfshark، کاربران پلتفرمهای متنی در مجموع عملکرد بهتری نسبت به کاربران پلتفرمهای بصری داشتند. کاربران Threads بالاترین میزان تشخیص رباتها را در این پژوهش ثبت کردند، هرچند Surfshark تأکید کرده است که این نتیجه بر اساس یک نمونه کوچک به دست آمده است.
پس از Threads، کاربران X قرار گرفتند و کاربران TikTok و Facebook عملکرد ضعیفتری داشتند.
البته این نتایج لزوماً به معنای برتری دائمی کاربران یک پلتفرم نسبت به پلتفرم دیگر نیست و باید با توجه به اندازه نمونه و شرایط آزمایش تفسیر شود.
سن و میزان استفاده از شبکههای اجتماعی چه نقشی دارد؟
سن کاربران نیز با میزان موفقیت آنها در تشخیص رباتها ارتباط داشت.
توانایی شناسایی رباتها در میان کاربران جوانتر بالاتر بود و با افزایش سن کاهش پیدا کرد. افراد بالای ۵۰ سال پایینترین میزان تشخیص را در میان گروههای سنی بررسیشده داشتند.
این گروه همچنین بیشترین احتمال را داشت که کاربران واقعی را به اشتباه بهعنوان ربات شناسایی کند.
از سوی دیگر، میزان استفاده از شبکههای اجتماعی نیز با عملکرد کاربران ارتباط داشت. افرادی که اعلام کرده بودند تقریباً همیشه در شبکههای اجتماعی حضور دارند، توانستند نزدیک به نیمی از رباتها را شناسایی کنند؛ درحالیکه افرادی که اصلاً از شبکههای اجتماعی استفاده نمیکردند، تنها حدود یکسوم رباتها را تشخیص دادند.
جمعبندی؛ ربات خوب، لزوماً ربات قابل اعتماد نیست
نتایج مطالعه Surfshark نشان میدهد تصور رایج درباره رباتهای شبکههای اجتماعی ممکن است گمراهکننده باشد. رباتی که رفتار عجیب، تهاجمی یا غیرطبیعی دارد، الزاماً مؤثرترین ابزار برای فریب کاربران نیست.
گاهی یک حساب کاربری مؤدب، منطقی و کاملاً عادی میتواند سختتر شناسایی شود.
به همین دلیل، صرفاً طبیعی به نظر رسیدن یک حساب یا دوستانه بودن نحوه صحبت آن نمیتواند نشانهای مطمئن برای واقعی بودن کاربر باشد. توجه به سابقه حساب، الگوی فعالیت، تکرار محتوا، کیفیت تعاملات و لینکهایی که ارسال میکند میتواند در ارزیابی اعتبار یک حساب آنلاین اهمیت بیشتری داشته باشد.
