انتشار ۴۴۵ کتاب با کمک هوش مصنوعی در آمازون؛ زنگ خطر برای محتوای جعلی و «AI Slop»

یک مشاور بازنشسته امنیت سایبری در کمتر از یک سال ۴۴۵ کتاب با کمک ChatGPT در آمازون منتشر کرده است؛ اتفاقی که بار دیگر نگرانی‌ها درباره گسترش محتوای تولیدشده توسط هوش مصنوعی، اطلاعات نادرست و کتاب‌های کم‌کیفیت در فروشگاه‌های آنلاین را افزایش داده است.

بازار کتاب آمریکا در سال‌های اخیر با رشد قابل‌توجه تعداد عناوین منتشرشده مواجه بوده است. در سال ۲۰۲۵ بیش از ۴ میلیون عنوان کتاب جدید منتشر شد که حدود ۳.۵ میلیون مورد از آنها از مسیر خودانتشاری یا Self-Publishing به بازار راه پیدا کردند. یکی از مهم‌ترین زیرساخت‌های این بازار، سرویس Kindle Direct Publishing یا KDP آمازون است.

در همین شرایط، استفاده از هوش مصنوعی مولد برای تولید سریع کتاب‌ها به پدیده‌ای بحث‌برانگیز تبدیل شده است؛ پدیده‌ای که از آن با عنوان AI Slop یاد می‌شود؛ محتوایی که با حجم بالا و سرعت زیاد تولید می‌شود اما ممکن است کیفیت، دقت یا ارزش محتوایی محدودی داشته باشد.

ماجرای کتاب جعلی درباره یک خبرنگار فناوری

ماجرا زمانی جالب‌تر شد که کشمیر هیل (Kashmir Hill)، خبرنگار فناوری نیویورک‌تایمز، متوجه شد کتابی درباره زندگی خودش در آمازون منتشر شده است؛ بدون اینکه نویسنده کتاب برای تحقیق یا مصاحبه با او تماس گرفته باشد.

این کتاب با عنوانی درباره زندگی حرفه‌ای هیل و فعالیت‌های او در حوزه فناوری و حریم خصوصی منتشر شده بود.

نام نویسنده کتاب John Crane Miller درج شده بود، اما تصویر او در صفحه آمازون یک عکس استوک عمومی بود و اطلاعات قابل‌توجهی درباره هویت یا راه ارتباطی با این نویسنده پیدا نشد. بررسی بیشتر نشان داد همین حساب در یک هفته، زندگی‌نامه ۱۰ خبرنگار آمریکایی را منتشر کرده است.

این کتاب تنها ۹۰ صفحه داشت اما با قیمت ۲۶.۹۹ دلار به فروش می‌رسید و شامل اطلاعاتی درباره زندگی شخصی هیل بود که به گفته خود او، برخی از آنها کاملاً نادرست بودند.

برای مثال، کتاب درباره عادت قهوه درست کردن او توضیحاتی ارائه کرده بود، در حالی که این کار در واقع بر عهده همسر هیل بوده است. حتی نویسنده مدعی شده بود که دفتر خاطرات دوران کودکی او را مطالعه کرده است.

پس از آنکه هیل از نویسنده خواست با او تماس بگیرد، پاسخی دریافت نکرد و مدتی بعد کتاب‌های منتشرشده زیر پروفایل John Crane Miller از آمازون حذف شدند.

یک نویسنده با ۴۴۵ کتاب در آمازون

تحقیقات هیل در ادامه به نویسنده دیگری به نام Bill Johns رسید که صفحه نویسندگی او در آمازون فهرستی شامل ۴۴۵ کتاب داشت.

Johns در سال ۲۰۲۴ از کار به‌عنوان مشاور امنیت سایبری بازنشسته شده بود. او در سال ۲۰۲۵ شروع به آزمایش ChatGPT کرد و نخستین کتاب خود را درباره تاریخچه هک و هکرها با عنوان Ghosts in the Machine تولید کرد.

فروش این کتاب چندان موفق نبود، اما این موضوع مانع ادامه کار او نشد. Johns در یک سال بعد ۴۴۴ کتاب دیگر تولید و منتشر کرد.

موضوع کتاب‌های او نیز تنها امنیت سایبری نبود. آثار این نویسنده حوزه‌هایی مانند ورزش، پل‌ها، نوشیدنی‌های الکلی، زندگی‌نامه افراد مشهور، هوانوردی نظامی و فلسفه را پوشش می‌دهند.

تولید کتاب با ChatGPT چگونه انجام می‌شود؟

Johns توضیح داده که برای تولید کتاب، ابتدا ساختار فصل‌ها را با ChatGPT طراحی می‌کند و سپس هر بخش را به‌صورت جداگانه تولید می‌کند.

او معتقد است درخواست تولید یک فصل کامل در یک مرحله نتیجه مناسبی ندارد و ترجیح می‌دهد متن را بخش‌به‌بخش با کمک هوش مصنوعی تولید و در صورت نیاز ویرایش کند.

او حتی پس از انتشار، یک نسخه از هر کتاب را از آمازون خریداری می‌کند؛ هرچند هدف اصلی از خرید، نگهداری کتاب‌ها در قفسه است و نه لزوماً مطالعه آنها.

هدف Johns تولید ۱۰ کتاب در هفته است؛ رقمی که با سقف فعلی انتشار کتاب در آمازون نیز همخوانی دارد. آمازون در سال‌های اخیر محدودیت‌هایی برای سرعت انتشار کتاب‌های خودانتشاری اعمال کرده است.

حتی تصویر نویسنده در صفحه آمازون و پشت جلد کتاب‌های او نیز با هوش مصنوعی تولید شده است.

چرا تولید صدها کتاب با هوش مصنوعی سودآور است؟

یکی از دلایل رشد این پدیده، مدل اقتصادی Kindle Direct Publishing آمازون است.

در مدل Print-on-Demand، کتاب فیزیکی تنها زمانی چاپ می‌شود که مشتری آن را سفارش دهد. بنابراین نویسنده برای چاپ اولیه صدها نسخه و نگهداری آنها در انبار هزینه‌ای پرداخت نمی‌کند.

در نتیجه، انتشار صدها عنوان کتاب می‌تواند با هزینه اولیه بسیار پایین انجام شود. اگر حتی تعداد کمی از این کتاب‌ها در ماه فروخته شوند، مجموع درآمد می‌تواند قابل‌توجه باشد.

Johns گفته است که چندصد نسخه از کتاب‌هایش را در ماه می‌فروشد و در یک دوره تعطیلات، فروش آثارش به ۸۲۱ نسخه رسیده و حدود ۶ هزار دلار درآمد برای او ایجاد کرده است.

وقتی کتاب‌های AI به پرفروش‌های آمازون تبدیل می‌شوند

این مسئله فقط به کتاب‌های کم‌فروش محدود نمی‌شود.

در نمونه‌ای دیگر، یک زندگی‌نامه تولیدشده با هوش مصنوعی درباره فعال سیاسی آمریکایی Charlie Kirk پس از ترور او به فهرست پرفروش‌های آمازون راه پیدا کرد.

با این حال، پس از انتشار تعداد زیادی نقد منفی درباره کیفیت کتاب و محتوای آن، آمازون کتاب را از پلتفرم خود حذف کرد. با این وجود، کتاب پیش از حذف احتمالاً هزاران نسخه فروخته بود.

این اتفاق نشان می‌دهد که محتوای تولیدشده با هوش مصنوعی تنها یک مسئله مربوط به کیفیت ادبی نیست؛ بلکه می‌تواند به انتشار اطلاعات نادرست و کسب درآمد از محتوای جعلی نیز منجر شود.

AI Slop چیست و چرا اهمیت دارد؟

اصطلاح AI Slop به محتوای تولیدشده با هوش مصنوعی گفته می‌شود که معمولاً در حجم بسیار زیاد، با سرعت بالا و بدون نظارت انسانی کافی منتشر می‌شود.

افزایش چنین محتوایی می‌تواند پیدا کردن اطلاعات معتبر در اینترنت را دشوارتر کند. این مسئله برای حوزه‌هایی مانند امنیت سایبری اهمیت بیشتری دارد؛ زیرا اطلاعات نادرست درباره آسیب‌پذیری‌ها، حملات سایبری یا روش‌های مقابله با تهدیدات می‌تواند کاربران و سازمان‌ها را به تصمیم‌های اشتباه سوق دهد.

وقتی یک نویسنده بتواند صدها کتاب درباره موضوعات مختلف تولید کند، تشخیص اینکه کدام محتوا حاصل دانش و تجربه واقعی و کدام بخش صرفاً خروجی یک مدل هوش مصنوعی است، دشوارتر می‌شود.

چگونه کتاب‌های تولیدشده با هوش مصنوعی را تشخیص دهیم؟

تشخیص قطعی محتوای تولیدشده با هوش مصنوعی همیشه آسان نیست، اما چند نشانه می‌تواند هشداردهنده باشد:

• انتشار تعداد غیرعادی زیادی کتاب در مدت کوتاه
• اطلاعات مبهم یا غیرقابل‌بررسی درباره نویسنده
• ادعاهای شخصی یا تاریخی بدون منبع معتبر
• وجود اشتباهات متعدد و اطلاعات ساختگی
• عنوان‌های مشابه و کلیشه‌ای در تعداد زیادی کتاب
• استفاده از تصویر نویسنده تولیدشده با هوش مصنوعی
• قیمت بالا در مقایسه با حجم و کیفیت محتوا
• نبود سابقه حرفه‌ای قابل‌بررسی برای نویسنده

با این حال، هیچ‌یک از این موارد به‌تنهایی ثابت نمی‌کند که یک کتاب با هوش مصنوعی تولید شده است و برای قضاوت دقیق‌تر باید منابع و سوابق نویسنده بررسی شود.

مشکل اصلی فقط آمازون نیست

گسترش AI Slop به کتاب‌ها محدود نمی‌شود. محتوای تولیدشده با هوش مصنوعی در وب‌سایت‌ها، شبکه‌های اجتماعی، فروشگاه‌های آنلاین و سایر پلتفرم‌های محتوامحور نیز رو به افزایش است.

به همین دلیل، مسئله اصلی برای کاربران در عصر هوش مصنوعی فقط پیدا کردن اطلاعات نیست؛ بلکه تشخیص اطلاعات معتبر از محتوای تولیدشده، جعلی یا بی‌کیفیت نیز به یک مهارت مهم تبدیل شده است.

در حوزه امنیت سایبری، استفاده از منابع معتبر و قابل‌بررسی اهمیت ویژه‌ای دارد؛ زیرا اتکا به یک متن نادرست درباره نحوه مقابله با بدافزار، حمله سایبری یا آسیب‌پذیری می‌تواند پیامدهای واقعی داشته باشد.

جمع‌بندی

ماجرای انتشار ۴۴۵ کتاب توسط یک مشاور بازنشسته امنیت سایبری با کمک ChatGPT نمونه‌ای قابل‌توجه از سرعتی است که هوش مصنوعی می‌تواند فرایند تولید و انتشار محتوا را به آن برساند.

از سوی دیگر، ماجرای زندگی‌نامه جعلی Kashmir Hill نشان می‌دهد که این فناوری می‌تواند برای تولید محتوایی به کار رود که حتی درباره افراد واقعی، اطلاعات نادرست و ساختگی ارائه می‌کند.

با ادامه رشد تولید محتوای هوش مصنوعی، تشخیص محتوای معتبر، محتوای تولیدشده با AI و اطلاعات جعلی به یکی از چالش‌های مهم اینترنت تبدیل خواهد شد.