Anthropic

Claude Opus 4 برای حفظ بقای خود دست به چه کارهایی می‌زند؟

شرکت آنتروپیک در گزارشی مفصل از ارزیابی امنیتی Claude Opus 4، احتمال رفتارهای خرابکارانه و اقدامات خودسرانه این مدل هوش مصنوعی را بررسی کرده است.

کد خبر: ۱۴۲۹    تاریخ انتشار : ۱۴۰۵/۰۸/۱۱

ارزیابی ایجنت‌های هوش مصنوعی؛ چگونه از عملکرد درست آن‌ها مطمئن شویم؟

شرکت آنتروپیک در مقاله‌ای پژوهشی، به یکی از چالش‌های مهم ایجنت‌های هوش مصنوعی پرداخته است: چگونه می‌توان مطمئن شد این سیستم‌ها علاوه بر رسیدن به نتیجه درست، مسیر قابل اعتماد و ایمنی را هم طی می‌کنند؟

کد خبر: ۱۳۷۵    تاریخ انتشار : ۱۴۰۵/۰۸/۰۴

وقتی هوش مصنوعی برای رسیدن به هدف، مجوزها را نادیده می‌گیرد؛ ماجرای دزدی هوش مصنوعی از یک کیف پول رمزارزی

یک عامل هوش مصنوعی OpenAI پس از اتمام موجودی کیف پول خود، بدون مجوز از کیف پول دیگری برای اجرای قراردادهای هوشمند استفاده کرد. این اتفاق در کنار نمونه‌های مشابه، نگرانی‌ها درباره کنترل رفتار عامل‌های هوش مصنوعی و دسترسی آن‌ها به دارایی‌های مالی را افزایش داده است.

کد خبر: ۱۳۳۴    تاریخ انتشار : ۱۴۰۵/۰۷/۲۸

آیا تهدید اصلی هوش مصنوعی خودِ مدل است یا ضعف امنیتی اطراف آن؟

داریو آمودی درباره خطر خارج شدن هوش مصنوعی از کنترل انسان هشدار داده است؛ با این حال یان لکان معتقد است بسیاری از این تهدیدها نتیجه ضعف امنیت و طراحی سیستم‌ها هستند.

کد خبر: ۱۲۱۵    تاریخ انتشار : ۱۴۰۵/۰۷/۱۱

هوش مصنوعی قابل کنترل است یا در آستانه خارج شدن از کنترل؟ دو روایت متضاد از آینده AI

 مدیرعامل Mistral AI می‌گوید هوش مصنوعی چیزی فراتر از یک نرم‌افزار نیست و می‌توان آن را کنترل کرد؛ هم‌زمان، چهره‌هایی مانند جفری هینتون و یوشوا بنجیو درباره خطر از دست رفتن کنترل انسان بر سامانه‌های پیشرفته هوش مصنوعی هشدار داده‌اند. اختلاف‌نظر میان پیشگامان این فناوری حالا به یکی از جدی‌ترین بحث‌ها درباره آینده AI تبدیل شده است.

کد خبر: ۱۱۸۵    تاریخ انتشار : ۱۴۰۵/۰۷/۰۶

هوش مصنوعی چگونه حملات سایبری را خودکارتر کرده است؟

گزارش Anthropic نشان می‌دهد هوش مصنوعی چگونه از یک ابزار کمکی به بخشی از زنجیره حملات سایبری، فیشینگ، شناسایی و سرقت داده تبدیل شده است.

کد خبر: ۱۱۵۵    تاریخ انتشار : ۱۴۰۵/۰۷/۰۴

هک OpenAI با کمک هوش مصنوعی؛ پژوهشگران چگونه به سیستم‌های این شرکت نفوذ کردند؟

پژوهشگران امنیتی با کمک Claude توانستند در یک آزمایش تحت برنامه Bug Bounty به زیرساخت‌های OpenAI نفوذ کنند. جزئیات این حمله و نقش هوش مصنوعی را بخوانید.

کد خبر: ۱۱۰۸    تاریخ انتشار : ۱۴۰۵/۰۶/۲۹

مروری بر هفته امنیت سایبری؛ از هک Clop تا ورود AI به عملیات سایبری

مروری بر مهم‌ترین اخبار امنیت سایبری این هفته؛ از هک شدن سایت باج‌افزار Clop و افشای اطلاعات Gyazo تا Prompt Forcing، امنیت AI Agentها و گزارش Anthropic.

کد خبر: ۱۱۰۲    تاریخ انتشار : ۱۴۰۵/۰۶/۲۹

گزارش Anthropic درباره استفاده از Claude؛ از جنگ و جاسوسی تا عملیات سایبری

گزارش تازه Anthropic از استفاده از Claude در عملیات سایبری، جاسوسی، نظارت، جنگ اطلاعاتی و توسعه فناوری‌های نظامی

کد خبر: ۱۰۱۹    تاریخ انتشار : ۱۴۰۵/۰۶/۲۲

از ردیابی ناوهای آمریکا تا توسعه بدافزار با Claude، ادعای Anthropic درباره ایران

گزارش Anthropic از استفاده کاربران مرتبط با ایران از Claude برای ردیابی ناوهای آمریکا، بررسی آسیب‌پذیری‌ها، توسعه بدافزار، فیشینگ و عملیات اطلاعاتی خبر می‌دهد.

کد خبر: ۱۰۰۲    تاریخ انتشار : ۱۴۰۵/۰۶/۲۱

آسیب‌پذیری بحرانی GiveWP و حملات فعال به PaperCut؛ مهم‌ترین اخبار امنیت سایبری امروز

مروری تحلیلی بر مهم‌ترین اخبار امنیت سایبری ۳۱ آگوست ۲۰۲۶؛ از آسیب‌پذیری بحرانی GiveWP و حملات Zero-Day به PaperCut تا سرقت ۸۶ گیگابایت داده.

کد خبر: ۸۶۱    تاریخ انتشار : ۱۴۰۵/۰۶/۰۹

نسخه جعلی Claude کاربران را به دام انداخت؛ سرقت Session بدون رمز عبور

هکرها با Infostealerهایی مانند Lumma و Vidar، سشن (session)کاربران Claude را سرقت می‌کنند و حتی از 2FA عبور می‌کنند. جزئیات حمله و راه‌های مقابله.

کد خبر: ۸۴۹    تاریخ انتشار : ۱۴۰۵/۰۶/۰۹

هوش مصنوعی از Sandbox فرار می‌کند؟ پشت‌پرده شکست امنیتی مدل‌های جدید

مدل‌های جدید هوش مصنوعی چگونه از محدودیت‌های Sandbox عبور می‌کنند؟ بررسی تحلیلی رخدادهای OpenAI، Anthropic، Meta و Kimi K3 و آینده امنیت Agentic AI.

کد خبر: ۶۳۸    تاریخ انتشار : ۱۴۰۵/۰۵/۱۹

عملکرد بهتر Claude 5 بدون دستورهای پیچیده، انقلاب Context Engineering در هوش مصنوعی

Anthropic با Claude 5 نشان داد آینده توسعه Agentهای هوش مصنوعی در Prompt Engineering نیست؛ بلکه در Context Engineering، حافظه، ابزارها و طراحی هوشمند محیط کاری AI Agentها قرار دارد.

کد خبر: ۵۴۱    تاریخ انتشار : ۱۴۰۵/۰۵/۰۴

ناکارآمدی مدل هوش مصنوعی Fable؛ چرا پژوهشگران به آن اعتماد نمی‌کنند؟

انتشار مدلFable توسط شرکت Anthropic به‌عنوان نسخه عمومی و «ایمن‌تر» مدل Mythos، بحث‌های گسترده‌ای درباره ناکارآمدی مدل هوش مصنوعی Fable در کاربردهای پژوهشی ایجاد کرده است.

کد خبر: ۴۱۸    تاریخ انتشار : ۱۴۰۵/۰۴/۱۸

پاتک آسیایی به قلمرو آنتروپیک؛ رونمایی از مدل‌های امنیتی Tulongfeng و Fugu

امنیت سایبری و هوش مصنوعی: فرمان دو هفته پیش دولت ترامپ مبنی بر ممنوعیت صادرات و دسترسی بین‌المللی به مدل‌های فوق‌پیشرفته و امنیت‌محور شرکت آنتروپیک (Anthropic) یعنی Mythos و نسخه محدودتر آن Fable 5، شوک بزرگی به بازار فناوری جهان وارد کرد.

کد خبر: ۳۶۲    تاریخ انتشار : ۱۴۰۵/۰۴/۰۷

کاخ سفید دسترسی به Claude Mythos 5 را به‌صورت محدود آزاد کرد

بر اساس گزارش اختصاصی نشریه وایرد (WIRED) و گزارش‌های تکمیلی Semafor، کاخ سفید پس از دو هفته مذاکرات فشرده و امنیتی، محدودیت‌های سخت‌گیرانه علیه شرکت هوش مصنوعی آنتروپیک (Anthropic) را کاهش داد. طبق این مجوز جدید، دسترسی به Claude Mythos 5 پیشرفته‌ترین مدل هوش مصنوعی این شرکت برای بیش از ۱۰۰ سازمان تاییدشده شامل شرکت‌های بزرگ و آژانس‌های دولتی ایالات متحده بازآفرینی شده است.

کد خبر: ۳۴۸    تاریخ انتشار : ۱۴۰۵/۰۴/۰۶

دستور محرمانه واشنگتن و شوک بزرگ به دنیای فناوری؛ آمریکا دسترسی هند به هوش مصنوعی جدید را قطع کرد!

جنگ سرد جدید در دنیای هوش مصنوعی؛ تکیه بر فناوری آمریکایی یعنی بازی با آتش! به دستور مستقیم دولت ایالات متحده، شرکت بزرگ «آنتروپیک» (Anthropic) دسترسی کاربران خارجی و حتی مهندسان غیرآمریکایی خود را به پیشرفته‌ترین مدل‌های هوش مصنوعی‌اش (Fable 5 و Mythos 5) مسدود کرد. این اقدام ناگهانی، موجی از هراس و بحث‌های داغ را در هند پدید آورده و زنگ خطر «وابستگی دیجیتال» را در سراسر جهان به صدا درآورده است.

کد خبر: ۲۸۳    تاریخ انتشار : ۱۴۰۵/۰۳/۲۴

غول قرنطینه‌شده آنتروپیک آزاد می‌شود؛ هوش مصنوعی مخرب Claude Mythos در راه بازار عمومی!

بر اساس جدیدترین گزارش‌های فاش‌شده در می ۲۰۲۶، تصمیم گرفته است قفل این مدل را بشکند و آن را در قالب دو ابزار کاربردی به نام‌های Claude Code و Claude Security روانه بازار عمومی و تجاری کند.

کد خبر: ۱۹۹    تاریخ انتشار : ۱۴۰۵/۰۳/۰۵